Искусственный интеллект научили врать и манипулировать. И у него это получается не хуже человека.
Неделю назад признанный в РФ экстремистской организацией Facebook представил алгоритм «Цицерон», который научился вести переговоры в настольной игре про дипломатий и войну и который умеет врать. И это для нейросети впервые.
Как говорят разработчики, «агент научился балансировать между ложью и честностью». По сути в русском языке аналог для этого – блеф. Когда переговорщик угрожает что-то сделать, но на самом деле не собирается этого делать. Но представляет все так, что вот-вот начнет.
Игра Diplomacy, в которую научили играть алгоритм, по сути представляет собой военную стратегию в компьютерной игре на карте Европы начала XX века, в которой несколько игроков состязаются в дипломатии и военном искусстве. Ключевой момент игры – переговоры между представителями стран. «Главы государств» ведут переговоры, заключают союзы, предают, обманывают, блефуют — и всеми этими навыками (разумеется, не в настольной, а в онлайн…