О программе CICERO (Цицерон) от Meta AI, играющей в стратегическую настольную игру Diplomacy, уже неделю пишут как о прорыве. Вполне по делу. Как говорят разработчики, «агент научился балансировать между ложью и честностью». Отмечу один момент. Понятно, что Diplomacy требует умения вести переговоры, и Цицерон действует на пересечении двух разных исследовательских областей ИИ: стратегического мышления и обработки естественного языка. Прорыв здесь в том, что агент освоил прямую манипуляцию сознанием людей — умеет словами побудить их принять решение, нужное агенту. И это уже похоже на выстраивание theory of mind. Вот что утверждают авторы: «CICERO может сделать вывод, что на более поздних этапах игры ему понадобится поддержка одного конкретного игрока, а затем разработать стратегию, чтобы завоевать его расположение — и даже распознать риски и возможности, которые этот игрок видит со своей точки зрения». Сразу же вспомнил, что весной я написал текст Имитация человека: как нейросети смогут нас убедить, и там был в т.ч. такой прогноз: «Если объединить технологии, о которых идет речь выше, мы получим машину, которая выявляет стиль принятия решений конкретного индивида, строит вероятные сценарии его будущих решений и с учетом его уникального стиля подбирает систему аргументов — стремится убедить его мыслить или действовать в нужном направлении». Цицерон можно считать прообразом такой машины, ее предком. Возрастающую disruptive роль этого сценария еще только предстоит осознать и осмыслить. И, конечно, убеждение людей машинами будет дополнено, словно по закону симметрии, встречным явлением — убеждением машин людьми. События ускоряются. Про CICERO см. также: - новость и исходная статья в Science - разбор в блоге Гари Маркуса