​​ИИ уже понимает и осознает. Ошарашивающие выводы двух новых работ. Размышляя, смогут ли люди понять разум, радикально отличающийся от нашего, старший исследователь DeepMind проф. Шанахан описал пространство возможных разумов в двух измерениях: способность агентов к сознанию и их сходство с людьми. • Способность к сознанию агента соответствует богатству опыта, на который он способен. Но т.к. наука пока не умеет измерять этот показатель, Шанахан оценивает его по уровню когнитивных способностей, тесно связанному в земной биологии с сознанием: если у кирпича 0, а у человека 10, то у пчелы 2, у кота 5, а у осьминога 5,5 • Сходство агента с людьми оценивается по тому, насколько можно описать его поведение, используя язык, применимый для людей, — описывая его потребности и желания, эмоции и убеждения, способности и навыки: если у кирпича 0, а у человека 10, то у пчелы 3, у осьминога 5, а у кота 7 В таком пространстве возможных разумов: — кирпич, пчела, осьминог, кот и человек расположатся так — а кирпич, программа AlphaGo, робот BigDog и умный пылесос Roomba — так Теоретически возможно создание искусственного разума человеческого типа (AGI). Возможные варианты AGI по его способности к сознанию могут быть в диапазоне (см. приложенный рисунок): — от не имеющих сознания Зомби—AGI: типа сверхумного пылесоса Roomba, ставшего способным выполнять функции любой прислуги: домработницы, гувернантки, повара, дворецкого … — до имеющих сознание на уровне людей или даже на более высоком уровне, которым люди наделяют воображаемые сверхсущности (духов, ангелов, пришельцев …) Возможные варианты AGI по степени человекоподобия могут быть в диапазоне: — от экзотических сущностей, не имеющих с людьми ничего общего (типа Океана из «Соляриса») — до вполне человекоподобных биороботов (типа красавчика Тома из «Я создан для тебя»). А еще в таком пространстве разумов возможны сущности с и без сознания, но столь экзотические, что невообразимы даже фантастам. Теперь о двух новых работах. 1) «Языковые модели (в основном) знают, что они знают» коллектива авторов из компании Anthropic 2) «Дебаты о понимании в больших языковых моделях ИИ» Меланьи Митчел и Дэвида Кракауера Рассмотрение этих работ с позиций вышеописанного пространства возможных разумов привело меня к двум довольно ошарашивающим выводам. Вывод 1. Большие модели хоть и не обладают пока сознанием в человеческом смысле, но и бессознательными они уже не являются. • Из работы 1) следует, что большие языковые модели могут «заранее предсказывать, смогут ли они правильно ответить на вопрос». И это можно интерпретировать, как наличие самоконтроля. • Но согласно мэйнстримной теории машинного сознания, самоконтроль вычислений, приводящий к субъективному чувству уверенности или ошибки – это один из двух типов сознательных вычислений мозга. Вывод 2. Уже созданы ИИ, обладающие новой формой понимания, которая обеспечивает экстраординарные, сверхчеловеческие способности к прогнозированию • Из работы 2) следует, что AlphaZero и AlphaFold от DeepMind, продемонстрировавшие на практике чуждую людям форму интуиции в шахматах и предсказании структуры белка, - это, по сути, ИИ с новым способом понимания. • Этот способ понимания лучше приспособлен к проблемам, требующим больших данных и сверхмощных вычислений (тогда как понимание людей ориентировано на проблемы с малым объемом данных и сильным причинно-следственным механизмом). • Нужна новая наука об интеллекте с более широкими рамками концепций понимания и сознания, пригодными и для людей, и для машин. Эти выводы заставляют вспомнить замечание главреда New Scientist о пространстве возможных разумов Шанахана: «Однажды мы можем обнаружить, что живем бок о бок с инопланетянами и ангелами». #Разум #Сознание #Понимание