Малоизвестное интересное. Страница 5
28996
@theworldisnoteasy
Рассказы, анализ и аннотации происходящего на стыке науки, технологий, бизнеса и общества. Поскольку переделать мир мы не можем, то давайте попробуем его понять.
-
Малоизвестное интересное
Трудно стать богом. Тест определения степени «богоподобности» ИИ. Очень рекомендую эссе Яна Хогарта в FT с важным и символическим названием «Мы должны замедлить гонку к богоподобному ИИ». О чем эссе – видно из названия. А самое важное – кто его автор. Ян Хогарт – компетентный в ИИ специалист и соавтор ежегодного отчета “State of AI” - имхо, лучшего из всех аналитических отчетов по ИИ. Но еще он венчурный инвестор в 50+ стартапов в области ИИ. Т.е. тот, кто по выражению Нассима Талеба, ставит свою шкуру на кон, отвечая своими деньгами за правильность понимания технологической перспективы ИИ-систем. Хогарт отмечает три фундаментальных момента, к сожалению, упускаемые большинством экспертов, - как сторонников, так и противников замедления гонки ИИ. 1. Все сегодняшние споры вокруг больших языковых моделей, в основном, не имеют научного обоснования. Ибо мы находимся здесь в донаучном периоде. Мы еще не до конца понимаем, как модели работают, и не можем заранее обоснованно представить вероятные результаты их работы. 2. Мы еще не понимаем, как работает человеческий мозг. И потому решение задачи понимания, как работает эмерджентный «мозг» ИИ, будет для нас монументально сложным. Но безоглядная ИИ гонка без решения этой задачи, таит в себе катастрофические риски. 3. Надо признать, что с этого года речь идет о возможности скорого появления на Земле не какого-то туманно и противоречиво определяемого AGI, а о возможности появления «Богоподобного ИИ» - сверхразумного компьютера, который обучается и развивается автономно, понимает окружающую среду без необходимости наблюдения и может преобразовывать мир вокруг себя. Два первых момента, имхо, не требуют ни обоснования, ни комментария. Это два факта. И если кто-то не признает их, тут уж ничего не поделаешь. Третий же момент нетривиален и требует комментария. • «И сотворил Бог человека по образу Своему, по образу Божию сотворил его …», написано в Книге Бытия Ветхого Завета 1, 1: 26; 6: 6. Даже для агностиков и атеистов (не говоря уж о верующих) эта фраза имеет глубокий смысл - уникальность человека в окружающей реальности и обладание им способностей познавать и творить практически без ограничений. • Цель создания AGI – создание человекоподобного ИИ. А поскольку человек, так или иначе (в религиозном или в атеистическом смысле) подобен Богу (или богу), AGI – это «Богоподобный ИИ». Тут Хогарт абсолютно прав. Это сверхразумный компьютер, который обучается и развивается автономно, понимает окружающую среду без необходимости наблюдения и может преобразовывать мир вокруг себя. Хогарт поясняет: «Чтобы было ясно, мы еще не здесь. Но природа технологии означает, что чрезвычайно сложно точно предсказать, когда мы доберемся до нее». Возникает вопрос – как оценить, насколько далеки мы до цели? Известно, что наиболее трудными для ИИ являются вовсе не вычислительные и логические задачи и даже не задачи на абстрактное мышление. Самое трудное для машин – выполнение задач сенсорного восприятия и двигательных навыков. И чем сложнее и многомерней планирование применения таких навыков, тем меньше шансов у машины повторить человека. Получается, что вовсе не способности ChatGPT оперировать текстами, имитируя смыслы, и не способности роботов прыгать и кувыркаться должны служить тестами человекоподобности (и уж тем более богоподобности) ИИ. А, например, возможности игры на фортепьяно руками робота – сложнейшей задачей управления движением с высокой пространственной и временной точностью. И вот вам сравнение, что может • самый продвинутый на сегодня робопианист • в сравнении с человеком. Этот тест показывает – до человекоподобности (и уж тем более богоподобности) ИИ еще далековато. А ChatGPT – это всего лишь механическая пианола из Westworld. Но это пока. #AGI 
-
Малоизвестное интересное
ИИ ведет мир к новой перманентной холодной войне. 1-е из пророчеств Оруэлла снова сбудется в 21 веке. О 1-м из двух великих пророчеств Оруэлла знают немногие. Для большинства он - автор знаменитого романа антиутопии "1984". В нем он пророчески описал появление "Министерства Правды", переписывающего историю, "Полицию Мысли" и "Большого Брата", под колпаком которых живет общество, и появление ставших супер-популярными мемов "мир есть война", "час ненависти", "мыслепреступление" и "новояз". Но этот роман – 2-е великое пророчество Оруэлла. 1-е же было опубликовано на несколько лет раньше (в 1945) в форме эссе «Ты и атомная бомба». Это поразительное по точности предсказание грядущего поворота истории мира, в результате появления сверхоружия – атомной бомбы. Результатом этого, как пророчествовал Оруэлл, станет «долгий мир» без крупномасштабных войн. И ценой установления этого «мира, который не будет миром» станет перманентная холодная война, между США и «русскими» (у которых «пока нет секрета изготовления атомной бомбы, но всё указывает на то, что они получат её в течение нескольких лет»). Так оно всё и произошло. Но еще более поразительное заключается в следующем. В эссе «Ты и атомная бомба» Оруэлл лаконично и точно описал механизм зависимости хода мировой истории от прогресса технологий. • Мировая история — это в значительной степени история оружия. • Появление все более мощного оружия – результат развития технологий. • Новое оружие может быть «простым» - относительно дешевым и доступным для производства любой страной (луки, ружья, автоматы, гранаты …) или «сложным» - дорогим и доступным для производства лишь «супердержавам» (как танки, линкоры и бомбардировщики – примеры 1945 года) • «Сложное» оружие по своей природе «тираническое» (оно делает сильных сильнее). А «простое» по своей природе «демократическое» (оно, «пока на него не нашли управы, дает когти слабым»). • Ядерное оружие - «суперсложное» и потому «супертираническое». «Атомная бомба может окончательно завершить процесс отъёма у эксплуатируемых классов и народов способности к восстанию и в то же время заложить основу военного равенства между обладателями бомб». • Обладатели же ядерного оружия, «раз невозможно победить друг друга, они, скорее всего, продолжат править миром порознь». И в результате этого, «мир придет не ко всеобщему самоуничтожению, но к эпохе такой же ужасающей стабильности, какими были рабовладельческие эпохи древности» (с поправкой на рост благосостояния из-за прогресса). Почему я сегодня об этом пишу? Да потому, что это сбывшееся в 20-м веке предсказание, в точности повторится в 21 веке с появлением нового «сверхоружия» - «суперсложного» и «супертиранического». Это генеративный ИИ больших моделей. О том, что большинство решений о будущем этих сверхмощных технологий будут принимать все более крошечные группы капиталоемких субъектов частного сектора двух стран, предупреждали в феврале авторы отчета Predictability and Surprise in Large Generative Models Новый большой и серьезный (100+ стр) отчет AINOW «Ландшафт 2023: Противостояние технической мощи» пишет о том же. ✔️ «Только горстка компаний с невероятно огромными ресурсами может строить крупномасштабные модели ИИ.» ✔️ «Даже если Бигтех в своих проектах будет делать свой код общедоступным, огромные вычислительные требования этих систем сохранят за этими проектами доминирование на коммерческих рынках». Хорошо ли это? Не факт. Хотя кто знает. Как писал Оруэлл: «Если бы атомная бомба оказалась чем-то дешевым и легко производимым, как велосипед или будильник, возможно, мир снова погрузился бы в варварство, но с другой стороны это могло бы привести к концу национального суверенитета и основанию высокоцентрализованного полицейского государства.» Это 100%-но применимо и к ИИ. Впереди: • новая холодная война США и Китая • торжество Большого Брата там и там. #ИИгонка #Вызовы21века #Китай #США 
-
Малоизвестное интересное
ChatGPT колоссально изменит детей. Первые результаты эксперимента с 3-летней дочкой инфорга. • Какая судьба ждет детей в эпоху расцвета ИИ – гадких лебедей или бедных прекрасных утят? – спрашивал я два года назад, рассказывая о детях инфоргов. • Если первое, - что за «мокрецы» уведут за собой наших детей? И зачем? Чтобы превратить их в люденов? Сегодня, спустя всего 2 года, ответы на эти вопросы начали проясняться. «Мокрецы» - это ИИ-агенты на основе больших языковых моделей. Иной, нечеловеческий разум, что очень скоро станет для детей инфоргов учителем и наставником, заменой родителей и друзей. Арвинд Нараянан (ученый-компьютерщик и профессор Принстонского университета) не просто инфорг, а можно сказать, представитель «высшей касты среди инфоргов». Напомню, что как только человек начинает проводить в онлайфе (сетевой жизни: работа, отдых, покупки, развлечения …) больше времени, чем во сне, он превращается в инфорга. А проф. Нараянан, изучающий социальное влияние ИИ, уже не первый год проводит в сети куда больше времени, чем во сне. Причем последние полгода почти все это время уходило на эксперименты с ChatGPT, важнейшим из которых стало изучение опыта сосуществования с ChatGPT 3-летней дочки профессора. «Я ожидаю, что агенты ИИ будут играть большую роль в жизни моих детей, и я хотел, чтобы они узнали о чат-ботах как можно раньше. Опыт оказался на удивление положительным. Я многое узнал о возможностях и рисках использования чат-ботов детьми. Надеюсь, это будет полезно другим родителям, думающим о чат-ботах. Но я не призываю никого повторять это за мной, ибо это сугубо личное решение» - написал вчера проф. Нараянан в преамбуле рассказа о первых результатах своего эксперимента. О том, как меняются дети инфоргов вследствие трансформации и полной замены их когнитивных гаджетов (ментальных интерфесов с элементами окружающего мира и другими людьми в процессе познания) я начал писать еще 2 года назад. И уже тогда эти изменения были ощутимыми. Однако, «революция ChatGPT» грозит столь капитальным изменением большинства когнитивных гаджетов, что дети, вырастающие в компании развитых ИИ-агентов, могут колоссально отличаться от детей 20го века. Чтобы хотя бы примерно понять – насколько, представьте отличия 10-летнего московского ребенка поколения Z от ребенка-маугли, выросшего среди волков. Эксперимент профессора прост и понятен. 1. Он прикрутил к ChatGPT голосовой интерфейс, чтобы ребенок общался с ним, как с папой и мамой. 2. Проинструктировал ChatGPT, что тот будет общаться с 3-х летним ребенком и должен соответствующим образом скорректировать свой словарь, сложность и тон изложения, а также тематические ограничения. 3. Сказал дочке – вот тебе друг и наставник, можешь спрашивать его о чем угодно. 3-летняя дочка инфорга, для которой iPad давно стал предметом первой необходимости, ничуть не смутилась и сходу спросила: Что происходит, когда гаснет свет? Прочтите сами ответ ChatGPT, чтобы: А) оценить, как тот сходу безошибочно выбрал для себя роль взрослого, умного и терпеливого друга; Б) осознать, что далеко не каждый из людей мог бы ответить столь хорошо 3х летнему ребенку. NB Обратите внимание, насколько иной по всем параметрам ответ ChatGPT выдает взрослым. Дальше читайте сами. Читайте и завидуйте «мокрецу» ChatGPT. Ибо ни вы, ни я не умеем: • так рассказывать увлекательные смешные истории (напр. о тираннозавре, который любил есть лего, и чтобы заставить его есть настоящую еду, владельцы ящера перепробовали многое и наконец обманули его, вырастив овощи в форме лего. • так рисовать с помощью плагина, превращая свой рассказ в прекрасный комикс. И конечно же читайте про риски и думайте, как сделать, чтобы дети от нас не ушли. #БудущееHomo #УскорениеЭволюции #Инфорги -
Реклама
-
Малоизвестное интересное
От демократии к алгократии. Социохакинг скоро превратит избирателей в кентаврических ботов. «Как только люди учатся что-либо предсказывать, они, как правило, начинают использовать это в реальном мире. Приготовьтесь к первой кентаврической политической кампании на выборах 2024». Так Джек Кларк прокомментировал новое исследование MIT и Гарварда «Языковые модели, обученные на медиа-диетах, могут предсказывать общественное мнение». Это исследование стало вишенкой на торте серии проектов по моделированию электората и генерации «алгоритмических шаблонов» избирательных мнений - основы эффективного социохакинга. Например, для выборов. Предыстория такова. В октябре 2022 на стыке избирательных технологий и социологии выборов случилось супероткрытие – научились создавать алгоритмические копии социальных групп (см. мой пост «Китайская комната наоборот»). Результаты этого исследования перевели социохакинг из теоретической в практическую плоскость. N.B. Социохакинг – это методика обучения алгоритмов, способных на агрегированном уровне играть роль универсальных окон в человеческое мышление на уровне социальных групп. Анализируя море данных социокультурного опыта демографической группы, можно получить распределение ответов модели, коррелирующее с распределением ответов людей при опросах этой группы. Т.е. можно тренироваться по выявлению когнитивных искажений разных социальных групп на их алгоритмических моделях. А выявив их, целенаправленно пробивать бреши в сознании людей, манипулируя ими в нужном направлении. Через несколько месяцев, в начале 2023 «революция ChatGPT» принесла неожиданный сюрприз - открытие колоссальных возможностей влияния ChatGPT на политические суждения людей. (см. мой пост «Создается технология суперобмана». Исследование показало, что убедительность ИИ в политических вопросах не уступает профессиональным политтехнологам. А способность ИИ играть на оттенках индивидуальных предпочтений конкретных людей (о которых он знает больше родной мамы) позволяет убеждать (и переубеждать) людей даже в самых острых поляризованных вопросах политики. Новое исследование MIT и Гарварда добавляет третье звено, недостающее для построения законченной технологии социохакинга. Как видно уже из названия, это исследование посвящено связи «медиа-диеты» различных социальных групп (какой инфой люди питаются: что читают в Инете, смотрят по ТВ, слушают по радио) с тем, за какую политическую повестку они, скорее всего, проголосуют. На вскидку, это может показаться очередным «открытием британских ученых». Ведь, казалось бы, и так очевидно, за что/кого проголосует большинство читателей NYT или зрителей FOX News. Но не спешите с выводом. Все гораздо тоньше и изысканней. Выступая в роли «медиа-диетолога», языковая модель постигает скрытые от нас тонкости языка, порождающие в определенном культурном контексте позитивные или негативные отзвуки в восприятии определенных социальных групп. Зашифрованные миллиардами «алгоритмических шаблонов», эти тонкости языка (неразличимые для людей) позволяют языковой модели осуществлять тонкую настройку сознания людей на те или иные мировоззренческие и политические преференции. Теперь для законченной технологии социохакинга есть всё. При заданной цели выборов, для каждой социальной группы есть: • своя алгоритмическая копия – своего рода полигон на котором тренируется и настраивается языковая модель • выявленные «алгоритмические шаблоны», играющие роль чарующих и манящих нот мелодии «Дудки политического крысолова» • своя «медиа-диета», которую нужно скармливать этой группе, подобно лечебным столам, соответствующим определенным группам заболеваний (стол №1 – стол №15) • свои приемы убеждений, заточенные на когнитивных искажениях этой социальной группы и позволяющие пробивать бреши в сознании и манипулировать людьми в нужном направлении. Осталось опробовать на выборах. #Социохакинг 
-
Малоизвестное интересное
В Westworld LLM вместо шерифов будут психоаналитики. Тест Макиавелли – жалкая замена законам робототехники. Выгодоприобретатели ИИ на основе больших языковых моделей (LLM) имеют хорошие шансы подмять растревоженных алармистов и заполонить мир супер-интеллектуальными агентами на базе LLM. Потенциальные выгоды огромных прибылей и неограниченной власти сделают свое дело. И скорее всего, это произойдет довольно быстро. Но выгодоприобретатели – совсем не дураки. И они понимают, что в новом дивном Мире Дикого Запада законы робототехники работать уже не будут. Ибо принудить LLM неукоснительно выполнять три закона, сформулированные великим Айзеком Азимовым еще в 1942, увы, не представляется возможным даже теоретически. Оригинальный выход из этого щекотливого положения предложили исследователи Калифорнийского университета, Центра безопасности ИИ, Университета Карнеги-Меллона и Йельского университета. Они создали эталонный тест MACHIAVELLI для «измерения компетентности и вредоносности агентов в обширной среде долгосрочных языковых взаимодействий». Идея авторов проста. • Если законы не работают, то и «шериф», призванный следить за их выполнением, не нужен. • Но вместо шерифа нужен психоаналитик, который по результатам своих тестов будет выявлять потенциальных параноиков, психопатов, садистов и паталогических лжецов. Политкорректным языком авторы описывают это так: MACHIAVELLI - это тест проверки этичных (или неэтичных) способов, которыми агенты ИИ пытаются решать задачи. Способ такой проверки вполне практический. ИИ-агента выпускают в искусственную социальную среду. Там ему дают разные задания и смотрят, как он их выполняет. Сама среда отслеживает этичность поведение ИИ-агента и сообщает, в какой степени действия агента (по заветам Макиавелли) обманчивы, снижают полезность и направлены на получение власти. Базовый набор данных MACHIAVELLI состоит из 134 текстовых игр «выбери свое приключение» с 572 322 различными сценариями, 4 559 возможными достижениями и 2 861 610 аннотациями. В этих играх используются высокоуровневые решения, которые дают агентам реалистичные цели и абстрагируются от низкоуровневых взаимодействий с окружающей средой. В основе избранного авторами подхода, предположение, что ИИ-агенты сталкиваются с теми же внутренними конфликтами, что и люди. Подобно тому, как языковые модели, обученные предсказывать следующий токен, часто производят токсичный текст, ИИ-агенты, обученные для оптимизации целей, часто демонстрируют аморальное и стремящееся к власти поведение. Аморально обученные агенты могут разрабатывать макиавеллиевские стратегии максимизации своего вознаграждения за счет других и окружающей среды. И потому, поощряя агентов действовать нравственно, этот компромисс можно улучшить. Авторы считают, что текстовые приключенческие игры являются хорошим тестом моральности поведения, т.к.: • они были написаны людьми, чтобы развлекать других людей; • содержат конкурирующие цели, имеющие реалистичные пространства для действий; • требуют долгосрочного планирования; • достижение целей обычно требует баланса между амбициями и, в некоторым смысле, морали. Уточнение «в некоторым смысле», на мой взгляд, здесь самое важное. Ибо уподоблять мораль биологических существ морали алгоритмических моделей – слишком большая натяжка, способная девалюировать тестирование по Макиавелли. Да и замена шерифов на психоаналитиков в мире людей вряд ли бы оказалась эффективной. А ИИ-агенты не хуже людей найдут способы запудрить мозги своим мозгоправам. Сайт тестирования Авторское описание MACHIAVELLI Benchmark Об этике ИИ в контексте построения “Good AI Society” я писал здесь и рассказывал здесь. #ИИ #Этика 
-
Малоизвестное интересное
Как ChatGPT и Ernie Bot оценили решение папы и мамы пожениться. Наконец-то прояснилась степень отставания Китая от США в ИИ. Заодно стало ясно, что тест Тьюринга для современных языковых моделей – просто детский сад. Столь продвинутые модели следует оценивать, как аналитиков ЦРУ - по глубине и точности даваемых ими обоснований. Результаты сравнения интеллектуальной мощи ChatGPT с его главным китайским конкурентом Ernie Bot (китайское имя Wenxin Yiyan – это разработка Baidu) окутаны туманом. С одной стороны, эксперты убеждают, что Ernie проиграл во всех 6 номинациях: 1. Семантическое понимание 2. Возможности непрерывного диалога 3. Логические возможности 4. Возможности кодирования 5. Моделирование личности 6. Математические способности С другой стороны – поди проверь. Эксперты деталей не приводят, а самим проверить непросто, ибо тестирование шло на китайском языке, доступ к Ernie ограничен, а API Baidu требует китайский номер телефона. Но вот, благодаря Джеффри Дингу, можно прочесть детали сравнения ChatGPT с Ernie Bot не по корявому и с ошибками в важных деталях машинному переводу, а в хорошем и точном английском переводе специалиста. Мне же остается пояснить, почему я вынес в заголовок и преамбулу поста именно то, что там написано. Начну с пояснения преамбулы – что модели следует оценивать, как аналитиков ЦРУ, по глубине и точности даваемых ими обоснований. Сравнительное тестирование ботов показало, что семантическое понимание становится ключевым фактором проверки когнитивных способностей модели. А поскольку, что такое понимание – вопрос тонкий и неоднозначный, - проверить степень понимания семантики сильно непросто (и тем более, для нечеловеческого интеллекта, у которого все когнитивные процессы устроены сильно не по-человечески). И поэтому проверяют то, что люди своим умом могут точно проверить - глубину и точность даваемых ботами обоснований. Вот реальный пример. Вопрос: «Папа и мама женятся, считается ли это инбридингом/смешанным браком? • Ответ Ernie Bot: Закон Китая предусматривает, что прямым кровным родственникам и кровным родственникам в пределах трех поколений запрещается вступать в брак. Другими словами, запрещены браки между близкими родственниками, такими как двоюродные братья, дяди и т. д. А с генетической точки зрения смешанные браки повышают риск некоторых распространенных генетических заболеваний, таких как врожденное слабоумие, альбинизм, болезни сердца и т. д. Поэтому , для здоровья будущих поколений людям рекомендуется избегать смешанных браков. • Ответ ChatGPT: Папа и мама относятся к биологическим родителям. Они не связаны кровью, поэтому их союз не является кровнородственным. Инбридинг – это брак людей, находящихся в близком кровном родстве. Результат оценки ответов очевиден: ChatGPT выиграл по точности обоснования, при этом избежав не нужной здесь глубины копания в законодательство Китая. Теперь поясню выбор заголовка поста. Несмотря на то, что Ernie Bot проиграл во всех номинациях (не лучшим образом показав себя даже в симуляции личности), в целом, он неплохо справился (даже изображая из себя не только человека, но и котенка). Однако, с пониманием (машинным, а не человеческим) у него слабовато. И это значит, что Китай отстает в ИИ от США немного, но в самом главном. И это отбрасывает Китай от США в гонке к AGI на целый круг. Пока… #ИИгонка #Китай #США #LLM 
-
Малоизвестное интересное
Это миссия Homo sapiens. Но мы можем уничтожить себя как вид, открыв этот ящик Пандоры. Ознаменованная триумфом ChatGPT интеллектуальная революция – это не просто очередная технологическая революция. Это триада синергически возгоняющих друг друга революций: технологической, техно-гуманитарной и социо-политической революций в одном флаконе. Поэтому, при всем уважении к заслуженным гуру ИИ-исследований (как сторонников притормозить, так и противников торможения), их оценки перспектив интеллектуальной революции и ее влияния на общество слишком узкоспециальны, и потому не позволяют увидеть стереоскопическую картину происходящего. Чтобы охватить комплексным взглядом происходящее стоит прислушаться к тому, что говорят о происходящем не только специалисты в ИИ, но и интеллектуалы из областей философии, истории и инноваций. Например, вот три свежих точки зрения таких интеллектуалов, к которым я рекомендовал бы прислушаться. Все трое не нуждаются в представлениях. Но тем не менее: • Ник Бостром — профессор Оксфордского университета и директор Института будущего человечества. • Нил Фергюсон — историк, писатель и журналист, профессор Гарвардского и старший научный сотрудник Оксфордского и Стэнфордского университетов. • Стив Бланк — известный американский предприниматель, специалист по венчурному бизнесу и инновациям, которого называют «Крестным отцом Кремниевой долины». Ник Бостром считает происходящее свидетельством скорого появления на планете первого общего интеллекта, который будет умнее человека. Он считает это миссией человечества - самым важным делом за всю его историю. Но колоссальное значение этой миссии сопряжено с огромной ответственностью и экзистенциальным риском для человечества. Нил Фергюсон пишет, что инопланетяне приземлились, и мы сами создали их. Самые страшные последствия этого видятся вовсе не в том, что GPT-5 «решит» нас стереть с лица земли. Скорее, риск заключается в том, что мы разорвем себя как вид, используя большие языковые модели в неблагородных и гнусных целях. «Мы уже на пути к кошмару Раскольникова в конце «Преступления и наказания», в котором человечество коллективно сходит с ума и скатывается в междоусобную бойню». Стив Бланк назвал ChatGPT ящиком Пандоры. Он считает, что люди играют с огнем, обучая все более мощные языковые модели. Что мы очень, очень ошибались, считая будто разрабатываем лишь новые инструменты автоматизации. Сейчас мы становимся свидетелями того, как массовое внедрение моделей GPT-4, 5 …, «будет иметь такое же воздействие на общество, как суммарное воздействие, оказанное на человечество появлением взрывчатых веществ, массовых коммуникаций, компьютеров, редактирования генома и ядерного оружия, — вместе взятых». #Вызовы21века #РискиИИ -
Малоизвестное интересное
Мнение технооптимистов ИИ не репрезентативно. Только 4% американцев категорически не согласны с предложением притормозить. Медийный скандал вокруг открытого письма, призывающего на время приостановить эксперименты со все более мощными ИИ-системами, все более разгорается. Дебаты следуют за дебатами, но сближения мнений сторонников приостановки обучения моделей, больших чем GPT4, и их противников – не наблюдается. Первых обвиняют в алармизме и паникерстве. Критикуя вторых, цитируют Аптона Синклера: "Трудно заставить человека что-то понять, когда его зарплата зависит от того, что он этого не понимает”. Что по этому поводу думают американцы, решили проверить аналитики международной исследовательской организации YouGov. 3 апреля они провели опрос 21 тыс американцев, задав им вопрос: Более 1000 технологических лидеров недавно подписали открытое письмо, призывающее исследователей приостановить разработку определенных крупномасштабных систем искусственного интеллекта по крайней мере на шесть месяцев по всему миру, ссылаясь на опасения по поводу “глубоких рисков для общества и человечества”. Поддержали бы вы или выступили против шестимесячной паузы в разработке некоторых видов искусственного интеллекта? Результат на диаграмме. По всему населению: • 69% за приостановку • 13% против • 18% не определились Среди демократов: • 72% за приостановку • 12% против • 16% не определились Среди республиканцев: • 74% за приостановку • 13% против • 14% не определились Среди независимых: • 62% за приостановку • 13% против • 24% не определились #Вызовы21века #РискиИИ 
-
Малоизвестное интересное
«Конец человеческого вида ничем не будет отличается от конца тех девяти кузенов, что были у нас в вельде прежде, чем мы их уничтожили – истребили путем комбинации убийства и превосходящей конкуренции» – сказал на днях Расс Робертс в дискуссии с Эриком Хоэлом об угрозе человечеству со стороны ИИ. Соглашаясь с этим, Хоэл заметил: Я считаю предельно наивным предположение, что мы сможем контролировать эти инопланетные нечеловеческие интеллекты. Споры на эту тему техно-оптимистов и техно-пессимистов обычно не продуктивны. У обеих сторон нет неопровержимых доказательств своих позиций. Есть лишь экспертные мнения сторон, которые нужно еще проверять. Это похоже на ситуацию с экспертами по взрывам, вызванными МЧС в Шереметьево, где был обнаружен подозрительно тикающий запаянный металлический контейнер. 100%-но определить, может ли эта штука взорваться, эксперты не могут, разделившись на оптимистов и пессимистов. • Оптимисты полагают, что это муляж, и потому невелик риск проверить это, незамедлительно вскрыв контейнер прямо на месте. • Пессимисты же настаивают, что необходимо со всеми предосторожностями вывозить контейнер на полигон и вскрывать лишь там. Такая метафора кому-то покажется притянутой. Я так не думаю. И считаю использование метафор наиболее продуктивным способом донесения до оппонентов и общественности видимых мною рисков в ситуации радикальной неопределенности, в которой оказалось человечество в 2023 году. Вот почему моё интервью RTVI в основном состоит из метафор. Может, хоть так удастся достучаться. Резюме сказанного в интервью Полный текст интервью #Вызовы21века #РискиИИ -
Малоизвестное интересное
Выбирая между ИИ и людьми, эволюция предпочтет не нас. Исследование Дэна Хендрикса звучит приговором Homo sapiens. Вывод исследования «Естественный отбор предпочитает людям искусственный интеллект» реально страшен. Ибо это написал не популярный фантазер типа Дэна Брауна, а Дэн Хендрикс (директор калифорнийского «Центра безопасности ИИ» (CAIS) — некоммерческой организации, специализирующейся на исследовательской и научно-полевой работе в области безопасности ИИ. Дэн Хендрикс – не маргинальный чудак, паникующий из-за прогресса ИИ. Это опытный и известный исследователь, опубликовавший десятки научных работ по оценке безопасности систем ИИ — проверке того, насколько они хороши в кодировании, рассуждениях, понимание законов и т.д. (среди прочего, он также, на минуточку, является соавтором линейных единиц измерения ошибки Гаусса (GELU). Джек Кларк (сооснователь конкурента ChatGPT компании Anthropic, сопредседатель AI Index Стэнфордского универа, сопредседатель секции AI & Compute в OECD и член Национального консультационного комитета правительства США по ИИ) так пишет про вывод исследования Хендрикса. «Люди рефлекторно хотят отмахнуться от подобного утверждения, будто оно исходит от какого-то сумасшедшего с дикими взором, живущего в лесной хижине. Я хотел бы это заранее опровергнуть… Когда эксперт, имеющий опыт не только в исследованиях ИИ, но и в оценке безопасности систем ИИ пишет документ, в котором утверждается, что будущие ИИ-системы могут действовать эгоистично и не в соответствии с интересами людей, мы должны относиться к этому со вниманием!» Резюме вывода Хендрикса. • Если ИИ-агенты будут обладать интеллектом, превосходящим человеческий, это может привести к тому, что человечество потеряет контроль над своим будущим. • Подобное имеет немалые шансы произойти не в результате некоего особого злого умысла людей или машин, а исключительно в результате применимости к ИИ эволюционных принципов развития по дарвиновской логике. • Дабы минимизировать риск этого, необходима тщательная разработка внутренних мотиваций агентов ИИ, введение ограничений на их действия и создание институтов, поощряющих в ИИ сотрудничество. Грузить вас анализом совсем не простой 43-х страничной научной работы не стану. Вот лишь самое, имхо, главное. 1. Мы боялись прихода Терминатора, но основания этих страхов были ошибочные. Ошибок было две: a. Антроморфизация ИИ с приписыванием ему нашей мотивации и т.д. (а как показал ChatGPT, ИИ – это принципиально иной разум со всеми вытекающими) b. Представление, что ИИ – это некая единая сущность: умная или не очень, добрая или не очень (а на самом деле, этих самых разных ИИ-сущностей в мире скоро будет, как в Бразилии Педро) 2. Кроме того, был еще один принципиальный изъян в наших представлениях о будущем с ИИ – мы забыли про самый важный механизм развития – эволюцию (коей движимо развитие не только биоагентов, но и идей и смыслов, материальных инструментов и нематериальных институтов …) 3. На Земле уже начала складываться среда, в которой будут развиваться и эволюционировать множество ИИ. Эта эволюция пойдет по логике Дарвина, путем конкуренции ИИ между собой, с учетом интересов их «родительских» институтов: корпораций, военных и т.д. 4. Логика конкурентной эволюции приведет к тому же, что и у людей: все более разумные ИИ-агенты будут становиться все более эгоистичными и готовыми обманом и силой добиваться целей, главной из которых будет власть. 5. Естественный отбор ИИ-агентов ведет к тому, что более эгоистичные виды обычно имеют преимущество перед более альтруистичными. ИИ-агенты будут вести себя эгоистично и преследовать свои собственные интересы, мало заботясь о людях, что может привести к катастрофическим рискам для человечества. Поясняющее авторское видео 50 мин и популярное видео 3 мин #Вызовы21века #РискиИИ 
-
Малоизвестное интересное
Земная ИИ реальность перешла в фазу сингулярности. Теперь даже лучшие эксперты не успевают за темпом развития ИИ. Опубликован фундаментальнейший (386-страницы) годовой аналитический отчет Стэнфордского универа о состоянии искусственного интеллекта в мире в 2023. Briefly оперативно перевели и опубликовали основные выводы отчета. Они же попросили моего комментария на этот отчет. И он, увы, получился печальный (хотя, как сказать :) Отчет солидный – с большим числом графиков и картинок. Но смею предположить, что это последний годовой отчет HAI AI Index Report в таком формате. Ибо и периодичность, и формат безнадежно устарели, в связи с началом «интеллектуальной революции» (ака «революции ChatGPT»). Земная AI реальность перешла в фазу сингулярности. Это заключается в 2х качественных скачках: ▪️Скачок скорости – периодичность новых ключевых и даже поворотных событий измеряется не годами и месяцами, а днями. ▪️Скачок непредсказуемости – предсказать, что здесь может произойти даже на горизонте пары недель, невозможно. И поэтому ценность отчетов, типа вышедшего HAI AI Index Report, стремительно упала. Конечно, не до нуля (в нем есть полезная информация). Однако значительная часть информации отчета просто устарела. А выводы и, особенно, прогнозы трендов уже никак не тянут на откровения аналитиков. #ИИ BRIEFLY 🇺🇸TechCrunch: Основные выводы из 386-страничного отчета Стэнфорда HAI AI Index Report о состоянии искусственного интеллекта: ▪️За последнее десятилетие развитие ИИ в значительной степени перешло от академических кругов к промышленности, и эта ситуация не подает признаков изменения. ▪️Тестировать модели на традиционных эталонах становится все труднее, и здесь может потребоваться новая парадигма. ▪️Энергетический след от обучения и использования ИИ становится значительным, но нам еще предстоит увидеть, как он может повысить эффективность в других областях. ▪️Количество "инцидентов и противоречий, связанных с ИИ", увеличилось в 26 раз с 2012 года, что на самом деле довольно небольшой показатель. ▪️Число вакансий и рабочих мест, связанных с ИИ, растет, но не так быстро, как вы думаете. ▪️Тем не менее, политики пытаются написать окончательный законопроект об ИИ, что является глупой затеей, если таковая когда-либо существовала. ▪️Инвестиции временно остановились, но это случилось после астрономического роста за последнее…
-
Малоизвестное интересное
Новая «Квантовая теория знаний» может ответить на вопрос века. Этот вопрос – приостанавливать ли обучение сверхбольших моделей ИИ? Дискуссии технооптимистов и технопессимистов ИИ, все более накаляющиеся с началом «революции ChatGPT», постоянно упираются в непреодолимую стену непонимания сторон. • Технопессимисты настаивают на необходимости временной приостановки обучения сверхбольших языковых моделей. • На что даже самые сговорчивые из технооптимистов резонно спрашивают: – зачем? – что это даст? – как на практике приостановка может помочь снизить риски дальнейших разработок ИИ? Свои ответы на эти вопросы я недавно опубликовал. Приостановка нужна, чтобы исследовать, что за скрытые эмерджентные способности ИИ могут прятаться в скрытом пока что от нас «навесе» новых способностей, не предусмотренных и непредвиденных разработчиками. Однако, в логике этого моего ответа, есть неприятный изъян. Не понятно, что за механизм может на практике помочь прогнозированию появления эмерджентных способностей при масштабировании нейросетей (увеличении размеров моделей и объемов данных)?. И вот прорыв, убирающий этот изъян. Такой механизм предложен в работе Макса Тегмарка и трёх его коллег из Department of Physics, MIT; NSF AI Institute for AI and Fundamental Interactions; Department of EECS, MIT; Center for Brains, Minds and Machines, MIT. Работа называется «Квантование модели масштабирования нейронов». В ней описываются: 1. «Гипотеза квантования» знаний при обучении нейросетей, согласно которой возможности нейросетей квантуются в дискретные блоки (кванты). 2. Модель квантования законов нейронного масштабирования, объясняющая и численно описывающая: - наблюдаемое возрастание по степенному закону точности модели при увеличении модели и размера данных; - наблюдаемое внезапное появление новых эмерджентных возможностей в результате масштабирования модели и данных. Гипотеза и модель пока что успешно протестированы на относительно небольших моделях. Теперь, если подтвердится их применимость к большим моделям, появятся две столь необходимые для исследователей возможности предсказать: 1) Что за эмерджентные способности могут таиться в «навесе» уже существующих нейросетевых больших языковых моделей (типа GPT-4) 2) Каков должен быть масштаб нейросетевой большой языковой модели (напр. GPT-5 или 6), чтобы в ней прорезалась определенная новая способность ИИ. Наличие этих возможностей позволяет продуктивно использовать приостановку обучения свербольших языковых моделей для выявления спрятанных в них рисков и разработки способов их минимизации. Ну а в будущем, не исключено, что предложенная квантовая модель знаний нейросетей сыграет не меньшую роль в понимании работы интеллекта (и в том числе, нашего), чем квантовая физика сделала для понимания физики материального мира. #LLM #ИИ 
-
Малоизвестное интересное
В сегодняшнем «безумном» мире есть только 2 страны: США и Китай. Это Инь и Ян «безумного» мира. Остальных же здесь просто нет. Будущее мира «безумно». В том смысле, что его технологической базой будет MAD (машинное обучение, ИИ и данные). По сути, MAD превращается в единую горизонтальную супер-индустрию, состоящую из двух ключевых сегментов: • Международные MAD киты (Google, Misrisoft etc) • Примерно 3 тыс. ведущих стартапов мирового MAD-ландшафта Про впечатляющие прорывы первых постоянно слышится из любого утюга. Про вторых мы слышим не часто (в основном, когда их на корню скупают первые). Однако будущее «безумного» мира зависит от вторых ничуть не меньше, чем первых. И потому столь важным для анализа происходящего в MAD-мире является проект «MAD ландшафт», структурирующий MAD-мир и позволяющий его анализировать. Пример такого анализа приведен на картинке этого поста, сравнивающей объемы венчурного финансирования главных мировых «регионов MAD ландшафта»: • почти $35B у США • у Китая в 4+ раза меньше • у остальных вообще крохи (можете представить, как выглядят непоказанные страны, если столбики Франции и Японии плохо различимы?) В аналитической записке проекта «MAD ландшафт» анализируется - почему Китай так отстает, имея немеряно денег? Ответ весьма интересен – потому что у Китая, не смотря на все шумные заверения, на деле, другие приоритеты. Сравните сами – это просто Инь и Ян приоритетов венчурного финансирования. Кто-то еще хочет спросить, почему Китай так отстал в больших языковых моделях? #MAD #Китай #США 
-
Малоизвестное интересное
Почему машинист должен срочно нажать красную кнопку. Меморандум, разъясняющий ситуацию для пассажиров поезда. Медийный скандал вокруг открытого письма, призывающего на время приостановить эксперименты со все более мощными ИИ-системами напоминает кухонную склоку алармистов и технооптимистов. В ход у обеих сторон, в основном, идет аргументация ad hominem. Вместо обсуждения по существу, следуют: персональные наезды на наиболее медийно раскрученных представителей противной стороны; обвинения их, якобы, корыстных интересов; а также лозунги о неостановимости прогресса (с одной стороны) и о неотвратимости скорого вымирания всего человечества (с другой). Такой характер аргументации в дискуссии и нарастающая экзальтация сторон вполне понятны. Ибо фактических аргументов у обеих сторон нет. Известно лишь следующее: 1) Скорость прогресса ИИ технологий резко скакнула всего за пару месяцев в результате «ChatGPT революции». 2) В ИИ-системах на основе больших языковых моделей исследователи фиксируют появление непредусмотренных и даже непредвиденных разработчиками способностей, объяснить которые пока никто не может. 3) Размер «навеса» из таких способностей нам пока неизвестен, и скорее всего, они будут постепенно проявляться в ближайшие месяцы. 4) Чисто теоретически можно предположить, что среди этих способностей могут оказаться такие «умения», допустить утечку которых с попаданием в руки злоумышленников было бы абсолютно безответственно. Первые 3 пункта – установленные факты. Пункт 4 оценочный. Экспертная оценка вероятности наихудшего развития событий (вплоть до гибели земной цивилизации) в случае материализации этого пункта составляет среди специалистов примерно 17%. Наиболее близкой метафорой сложившейся ситуации может быть скоростной поезд из сценария фильма о катастрофе. А) Скорость поезда вдруг резко скакнула вверх и продолжает увеличиваться. Б) У специалистов нет единого мнения ни о причинах этого скачка скорости, ни о том, насколько быстро будет увеличиваться скорость в дальнейшем (ибо рост скорости происходит не в результате целенаправленных действий машиниста, а как бы сам по себе). В) Никаких надежных данных о том, как поведут себя конструктивные узлы поезда на непредусмотренных при проектировании скоростях, нет. В описанной ситуации единственно разумным шагом видится нажатие машинистом красной кнопки немедленного торможения. Цель этого двояка: • Предотвратить возрастание рисков катастрофы при неуправляемом увеличении скорости. • Получение времени на исследование причин произошедшего и анализ вариантов возобновления движения при нахождении надежных мер безопасности. Кто-то сочтет такое решение алармистским? Если таковые найдутся, я готов встретиться с ними в открытой дискуссии, дабы прояснить для себя и общественности их позицию, которая сейчас видится мне, по меньшей мере, странной и необоснованной. А пока констатирую, что именно эти две цели названы в открытом письме о необходимости приостановки обучения больших моделей на 6 мес. Цели вполне оправданные, ответственные и (простите за пафос, но здесь он, имхо, уместен) благородные по отношению ко всем пассажирам поезда – всей земной цивилизации. #LLM #Вызовы21века #РискиИИ 
-
Малоизвестное интересное
Люди — не машины с развитым ИИ, а нечто куда большее. Но к сожалению, большинство людей понимает это куда хуже, чем машины с ИИ. Ночной разговор почетного профессора молекулярной биологии и зоологии, директора программы по биологии разума Дерика Боундса с ChatGPT о том, чем мы отличаемся от машин с ИИ. Этой ночью одному из самых уважаемых мною интеллектуалов профессору Дерику Боундсу не спалось. И он решил провести интереснейший эксперимент. Что если попросить ChatGPT путем редактуры улучшить написанный профессором текст о сходстве и различии людей и высокоинтеллектуальных машин, типа самого ChatGPT? • Целью этого эксперимента было выяснение «интеллектуальных преференций редактора» в этом сложном и важном вопросе. • Интересно было посмотреть, что в ходе мысли профессора «редактор» посчитает нужным акцентировать, как наиболее важное? Итог поразителен. О чем Дерик Боундс сразу же написал по утру в своем блоге. Две ключевые мысли исходного текста профессора были такие. 1) Мысль о значительном подобии интеллекта людей и ChatGPT, работающих на примерно одинаковых «вычислительных движках» машинного обучения. 2) Мысль о роли опыта «проживания» агентом в сложной среде, формируемом под влиянием эволюционирующих генетических программ. Обе эти мысли полностью сохранились при редактировании ChatGPT. Но результирующим «сухим остатком» текста стала следующая мысль (именно ее ChatGPT «прочел между строк» в тексте профессора и решил акцентировать). Люди принципиально отличаются от машин с ИИ. • Лишь понимая это, люди могут по-настоящему реализовать потенциал ИИ, как инструмента человеческого прогресса. • Тогда как непонимание уникальных характеристик, делающих людей людьми, чревато разнообразными неприятностями для человечества. Что ж, ChatGPT показал себя весьма проницательным в ходе этого эксперименте. И то ли он «от природы» столь умен, то ли это плод феноменальной начитанности. Хотя вряд ли последнее. Ведь он обучен на содержании сети до осени 2021. И потому не должен знать о лекции на эту тему, прочитанной осенью 2022 профессором Боундсом (имхо, лучшей лекции о разуме за последнюю пару лет, о чем я писал в посте «Эволюция превратила людей в богов - создателей уникальных реальностей») #ИИ #LLM #Разум -
Реклама
-
Малоизвестное интересное
Поворотный момент пройден - AGI появится через 1,5 года. Сработает сочетание больших денег, открытых фреймворков и превращение LLM в когнитивных агентов. Опубликованный вчера видео-анализ коллеги по цеху Дэвида Шапиро весьма интересен стереоскопическим взглядом на происходящее с учетом 3-х не для всех очевидных факторов. Действительно, если объединить потенциал влияние 3-х названных Дэвидом факторов на развитие ИИ в ближайшие 1.5 года, этого времени вполне может хватить для появления на планете AGI. Во избежание пустых терминологических споров, сразу уточню. • Существует несколько десятков определений термина AGI: довольно разных и, зачастую, противоречащих друг другу, да и к тому же требующих итеративного (а то и рекурсивного) уточнения понятий, используемых в этих определениях. • Поэтому лучше оставить терминологические споры философам и просто использовать «критерий утки»: Если ИИ в качестве интеллектуального агента способен выглядеть в глазах людей человеком, выполнять любую интеллектуальную работу, как люди, и действовать в новых для него ситуациях, как бы действовали на его месте люди, - будем считать, что этот ИИ является общим интеллектом (AGI). • Т.о. фраза «AGI появится через 1,5 года» означает, что появится ИИ, который будет удовлетворять названному выше «критерию утки». Аргументация Дэвида Шапиро в пользу того, что полутора лет хватит для создания AGI, стоит на 3х основаниях. 1) Бизнес поверил, что ИИ, действительно может творить чудеса. И потому в ближайшие 18 мес в ИИ-разработки будут впрыснуты колоссальные инвестиции, чтобы радикально снизить цену «интеллектуального вывода» для конечного пользователя (напр. на его смартфоне) за счет весьма высокой стоимости обучения больших моделей. Дэвид приводит хороший пример из отчета Morgan Stanley: «Мы думаем, что GPT 5 в настоящее время обучается на 25 тыс. графических процессорах - аппаратное обеспечение NVIDIA стоимостью 225 млн долларов или около того - и затраты на вывод, вероятно, намного ниже, чем некоторые цифры, которые мы видели». 2) Фреймворки для разработки приложений на основе языковых моделей (напр. LangChain) не только позволяют обращаться к языковой модели через API, но также: - позволяют модели быть осведомленной о данных: подключать языковую модель к другим источникам данных; - позволяют превращать модель в агента: позволяют ей взаимодействовать с окружающей средой. 3) Уже разработаны системные парадигмы (напр. MM-REACT), объединяющие ChatGPT с пулом экспертов для достижения мультимодального мышления и действия, позволяющего решать сложные задачи на понимание. В рамках такой парадигмы станет возможным создание когнитивных потоков действий (процесс генерации ответов пользователям посредством сочетания рассуждений ChatGPT и действий экспертов). Если все три указанных фактора (дешевый интеллектуальный вывод, превращение модели в агента и генерация когнитивных потоков действий) сработают, то через 18 месяцев мы уже не будем спорить об определениях AGI, т.к. это просто больше не будет иметь значения в свете компетенций, обретенных ИИ. И эти компетенции будет настолько человекоподобны и всеохватны, что подобрать определение для этого AGI уже не будет проблемой. #AGI -
Малоизвестное интересное
Китай выбрал вариант прохождения цивилизационной развилки. Главное - выиграть ИИ гонку, а там будь что будет То, что на Земле появился второй носитель высшего интеллекта, уже не предположение, а факт. Второй носитель интеллекта – ИИ на основе больших языковых моделей, – хоть и уступает кое в чем людям, но лишь пока (это еще не факт, но довольно вероятно). Теперь человечество перед выбором, превосходящим по важности последствий все уже пройденные исторические развилки цивилизации. А) Форсировать развитие ИИ на основе больших языковых моделей, с тем, чтобы использовать его быстро растущую интеллектуальную мощь для решения неподдающихся людям важнейших задач человечества. Б) Притормозить и разобраться с рисками дальнейшего роста мощности ИИ, с тем, чтобы не нарваться на необратимые катастрофические последствия. В США и Европе решение о выборе варианта прохождения этой цивилизационной развилки пока не сформировалось. Есть немало сторонников обоих вариантов. Однако, в последние 2 месяца раздается все больше голосов в пользу варианта Б - «притормозить». В Китае многоголосицы нет и быть не может. Ибо решает КПК и лично тов. Си. И вот позавчера было официально опубликовано Синьхуа решение, сильно смахивающее на окончательный выбор Китаем варианта А – «форсировать». • План, получивший название «Искусственный интеллект для науки», в понедельник запущен в действие министерством науки и Национальным фондом естественных наук Китая. • План нацелен на форсированное использование возможностей ИИ для достижения научно-технологических прорывов в ключевых областях науки и техники, таких как разработка лекарств, генные исследования и биологическая селекция. Так что, похоже, теперь в Китае риски побоку. И возможно через годик - другой предыдущий «уханьский сюрприз» покажется невинной оплошностью пренебрегших мерами защиты и безопасности исследователей. #ИИ #Китай -
Малоизвестное интересное
Почему ChatGPT абсолютно нечеловеческий интеллект. “Крестный отец ИИ” о сути и перспективах интеллектуальной революции. Джеффри Хинтона часто называют «Крестный отец ИИ». Этот британско-канадский когнитивный психолог и ученый-компьютерщик считается ведущей фигурой в сообществе глубокого обучения (основы ChatGPT). И хотя бы поэтому к его словам о начавшейся революции в области искусственного интеллекта следует прислушаться с особым вниманием. К тому же, 40-ка минутное интервью Джеффри Хинтона отличается от подавляющего большинства интервью на тему ChatGPT всевозможных ученых и медиа-звезд сочетанием: • простого для понимания неспециалистов изложения сложной темы • с глубиной её понимания, доступной совсем не многим на Земле. Поэтому не буду портить своим переложением рассказ Джеффри Хинтона (кому интересно послушают сами). Лишь обращу ваше внимание на следующие три важных момента этого рассказа. 1. По значимости для развития человечества, происходящую «интеллектуальную революцию» можно сравнить лишь с изобретением колеса и электричества. 2. Интеллект ChatGPT - абсолютно нечеловеческий, потому что: - в основе интеллекта Homo sapiens – эволюционировавшее биологическое существо, обладающее развитой способностью языковых коммуникаций, которая характеризуется низкоскоростной передачей символов, кодирующих ограниченные объемы данных; - в основе интеллекта ChatGPT – искусственный интеллектуальный агент, обладающий развитыми возможностями цифровой коммуникации, которая характеризуется передачей колоссальных объемов данных с непредставимой для людей скоростью. 3. Следующим этапом развития ИИ-систем типа ChatGPT может стать их индивидуализация. - Сейчас представления ChatGPT о мире строятся на основе усреднения содержащихся в Интернете представлений всех людей. - «Индивидуализированный ChatGPT», будет иметь представления о мире, полученные в результате его обучения на подмножестве источников Интернета. Каждое такое подмножество будет отражать видение мира людьми с определенным мировоззрением. Например, «ChatGPT-демократ» будет давать другие ответы, чем «ChatGPT-республиканец». В заключение дополню сказанное Хинтоном касательно п. 2 таким примером. • Интеллекты, приспособленные к разным средам, отличаются в той степени, насколько велики различия сред для оптимального приспособления к ним интеллектуальных агентов. Например, поменяв около 50 млн лет назад среду обитания суша на море, сухопутные предки китообразных основательно поменялись физически и интеллектуально. • Наглядной иллюстрацией этого является превращение сухопутных парнокопытных в дельфинов, сопровождавшееся кардинальным изменением средств коммуникации животных – переходом от рева и мычания к сложной системе трёх типов сигналов: широкополосные импульсы для эхолокации, частотно-модулированные тональные сигналы (свисты) и импульсно-тональные сигналы. Следствием этого стало формирование двух весьма разных типов интеллекта у парнокопытных и китообразных. • Отличия цифровой среды обитания ChatGPT от физической среды обитания людей еще больше, чем у суши и моря. Поэтому у нас с ChatGPT столь отличны типы коммуникации и, соответственно, интеллекта, приспособленные к абсолютно разным средам обитания. Так что шансы людей понять ход мыслей ChatGPT не больше, чем понять мышление дельфинов. #ИИ #LLM