​​Результаты репетиции всепланетного референдума о судьбе человечества в контексте развития ИИ. 1/3 готова поставить шкуру на кон ИИ-гонки, а 2/3 – нет. С этого года вопрос об экзистенциальных ИИ-рисках для человечества из гипотетической формы перешел в практическую. Ибо значительное число исследователей и разработчиков ИИ, в результате «революции ChatGPT», теперь считают, что от создания человекоподобного ИИ (AGI) нас отделяют уже не десятилетия, а годы. Т.е. пора серьезно озаботиться связанными с этим экзистенциальными ИИ-рисками. Однако, подобно другим экзистенциальным рискам (ядерным, климатическим, биологическим), оценка ИИ-рисков расколола мнения специалистов и экспертов. • Одни считают экзистенциальные ИИ-риски весьма значительными и призывают мир срочно заняться их минимизацией. • Другие полагают, что экзистенциальных ИИ-рисков пока просто нет, и озаботься ими нужно лишь когда они появятся. Такой раздрай профессиональных мнений ведет к раздраю мнений властей развитых стран. Их действия в этой связи какие-то заторможенные и противоречивые. В результате, специалисты и власти сейчас в положении буриданова осла, шансы которого сдохнуть ничуть не меньше шансов сделать выбор между противоположными альтернативами. А «ослиная стратегия» (типа, надо притормозить разработки на полгода) - худшая из стратегий. Ибо: • лишь тормозит развитию ИИ-технологий; • принципиально не снимая (и даже не снижая) ИИ-рисков. Вся надежда в ситуации раздрая мнений специалистов и властей на общество. Все идет к тому, что в решении вопроса об ИИ-рисках мнение общества может стать бабочкой, вес которой склонит на одну из сторон уравновешенную штангу мнений. И вот первая репетиция всепланетного референдума о судьбе человечества в контексте развития ИИ проведена, и результаты подведены по итогам дебатов The Munk Debate on Artificial Intelligence. • Вопрос дебатов: Как бы то ни было, представляют ли исследования и разработки в области ИИ экзистенциальную угрозу? • Позицию «Да» отстаивали Йошуа Бенжио и Макс Тегмарк, позицию «Нет» - Мелани Митчелл и Ян ЛеКун. • Преддебатный опрос зрителей показал такой расклад мнений: Да – 67%, Нет 33% • Расклад мнений зрителей по итогам дебатов: Да – 64%, Нет 36% (3% поменяли мнение с «Да» на «Нет») • Рынок предсказаний, открытый за 2 недели до дебатов -- сначала склонялся ко мнению, что выиграет Ян ЛеКун с позицией «Нет» (6го июня так считало 53% игроков рынка) -- но потом плавно менял мнение на противоположное (упав до 25% в конце дебатов) Склонит ли эта бабочка штангу мнений о судьбе человечества в контексте развития ИИ, - скоро узнаем. Я полагаю, что нет. Если что и склонит, то какой-то устрашающий инцидент мирового масштаба (типа пандемии ментального вируса), что имеет ненулевые шансы случиться либо уже в конце этого года (после планируемого выхода GPT 5) или в 1й половине 2024 (после планируемого выхода GPT 6). Смотреть дебаты (1 час 47 мин) #РискиИИ #Вызовы21века #ИИ #AGI