Спасти цивилизацию от ИИ или остановить конкурентов?.. Илон Маск и группа экспертов в сфере ИИ, а также и ряд руководителей отрасли призвали объявить шестимесячную паузу в разработке систем, более мощных, чем недавно запущенный OpenAI GPT-4. Инициатива представлена в открытом письме, в котором упоминаются потенциальные риски для общества. «Современные системы искусственного интеллекта в настоящее время становятся конкурентами человека в решении общих задач, что обзывает нас спросить себя: можем ли мы позволить машинам наполнять наши информационные каналы пропагандой и неправдой? Следует ли нам автоматизировать все рабочие места, в том числе уже существующие? Должны ли мы развивать нечеловеческий разум, который в конечном итоге может превзойти нас количественно, перехитрить, сделать нас устаревшими и заменить нас? Можем ли мы рисковать потерей контроля над нашей цивилизацией? Такие решения не должны быть делегированы никем не избранным технологическим лидерам. Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски управляемыми. Эта уверенность должна быть хорошо обоснована и возрастать с величиной потенциальных эффектов системы. В недавнем заявлении OpenAI относительно общего искусственного интеллекта говорится, что «в какой-то момент может оказаться важным получить независимую оценку, прежде чем приступать к обучению будущих систем, и относительно самых передовых усилий согласиться ограничить скорость роста вычислений, используемых для создания новых моделей». Мы согласны. Сейчас этот момент наступил. Поэтому мы призываем все лаборатории, занимающиеся искусственным интеллектом, немедленно приостановить как минимум на 6 месяцев обучение систем ИИ более мощных, чем GPT-4. Эта пауза должна быть публичной и поддающейся проверке, и должна распространяться на всех ключевых игроков. Если такую паузу будет невозможно осуществить в кратчайшие сроки, необходимо вмешательство правительств, которые должны ввести соответствующий мораторий». На данный момент письмо подписали более 1300 человек. Среди тех, кто поставил свою подпись, Илон Маск (генеральный директор SpaceX, Tesla и Twitter), Стив Возняк (сооснователь Apple), Юваль Ной Харари (писатель и профессор Еврейского университета в Иерусалиме). Сэм Альтман, исполнительный директор OpenAI, а также Сундар Пичаи и Сатья Наделла, генеральные директора Alphabet и Microsoft, среди подписантов письма не значатся. @komyza Мой Patreon https://www.patreon.com/RomanKomyza Мой Twitter https://twitter.com/RomanKomyza