​Глава OpenAI Сэм Альтман вернулся из мирового турне в США и сразу дал интервью самой известной техно-журналистке Эмили Чен из Bloomberg. Чен встретила Альтмана на сцене словами «Единственный и неповторимый… человек, который решает наше Эмили Чен: Вы подписали публичное заявление, состоящее всего из 22 слов об опасности ИИ. «Снижение риска вымирания из-за ИИ необходимо сделать глобальным приоритетом наравне с глобальными рисками вроде пандемии и ядерной войны». Объясните нам, как от крутого чатбота мы можем прийти к концу человечества? Сэм Альтман: Мы не планируем. Чен: Ну мы надеемся, что не планируете, но также опасаемся. Альтман: Много чего может пойти не так, но люди очень часто используют технологии, которые серьезно угрожают миру разными способами. И за десятилетия мы придумали множество системных мер безопасности в разных сферах, которые хорошо работают. Стандарты безопасности несовершенны и много чего пойдет не так. Но думаю мы сможем снизить риск худших сценариев вроде биотерроризма, кибербезопасности и других очевидных угроз. Основная проблема в обращении с ИИ заключается в том, что эта технология развивается по экспоненциальной кривой роста, и очень крутой кривой. А человеческая интуиция в ситуациях с экспоненциальной кривой очень плохо работает, эволюция нас, очевидно, к этому не готовила. Так что несмотря на такую эволюционную слабость, мы должны заставить себя осознать: «Ок, GPT4 – не представляет такого страшного риска, как мы говорим, но уверены ли мы, что GPT9 не будет представлять тех самых страшных угроз? И если есть хотя бы небольшой процент вероятности, что угроза станет реальной – нужно уже напрячься». Чен: Если вероятность худшего сценария существует, зачем вообще продолжать развитие ИИ? Почему бы не остановиться? Альтман: По ряду причин. Я считаю что плюсы технологии – потрясающие: возможность всем на Земле получить гораздо более качественное образование, чем доступно кому-либо сегодня – это очень важно. Развитие медицины сделает ее доступной везде, это реально многое преобразит. Мы увидим выдающийся научный прогресс, а я свято верю что именно научно-технологический прогресс приводит к улучшению всех сфер жизни, и мы увидим серьезный прогресс и очевидную пользу. Я думаю, что это поможет побороть нищету. Но, чтобы добиться этого всего нам нужно справиться с рисками. Также бизнесы сегодня уже разглядели, какой экономический рост обещает эта технология, и уже ни за что от нее не откажутся. И я считаю что глобальной регуляцией ИИ мы можем себя обезопасить, это лучше, чем останавливать развитие технологии. Я не думаю что остановка вообще возможна.