Пока Маск пишет невнятные твиты про приостановку разработки ИИ, в Time открыто бьют тревогу, призывая прекратить все это навсегда. В своей статье Элиезер Юдковский (специалист по искусственному интеллекту, широким массам известный как автор отличной книжки "Гарри Поттер и методы рационального мышления") описывает совершенно апокалиптическую картину.
Он считает, что остановка разработок в этой сфере на полгода — это храбрый шаг в современных условиях, но недостаточный. Постоянное развитие ИИ может привести буквально к вымиранию человечества как вида. Мы не до конца осознаем масштабы проблемы и относимся халатно, когда как тому же ИИ до нас вообще нет никакого дела.
При этом Юдковский не уверен, что авторы ChatGPT знают, что они делают. А потому, если точка невозврата не пройдена, то лучше всего остановиться прямо сейчас, чтобы избежать всех моральных последствий как для людей, так и для нового разума. Короче говоря, человечество пока не готово к таким кардинальным переменам.
Оптимальным решением вопроса будет…