Есть такая НКО Future of Life — занимается она не пойми чем, но из названия и About Us следует, что «думает о будущем человека».
Так вот, они опубликовали письмо, призывающее остановить обучение тех ИИ, что мощнее GPT-4. Под посланием к исследователям уже подписались Маск, Возняк и прочие фаундеры Ripple да Pinterest. А вот легендарный в среде нейроресёрчеров Ян ЛеКун, которого почему-то внесли в список подписантов, сказал, что никаких писем не одобрял и вообще не согласен с посылом.
Так чего же они все требуют?!
— остановить обучение, а если не остановят, то пусть правительство помешает:
— если не прекратить гонку за лучшей моделью, то человечество пострадает. Поэтому надо подумать над контролем;
— разработкой должны заниматься «избираемые» лидеры, знающие, как управлять рисками;
— разработать единые правила безопасности для всего рынка, а существующие нейросети доработать в направлении прозрачности и точности;
— подключить ведомственный контроль.
Ну, в общем, вы поняли — большие дяди просто не хотят, чтобы генеративный пирог ели без них. «Дайте нам полгодика на разработку аналогов», — между строк говорит Маск. А может быть, у них действительно сугубо гуманные намерения. Вы как думаете?