Оптимизация нейросети на максимальный вред человеку: первый эксперимент
Недавно учёные из фармацевтической компании Collaborations Pharmaceuticals с коллегами из европейских научных институтов провели концептуальный эксперимент. Вместо синтеза новых лекарств они задали нейросети MegaSyn AI обратную задачу — найти вещества, максимально токсичные для человеческого организма. Нейросеть корректно поняла условие и менее чем за шесть часов сгенерировала список из 40 тысяч веществ, которые наилучшим образом подходят для химического и биологического оружия.
Получается, что если поставить задачу нанести вред человеку, то ИИ быстро найдёт максимально эффективное решение