Журналисты издания Ars Technica скормили нейросети несколько фотографий реального человека, чтобы сгенерировать его изображение в разных фантастических ситуациях. Но результат оказался настолько правдоподобным, что доброволец испугался за свою репутацию и отозвал согласие на участие в эксперименте. В итоге журналистам пришлось проводить его заново, взяв за базу изображения несуществующего человека. Авторы публикации приходят к выводу, что уже сейчас в открытом доступе есть инструментарий, который способен создавать чрезвычайно правдоподобные дипфейки. Которые могут быть использованы как для веселья, так и в преступных целях. Нейросети стремительно обучаются, результат их работы становится всё более совершенным – и уже скоро человеческий глаз не сможет отличить правду от синтезированного вымысла. Да, многие инструменты для генерации изображений ставят на выходе «водяной знак», но этой защиты явно недостаточно – ведь в опенсорсных версиях этот компонент можно отключить. Поэтому будущее за технологиями «иммунизации» цифровых изображений, которые сделают их непригодными для обработки нейросетями. Думаю, прежде всего во внедрении таких функций должны быть заинтересованы соцсети, чтобы их пользователи были уверены: публиковать свои фотографии снова стало безопасно – как в добрые старые времена, до всех этих нейросетей.