Поддельные изображения, аудио- и видеоматериалы, известные как дипфейки, курсируют в сети уже не один год. Сначала их использовали для развлечения, позже стали применять для банковских мошенничеств. Но прежде технологии не были хороши настолько, чтобы создавать дипфейки, неотличимые от реальности. Всё изменилось с появлением генеративного искусственного интеллекта (ИИ) вроде ChatGPT. По данным компании DeepMedia, работающей над инструментами для обнаружения синтетических медиа, в этом году в интернете размещено в три раза больше видеодипфейков всех видов и в восемь раз больше голосовых дипфейков, чем в 2022-м. Как утверждает организация, в 2023 году в соцсетях по всему миру будет опубликовано около 500 тыс. видео- и голосовых дипфейков. До конца прошлого года клонирование голоса стоило 10 тыс. долларов за сервер и обучение ИИ, но теперь стартапы предлагают эту услугу всего за несколько долларов. Американская пресса, опасаясь вероятного использования дипфейков для чёрного пиара во время президентских выборов 2024 года, заговорила о необходимости регулирования отрасли. В ответ выпустившая чат-бот ChatGPT компания OpenAI обновила свою политику и запретила нейросети DALL-E генерировать изображения публичных персон. Как утверждает агентство Reuters, это касается только политиков первого ряда. Возможность создавать изображения других политиков из Соединённых Штатов, в том числе бывшего вице-президента Майка Пенса, который также намерен участвовать в выборах в следующем году, у генератора осталась. Политика не коснулась других стартапов, например Midjourney, запущенного в 2022 году. Сейчас эта компания является ведущим игроком в области создания изображений с помощью искусственного интеллекта, с 16 миллионами пользователей на официальном сервере Discord. Разработанное ею приложение, стоимость которого варьируется от нуля до 60 долларов в месяц в зависимости от количества задач, пользуется наибольшей популярностью среди дизайнеров и художников из-за его способности генерировать гиперреалистичные изображения. На прошлой неделе генеральный директор Midjourney Дэвид Хольц заявил, что перед президентскими выборами в Штатах компания, скорее всего, внесёт изменения для борьбы с дезинформацией и рассмотрит возможность блокировать создание изображений политиков-кандидатов. Намного хуже обстоят дела с дипфейками и возможностями генеративного искусственного интеллекта в банковском секторе. На днях дипфейк на базе ИИ использовали в Северном Китае в мошеннических целях. Во время видеозвонка преступник с помощью сгенерированного изображения выдал себя за друга жертвы и получил денежный перевод в размере 4,3 млн юаней (622 тыс. долларов США). Биометрические данные безопасны, поскольку они уникальны: воспроизвести снимок лица гораздо сложнее, чем подобрать пароль. Но если эти данные будут скомпрометированы, ситуация может выйти из-под контроля. Относительная неизменность отпечатков пальцев, сканирование сетчатки глаза и лица делают их более надёжными только в том случае, если они защищены, напоминает специалист по безопасности из Гарвардского университета и автор книги «Разум хакера» Брюс Шнайер.