Последние месяцы кратно усилился инфопоток на тему нейросетей и их возможностей. Российские эксперты по ИТ-безопасности предупреждают, что через нейросети искусственный интеллект будет способен создать фото и видеоматериалы, а также любые документы, нейросети обучаются на гигантских объемах данных и уже выдают читабельные тексты, хорошие картинки, будто их создал реальный человек. В связи с этим вскоре столкнемся с ситуацией, когда будут создаваться различные фейки, фальсифицированные документы, видео и фото, неотличимые от оригинала. Они могут использоваться криминалом для вымогательства денег у обычных людей. Технологии развились настолько, что мошенники смогут автоматически подделывать тексты для вымогательства личной информации у потенциальной жертвы. Возможна подделка видео, на котором будет показан сгенерированный персонаж, изображающий, к примеру, родственника, участника ДТП, говорящего«своим» голосом. Дипфейки (используют для «оживления» умерших в кино) также можно использовать для репутационных атак и шантажа. Сама по себе цифровая сфера дает возможность мошенникам работать с десятками, а то и сотнями людей в день. А с помощью нейросетей будут производиться дозвоны тысячам потенциальных жертв одновременно. Количество жертв таких преступлений существенно возрастет. Еще одна опасность нейросетей заключается в том, что жулики могут использовать эти же технологии для подначивания граждан на саботаж или на какие-либо преступления во время военных действий. Меры, которые помогут частично защитить граждан от потенциальных злоумышленников, использующих нейросети, должны применяться на государственном уровне. В интернете необходимо обеспечить базовую безопасность, которой на данный момент практически нет. Можно это делать и на бытовом уровне, руками самих пользователей. Например, доверчивым пожилым родственникам необходимо ограничивать доступ в Сеть, разрешить вход только на проверенные сайты, запретить брать звонки с незнакомых номеров. Также необходимо ввести законодательную работу с сотовыми операторами, которые не хотят запрещать подмену телефонных номеров при звонках и блокировать номера мошенников. Для этого нужны изменения на законодательном уровне – в том числе введение уголовной ответственности за незаконный оборот персональных данных. Это, кстати, планирует сделать российская Госдума уже в апреле. Скажем так, парламентарии готовятся к худшему. За примерами возможностей нейросетей далеко ходить не нужно. Совсем недавно музыкальный продюсер Иосиф Пригожин рассказал, что нейросети подделали его разговор, где он крыл матом власти. Его диалог с собеседником просто фонтанировал ненормативной лексикой и был долгим – целых полчаса. Там было много повторений, но завершился долгий разговор неожиданно, оборвался почему-то. В Сети выложен любопытный материал как раз по теме возможностей нейросети. Якобы это приватный разговор Ксении Собчак и Ольги Бузовой. Бузова там кроет президента Байдена. Тембр голоса, интонации, ритм речи, особенно Собчак, в этом диалоге достаточно похожи на реальные. Правда, сам разговор изобилует штампами, но главное, в другом: фейковый материал для вброса, скорее всего, можно смоделировать, подделать и довести фальшивку до совершенства. Пока здесь видно только начало экспериментов, но стоит поработать и результат превзойдет все ожидания. На Иосифе Пригожине потренировались, как на боксерской груше: он сам дал повод, вступил в диалог, – остальное по одной из версий, было уже делом новых технологий.