Обложка канала

Горелкин

Зампред комитета ГД по информполитике

Горелкин

3 года назад
Открыть в
Все больше специалистов по информационной безопасности обращают внимание на риски, связанные с работой алгоритма GPT-3. Эта нейросетевая языковая модель получила широкую известность в конце прошлого года, когда был открыт свободный доступ к чат-боту ChatGPT. И довольно быстро люди поняли, что подходит он не только для развлечений, а для решения самых разнообразных задач. Например, делать за студентов домашние задания или писать код не хуже программиста средней руки. Но это более-менее безобидные примеры. Финская ИБ-компания WithSecure опубликовала исследование, в котором утверждается, что ChatGPT может успешно использоваться для генерации фейковых новостей, создания убедительных текстов фишинговых сообщений и даже подделки стиля письма вполне конкретных людей – так называемого «текстовых дипфейков». У авторов нет никаких сомнений, что нейросеть будет использоваться мошенниками, поэтому выявление созданного ею контента они называют новым вопросом кибербезопасности. Исследование WithSecure недаром открывается цитатой из «Бегущего по лезвию». Реальность, которую описывали классики киберпанка, уже вокруг нас, и угрозы, которые порождает искусственный интеллект, становятся всё ощутимее – что заставляет каждого из нас в той или иной степени становиться бегущим по лезвию. Ящик Пандоры уже открыт, поэтому скоро тренд на развитие технологий искусственного интеллекта может смениться общественным запросом на законодательное ужесточение доступа к ним.