Учёные провели первую в мире кибератаку с использованием искусственного интеллекта Приложения баз данных используют методы искусственного интеллекта, которые могут переводить человеческие запросы в SQL-запросы (модель Text-to-SQL). Отправляя специальные запросы, взломщик может обмануть модели преобразования текста в SQL для создания вредоносного кода. Поскольку такой код автоматически выполняется в базе данных, это может привести к утечке данных и DoS-атакам. Атаки на 4 разные модели с открытым исходным кодом с использованием вредоносных образов достигли 100% успеха с незначительным влиянием на производительность, что делает такие проблемы трудно обнаруживаемыми в реальном мире.