Обложка канала

the Matrix

Проект об IT-технологиях и безопасности в сети. Мировые информационные новости о компрометации разных интернет проектов в сети. Агрегатор утечек информации и публикации данных из общественного доступа.

the Matrix

4 года назад
Открыть в
ML под ударом: противодействие атакам на алгоритмы машинного обучения Поверхность подобных атак охватывает всю цепочку поставки данных, начиная с информационных брокеров и открытых датасетов, заканчивая информацией, которую система собирает в процессе работы. Именно на последнем этапе пользователи Twitter испортили чат-бот Microsoft. 📖Посмотреть 𝚝𝚑𝚎 𝚖𝚊𝚝𝚛𝚒𝚡
ML под ударом: противодействие атакам на алгоритмы машинного обучения

Поверхность подобных атак охватывает всю цепочку поставки данных, начиная с информационных брокеров и открытых датасетов, заканчивая информацией, которую система собирает в процессе работы. Именно на последнем этапе пользователи Twitter испортили чат-бот Microsoft. Как правило, атаки Data Poisoning наблюдаются во враждебных условиях. Например, злодеи пытаются влиять на работу спам-фильтров, чтобы постепенно снизить их эффективность. Проблема усугубляется тем, что на работу модели может повлиять даже небольшой…

Telegraph