​​Advbox — это открытая библиотека инструментов для проверки обученных нейросетей на уязвимости. В библиотеке есть функционал для генерации, распознавания и защиты от состязательных примеров. Состязательными примерами называются примеры входных данных, для которых модель выдает неверные предсказания. Разработкой библиотеки занимались исследователи из Baidu.