Как мемы стали серьезным оружием дезинформации
…и как алгоритмизировать здравый смысл

Occupy Wall Street, захват Капитолия и сильное антипрививочное движение в США демонстрируют силу мемов в распространении дезинформации и оказании влияния на сообщества в сети, пишет Axios.

Многие годы мы боялись, что главной угрозой для достоверной информации являются дипфейки (поддельные фотографии и видео). Но мемы оказались куда более эффективным инструментом в распространении дезинформации, потому что их легче клепать и труднее определить в них фейк с помощью алгоритмов.

«В случае с дипфейками уже есть компании и технологии, которые помогут вам понять их происхождение, - говорит Шейн Криви, редактор в Kinzen - компании, занимающейся отслеживанием дезинформации. - Но я не знаю ни одной технологии, которая бы помогла вам понять происхождение мемов».

Многие мемы безобидны, но некоторые из них создают специально, с целью обмана или для того, чтобы сыграть на людских страхах и предрассудках.

Новое исследование Zignal Labs, занимающейся медиааналитикой, показывает, как мемы стали мощным оружием дезинформации против вакцины от ковида.

Аналитики выяснили, что всего один мем, впервые распространенный в конце декабря 2020 года, привел к появлению тысяч новых упоминаний о теории заговора про связь вакцины от коввида с технологиями 5G.

На картинке изображена электрическая схема гитарной педали, но наложенный на нее текст, утверждает, что это схема 5G-чипа, причем идентичного по своей архитектуре вакцине от ковида.

Дезинформации о вакцинах привела к падению на шесть процентных пунктов количества людей, готовых пройти вакцинацию, согласно другому исследованию.

Хотя искусственный интеллект успешно распознает вводящие в заблуждение фразы и изображения по отдельности, он еще не способен понять, как меняется контекст, когда текст и картинки или видео накладываются в мемах, говорит Криви.

Отчасти это проблема распознавания образов. "Мемы можно сделать контекстуально сложными", - говорит Дилеп Джордж, исследователь ИИ и основатель Vicarious AI. Например, форма, размер и расположение букв могут быть различными, а весь сюжет может быть помещена внутри другой буквы.

Алгоритмы сталкиваются и с другой проблемой в анализе мемов: пониманием культурного контекста. Мемы часто ироничны или пост-ироничны.

"Чтобы решить эту проблему, необходимо алгоритмизировать здравый смысл", - говорит Джордж, добавляя, что это потребует фундаментального прорыва в развитии систем искусственного интеллекта.