​​Facebook обновил систему модерации контента с помощью ИИ

Facebook стал использовать машинное обучение для определения приоритетов записей в очереди, которые должны пройти модерацию.

Это должно ускорить работу по модерации публикаций и замедлить распространение вредоносного контента.

Для приоритезации публикаций используется комбинация различных алгоритмов машинного обучения, которые учитывают три критерия постов: их вирусность, серьезность и вероятность нарушения правил.

Пока неясно, как именно взвешиваются эти критерии, но Facebook заявляет, что цель состоит в том, чтобы в первую очередь разобраться с наиболее опасными сообщениями. Чем более вирусным является сообщение (чем больше его видят и публикуют), тем быстрее он будет обработан. То же самое и с серьезностью сообщения. Facebook заявляет, что считает самыми важными посты, которые связаны с реальным вредом (контент, связанный с терроризмом, эксплуатацией детей или членовредительством). Между тем сообщения, подобные спаму, которые раздражают, но не травмируют, считаются наименее важными для проверки.

Если раньше модераторы просматривали посты в хронологическом порядке, что могло замедлять время реагирования команды модераторов на публикацию более срочных записей, то теперь важные сообщения должны быть видны первыми.