​​Ложь и пропаганда станут повсеместны, неопределимы и непреодолимы. Как будет выглядеть падение человечества в пропасть AICG. Опубликован большой отчет Center for Security and Emerging Technology, OpenAI и Stanford Internet Observatory «Генеративные языковые модели и автоматизированные операции влияния: ввозникающие угрозы и потенциальные меры по их смягчению». Отчет содержит стратегическую аналитику катастрофического сценария, описанного в обращении Кай-Фу Ли к мировому сообществу разработчиков ИИ. Напомню читателям. Перед самым НГ ИИ-гуру Китая Кай-Фу Ли рассказал, что уже в 2023 мир столкнется с риском более серьёзным, чем риски ядерной войны, голода или пандемии. Это риск того, что технологии AICG (генерация контента с помощью ИИ) сделают неотличимыми правду и ложь, как для индивидов, так и для социумов любых масштабов. Новый отчет расписывает в деталях, как, скорее всего, будет происходить процесс падения человечества в пропасть AICG. Кардинально изменятся: ✔️ Доступность и эффективность любых операций влияния (как на индивидов, так и на социумы) ✔️ Три ключевых фактора появления, распространения и принятия лжи за истину в мире: • акторы, ведущие кампании пропаганды лжи; • способы и тактика такой пропаганды; • пропагандистский контент В результате применения все более совершенных больших моделей, LLM и ИИ-генераторы образов станут: • более удобными для использования (упрощая их применение в операциях влияния), • сильно надежными (уменьшая вероятность того, что модели выдают выходные данные с очевидными ошибками) • и сильно эффективными (повышая экономическую эффективность применения LLM и ИИ-генераторов образов для операций влияния). Как будет происходить этот прогресс, иллюстрирует рисунок, сопровождающий данный пост. ✔️ Вверху: как с 2014 по 2021 менялось качество фейковых образов людей, генерируемых моделями. ✔️ Внизу: как в 2022 произошел революционный прорыв, в результате которого стала возможна предельно точная и убедительная генерация чего-угодно (например, фейковых образов по таким описаниям «Енот в официальной одежде с цилиндром, тростью и мешок для мусора. Картина маслом в стиле Рембрандта (результат слева) и Ван-Гога (справа)». Итогом (1) предельного упрощения процесса стирания границы правды и лжи в сочетании с (2) неспособностью критического мышления людей бороться с ИИ-пропагандой, - станет доминирование и в политике, и в бизнесе повсеместных, неопределимых и непреодолимых операций влияния. #AICG #РискиИИ