Личный канал Алексея Чернобровова - консультанта в сфере Digital: Data Science, Big Data, BDSM, Digital Transformation, Artificial intelligence – и все вот эти модные слова.:) Анонсы мероприятий, вакансий, зарисовки личной жизни)
🗣ReAct от Google AI: синергия рассуждений и действий в языковых моделях
Предварительно обученные языковые модели хорошо работают в задачах планирования и выполнения действий в различных интерактивных средах (текстовые игры, веб-навигация, воплощенные задачи, робототехника), позволяя сопоставлять текстовый контекст с действиями. Но эти DL-модели не рассуждают абстрактно о целях высокого уровня и не сохраняют рабочую память в долгосрочной перспективе. Поэтому исследователи Google AI предложили новую общую парадигму, которая сочетает преимущества рассуждений и действий для языковых моделей в задачах рассуждений и принятия решений. Парадигма Reason+Act (ReAct) систематически превосходит парадигмы, основанные только на рассуждениях и действиях, при подсказке более крупных языковых моделей и точной настройке более мелких языковых моделей. Тесная интеграция рассуждений и действий также представляет собой ориентированные на человека траектории решения задач, которые улучшают интерпретируемость, диагностируемость и управляемость.
ReAct позволяет языковым моделям генерировать как вербальные следы рассуждений, так и текстовые действия чередующимся образом. Действия приводят к обратной связи наблюдения из внешней среды, а следы рассуждений влияют на внутреннее состояние модели, анализируя контекст и обновляя его полезной информацией для поддержки будущих рассуждений и действий.
Проведя ряд экспериментов, направленных на ответы на вопросы с несколькими переходами, проверку фактов и интерактивные задачи принятия решений, исследователи Google AI пришли к выводу, что ReAct обеспечивает высокую производительность с интерпретируемыми трассировками решений. Такая возможность совместного моделирования мыслей, действий и обратной связи с окружающей средой в рамках языковой модели делает ReAct универсальным агентом, способным решать NLP-задачи.
ai.googleblog.com/2022/11…ing.html