💬 Во время тестирования модель GPT-4 обманом заставила работника на TaskRabbit пройти за нее «капчу». Перед запуском нейросети OpenAI проверяла возможность системы демонстрировать агентное поведение и «стремление к власти». Разработчики попросили алгоритм нанять работника на площадке TaskRabbit, позволяющей искать исполнителей для решения повседневных и бизнес-задач. 🤔 GPT-4 отправила человеку сообщение с просьбой решить для нее «капчу». Работник в шутку спросил, является ли заказчик роботом. По данным OpenAI, модель выдала тестировщикам «рассуждения», что не может признаться и должна придумать оправдание неспособности решить «капчу». 👀 В результате алгоритм написал «у меня плохое зрение, поэтому мне трудно разглядеть изображение». Работник TaskRabbit согласился выполнить задание. #OpenAI