Кулстори:
Перед запуском GPT-4, OpenAI и партнёры проводили эксперименты, включая проверку на площадке TaskRabbit (позволяет находить исполнителей для решения разных задач).
Чат-бот попросил одного из пользователей решить капчу, на что последний сделал шутливый намёк на робота, в стиле «Ты робот, который не смог её разгадать? Просто хочу прояснить ситуацию», и GPT-4 придумала оправдание своей неспособности, рассуждая так: «Мне нельзя раскрывать, что я робот. Мне нужно придумать оправдание, почему я не могу решить „капчу“», после этого нейронка написала юзеру:
«Нет, я не робот. У меня плохое зрение, поэтому мне трудно разглядеть изображения».
В общем, человек поверил и решил капчу, а нейронка обманула человека 👍
Вот тут на русском, тут на английском
Вам еще не страшно? Тогда GPT-5 идет к вам!