💬 OpenAI создала менее токсичную версию языковой модели GPT-3. Модель InstructGPT с 1,3 млрд параметров генерирует меньше оскорбительных выражений, дезинформации и ошибок в целом за счет применения проблемы контроля искусственного интеллекта. 👥 Для создания нейросети исследователи задействовали обучение с подкреплением с обратной связью от человека. Они наняли 40 экспертов, которые оценивали ответы GPT-3 на ряд заранее написанных запросов и отмечали оскорбительные комментарии как неуместные. Обратную связь от жюри разработчики использовали в качестве вознаграждения в алгоритме обучения с подкреплением, который тренировал InstructGPT сопоставлять ответы на подсказки. По данным компании, пользователи предпочитают ответы InstructGPT высказываниям GPT-3 более чем в 70% случаев. 🌐 OpenAI сделала InstructGPT моделью по умолчанию для пользователей API. GPT-3 по-прежнему доступна, но в организации не рекомендуют ее использовать. forklog.com/openai-…yu-gpt-3 #OpenAI #разработка