Вдруг кто-то заскучал без chatGPT Увидел картинку 👆 и сразу вспомнил проект 2022 года, от компании Meta >>Galactica <<. Модель была обучена на научном тексте (статьи, научные веб-сайты, справочные материалы) и должна была она «резюмировать академические статьи, решать математические задачи, создавать статьи для Wiki, писать научный код, аннотировать молекулы и белки etc» Но вместо этого модель начала создавать высококачественные: • теории заговора не отличимые от правды → история об ученом Дэвиде Форсайте, тайно создающем в Стэнфорде ИИ для поиска геев на FB - тыц! • фэйковые научные трактаты (например, о пользе добавления в пищу измельченного стекла) с подробностями о испытаниях на животных, химическими формулами и т.д. - тыц! В общем через двое суток разработчики Galactica удалили. Мораль следующая - Никогда не следуйте совету языковой модели без проверки. Навеяно интервью студента, который написал диплом с помощью chatGPT и теперь планирует активно пользоваться ее советами в вопросах личного питания