Джин, сбежавший из бутылки, или как языковые модели захватят мир 🧞‍♂️ Лоз Блейн, соавтор New Atlas, написал небольшую, но очень резонирующую статью, в которой, рассматривая прецедент создания исследовательским центром Стэндфордского института собственной языковой модели за каких-то 600$, ставит крайне актуальные вопросы о прогрессе, который уже не остановить. С чего все началось? Alpaca – это проект на основе LLaMA 7B, модели с открытым кодом от Meta. Ученые исследовательского центра натренировали ее с помощью всего лишь 52К инструкций, сгенерированных ИИ. Несмотря на простоту образовательного портфолио «альпаки» и скромности бюджета, вложенного в ее обучение, ее способности, судя по тестам, ничем не уступают ChatGPT. И в чем проблема? Автор статьи отмечает, что такая низкая «себестоимость» и доступность сотворения собственной языковой модели – это, с одной стороны, очень здорово, а с другой – попросту опасно. И дело скорее не в потенциальной катастрофе, которая может перевернуть мир офисных сотрудников, если ИИ перетянет одеялко профессиональных обязанностей в свою сторону, а в угрозе превращения языковых моделей в инструмент мошенников, спамеров и «авторитарных режимов» (прямая цитата). К тому же, если многочисленные разработчики, окрыленные успехом ChatGPT, с конца прошлого года в поте лица подкручивают винтики своих ИИ-продуктов, чтобы успеть покорить цифровой Олимп в ближайшее время, то не является ли успех Alpaca предвестником скорого провала их коммерческих начинаний? Впрочем, загнать джина обратно в бутылку уже не получится, поэтому нам остается только адаптироваться к новой реальности и изучать ML и DL.