Запрещенная в России (и только в ней) за экстремизм компания Мета представила вторую версию своей опенсорсной лингвистической модели – LLaMA 2. Код (точнее параметры, или веса) второй Ламы открыт как для научного, так и для коммерческого использования. Единственно, для применения в системах с 700+ млн ежемесячных активных пользователей нужна будет специальная лицензия (у Твиттера их, к примеру, не больше 450 млн), за которой придется обращаться в Мету. Система обучена на 2 триллионах токенов, а также на 1 млн новых человеческих аннотаций. Лама 2 доступна в версиях с 7, 13 и 70 млрд параметров. Компания признает, что с точки зрения производительности есть значительный разрыв между Ламой 2 и GPT-4, с другой стороны, для многих кейсов такой мощности вполне хватает – большинство пользователей не заметит разницы. Хоть компания и экстремистская, а четко следует рекомендациям, высказанным российскими экспертами в июне на ЦИПРе: чтобы бороться с лидерами рынка ИИ, нужно открыть свои разработки для всех желающих. И надо сказать, Мета добивается успеха. Первая Лама уже лежит в основе многих опенсорсных моделей, многие из которых можно запустить даже на домашнем оборудовании, пишут в своем отчете по генеративным ИИ «ГенИИ: второй пилот со странностями» компания Б1, бывшее российское подразделение Ernst & Young (EY). Это снижает барьер для корпоративного применения генеративного ИИ. Отчет, кстати, еще не вышел, но скоро будет доступен. Он будет полезен тем, что собирает все про генеративный ИИ в одном месте и дает хорошее представление о том, где мы сейчас и что может ждать нас в будущем. Выше страничка из отчета, посвященная опенсорсным генеративным ИИ.