Личный канал Алексея Чернобровова - консультанта в сфере Digital: Data Science, Big Data, BDSM, Digital Transformation, Artificial intelligence – и все вот эти модные слова.:) Анонсы мероприятий, вакансий, зарисовки личной жизни)
💡🤔⚡️Выходит модель LLaMA 2
Llama 2 — большая языковая модель нового поколения. Новая версия доступна для исследовательских и коммерческих целей и поддерживает открытый подход к разработке и распространению современных моделей ИИ.
Основные отличия от первой версии:
– Добавили Grouped-Query Attention
– Токенов стало больше в два раза(2Т)
– Контекст увеличили до 4К
– И самое интересное: по словам авторов, есть Chat версии. Они дообучены на диалог, и там даже есть RLHF, прямо как в ChatGPT. По качеству бот сравнимм с ChatGPT-3.5, однако на многих задачах ведет себя даже лучше.
📖Статья 🖥 Github 🤖 Demo