Яндекс выложил в опенсорс языковую модель YaLM на 100 млрд параметров 🙈 Сейчас это самая большая в мире GPT-подобная нейросеть в свободном доступе как для английского, так и для русского языков. В Яндексе YaLM уже больше года является частью бэкенда Поиска и Алисы Модель обучалась 60 дней на 1,7 ТБ текстов из интернета, книг и множества других источников с помощью 800 видеокарт A100 😅 Ссылка на Гитхаб Ссылка на статья на Хабре