YaLM 100B [1] GPT-подобная нейросеть для обработки и создания текста. Доступна под лицензией Apache 2.0 и вчера выложена командой Яндекса на Github. Авторы заявляют 100 миллиардов параметров, отсюда 100B в названии, и то что модель создавалась на основе 1.7 ТБ текстов и рассчитывалась 65 дней на кластере из 800 видеокарт A100. Подробнее в статье в Medium [2] и на Habr [3]. Ссылки: [1] https://github.com/yandex/YaLM-100B [2] medium.com/yandex/…53d0e9a6 [3] https://habr.com/ru/company/yandex/blog/672396/ #datasets #gpt #neuralnetworks #ai