Обложка канала

addmeto

65087 @addmeto

Ровно один час в день я трачу на то, чтобы читать новости и писать в блог.

addmeto

3 года назад
Открыть в
Утекшие документики из Гугла показывают, что новая языковая модель PaLM 2 обучена на значительно большем обьеме текстовых данных, разница почти в 5 раз. 3.6 триллионов токенов и 340 миллиардов параметров, вот это я называю “закидать проблему деньгами”. Боюсь представить, сколько стоило обучение этой модели, и сколько сейчас стоит её эксплуатация в продакшне. www.cnbc.com/2023/05…sor.html
Google's newest A.I. model uses nearly five times more text data for training than its predecessor

In announcing its PaLM 2 large language model, Google neglected to say how much training data was used for its most advanced LLM.

CNBC