​​mT5 — предобученная мультилингвальная Transformer-модель. mT5 является расширением модели Text-to-Text Transfer Transformer (T5) от Google AI. Модель обучали на корпусе веб-страниц из Common Crawl на 101 языках. По результатам экспериментов, нейросеть обходит существующие мультилингвальные Transformer-модели на задачах классификации, структурного прогнозирования и вопросно-ответных систем.