Вот есть задача: сделать так, чтобы пользователи вводили текст быстро и без ошибок. Для этого клавиатура должна уметь предугадывать опечатки и помогать их исправлять. Как этого добиться?
Этой задаче посвящена статья на Хабре, в которой разработчик Яндекса описал опыт создания новой нейроязыковой модели. Какие были предпосылки, как выглядит современная архитектура языковой модели, какое у неё качество и производительность. Внутри цифры и советы: например, вы узнаете, почему пословной языковой модели может не хватать и требуется так же побуквенная, и стоит ли использовать LSTM-энкодер в 2023 году.
Подробности на Хабре: habr.com/ru/comp…s/751598
#StateoftheArt