​​Chess Transformer — это языковая модель, которую обучили игре в шахматы. Нейросеть предсказывает следующий ход на основе истории ходов в игре. Transformer-модель обучалась на 2.8 миллионах шахматных партий. В качестве архитектуры трансформера использовали GPT-2 с 774 миллионами параметров.