Исследователи выяснили, что мозг и алгоритмы частично сходятся в обработке естественного языка
Недавно было выявлено, что алгоритмы глубокого обучения генерируют активации, аналогичные человеческому мозгу.
Однако, что движет этим сходством, в настоящее время остается неизвестным.
Исследователи сравнили различные модели глубокого языка, чтобы определить вычислительные принципы, которые позволяют генерировать мозгоподобные представления предложений.
В частности, они анализируем реакцию мозга на 400 отдельных предложений в большой группе из 102 человек, каждого из которых в течение 2 часов записывали с помощью функциональной магнитно-резонансной томографии и магнитоэнцефалографии.
Затем проверили, где и когда каждый из этих алгоритмов сопоставляется с ответами мозга.
Анализ показывает два основных вывода:
1. сходство между алгоритмами и мозгом в первую очередь зависит от их способности предсказывать слова из контекста.
2. сходство показывает возникновение и сохранение перцептивных, лексических и композиционных репрезентаций в каждой области коры.
Это исследование показывает, что современные языковые алгоритмы частично сходятся к решениям, подобным мозгу, и, таким образом, намечает многообещающий путь к раскрытию основ обработки естественного языка.