Раньше считалось, что при обучении и вообще при получении новых знаний существующие нейроны меняют картину связей, но не перекраивают всё к чертям. То есть делают всё медленно, кайфно и постепенно, аккуратно, связь за связью. На деле новые нейроны появляются в гиппокампе (эта штука когда-то отвечала за запахи, а у современной версии млекопитающих — за формирование эмоций и запись из кратковременной в долговременную память). Всю жизнь у нас заменяется по 3% нейронов каждый месяц в хорошем раскладе. Когда не бьют по голове, нормальная диета и нет стресса. Чуть помедленнее процесс идёт в лобной коре.
Это нейроны вычленения шаблона.
У Шубина есть потрясающий пример про археологию: надо три дня ходить по месту, чтобы научиться видеть в сколах следы древних животных. Все их видят, а он нет. Три дня он ходит и ищет их с диким напряжением, а потом — щёлк! — и начинает их видеть совершенно свободно.
Что случилось? Нейрогенез. Была создана новая группа нейронов, которая начала сильно иначе маршрутизировать связи между двумя разными шаблонами «след окаменелости» и «просто узор на камне». До этого там был только один шаблон: «какая-то фигня на камне». Появился новый путь маршрутизации — появилась новая верхнеуровневая функция.
Я это к тому, что если что-то сложно и совсем не получается, не надо сразу останавливаться. Вполне возможно, надо дождаться загрузки новой схемы роутинга. У нас есть механизм скачкового переобучения.