Гари Маркус в очередной раз “срывает покровы” с машинного обучения. Он зачастил в последнее время — похоже, релизы GPT-3, PaLM, DALL-E и Imagen не дают ему покоя, и не проходит недели, чтобы он не разоблачил тупую нейросетку. Однако это и начинает утомлять. Маркус давно пишет о том, что ML не приближает нас к ИИ, обладающему подлинным пониманием. Все — имитация, она становится лучше и все сильнее впечатляет, но интеллекта как не было, так и нет. Проблема в том, что он пишет одно и то же. Он превращается в one-trick pony: выискивает примеры, на которых сеть сыплется, показывает пальцем и говорит “ага!”. В этот раз он поймал Imagen на том, что “астронавт верхом на лошади” выходит блестяще, а “лошадь верхом на астронавте” — ну никак. На мой взгляд, он ломится в открытую дверь. Сети будут ошибаться, иногда глупо, но я бы поразился другому: как многого можно добиться, просто перемножая матрицы! Это само по себе побуждает задуматься и о природе разума, и об устройстве реальности. Надо лишь не впадать в крайности и не требовать от сетей того, чего в них нет. Маркусу ничто не мешает показать всем, как правильно: его стартап Geometric Intelligence пытается строить символический ИИ, и лучшим аргументом была бы демонстрация системы, которая “понимает”. Стартапу уже восемь лет, его в 2016-м купил Uber, но я не видел ярких демонстраций. Меньше слов.