Хороший обзор от David Shapiro, почему условный GPT-4 вас разочарует: — Исследования (в том числе в ИИ) становятся все более дорогими и медленными. Возможно, то, что мы называем экспоненциальным ростом ИИ, является S-кривой. Когда и насколько лучше будет GPT-4, сегодня не понятно. — Текст является одной из модальностей и пока на горизонте нет архитектуры мультимодальных сетей. Не говоря уже о том, что значительную часть сенсорной информации о мире мы просто не умеем обрабатывать. — GPT даже не рядом с ожиданием консьюмеров получить себе домашнего R2-D2. AGI в этом смысле — довольно бесполезный термин. И чем больше в медийном поле этот термин ставится через запятую с GPT, тем больше будет разочарование. — Масштаб (количества параметров) — это не единственное ограничение. Вероятно, GPT-3+ уже выел большую часть доступных текстов (мы можем ожидать лишь незначительные обновления "свежачком". Но значительная часть информации о мире в текстах просто не содержится. В GPT нет и модели когнитивной архитектуры. — Идеалистические амбиции OpenAI как некоммерческой научной организации, вероятно, разойдутся с бизнес-намерениями Microsoft. https://www.youtube.com/watch?v=KP5PA-Oymz8