GPT и подобные следуют философской концепции Жака Деррида — «всё есть текст». Если коротко, то то, что нельзя написать текстом - не существует, потому что не может быть передано от человека к человеку. Текст при этом понимается в обобщённом виде, например математические формулы, программы на языке VBA - это тоже текст. Идея гигантских языковых моделей в том, что они замахиваются на абсолютное описание мира, в котором мы живём и работу с этой информацией. Хотя у них нет органов чувств, зрения и пр. - посредниками вполне выступают люди, у которых всё это есть. Куда всё это приведёт - хз, но тестовые задания на собеседованиях эта штука выполняет достойно, на прохождение во второй тур.