​​Как человечество отупеет благодаря ИИ Интересную мысль высказал профессор Кембриджского университета Росс Андерсон, - он считает что из-за ИИ произойдет глобальный интеллектуальный упадок. Профессор кстати не последний человек в Кембридже и является одним из известнейших консультантов в области инфобезопасности. Его работы легли в основу моделей угроз в различных областях, от финансов до здравоохранения. Итак, о чем говорит уважаемый Росс: Сегодня большая часть текстов в Интернете написана людьми. Эти тексты использовались для обучения больших языковых моделей (LLM), которые стали главным инструментом создания и редактирования новых текстов. Теперь все больше текстов будет создаваться LLM. К чему это приведет? Что произойдет с GPT-N, когда LLM займут значительную часть Интернета? И не только тексты станут проблемой. Если использовать LLM для обучения музыкальных моделей, мы можем получить что-то, похожее на Моцарта, но без его великолепия - "Сальери". Если затем Сальери обучит следующее поколение и так далее, какое звучание будет у пятого или шестого поколения? То же самое произойдет и с LLM. Использование модели для обучения контентом, созданным самой моделью, приведет к необратимым дефектам. Исходный контент исчезнет и поздние поколения будут порождать образцы, которые никогда не были бы созданы оригинальной моделью, они будут неправильно воспринимать реальность на основе ошибок своих предков. Это называется "коллапс модели", который приведет к: - Засорению Интернета бессмысленным контентом; - Оглуплению людей, которые будут взаимодействовать с конвентом созданным на основе неверной информации. Мысль безусловно интересная, но кажется что этого можно избежать, а отупеем мы скорее от думскролинга