r/ #whatcouldgowrong Создатели ChatGPT в шоке: компания всерьёз опасается искусственного интеллекта, который будет намного умнее людей В настоящее время OpenAI спешно набирает команду, которая займётся контролем. Ключевая задача: «Как мы можем гарантировать, что ИИ, намного более умный, чем люди, будет следовать человеческим намерениям?» На решение отводится четыре года. Текущие нейросети во время обучения опираются на человеческие знания. Но как только они их преодолеют, контролировать ИИ будет невозможно. OpenAI прямо говорит, что не знает, что делать, если ИИ взбунтуется. Более того, компания не уверена, что новая команда сможет найти решение. На кону стоит потенциальное «лишение человечества прав и возможностей или даже вымирание».