Немного офтопа, но у нас осталось всего десять лет
TechCrunch пишет, что OpenAI формирует новую команду, чтобы взять под контроль «сверхразумный» ИИ.
Это ИИ, который переплюнет наш с вами разум. Руководитель команды контроля Илья Суцкевер говорит, что он появится в любом случае и произойдёт это в ближайшие десять лет.
Потом подметил, что он «не обязательно будет доброжелательным, что потребует исследования способов его контроля и ограничения».
На данный момент у команды нет решения и предполагаемого выхода из ситуации, если сверхразумный ИИ выйдет из-под контроля.