​​🤖🤝😊 OpenAI формирует новую команду исследователей, которые должны будут предотвратить гибель человечества от рук ИИ 🔻Возглавит исследовательскую группу Илья Суцкевера, главный научный сотрудник и один из соучредителей компании. Команда будет иметь доступ к 20% вычислительной мощности всей корпорации OpenAI на сегодняшний день и будет стремиться решать основные технические задачи контроля над «сверхразумными» ИИ. ☝🏻Суцкевер отмечает, что «сверхразумный» ИИ — не обязательно будет доброжелательным, что потребует исследования способов его контроля и ограничения. «В настоящее время у нас нет решения для управления потенциально сверхинтеллектуальным ИИ и предотвращения его выхода из-под контроля» — отмечают исследователи. Что бы решит проблему люди предлогают создать ИИ способного добиться более быстрого прогресса в «исследованиях выравнивания» ▫️Исследования выравнивания — касаются проблемы обеспечения согласованности целей и ценностей умственно развитых систем искусственного интеллекта с целями и ценностями человечества. Однако команда OpenAI отмечает, что «ни один метод не является надежным в данном вопросе».🤷🏼‍♀️ Они также будут сотрудничать с другими экспертами в области машинного обучения, чтобы решить проблему выравнивания и поделиться своими выводами с более широким сообществом.