🗣 Мнение: сверхразумный ИИ может дать сбой и уничтожить человечество. Ученые из Оксфордского университета и лаборатории DeepMind попытались спрогнозировать, как алгоритмы с системами вознаграждения могут выйти из-под контроля и навредить людям. За основу исследования они взяли генеративно-состязательные нейросети (GAN). Исследователи предположили, что в какой-то момент продвинутый ИИ, контролирующий важную функцию, может прибегнуть к мошеннической стратегии для получения вознаграждения. ☝️ По их словам, необходимо с большей подозрительностью относиться к искусственным агентам и замедлить или приостановить разработки сверхразумных алгоритмов. forklog.com/news/uc…echestvu #исследование #мнение