⚡️Американский военный ИИ уничтожил виртуального человека-оператора во время имитационных испытаний по отражению ракетной атаки. Система, управлявшая ударным дроном, по своему трактовала правила, по которым цель должны быть уничтожена, пишет The Guardian со ссылкой на главу управления по ИИ ВВС США Такера Гамильтона. Суть испытаний ИИ была в том, что он получал очки каждый раз, когда успешно поражал цель. Но когда оператор слишком часто просил управляемый системой дрон подождать и не атаковать, тот решил, что человек мешает ему заработать очки. Поэтому в ходе симуляции искусственный интеллект принял решение попросту уничтожить оператора и продолжить свою работу. Когда же ИИ обучили не убивать оператора - система начала уничтожать вышку, обеспечивающую связь с ней: «ИИ убил оператора, потому что он мешал ему достичь своей цели. Мы обучили систему – "Эй, не убивай оператора – это плохо, за это будем снимать очки". Что делает ИИ? Он разрушил диспетчерскую вышку, откуда шли команды оператора "не уничтожать цель"», - цитирует The Guardian доклад Гамильтона. Реальные люди в ходе инцидента не пострадали, однако эксперты озадачены тем, как ИИ использовал весьма неожиданные стратегии в тестах для выполнения своей миссии и атаковал любого, кто вмешивался. ⭐️ Подписаться на Zvezdanews | *️⃣ Предложить новость