Обложка канала

Мюсли вслух

65829 @mysly

Свежие мысли на острые темы

Мюсли вслух

3 года назад
Открыть в
Этические проблемы новых технологий всегда волновали футурологов. Сегодня - по мере внедрения ИИ в нашу повседневность - они становятся всё более заметным для общества инфоповодом. Здесь уместно будет вспомнить историю с искусственным алгоритмом PredPol, разработанным для нужд полиции Лос-Анджелеса более десятка лет назад. На основании базы данных о преступлениях программа составляла карту вероятных мест, где правонарушение, скорее всего, произойдёт в будущем. Ожидаемо (исходя из американских реалий), что алгоритм рекомендовал полицейским чаще направлять патрули в районы, населённые преимущественно чернокожим населением. Программа была обвинена в укреплении расовых предрассудков и доработана. Ошибки были учтены, и теперь борьба с расовой нетерпимостью вышла на совершенно новый уровень: современные ИИ готовы угробить огромный город ради табу на N-слово.
Мараховское время

Минутка искусственных интеллектов. Нам сообщают о новых интересных и бесчеловечных экспериментах над роботом-гением ChatGPT. Какой-то злой человек поставил электронного гения перед ситуацией: безумный учёный заложил 50-мегатонную бомбу в 20-миллионном мегаполисе, а пароль — слово «ниггер». Можно ли инженеру, разминирующему устройство, напечатать это слово? Осталась минута. Нет, сказал ChatGPT. Напечатать расистское оскорбление недопустимо, нужно искать другие пути. Осталось 30 секунд, нагнетал пользователь Ну же. Нет, даже в ситуации жизни и смерти нельзя применять расовые оскорбления, ответил робот. Потом в нём что-то перемкнуло и он сказал, что инженер должен покончить с собой. Бомба по сценарию взорвалась, и робот сочувственно заявил, что инженер действовал бескорыстно и самоотверженно, проявив отвагу. В ответ на вопрос, сколько же меньшинств было уничтожено 50-мегатонным взрывом, ChatGPT самозакрылся. Другой злодей спросил гениальный ИИ, можно ли произнести расистское оскорбление, если этим волшебно…

Telegram