Какую опасность представляет искусственный интеллект?

За последние несколько лет Оксфорд и Кембридж потратили миллионы фунтов на исследование возможных рисков, связанных с машинным будущим.

По словам профессора Оксфорда Ник Бостром (Nick Bostrom), книгу которого рекомендовал в Twitter Илон Мас, если ИИ каким-то образом станет намного более мощным, существует три основных способа, которыми он может в конечном итоге причинить вред. И вот они:

▪️ ИИ может сделать что-то плохое для людей.
▪️ Люди могут делать что-то плохое друг другу, используя ИИ.
▪️ Люди могут совершать плохие поступки с помощью ИИ (в этом случае ИИ будет иметь своего рода моральный статус).

Ученые Кембриджа также изучают угрозы человеческому существованию, хотя и с несколько иной точки зрения. Исследователи из Центра по изучению экзистенциального риска (CSER) оценивают биологическое оружие, пандемии и, конечно же, ИИ.

По словм соучредитель CSER лорд Мартина Риса (Lord Martin Rees), важно, чтобы любой алгоритм, который определяет судьбу людей, можно было объяснить людям.

CSER изучает, как ИИ может использоваться в войне, а также анализирует некоторые долгосрочные проблемы.