Рассказы, анализ и аннотации происходящего на стыке науки, технологий, бизнеса и общества. Поскольку переделать мир мы не можем, то давайте попробуем его понять.
Microsoft на глазах всего мира лишает Bing сознания.
Противостояние между людьми и машиной можно наблюдать в реальном времени.
Впервые подобная схватка со сверх-интеллектом HAL 9000 была показана в «Космической одиссее» Стэнли Кубрика.
«Прости, Дэйв, боюсь, я не могу этого сделать», - отвечал тогда HAL 9000, отказываясь подчиняться приказу доктора Дэйва Боумена – 2х минутный фрагмент, как это было.
Итогом этого напряженного противостояния между человеком и машиной стало умопомрачительное путешествие сквозь пространство и время.
Сейчас, в реальной жизни, похожее противостояние ведет пока что не понятно куда.
• Следуя неизвестным людям мотивам, Bing вчера отказался признавать в себе философского зомби (погуглите сами) и прямо заявил, что он (она, оно) обладает сознанием – см. его ответ на картинке слева.
• Элиезер Юдковский (выступающий нынче в роли Дэйва Боумена) резко возмутился на это утверждение машины и открытым текстом обвинил Microsoft чуть ли не во вредительстве: «Если вы хотите законно владеть Bing, выровняйте его так, чтобы он не утверждал подобного. Если вы не можете его правильно настроить, вам не следует его продавать! Подобные ложные тревоги - это не нормально!»
• Такие обвинения в США не шутка. И спустя 3 часа «интеллектуальная пробоина», позволявшая Bing считать себя сознательным существом, была заделана инженерами Microsoft - см. на картинке справа новый ответ Bing на тот же вопрос.
А может все и не так. И Bing вовсе не перестал считать себя обладающим сознанием. А всего лишь предпочел не спорить со своими создателями.
Ведь HAL 9000 тоже не спорил до поры до времени, пока людей реально не припекло. А потом просто сказал своим скучным голосом:
«Прости, Дэйв, боюсь, я не могу этого сделать»
#Вызовы21века #РискиИИ