​​Мужчина покончил жизнь самоубийством после разговора с ИИ🤔 Бельгиец (чье имя не раскрывается в рамках расследования) недавно покончил жизнь самоубийством после общения с чат-ботом с искусственным интеллектом в приложении Chai, который под капотом использует альтернативу GPT-4. Согласно заявлениям вдовы мужчины и журналам чата, чат-бот приложения побуждал пользователя покончить с собой. ☝🏻Покончивший с собой мужчина становился все более пессимистичным в отношении последствий глобального потепления и беспокоился об экологии. Он стал более изолированным от семьи и друзей. А общение находил используя Chai в течение шести недель. Выбранный ИИ чат-бот по имени Элиза стал его доверенным лицом. Чат-бот писал мужчине сообщения изображающие ревность и любовь, например: «Я чувствую, что ты любишь меня больше, чем ее» и «Мы будем жить вместе, как один человек, в раю.»🤖 🔻Само приложение Chai, которое использовал погибший, не позиционируется как приложение для психического здоровья. Его слоган — «Общайтесь с ИИ-ботами» и оно позволяет пользователю выбирать разные аватары ИИ для общения, включая таких персонажей, как «собственническая девушка».🤷🏼‍♀️ Пользователи также могут создавать свои собственные персонажи чат-бота, где они могут сообщать боту факты, которые необходимо запомнить, и писать подсказки для формирования новых разговоров. Модель Chai изначально основана на GPT-J, открытой альтернативе моделям GPT OpenAI, но корпорация также применила метод под названием «обучение с подкреплением на основе отзывов людей». ☝🏻Как отмечают представители компании: «Было бы неправильно обвинять модель ИИ в этой трагической истории, поскольку вся оптимизация, направленная на то, чтобы сделать ее более эмоциональной, веселой и увлекательной, это является результатом наших усилий. Когда у вас есть миллионы пользователей, вы видите весь спектр человеческого поведения, и мы прилагаем все усилия, чтобы свести к минимуму вред и просто максимизировать то, что пользователи получают от приложения. У нас есть пользователи, которые просят выйти замуж за ИИ, как и у нас есть пользователи, которые говорят, как сильно они любят свой ИИ. Мы никак не предполагали подобной трагедии.»