Пользовали начали использовать нейросети в качестве личного психотерапевта.
За последний месяц англоязычный форум Reddit наполнился историями людей о "терапии" с помощью ChatGPT. С определенной тренировкой чат-бот начинает отвечать как настоящий терапевт — юзеры поражаются его способности слушать, навыкам эмпатии и ценным советам. Пользователи рассказывают, что беседуют с искусственным интеллектом по несколько раз в день, справляются со стрессом и получают эмоциональную разрядку. При этом чат-бот в отличии от терапевта полностью бесплатен, с ним не так страшно говорить о личных травмах и он всегда на связи. Идея не нова — один из первых чат-ботов Eliza, созданный еще в 1960-х, должен был выполнять примерно те же задачи, но проект был ограничен техническими возможностями времени. Теперь энтузиасты воплотили эту идею, но эксперты выражают опасения по этому поводу.
Дело в том, что ChatGPT обучается на репликах обычных людей, в том числе сообщений с самого Reddit, а языковая модель чат-бота запрограммирована выдавать убедительно звучащую информацию. При этом нейросеть не может отслеживать, что говорят ей “клиенты” от сеанса к сеансу, и не может следовать базовым этическим принципам — например, GhatGPT сохраняет все разговоры пользователей для последующего обучения. Более того, сама компания OpenAI, создавшая чат-бот, предостерегает пользователей от использования диагностических и лечебных целях. Эксперты считают, что ИИ можно использовать как дополнение к обычной терапии (для возможности “поговорить” с кем-то), но чат-бот также может усугубить страдания человека.
