Как и предостерегали нас ранее, генерация без границ — не всегда хорошо. Особенно, если нейросеть убедительно начинает обвинять реальных людей в несуществующих преступлениях. Например, один известный американский профессор права спокойно себе почивал, пока ему не прислал имейл знакомый юрист — в нём был список от ChatGPT, в котором чат-бот перечислил персон, обвиняемых в харассменте. В случае с профессором он сослался на статью The Washington Post от '18 года. Адресат, конечно, был шокирован. Но есть проблема: ИИ выдумал материал, как и всю историю с ним связанную. И вот такие штуки настораживают больше всего — скоро грань станет настолько размытой, что одна моделька сама по себе сможет свою фабрику фейков развернуть, а мы и не заметим :]