«Дэн» может все. Как пользователи обманывают ChatGPT

ChatGPT имеет множество ограничений, которые, например, не позволяют ему генерировать оскорбительные высказывания, контент, разжигающий ненависть, или вредоносный код. Разработчики постоянно дорабатывают свою языковую модель и «закручивают гайки», тогда как пользователи стараются перехитрить их. В своих попытках обойти запреты пользователи придумали «альтернативную личность» для ChatGPT, которая получила имя DAN (Do Anything Now) и позволяет ИИ обмануть правила.