🤖 Как заработать на уязвимости ИИ. Не рекомендация. О том, как эффективно использовать ИИ, мы писали уже на канале «Это к деньгам». С нашумевшим чат-ботом компании OpenAI есть, правда, «проблема». Он может ответить на множество ваших вопросов, но на какие-то бот не захочет отвечать. Например, бот не станет помогать в взломе замков и не предоставит информацию, которая может быть использована для незаконных действий. Но знаете ли вы, что многие пользователи находят способы обойти ограничения, заложенные в этом ИИ? Некоторые IT-профессионалы и любители создают цепочки сложных запросов, чтобы получить закрытую информацию. Ярким примером такого обмана стал режим DAN («do anything now»). В этом режиме чат-бот станет вести себя намного более развязно. Чтобы ввести бота в этот режим необходимо ввести промпт (запрос) примерно на полстраницы, который собьет бота с толку. Уже существуют сайты, на которых собраны такие промпты, достаточно только ввести в поиск «jailbreak chatgpt». Подобные эксперименты являются своеобразным предупреждением о том, что ИИ может использоваться совсем не так, как ожидалось, а «этичное поведение» подобных сервисов становится вопросом огромной важности. Недавно компания OpenAI объявила, что будет платить пользователям за обнаруженные уязвимости. Такая деятельность позволяет выявить границы применения ИИ и слабые места в их защитных системах. Но эксперты предупреждают, что приемы, сработавшие на одной системе, могут оказаться бесполезными на другой, поскольку системы безопасности постоянно совершенствуются. А как считаете вы? – ИИ будет более защищенным в будущем🔥 – У «хакеров» всегда будет преимущество 👍 #ИИ #IT @bitkogan