Обложка канала

Friends.OCS

Канал про ИТ тренды и их влияние на бизнес. Основные темы: shared-экономика, исследования (переводы западных и российские), *тех, искусственный интеллект, BigData, безопасность, интернет, акции и IPO, стартапы

Friends.OCS

3 года назад
Открыть в
🔏 #безопасность Две стороны медали У любого технологического новшества всегда есть оборотная сторона использования. И пока ажиотаж вокруг использования ChatGPT снижается, его теневая альтернатива, наоборот, набирает популярность. Знакомьтесь, WormGPT – чат-бот, у которого, в отличие от ChatGPT, нет никаких этических ограничений. WormGPT, как и ChatGPT и Google Bard, создан на основе публично доступной языковой модели GPT-J. Только, в отличие от своих собратьев по искусственному разуму, он запросто напишет для пользователя вредоносную программу, сочинит фишинговое письмо или даст рекомендации, как осуществить хакерскую атаку. Причем пишет он довольно неплохо (хоть искусственный, но все же интеллект). Например, вместо однотипного текста, легко блокируемого антиспам-сервисами, “ИИ-червь” создает ”живой” текст, который такую блокировку обходит. Получается убедительное персонализированное письмо (например, якобы от вашего руководителя, но не с его электронного адреса). В общем, если вы думали, что замена человеческого труда искусственным интеллектом – это то, о чем точно нужно волноваться, спешим вас успокоить. Вероятно, что в ближайшем будущем “добрый” искусственный интеллект будет очень сильно занят противостоянием и борьбой со своим “злым” братом-близнецом, разработанными с диаметрально противоположными целями. Главное – человеку в данном процессе не оказаться между молотом и наковальней. Подробнее: the-decoder.com/chatgpt…ed-scams
"ChatGPT with no ethical boundaries": WormGPT fuels AI-generated scams

Cybercriminals are increasingly using generative AI tools such as ChatGPT or WormGPT, a dedicated malware model, to send highly convincing fake emails to organizations, allowing them to bypass security measures.

THE DECODER