Как современные рекламные технологии и социальная инженерия взламывают когнитивные системы человека. В своей книге «Разум хакера» Брюс Шнайер исследует концепцию хакерства за пределами стереотипных киберугроз, рассказывая о том, что хакерство глубоко укоренилось в различных системах — финансовых, политических и даже когнитивных. В одной из идей книги он рассматривает возможности взлома когнитивных систем человека. Основные уязвимости связаны с тем, что наш мозг формировался в условиях, сильно отличающихся от современных. Когнитивные взломы основаны на том, что люди используют когнитивные ярлыки для взаимодействия с социальными и технологическими системами. Если вы можете взломать разум, вы можете взломать любую систему, которая управляется людьми. Когнитивные взломы так же стары, как и наш вид, и многие из них были нормализованы так давно, что мы даже не думаем о них как о взломах. За последние пятьдесят лет компьютеры и интерфейсы предоставили больше возможностей для манипулирования восприятием людей. В сочетании с компьютерными алгоритмами и наукой о поведении эти разработки изменили скорость и изощренность манипулирования сознанием. Конечно, не стоит и преувеличивать, думая, что технологии полностью контролируют наш разум. Скорее, используемые методы представляют собой когнитивные подталкивания, манипуляции. В сочетании с развитым искусственным интеллектом эти методы станут гораздо более эффективными. Хотя такая защита от взлома, как исправление, не работает с когнитивными системами, просвещение и объявление конкретных взломов незаконными могут помочь предотвратить и смягчить ущерб. Современные рекламные технологии сосредоточены на взломе когнитивных систем, а не на простом объяснении преимуществ продукта потенциальным потребителям. Рекламодатели и брокеры данных используют микротаргетинг для персонального взлома каждого человека, собирая и монетизируя огромное количество личной информации. Социальные сети используют алгоритмы для оптимизации взаимодействия с пользователями, конечной целью которых является удержание пользователей на платформе и показ большего количества рекламы. Это часто включает в себя представление все более поляризующего и специализированного контента. Эти системы могут создавать идеологические пузыри и сокращать взаимодействия, которые могли бы заставить людей пересмотреть убеждения. Атаки социальной инженерии могут проявляться в разных формах, таких, например, как фишинг и спирфишинг. Жертвам рассылаются персонализированные электронные письма, предназначенные для того, чтобы побудить их перейти по ссылке или открыть вложение. Злоумышленники используют технологию deepfake, чтобы обманом заставить людей переводить им деньги. Наши когнитивные системы основаны на доверии, и это делает нас уязвимыми для манипуляций со стороны злоумышленников и рекламодателей. С развитием искусственного интеллекта взлом доверия станет еще более изощренным, что затруднит распознавание истины даже скептикам. Настоятельно рекомендуем к прочтению наш спринт с ключевыми идеями книги Брюса Шнайера «Разум хакера»: makeright.ru/library…r-sprint