«Золотые ИИ-рыбки» «Усиливающееся с каждый днем цифровое волшебство – верный инструмент для построения самой настоящей утопии, где все наши базовые потребности автоматически удовлетворяются, а мы заняты созиданием и реализацией творческого потенциала, который мы каждый день понимаем все лучше. Нужно только правильно выстроить цепочку желаний, которые мы загадываем ии-рыбкам — и цифровая утопия настанет. Но вместо этого мы систематично загадываем рыбкам такие желания, от которых наш мир и наши общества превращаются в цифровую антиутопию семимильными шагами. Люди просят ии-рыбок о наколдовать им инструменты для слежки, орудия уничтожения и разрушения, машины для максимизации прибыли и массовой автоматизации лжи. Есть и другие, более конструктивные желания, в основном перечисленные Альтманом в письменных показаниях: ии-рыбок просят сделать людей здоровее, обеспечить им если не бессмертие, то долголетие и продленную молодость, научить их учиться и учить их детей, побороть голод и климатические кризисы.  Но так же как в математике умножение минуса на плюс дает минус, так и в нашей цивилизации, негативные тенденции в обращении с ИИ окрашивают весь позитив в мрачные тона. Например, если в основе ИИ-зации человечества будут лежать неверные предпосылки, то ИИ-репетиторы будут воспитывать детей цифровыми фашистами, накормленными и с отменным здоровьем, но заточенными на то, чтобы уничтожать таких же цифровых фашистов из соседних стран.  Задумайтесь на секунду, что именно Евгений Пригожин, которого мы сейчас знаем как массового убийцу и владельца ЧВК Вагнер, одним из первых проэксплуатировал возможности ИИ соцсетей для того, чтобы вмешаться в выборы президента США в 2016 году. Его фабрика троллей и дезинформационное агентство, конечно, было не настолько технологичным, как британская Cambridge Analytica, однако пригожинские боты и тролли помогли Трампу стать президентом, и именно о них думают американские сенаторы, допрашивавшие Сэма Альтмана на этой неделе и требовавшие заверить их, что новый ИИ в руках пригожиных не разрушит демократию и не сорвет выборы президента США 2024. Пригожинские тролли работали не только на диверсии при выборах в других странах – они точно так же обрабатывали российское население и способствовали созданию идеологии рашизма. Ожесточение россиян, поддержка Путина и войны – в очень значительной степени результат алгоритмической ИИ-власти в дурных руках, если учесть, что десятки миллионов россиян больше 15 лет обрабатывались не только телевизионной пропагандой, но и политически заряженным ИИ социальных сетей Вконтакте и Одноклассники, а также поисковика Yandex. Путинский режим с помощью ИИ предыдущего поколения (поисковиков, соцсетей и ботов) сумел создать общество, в котором черное называют белым и которое поддерживает массовые убийства и репрессии, которому весь мир кажется злым, а оно само – праведным, несмотря на все убийства и насилие. Как так получается, что воля и цели есть у, мягко говоря, негативно настроенных людей, а все остальные в лучшем случае пытаются остановить злодеев, но не предлагают ничего настолько же эффективного, как у этих злодеев?  Очевидно, что ко встрече с золотыми ии-рыбками готовы далеко не все: большинство стоит на берегу и чешет репу на тему “чего же эдакого загадать?” Если вы подумаете, то проблема безработицы, которую вызовет ИИ, это едва не в первую очередь проблема желаний человека: если нейросети заменят людей во всей их рутинной и неинтересной работе, то это развяжет им руки и позволит стать тем, кем они хотят. Но чего они хотят?» Это отрывок из двенадцатой колонки для «Заборони», где я также рассказываю: – чем уже полезен генеративный ИИ – почему нейросети – это золотые рыбки из сказки про дедушку – что всем пора осваивать цифровое волшебство