«ИИ Молох» «Разговоры про ИИ в последние годы обретают все более мистический характер, так как исследователям и бизнесменам буквально каждые несколько часов открываются новые возможности улучшить все сферы жизни и деятельности благодаря нейросетям – у многих это вызывает почти религиозный трепет. Один из самых интересных явлений из религий прошлого, вошедших в дискуссии о технобудущем, стало появление Молоха, карфагенского божества природы и солнца, поклонение которому в древние времена сопровождалось человеческими жертвоприношениями и сожжениями детей заживо. Отвечая на вопрос, не пугают ли его ИИ-разработки Apple, Meta и других компаний и что ИИ-гонка может привести к ужасным и непредсказуемым последствиям Сэм Альтман говорит: «Я немного боюсь капитализма и его стремления создавать и получать неограниченную прибыль. Но я думаю что никто не хочет уничтожить мир, никто не говорит «Сегодня я хочу уничтожить мир». Так что с одной стороны есть проблема Молоха, а с другой – люди, которые хорошо ее осознают и обсуждают, как минимизировать некоторые очень страшные последствия этой технологии».  О какой проблеме Молоха, неоднократно осуждавшегося в Ветхом Завете, говорит техно-предприниматель Альтман или астрофизик, занимающийся проблемами ИИ, Макс Тегмарк? Они ссылаются на поэму «Вопль» поэта-битника Алена Гинзберга, написанную в 1955 году. В одной из частей поэмы Гинзберг описывает демонического бога Молоха, коллективного духа, вызванного на свет технологическим прогрессом и проявляющего себя в современных войнах, правительствах, поп-культуре и капитализме.  Молох – это темная сторона «невидимой руки» рынка, ключевой идеи капитализма, описанной в 18 веке экономистом Адамом Смитом, утверждающей, что все участники рынка, преследуя личную выгоду, служат всеобщему благу, так как “невидимая рука” направляет их усилия и справедливо распределяет эти блага между людьми. Молох также основывается на желании каждого участника рынка (и шире – общества) искать личной выгоды, однако в отличии от “невидимой руки” Смита, незаметно ведущей коллективное человечество к процветанию, Молох складывает частные усилия людей и ведет их к страданиям и уничтожению.  ИИ–Молох это все ускоряющаяся гонка технокорпораций по созданию сверхмощного ИИ – цели, обещающей создателям невероятные богатства и фантастические силы, но взамен гарантирующей уничтожение человечества. В 20 веке человечество сталкивалось с Молохом во время гонки ядерных вооружений, когда всех пугала возможность создания бомбы, способной уничтожить все живое на Земле, но из-за угрозы, что другие участники гонки опередят и создадут бомбу первыми, все только ускоряли разработки смертельного атома.  В наше время Молох продемонстрировал свою силу в первой битве ИИ с людьми – в социальных сетях. Сложилось так, что основой монетизации социальных сетей стало как можно большее вовлечение пользователей и удержаниие их внимания. Алгоритмы соцсетей, изучавшие пользователей, пришли к выводу, что разжигание вражды, поощрение ненависти, оскорблений и злых насмешек – эффективнее всего удерживают пользователей в соцсетях, позволяя владельцам максимизировать свою прибыль. Хотел ли Марк Цукерберг или Джек Дорси, чтобы Facebook и Twitter стали рассадниками ненависти и монструозными поляризаторами общества? Нет. Хотя, будучи хакерами, они понимали, что их алгоритмы взламывают уязвимости человеческой психики, они также понимали, что рано или поздно это станет известно общественности и вызовет крайне негативную реакцию в их адрес. Тем не менее, они продолжали развивать эти манипулятивные алгоритмы, а все остальные социальные сети следовали их примеру, потому что никто не хотел лишаться конкурентного преимущества.» Это отрывок из одиннадцатой колонки для «Заборони», где я также рассказываю: – как Илон Маск поучаствовал в создании ключевых ии-корпораций DeepMind и OpenAI – о самых опасных опасных возможностях, которые мы создали для ИИ – о проблеме коллективного действия и социальной дилемме