Чорт ногу сломит. Страница 3
5571
@nejdanov
Как цифровые технологии хакнули ваш мозг? Слежка, большие данные, ИИ — с точки зрения психологии и цифровой осознанности.
-
Чорт ногу сломит
Невозможно в век новой прозрачности угрожать миру ядерным уничтожением, геноцидить соседний народ и утилизировать сотни тысяч собственных граждан – и ожидать чего-либо, кроме поражения, позора и наказания. Я думаю, что Герасимовы и иже с ними прекрасно понимают, что их поезд в огне и на всех парах несется в бетонную стену. От этого еще болезненнее воспринимаются жертвы среди мирного украинского населения, и еще более жутким кажется кровавое зомбирование россиян, аплодирующих разрушенным домам украинцев. -
Чорт ногу сломит
Джо Байден на этой неделе написал статью «Республиканцы и демократы, объединяйтесь против нарушений Больших Технологий» со своими предложениями о том, как нужно ограничивать техноолигархов и их корпорации. Все его предложения будто взяты прямиком из книги Шошаны Зубофф «Эпоха надзорного капитализма». Интересно, как президент США обосновывает опасность технокорпораций, из которой вытекает необходимость регулировать их законами: «Опасность Больших Технологий для обычных американцев очевидна. Бигтех компании собирают громадное количество данных обо всех наших покупках, вебсайтах, которые мы посещаем, местах, куда мы ходим. Больше всего вызывает беспокойство то, что они собирают тонны информации о наших детях. Как я говорил в своем прошлогоднем послании, миллионы молодых людей сталкиваются с буллингом, насилием, получают травмы и испытывают проблемы с психическим здоровьем. Мы должны привлечь социальные медиа-компании к ответственности за эксперимент, который они проводят на наших детях ради получения прибыли. Чтобы привязать американцев к своим платформам, Бигтех использует пользовательские данные, направляет людей к экстремальному и поляризующему контенту, вызывающему максимальное вовлечение. Слишком часто трагические вспышки насилия связывали с токсичными онлайн эхокамерами. Более того, социальные медиа и другие платформы разрешали пользователям вести себя абьюзивно и нарушать закон, допускали киберсталкинг, сексуальную эксплуатацию детей, неконсенсуальную порнографию и продажу опасных наркотиков. В других случаях Бигтех вытеснял mom-and-pop (мелкие) бизнесы со своих платформ, выдвигал им невыгодные условия, взимал с них по завышенным ценам, всячески мешал им расти и развиваться, удушая таким образом инновации». Для борьбы с этими проблемами он предлагает три шага. 1) «Серьезная защита приватности американцев на государственном уровне» В неё входит регуляция использования персональных данных: интернет-истории, переписок и созвонов, геолокации, данных о здоровье, генетических и биометрических данных. Также Байден предлагает запретить таргетированную рекламу для детей. Эти меры сильно ударят по прибылям надзорных капиталистов, ограничив их доступ к современной нефти – пользовательским данным. Это также поможет снять с Google, Meta и других корпораций «нефтяное проклятие» – они больше не смогут снимать рекламные сверхприбыли привычным образом и возьмутся за реальные инновации. 2) «Бигтех компании должны взять ответственность за контент, который они распространяют, и за алгоритмы, которые используют» То есть Facebook, Twitter и YouTube должны будут еще плотнее модерировать контент, что будет невозможно сделать усилиями живых людей и неизбежно ляжет на плечи алгоритмических модераторов. Требование сделать алгоритмы соцсетей прозрачными, подотчетными законам и понятными пользователям усложняют жизнь технокорпорациям, дают больше прав цифровым гражданам и увеличивают вероятность перехода соцсетей в платный режим. 3) «Больше конкуренции в техно секторе» Это самый утопический пункт в программе Байдена: при здравии технокорпораций его не получится осуществить полноценно. Американский и европейский технобизнес знает, что если инновационной сферой заинтересовался техногигант, значит, вскоре он купит лидеров инновации или выкатит на рынок собственную версию технологии. Пользовательские данные, которые мы все с вами производим – основа мира будущего, его нефть и электричество. С одной стороны, данные производят сотни миллионов людей, и вклад каждого в эту реку данных – капля в океане. С другой стороны, каждая напечатанная буква и каждый клик в сети программирует нейросети и определяет будущие события: еще никогда в истории никто так внимательно не следил за действиями, словами и предпочтениями простых людей. Так что даже во время войны — и особенно во время войны — думайте, как ваши виртуальные действия программируют коллективный ИИ. -
Чорт ногу сломит
«ИИ заменит всю халтуру людей: проходные письма и отчеты, писанину и иллюстрации уровня журналов в самолетах, все нецитируемые академические работы, написанные ради профессорского оклада, все сочинения студентов в аудиториях. Благодаря такому опыту мы поймем, что почти все написаное людьми попадает в эту категорию халтуры». Это свежий твит Пола Грэма, основателя Y Combinator и одного из самых влиятельных инвесторов Кремниевой долины. Грэм, помимо всего прочего, один из самых уважаемых в американском техно-комьюнити публичных мыслителей, хотя большинство его мыслей – про технобизнес, а не про смысл жизни. В последнее время в этой области все говорят только про ИИ и LLMы (Large language models) – все из-за ChatGPT от компании OpenAI. Сэм Альтман, со-основатель OpenAI и ее текущий CEO, сделал себе имя на посту директора Y Combinator, где прослушал тысячи заявок стартапов на финансирование и выделил сотням компаний инвестиции — суммарная стоимость этих компаний давно перевалила за $100 млрд. В 2020 году Альтман ушел из Y Combinator Грэма, чтобы сфокусироваться на мега амбициозном стартапе OpenAI, главная цель которого – создание Artificial General Intelligence (AGI), иначе говоря, – робота с сознанием. Еще пару лет назад концепция “осознанной” нейросети считалась ненаучной и даже зашкварной, в лучшем случае – банальной фантастикой. ИИ-сообщество считало, что миссия OpenAI – невыполнима, поэтому не на шутку всполошилось, когда один из со-основателей компании, Илья Суцкевер, в феврале 2022 года заявил, что «возможно, некоторые современные нейросети уже немного сознательны». Тогда одним из самых громких оппонентов тезиса об “осознанности” нейросетей был ИИ-гуру Ян ЛеКун – Chief AI-Scientist в Meta и учитель еще одного со-основателя OpenAI, поляка Войцеха Зарембы. Прошел год, и теперь ЛеКун пишет: «Способности LLM к рассуждениям частично компенсируются большой вместительностью их ассоциативной памяти. Они похожи на студентов, выучивших материал наизусть, но пока не сумевших вписать эти знания в свои представления о реальности»., Короче, нейросети уже готовы заменить большинство оккупируемых людьми работ, раз они свободно функционируют на уровне готового обучаться со скоростью света студента. А ИИ-ученые на самом деле спорят не о возможностях ИИ, а об определении сознания (в то время как с точки зрения обывателя, нейросети уже осознанны, далеко не во всем и с миллионом оговорок, но все же). В своих сториз я недавно выкладывал предсказание другого со-основателя OpenAI, Грега Брокмана: 2023 будет таким, что 2022 с его LLM-революцией покажется скучным. Очевидно, что у OpenAI, как и у ее конкурентов из Meta и Google, многое припасено на этот год: роботы будут все осознаннее, и у миллионов людей в этой связи появится миллиард проблем и возможностей. Менталитет «трансформируйся или умри» в ближайшие годы будет актуален не только для украинцев, но и для всего остального мира. P.S. Подписывайтесь на мой инстаграм, чтобы смотреть сториз: про ИИ и роботов, техно-бизнес и техно-философию. 
-
Реклама
-
Чорт ногу сломит
Palantir Украина выигрывает эту войну за счет цифровых технологий: военных, инфраструктурных, социальных. Несмотря на войну (возможно, даже благодаря войне), Министерство цифровой трансформации работает нон-стоп и ударными темпами превращает Украину в самую цифровизированную демократию в мире. Это происходит по двум причинам: 1) украинцы уже 10 месяцев живут в режиме «трансформируйся или умри»; 2) украинцам помогают самые технологически продвинутые союзники. Например, Amazon и Microsoft помогли Украине справиться с кибер-атаками россиян, хотя российские хакеры считались едва ли не самыми страшными в мире. Илон Маск снабдил украинских военных спутниковым интернетом – ультра модерновой технологией, которой пока нет почти ни у одной армии мира. А компания Palantir, специализирующаяся на ИИ, помогла украинским военным интегрировать все полезные и разрозненные данные в единую систему, которая помогает принимать оптимальные логистические, военные и другие решения. Так что пока роспропаганда орала, что украинскими военными руководят американцы, на деле украинским военным помогали не люди, а ИИ. Руководитель Palantir Алекс Карп стал первым западным CEO, приехавшим в обстреливаемый крылатыми ракетами Киев в июне 2022 года. С тех пор нейросети Palantir стали одним из ключевых факторов украинского успеха. Спустя полгода, в декабре 2022, Карп выступал на военном форуме республиканской партии в США и суммировал свой опыт помощи Украине в борьбе с Россией. Я перевел для вас показательный отрывок: «До 24 февраля наши противники, некоторые наши союзники и иностранные бизнесы считали, что Америка – это про любовь к свободе и про производство хороших фильмов. И что якобы наши противники сравнялись с нами в военной мощи и готовы делать то, что Америка не может себе позволить. Я думаю, 24 февраля и последующие события в Украине, где были задействованы технологии, о которых не всегда можно говорить публично, изменили нарратив про Америку. Мы – любящие свободу и производящие технологии люди Запада. И особенно Америка, которая создает технологии, настолько превосходящие технологии не любящих свободу людей, что тем стоит боятся сильнее, чем когда бы то ни было. Нам и нашим союзникам, которые любят свободу и волю, важно показать нашим противникам, что мы превосходим их в современной войне. А современная война – это технологии, усиленные кинетическим атакующим оружием, компьютерные программы, усиливающие компьютерные программы. То, что «software съедает мир» – очень важно для всех бизнесов и особо выгодно Америке, потому что Америка создает лучший софт в мире. Тот факт, что мы можем строить software enhanced weapons (алгоритмически усиленное оружие) должен вызывать у наших противников дрожь. Сенатор Грэм высказался точнее: наше превосходство предотвращает войны. Что это значит для техносектора? Многие технокомпании, которые раньше вместо того, чтобы помогать американским военным, продавали технологии нашим противникам, – перестанут так делать. Появилось больше единства в поддержке правительства США: теперь американское государство поддерживает не только Palantir и его «отмороженный CEO». У нашей страны есть ресурсы, которые мы раньше часто не использовали для поддержки наших военных. Но теперь все изменилось, потому что наши противники очевидно заслуживают того, чтобы надрать им задницу». По-моему, Palantir — это условно «следующий гугл»: технологическая корпорация, которая будет стоить сотни миллиардов долларов, но уже на следующем витке истории – в эпоху ИИ. Некоторые эксперты считают, что примененные в Украине технологии Palantir по военной мощи сравнимы с тактическим ядерным оружием. Как выше сказал Карп, об этом пока нельзя говорить публично, но результат очевиден. И в качестве вишенки на торте: я практически уверен, что эти технологии будут использоваться для суда над военными преступниками из России. 
-
Чорт ногу сломит
Пару лет назад я работал над статьей «Убийца смартфона» – про то, какие девайсы в ближайшем будущем заменят умные коробочки в наших руках. Статья так и не вышла, зато с тех пор я знаю, за кем будущее и кто убьет смартфоны: a) будущее за нейроинтерфейсами – чипами, встроенными напрямую в череп и мозг, либо же шлемами, способными считывать и посылать сигналы транскраниально (сквозь черепушку). Хедлайнер чипов – Илон Маск со своими нейроимплантами Neuralink, а Марк Цукерберг больше внимания уделял транскраниальным нейроинтерфейсам. б) ближайшее будущее за более простыми носимыми девайсами: очками дополненной реальности, а в идеале – умными контактными линзами. Apple, Samsung, Huawei а также Google, Meta, Microsoft – умные очки разрабатывают не только лидеры рынка смартфонов, но даже соцсети. Если надо назвать одним словом технологию, которую пытаются разработать технологи и инженеры, чтобы умные очки стали реальной бомбой и смели смартфоны, то это "мета-оптика". Вот перевод отрывка из колонки на Bloomberg, где описываются возможности мета-оптики: «Громоздкие девайсы вроде биноклей, телескопов, шлемов виртуальной реальности, проекторов и камер превратятся в одно носимое устройство размером не больше обычных очков. Трехмерное видение будет встроено во все приборы: это будут не грубые датчики движения как на дозаторах мыла в общественных уборных, а скорее термостаты, понимающие что вы надеваете свитер, или лампа, фокусирующая свет на книге, которую вы читаете, или человеке, входящем в комнату. Ваши приборы будут коммуницировать друг с другом с помощью света, а не примитивных Wi-Fi и Bluetooth Из минусов: возможно в мета-оптическом веке вообще не будет приватности. Не сомневайтесь, что все спецслужбы мира внимательно следят за развитием этой технологии». Последний пункт, конечно, самый интересный. Тут надо подробнее говорить о концепции новой прозрачности, о которой я полным ходом писал книгу, пока в Киев не пришла война, изменившая и бесконечно расширившая мое понимание темы. Думаю, свою книгу я таки напишу, — но она будет гораздо жестче, чем была бы до войны. -
Чорт ногу сломит
Рубрика «После массированного ракетного обстрела» Юваль Харари в свежем эссе «Что на кону в Украине? Направление человеческой истории» для моего любимого журнала Economist озвучил мысль, которая не дает мне покоя с самого начала войны: «Мировая экономика перестала основываться на материалах и стала основываться на знаниях. Раньше главным источником богатства были материальные ресурсы вроде золотых шахт, пшеничных полей и нефтяных скважин. Сегодня же главный источник богатства – знание. И в то время как нефтяные скважины можно захватить силой, получить знания с помощью силы не получится. В итоге прибыльность завоеваний существенно снизилась». С первых дней войны понятно, что путинский режим тупо пытается захватить побольше украинских земель. Но учитывая (в общем-то расхожую) мысль Харари об эпохе знаний, мне было сложно в это поверить! У нас очень богатая земля, это правда: например, в Донецкой и Днепропетровской областях есть крупнейшие залежи лития, необходимого для производства почти всей современной техники. Но путинский режим ничего не смог бы сделать с этим литием, так как санкции отрезали его от западных знаний – в руках варваров литий бесполезен. Варвары продолжают мыслить категориями шахта и полей. Украина побеждает в этой войне именно благодаря знаниям и технологиям, которыми с нами делятся самые преуспевающие в этих сферах страны и которые создаются и совершенствуются умнейшими украинскими специалистами под градами тупых российских ракет, снарядов и патронов. Самые умные и талантливые представители украинского народа – айтишники, инженеры, профессура и т.д. – вместе не только дают отпор русским варварам, но и буквально каждый день создают инновационные решения самых сложных проблем: непотопляемая энергетика, непроницаемая для хакеров банковская и государственная система, война дронов и IT-армия – всё это движет не только украинскую, но и мировую экономику знаний вперед. Всё хорошее в России существовало и развивалось не благодаря, а вопреки путинскому режиму. И своей дебильной войной он выгнал из страны мозги, которые обеспечивали России крохи прогресса в сторону экономики знаний. Напомню еще раз: не только мутный Киссинджер прочил РФ в третью ИИ-сверхдержаву, но этот прогноз повторял и бывший CEO Google Эрик Шмидт, который в этой войне с самого начала занял проукраинскую позицию и приезжал в обстреливаемый крылатыми ракетами Киев, чтобы пообщаться с молодыми украинскими талантами, основой экономики знаний (то есть его мнение о возможном потенциале России до полномасштабного вторжения нельзя объяснить его политическими взглядами). Мир не собирается терпеть отсталую российскую властную хунту, до сих пор выезжавшую за счет экономики знаний своего кровавого предшественника, СССР, развалившегося 30 лет назад. И на этом устаревшем наследии пытается держаться в 2020-х, когда прогресс в сфере знаний ускоряется с каждым часом, не то что каждый год. И пара слов об утекших из РФ мозгах, которые до войны были способны обеспечить развитие экономики знаний. С одной стороны, я искренне рад, что эти люди уехали и вышли из-под юрисдикции архаичных кремлевских пенсионеров. С другой, я искренне недоумеваю от того, что некоторые из них продолжают работать в российских компаниях, на эту кровавую архаику, даже из-за границы. Еще меньше я понимаю, почему эти самые бежавшие представители экономики знаний такие беспомощные: они не представляют собой ни политической, ни интеллектуальной силы — просто сидят по заграничным норам и молчат, изредка жалуясь, что им не нравится сервис, или обижаясь на граффити, отсылающие русских нахуй. Почему российские мозги молчат? Или в России всё-таки даже мозги – фашисты: бежали только от призыва, а в целом поддерживают кремлевских дементных пенсионеров? -
Чорт ногу сломит
Одна из самых горячих тем в технобизнессе в этом году – курс на сокращение количества сотрудников в передовых технокорпорациях. Марк Андриссен, создатель первого популярного веб-браузера Netscape и впоследствии один из ключевых инвесторов Кремниевой долины, еще весной озвучил убийственную арифметику: «Хорошие большие компании содержат в 2 раза больше сотрудников, чем нужно. А плохие большие компании – в 4 раза». Андриссен был одним из тех, кто помог Маску купить Twitter (дал $400 млн), и судя по действиям Маска, приобретенная им соцсеть – это как раз плохая большая компания. На днях Маск приходил в эфир подкаста All-In и там объяснял, по какому принципу отобрал тех, кого оставил в Twitter: – те, кто исключительно хорошо делает свою работу – те, чья роль критично важна для компании – те, кто производит позитивный эффект на других работников – те, кому можно доверять (то есть кто ставит интересы компании выше своих интересов) – те, кто работает в режиме хардкор По таким критериям осталось около 25% работников: 2 000 из 8 000 — но есть вероятность, что Маск и дальше будет сокращать штат компании. Сам Маск – известный трудоголик, который спит под рабочим столом, созывает совещания по ночам, не знает, что такое выходные, и одобряет китайскую рабочую этику «996». А чтобы объяснить стиль управления Маска, его коллеги рассказывают типичную историю: миллиардер наехал на нескольких интернов, которые стояли в его офисе в очереди к кофе-машине и ничего не делали – “если еще раз такое увижу – вы уволены”. Но личная рабочая этика Маска – далеко не главная причина массовых сокращений в Twitter. 2022 год вообще стал одним из самых худших лет в истории техноиндустрии, хотя на фоне войны об этом относительно мало говорят. Массовые сокращения – логичный шаг после того, как почти все крупные технокорпорации остановили найм новых сотрудников из-за крайне нестабильной финансовой ситуации в 2022 году. В 2023 году, по словам Маска, мир накроет рецессия не меньшая, чем в 2008 (тогда это называлось «мировой экономический кризис»), и выходить из нее мир начнет в лучшем случае во втором квартале 2024 года. Очевидные причины нового глобального кризиса – 2 года пандемии + год войны, которые вместе сложились в непрерывную цепочку шоковых волн для мировой экономики. В 2023 году мы, вполне вероятно, столкнемся с нейросетевым цунами, результатом которого станет гигантская потеря рабочих мест абсолютно во всех отраслях бизнеса, где ИИ сможет заменить львиную долю работников разного уровня. Уже случившиеся и грядущие сокращения в техноиндустрии происходят раньше, чем везде, и показывают общий тренд: если массовые увольнения накрывают самый требовательный к рабочей силе, самый прогрессивный и самый прибыльный сегмент бизнеса — что будет в секторах, где требования к рабочей силе гораздо ниже? Однако не все так мрачно, как звучит. Технокорпорации показывают, что человеческие компетенции и интеллект можно и нужно заменять более эффективным искусственным интеллектом, который стоит копейки по сравнению с живыми сотрудниками. Сэм Альтман — CEO OpenAI, главной ИИ компании 2022 года и катализатора грядущей ИИ-революции — предсказывает, что стоимость интеллекта в ближайшие 10 лет упадет практически до нуля. Это означает, что новым бизнесам, в основании которых сразу будет заложен ИИ, нужно будет еще меньше ресурсов, чтобы стартовать и разрастись. Так что вне зависимости от того, в какой сфере вы сейчас работаете, инвестиции времени и сил в изучение ИИ – самое правильное вложение, которые мы все себе можем позволить. 
-
Чорт ногу сломит
ИИ-трибунал Я считаю, что наказание России за агрессивную захватническую войну в Украине нужно сделать назидательным для жителей XXI столетия. В наступающую эпоху новой прозрачности никакие злодеяния не могут остаться тайной: никакими информационными спецоперациями и ПСИОПами не опровергнешь обвинителей, если ты так жестко наследил у всего мира на виду. Захватническая война в центре Европы — заснятая камерами наблюдения, смартфонами местных жителей, спутниками и дронами и собранная ИИ — не сойдёт с рук российскому руководству, военным и другим гражданам России, которые словом и делом обеспечивали возможность этой войны. Я хорошо знаю риторику Путина и его команды за последние 15 лет — с той самой «мюнхенской речи» в 2007 году. Главный оправдательный риторический прием Путина и его друзей для совершения преступлений: «так делали до нас, чем мы хуже?» — чуток модифицированная форма вопроса «тварь я дрожащая или право имею?». Этот вопрос — классика для России. Убийственная классика. Оправдание преступлений, которые совершают, эти люди находят в факте того, что такие же преступления совершались до них. Очень важно показательно наказать россиян, ведущих войну, поддерживающих, оправдывающих и делающих её возможной. Очень важно, чтобы человечество зарубило на носу: нельзя повторять убийственные ошибки прошлого, оправдываясь какой-то сраной «традицией». Наоборот, человечество превозмогает жестокости прошлого, которые когда-то считались нормой: рабы и по-настоящему рабский труд, массовая эксплуатация детей, геноциды как политическая норма — мы все стараемся выбраться из этой дикости. Да, всё это было в прошлом — но это вовсе не причина возвращаться на самые отвратительные станицы человеческой истории. Пишу этот этот фильм после фильма-расследования NYT про военные преступления в Буче, в котором зафиксировано, как вооруженные ублюдки методично, по плану и под руководством высшего командования убивали простых мирных граждан у продуктовых магазинов, в собственных домах, при попытках эвакуироваться на машине или проехать на велосипеде в другую часть города к своем родственникам. Теперь мы знаем их имена, звания, их девушек, друзей и родителей в России, их командиров вплоть до генералов — с десятками и сотнями подлинных документов. Все это складывается в один громадный кровавый цифровой след. Вспоминаю начало войны, когда у меня не было ни сил, ни времени, чтобы писать. Но я пытался. И в одном из первых черновиков говорил: «Это будет самая задокументированная война в истории». А сейчас над документацией и расследованием этой войны работают не только мировые журналисты-расследователи, но и передовые биг-дата корпорации, например, Palantir. В отличие от людей, ИИ ничего не пропустит: мы сможем восстановить подробности этой войны в таких деталях, что кал будет стынуть прямо в кишечнике подсудимых россиян, которые думали, что Страшный Суд — это сказочки для детей. Благодаря массивам больших данных мы будем видеть подруг, жен, детей, родственников и мамочек тех россиян, которые убивали, пытали и насиловали на украинской земле или отдавали такие приказы: у нас есть съемки, звонки, письма, базы данных и соцсети. Благодаря цифровому следу и цифровому ID по требованию международных расследователей вместе с военными преступниками любой россиянин может предстать перед судом, как на ладони: от живущих в России зомбаков, до тех сотен тысяч, что выбрали эмиграцию. Уже сегодня можно проследить все связи и шаги каждого россиянина, а также проанализировать его вклад в поддержку войны — и рассчитать для каждого объем ответственности, наказания и репараций. Это зло не может пройти и не пройдет безнаказанными. Иначе наша жизнь в XXI веке превратится в кровавый абсурд. Я хочу, чтобы вопрос о суде, наказании и репарациях решался новым способом, который не был доступен раньше: учитывающим возможности больших данных и искусственного интеллекта. Первый в истории ИИ трибунал, the first Digital Last Judgment. -
Чорт ногу сломит
ChatGPT, новый продукт OpenAI, который называют еще GPT-3,5, умеет быстро читать большие массивы текста, “понимать” смысл, выдавать summary, даже выявлять смыслы “между строк”, определять тональность текста и его общий посыл. Всего за пару лет из спорной фантастики это превратилась в реальный инструмент, который позволит создавать новые, ещё более фантастические инструменты. Больше всего меня занимает тот факт, что ChatGPT умеет не только перелопачивать и «понимать» горы текстов на естественных языках — но и делать то же с искусственными, в том числе с языками программирования. Это значит, что разработанные на его основе нейросети в ближайшем будущем лишат работы тысячи программистов и инженеров. Что еще интереснее, кибербезопасность выйдет на новый уровень, расплодятся хакерские нейросети, бороться с которыми будут другие нейросети-защитники. Компания OpenAI делится своими ИИ разработками с мировым интернет-сообществом почти for free: более миллиона человек уже три недели практически бесплатно используют ChatGPT, а сама компания платит около $100 000 в день за содержание работы ChatGPT. В 2015 году Илон Маск и Сэм Альтман основали OpenAI, чтобы создать AGI (Artificial general intelligence) – условно, нейросети с сознанием. Другой сооснователь компании, Илья Суцкевер, в феврале 2022 наделал шума, заявив, что некоторые нейросети на основе GPT-3 уже “немного сознательны”. В Кремниевой долине ходят слухи, что нейросети Google опережают ChatGPT на 4 года, и их, якобы, не выкатывают в открытый доступ, чтобы не слишком ускорять массовые потери рабочих мест. Другая часть техно-сообщества думает, что Google сейчас в панике и теперь будет отчаянно догонять OpenAI, потому что ChatGPT грозится вытеснить Google с трона поисковиков: на основе нейросетей OpenAI уже строят множество «поисковиков для эры ИИ» — в том числе выходцы из самого Google. Мы с вами наблюдаем «ревущие ИИ двадцатые» — период прорывов в мире технологий, которые, по словам специалистов, изменят мир больше, чем электричество. Но у ИИ-чуда есть горький привкус: прежде чем мы попадем в ИИ-оазис, нам нужно будет пройти через пустыню испытаний. Войны за перераспределение ресурсов в переходной период, падение целых индустрий и создание радикально новых экономических и политических образований, массированные сокращения во всех сферах экономики, массовая безработица и, как следствие, протесты, революции… и опять войны. Один из возможных сценариев развития событий – затяжная мировая война, в которой все воюют со всеми: разные страны и граждане одной страны, бедные с богатыми, корпорации со спецслужбами. И чем дольше люди будут воевать, тем больше будет развиваться военизированный и все более автономный ИИ, который со временем, довольно быстро, перехватит у людей инициативу и приведет к апокалиптичным последствиям. 
-
Чорт ногу сломит
P.S. Спасибо всем читателям, которые пишут комментарии! Самыми полезными мне кажутся комментарии, в которых люди задаются вопросами, предлагают новый угол зрения на мои мысли, задают сложные и неудобные вопросы, не соглашаются и обоснованно опровергают мои тезисы. Некоторые каменты заставляют меня крепко задуматься, некоторые озвучивают мои собственные сомнения и мысли, — благодаря этому я думаю дальше и пишу новые посты, даже если не отвечаю в самом чате. Так что задавайте побольше вопросов и лайкайте и дизлайкайте чужие вопросы и тезисы, пожалуйста. Но помните: я одновременно выступаю и за свободу слова и за свободу бана — все мнения приветствуются, но говно не пройдёт. P.P.S. Я начал вести Инстаграм Цукерберга: дублирую посты отсюда со своими фотографиями в качестве иллюстраций, но главное — веду сториз, в которых выкладываю скриншоты новостей, по мотивам которых пишу статьи, посты и которые просто считаю важными. Как в условиях киевских блекаутов вести новости в ТГ, я пока не придумал, — да и не думаю, что надо. Буду рад, если вы, дорогие читатели «Чорт ногу сломит» с технологическими, философскими и политическими интересами, будете наслаждаться моими новостными сториз там. Please subscribe, sergei.jdanov 
-
Чорт ногу сломит
Китай в очередной раз удивляет и доказывает, что КПК умеет не только закручивать гайки, но и запускать воздух в дом. После протестов против политики “нулевого ковида” правительство Си пошло навстречу: ослабило правило QR-кодов (в большинство мест теперь можно пройти без сканирования), упростило карантин, ослабило локдауны и наконец разрешило свободное перемещение граждан по территории Китая. Еще интереснее, что после двух лет беспрецедентного давления на технокорпорации, которое привело к радикальному падению их стоимости и смене топ-менеджмента, Партия снова обещает им (в первую очередь Alibaba и Tencent) полную поддержку, а также ждет от них создания новых рабочих мест и процветания. Возможно, со временем и сами техноолигархи, которых Партия два года последовательно лишала власти и капитала, вернутся обратно в ранг национальных героев и полубожеств (в первую очередь я имею в виду техноидола и основателя Alibaba Джека Ма, с которого и начался «tech crackown»). Китайская культура со мной с юности: даосизм, И-цзин, чан-буддизм, даже конфуцианство – часть моего культурного и духовного кода, я во многом формировался на их книгах и практиках. Когда уже будучи взрослым я сменил свою культурную ориентацию с прошлого на будущее, то с удивлением обнаружил, что Китай (тот самый Древний Китай) строит ультра-будущее, в котором технократы с помощью технологий управляют народом — такое себе цифровое Дао. Война расставила другие акценты. Увлечение Кибер Поднебесной сильно омрачилось осознанием того, что Китай – хедлайнер мирового «Авторитарного клуба», а другой член этого клуба, презренный и отсталый, бомбит мою страну и убивает детей моих соседей. Уйгуры, которых Китай насильственно перевоспитывает средствами техно-бихевиоризма, вдруг стали для меня реальными людьми, такими же, как я — и я стал им безумно сочувствовать. На фоне войны я явственно понял, что в случае успеха путинских военных в Укриане освоенные россиянами китайские подходы к людям обернутся для меня попаданием в цифровой концентрационный лагерь. Если бы в феврале Путин захватил Киев, меня, может, и не расстреляли бы — но точно отправили в а-ля уйгурский лагерь на «перевоспитание». Нынешняя Россия – именно презренный и отсталый представитель Авторитарного клуба. Так что, думаю, лагеря для украинцев выглядели бы куда страшнее, а методы «перевоспитания» были бы жестче и безмерно тупее, чем в китайских лагерях для уйгуров. С самого начала войны меня едва ли не больше всего волновал вопрос: впишется ли Китай за РФ? Все 10 месяцев войны я внимательно следил за новостями из Поднебесной и опасался прочитать, что КНР таки решилась открыто поддержать Путина. Иоей любимой рубрикой были “Хроники великой дружбы”, где российский политолог Белковский собирал хуевые для РФ новости, подтверждавшие, что Китай отгораживается, а не сближается с РФ. Когда Си пришел на третий срок, я особенно напрягся и внимательно изучил историю и личность “второго Мао”. Тогда я пришел к выводу, что для Украины лучше было бы, если бы КНР погрузилась в решение внутренних проблем Поднебесной — и чтобы ебаный Путин встал в шестидесятый пункт в списке приоритетов Партии. Так и складывается. Партия решает внутренние проблемы и идет навстречу демократическому клубу. Даже у Беларуси сейчас более высокий уровень дипломатических отношений с КНР, чем у России: Лукашенко не будет слушать только одного Путина, ведь за спиной обоих всегда стоит Си. А у Си Цзинпина сейчас, кажется, появляется совсем другая повестка, которой вообще не к лицу российская захватническая война, полная жестоких преступлений, приводящих в ужас демократический мир. 
-
Чорт ногу сломит
На финал Чемпионата Мира по футболу прилетели не только Илон Маск и Эмманюэль Макрон, но и Дмитрий Медведев — я узнал об этом из блог-поста, в котором прилагалась карта трекинга личного самолета российского алко-блогера. Маск последние пару дней купался как раз в скандале о трекинге самолета: Чифтвит забанил аккаунт чувака, который выкладывал в сеть данные о передвижении самолета Маска, а также Билла Гейтса, Марка Цукерберга и Дональда Трампа. Перед этим Маск предлагал парню $5 000, чтобы тот остановил своего бота, трекающего полеты самолета. Парень отказался, и Маск, став хозяином Твиттера, забанил его аккаунт, мотивировав это тем, что такая информация создает угрозу безопасности ему, его семье и другим объектам доксинга. Отмечу, что информация о передвижении частных самолетов всё равно находится в открытом доступе. Вспоминается телега Маска, где он говорит, что уже сейчас кто угодно может собрать своего дешевого и сердитого робота-убийцу. Для этого нужен дрон, небольшое количество взрывчатки, технология распознавания лиц, которая есть на любом смартфоне, и GPS-координаты объекта. Вуаля, у вас есть самонаводящееся оружие, тот самый автономный робот-убийца. А аккаунты с ботами вроде забаненного Маска — это, по сути, тоже компонент робота-убийцы. Когда-то я возмущался тем, что Барак Обама – ярый сторонник военной практики targeted killing — программы убийств, которая реализуется государствами за пределами легальных норм или поля боя (в основном, дронами). Но на этой войне понял, что Обама был вполне гуманным человеком: таргетед киллинг позволяет уничтожать крупных военных преступников, иногда с жертвами среди мирного населения, — но все же спасая тысячи жизней. Пока что решения об устранении людей принимают люди, но скоро ИИ будет делать этот выбор за нас. ИИ уже наблюдает за тем, ка мы договариваемся, как ругаемся, во что выливаются наши союзы и наши войны, он учится на наших действиях. Но я уверен, что его выводы будут совершенно другого порядка – во много раз точнее, быстрее, изобретательнее и свежее. Так же как нейросеть AlphaFold многократно превосходит ученых в предсказании структуры белка, так же условная нейросеть SkyNet (почитайте википедию) будет справляться с мировой политикой и предотвращать войны (на худой конец, останавливать развязанные людьми войны) правильным targeted killing’ом. Ну, если такая нейросеть будет доброй, хаха. 
-
Чорт ногу сломит
P.S. Киссинджер участвовал в создании архитектуры мировой ядерной безопасности, благодаря которой ядерные державы не стреляют друг в друга ядерными боеголовками. Однако он говорит, что проблема военизированного автономного ИИ — гораздо сложнее ядерной безопасности, а ошибка в этой сфере приведет к более ужасающим последствиям, чем ядерный кризис. Поэтому мне особенно интересны его размышления об ИИ на войне. Однако к его политическим позициям по Украине я не прислушиваюсь. Ещё в книге «The age of AI» меня удивила его аффилиированность с Россией: он почему-то активно натягивал сову на глобус и лепил РФ в ряд к двум реальным ИИ-сверхдержавам, США и Китаю. Это и год назад было странно, а теперь, когда мы знаем истинный уровень технологического развития России, и вовсе очевидное вранье. P.P.S. На фото – последняя модель автономного военизированного ИИ, которая завелась у меня дома. 
-
Чорт ногу сломит
Сейчас все обсуждают свежую статью Генри Киссинджера (которому в следующем году стукнет сто лет) «Как избежать ещё одной мировой войны». Рашистам статья Киссинджера не понравилась. Еще в мае он считал, что Украина должна сохранить нейтральный внеблоковый статус, но теперь безапелляционно утверждает, что она так и или иначе должна присоединиться к блоку НАТО как одна из сильнейших и самых современных европейских армий. Украинцам же не понравилось, что Киссинджер вторит идее Илона Маска: что судьба так называемых «ЛДНР» и Крыма должна определяться на международно признанных референдумах. Генри Киссинджер — крайне противоречивая фигура и один и самых интересных из ныне живущих политиков. Он был был одним из тех, кто развязал Вьетнамскую войну, а потом получил Нобелевскую премию мира за ее окончание. После этого он стал одной из ключевых фигур на Западе, принявшей участие в превращении Китая из аграрной страны в сверхдержаву, помогая Китаю наладить отношения с США (что в итоге стало угрозой для Америки). В прошлом году я писал, что меня впечатлила книга Генри Киссинджера и Эрика Шмидта «The age of AI and our human future». И в этой свежей статье меня тоже заинтересовало не столько предложение по урегулированию нашей войны, сколько следующие мысли: «Автономное оружие уже существует и способно самостоятельно определять угрозу, оценивать её и принимать решение об атаке — то есть самостоятельно начинать войну. Как только мы вступим на эту территорию и эти высокие технологии станут стандартным вооружением, а компьютеры — главными исполнителями военной стратегии, мир окажется в условиях, к которому у нас все еще не выработаны подходы. Как лидеры могут сохранять контроль, когда компьютеры предписывают стратегические инструкции на таком масштабе и таким образом, что это, по сути, ограничивает и даже угрожает участию людей?» Киссинджер описывает ближайшее будущее, где военизированный ИИ управляет ВПК, принимает решения, какое оружие производить, какие цели атаковать, сколько гражданских погибнет и чем закончится война. ИИ уже двигается со скоростью, недоступной человеческому восприятию. И уже проник в войны. Скоро генералы перестанут понимать, что происходит на поле боя, — но будут бояться вмешаться, ведь ИИ превосходит людей по глубине и скорости оценки ситуации и планированию. Я, как украинец, вообще не против использования в этой войне автономные дроны, потому что я не хочу, чтобы в борьбе с агрессором гибли живые люди — мои соотечественники. Но как человек, который занимается этикой технологий, я понимаю, что это ставит перед нами огромные проблемы, к которым надо готовиться и которые надо решать уже сейчас. Намек на эту проблему мы давно видели в 4 сезоне сериала «Черное зеркало» в серии «Metalhead»: автономное оружие выпустит из бутылки джинна, которого никак не получится затолкнуть обратно. Нам нужно хорошенько думать, как удержать автономный военизиованный ИИ в рамках. И для этого анализа нам нужно использовать равный ему по мощности ИИ, который помогал бы нам развивать, а не разрушать мир. Проблема в том, что Путин и ко в самый критический для развития технологий момент толкают мир к дисбалансу, усиливая необходимость развития ИИ-разрушителя и снижая наши шансы на развитие ИИ-управленца и регулятора. Россия склоняет мир на путь глобальной автоматизированной технологической войны — и именно в этом смысле она угрожает всей Земле и именно поэтому каждый гуманист сейчас хочет её остановить. -
Чорт ногу сломит
Вчера смотрели с нашей кошечкой Кафкой новый сериал моего любимого документалиста Адама Кертиса «Trauma Zone». Кафку особенно заинтересовали Ельцин и Горбачев. Я очень люблю Кертиса и больше 15 лет образовываюсь его фильмами (рекомендую всю его фильмографию). Но от нового фильма, вышедшего в этом году на фоне войны в Украине, мне стало тошно и не по себе (что, впрочем, только подчеркивает, как Кертис всегда попадает в яблочко). Фильм нарезан из хроники советского и постсоветского периода, начиная с 1985 года: за 2 года до моего рождения — так что я перепроживаю своё детство в разваливающемся Совке и постсоветской Украине, глядя эти съёмки. Меня нагребает от всё более отчетливого понимания, что эта война, которую мы все переживаем, — даже не результат 2014 года, а продолжение долгого и болезненного процесса развала Советского Союза, начавшегося в 1980-х. Меня лично невероятно заебало проживать этот развал: всю свою жизнь я живу в нем и наблюдаю его, пытаясь на руинах построить что-то, пока очередная конвульсия щупальца совка не сносит всё новым кризисом. А сейчас настали самые тяжелые — и окончательные — этапы смерти этого членистоногого. Тошнотворно и осознание того, что всё это — непрерывная история не только из прошлого в настоящее, но и из настоящего в будущее: совок продолжит разваливаться, даже когда мы выгоним российскую армию из Украины. И его обломки все равно так или иначе ещё будут лететь в нашу сторону. Отравляющие пары разложения советской империи и после победы над Путиным продолжат портить наш воздух. В 2022 году начался новый виток обрушения, и он станет последним этапом существования этого странного образования под названием СССР, которое последнее десятилетия прятался под триколором. Но он же будет и самым разрушительным, превратив в катастрофу ещё не одну тысячу жизней. В 1990-х Союз развалился по большому кругу — от него отделялись и обретали независимость крупные республики на периферии советской империи. В 2020-х кольцо войн за независимость ещё плотнее сожмется вокруг Москвы. Мутит и от прозаичного понимания, что для «обломков советской империи», Путина и его окружения, эта война — просто последняя попытка восстановить Советский Союз. Хотя и немного радует, что именно они делают для развала этого уже тридцать лет как полутрупа больше, чем Горбачев, Ельцин, Кравчук вместе взятые. Когда историки следующих поколений будут писать об этом периоде, она назовут его “развал Советского союза, который длился несколько десятилетий с конца 1980-х до конца 2020-х”. Целая жизнь. 
-
Реклама
-
Чорт ногу сломит
А как вам такая призма? Россия — оккупированная фашистским режимом страна. Во главе всех корпораций и институтов посажены гауляйтеры. Оккупанты захватили телевиденье, радио, кино и почти что контролируют мейнстримный интернет. Особое внимание оккупанты уделяют детям и церковным прихожанам. Их они обрабатывают смесью кровожадного язычества и агрессивной мифологии. Детсады и школы, университеты и музеи, концертные залы и театры, библиотеки и научно-исследовательские институты, заводы и банки — всем этим руководят надзиратели, готовые ради выслуги натравить силовиков на инакомыслящих одиннадцатилетних школьниц и пенсионеров с инвалидностью. Работяг и студентов забривает в солдаты и везут на войну, где у них нет никаких шансов победить — только чтобы чуть протянуть время своего правления. Фашистский режим репрессирует несогласных: одних преследует судом и сажает в тюрьмы, других выдворяет из страны, третьих убивает. Тем временем представители привилегированного класса, выросшие и получившие свои привилегии при формирующейся фашистской оккупации, стараются не слишком омрачать своё сознание негативом: какая власть не бывает чрезмерно жесткой? — не стоит забивать себе этим голову. Для них открыты государственные гранты и спонсирование фашистским корпорациями. Они женятся и фотографируются счастливыми на фоне сталинских высоток, устраивают презентации консервативных книг о русской литературе и собирают конференции по маркетингу в условиях кризиса, пишут сценарии для фашистского телевиденья о бравых НКВДшниках — марая своим безразличием и несопротивлением всё, чем занимаются, о запачканный кровью фашистский режим. Как ни странно, но под этой оккупацией значительная часть образованного населения переметнулась на сторону фашистов: кого-то купили за деньги, кого-то запугали, кого-то посадили на эго-иглу тщеславия идеей «величия». С ними всё ясно: они пытаются найти своё уютное местечко в фашистском обществе и потому делают вид, что всё ок, а в похорошевшей Москве были этим летом самые чудесные вечеринки. Наблюдать за ними — это как одновременно смотреть фильмы «Гибель богов» Висконти и «Сало или 120 дней Содома» Пазолини. При этом в России есть сотни тысяч людей, которые не примыкают к фашистскому режиму, не разделяют его ценности и поддержку войны, но и не хотят восставать и рисковать садиться в тюрьму. Они страдают и просто не знают, что предпринять. Этих россиян больше всех жалко. Потому что режим рухнет, и совершенно непонятно, как отличать их из массы переобувшихся фашистов. На самом деле, отличить можно: мы живем в эпоху больших даных и надвигающейся цифровой прозрачности — и всё тайное когда-то станет явным. Но вопрос в том, будет ли кто-то разбираться, какие россияне как себя вели — или загребут всех под одну гребенку? Это зависит от того, сколько россиян к концу войны будут четко и последовательно заявлять свою антифашистскую позицию. 
-
Чорт ногу сломит
Писал этот пост во время очередного массированного ракетного обстрела Украины. Читая о сотне крылатых ракет, летящих в нашу сторону, много думал о своих знакомых из России, которые так и не заняли вразумительной позиции и все еще делают вид, что живут между струйками дождя. Джордж Оруэлл во время Второй мировой войны написал эссе «Пацифизм и война». В нём он просто и понятно объясняет, что такое пацифизм в условиях глобальной войны: «Пацифизм — объективно про-фашистское движение [в Британии, имеется в виду]. Это элементарный здравый смысл. Если вы подрываете военное сопротивление одной стороны, то вы автоматически помогаете военным усилиям другой. Нет никакого способа остаться вне войны». В этой связи хочется сказать россиянам, протестным и интеллектуальным, две вещи: 1) Ваша страна совершенно очевидно пытается развязать Третью мировую войну и втянуть в нее как можно больше стран, вызвать гибель как можно большего количества людей. Про ваш пацифизм в таких условиях, попытки разобраться, что же делать с вашими “бедными” призывниками – читайте выше. Чем больше вы рассказываете ваши прекрасно-душные сказки про пацифизм и эмпатию, тем ближе вы сами к неофашистам и террористам, захватившим власть в вашей стране. 2) В такой большой войне есть только два окопа: большой про-украинский и маленький про-российский. И если вы не занимаете внятную и отчетливую позицию, то тупо оказываетесь на поле боя между этими двумя окопами, где вас с удовольствием расстреляют обе стороны. Сама идея о существовании возможности некой “третьей позиции” (не говоря уже о пространном нытье о сложности и мнимой духовности такой позиции) — всего лишь инфантильное заблуждение. Такое заблуждение может себе позволить только ребенок, который думает, что если он закроет глаза — то два окопа исчезнут. -
Чорт ногу сломит
«А также тихий шепоток Он шепчет голосом покойного актёра Янковского О том, что всё в пизду умерло И поэтому точно уже ничто не умрёт Но и живым не станет А всё будет бесконечно тупо и вальяжно длиться Будут дымиться сиги, будет тянуться пицца Будет потеть там же, где и потело Будут визжать те дрели; и девушки будут хотеть И чуть не хотеть, чтоб их хотели Или всё будет не так, и шепоток спиздил Проверим» 