Чорт ногу сломит. Страница 5
5571
@nejdanov
Как цифровые технологии хакнули ваш мозг? Слежка, большие данные, ИИ — с точки зрения психологии и цифровой осознанности.
-
Чорт ногу сломит
4 месяца спустя C начала войны я три месяца ничего не писал в блог, а потом написал пост. В нём я изложил свое видение войны – и как человек, видевший ее из окна своего дома, и как философ, крайне внимательно следивший и дотошно анализировавший происходящее. Тогда в каментах развелся невероятный срач: пришлось вытирать десятки комментариев, банить буйных и так далее – в итоге отписалось 300 человек. Это подписчики из РФ, которые во время войны оказались ее сторонниками, – они зафлудили меня гневом, возмущением и разочарованием. Больше всего в душу запала реплика типа “был многообещающим мыслителем, а стал испуганным хохлом”. Она помогла определиться с идентичностью, кек: значит, для этих людей я по сути – “мыслитель” и “хохол”, а по статусу – “многообещающий” и “испуганный”. Прошло четыре месяца, и сейчас статус “испуганных” подходит как раз к тем, кто от меня отписался – российским сторонникам войны с экспертизой в технологиях. Ведь сейчас им совсем тяжко: у них — ни победной войны, ни хоть захудалых технологий. Спустя четыре месяца я решил вернуться к тому посту и прокомментировать один абзац: «Идет война прошлого с будущим. Прошлое — это правительство РФ, мировоззрение «вернём всё взад», бряцанье устаревшим оружием и архаичное запугивание мира атомными бомбами. Это разрушение и откат, изоляция и разделение. А будущее — это Украина и ее союзники, открытые границы, взаимодействие и взаимопомощь, экономический рост и технологический прогресс» Украина – это действительно будущее. Думаю, ни в какой другой стране сейчас не происходит так много коренных трансформаций одновременно и никто не справляется с такими масштабными трансформациями так хорошо, как украинцы. В том числе с технологическими. Для меня лучшее свидетельство зарождения украинского техно-чуда — череда визитов в Киев самых передовых технодеятелей: от Алекса Карпа, управляющего футуристичной ИИ-корпорацией Palantir, до Виталика Бутерина, отца криптовалюты и блокчейна Ethereum. Отдельно порадовал визит Эрика Шмидта (о нём я писал в “Чорт Ногу Сломит” 8 раз за последние 2 года), бывшего CEO Google, который уже больше 10 лет превращает американское правительство и военных в технокорпорацию. На выступлении в Киеве Шмидт с удовольствием рассуждал, что бы он делал на посту премьер-министра Украины. Эта роль ему, очевидно, нравилась, потому что Украина – очень перспективный стартап даже по меркам бывшего CEO Google. Ну вот. А русское правительство и часть народа, поддерживающая его действия в Украине, – это, действительно, архаика. За 4 последних месяца войны они реально преуспели в своем стремлении «вернуть всё взад» – и погружаются глубже и глубже. Попытки российского правительства поднять отечественного техно-производителя с колен предсказуемо закончатся ничем: без иностранных технологий “рос-электроник” – что Буратино без папы Карло, бревно бревном. Поэтому, например, при острой нехватке дронов производить свои не получается никак, а покупать хорошие чужие (американские или китайские) нельзя, поэтому приходится обращаться к другому подсанкционному техно-маргиналу Ирану за дронами старых поколений. К сожалению, и эти дроны убивают. В Украине тем временем строят завод по производству передовых дронов совместно с турецкой компанией Baykar, автором хитовых дронов Bayraktar. Украинская домашняя индустрия дронов — военных, а впоследствии и гражданских — заряжена на успех, потому что война создает тысячи украинских специалистов в этой области, а американский и европейский технокапиталы готовы инвестировать сюда. Война будущего с прошлым за наше будущее продолжается. Чорт ногу сломит Война прошлого с будущем Пропал на три месяца, потому что живу в Киеве — столице страны, на которую напала Россия. Дела у меня, как и у Киева: жизнь всё это время кипела в борьбе со смертью, по окраинам нас потрепали, пару раз попали в центр личности, — но в целом я практически вернулся в норму, как для военного времени. Идет война прошлого с будущим. Прошлое — это правительство РФ, мировоззрение «вернём всё взад», бряцанье устаревшим оружием и архаичное запугивание мира атомными бомбами. Это разрушение и откат, изоляция и разделение. А будущее — это Украина и ее союзники, открытые границы, взаимодействие и взаимопомощь, экономический рост и технологический прогресс. Война повлияла на мои взгляды. Например, раньше я симпатизировал Китаю, как модели, которая показывает, что цифровой авторитаризм — это жизнеспособно и не так уж и плохо. Но китайский сателлит в лице правительства и «элит» РФ показал, что это невозможно и что от цифрового тоталитаризма не стоит ждать ничего, кроме как еще более худшей версии…
-
Чорт ногу сломит
Киберсуверенные новости Американское правительство запретило своей технокорпорации Nvidia экспортировать в Китай две топовых модели микрочипов, которые используют в разработке искусственного интеллекта. Больше всего эти микрочипы нужны для распознавания изображений и компьютерного зрения – в тех сферах ИИ, где Китай считался мировым лидером последние 5 лет. Министерство торговли объясняет запрет на экспорт этих чипов вопросами национальной безопасности: они хотят, чтобы чипы не попали в руки нежелательных людей (к которым относятся в первую очередь китайские военные). Китайские ученые используют микрочипы для развития науки ИИ, инженеры и бизнесмены превращают их в полезные продукты, но в конце этой цепочки стоят военные с агрессивными планами. Так что остановка поставок чипов бьет по всей научно-технической цепочке и из-за политиков и военных страдают все. Конечно, такие ограничения не выгодны и для американской Nvidia. Стоимость акций компании упала на фоне новостей о потере китайской прибыли. Зато это выгодно американским технокорпорациям от Apple до Meta, которые занимаются тем же компьютерным зрением и получают фору, чтобы обогнать китайских техноконкурентов. Кстати, Apple тоже работает над снижением технозависимости от Китая и довольно стремительно переносит производство iPhone из Поднебесной в Индию. А Цукерберг уже несколько лет давит на правительство, чтобы оно наложило ограничения на главного соцсетевого конкурента Facebook – китайский TikTok. В Европе тоже работают над концепцией сдерживания Китая и, как следствие, стимулируют собственное технопроизводство. При этом CEO Deutsche Bank говорит, что Германии будет сложно избавиться от китайской зависимости — это потребует «таких же фундаментальных перемен, как разрыв зависимости от российской энергии». Глава одного их бизнес-флагманов Поднебесной Huawei (и, кстати, первой технокорпорации, которая начала страдать от американских санкций несколько лет назад) Жэнь Чжэнфэй говорит, что китайскому технобизнесу нужно приготовится к «болезненной декаде впереди», забыть про экспансию и развитие, сокращать рабочие штаты и фокусироваться исключительно на прибыли. Открытая агрессия России (открытого вассала Китая) обнажила планы самой Поднебесной на Тайвань. В отличие от Гонконга, КНР не удается склонить островное государство к авторитарной модели и контролировать его. Китай открыто угрожает оружием Тайваню – крупнейшему мировому производителю микрочипов, чьи передовые высокотехнологичные заводы частично принадлежат тем же Apple. Поэтому такой ответ западных правительств и технокорпораций вполне объясним. Агрессии необходимо противостоять — и, конечно, желательно делать это к выгоде для себя. #киберсуверенитет -
Чорт ногу сломит
Наука о поведении человека Перевел отрывок из любимой книги профессора Скиннера «По ту сторону свободы и достоинства». За 50 лет мы так и не создали полноценную науку о человеческом поведении. Хотя казалось бы, что может быть важнее? От поведения людей и способности им управлять зависит не только благополучие индивида и его семьи, но благополучие общества и процветание человечества как вида. «25 веков назад можно было говорить, что человек понимал себя так же хорошо, как всё остальное в окружающем его мире. Сегодня человек понимает себя хуже всего. Физика и биология прошли длинный путь, но за это время не было никакого сравнимого развития чего-то вроде науке о человеческом поведении. Античные физика и биология теперь представляют только исторический интерес (современные физики или биологи не обращаются к Аристотелю за помощью), но диалоги Платона все еще изучаются студентами и цитируются так, будто они проливают свет на человеческое поведение. Аристотель не понял бы и страницы из современной физики или биологии, но Сократ и его друзья не затруднились бы разобраться в большинстве современных дискуссий о делах человеческих. Что касается технологий, мы проделали огромный путь к контролю физического и биологического миров, но наши практики управления, образования и большей части экономики, хоть и адаптировались под разные условия, не продвинулись далеко. Это нельзя объяснить тем, что древние греки знали абсолютно все, что можно знать о человеческом поведении. Конечно, они знали о нем больше, чем о физическом мире, — но всё же довольно мало. Более того, в самом способе их размышления о человеческом поведении, должно быть, содержалась фатальная ошибка. Древнегреческие физика и биология, какими грубыми они бы не были, в итоге привели к современной науке, но античные теории о человеческом поведении не привели никуда. Их идеи с нами до сих пор не потому, что они абсолютно истинны, а потому что в них не было семян более совершенных идей. Всегда можно сказать, что человеческое поведение – исключительно сложная тема. Конечно, сложная, — и мы склонны думать так только потому, что так и не научились справляться с ней. Но современные физика и биология успешно справляются с явлениями точно не менее сложными, чем многие аспекты человеческого поведения. Разница в том, что они используют инструменты и методы соответствующей сложности. Тот факт, что инструментов и методов подобной сложности для сфер человеческого поведения не существует, ничего не объясняет, а только сильнее заставляет задуматься. Неужели отправить человека на Луну было проще, чем реформировать образование в школах? Или чем построить комфортную жилую среду для всех? Или чем создать условия, в которых все найдут себе выгодную работу и, как следствие, будут наслаждаться более высоким уровнем жизни? Выбор делался не по принципу приоритетности: никто не сказал бы, что полететь на Луну было важнее. Больше всего в полете на Луну людей будоражило то, что его вообще можно осуществить. Наука и технология развились достаточно, чтобы с одним гигантским усилием такой полет стал возможен. Вокруг проблем человеческого поведения нет сравнимого ажиотажа. Мы далеки от решений. Легко заключить, что в человеческом поведении есть нечто такое, что делает научный анализ и, как следствие, эффективные технологии в этой сфере невозможными – но мы даже приблизительно пока не исчерпали наши возможности. В каком-то смысле можно сказать, что научные методы пока что практически не применялись в сфере человеческого поведения». Уже на данный момент развития у нас есть ресурсы для решения самых сложных задач. Мы реально можем победить климатические изменения, установить мир на земле и накормить всех голодных. Но вместо решения этих проблем, мы заняты созданием новых – это очевидный дефект человеческого поведения. И несмотря на его очевидность, науки для изучения наших внутренних багов через полстолетия после этих слов Скиннера так и не сложилось. Это надо срочно исправлять. -
Реклама
-
Чорт ногу сломит
Китайская модификация поведения Написал статью про китайские бихевиористские эксперименты «Кіберпіднебесна: 4 принципи управління суспільством у китайському цифровому авторитаризмі» (вот русскоязычная версия). Хочу добавить то, что не вошло в статью: о реакции китайцев на требования Партии быть гомогенно-хорошими гражданами. Нужно понимать, что на деле сотни миллионов китайцев живут в высокотехнологичных городах и зарабатывают много денег. И чем богаче житель мегаполиса, тем ближе он к западной культуре. На богатых китайцев (по крайней мере, на их отпрысков) не распространяется насаждаемая сверху философия «get rich or die trying», поэтому дети выбирают учиться в Европе и США, привозят домой либеральные ценности и выбирают карьеры художников и музыкантов (в сознании рядовых китайцев творческие профессии = бедность ). Короче, западные ценности, экзистенциальный бунт, цинизм и ирония – все это тоже есть в китайском обществе. Другой вопрос, что там, чтобы все это практиковать, нужно быть либо богатым, либо отчаянным. Вот две маленьких, но показательных зарисовки: 1) В Китае среди 20-30-летних популярна субкультура санг (пер. похороны, подавленность). Это выгоревшие на работе и учебе молодые люди, исповедующие ироничное пораженчество и ощущение упадка, интернет-декаденты. Санги любят депрессивную человеко-лошадь из американского мультсериала «BoJack Horseman», хотят “проснуться завтра – и быть уже на пенсии” и не поддерживают борьбу за социализм (для нее на улице всегда плохая погода, а сил хватает только лежать на диване и играть на смартфоне). Партия последовательно борется с сангами, наказывает санг-инфлюенсеров, запрещает их любимые мультики и через медийный рупор призывает: «Встань, будь храбрым. Откажись от “санг-чая”, выбери правильный путь и живи боевым духом нашей эры». Реакция сангов обычно звучит так: «Нахер позитивную энергию». 2) Подобные тенденции свободомыслия и отклонения от культурно-идеологической линии партии наблюдаются и в обеспеченном классе, но выглядят чуть иначе. Заслуженный китайский инвестор Дин Пэн поделился в рабочем чате своими планами воспитания сына подростка: - научить его смотреть порно, - встречаться сразу с несколькими девушками - и начинать рожать детей уже в на учебе в институте. Дин объяснил: «Я прожил тяжелую жизнь. Я упорно учился, пока был молодым и продолжал учиться в 30. Я не хочу, чтобы он шел моим путем. Я хочу, чтобы он жил low life», — подразумевая, что плохо учиться, отлынивать от работы и развлекаться напропалую могут позволить себе только бедные люди, и что заработанное состояние поможет купить его сыну такие «привилегии бедных». -
Чорт ногу сломит
Дроны и мир без войны В ближайшем будущем человечество, скорее всего, перейдет на войны дронов с минимальным участием людей в районе боевых действий. Люди будут координировать автономные дроны на расстоянии, сидя в бункерных штабах. Со временем люди-военные превратятся в простых наблюдателей: роботы будут воевать самостоятельно, а люди не всегда будут понимать, что же происходит на поле боя. Уже сейчас в Китае работают «водители робо-такси». ИИ уже достаточно хорош, чтобы в большинстве случаев вести машину без человека, но власти все еще не доверяют нейросетям полностью и прикрепляют к ним живых контроллеров. Но и эта профессия исчезнет через пару лет, когда водители робо-такси допилят баги нейросетей-водителей, а китайцы убедятся, что их ИИ справляется с вождением даже лучше людей. Точно так же, чем больше люди будут управлять военными дронами, тем скорее боевой ИИ станет автономным. К 2027 году англичане обещают выпустить истребитель Spitfire поколения ИИ: в нем бортовые нейросети будут считывать биопоказатели пилота, активность его мозга и нервной системы и перехватывать управление самолетом, если летчик, например, потеряет сознание. Со временем живые пилоты вообще будут не нужны. Все виды тяжелых вооружений – артиллерия, танки, зенитные установки – будут передвигаться и стрелять без человеческого экипажа на борту. Самолеты научатся летать без живых пилотов на борту, а управлять ими будет симбиоз ИИ и удаленно работающего пилота. Боевые спутники будут бороздить по космосу без пилотов. Летающие дроны уже сканируют местность, доводят ракеты до цели, сами выпускают ракеты, стреляют и сбрасывают бомбы. В ближайшее время силу начнет набирать технология «роя дронов» – это коллективный ИИ-разум, который синхронизирует и управляет одновременно десятками (а потом и десятками тысяч) роботов всех видов и форм. Сейчас в Украине боевые задания выполняют группы из десятков дронов, пилотируемых командами людей, а в будущем задания будут выполнять сотни ударных дронов, десятки автономных установок артиллерии и ПВО, беспилотные танки и тысячи дронов камикадзе – все идеально синхронизированные ИИ-роем. Иногда ИИ-рой приобретает бувальное воплощение. Молодые ученые превратили мертвых пауков в “некроботов” (или “арахноборгов”, если хотите). Они научились синхронно управлять лапками трупика паука, вонзая иголку в нужный участок его мозга. Пока некроботы работают довольно топорно, но можно смело ждать появления арахноборгов на полях сражений. Представьте себе, что утром небольшой летательный дрон вплотную подбирается к вражескому лагерю и сбрасывает на него стаю арахноборгов разных видов и форм. А к вечеру управляемые дистанционно пауки убивают все высшее командование, до которого не добраться никакими бомбами и пушками. Нет ничего смешного в роботизации и деревьев. Я уже видел, кажется у Vice, документалку, в которой камеры устанавливали на деревья в дебрях джунглей и с помощью круглосуточного видеонаблюдения с ИИ ловили браконьеров. Можно устанавливать автономные ИИ-деревья на границах с враждебными территориями — и они будут автоматически активировать защитные мины, например. Почему я за переход войны в ИИ-фазу? Я надеюсь, что это поможет избегать человеческих жертв и война окончательно перейдет в экономическую и технологическую плоскости: рулить будет совершенство машин и алгоритмов, а не право политиков ставить людей под ружье. Раз уж мы такие агрессивные обезьяны и не можем не воевать, значит, нужно воевать максимально цивилизовано: эвакуировать всех гражданских из зоны дроно-боев и позволять воевать сколько их кремниевой душе угодно. В культовом аниме «Евангелион», когда на месте города Токио-3 сражались восьмидесятиметровые роботы-убийцы, небоскребы с жителями находились в катакомбах под землей: по сигналу тревоги город как бы уезжал под землю. Когда драка ботов заканчивалась, небоскребы выезжали обратно наверх, на свет божий. В войнах будущего не должны погибать люди. 
-
Чорт ногу сломит
Чему можно научиться у Тайваня? Тотальная цифровизация – неизбежная реальность. Цифровизуются все сферы индивидуальной и общественной деятельности — как глобальные, так и микроскопические явления, как движения массовой, так и индивидуальной психе. Остановить тотальную цифру может только ядерная война и разрушение цивилизации. Но пока войны идут вполне обычные, а цивилизация только крепчает. Ключевой вопрос для развивающейся цифровой эпохи такой: по каким принципам должны и будут цифровизоваться личности, государства и человечество в целом? Я отчетливо вижу два пути: демократическая цифровизация (демцифра) и авторитарная цифровизация (автоцифра). Процесс цифровизации в большей или меньшей степени контролируют власть имущие и/или крупные капиталисты. Но разница между демократической и авторитарной моделями цифровизации — в степени участия в этом процессе и в уровне контроля, которые доступны обычным гражданам. В авторитарных государствах граждане совершенно бессильны перед цифровым надзором и контролем государства. Поэтому такая модель кажется соблазнительным вариантом развития для представителей властной верхушки (в первую очередь, для политиков и техноолигархов), так как позволяет взять общество под стремящийся к 100% контроль: чем объёмнее сбор данных и сильнее ИИ — тем полнее контроль. В демократических режимах уровень участия простых людей в цифровых процессах управления сейчас всё возрастает. Демцифра держится на информированных и вовлеченных в общественную жизнь гражданах (без активности граждан цифровизированная демократия автоматически будет приближаться к автократии). Тайвань — одна из самых цифровизированных демократий мира. К власти этого островного государства пробились настоящие, неиллюзорные гики, разделяющие классические ценности раннего децентрализованного интернета. История цифровизации Тайваня доказывает, что трушные интернет-пути, ведущие к демцифре (а возможно к анархо-цифре) — не пустая болтовня, а реальный проект современного общества. Тайвань имеет кое-что общее с Украиной: это государство вынуждено совершенствовать свою демцифру не просто рядом с самой продвинутой автоцифрой в мире — Китаем, но под постоянной угрозой от этого авторитарного соседа. Но я считаю тайваньский опыт интересным и полезным для Украины не только поэтому. Дело в том, что Украина сейчас тоже демонстрирует очень смелые цифровые решения, которые ещё недавно казались пустыми мечтаниями, а оказались крайне действенными даже в обстоятельствах смертельной опасности. Моя взрослая жизнь протекала под тэгом «политического реализма». В подходе realpolitik демократические ценности (и вообще ценностный дискурс) — это «конечно же, круто, но недостижимо», а верящие в демократию люди — оторванные от жизни студенты-мечтатели. Но сейчас и Украина и Тайвань показывают, что как раз «оторванные от реальности» демократические идеалы могут стать суперсилой в XXI веке в условиях роста высоких технологий — и могут наконец изменить политическую реальность, где нет места ценностям. Написал об этом статью «У Тайбеї завжди сонячно: чого Україна може навчитися у цифрової демократії Тайваню» для Забороны. С разрешения редактора для моих русскоязычных читателей публикую русскоязычную версию статьи. -
Чорт ногу сломит
Как начинается цифровая диктатура? Тезис о том, что война России и Украины — это война ценностей, может показаться на первый взгляд преувеличением, за которым скрывается только «просто политика». На самом деле, в этом тезисе скрыта правда. В борьбе свободы с контролем нет ничего нового. Но конкретно этой войне особой цивилизационной ценности и апокалиптического привкуса придает тот технологический этап, на фона которого она идёт. Дело в том, что Украина — довольно яркий пример хотя еще не проработанной, но уже цифровой демократии. А Россия — яркий пример еще не вполне цифровой, но уже автократии. Учитывая вектор развития, который взяла РФ, полезно посмотреть на ее старшего брата — Китай, в котором авторитарная система уже достаточно крепко цифровизировалась. У российской волокиты с заменой слова «война» на «специальную военную операцию» есть китайский побратим — события на площади Тяньаньмэнь, темное пятно на биографии китайской власти. И оно вытирается цифровыми средствами не только из официальной истории но из информационного потока и личного общения. О площади Тяньаньмэнь технически крайне сложно написать или прочитать в интернете из-за фильтров на соцсетях и поисковиках. В России сейчас своя тяньаньмэньская площадь, но гораздо более масштабная — война с Украиной. Требование называть войну «специальной военной операцией» может показаться просто очередным бюрократическим бредом. На деле тестовый запуск работы цифровой диктатуры. Учитывая современные возможности, буквально через один шаг легко представить систему, которая будет распознавать и наказывать не только любое написанное слово «война», но и любое сказанное слово «война» — в том числе сказанное в частной беседе. Как проходит этот тест? Кроме технических возможностей проверяют и другое: если общество в 20-х годах XXI века признает за правительством право цензурировать не только СМИ, но речь и даже мысли, создается удачный прецедент — и следующие подцензурные вещи будут регулироваться гораздо жестче. Регулирование информационного потока и наказание людей, участвующих в «неправильном» информационном потоке имеет далеко идущие последствия. В юридическом поле много спорят о том, является ли преступником потребитель запрещенного контента — или только его производители. В авторитарном режиме потребитель, конечно, считается преступником. А список запрещенного контента при таком режиме множится с каждым днем. Например, высказанное вслух недовольство незаконченной стройкой или разваленным домом будет считаться дискредитацией власти и будет под запретом. А затем и само обращение внимания на эту стройку и дом. К чему это приведет? К тому, что вскоре гражданская самоцензура будет работать не только в процессе создания контента — но даже в процессе потребления. Человек будет бояться даже узнать что-то — так как цифровые средства контроля позволят фиксировать это сразу и автоматически наказывать. Цифровой авторитаризм исполнит мечту диктатора: наказание станет обязательным и неизбежным — в отличие от диктатур прошлого, где наказать за всё и всех было просто невозможно. Одна из причин падения репрессивной модели Советского Союза — невозможность наказать всех нарушивших предписания. Наказания были избирательными и показательными: большинство достаточно было запугать возможностью наказания — однако у диссидентов всегда была надежда на «всех не пересажаете». Но цифровая диктатруа исправит эту историческую ошибку. Уже совсем скоро она сможет наказывать автоматически всех нарушивших правила без исключения — и совершенно без затрат человеческого ресурса. -
Чорт ногу сломит
Война прошлого с будущем Пропал на три месяца, потому что живу в Киеве — столице страны, на которую напала Россия. Дела у меня, как и у Киева: жизнь всё это время кипела в борьбе со смертью, по окраинам нас потрепали, пару раз попали в центр личности, — но в целом я практически вернулся в норму, как для военного времени. Идет война прошлого с будущим. Прошлое — это правительство РФ, мировоззрение «вернём всё взад», бряцанье устаревшим оружием и архаичное запугивание мира атомными бомбами. Это разрушение и откат, изоляция и разделение. А будущее — это Украина и ее союзники, открытые границы, взаимодействие и взаимопомощь, экономический рост и технологический прогресс. Война повлияла на мои взгляды. Например, раньше я симпатизировал Китаю, как модели, которая показывает, что цифровой авторитаризм — это жизнеспособно и не так уж и плохо. Но китайский сателлит в лице правительства и «элит» РФ показал, что это невозможно и что от цифрового тоталитаризма не стоит ждать ничего, кроме как еще более худшей версии реальности, нежели в «1984» Джорджа Оруэлла. Теперь я абсолютно убежден, что цифровой должна быть именно демократия — и никаких заигрываний с цифровым авторитаризмом быть не должно в принципе! Пускай и далеко не идеальное, но демократическое устройство в Украине с его многоголосьем, свободой действия и инициативы создало благородное коллективное сознание. Оно показало себя миру гораздо лучше, чем обработанные одним мнением централизованной пропаганды сознание 140 миллионов россиян. Украинцы доказали: там, где есть свобода, прорастают очень благородные поступки, которых не ждешь, если смотришь на людей лишь с точки зрения бихевиориста, думая, что человек делает только то, чему его научили. Россия доказала: да, бихевиоризм работает. Но меня мягко говоря не устраивают его результаты. Та «преступная дрессировка» народа, которая стала возможна в РФ при помощи пропаганды, действительно превращает людей в озлобленных животных. Говорят, впрочем, что человек может быть или гораздо хуже, или гораздо лучше животного. Кажется, мы отлично знаем, где и как начинаются пути к этим «лучше» и «хуже». Теперь я уверен: нам нужно только цифровая демократия — где нет тотального контроля за информацией, где люди могут выбирать сами, где их информируют, а не обрабатывают, где голос каждого учитывается, а мнение может изменяться (и это нормально). При этом я уверен, что демократическое и прозрачное ИИ-управление в любом случае будет лучше, чем засидевшиеся у власти диктаторы и клептократы. Я всегда повторял: будущее уже здесь, но оно распределено по миру неравномерно. Однако теперь я с горечью понимаю, что прошлое не просто всё ещё здесь, — его гораздо больше, чем я мог предположить. Сравните Дмитрия Рогозина и Илона Маска, чтобы почувствовать разницу между прошлым, которое маскируется под настоящее, и настоящим, которое устремлено в будущее. Раньше я не мог осознать, как много вокруг нас прошлого — архаичного и устаревшего — прямо здесь и сейчас. Последние 5 лет я жил исключительно будущим, и из-за этого недооценил, насколько плотно прошлое держит некоторых из нас. Например, атомная энергия действительно принесет нам много всего хорошего, но в руках дебилов она превращается в каменную дубину, которая не способна ничего создавать и питать — только крушить и ломать. Я не вел блог три месяца войны, потому что полностью сконцентрировался не на том, что я умею делать хорошо — а на том, что я должен делать, как умею. Для выживания во время войны самое важное — горизонтальные связи и помощь людям, которым она нужна. Теперь я готов вернуться к инструментам, которыми владею хорошо, с новым виденьем. Я думаю, главная наша цель — наконец оставить прошлое в прошлом, сделать так, чтобы оно отпустило настоящее, и дать дорогу будущему. В этом блоге я хочу не только экспертно писать о будущем, но и обсуждать настоящее и создавать коммьюнити. Партия Прошлого выстроилась плотными рядами — так что нам, Партии Будущего, тоже нужно сплочаться. Такие дела. А у вас как? -
Чорт ногу сломит
Андрей Карпаты – 35-летний директор ИИ в Tesla. До прихода в Tesla, он несколько лет работал в другой ведущей ИИ компании OpenAI. Недавно Илья Суцкевер из OpenAI заявил, что современные нейросети, возможно, уже немного сознательны. Многие ИИ-ученые разозлились и в ответ заявили, что Суцкевер спекулирует и хайпует на ровном месте – до сильного ИИ (AGI) нам еще очень далеко. Андрей Капраты был среди немногих, кто согласился с бывшим коллегой Суцкевером – вместе они представляют AGI-оптимистов. Все ключевые технокорпорации так или иначе работают над созданием сильного ИИ, но не все могут себе позволить так открыто рассуждать об успехах в этой области. Например, громче всех Суцкеверу возражал Ян Лекун – один из отцов глубокого обучения и главный ИИ ученый в цукерберговской Meta, недавно лишившейся четверти своей капитализации. Цукерберг и так нахайпил со своим метаверсом, так что рассказы про сознательных роботов из недр его компании – это уже чересчур, ему и так сейчас никто не верит. Почему Суцкевер и Карпаты решаются идти против ИИ-мейнстрима и отстаивают AGI-оптимизм? Может потому, что они сильно обошли конкурентов из Alphabet, Microsoft, IBM и Meta? Возможно, но маловероятно. Зато их хайп вполне объясним, если вспомнить, что за OpenAI, как и за Tesla, стоит Илон Маск. На первый взгляд Маск кажется AGI-пессимистом: он годами рассказывает об угрозах AGI и о том, что мы будем неизмеримо глупее роботов. Да и вообще, мы точно не сможем победить AGI, так что лучше сразу настраиваться на сотрудничество и подчинение. Но, с другой стороны, Маск – AGI-оптимист. Именно он основал OpenAI и сейчас превращает Tesla из авто-компании в ИИ-корпорацию. В январе он предположил, что его тесла-робо-гуманоиды Оптимусы помогут становлению сильного ИИ. Отдельно нужно разобраться, как в его сознании связаны AGI и нейроимпланты, которые разрабатывает его Neuralink. Короче, Маск – основной публичный флагман AGI. Так что мы либо будем ему крайне признательны, либо он нас всех погубит. Посмотрим. В любом случае, будущее, придуманное Маском – гораздо интереснее и живее будущего, придуманного политиками. Но вернемся к Карпаты. Он недавно написал интересный твит, в котором предлоил собрать вместе следующие технологии: - распознавание лиц - распознавание речи - GPT в роли ядра «intelligence engine» - text to speech и - GAN для генерации лиц. «Так можно создать цифрового человека, с которым можно будет общаться по вебкаму/телефону (но это будет просто «приодетый» GPT)», пишет Карпаты. Это конечно не AGI, но с точки зрения рядовых пользователей интернета – это уже почти оно. А бонусом он предлагает «свести две таких сущности друг с другом на Twitch. Или сделать оболочку не человека, а животного, которое будет жить на смартфоне пользователя – получится Tamagochi++». 
-
Чорт ногу сломит
Когда читаешь о метаверсе, создается ощущение будущего. А когда смотришь, как он выглядит на самом деле – возникает жгучее ощущение прошлого. В прошлом году разработчики Everyrealm купили участок в виртуальном мире Decentraland за $913 000. Они назвали этот участок Metajuku в честь реального японского квартала Харадзюку, считающегося центром японской уличной моды. На этой неделе JPMorgan, один из крупнейших банков мира, открыл свое виртуальное представительство в том самом Metajuku. Одновременно с этим банк выпустил отчет о метаверсе с подзаголовком «Как бизнес может исследовать метаверс и отличать хайп от реальности». В отчете говорится, что метаверс – это бизнес-возможность на 1 триллион долларов. А в иллюстрирующей эту триллионную возможность виртуальной «лаунж зоне» JPMorgan ходит пиксельный тигр и висит фотография руководителя банка – миллиардера Джеймса Даймона. Убогий вид этого виртуального лаунжа никак не вяжется в моем сознании с обещанным финансовым потенциалом метаверса и web3. Чтобы метаверс выглядел хорошо, технокомпаниям нужно совершить гигантский скачок вычислительных мощностей компьютеров и пропускных способностей серверов и решить еще миллион технических вопросов. Создание технической базы для метаверса позволит отдельным компаниям заработать очень много денег. Обратите внимание, что Meta/Facebook уже стоит меньше, чем производители процессоров Nvidia и TSMC: никому не нужен метамир, если он выглядит, как игра из 90-х. Другой крупнейший банк Goldman Sachs недавно посчитал, что метаверс – возможность на все 8 триллионов долларов. И Goldman Sachs и JPMorgan, к слову, стояли у истоков лопнувшего в 2008 году финансового пузыря, за которым последовал всемирный экономический кризис. И оба этих банка тогда финансово поддержало правительство США, пока миллионы простых американцев лишались домов и пенсий. Я не сомневаюсь, что метаверс – это наше будущее: по-моему, это довольно печально, но это факт. Тем не менее, мне кажется, что прежде чем мы придем в это виртуальное будущее, мы пройдем через множество лопнувших пузырей, от которых пострадают не Даймоны этого мира, а рядовые крипто-бро, nft-энтузиасты и другие мета-мейты. 
-
Чорт ногу сломит
Дипфейк политика Юн Сок Ёль – бывший генеральный прокурор Южной Кореи, а теперь – один из двух главных кандидатов в президенты на выборах 2022. Юн был обычным скучным 61-летним политиком, а стал первым в истории кандидатом, за которого с молодыми избирателями общается дипфейк-двойник ИИ Юн. Для создания ИИ Юна, реальный Юн наговорил 3000 предложений (20 часов аудио и видео), а южнокорейская дипфейк-контора создала виртуальный аватар, который можно запрограммировать на любые слова и активность. На специальном сайте корейцы задают ИИ Юну вопросы, а он отвечает на них видосами. Точнее, ответы за него придумывает команда молодых специалистов по смм и мемам, а нейросети потом «снимают» дипфейк видео с ИИ Юном. Понятно, что речи для реальных политиков и так пишут специалисты, а уж активность в интернете – посты, ответы, мемчики – тем более просчитывается командами людей, а не самим политиком. Но ИИ Юну позволено гораздо больше, чем реальному политику: он разговаривает на жаргончике, обзывает своих конкурентов и шутит черные шутки – и ему все сходит с рук. Корейские миллениалы и представители gen z, на которых рассчитана дипфейк-кампания, прекрасно понимают, что с ними разговаривает фейк, за который все шутки придумывают другие люди. Виртуальный политик не имеет почти никакого отношения к реальному политику. Тем не менее, популярность реального Юна за два месяца работы ИИ Юна выросла, и теперь он реально может выиграть выборы. ИИ Юн наводит меня на две мысли: 1) ИИ уже пришел в политику и очень быстро ее завоюет: например, скоро речи дипфейк-политикам будут писать уже не люди, а нейросети вроде GPT-3. Выяснять, что хотят услышать избиратели, будут другие нейросети. Ну а потом и решать, что нужно стране, станут тоже нейросети. 2) Люди гораздо лучше подготовлены к отношениям с ИИ, чем нам всем казалось, во многом благодаря механизму проекций, описанному еще Фрейдом. Совсем скоро нейросети станут нашими лучшими друзьями, любовниками, психотерапевтами и лидерами мнений. Всё, как писал Пушкин: Но притворитесь! Этот взгляд Все может выразить так чудно! Ах, обмануть меня не трудно!.. Я сам обманываться рад! 
-
Чорт ногу сломит
Илье Суцкеверу 36 лет. Он один из топовых разработчиков ИИ и один из самых цитируемых компьютерных ученых в истории. В 2015 году он вместе с Илоном Маском и Сэмом Альтманом основал OpenAI – одну из двух ведущих ИИ-лабораторий, в которой, например, разработали самый продвинутый алгоритм обработки естественного языка GPT-3. Суцкевер известен также своей верой в концепцию AGI или сильного ИИ, способного мыслить и осознавать свои действия. Создание осознающего ИИ – священный грааль всей ИИ-науки, но всерьез рассуждать о нем публично считается дурным тоном и профанацией, так как неясно, получится ли вообще когда-нибудь его создать, учитывая, например, что мы даже не знаем, что такое сознание. И вот в конце прошлой недели Суцкевер написал в своем твиттере: «Возможно, современные крупные нейросети – немного сознательные». Этот твит спровоцировал широкий отклик в узкой среде элитных ИИ-ученых, большинство которых обвинили Суцкевера в хайпожорстве и оторванности от реальности. Советую всем интересующимся ИИ почитать тред под этим постом – там много полезных мыслей и ссылок и можно подписаться на реально крутых ИИ-ученых. И заодно послушайте, что сам Суцкевер говорил о создании AGI. А вот другая цитата Суцкевера для тех, кто не хочет погружаться в технические нюансы AGI и тонкости определения сознания, но хочет представить, что это такое: «Представьте своего самого умного друга, и еще тысячу таких же умных друзей, которые думают в 1000 раз быстрее чем обычно. Получится, что за один день они наразмышляют, как за три года». Сейчас миром управляют люди – биологические машины, чьи нейросети думают каждый день и принимают решения о том, как должен выглядеть наш мир. Как вы думаете, как будет выглядеть мир, в котором думать и принимать решения будут настолько превосходящие нас в думании сущности? Суцкевер предполагает, что в таком мире разовьются «бесконечно стабильные диктатуры». И почему-то всё равно рвется создавать AGI. 
-
Чорт ногу сломит
В свежей колонке для Ножа постарался в общих чертах обьяснить сверхновую историю цензуры. А здесь добавлю несколько общих замечаний, объясняющих, почему в вопросе цензуры я — полный пессимист: Во-первых, совсем скоро в нашем распоряжении будут почти идеальные инструменты для тотальной цензуры — с возможностью на ходу переписывать историю, редактировать освещение событий в прямом эфире и полностью вытирать из общественного пространства всё «неправильное». Во-вторых, я не вижу абсолютно никаких причин, по которым власть (неважно, западная или восточная) не станет пользоваться этими совершенными цензурными инструментами. Свобода слова это, конечно, хорошо, но безопасность, как обычно, дороже — в этом нас будут убеждать наши цензоры. И в-третьих, я думаю, что обычная цензура уступит место утонченной алгоритмической инженерии мнений, об инструментах которой я неоднократно писал в этом блоге: от перспектицида до цифровой модификации поведения. Мы входим в эпоху, когда робоцензоры будут безжалостно эффективно выполнять заданные им формулы: «запретить мнение А» или «удалить пользователя вида Б». Интересно то, что даже в тех обществах, где робоцензуры (пока) нет, люди зачем-то сами требуют ее ввести. Мне это кажется тревожным и печальным, а вам? -
Чорт ногу сломит
Питер Тилль – один из самых интересных техномиллиардеров, со-основатель компаний PayPal и Palantir, поклонник Айн Ренд и шахмат. Он также известен как первый инвестор Facebook: в 2005 году он поверил в 20-летнего Цукерберга, купил 10% соцсети за $500 000 и с тех пор был неизменным членом совета директоров компании. Вчера он объявил о том, что больше не будет переизбираться в совет директоров. Тилль покидает компанию Цукерберга в переломный момент: Meta трансформируется из обычной соцсети в метаверс-компанию и после публикации квартального отчета потеряла почти четверть своей стоимости ($230 млрд). Сейчас никто не знает, получится ли у компании Цукерберга переизобрести себя, или же многолетние усилия противников соцсети таки принесли плоды и бесповоротно подрезали ей крылья. Тилль почти 20 лет был одним из основных менторов Цукерберга, особенно в финансовых вопросах, и сейчас он покидает компанию не из-за ее проблем, а скорее, чтобы облегчить Цукербергу ношу. Тилль – уникальная для Кремниевой долины фигура. Он не просто республиканец, а первый и единственный открытый сторонник Дональда Трампа на выборах 2016 и во время его первого президентского срока. Из-за связи Тилля с Трампом у критиков Цукерберга были основания обвинять Facebook в подыгрывании республиканцам – а теперь так уже не получится. Сейчас Тилль финансово поддерживает двух молодых республиканских политиков, претендующих в этом году на места сенаторов: писателя Дж.Д. Вэнса на место сенатора от штата Огайо и соавтора книги Тилля «От 0 к 1» Блейка Мастерса от штата Аризона. Более того, с каждым днем растет вероятность, что Трамп будет баллотироваться на второй срок, и Тилль, кажется, снова будет его поддерживать. Тилль – один из инвесторов развивающейся видео-соцсети Rumble. В день, когда стало известно об его уходе из Facebook, глава Rumble Крис Павловски предложил $100 млн Джо Рогану за переход со Spotify на его платформу. Либеральные активисты и публичные фигуры и так публично требуют удалить Рогана со Spotify за его альтернативное освещение ковида – и тем самым делают его еще одной жертвой деплатформинга и героем борцов за свободу слова. Ну а главная жертва деплатформинга, как известно, – сам Дональд Трамп. Rumble – не только очевидно республиканская платформа, но с недавних пор еще и партнер продвигаемой Трампом соцсети TRUTH Social. Американская политика теперь намертво переплетена с техноолигархией, Тилль все глубже входит в истеблишмент республиканской партии, а политическая борьба в США теперь будет сводится к борьбе соцсетей и интернет-платформ. 
-
Чорт ногу сломит
Власть по Адаму Маккею Власть и капитал создаются людьми и без людей существовать не могут — и все же по силе превосходят силу всех людей, вместе взятых. Власть — больше, чем и ее представители: часто ее носители превращаются в ее же лакеев, в функцию, за которой уже не просматриваются их личности. Но есть исключительные люди, у которых с властью складываются как бы партнерские отношения – карьеры таких людей похожи на красивый (и чаще всего, страшный) танец: то они ведут власть, то она — их. Один из таких персонажей — бывший вице-президент США Дик Чейни. После событий 11 сентября 2001 года Америка развернула войну с террором, которая идет до сих пор, а вице-президент Чейни стал одним из главных ее идеологов. В том числе он стоял у истоков концепции тотальной слежки и сбора данных граждан – с телефонов, компьютеров и т.д. – для борьбы с терроризмом и защиты национальной безопасности США. Узаконенная горстью американских чиновников тотальная слежка, о которой мир узнал после разоблачений Сноудена в 2013 году, стала фундаментом надзорного капитализма и сделала возможным существование Google, а затем и Facebook. Без государственного одобрения, обеспеченного Диком Чейни, такой массированный сбор данных, который до сих пор ведут технокорпорации, просто был бы невозможен. Время показало, что ведомые рынком частные корпорации гораздо эффективнее распоряжаются личными данными пользователей, чем это делает государство или спецслужбы. Американские спецслужбы тратили на выуживание сведений о гражданах миллиарды долларов – всё для ловли террористов. Но они ничего толком не добились (по крайней мере, официально). А вот корпорации, наоборот, сделали на собранных данных сотни миллиардов долларов. К чему я это? На «Ноже» вышла моя свежая статья о власти в трех фильмах горячо любимого мною сатирика Адама Маккея: «Не смотрите наверх!», «Игра на понижение» и «Vice». В ней я выделил 5 черт власти по Маккею: власть некомпетентна, не заботится о будущем, лжет, замутняет разум — и никогда не бывает наказана. Советую на досуге почитать статью и посмотреть все три фильма. И в особенности «Vice» — посвященную тому самому Дику Чейни черную трагикомедию. -
Реклама
-
Чорт ногу сломит
«Я – гордый член фан-клуба капитализма. Капитализм – лучшая из существующих систем. Ей удается превратить личный интерес людей в инновации и топливо для экономического развития. Но давайте по-честному: капитализм плохо справляется с удовлетворением потребностей очень бедных. Предприниматели и инвесторы обычно не тратят свои время, сокровища и таланты на развитие продуктов для людей, которые не могут им заплатить. Правительство предлагает услуги там, где этого не делает бизнес, и обеспечивает определенный уровень защиты. Но многие правительства не смотрят в отдаленное будущее из-за коротких избирательных циклов. Богатым правительствам сложно оправдать крупные инвестиции в исследования, которые принесут пользу только людям в отдаленных странах – поэтому правительства не приносят инновационные идеи на рынок. За пределами инноваций, в которые правительства и бизнесы готовы вкладываться, находятся инновации, сулящие фантастические прибыли. В этом фертильном пространстве и разворачивается то, что я называю "каталитической филантропией"». Это цитата Билла Гейтса 2014 года, в которой он объяснял деятельность Фонда Билла и Мелинды Гейтс стоимостью $50 млрд. Самыми «фертильными пространствами для инноваций» Гейтс считает здоровье, климат и энергетику. Мне очень нравится, как ультра-капиталист описывает принципиальные ограничения системы: бизнес близорук из-за необходимости каждые 3 месяца показывать рост прибыли, а политикум – из-за необходимости каждые пару лет избираться на властные позиции. Ограниченное количество денег и власти приводит к инкрементализму — решению мелких проблем по мере их поступления — вместо глобального подхода, предупреждения будущих проблем и сверх-долгосрочных инвестиций. Классический пример негативных последствий капиталистического инкрементализма — климатический кризис: пока все решали свои текущие вопросы, вызревала глобальная проблема. Гейтс, Безос и другие «каталитические филантропы» пытаются мыслить глобально и не мутить картину будущего мыслями о выручке и голосах избирателей – они хотят найти окончательное решение мирового голода, климатических проблем, болезней и даже смерти. И у них действительно есть власть и возможности, немыслимые для предыдущих поколений, из-за которых эти филантропы уже ближе к силам природы, чем к людям. Но у всего этого есть одна очевидная опасность: ошибка в решении таких глобальных проблем может превратиться глобальную же катастрофу – чего только стоят эксперименты с генным драйвом, солнечной геоинженерией или автономным ИИ. Чтобы избежать фатальных ошибок, каталитических филантропов должно что-то сдерживать и контролировать – но раз ни рынок, ни правительства не имеют над ними власти, то кто или что сможет удержать их от ошибки? 
-
Чорт ногу сломит
Словарь цифровой осознанности: Деприватность Деприватность (Inverse Privacy) – это ситуация, в которой третьи лица имеют доступ к информации о человеке, а он сам — не имеет. Наше взаимодействие с разными организациями – от супермаркетов и фитнес-центров до работодателей и полиции – создает большое количество личных данных о нас. Наши данные оседают внутри организаций, а мы теряем к ним доступ – так данные становятся деприватными. Такая асимметрия обусловлена в том числе тем, что пользователи элементарно забывают о своих прошлых выборах и действиях, а вот у организаций есть технические возможности помнить — хранить все детали поведения людей. Впоследствии организации анализируют собранные о нас данные и делают новые выводы, то есть производят новую деприватную информацию, к которой мы также не имеем доступа и часто даже не подозреваем о ее существовании. Обычно деприватные данные используется для улучшения качества обслуживания пользователей, подбора наиболее подходящих товаров и услуг. Но чаще всего компании используют такие данные гораздо шире, чем изначально заявляют. Например, производители фитнес-трекеров собирают данные о физической активности пользователя, но заодно превращают их в его рекламный профиль и составляют карту его социальных контактов для продажи третьим лицам. Таким образом возникает эпистемное неравенство: data-организации знают о пользователях (поставщиках данных) большие их самих. Некоторые компании предоставляют пользователям доступ к их деприватным данным, но чаще всего это либо необработанные массивы данных, понятные ИИ, но неудобоваримые для человека, либо наоборот, выхолощенные и максимально упрощенные версии собранных данных. Главный вызов деприватности заключается не в том, чтобы запретить компаниям собирать, хранить и использовать данные пользователей, а в том, чтобы предоставить пользователям возможность извлекать как можно больше пользы из собранных о них данных. #чнс_словарь 
-
Чорт ногу сломит
Прочитал новость о том, что китайская Партия продвигает свою версию NFT в массы, а потом вспомнил, что в США главный амбассадор этой технологии – Пэрис Хилтон, и решил порассуждать на тему разницы подходов к технологическим инновациям в США и КНР. Американская модель подразумевает, что бизнес сам решает, какие инновации самые перспективные и сколько в них нужно инвестировать. Если бизнес делает прогнозы правильно, то рынок вознаграждает его, если ошибается – наказывает. А государство следит за тем, чтобы инновации соответствовали существующим правилам и законам и в случае чего придумывает новые регуляции и ограничения. До недавнего времени такая модель работала лучше всего в мире, а США до сих остается главной кузницей инноваций. Но у этой системы есть один крупный недостаток: рассинхрон между государством и инновационным бизнесом. Чиновники часто не понимают новые технологии, но намертво держатся за свое законное право регулировать бизнес и сдерживать инновации. Чтобы понять, о чем я, просто посмотрите публичные слушания в Конгрессе на тему соцсетей или криптовалют: конгрессмены до боли напоминают бабушек и дедушек, которым внуки пытаются обьяснить, как пользоваться смартфоном. Китайская модель подразумевает, что инновационный бизнес должен действовать в неразрывной связке с государством: сначала эта пара решает, какие технологии – самые перспективные, а потом их совместная гипотеза проходит испытание рынком. У такой модели, конечно, полно недостатков. Например, если в американской модели инновация не «выстреливает», убытки терпят компании, но не государство, а вот в китайской страдают обе стороны. И здесь дело упирается в компетентность чиновников, чей просчет может зарубить лучшие идеи на самом корню без шансов на развитие. С другой стороны, китайская модель работает настолько эффективно, что КНР в ближайшее десятилетие грозится обогнать США (и весь остальной мир) в вопросах инноваций. Самая сильная сторона их модели раскрывается, когда чиновники и бизнес достигают взаимопонимания насчет того, какие технологии самые перспективные. Китайские государственные субсидии и программы позволили им за пару десятилетий создать ведущие мировые технокорпорации и стать лидерами в сфере ИИ, квантовых компьютеров и других передовых технологий (советую почитать книгу Кай-Фу Ли «Сверхдержавы искусственного интеллекта», чтобы понять, как это работает). Увлечение китайского правительства и корпораций NFT – часть более широкого интереса к блокчейн-технологиям в русле программы по созданию цифрового юаня. Интереснее и диковиннее этих государственных увлечений – только форсированное централизованное наступление китайцев на метавселенную. Но об этом поговорим чуть позже. 