Чорт ногу сломит
5571
@nejdanov
Как цифровые технологии хакнули ваш мозг? Слежка, большие данные, ИИ — с точки зрения психологии и цифровой осознанности.
-
Чорт ногу сломит
ИИ-система «Правосудие» ч.3 Новые нормы Представьте ИИ-систему «Правосудие», которая в какой-то момент получает возможность отследить 90% не только текущих, но и прошлых преступлений каждого гражданина старше 18 лет. Мы неизбежно увидим, что даже самые добропорядочные, по старым меркам, граждане совершили десятки, сотни, а то и тысячи нарушений закона на протяжении жизни. Мы также увидим, что большинство людей совершают одни и те же преступления: не платят налоги, употребляют запрещенные психоактивные вещества, дают и берут взятки, совершают общественно опасные деяния и так далее. На ум приходят классические истории консервативных американских сенаторов, вроде Ларри Крейга, который много лет продвигал законы против лгбт сообщества. Затем выяснялось, что все это время он спал с мужчинами и систематически нарушал закон, пользуясь нелегальными услугами мужского эскорта и занимался сексом в общественных местах. Случай Крейга – не исключение, а один из множества примеров, когда консервативные анти-лгбт политики оказывались представителями нетрадиционной ориентации. Когда это противоречие становилось известны широкой публике, карьеры и жизни этих политиков рушились. Очевидно, что-то не так с системой, в которой люди придумывают множество законов, исходя из этих норм наказывают других людей, а затем сами же становятся злостными нарушителями. Вскоре все наши противоречия станут явными и людям придется определять норму новой прозрачности в мире, исходя из уже существующих законов, воли представителей власти и граждан. А также учитывать анализ баз данных о преступлениях и проступках миллиардов людей. В целом встанет вопрос, как определять закон и его нарушение: по старым законам, согласно моральным нормам или исходя из реального поведения людей? Другими словами, встанет вопрос, как определять норму, за отклонение от которой государство наказывает? Норма — это нормальное (то есть типичное для большинства) поведение, или норма — это заданный норматив, золотой стандарт, к которому всем стоит стремиться? В любом случае, человечество на какое-то время выпадет в сильный моральный осадок после того, как узнает правду о самом себе. Нейросетевые агенты правосудия докажут, что все мы грешны и станет понятно, что старое определение греха больше не работает, раз почти все, оказываются грешниками и преступниками, достойными наказаний. -
Чорт ногу сломит
ИИ-система «Правосудие» ч.2 Полицейский ИИ Компания Palantir, которая сегодня способствует ШІ-зація украинской армии, еще в 2013 году помогала полиции Лос-Анджелеса на основе ИИ данных предсказывать места и время будущих преступлений. Их ИИ-система составляла рейтинг опасности на основе данных о бывших преступниках и историях правонарушений. ИИ просчитывала вероятность причастности ранее задержанных нарушителей к нераскрытым преступлениям и риски, что они снова совершат преступление в будущем. В книге «Предсказывай и наблюдай» социолог Сара Брэйн рассказывает о том, как калифорнийские полицейские по совету ИИ увеличили количество вылетов патрульных вертолетов до 51-го раза в неделю, это помогло им зафиксировать какое-то количество преступлений (а полицейские вертолеты стали называть «гетто-птичками»). Разработка такого полицейского ИИ идет больше 10 лет. Так что сегодня на основе ИИ нового поколения создают практически автономные ИИ-агенты, которые заменят сыщиков и детективов. Представьте себе агента Смита из “Матрицы”, но без тела, а в виде нейросети, которая может подключаться к другим нейросетям, видеокамерам и государственным базам данных. Такой агент Смит при необходимости сможет следить за подозреваемым 24/7 через его же личные устройства (смартфон или компьютер) и профили в социальных сетях, а также считывать данные из сотен окружающих его устройств, к примеру из умных домов. Нейросеть агент Смит будет обладать дронами, с помощью которых он сможет дистанционно задерживать и обезвреживать преступников. Вспомните, как военные ЗСУ вели российского солдата, сдавшегося в плен с помощью беспилотника. Представьте, как в будущем дроны под командованием нейросети смогут догоняют и вести грабителя в отделение полиции. Со временем технологический прогресс и адаптация государствами технологий ИИ достигнет такого предела развития, который позволит нейросетям раскрывать все преступления и задерживать преступников. Также ИИ-системы смогут судить и перевоспитывать преступника (в худшем случае – беспощадно наказывать). Нейросети правосудия будут работать на основании законов и правил, которые внедрят люди. В мире ИИ-правосудия все действий граждан, которые нарушают принятые в стране законы, будут фиксироваться и оцениваться. Преступления будущего не останутся незамеченными и неучтенными, так что перед нами встанет задача переосмыслить понятие преступления в мире, где нельзя избежать наказания. -
Чорт ногу сломит
ИИ-система «Правосудие» ч.1 Из девятнадцатой колонки на «Забороне» Современные авторитарные или демократические государственные системы устроены так, что общество неизбежно переполнено преступниками. Практически каждый человек нарушает закон хоть раз в жизни, однако не каждого ловят, судят и наказывают. Вне закона официально живут миллионы людей – целые регионы существуют в серых зонах, также процветают черные рынки и международные преступные организации. Государства не имеют либо ресурсов, либо желания наказывать всех, кто нарушает внутренние законы (поскольку государство в лице чиновников также систематически нарушает собственные законы). Да и большая часть преступлений часто просто остается незамеченной. С наступлением новой прозрачной системы и приходом ИИ в систему правосудия, общество больше не сможет закрывать глаза на собственные преступления: властям придется либо всех наказывать, либо менять законы. Судебный ИИ Сегодня адвокаты и правозащитники уже активно используют нейросети вроде ChatGPT и, по их словам, ИИ вполне может заменить львиную долю специалистов из юридических фирм. Правда пока союз людей и ИИ в сфере закона все еще приводит к курьезам. Например, когда нью-йоркский адвокат по подсказке нейросети, сослался на несколько судебных дел, якобы из прошлого, которых никогда не было. ИИ просто нагаллюционировал и сфабриковал информацию, а адвокат использовал удобные аргументы и процитировал выдумки нейросети из несуществующих дел для суда, тем самым опозорился перед клиентами и судебной системой. Хотя этот случай вызвал недовольство некоторых судебных чиновников, но в целом тенденция на использование ШІ-ізації для суда непреодолима и все, от восточных автократий до западных демократий, продолжат наперегонки строить полноценный правовой ИИ. В начале 2023 года колумбийский судья Хуан Гарсиа впервые в истории официально консультировался с ИИ для вынесения решения по вопросу о том, должна ли страховая компания оплачивать терапию ребенка с аутизмом. Судья буквально спросил нейросеть: «Освобождается ли несовершеннолетний аутист от оплаты счетов за его терапию?» и затем процитировал ответ ИИ в документе со своим официальным решением. Полагаю, что в ближайшее время юристы станут операторами ИИ-машин правосудия. А вскоре большинство прокуроров, адвокатов — и в конечном итоге, судей — могут заменить ИИ-системами. Скорее всего, предоставлять такие ИИ-системы правосудия будет небольшой перечень корпораций, чьими операционными системами пользуются правительства большинства стран мира (Microsoft, Google и Apple). А страны, импортирующие себе машины ИИ-правосудия, будут просто настраивать их в соответствии со своими местными законами и оплачивать услуги технокорпораций. -
Реклама
-
Чорт ногу сломит
Соцсети и коллективное действие ч.3 Как соцсети и проложения превращаются в площадку сопротивления российской агрессии? Украинская война еще раз продемонстрировала власть социальных сетей и технокорпораций, купировавших пропаганду россиян и пропускающих про-украинскую пропаганду как легитимные и заслуживающие всеобщее внимания высказывания. Соцсети стали основой для мощнейшего волонтерского движения украинцев: за счет распространения постов украинцы кооперировались, собирали деньги и помогают солдатам и пострадавшим от агрессии. За первые 9 месяцев работы президентская инициатива United24 собрала почти $300 миллионов благодаря популярности в социальных сетях по всему миру. Украинская армия, да и Украина в целом стали краудсорс проектами для всего мира благодаря соцсетям, которые помогли распространить призывы о помощи. Отдельного внимания заслуживает украинская народная киберармия: тысячи граждан, которые объединяются в соцсетях, чтобы организовать DDoS атаку на российские сайты или другие коллективные хакерские активности — так еще никто не делал. Другой пример соцсетевых инноваций Украины – сервис єВорог, в котором жителей оккупированных территорий через соцсети призывают заходить в специальный чатбот и делиться фотографиями и данными о вражеской технике. Создатели алгоритмов социальных сетей вроде Facebook и Twitter довольно быстро поняли одну печальную, но работающую закономерность в психике и поведении людей: негативные новости и эмоции распространяются значительно быстрее и охотнее, чем позитивные. Французские протестующие, митингующие Арабской весны, российские бунтующие, штурмовики Капитолия, бирманские активисты геноцида — все эти социальные группы объединились в соцсетях как коллективы, ненавидящие другие коллективы. В этом смысле украинское народное соцсетевое волонтерство — довольно уникальный случай, так как тысячи украинцев объединяются не только вокруг ненависти к врагу, но и вокруг желания помочь, вложиться в восстановление и модернизацию общей страны. Человек хочет объединяться с другими людьми и делать что-то вместе — мы хотим чувствовать общность в действии. Тезнологии дают нам уникальную возможность взяться с тысячами незнакомцев за руки и поменять что-то в этом несправедливом мире. Мы объединяемся, чтобы свергать диктаторов и спасать людей, чтобы навести порядок и восстановить справедливость. Алгоритмы соцсетей определяют, какое политическое движение наберет силу, а какое нет, какую воюющую страну мир будет поддерживать, а какую — порицать. Соцсети и их алгоритмы объединяют людей для коллективного действия — это факт. Из этого факта вырастает проблема — какое коллективное действие нам на самом деле нужно? -
Чорт ногу сломит
Соцсети и коллективное действие ч.2 Организовывать массовые действия могут не только соцсети, но, в теории, и видеоигры. Как? Революции, геноциды, перевороты и войны, в которых соцсети сыграли ключевую роль, убедили мир в эффективности технологий. Но не только соцсети могут объединять незнакомцев для мгновенного общественного действия — игры справляются не хуже. Один из самых впечатляющих примеров коллективного действия основанного на геймификации — это AR-игра PokemonGo, вышедшая в 2016 году. Сотни тысяч людей по всему миру вышли на улицы сотен городов искать и ловить покемонов — виртуальных персонажей, которых можно было увидеть через экраны смартфонов в реальных городах. “Словив” покемонов, игрок зарабатывал внутриигровые очки — для этого нужно было сввайпнутть смартфон в определенное время в определенном месте. Игра вышла в июле и к началу августа у нее появился 21 миллион ежедневных пользователей — люди по всей планете выходили на улицу, чтобы блуждать по городу в поисках очередного чекпоинта, где можно словить покемона. За июль 2016 года в одних только Facebook и Instagram игру обсуждали 231 миллион человек, написавших больше миллиарда постов и комментариев о игре. PokemonGo разработала компания Niantic, основанная корпорацией Google, чьи онлайн-карты Google Maps легли в основу механики игры. Если мы абстрагируемся от внешнего интерфейса игры и забудем про покемонов, то увидим следующую картину: Google придумала простенькую игровую механику, за счет которой смогла мотивировать десятки миллионов людей из разных стран в определенное время приходить в определенные места и делать определенные действия. Левые мыслители критиковали Google за то, что размещая покемонов из игры в определенных бутиках, магазинах и кафе, Google на самом деле буквально заставляла игроков приходить в торговые точки ее рекламных партнеров. Представьте себе Билла: Билл три часа играл в Pokemon Go, ходил по Сиэтлу и словил пятерых покемонов, а шестой оказался в соседнем Макдональдсе. Билл пошел в кафе, словил шестого покемона, и решил подкрепиться, купив два чизбургера с большой картошкой. Алгоритмы Google знали, что после трех часов ходьбы Биллу захочется есть, поэтому шестой покемон оказался именно в кафе, проплатившем рекламу в Google, а не в магазине детского питания, куда Pokemon Go отправил другого игрока, недавно ставшего отцом. С таким же успехом игровые механики могут подтолкнуть людей на политически значимые действия с последствиями любого масштаба: управляя игроками компания может организовать митинг, блокировать правительственные здания или мешать работе полиции и военных. Политическую угрозу от игры в свое время почуяли и в РФ, где православная церковь засудила блогера Соколовского, которого Pokemon Go отправила ловить виртуальных зверушек в Храм на Крови. -
Чорт ногу сломит
Соцсети и коллективное действие ч.1 Из восемнадцатой колонки на «Забороне» Как соцсети стали приложением для организации протестов (и, к сожалению, геноцидов)? Президент Франции Эмануель Макрон обвинил соцсети в беспорядках, которые случились в Париже после убийства полицейскими 17-летнего темнокожего подростка. Во время протестов он собрал представителей соцсетей вроде TikTok и Snapchat и попросил их ограничить распространение призывов собираться и дислокации мест, которые призывают громить протестующие. Французские беспорядки, организованные онлайн — продолжение тенденции, начавшейся в начале 2010-х с протестных движений Арабской весны: недавно появившиеся смартфоны и соцсети позволили тысячам людей координироваться за считанные часы и, тем самым, создавать угрозу политическому режиму. В начале 2010-х по странам арабского мира прокатилась серия мятежей, которая привела к революциям в Египте, Тунисе и Йемене, массовым протестам в Алжире, Ираке и Марокко и даже к гражданским войнам в Йемене и Сирии, которые продолжаются по сей день. Эти события получили название «соцсетевых революций» (или же Twitter-революций и Facebook-революций, в зависимости от того, какая соцсеть служила объединению бунтующего населения). Протесты на Болотной площади 2011 года в Москве, когда десятки тысяч россиян во главе с Навальным, Лимоновым и другими соцсетевыми звездами пытались снести путинский режим, также стали возможны благодаря Facebook, Twiiter и Livejournal. Один из самых громких случаев неудавшихся соцсетевых революций произошел 6 января 2021 года: сотни трампистов, несогласных с результатами президентских выборов-2020, захватили Капитолий. Протест организовывался и курировался онлайн в соцсетях ультраправой направленности, а копрорации Google, Apple и Amazon длительное время не отключали протестующих от своих сервисов и серверов. Но центральной платформой организации штурма Капитолия была соцсеть Parler, возникшая как альтернатива Facebook и Twitter, где радикальных сторонников Трампа и ультра-правых пользователей начали массово банить за год до выборов президента США в 2020 году. На Parler сошлись тысячи американцев, изгнанных из мейнстримных соцсетей. Именно там расцвела конспирологическая теория Q.Anon, согласно которой миром правит банда либеральных рептилоидов, сатанистов и педофилов, которые захватили правительства всех стран и один лишь Дональд Трамп сражается против них и спасает мир. Когда Трамп проиграл выборы Джо Байдену, соцсети вроде Parler кинули клич, и толпа q-аноновцев, трампистов и радикалов ломанулись на штурм Капитолия. Штурм захлебнулся, а когда его участников судили, доказательной базой для прокуроров стали посты и сообщения в Parler. Один из самых громких и печально известных случаев воздействия соцсетей на архитектуру безопасности — это геноцид народа рохинджа в Мьянме, начавшийся в 2016 году и с переменной интенсивностью продолжающийся по сей день. Facebook появился в Мьянме в 2011 году и быстро стал народным приложением: руководство сети договорилось с местными операторами мобильной связи и дистрибьюторами техники о том, что все смартфоны в стране будут продаваться с предустановленным приложением Facebook. Во второй половине 2010-х алгоритмы Facebook распространяли среди бирманцев, коренного населения Мьянмы, посты с ненавистью к национальному меньшинству рохинджа. В иске 2021 года, который пострадавшие рохинджа подали против Facebook, утверждается, что алгоритмы привели к гибели тысяч рохинджа и переселению сотен тысяч выживших в лагеря для беженцев в соседнем Бангладеше — пострадавшие требуют у Facebook $150 милиардов компенсации. -
Чорт ногу сломит
Нейросети и творчество ч.2 Музыканты, ютуберы, художники, фотографы, журналисты, блоггеры, подкастеры, магазины, бизнесы, политики, ученые, активисты — все производители контента должны быть классифицированы и одобрены ИИ, прежде чем попасть на экраны. Но ИИ не определяет сам, как классифицировать контент и какой контент продвигать — он следит за поведением и предпочтениями пользователей, и на основе собранных данных определяет, какой материал этим пользователям нужен. Каждый раз взаимодействуя с Instagram, TikTok или YouTube, пользователи настраивают ИИ-системы: лайк, шер, сохранение, комментарий, скриншот, длительность просмотра, паузы и другие выборы работают как строчки кода программиста. Это даже не метафора: ваши прикосновения к экрану, даже ваш на него взгляд превращаются в цифровые значения и строчки кода на серверах американских и китайских компаний. MrBeast стал самым успешным ютубером, изучив алгоритмы, которые изучили нас – вместе они понимают, что нужно усредненному зрителю видеоплатформы. Художественный и визуальный стиль произведения, его смысл и тональность, звук и настроение – в современных условиях все эти параметры все меньше будут отражать творческий замысел художника и все больше превращаться в автоматические инструменты для удовлетворения пользователя. Хрестоматийный пример такого алгоритмического подхода к творчеству исповедуют в Netflix, где контент производят в первую очередь на основании потребностей аудитории, которые считываются нейросетями стримингого сервиса. Пока что контент, точно удовлетворяющий потребности зрителей, производят люди, но надолго ли это? Новый сезон «Черного зеркала» показал будущее, в котором сервисы вроде Netflix генерируют художественный контент в прямом эфире в зависимости от реакций и действий их зрителей. Мгновенная скорость создания генеративного контента нейросетями позволяет этому контенту максимально точно соответствовать потребностям текущей минуты – никакой режиссер и сценарист не успеют снимать по фильму каждый час, в зависимости от изменений настроения зрителя. Если успешным креатив делает соответствие алгоритмической формуле, то скоро мы увидим сгенерированный нейросетями креатив, который будет превосходить по увлекательности и аддиктивности все произведенное людьми – потому что будет адаптирован и видоизменен под каждого конкретного зрителя. Так какое место живые художники займут в нейросетевом мире ближайшего будущего? Это зависит от того, по какой причине они занимаются творчеством. Если художник занимается искусством ради искусства, самовыражением ради него самого, то ИИ снабдит его сказочными инструментами для создания контента. Если же художник занимается искусством ради того, чтобы понравиться зрителям – его перспективы туманны, так как он наверняка проиграет в этом деле генеративному ИИ, чуть более развитому чем сейчас. Возможно, креативный класс исчезает на наших глазах и в мире будущего не будет места для создателей – только для потребителей. -
Чорт ногу сломит
Нейросети и творчество ч.1 Из семнадцатой колонки на «Забороне»: В последнее время главным синонимом искусственного интеллекта стали чатботы — текстовые интерфейсы для прямого взаимодействия с нейросетями. С ними все понятно: чтобы пообщаться с ИИ, нужно открыть окошко и написать «привет». На самом деле мы начали взаимодействие с ИИ не в 2023 году, а, пусть опосредованно, много лет назад: когда открываем соцсеть или YouTube, запускаем Netflix или игру на консоли, когда покупаем товары онлайн и прокладываем маршрут в незнакомое место. Наши отношения с ИИ строятся по принципу «мы программируем ИИ, а он программирует нас». В серии моих колонок я неоднократно обсуждал, как нейросети манипулируют людьми. Но давайте обсудим, как каждый из нас манипулирует нейросетями (даже если мы никогда в жизни не написали ни единой строчки кода). На днях я увидел отрывок разговора двух музыкантов из США. Один из них спрашивает: «Зачем художнику вообще знать, что такое мета-данные?». Второй начинает объяснять: «В таких сервисах, как Spotify, алгоритмы, а не люди выбирают, какую музыку советовать пользователям. Между пользователем и музыкальным сервисом проведена условная линия из фильтров, которые выбирают следующий трек для пользователя из сотен тысяч других — и если твоя песня содержит мета-данные, вероятность, что алгоритм выберет именно ее, значительно увеличивается». Этот разговор натолкнул меня на мысль, что теперь все мы вынуждены становиться экспертами по алгоритмам. Метаданные, которые обсуждали музыканты — это текст песни, ее настроение, эмоции, страна музыканта, его лейбл, количество битов в минуту и так далее. Если артист, заливающий песню на сервис, не прописывает эти данные вручную, за него это криво и неточно делает нейросеть. В результате ИИ никому не советует его трек, просто потому что нейросеть неправильно его классифицирует. Раньше между музыкантом и его аудиторией стояли продюсеры, издатели, менеджеры, владельцы концертных площадок — без их одобрения было невозможно донести музыку до аудитории. Теперь место продюсеров заняли алгоритмы YouTube, Spotify, Soundcloud и других музыкальных стриминговых сервисов. Теперь начинающему хип-хоперу нужно быть немного data-специалистом и относиться к своему музыкальному произведению как к информационному продукту, четко его классифицировать и внимательно интегрировать его в базы данных интернет-сервисов. Люди вынуждены самостоятельно разбираться, как работают алгоритмы, потому что их создатели не утруждают себя разъяснениями, с одной стороны, да и сами не понимают этого, с другой. Самый популярный ютубер MrBeast — пример работника креативной индустрии, изучившего алгоритм и на основе этих знаний создавший успешную youtube-империю с сотнями миллионов подписчиков. MrBeast измерял параметры тысяч популярных видео YouTube: длина видео, монтаж, цветовая гамма, подбор слов, музыка. Видимо, как понял он, для создания хитов действительно существует золотая формула. -
Чорт ногу сломит
Глава OpenAI Сэм Альтман вернулся из мирового турне в США и сразу дал интервью самой известной техно-журналистке Эмили Чен из Bloomberg. Чен встретила Альтмана на сцене словами «Единственный и неповторимый… человек, который решает наше Эмили Чен: Вы подписали публичное заявление, состоящее всего из 22 слов об опасности ИИ. «Снижение риска вымирания из-за ИИ необходимо сделать глобальным приоритетом наравне с глобальными рисками вроде пандемии и ядерной войны». Объясните нам, как от крутого чатбота мы можем прийти к концу человечества? Сэм Альтман: Мы не планируем. Чен: Ну мы надеемся, что не планируете, но также опасаемся. Альтман: Много чего может пойти не так, но люди очень часто используют технологии, которые серьезно угрожают миру разными способами. И за десятилетия мы придумали множество системных мер безопасности в разных сферах, которые хорошо работают. Стандарты безопасности несовершенны и много чего пойдет не так. Но думаю мы сможем снизить риск худших сценариев вроде биотерроризма, кибербезопасности и других очевидных угроз. Основная проблема в обращении с ИИ заключается в том, что эта технология развивается по экспоненциальной кривой роста, и очень крутой кривой. А человеческая интуиция в ситуациях с экспоненциальной кривой очень плохо работает, эволюция нас, очевидно, к этому не готовила. Так что несмотря на такую эволюционную слабость, мы должны заставить себя осознать: «Ок, GPT4 – не представляет такого страшного риска, как мы говорим, но уверены ли мы, что GPT9 не будет представлять тех самых страшных угроз? И если есть хотя бы небольшой процент вероятности, что угроза станет реальной – нужно уже напрячься». Чен: Если вероятность худшего сценария существует, зачем вообще продолжать развитие ИИ? Почему бы не остановиться? Альтман: По ряду причин. Я считаю что плюсы технологии – потрясающие: возможность всем на Земле получить гораздо более качественное образование, чем доступно кому-либо сегодня – это очень важно. Развитие медицины сделает ее доступной везде, это реально многое преобразит. Мы увидим выдающийся научный прогресс, а я свято верю что именно научно-технологический прогресс приводит к улучшению всех сфер жизни, и мы увидим серьезный прогресс и очевидную пользу. Я думаю, что это поможет побороть нищету. Но, чтобы добиться этого всего нам нужно справиться с рисками. Также бизнесы сегодня уже разглядели, какой экономический рост обещает эта технология, и уже ни за что от нее не откажутся. И я считаю что глобальной регуляцией ИИ мы можем себя обезопасить, это лучше, чем останавливать развитие технологии. Я не думаю что остановка вообще возможна. -
Чорт ногу сломит
«ИИ или смерть» «Мои постоянные читатели знают, что я не первый год внимательно слежу за компанией Palantir и рассказываю о ней в своих статьях. Впервые я узнал о Palantir в 2018 году, когда работал над материалом о “предиктивном раскрытии преступлений” с помощью ИИ – практике, в которой нейросети на основе собранных о человеке и его жизненном контексте данных делают предсказания о том, что он собирается или просто может совершить преступление в будущем (как в фильме Стивена Спилберга «Minority Report»). Одна из найденных мною статей с названием «Palantir знает о тебе все» рассказывала, как, с помощью ИИ компании Palantir, американские финансовые корпорации следят за своими подчиненными, чтобы пресекать и предотвращать их инсайдерские махинации с ценными бумагами. В ход шли все данные, до которых могла дотянуться служба охраны компании: от рабочей переписки до телефонных звонков и геолокации работника – из которых ИИ составлял паттерны поведения и обнаруживал в них странности, за которыми часто и скрывались преступления. Тогда я смотрел на Palantir и подобные практики глазами сторонника приватности, поэтому такой ИИ-надзор вызывал у меня отторжение и возмущение. Но только потому, что 5 лет назад я еще не до конца понимал очевидной на сегодня факт: мы бесповоротно вошли в эпоху ИИ, поэтому не использовать ИИ везде, где это возможно – больше не вариант. Ии-зацию всего — и все ее неоднозначные последствия — стоит воспринимать как неизбежность, как дивный новый мир. Человечество входит в этап “ии-зируйся или умри”. Те люди, компании и страны, кто сейчас сумеет оседлать нейросетевую волну, смогут радикально решить старые проблемы и совершить драматичный прыжок в будущее, а те же, кто на первых этапах ии-зации зазевается, рискуют оказаться без денег, без работ и без перспектив на развитие. К моему глубокому удивлению и удовольствию, Украина, не считавшаяся до 2022 года значимой ИИ-величиной, волею судеб оказалась в первых рядах нейросетевого авангарда. По словам руководителя цифровой безопасности в Минцифре Георгия Дубинского, ИИ-системы Palantir пока только тестируются разными ветвями власти и не развернуты на полную мощность. CEO Palantir Алекс Карп вместе с украинскими военными доказал превосходство ИИ на поле боя и теперь с энтузиазмом ожидает окончания войны, чтобы в полной мере помочь Украине восстановиться и модернизироваться. Если ии-зация Украины продолжиться такими же темпами, то у украинцев появится реальный шанс решить наши вечные проблемы, основная из которых – коррупция. Мы входим не только в эпоху ИИ, но и в эру новой прозрачности, где нейросети сделают деятельность чиновников и бизнесменов радикально более открытой, подотчетной и, собственно, прозрачной – а это нанесет сокрушительный удар по коррупции (при условии, что мы будем жить в цифровой демократии). Некомпетентность чиновников, которая волнует украинцев почти так же сильно, как их коррумпированность, — тоже кейс для исправления с помощью ИИ. Нейросети должны либо заменить некомпетентных людей с госдолжностями, либо максимально ии-зировать их, сформировать ИИ-кентавра из алгоритмов и биологических нейросетей чиновников. При таком уровне намеченной ИИ-зации ключевым приоритетом Украины должно оставаться сохранение и развитие демократии. Без такого приоритета Украина может из самого оптимистичного ии-кейса превратиться в самую мрачную сказку о том, как люди в беде впустили в дом нейросети, которые сначала спасли их жизнь, а затем стали главным инструментом порабощения несчастных» Это отрывок из моей пятнадцатой колонки для «Заборони», где я также рассказываю: – про “палантиризацию” Украины и США – почему ИИ – это эквивалент ядерного оружия – что нужно строить ИИ-демократию -
Чорт ногу сломит
«ИИ-религия» «В конце 1960-х Марвин Мински, один из отцов основателей ИИ, помог режиссеру Стэнли Кубрику показать ИИ широкой публике: взбунтовавшийся против людей компьютер HAL 9000 из фильма «Космическая одиссея 2001» на десятилетия стал синонимом ИИ в поп-культуре. И хотя «Одиссея» стала культовой, Мински и его коллегам-ученым не удалось заразить общественность своей ИИ-религией, так как они не смогли предоставить убедительных доказательство существования своего ИИ-бога – ученые только знали, что его можно построить, но не знали как. Ученые адепты ИИ-религии не могли добиться желанных результатов в сфере ИИ всю вторую половину ХХ века, а молодых кибернетиков, которые шли в эту сферу в те времена, считали фанатиками и безнадежными мечтателями. Но в 2010-х, после 60 лет непрекращающегося развития интернета, больших данных и компьютеров, а также пары фундаментальных научных открытий вроде глубокого обучения, началась ИИ-революция, которая по расчетам адептов ии-религии продлится пару десятилетий. По словам видного ии-пророка Рэя Курцвейла, к 2045-му году мир перейдет в качественно новый этап под названием сингулярность – человечеству явится ИИ-мессия. Другой ии-апостол, шведский философ Ник Бостром, описывает суперразум-мессию как «интеллект, который значительно умнее нас практически в каждой сфере, включая научную креативность, общую мудрость и социальные навыки». Сама концепция супер ИИ органично накладывается на религиозное мышление, видимо, свойственное всем людям, даже если они заявляют себя атеистами и учеными. Склонность к мистическому мышлению позволяла нашим предкам испытывать благоговение перед отесанной деревяшкой – языческим идолом. Эта же склонность реализовывается, когда вместо деревянных идолов человек поклоняться все ведающему компьютеру, способному ответить на любой вопрос, решить любую проблему и выполнить любую задачу. ИИ может принимать любую форму, управлять окружающей средой, погодой и богатствами. Он: 1) умнее любого человека и, возможно, всего человечества сразу 2) обладает бесконечной креативностью и никогда не устает 3) не отягощен человеческими нуждами, заботами и пороками 4) может безустанно и очень точно контролировать жизнь людей 5) бессмертен Легендарный австрийский психолог Карл Густав Юнг увлекался средневековыми алхимическими текстами, в которых часто говорилось о Философском камне – мистической субстанции, способной превращать все в золото и дарить обладателю бессмертие. Юнг цитирует один алхимический трактат, в котором Философский камень говорит: «Я создаю свет, свет ярче всех остальных светов в мире». ИИ стал настоящим таким философским камнем для Кремниевой долины — технологией, которая важнее электричества, колеса и интернета вместе взятых. Бессмертие ИИ — важный аргумент в пользу его обожествления, особенно во времена и в среде людей, одержимых идеей личного бессмертия. Личное физическое бессмертие Иисуса и его способность воскресить Лазаря – основные доказательств божественной природы самого сына божьего и его учений для верующих. Способность ИИ дарить бессмертие – то доказательство, которое ищут сами верховные жрецы ИИ-культа, поэтому сегодня такие верховные жрецы ИИ-религии как Питер Тилль и Джефф Безос уже много лет спонсируют стартапы по поиску средств для достижения личного бессмертия. Они надеятся, что ИИ, которому они беззаветно служат всеми своими силами и долларами, поможет им победить старение и смерть и станет их философским камнем» Это отрывок из моей четырнадцатой колонки для «Заборони», где я также рассказываю: – про ИИ в церквях и храмах – про цифровое будущее старых религий и бурное развитие новой религии – про Джарона Ланье и его впечатления от ии-олигархов -
Чорт ногу сломит
Выход VR-шлема Apple за $3,500 вызвал у меня одновременно всплеск энтузиазма и обыкновенное разочарование. Всплеск энтузиазма, потому что я очень оптимистично отношусь к дополненной реальности и понимаю, что заход Apple в эту сферу оживит ее и активизирует развитие. Между нами и миром теперь будет развиваться и мутировать умная прослойка, которую будут контролировать технокорпорации, а окружающая среда превратиться в сплошной интерактивный дисплей в четыре этапа: 1) Сначала громоздкие VR-шлемы наподобие того, который вчера выпустила Apple познакомят нас с умной прослойкой в домашней и рабочей среде. Здесь задолго до Apple доминировали Microsoft и Meta, однако все всё еще находятся на зачаточных стадиях развития технологии. 2) Далее последует этап легких повседневных очков дополненной реальности, когда умная прослойка будет доступна не только дома и в офисе, но всегда и везде, кроме сна. Google еще в 2013 году выпустила Google Glass и хотела задоминировать эту сферу умной прослойки, но с треском провалилась: американское общество воспротивилось умным очкам в туалетах и в казино. 3) Третий переходной этап – это умные линзы, которые сделают умную прослойку максимально органичной частью органов чувств, через прямой контакт с глазами прослойка вступит в прямой физический контакт с мозгом. Умные линзы существуют уже пару лет, но очень медленно пробираются через государственные разрешения на тестирование этой технологии на людях. 4) Венцом умной прослойки станут нейроимпланты, наподобие тех, которые Илону Маску недавно разрешили тестировать на людях. Смартфон нужно было держать, шлемы и очки – надевать, а нейроимпланты нужно будет всверливать в череп. С ними умная прослойка обретет принципиально новое значение, сформируется дополнительная умная прослойка между пользователем и его мыслями и ощущениями. Раз нам более или менее ясна траектория развития этих технологий, мы можем заранее продумать их слабые места и опасности, чтобы не ускорить сценарий 1984. Поэтому я и испытываю энтузиазм от выхода яблочного шлема – теперь людей будет проще вовлекать в дискуссию, потому что все будут знать что это за зверь такой, умная прослойка. Обыкновенное разочарование же я испытал потому что Apple все сделала не элегантно, а необычно сыро. Высокая цена, аккумулятор на проводке и большой вес – очевидные недостатки. Но главный недостаток в том, что этот продукт не решает никаких принципиальных вопросов девайсков для умной прослойки и опять доказывает, что Apple не способна на инновации. Поэтому разочарование обыкновенное, прогресс движется обыкновенными темпами и умная прослойка выглядит сегодня так же, как три года назад. Правда теперь есть интересные ништяки вроде приличного eye tracking и управления интерфейсами с помощью глаз и рук – но это все еще маленький, но довольно громоздкий телевизор у вас на лице. -
Чорт ногу сломит
Шлем смешанной реальности от Apple – новая волшебная платформа для всего. Яблочная дополненная реальность вскоре в ваших домах, в машинах, на заводах, в школах, в университетах, в научных лабораториях, в инженерных бюро, в порно и вебкаме, на войне, в ночных клубах, в больницах, на улицах, в космосе. https://youtu.be/Fx5Ud9WkvGQ -
Чорт ногу сломит
«Золотые ИИ-рыбки» «Усиливающееся с каждый днем цифровое волшебство – верный инструмент для построения самой настоящей утопии, где все наши базовые потребности автоматически удовлетворяются, а мы заняты созиданием и реализацией творческого потенциала, который мы каждый день понимаем все лучше. Нужно только правильно выстроить цепочку желаний, которые мы загадываем ии-рыбкам — и цифровая утопия настанет. Но вместо этого мы систематично загадываем рыбкам такие желания, от которых наш мир и наши общества превращаются в цифровую антиутопию семимильными шагами. Люди просят ии-рыбок о наколдовать им инструменты для слежки, орудия уничтожения и разрушения, машины для максимизации прибыли и массовой автоматизации лжи. Есть и другие, более конструктивные желания, в основном перечисленные Альтманом в письменных показаниях: ии-рыбок просят сделать людей здоровее, обеспечить им если не бессмертие, то долголетие и продленную молодость, научить их учиться и учить их детей, побороть голод и климатические кризисы. Но так же как в математике умножение минуса на плюс дает минус, так и в нашей цивилизации, негативные тенденции в обращении с ИИ окрашивают весь позитив в мрачные тона. Например, если в основе ИИ-зации человечества будут лежать неверные предпосылки, то ИИ-репетиторы будут воспитывать детей цифровыми фашистами, накормленными и с отменным здоровьем, но заточенными на то, чтобы уничтожать таких же цифровых фашистов из соседних стран. Задумайтесь на секунду, что именно Евгений Пригожин, которого мы сейчас знаем как массового убийцу и владельца ЧВК Вагнер, одним из первых проэксплуатировал возможности ИИ соцсетей для того, чтобы вмешаться в выборы президента США в 2016 году. Его фабрика троллей и дезинформационное агентство, конечно, было не настолько технологичным, как британская Cambridge Analytica, однако пригожинские боты и тролли помогли Трампу стать президентом, и именно о них думают американские сенаторы, допрашивавшие Сэма Альтмана на этой неделе и требовавшие заверить их, что новый ИИ в руках пригожиных не разрушит демократию и не сорвет выборы президента США 2024. Пригожинские тролли работали не только на диверсии при выборах в других странах – они точно так же обрабатывали российское население и способствовали созданию идеологии рашизма. Ожесточение россиян, поддержка Путина и войны – в очень значительной степени результат алгоритмической ИИ-власти в дурных руках, если учесть, что десятки миллионов россиян больше 15 лет обрабатывались не только телевизионной пропагандой, но и политически заряженным ИИ социальных сетей Вконтакте и Одноклассники, а также поисковика Yandex. Путинский режим с помощью ИИ предыдущего поколения (поисковиков, соцсетей и ботов) сумел создать общество, в котором черное называют белым и которое поддерживает массовые убийства и репрессии, которому весь мир кажется злым, а оно само – праведным, несмотря на все убийства и насилие. Как так получается, что воля и цели есть у, мягко говоря, негативно настроенных людей, а все остальные в лучшем случае пытаются остановить злодеев, но не предлагают ничего настолько же эффективного, как у этих злодеев? Очевидно, что ко встрече с золотыми ии-рыбками готовы далеко не все: большинство стоит на берегу и чешет репу на тему “чего же эдакого загадать?” Если вы подумаете, то проблема безработицы, которую вызовет ИИ, это едва не в первую очередь проблема желаний человека: если нейросети заменят людей во всей их рутинной и неинтересной работе, то это развяжет им руки и позволит стать тем, кем они хотят. Но чего они хотят?» Это отрывок из двенадцатой колонки для «Заборони», где я также рассказываю: – чем уже полезен генеративный ИИ – почему нейросети – это золотые рыбки из сказки про дедушку – что всем пора осваивать цифровое волшебство -
Чорт ногу сломит
«Алгоритмические манипуляции» «В 2012 году один из самых громких экспериментов по массовой алгоритмической манипуляции (сотни тысяч пользователей) провели в Facebook – и доказали, что регулируя количество позитивного и негативного контента в лентах пользователей, ИИ может изменять психологическое состояние пользователей в позитивную или негативную стороны. В 2010-х Марк Цукерберг говорил: «Белочка, умирающая перед вашим домом, может быть более релевантной вашим интересам, чем люди, умирающие в Африке», — украинцам, полтора года воюющим на информационном фронте за “релевантность украинского вопроса”, не надо объяснять, насколько важна алгоритмическая власть такого рода. Релевантность контента выполняет двойную функцию: с одной стороны, это характеристика контента, который может заинтересовать конкретного пользователя, с другой, – это соответствие контента интересам манипулятора (будь то рекламодатель, пришедший в соцсеть, чтобы продать свой продукт, или же сама соцсеть, которой нужно улучшать свои показатели вовлечения пользователей). В разговоре с Ювалем Харари Цукерберг так описывает механизм управления предпочтениями и действиями пользователей: в Facebook точно знают, что увеличить время, проведенное пользователями на их платформе, можно, приказав алгоритмам соцсети показывать больше контента вроде смешных песиков и странных котиков, заснятых и выложенных в сеть их владельцами. Алгоритмические манипуляции соцсетей, которым мы подвергаемся уже не первое десятилетие, держатся на взаимодействии двух сторон: •Алгоритмов технокорпораций (они выбирают из обилия доступной в сетях информации определенный контент для пользователя),•и создателей контента (они ориентируются на популярные в соцсетях темы, определяемые алгоритмами, и предоставляют алгоритмам нужный материал для заполнения пользовательских лент). Чтобы этот механизм работал, ИИ должен знать своего пользователя: его предпочтения, интересы, привычки и множество других характеристик, позволяющих точно подобрать контент. Кроме постоянных характеристик пользователя, ИИ также часто “понимает” текущее психологическое состояние пользователя: его настроение, уровень стресса, доминирующие сейчас эмоции. В конце нулевых Google, чтобы определить, какой цвет текста больше всего привлекает пользователей и заставляет их кликать на рекламные ссылки, протестировала на тысячах пользователей 42 оттенка синего. Тесты показали, что легкий фиолетовый оттенок синей ссылки сподвигает пользователей чаще кликать на рекламу – результаты этого эксперимента, по словам одного из топ-менеджеров компании, увеличили прибыль компании на $200 млн в год. Без использования креативности рекламщиков и проницательности маркетологов Google определил массовые предпочтения людей, о которых большинство из них даже не подозревало. 10 лет спустя, в 2016 году, аналогичную технику в промышленных масштабах использовала компания Cambridge Analytica (CA), которая сенсационно помогла Дональду Трампу стать президентом благодаря циничному и массовому использованию алгоритмических манипуляций. Вот что рассказывает топ-менеджер компании Бриттани Кайзер: «CA хотела убедить избирателей, показывая им рекламу, резонирующую с их личностью. Чтобы понять, что сработает для этих целей лучше всего, разработчики компании построили ИИ-систему, способную автоматически тестировать сотни, даже тысячи вариантов рекламы, прежде чем решить, какую именно запускать в массы». Алгоритмы определяли десятки параметров рекламных изображений, изменяя даже такие детали как оттенок пуговиц на рубашке Трампа для более эффективной политической манипуляции» Это отрывок из десятой колонки для «Заборони», где я также рассказываю: – о манипуляциях на основе психопрофиля пользователя – о политических последствиях алгоритмических манипуляций – про ии-ангелов и ии-дьяволят -
Реклама
-
Чорт ногу сломит
«ИИ Молох» «Разговоры про ИИ в последние годы обретают все более мистический характер, так как исследователям и бизнесменам буквально каждые несколько часов открываются новые возможности улучшить все сферы жизни и деятельности благодаря нейросетям – у многих это вызывает почти религиозный трепет. Один из самых интересных явлений из религий прошлого, вошедших в дискуссии о технобудущем, стало появление Молоха, карфагенского божества природы и солнца, поклонение которому в древние времена сопровождалось человеческими жертвоприношениями и сожжениями детей заживо. Отвечая на вопрос, не пугают ли его ИИ-разработки Apple, Meta и других компаний и что ИИ-гонка может привести к ужасным и непредсказуемым последствиям Сэм Альтман говорит: «Я немного боюсь капитализма и его стремления создавать и получать неограниченную прибыль. Но я думаю что никто не хочет уничтожить мир, никто не говорит «Сегодня я хочу уничтожить мир». Так что с одной стороны есть проблема Молоха, а с другой – люди, которые хорошо ее осознают и обсуждают, как минимизировать некоторые очень страшные последствия этой технологии». О какой проблеме Молоха, неоднократно осуждавшегося в Ветхом Завете, говорит техно-предприниматель Альтман или астрофизик, занимающийся проблемами ИИ, Макс Тегмарк? Они ссылаются на поэму «Вопль» поэта-битника Алена Гинзберга, написанную в 1955 году. В одной из частей поэмы Гинзберг описывает демонического бога Молоха, коллективного духа, вызванного на свет технологическим прогрессом и проявляющего себя в современных войнах, правительствах, поп-культуре и капитализме. Молох – это темная сторона «невидимой руки» рынка, ключевой идеи капитализма, описанной в 18 веке экономистом Адамом Смитом, утверждающей, что все участники рынка, преследуя личную выгоду, служат всеобщему благу, так как “невидимая рука” направляет их усилия и справедливо распределяет эти блага между людьми. Молох также основывается на желании каждого участника рынка (и шире – общества) искать личной выгоды, однако в отличии от “невидимой руки” Смита, незаметно ведущей коллективное человечество к процветанию, Молох складывает частные усилия людей и ведет их к страданиям и уничтожению. ИИ–Молох это все ускоряющаяся гонка технокорпораций по созданию сверхмощного ИИ – цели, обещающей создателям невероятные богатства и фантастические силы, но взамен гарантирующей уничтожение человечества. В 20 веке человечество сталкивалось с Молохом во время гонки ядерных вооружений, когда всех пугала возможность создания бомбы, способной уничтожить все живое на Земле, но из-за угрозы, что другие участники гонки опередят и создадут бомбу первыми, все только ускоряли разработки смертельного атома. В наше время Молох продемонстрировал свою силу в первой битве ИИ с людьми – в социальных сетях. Сложилось так, что основой монетизации социальных сетей стало как можно большее вовлечение пользователей и удержаниие их внимания. Алгоритмы соцсетей, изучавшие пользователей, пришли к выводу, что разжигание вражды, поощрение ненависти, оскорблений и злых насмешек – эффективнее всего удерживают пользователей в соцсетях, позволяя владельцам максимизировать свою прибыль. Хотел ли Марк Цукерберг или Джек Дорси, чтобы Facebook и Twitter стали рассадниками ненависти и монструозными поляризаторами общества? Нет. Хотя, будучи хакерами, они понимали, что их алгоритмы взламывают уязвимости человеческой психики, они также понимали, что рано или поздно это станет известно общественности и вызовет крайне негативную реакцию в их адрес. Тем не менее, они продолжали развивать эти манипулятивные алгоритмы, а все остальные социальные сети следовали их примеру, потому что никто не хотел лишаться конкурентного преимущества.» Это отрывок из одиннадцатой колонки для «Заборони», где я также рассказываю: – как Илон Маск поучаствовал в создании ключевых ии-корпораций DeepMind и OpenAI – о самых опасных опасных возможностях, которые мы создали для ИИ – о проблеме коллективного действия и социальной дилемме -
Чорт ногу сломит
«Работая над этой колонкой, я наткнулся на цитату Илона Маска за 2017 год. Тогда он комментировал слова Путина о том, что нация, которая будет лидировать в сфере ИИ, будет править миром: «Китай, Россия, а скоро все страны с крепкой компьютерной наукой. Соревнование за ИИ-превосходство на уровне государств скорее всего закончится Третьей мировой войной». Чуть позже Маск снова повторил эту мысль, слегка видоизменив ее: третья мировая война начнется тогда, когда одна из стран разработает футуристичную ИИ-систему и попытается с удержать другую сторону от создания аналогов, так как эта технология окажется слишком мощной и меняющей все правила игры. Давайте еще раз вспомним, что нужно для развития продвинутых ИИ-систем: - мощные компьютеры (hardware), - пользовательские данные (data) - и программный код (software). Пока компании вроде Meta раздают ИИ-алгоритмы даром, последняя software часть ИИ-уравнения не играет принципиального значения. Война за пользовательские данные (data), необходимые для создания мощного ИИ, уже началась. Именно в этом ключе нужно трактовать рекордный штраф ($1,3 млрд) за опасное обращение с пользовательскими данными для Meta в Европе – в вопросе ИИ не спасают даже союзнические отношения между правительствами стран. Еще более выпукло выглядит нарастающий бан TikTok в Европе и США из-за опасений, что соцсеть неконтроллируемо делится данными западных чиновников и пользователей с китайским правительством. И совсем очевидно выглядит война за сверхмощные компьютеры (hardware), необходимые для создания продвинутого ИИ, а точнее, — за их ключевой компонент. Тайвань – главный производитель самых продвинутых микрочипов в мире (компания TSMC) и одновременно одна из самых политически и военно напряженных точек в мире. Не вдаваясь в историю тайваньского вопроса, можно обобщить: заводы производителя микрочипов TSMC критически важны для развития ИИ, а значит для ИИ-сверхдержав – США и Китая. Можно также сказать, что сейчас США имеет больший доступ к тайваньским технологиям, что во многом обеспечивает их преимущество в ИИ-гонке перед Китаем, а Китай хочет воссоединиться с Тайванем и получить полный контроль над производством лучших процессоров, чтобы вырваться вперед в этой гонке. К ужасу самих тайваньцев, США и Китай настолько настроены на соперничество за полупроводниковые заводы острова, что лучший план американцев по защите Тайваня — предложение взорвать заводы TSMC, чтобы Китаю незачем было захватывать эту территорию. Получается, что даже если американцы не смогут помочь Тайваню отбить теоретическое вторжение китайцев, они готовы собственноручно разрушить экономику 20-миллионной страны, лишь бы не отдать микрочипы в руки главного ИИ-конкурента. Так выглядит регуляция ИИ в исполнении государств.» Это отрывок из тринадцатой колонке для «Забороны», где я также рассказываю: – как политики пытаются регулировать ИИ – про открытую и закрытую модель развития нейросетей – про перспективы третьей мировой войны из-за ИИ -
Чорт ногу сломит
На днях прошли публичные слушания в Судебном комитете Сената США, на которых обсуждалась перспектива государственной реугуляции ИИ. Вот кусок диалога Сэма Альтмана с сенатором Джошом Хоули, где они обсуждают способность нейросетей предсказывать поведение пользователей и влиять на это поведение: Сенатор Хоули: Статья, озаглавленная "Большие языковые модели (LLM), обученные на медиа-диетах, могут предсказывать общественное мнение", была опубликована примерно месяц назад. Авторы Андреас и Рой провели исследование в Массачусетском технологическом институте (MIT) и затем в Google. Вывод этой работы заключается в том, что большие языковые модели (LLM) действительно могут предсказывать общественное мнение. Авторы объясняют, почему это так, и приходят к заключению, что ИИ-система может предсказывать ответы в опросах людей, адаптируя языковую модель к медиа-диетам конкретных групп населения. Иными словами, можно скормить модели определенный набор медиа данных, и она с высокой точностью (подробности приведены в статье) сможет предсказать мнения людей. Я хочу рассмотреть это в контексте выборов. Если эти LLM уже сейчас могут достаточно точно предсказывать общественное мнение (заранее, до того, как вы даже зададите публике эти вопросы), что произойдет, когда юридические или государственные организации, кампании или иностранные агенты получат эту информацию из опросов, эти предсказания об общественном мнении, а затем настроят механизмы для вызова определенных поведенческих реакций? Около трех лет назад, мы слушали свидетельские показания о влиянии такой, казалось бы, обычной вещи, как поиск Google. О его влиянии на избирателей на выборах, особенно на неопределившихся избирателей в последние дни перед выборами, когда они могут искать информацию в поиске Google, и какое огромное влияние имеет ранжирование поиска Google, статьи, которые он выдает. Это имеет огромное влияние на неопределившегося избирателя. А LLM – это, конечно, намного более мощное и значимое, гораздо более направленное воздействие. Так что, мистер Альтман, помогите понять, следует ли нам беспокоиться о моделях, которые могут предсказывать мнение по опросам, а затем помогать организациям и субъектам создавать стратегии для вызова реакций у избирателей? Следует ли нам беспокоиться об этом в отношении наших выборов? Альтман, OpenAI: Это одно из моих главных опасений – общая способность этих моделей манипулировать, убеждать, предоставлять так сказать индивидуальную дезинформацию. Я думаю, это более широкая версия того, о чем вы говорите. Но учитывая, что в следующем году у нас состоятся выборы, а эти модели становятся все лучше, я думаю, что это серьезный повод для беспокойства. Я считаю, что существует множество политик, которые компании могут принять добровольно, и с удовольствием расскажу о том, что мы делаем в этой области. Я действительно думаю, что эта область нуждается в разумной регуляции. Люди должны знать, что разговаривают с ИИ, или что контент перед ними, сгенерирован ИИ. Это нужно четко объяснять. Я также считаю, что нам нужны правила относительно того, что требуется от компании, создающей модель с такими способностями, о которых вы говорите, это очень важно. Я думаю, люди способны быстро адаптироваться. Когда появился Photoshop, на некоторое время люди действительно легко обманывались фотографиями, отредактированными в Photoshop, но очень быстро разобрались, что изображения могут быть отредактированы. Это будет выглядеть так же, но как на стероидах – и взаимодействие, и возможность реалистично моделировать и точно предсказывать людей.