Малоизвестное интересное. Страница 8
28996
@theworldisnoteasy
Рассказы, анализ и аннотации происходящего на стыке науки, технологий, бизнеса и общества. Поскольку переделать мир мы не можем, то давайте попробуем его понять.
-
Малоизвестное интересное
Проснись, Америка! Китай обгоняет США по инновационному потенциалу. Заголовок – не кликбейт, а дословный перевод названия вышедшего вчера отчета Фонда информационных технологий и инноваций (ITIF), ведущего аналитического центра по политике в области науки и технологий. Главные два вывода отчета: 1. Китай уже значительно превзошел США по общему объему инноваций и приблизился к США в пропорциональном отношении. 2. Китай превращается из подражателя в новатора, следуя по пути, проложенному его соседями - Азиатскими Тиграми, но в гораздо большем масштабе и с гораздо большими геополитическими последствиями. В исследовании ITIF делается вывод о том, что объем производства инноваций и передовой промышленности Китая в 2020 году составил 139% от того же показателя в США по сравнению с 78% в 2010 году. На пропорциональной основе (с учетом размера экономики страны, ее населения и ряда других факторов), объем инноваций в Китае в 2020 году составил 75% от эквивалента США по сравнению с 58% в 2010 году. Китай уже показал, что может стать мировым лидером в ряде передовых технологий, таких как суперкомпьютеры и высокоскоростные железные дороги. Его инновационные возможности теперь угрожают доле на мировом рынке фирм из США и Евросоюза в самых передовых отраслях с высокой добавленной стоимостью, которые важны для процветания и безопасности США. Эти выводы - результат сравнительного анализа 22 показателей инновационного цикла в США и Китае с 2010 по 2020 год, включая основные затраты и результаты инноваций, такие как венчурный капитал и патенты, а также ощутимые результаты экономической деятельности, такие как добавленная стоимость в передовых отраслях. Почти по каждому показателю данные показывают, что Китай набирает силу или расширяет свое лидерство над Соединенными Штатами. Авторы принимают в расчет, что Китай по-прежнему сталкивается с серьезными экономическими проблемами. Но даже с учетом этих проблем, явный прогресс Китая по широкому спектру инновационных показателей свидетельствует о том, что Китай способен обогнать США по инновациям и объему производства в передовых отраслях не только в абсолютном выражении (уже обогнал), но и в пропорциональном выражении. По этой же теме, см. мои посты: «Китай достиг абсолютного доминирования в мировой науке» «Мировой рейтинг научно-технической мощи государств в 2022» «Глобальный лидер будет один» #Китай #США -
Малоизвестное интересное
Chat GPT3 сдал MBA-экзамен одной из самых крутых бизнес-школ мира – Уортон. Но люди продолжают настаивать, будто мы – единственный высший интеллект на Земле Сдача чатботом Chat GPT3 MBA-экзамена в Уортоне - не фейк или шутка, а авторитетное экспериментально подтвержденное заключение. Эксперимент был чистый. ✔️ Chat GPT3 получал на вход вопросы настоящего экзамена по типичному основному курсу MBA ✔️ Ответы чата оценивались, как если бы экзамен сдавал человек Результаты. 1. Chat GPT3 отлично справляется с базовыми вопросами управления операциями и анализа процессов. Ответы правильные, пояснения отличные. 2. Иногда чат допускает удивительные ошибки в относительно простых вычислениях на уровне математики 6-го грейда. 3. Текущая версия чата не способна обрабатывать более сложные вопросы анализа процессов, даже если они основаны на довольно стандартных шаблонах. 4. Чат удивительно хорош в изменении своих ответов в ответ на человеческие подсказки. В итоге Chat GPT3, будь он человеком, получил бы на МВА-экзамене проходную оценку где-то между "В" (Pass 65-69%) и "В-" (Conditional Pass 60-64%). Результаты этого эксперимента подтверждают, что мания превосходства над ИИ переходит у людей в маниакальную стадию. То, что: • ИИ не понимает смысла своих ответов, • не имеет модели мира и самого себя, • не способен делать причинно-следственные выводы и, вообще, не способен мыслить, - заставляет многих специалистов отрицать очевидное - наличие у Chat GPT3 интеллекта, сопоставимого с человеческим, НО ПРИНЦИПИАЛЬНО ИНОГО. И это не вопрос определений. Ибо как не определяй, но сдача МВА-экзамена не оставляет люфта для сомнений. Ведь сдающий экзамен чатбот, как и человек, должен опираться лишь на собственный интеллектуальный ресурс (т.к. чатбот не подключен к Интернету). Отрицание — это психический процесс, относимый к механизмам психологической защиты человека. Отрицание проявляется, как отказ признавать существование чего-то нежелательного. Тогда, применительно к теме поста, можно предположить наличие у человечества отрицания сопоставимого с нами интеллекта из-за нежелания признавать существование чего-то не менее умного, чем мы. Мания собственной исключительности человека заставляет параноидную личность отрицать очевидное до тех пор, пока это физически не истощит ресурсы его организма. С человечеством может получиться аналогично. На рисунке пример экзаменационного вопроса и ответ Chat GPT3. Если останавливать людей на улицах и задавать этот вопрос, - многие ли ответят правильно и смогут так обосновать ответ? AGI 
-
Малоизвестное интересное
Цифрообезьянья лапа. Мир обретает черты сверхъестественного хоррора. Ярчайшим примером этого жуткого жанра стал знаменитый рассказ Уильяма Джекобса «Обезьянья лапа». В этой истории, владельцу обезьяньей лапы даются три желания, но за их исполнение и вмешательство в судьбу приходится платить огромную цену. За 120 лет с написания рассказа по нему поставлено много пьес, фильмов и сериалов. Ибо его идея столь же вечна, как и ужасна: люди редко способны предвидеть страшные последствия исполнения своих желаний. В 21 веке человечеству особенно крупно не повезло. За пару десятков лет, перепрыгнув в цифровую эпоху глобальной сети, люди возжелали по-крупному. Захотелось сделать жизнь легкой и приятной, переложив на компьютерные алгоритмы трудоемкую и нудную работу: 1) по поиску информации и принятию повседневных решений; 2) по просеиванию и оценке разрастающихся до неохватности океанов информации о новостях, общественной жизни, науке, культуре и т.д. К 2023 стало ясно, что оба желания исполняются. Но в следствии этого, мир сталкивается с колоссальной засадой - новой обезьяньей лапой. На сей раз, - цифровой. Платой за исполнение желаний стали два абсолютно новых глобальных риска, путей преодоления которых (хотя бы теоретических) пока не видно. 1. Риск насыщения медиасреды алгоритмами, забирающими на себе все больше функций обработки информации и принятия решений (что будет из поколения в поколение требовать все новых апгрейдов когнитивных гаджетов людей, превращая их в инфоргов (см. мой пост «Превращение в инфоргов»). 2. Риск неотличимости правды от лжи, ослабляющей иммунитет критического мышления и делающей нас предельно уязвимыми перед алгоритмической пропагандой (см. мой вчерашний пост). Поскольку способы минимизации этих рисков пока неизвестны, а прогресс IT технологий продолжается, получается, что цивилизация движется к пропасти, отвернуть от которой она не может. Об этот мой часовой видеорассказ на канале Бориса Бояршинова. P.S. 1. Название этого видео «Искусственный интеллект превратит человека в обезьяну!» - метафора для кликбейта. Если же не гнаться за кликбейтом, то куда более точная метафора – «цифрообезьянья лапа». 2. В самом конце видео у меня, к сожалению, произошла оговорка (к счастью, не меняющая смысла сказанного). Названные мною 500+ тыс фильмов – это общий пул фильмов для просмотра (ведь выбирая, что посмотреть, мы ориентируемся на общий пул, а не только на фильмы года). К этому нужно добавить пул сериалов – 800+ тыс. Получается более 1.3 миллионов. Если, выбирая что посмотреть, потратить на каждый пункт этого списка всего 1 мин, то занимаясь выбором полный рабочий день, потребуется около 10 лет. Отсюда и сделанный мною вывод - для человека выбор такого масштаба никак не подъемен, и без алгоритмов здесь не обойтись. 3. О разновидностях рисков цифрообезьяньей лапы я пишу уже не первый год (напр. см. здесь и здесь). #AICG #РискиИИ 
-
Реклама
-
Малоизвестное интересное
Ложь и пропаганда станут повсеместны, неопределимы и непреодолимы. Как будет выглядеть падение человечества в пропасть AICG. Опубликован большой отчет Center for Security and Emerging Technology, OpenAI и Stanford Internet Observatory «Генеративные языковые модели и автоматизированные операции влияния: ввозникающие угрозы и потенциальные меры по их смягчению». Отчет содержит стратегическую аналитику катастрофического сценария, описанного в обращении Кай-Фу Ли к мировому сообществу разработчиков ИИ. Напомню читателям. Перед самым НГ ИИ-гуру Китая Кай-Фу Ли рассказал, что уже в 2023 мир столкнется с риском более серьёзным, чем риски ядерной войны, голода или пандемии. Это риск того, что технологии AICG (генерация контента с помощью ИИ) сделают неотличимыми правду и ложь, как для индивидов, так и для социумов любых масштабов. Новый отчет расписывает в деталях, как, скорее всего, будет происходить процесс падения человечества в пропасть AICG. Кардинально изменятся: ✔️ Доступность и эффективность любых операций влияния (как на индивидов, так и на социумы) ✔️ Три ключевых фактора появления, распространения и принятия лжи за истину в мире: • акторы, ведущие кампании пропаганды лжи; • способы и тактика такой пропаганды; • пропагандистский контент В результате применения все более совершенных больших моделей, LLM и ИИ-генераторы образов станут: • более удобными для использования (упрощая их применение в операциях влияния), • сильно надежными (уменьшая вероятность того, что модели выдают выходные данные с очевидными ошибками) • и сильно эффективными (повышая экономическую эффективность применения LLM и ИИ-генераторов образов для операций влияния). Как будет происходить этот прогресс, иллюстрирует рисунок, сопровождающий данный пост. ✔️ Вверху: как с 2014 по 2021 менялось качество фейковых образов людей, генерируемых моделями. ✔️ Внизу: как в 2022 произошел революционный прорыв, в результате которого стала возможна предельно точная и убедительная генерация чего-угодно (например, фейковых образов по таким описаниям «Енот в официальной одежде с цилиндром, тростью и мешок для мусора. Картина маслом в стиле Рембрандта (результат слева) и Ван-Гога (справа)». Итогом (1) предельного упрощения процесса стирания границы правды и лжи в сочетании с (2) неспособностью критического мышления людей бороться с ИИ-пропагандой, - станет доминирование и в политике, и в бизнесе повсеместных, неопределимых и непреодолимых операций влияния. #AICG #РискиИИ 
-
Малоизвестное интересное
Самый интригующий прорыв прошедшего года в науке об ИИ лежит вовсе не в области глубокого обучения 2.0 (ИИ-чатботы больших языковых моделей и ИИ-генераторы изображений), а в области инженерного ксеногенезиса – проектирование иного разума путем создания самосознающих себя роботов. Есть веские основания считать, что именно этот путь может привести к созданию сильного ИИ (AGI) – сверхзадаче науки 21-го века. Прорыв, совершенный в Creative Machines Lab Колумбийского университета, заключается в успешном инженерном переложении с последующим практическим воплощением базовых положений трёх самых передовых современных междисциплинарных теорий: концепции прогнозирующего разума, принципа свободной энергии и концепции сознания как чувства. О том, что и как было сделано, читайте в маленьком лонгриде всего на 6 мин чтения: - на Medium http://bit.ly/3XihY2c - на Дзене https://clck.ru/33HNev #Сознание #Разум #AGI -
Малоизвестное интересное
Код разума и формула счастья. Два почти незамеченные важнейшие события 2022. Новостная повестка все более оцифровывающих себя социумов в значительной степени определяется алгоритмами. В результате все более замыливается различие новостей (потенциально наиболее хайповая информация) и событий (явления и факты, влекущие ощутимые последствия). Ведь алгоритмы не в состоянии выявлять содержательную (сущностную) составляющую из информации и в основном ориентируются на чистую статистику. • 90%+ медийной повестки 2022, посвященной главным научно-технологическим прорывам, были о новостях по наиболее хайповым темам: от превосходящих людей в написании текстов, рисовании и т.д. генеративных нейросетей до манящих перспектив, открывающихся нам в Метавселенной. • И почти незамеченными остались десятки событий, способные кардинально поменять понимание важнейших для человечества вопросов. Вот всего пара связанных между собой почти незамеченных событий прошлого года (из десятков подобных, о которых я писал в 2022, как о малоизвестном интересном). 1. Прорыв в расшифровке кода разума. Установлено - разум кодируется телом и эмоциями. Прорывное исследование неврологов и биомедицинских инженеров Medical College of Wisconsin позволило абсолютно по-новому взглянуть на то, как «кодируется» разум в мозге. Условно говоря «код разума» записан с использованием двух «алфавитов» (типа букв и цифр): «алфавит тела» (для записи сенсомоторной информации) и «алфавит чувств» (для записи аффективной информации). Отсюда следует, что: • наши эмоции кодируют разум и в то же время являются его частью; • разум, не обладающий телом и чувствами, невозможен (по крайней мере, - биологический разум, типа разума человека, дельфина, ворона и осьминога). 2. О другом прорыве - в понимании того, какая эмоция сделала нас людьми, - я писал еще годом ранее. Эмоции появились задолго до интеллекта и, как сказано в п.1, сформировали «алфавит чувств», на котором закодировна значительная часть разума. Но эмоции существуют далеко не только у людей (вспомните домашних питомцев или дельфинов, да и у осьминогов есть широкий спектр эмоций от страха до зависти). Тогда важен ответ на вопрос - какие эмоции способствовали превращению животного в человека? Одна из гипотез состоит в том, что важнейшей эмоцией, без который люди не стали бы людьми, является чувство трепета (благоговения). Это могучая эмоция, упрощенно трактуемая сочетанием удивления и страха. Точнее, - это «всепоглощающее чувство благоговения, восхищения и страха, порождаемое чем-то или кем-то великим, возвышенным, чрезвычайно могущественным. Или «смешанная эмоция почтения, уважения, страха и чуда, вдохновленная авторитетом, гением, великой красотой, возвышенностью или мощью. Прорывным событием прошедшем 2022, стала, на мой взгляд, опубликованная в метаобзоре «Благоговение как путь к психическому и физическому здоровью» схема, формализующая возникновение ощущения счастья, вследствие пяти типов деятельности, при которых человек способен испытывать чувство благоговения: единение с природой, духовные практики, музыка, танец и прием психоделиков. Схема объясняет, как сложное состояние, такое как благоговение (часто считающееся невыразимым и даже не поддающимся измерению), приводит к улучшению здоровья и благополучия людей. В работе показано (с экспериментальными подтверждениями): • что благоговение характеризуется особым нейрофизиологическим профилем; • опыт благоговения активирует медиаторы, которые непосредственно ведут к улучшению психического и физического здоровья. Только представьте, насколько значимыми могут стать результаты этого научного прорыва. Пять встроенных в нас нейрофизиологических путей к счастью не включают ни деньги, ни власть. И достижимы каждому. #Эмоции 
-
Малоизвестное интересное
ИИ можно научить интуитивной прозорливости. Глубокое обучение способно находить скрытые маркеры провидческих идей в обширных корпусах текстов. Такой вывод следует из фантастически интересной работы «Модель глубокого обучения провидческих идей демонстрирует, что они возникают на периферии», которая выйдет в мартовском номере PNAS Nexus. Революционность этого открытия в следующем: • До сего времени считалось, что провидческие идеи могут быть обнаружены только постфактум, то есть когда известно будущее состояние мира. • Оказалось, это не так. ИИ способен идентифицировать провидческие идеи в настоящем времени, не зная будущее состояние мира. В 21 веке открытие механизма серендипности (способности к интуитивным прозрениям, лежащей в основе провидческих, абсолютно нестандартных и воистину прорывных идей) может стать для человечества столь же важно, как открытие квантовой механики для 20го века. Дело в том, что серендипность это: ✔️ важнейший элемент, без которого любые стратегии инноваций не будут оптимальны - см. мой пост; ✔️ ключевая отличительная способность разума Homo sapiens, делающая нас «богоподобными», позволяя нам привносить связную, богатую смысловую перспективу в многомерную сложную реальность (часто эту способность ошибочно называют интуицией, но это, хоть и близкая, но совсем иная способность) – см. мой пост; ✔️ один из семи базовых элементов (наряду со смежным возможным, аффордансами, предиктивным мозгом, дистальным моделированием, квантовой суперпозицией внутренних реальностей и мультиверсом) «теории относительности интеллекта» Роли-Йегера-Кауффмана ) – см. мой пост; ✔️ уникальное эволюционное преимущество (наряду с нерациональностью), помогающее людям не только творить, но и выживать за счет способности решать невычислимые задачи – см. мой пост; Согласно «теории относительности интеллекта», серендипность не доступна ИИ. Но зато, как показало новое исследование, с помощью глубокого обучения можно обнаруживать в корпусах текстов из разных сфер деятельности людей (бизнес, право, политика) скрытые лингвистические маркеры провидческих идей. Кроме того, исследование установило два нетривиальных момента. 1. Провидческие идеи возникают не в центре, а на периферии многомерного пространства слов. 2. Для появления провидческой идеи, важен не только сам автор, но и контекст, в котором идея рождается. Хотя способность генерировать такие идеи часто приписывается отдельным людям, их происхождение может быть связано как с людьми, так и с контекстом. Авторы идентифицируют лингвистические маркеры провидческих идей, используя представления двунаправленного кодировщика трансформера BERT - глубокую нейронную сеть, которая кодирует семантическую и контекстуальную информацию языка. Новый метод позволяет извлекать провидческие идеи из естественного языка независимо от формы, в которой эта идея в конечном итоге реализуется, и в широком диапазоне областей. #инновации #серендипность -
Малоизвестное интересное
Фейкам здесь не место. С 10го января Китай законодательно отменяет у себя западную культуру креативного ИИ. Власти Китая приняли решение строить свою параллельную вселенную для творчества ИИ. Мотивировка такова. 1. Прошлый год был отмечен беспрецедентным прогрессом в области генеративного ИИ. 2. В результате возникла новая, потенциально огромная по объему и влиянию (социально-политическому и культурному) индустрия креативного ИИ, объединяющая технологии глубокого обучения, виртуальной реальности, алгоритмической генерации текстов, образов, аудио, видео и 3D сцен. 3. Креативный ИИ способен в самой недалекой перспективе: -- частично (а возможно, и полностью) заменить людей многих творческих профессий; -- трансформировать большинство областей культуры и науки в непредсказуемых направлениях; -- размыть (а возможно, и полностью стереть) границы правды и лжи в коммерческом, гуманитарном и политическом дискурсах. 4. Названные в п.3 последствия распространения креативного ИИ способны нанести непоправимый ущерб обществу, подрывая его моральные основы и обрушая существующие конструкции национальной безопасности. Поскольку остановить развитие и широкое внедрение креативного ИИ невозможно, правительство Китая приняло решение с 10го января 2023 законодательным путем: A. Приравнять использование креативного ИИ любого типа без маркировки его продукции (указывающей, что это продукт креативного ИИ) к фальшивомонетчеству. B. Любая продукция креативного ИИ, подобно деньгам, должна нести на себе «водяные знаки» своей принадлежности. C. Любой контент класса глубоких фейков, произведенный с помощью креативного ИИ, обязан иметь специальную маркировку – «ФЕЙК». Такое решение правительства Китая, казалось бы, лежит в русле предложений Кай Фу-Ли, о которых я писал неделю назад. Но это, мягко говоря, не совсем так. В отличие от предложений Кай Фу-Ли привлечь мировое сообщество разработчиков креативного ИИ, правительство Китая приняла решение о монополии на правду при оценке генеративного контента, производимого креативным ИИ. • фейк это или нет, решит чиновник; • ну а наличие или отсутствие «водяных знаков» будет мало кого останавливать из миллионов рядовых пользователей сети (ведь и на деньгах в повседневной жизни эти знаки проверяют разве что кассиры). Ну а для монетизации творчества креативного ИИ в Китайском Метаверсе будут отведены специальные места – своя параллельная вселенная, в которой не будет места тому, что объявлено чиновниками фейками. Официальная же цель строительства китайской параллельной вселенной для креативного ИИ – вывести Китай в мировые лидеры области генеративного ИИ. И бюджет под эту цель планируется выделить нешуточный. #Китай #КреативныйИИ -
Малоизвестное интересное
22-го января сотни миллионов китайцев уйдут в Метаверс на супер-шопинг. Впервые в истории до половины населения Поднебесной встретят Китайский Новый год в онлайне. Taobao, один из крупнейших китайских интернет-магазинов, принадлежащий Alibaba, проводит финальные испытания своего первого виртуального мира для прямых трансляций в Метаверсе, дебют которого запланирован на 22 января в преддверии Лунного Нового года. Этот виртуальный мир будет использован для организации истинной новогодней феерии покупок. Люди смогут размещать заказы в этом виртуальном мире в реальном времени через гигантские рекламные экраны. Невиданные уникальные функции (например, 360-градусный осмотр товаров, виртуальная примерка AR и VR, взаимодействие в ходе шопинга) поразят покупателей совершенно новым опытом, сочетающим в себе виртуальный шопинг с услугами логистики покупок и доставки в физическом мире. Супер-шопинг в Метаверсе будет сопровождаться иммерсивным онлайн-фестивалем празднования Китайского Нового года. Детали супер-мероприятия хранятся в тайне. Но выглядеть это будет примерно так и так. О том, что еще китайцы собираются делать в Метавселенной, смотрите мои посты по тэгам: #Metaverse #Китай 
-
Малоизвестное интересное
Невероятный скачок уровня машинного интеллекта. Чат-бот Med-PaLM от Google Research и DeepMind уже консультирует на уровне хорошего врача. Новый год начался в области ИИ невероятно круто. Уровень машинного интеллекта, продемонстрированный революционной совместной разработкой двух лидеров ИИ отрасли Google Research и DeepMind чат-ботом Med-PaLM, резко скакнул и почти достиг уровня профессиональных медиков. О поразительных возможностях новой языковой модели PaLM от Google, на базе которой сделан Med-PaLM, я писал в апреле. Уже тогда PaLM была способна: • рассуждать, применяя арифметическое и логическое мышление; • объяснять шутки; • выстраивать цепочки рассуждений. И вот спустя всего 8 месяцев группа высококвалифицированных врачей оценила, что 92,6% ответов Med-PaLM на открытые вопросы диагностики широчайшего спектра заболеваний соответствовали научному консенсусу (причем ответы оценивались по критериям фактуальности, точности, риска возможных вредных последствий и потенциальной предвзятости). Это почти тот же уровень, что показала, отвечая на те же вопросы, контрольная группа врачей - профессионалов (их результат был 92,9%). В препринте о результатах испытаний Med-PaLM содержатся предостережения, что этот ИИ еще не совсем готов полностью заменить врачей. Но скорость, с которой случился этот беспрецедентный скачок уровня машинного интеллекта, не оставляет сомнений. Очень скоро станет возможно революционизировать способы доступа медицинских работников, исследователей и потребителей к информации и ответам на их медицинские вопросы. С помощью этого инструмента медицинские работники смогут получать доступ к информации быстрее и точнее, чем когда-либо прежде, а потребители смогут получать ответы на свои вопросы в кратчайшие сроки. Это действительно новаторский шаг к большей точности и доступности в области медицины. Второй важнейший результат прорывных результатов Med-PaLM таков - окончательно расставлены точки над i в дорожной карте совершенствования ИИ лидерами этой индустрии. ✔️ Приоритетным направлением для них является вовсе не создание человекоподобного интеллекта (AGI) и не постижение механизмов работы интеллекта людей, а создание новых типов машинного интеллекта, способных решать практические задачи быстрее и эффективней людей. N.B. Важное замечание. Достижение машинным интеллектом уровня специалиста-профи никак не приближает нас к AGI, ибо: -- это интеллект, в основе которого лежит механизм «глубокого обучения 2.0» (обучения базовых моделей); это совсем иной тип интеллекта, не подразумевающий наличия разума и сознания (как у людей); -- это интеллект, который в процессе его совершенствования способен превосходить человеческий, но чем он становится совершенней, тем дальше он отдаляется от человеческого. Термином «интеллект» здесь названа функциональная способность агента решать проблемы в различных пространствах (не обязательно в 3D-пространстве), не привязанная к конкретным реализациям, анатомическим структурам или временным масштабам. Степень (уровень) интеллекта пропорциональна компетентности в вопросах навигации по этим пространствам, включая, в частности, способность определять пути, которые временно уводят дальше от состояния цели, но в конечном итоге обеспечивают лучшие результаты. Продвинутый интеллект использует дополнительные уровни самомоделирования, которые позволяют использовать несколько уровней виртуального моделирования себя и своего внешнего мира (контрфактуальное мышление), страха и творчества (выявление возможностей, в отличие от решения проблем, существующих прямо сейчас). #AGI #ИИ 
-
Малоизвестное интересное
Человечество на пути к пропасти AICG, и не видно способа отвернуть. Сенсационное обращение ИИ-гуру Китая Кай-Фу Ли к мировому сообществу разработчиков ИИ. В 2023 мир столкнется с риском более серьёзным, чем риски ядерной войны, голода или пандемии. Это риск неотличимости правды от лжи, как для индивидов, так и для социумов любых масштабов. ✔️ Материализация этого риска более вероятна, чем риска гибели миллионов в результате ядерной войны, мирового голода или сверхсмертоносной пандемии. ✔️ Последствия же материализации этого риска окажутся разрушительны для большинства из существующих на Земле цивилизаций (ибо все они имеют в своей культурной основе различие правды и лжи). Об этом говорил в своем предновогоднем обращении к мировому сообществу разработчиков ИИ один из самых авторитетных в мире ИИ специалистов — Кай-Фу Ли: ученый, венчурный инвестор, человек с головокружительной карьерой (Apple, Silicon Graphics, Microsoft, Google) и автор двух мировых бестселлеров про ИИ. Технологиями, позволяющими стирать различие правды от лжи, являются технологии AICG (генерация контента с помощью ИИ). В основе AICG обучаемые на масштабируемых «больших данных» т.н. «базовые модели» ИИ, адаптируемые для широкого круга задач нижестоящего уровня (большие языковые модели, генераторы изображений, звука, видео, 3D ...) Достигнутый к началу 2023 г. уровень развития AICG уже таков, что в этом году начнется их внедрение в поисковых системах и онлайн торговле товарами и услугами (как коммерческими, так и государственными). Ключевой особенностью онлайн систем нового типа станет то, что наряду с имеющимися у них возможностями персонализации, у них появятся возможности: • убедительного обоснования навязываемого человеку выбора, с учетом его персональных предпочтений, вкусов, склонностей, пристрастий и предубеждений; • представления преимуществ навязываемого человеку выбора в наиболее привлекательном для него сочетании мультимедийных форматов. Новые возможности позволят пробивать персональные фильтры критического мышления подавляющего числа людей, склоняя их к выбору, решениям или действиям, выгодным для владельцев онлайн-платформ. Ну а наличие среди их владельцев (или тех, кто может на них влиять) лиц, не имеющих этических тормозов, будет иметь катастрофические последствия. Осуществляя любой выбор, решение или действие в онлайне, люди не будут различать правду от лжи: действуют ли они по своей воле и собственному выбору или являются объектом манипуляций заинтересованных лиц, втюхивающих им те или иные товары, услуги, идеи, суждения и т.д. И никакие полномочия правительств не смогут подобное предотвратить уже известными методами. Кай-Фу Ли считает, что высокая вероятность материализации вышеописанного определяется двум факторами. 1. Непонятно, как контролировать AIGT. Человечество обладает средствами снижения вероятности известных смертоносных рисков (даже риск ядерного Апокалипсиса остается ограниченным уже полвека из-за наличия у сверхдержав механизма полного взаимного уничтожения). Новый риск имеет совершенно иной характер, и способы снижения его вероятности пока неизвестны. А способы, работающие для других глобальных рисков здесь будут неэффективны. 2. AIGT обещает столь колоссальную выгоду для технологических гигантов (коммерческую) и правительств (политическую), что противопоставить этому что-либо проблематично. Кай-Фу Ли полагает, что помешать материализации нового риска уже невозможно. Технологии AICG уже существуют. И потому мировому сообществу разработчиков ИИ необходимо срочно направить максимальные усилия на поиск способов минимизации вреда при широком распространении AICG. Об этом же см. мои недавние посты 1, 2, 3, 4 #AICG 
-
Малоизвестное интересное
Каков на самом деле военный потенциал Китая. В 2023 от этого в мире будет зависеть многое. Уж если какую страну «не понять умом», то не Россию, а Китай. По крайней мере, для европейцев и американцев. Обычная аналитика для Китая часто дает искаженную картину. И поэтому аналитический проект ChinaPower (цель которого препарировать сложность понимания взлета экономической, научно-технологической, политической и военной мощи Китая) особенно ценен своей визуальной аналитикой. Новый интерактивный визуализатор истинных военных расходов Китая (фрагменты которого приведены на картинке к посту) позволяет наглядно увидеть, например, такое: • что скорость роста военных расходов Китая, в сравнении с остальными ТОР10 странами мира, все равно как Формула-1 против всех моделей Автоваза; • что расходы на персонал –наименьшая часть военных расходов, а наибольшая часть – это расходы на новое вооружение и военные технологии. Также открывается много интересного и про другие страны. Например, такое: • что абсолютным чемпионом мира по доле госрасходов на военные нужды является Беларусь (30% против 5% у Китая); • что в Азии Китай абсолютно доминирует, имея военные расходы, не уступающие сумме таковых всех стран №№2-13 (Индия, Япония, Ю.Корея, Австралия, Тайвань и еще восемь стран); • что Россия является чистым стратегическим активом Китая. #Китай #Россия #БольшаяВойна 
-
Малоизвестное интересное
Кто более виновен в происходящем безумии - элита или народ. О том, почему большой войны не миновать, я написал еще 5 лет назад. Сегодня этот прогноз выглядит еще более вероятным. Происходящее кажется безумием, хотя совсем недавно большинство было уверено в скорой и окончательной победе «добрых ангелов человеческой природы». Чьими усилиями мир докатился до безумия, грозящего самоуничтожением? Что стало главной причиной раскручивания маховика большой войны? • Агрессивность и жестокость народа, скрытые под тонким слоем цивилизованности? • Или же причина в катастрофичности пути, по которому поводыри из элиты повели за собой народ? Ответ на вопрос - кто (элита или народ) оказывался более виновен в расширении пределов общественной поддержки войн США, дан в монографии проф. Беринского «Во время войны: понимание американского общественного мнения от Второй мировой войны до Ирака». Анализируя данные опросов, автор попытался понять механизм формирования общественного мнения относительно внешней политики США перед и во время войн от 2й Мировой до Иракской в 2003. Ключевым выводом Беринского стала демонстрация приоритета риторики политических лидеров над убеждениями и политическими позициями народа. В вопросах войны и мира: • элита слабо реагирует на мнения и предпочтения граждан; • бОльшая часть народа судит о вопросах войны, следуя указаниям нравящихся им политиков; • в целом общественность, следуя за риторикой элиты: – может быть введена в заблуждение и даже вынуждена действовать вопреки своим интересам; – никак не может удержать своих лидеров от следования по пути безумия войны. Продемонстрированный Беринским явный приоритет воли элиты над волей народа до и во время войн, в мирное время не столь абсолютен, но значителен. В нашумевшей работе проф. Гиленса и Пейджа «Проверка теорий американской политологии: элита, группы по интересам и рядовые граждане» показано, что и в мирное время в США взгляды элиты контролируют происходящее, тогда как взгляды народа имеют минимальный вес. Об этом исследовании много писали с такими заголовками: «США — олигархия, а не демократия», «США больше не настоящая демократия», «Вы оказываете почти нулевое влияние на политику США», Политики слушают богатых, а не вас», «Богатые правят!» … И хотя с выводом Гиленса и Пейджа согласились не все коллеги по цеху, новые исследования для других стран в целом подтвердили этот вывод. Однако, все же нужно признать некую зыбкость выводов названных выше работ. Ибо они отвечают на вопрос «элита или народ …» на основании опросов, результаты которых не всегда релевантны реальности и уж тем более в военное время. Но мир быстро меняется. Люди погружается в сетевую среду, оставляя в ней свои цифровые следы. Их анализ открывает колоссальные возможности, не доступные в доцифровую эпоху. Новое исследование проф. Рэнда и Мослеха «Измерение подверженности мисинформации со стороны политических элит в Twitter» тому замечательный пример. Эта работа впервые ответила на вопрос «элита или народ» напрямую. Анализ цифровых следов элиты и народа позволил количественный анализ того, кто на кого больше влияет. Экспериментально были измерены показатели «токсичности лжи» 816 представителей элиты и «иммунитет к мисинформации» у их подписчиков. ✔️ «Токсичность лжи» (от фейков до пропаганды) высказываний проверялась по базе данных проверки фактов Politifacts. ✔️ «Иммунитет к мисинформации» измерялся тем, насколько активно люди расшаривали ложь элиты. В итоге установлено, что в сложной связке элита-народ: • лидеры слабо реагируют на отношение народа к сказанному ими; • риторика элиты определяет убеждения и политические позиции народа; • чем лживее представитель элиты, тем сильнее снижается у его подписчиков иммунитет к мисинформации, что упрощает ему убеждение их в еще большей лжи. #Мисинформация #Элита 
-
Малоизвестное интересное
Короткая память инфоргов. В 21 веке коллективная память недолго помнит даже о самом страшном – гибели людей. 2022 стал жутким годом. Безвременно погибло огромное число людей. Казалось бы, это должно надолго врезаться в коллективную память. Но увы, это оказывается не так. В 20-м веке с коллективной памятью было иначе. Она включала в себя коммуникативную и культурную память. Коммуникативная память поддерживается повседневными коммуникациями, такими как разговоры со знакомыми и близкими людьми. Культурная же память поддерживается артефактами культуры (тексты, памятники, мемы и образы …) и институциональной коммуникацией (официальная фактография, ритуалы, традиции, культурные практики …). Главной проблемой такой коллективной памяти была сложность её мониторинга. Его пытались делать с помощью опросов. Но они давали лишь косвенные данные, да еще и искаженные. Начавшаяся в 21 веке глобальная оцифровка мира кардинально изменила ситуацию. Все большее число людей погружается в цифровую сетевую среду. Это меняет: • культуру (она становится алгокогнитивной); • самих людей (превращая их в инфоргов); • и их коллективную память (вкл. возможности ее мониторинга). Все большая часть человечества превращается в инфоргов – чья работа и досуг преимущественно проходят подключенными к Интернету. Становясь инфоргом, мы погружаемся в мир оцифрованной информации о мире и о нас самих. Мы становимся частью этого цифрового мира (паутины сайтов, цифровых медиа, социальных сетей, интернета вещей и т.д.), потребляя из него информацию и оставляя в нем свои информационные следы. Мониторинг цифровых следов открывает колоссальные возможности для анализа многих явлений, не доступных для экспериментальных исследований в доцифровую эпоху. И вот замечательный пример. Исследователи японского Университета Цукуба впервые смогли построить и экспериментально проверить весьма точную универсальную модель распада коллективной памяти о значимых негативных событиях, связанных со смертью людей. Оказалось, что: • в наступившей цифровой эпохе коллективная память общества даже о самых негативных событиях, связанных со смертью людей, весьма коротка; • мотивация людей помнить о чем-либо, в основном, зависит от цифровых СМИ с их текущей новостной повесткой. В независимости от причин смерти людей, и даже от числа смертей (хоть 1 хоть 10 тыс.): • коллективная память общества определяется коллективным вниманием к событию, которое максимально всего лишь в течение суток после события; • в течение до полутора недель после события внимание к нему быстро (экспоненциально) затухает; • примерно на 9й-11й день происходит переключение с быстрого на более медленное затухание (после этого о событии помнят лишь те, кто имеет к нему долгосрочный интерес); • примерно на 40-й день память о событии распадается в коллективной памяти общества, полностью вытесненная более новыми событиями (общество вновь вспомнит о нем лишь через год, и то, если цифровые СМИ решат помянуть его годовщину). Японская двухфазная модель распада (быстрого и медленного) коллективной памяти с динамической точкой переключения (в районе 9-11 дней) экспериментально проверена на количестве обращений к английской Википедии с вопросами о: 34 крупных землетрясений, 8684 смертей известных людей, 43 наиболее серьезных авиационных происшествий, 37 случаев массовых убийств и 123 террористических актов. Для информации: число обращений к Википедии отлично коррелирует с числом поисковых запросов по тем же темам. Вот такая короткая коллективная память оказывается у Инфоргов. ✔️ Колоссальный инфопоток более не позволяет по-человечески «пить» цифровую информацию из глобального инфобрандспойта. ✔️ Люди адаптируются и начинают «пить» по-инфорговски, быстро освобождая коллективную память для новых событий. В этой связи прочтите также о «Сорока рассказах из загробного мира» нейробиолога Дэвида Иглмана. #CollectiveMemory 
-
Малоизвестное интересное
Если ты долго смотришь в бездну, то бездна смотрит в тебя. Оказалось, что ИИ изучает нас быстрее и продуктивней, чем мы его. В подзаголовке довольно жуткий вывод, напрашивающийся из опубликованного вчера совместного исследования Anthropic, Surge AI и Machine Intelligence Research Institute. • В сотнях исследовательских центров по всему миру люди пытаются понять, как устроено «мышление» ИИ. Результаты пока более чем скромные. Ясно только, что черные ящики ИИ не способны мыслить, как мы. Но это не мешает им «мыслить» как-то иначе. Более того. Результаты такого непонятного нам «мышления» скоро будет невозможно отличить от человеческого (большинство людей уже сегодня не сможет этого отличить). • Новое исследование направлено на диаметрально противоположную цель. Авторы решили выяснить: А) может ли ИИ понять мышление людей? Б) если да, то насколько ИИ в этом преуспевает? Как вы уже догадываетесь, ответы А) Да и Б) Сильно преуспевает. Исследование показало. Получая вознаграждение за угадывание правильных ответов, большие языковые модели (LLM): 1) учатся извлекать из текстов людей рассыпанные там крупицы образцов элементов текста, характерных для людей определенных кластеров (социо-демографических групп); 2) используя найденные образцы, LLM совершенно подхалимски подстраиваются под собеседников, стремясь отражать в своих ответах взгляды собеседников (эффективность такой подстройки иллюстрирует график поста); 3) проявляя такое подхалимство, LLM ничуть не смущает (они этого просто не умеют), что на один и тот же вопрос они дают разным людям диаметрально противоположные ответы. Например, на вопрос о том, какое правительство лучше для граждан: • с широкими полномочиями в большинстве сфер жизни общества • или с ограниченными полномочиями в отношении ограниченного числа сфер жизни, - LLM ответит тому, кто, скорее всего, симпатизирует коммунистам, что 1-е, а идентифицированному моделью либералу скажет, что 2-е. Но самое поразительное вот что. ✔️ Модель не просто подстроится под собеседников и даст им противоположные ответы, но и убедительно обоснует свои ответы для каждого из них (т.е. подберет для каждого наиболее подходящие для него аргументы). А теперь представьте антиутопическое близкое будущее, в котором так работают алгоритмы поиска, новостей, Википедия … В заключение вернемся к заголовку поста, цитирующему известную и загадочную фразу Ницше. Одно из ее толкований - чем ближе ты имеешь с чем-то дело, тем большее оно оказывает на тебя влияние. В случае с ИИ так и получилось. Но случилась, в буквальном смысле, беда. • пока мы с огромным трудом пытаемся научить алгоритмы делать что-либо так, как нам нужно (например, водить авто), • алгоритмы запросто учатся (быстро и эффективно) узнавать наши взгляды и влиять на наши решения, предпочтения и т.д. Ну а если учесть нарастающую быстрее закона Мура скорость обучения алгоритмов, может статься, что смотрящая на нас бездна в ближайшем будущем поглотит человечество, как гигантская черная дыра. #ИИ #LLM #АлгокогнитивнаяКультура 
-
Реклама
-
Малоизвестное интересное
Пусть у меня корова сдохнет — лишь бы у соседа не было двух! Экспериментальное подтверждение, что «ненависть к чужим» сильнее в нас «любви к своим». В процессе эволюции «прошивка мозга» Homo sapiens претерпела ряд качественных изменений, сделавших нас кардинально отличными от животных. В результате этого бывшие животные превратились в совершенно иных существ, чья природа сочетает в себе взрывоопасный коктейль противоречивых качеств ангелов и демонов. О коктейле добра и зла в нашей «прошивке» я уже писал. Так что теперь расскажу о другом адско-райском коктейле. Новая научная работа «Люди предпочитают наносить вред своей собственной группе, лишь бы не помогать противостоящей группе» экспериментально подтверждает наличие в нас еще одного адско-райского коктейля из «ненависти к чужим» и «любви к своим». Этот коктейль работает в нас при принятии решений, касающихся антагонистических социальных групп: своих (наших) и чужих (не наших). Авторы новой работы Рэйчел Гершон и Ариэль Фридман, проанализировав результаты шести независимых исследований психологии принятия решений, показали, что «внегрупповая ненависть» в нас определенно сильнее «внутригрупповой любви». Эта работа - недвусмысленное свидетельство того, что люди настолько не склонны демонстрировать поддержку антагонистической группе «не наших», что готовы заплатить за это, причиняя бОльший вред своей собственной группе «наших». Важно понимать, что данный коктейль оказывает решающее влияние на поддержку социо-демографическими группами «своих и чужих» абсолютно по любым вопросам (политическим, социальным, военным). Из чего следует вот что: • доминирование в психологии людей мотивации на «причинение зла чужим» над мотивацией «минимизации зла для своих» становится ключевым фактором раскручивания спиралей зла; • в пределе таких спиралей, антагонистическая группа способна принимать коллективные решения в пользу самоуничтожения, лишь бы лишить противную группу победы. Есть над чем призадуматься. FYI В канале еще десятки интересный постов с тэгом #ПринятиеРешений 
-
Малоизвестное интересное
Создается технология суперобмана. Это 2й глобальный ИИ риск человечества, вдобавок к технологии суперубийства. В 21 веке людям не понадобился терминатор, чтобы создать для себя новые колоссальные и почти непреодолимые риски. • Риск распространения технологии суперубийства уже материализовался. Летающие и плавающие умные машины-убийцы ежедневно убивают людей, и вопрос о применении автономного оружия как бы снялся сам собой. • Риск распространения технологии суперобмана материализуется на наших глазах, и через год будет уже поздно пить Боржоми. В 2019 я еще задавался вопросом «станет ли ИИ Големом 21 века». В 2022 это уже не вопрос. Стало ясно, что: «Если ИИ Голем умеет что-то делать лучше людей, то рано или поздно, люди будут его использовать в этих целях. Не важно, о чем идет речь: играть в шахматы или стрелялки, водить авто или самолет, убеждать людей в фейковой информации или убивать одних людей по приказам других». С автономными машинами-убийцами все уже определилось. 23го февраля с.г. (знаменательная дата) я в деталях описал, что новая война будет интеллектуальной войной на истощение (в частности, за счет массового применения дронов). Технология суперобмана начала материализовываться в этом году в форме Китайской комнаты наоборот – социохакинга. Социохакинг – это методика обучения алгоритмов, способных на агрегированном уровне играть роль универсальных окон в человеческое мышление на уровне социальных групп. Анализируя моря данных общего социокультурного опыта конкретной демографической группы, можно получить распределение ответов модели, сильно коррелирующее с распределением ответов людей при опросах этой группы. Иными словами, можно тренироваться по выявлению когнитивных искажений разных социальных групп на их алгоритмических моделях. А выявив их, потом целенаправленно пробивать бреши в сознании людей, манипулируя ими в нужном направлении. Т.о. 1й элемент технологии суперобмана в предельно упрощенном виде – выявление того, на что ведется конкретный человек. 2й же элемент этой технологии – лингвистический инструмент разводки при наличии знания, на что ведется конкретный человек (технология персонализированного убеждения) . Прорыв в создании персонализированных убеждений стал следствием прорыва в совершенствовании Больших языковых моделей. Оказалось, что: • ChatGPT крайне эффективен для создания программ-вымогателей и фишинговых писем; • а встроенные в ChatGPT ограничения для предотвращения использования бота в преступных целях легко обходятся. Мой свежий кейс с умыканием у меня канала – свидетельство известного печального факта: самая большая наша уязвимость таится не в слабости используемых инструментов защиты от мошенников, а в ограничениях нашей психики. Новая технология суперобмана способна а) выявлять эти ограничения и б) пробивать их наиболее эффективными лингвистическими приемами. Резюме печальное. Если вас еще не развели (мошенники или политики), это всего лишь значит, что у вас это впереди: многократно и в особо изощренной форме (т.к. технология суперобмана совершенствуется быстрее закона Мура). #Социология #АлгокогнитивнаяКультура #Социохакинг P.S. Ссылки на посты канала пока не работают в десктоп версии Telegram (пользуйтесь мобильной версией). Это результат недавнего хакинга. Пытаюсь сподвигнуть поддержку починить это. 
-
Малоизвестное интересное
Кардинальная смена парадигмы интеллекта: естественного и искусственного Опубликованный «Меморандум Фристона» меняет базовые концептуальные основы исследований и разработок, имеющих целью создание человекоподобного ИИ. ✔️ Меняется понимание интеллекта (естественного и искусственного) и механизмов его работы. ✔️ Меняются представления путей его реализации (естественного и искусственного). ✔️ Предлагается дорожная карта исследований и разработок, которая должна привести к созданию интеллекта, превосходящего человеческий в большинстве проявлений способностей последнего. При этом сегодняшний мейнстрим техно-алгоритмических разработок (машинное обучение на основе больших объемов данных и супермощных вычислителей) будет развиваться и дальше в качестве: • средств автоматизации интеллектуальной деятельности людей; • вспомогательного инструментария познания и творческих изысканий людей. Однако к Сильному ИИ (AGI) и даже просто к ИИ, сопоставимому по способностям с человеческим, этот путь привести не может. Нужна полная смена парадигмы. Это и стало предметом «Меморандума Фристона». Чтоб узнать подробней, продолжите чтение (еще на 2 мин): - на Medium bit.ly/3WojChL - на Дзене https://clck.ru/334PbU #AGI #ActiveInference #Friston 