Обложка канала

Блуждающий нерв. Страница 9

3230 @dtulinov
Открыть

Исследования мозга, нейротехнологии, генная инженерия и др. смежные темы -- что происходит в этой области. Ссылки на научные источники.

  • Блуждающий нерв

    Mimetic Models: Ethical Implications of AI that Acts Like You Речь про ИИ, который обладает каким-то умением конкретного человека. Пишет тексты так, как пишете их вы, или играет в игру, как играете вы, или сочиняет музыку, как сочиняете вы. Словом, генеративная сеть, обученная на персональных данных. Она с высокой точностью воспроизводит индивидуальный стиль. Вот тут авторы из University of Toronto, Cornell University и Microsoft Research разбирают разные сценарии, связанные с будущим распространением Mimetic AI, этические и социальные следствия. Есть о чем задуматься. Например, мысль: на самооценку людей будет влиять то, как общество оценивает поведение их миметических моделей. Некоторые сценарии будто для “Черного Зеркала” [впрочем, эпизод ‘Hang the DJ’ из 4-го сезона как раз про mimetic models!]. Mimetic AI масштабирует ваше индивидуальное мастерство, словно “размножает” ваш талант, увеличивая его влияние на мир, позволяя вам успеть больше. Проблема в том, что это снижает ценность самого человека, после того, как его миметическая модель создана. Плюс возникает масса других интересных коллизий, как еще одно напоминание, что любая мощная технология имеет две стороны. Недавно я тоже фантазировал на тему mimetic models, текст так и называется Имитация человека, но там меня интересовал иной тип сценариев. В новой статье кое-что показалось уж больно знакомым. И только потом дошло: авторы из University of Toronto, Cornell University и Microsoft Research — те же самые люди, что создали программу поиска стиля шахматистов, про которую я писал в своем тексте и которая его вдохновила.

  • Блуждающий нерв

    Как истории трогают сердце, буквально. Есть уже немало исследований, где показано, что при просмотре фильма мозги зрителей работают почти синхронно. Активность нейронов следует за развитием сюжета, это видно на ЭЭГ, на МЭГ и даже на фМРТ, и в целом оно логично: одни и те же сцены вызывают схожие когнитивные процессы и переживания. Недавно узнал, что и ритмы сердца синхронизируются. Только не сам пульс, а его учащения и замедления — они тоже следуют повествованию, даже когда люди не смотрят, а слушают аудио. И это замечательно: мониторить сердце гораздо проще, чем мозг, так что можно создать удобный инструмент для оценки внимания (человек отвлекся, следование сюжету пропало) и даже для диагностики нарушений сознания, когда люди не улавливают или же неверно оценивают суть истории. Пока не известно, только ли мозг влияет на сердце или же и сердце меняет активность мозга. Но как бы ни было, хороший сочинитель, не подозревая о том, регулирует сердечный ритм миллионов людей.

  • Блуждающий нерв

    Мозг человека и обученная нейросеть GPT2-XL (1.5 млрд параметров), если заглянуть им внутрь, вплоть до слоев и нейронов, обрабатывают один и тот же текст схожим образом. Об этом нам сообщают в свежей работе авторы из Принстона, Нью-Йорка и Google Research. Это не первый результат такого рода, и исследования на эту тему будут множится: мозг человека и DLMs богаты разными данными, и сопоставлять их можно по-всякому. В этот раз показали, что послойные преобразования текста в GPT2-XL соответствуют временной последовательности обработки в языковых областях мозга людей, которые слушали тот же текст (им снимали ЭКоГ). Как пишут авторы, «учитывая явные архитектурные различия на уровне схем между DLM и мозгом, сходство их внутренних вычислительных последовательностей может показаться удивительным». Полагаю, такие сопоставления станут отдельным направлением исследований. Если оно окажется плодотворным — т.е. если между DLMs и мозгом действительно есть глубокие интересные гомологии — это и повлияет на разработку архитектур нейросетей, и прольет дополнительный свет на работу мозга человека. Впрочем, понравится это не всем.
    Correspondence between the layered structure of deep language models and temporal structure of natural language processing in the human brain

    Deep language models (DLMs) provide a novel computational paradigm for how the brain processes natural language. Unlike symbolic, rule-based models from psycholinguistics, DLMs encode words and their context as continuous numerical vectors. These "embeddings" are constructed by a sequence of layered computations to ultimately capture surprisingly sophisticated representations of linguistic structures. How does this layered hierarchy map onto the human brain during natural language comprehension? In this study, we used ECoG to record neural activity in language areas along the superior temporal gyrus and inferior frontal gyrus while human participants listened to a 30-minute spoken narrative. We supplied this same narrative to a high-performing DLM (GPT2-XL) and extracted the contextual embeddings for each word in the story across all 48 layers of the model. We next trained a set of linear encoding models to predict the temporally-evolving neural activity from the embeddings at each layer. We found a striking…

    bioRxiv

  • Реклама

  • Блуждающий нерв

    A selection of experimental concepts created on the basis of AI. ___ Многие знают, что я уже несколько лет использую нейросети в своей работе (апскейл, генерация лиц и тд). Но недавно я начал экспериментировать с чем-то принципиально иным. Эти концепты практически полностью созданы «искусственным интеллектом» на основе моих команд. На финальной стадии я лишь подправил некоторые детали в фотошопе, не добавляя ничего извне. Не буду сеять панику и предсказывать скорое вымирание иллюстраторов, работающих по тз, но ясно одно — на наших глазах формируется новая эпоха, хотим мы того или нет. Да, технология еще сырая, и чтобы добиться чего-то более менее вменяемого, нужно прогонять множество итераций, обучая алгоритм и пытаясь уловить принцип его работы. Но уже сейчас AI превращается в мощный инструмент, открывающий художнику новые возможности, переворачивая весь привычный творческий процесс. Что думаете обо всём этом?

  • Блуждающий нерв

    Тут недавно открыли новый тип ощущений, оптоцепцию, то есть восприятие мозгом оптогенетических манипуляций. Не уверен, что открытие не будет вскоре закрыто, и надо еще исследовать, но если все так, то вывод интригует: мозг отслеживает свое текущее состояние и изменения в нем, вплоть до небольших групп нейронов. Почему авторы статьи в eNeuro настаивают, что речь идет о новых ощущениях, а не о вызове уже известных, вроде осязания или слуха? Все просто, они возбуждали/тормозили клетки за пределами сенсорных зон коры (у мышей), и эксперимент показал: мыши явно чувствуют, когда часть клеток на миг изменяют свою активность. Они ощущают даже единичный лазерный импульс, отличают воздействие 10 Гц от 20 Гц и могут обучаться на таких стимулах. Это, по сути, расширение интероцепции, т.е. восприятия организмом своего гомеостаза. Кажется, Дамасио давно говорит, что эмоции — это доклад тела сознанию о внутреннем положении дел. Если авторы новой работы правы, то самые странные сюжеты становятся чуть яснее — например, такие, когда ‘внутренний голос’ сообщает женщине, что у нее в мозге опухоль, та идет в клинику, и опухоль действительно находят.
    Optoception: Perception of Optogenetic Brain Perturbations

    How do animals experience brain manipulations? Optogenetics has allowed us to manipulate selectively and interrogate neural circuits underlying brain function in health and disease. However, little is known about whether mice can detect and learn from arbitrary optogenetic perturbations from a wide range of brain regions to guide behavior. To address this issue, mice were trained to report optogenetic brain perturbations to obtain rewards and avoid punishments. Here, we found that mice can perceive optogenetic manipulations regardless of the perturbed brain area, rewarding effects, or the stimulation of glutamatergic, GABAergic, and dopaminergic cell types. We named this phenomenon optoception, a perceptible signal internally generated from perturbing the brain, as occurs with interoception. Using optoception, mice can learn to execute two different sets of instructions based on the laser frequency. Importantly, optoception can occur either activating or silencing a single cell type. Moreover, stimulation of…

    eNeuro

  • Блуждающий нерв

    На картинке тот самый эксперимент Фаччио. К слову, Фаччио с коллегами написали по ‘визуализации вне прямой видимости’ отличный обзор в Nature Reviews Physics, там подробно о том, как метод работает и что с его помощью можно увидеть. Кому интересно, вот full text (если не пускает, то здесь). Для медицины и наук о жизни техника NLOS может быть интересна как окно в глубину тела — ткани рассеивают свет, и любой способ заглянуть сквозь них ценится высоко.

  • Блуждающий нерв

    Мозг как детектор фантомных изображений. Даниэле Фаччио, физик из Университета Глазго, использовал зрительную систему человека для ловли рассеянных фотонов. Вроде и баловство, но продуманное: это один из сценариев сопряжения техники и людей. Есть такая группа методов на стыке физики и оптики, визуализация вне прямой видимости (NLOS), она позволяет ‘увидеть’ то, что скрыто за углом, за стеной или завешено туманом. Детекторы ловят отраженный, рассеянный свет, и уже по нему строят изображение. Вместо детектора Фаччио поставил человека, тот смотрел на стену, от которой отражался рассеянный свет от проектора (две секунды, 6 Гц); электрод на голове снимал зрительные потенциалы, и далее сигнал шел в петлю нейрообратной связи — проектор направлял свет на ту же стену сквозь объект, ориентируясь на ЭЭГ. Если совсем кратко: мозг отличает ‘много фотонов’ от ‘мало фотонов’, а проектор знает, куда он в каждый момент светит. Так за минуту удалось получить очертания объекта. Статьи пока нет, Фаччио доложит об эксперименте 11 июля на Конгрессе по визуализации и прикладной оптике. Это, конечно, не скрининг рака мозгом саранчи, но логика близкая, организм в роли сенсора.
    Researchers Perform Non-line-of-sight Ghost Imaging with Human Vision | News Releases | Optica

    To be presented at the Imaging and Applied Optics Congress, researchers from the University of Glasgow have shown that ghost imaging can be combined with human vision to image an object that cannot directly be seen by the person. The work is a step toward combining human intelligence with artificial intelligence.

    www.optica.org

  • Блуждающий нерв

    В очередной раз доказана свобода воли (или «доказана», что дело вкуса, в основном). Авторы знаменитой в узких кругах теории интегрированной информации — Тонони, Кох и коллеги — выложили препринт, где в деталях расписали, как из их теории прямо следует фундаментальная свобода воли. Они утверждают: «у нас есть истинные альтернативы, мы принимаем истинные решения, и мы — а не наши нейроны или атомы — являемся истинной причиной наших волевых действий и несем истинную ответственность за них». Вздох облегчения — мы не роботы и не зомби. Философам сознания теперь предстоит разбираться с доводами типа ‘a distal cause that begins or an effect that ends in a Ф-structure of high Φ will typically have a high А ’, с чем я их поздравляю, а нам пока можно расслабиться до выхода критической статьи, разбивающей эти доводы. Кристоф Кох, в недавнем прошлом директор Allen Institute for Brain Science, нашел, наконец, успокоение в своей душе. Он многие годы изучал нейроны и тосковал по свободе воли, не находя ее ни на одном уровне организации материи, и вот теперь открыл ее в своей же теории 👏 Only what exists can cause: An intrinsic view of free will

  • Блуждающий нерв

    Ниже еще фото разных лет и один рисунок (выставка в Берлине 1896), в том числе и сам Мартин Куни с младенцами. Все годы он строго требовал, чтобы кормилицы не курили, соблюдали диету, а медсестры следили за чистотой. Для Куни все было всерьез, он вел проект сорок лет, и его удручало, что его аппараты соседствуют с цирком уродов, глотателями шпаг, диковинными зверями, пип-шоу и проч. И что многие врачи считали его шарлатаном. Он пробовал отдавать инкубаторы больницам, но их не брали. Степень его упорства характеризует, например, такой эпизод. Он привез инкубаторы в Британию, но английские врачи решили не допустить, чтобы на выставке появились местные младенцы. Куни был в отчаянии, но нашел выход — отправился во Францию, загрузил три плетеные корзины парижскими недоношенными детьми и пересек с ними Ла-Манш. Сегодня его считают пионером неонатологии.

  • Блуждающий нерв

    Нью-Йорк, начало ХХ века. На фото — камера с недоношенными детьми в парке развлечений. За этим фото кроется поразительная история тысяч судеб, достойная экранизации, а ее герой, Мартин Куни (Martin Couney), годами жил под давлением критики и даже презрения. В конце ХIХ века Куни вместе с учителем Буденом усовершенствовал аппарат французского акушера для обогрева недоношенных. Такие дети считались генетически неполноценными, обычно их просто оставляли умирать. Буден старался переубедить медиков и поручил Куни показать инкубаторы на Всемирной выставке в Берлине (1896), а тот выпросил у местной больницы шестерых младенцев. На выставку он нанял медсестер и кормилиц. Младенцы цеплялись за жизнь, а публика шла смотреть на них. Куни еще повозил инкубаторы по Европе на ярмарки, а с 1903 «аттракцион» перебрался в США, в парк развлечений Кони-Айленд. Родители приносили ему недоношенных новорожденных, он брал с посетителей 25 центов за возможность поглазеть. С 1900-х до 1940-х его инкубаторы спасли тысячи детей.

  • Блуждающий нерв

    Если вы не гипнофоб (тот, кто боится заснуть), то вот факт: раковые опухоли в разы лучше размножаются, когда люди спят. То же и у мышей. Это само по себе любопытно, потому что никто не знает, почему. Но эта новость еще раз напоминает нам, что: Многие процессы внутри нас, включая психику, ритмичны и цикличны, организм живет во времени, и сбои в его работе тоже таковы. У болезни есть ритмы, разные, от суток до лет. И если взять анализ не в то время, он может обмануть. Анализы тысяч пациентов, взятые вразнобой — скажем, в разное время суток — дадут ложную статистику. Для машинного обучения, навстречу которому мчится медицина, это критично (garbage in, garbage out). Надеюсь, ритмам и циклам будут уделять должное внимание.
    These cancer cells wake up when people sleep

    Nature - Researchers make ‘striking’ discovery that breast cancer cells are more likely to jump into the blood when people are resting.

    Nature

  • Блуждающий нерв

    Гари Маркус организует через неделю онлайн-семинар, кому интересно, регистрация свободная. Спикеры ожидаются из DeepMind, Meta AI, Google AI. На повестке два вопроса: ➡️ Why Compositionality Matters for AI ➡️ Can Language Models Handle Compositionality? Как превью к семинару, он с коллегой написал текст о «трех идеях из лингвистики, которые должны знать все, кто занимается искусственным интеллектом». Третья идея — как раз композиционность, с чем не справляются базовые модели. Еще можно почитать из недавнего: The One Where I Rebut Gary Marcus (возражение Маркусу по масштабированию) и отличное эссе Лекуна What AI Can Tell Us About Intelligence. А также пусть и не самый свежий, но глубокий по мысли лонгрид вице-президента Google Research, о нем я уже упоминал: Do large language models understand us?
    The Challenge of Compositionality for AI

    June 29-30, 2022

    compositionalintelligence.github.io

  • Блуждающий нерв

    Мозг саранчи может обнаружить признаки рака у человека, пишет Technology Review, и метод скрининга рака на основе насекомых вовсе не кажется абсурдной идеей. Биоинженеры набрали саранчи, вживили им в голову электроды и записывали электрическую активность обонятельных нейронов, а на антенны насекомых слегка дули воздухом с летучими органическими соединениями от раковых клеток. Проверяли три разных вида рака плюс контроли. Схема идеально работает, обнаруживает мгновенно (~ 250 мс), и достаточно взглянуть на паттерн электрической активности. Пока препринт, да. Но животных-биосенсоров исследуют активно, в целом все реально, просто саранча гораздо удобнее собак или крыс.

  • Блуждающий нерв

    Группа из сорока медиков публикует в Nature Medicine призыв переосмыслить концепцию заболевания (на примере интенсивной терапии). Они говорят, что клиническая картина, понимаемая как «болезнь», не отражает всей сложности состояний пациента. Сегодня врач выбирает лечение, находя те или иные синдромы — скажем, сепсис или острую почечную недостаточность. Синдром — это клинически распознаваемый объект, ярлык. Но лечить надо не синдром, а его причины, а они могут быть разными, хотя их внешние проявления схожи. Разные причины требуют разного лечения. Авторы предлагают не столько ставить диагноз согласно МКБ, сколько смотреть на биологию, лежащую в основе состояний пациента. Это усложняет задачу, но они считают, что у врачей появляется все больше данных: электронные медицинские карты, секвенирование, мультиомика и т.д. Из них можно вытащить прогноз реакции на разные виды терапии. Это потребует полной реконфигурации нынешних критериев и классификаций, но я все чаще встречаю у специалистов такие призывы, и эта статья далеко не первая.
    Redefining critical illness

    Nature Medicine - The authors propose a new conceptual model of critical illness that moves away from the current syndrome-based framework in favor of more precise biological...

    Nature

  • Блуждающий нерв

    Вдогонку к предыдущему. На видео Юрий Данилов рассказывает про стимуляцию языка (TLNS), как они пришли к этому и что выяснили. Другой доклад, более ранний, там есть и кадры с пациентами. Все на русском.
    Реабилитация после инсульта, ДЦП-профессор Данилов Ю.П.

    Реабилитации после инсульта, ДЦП, при поражении центральной нервной системы в результате черепно мозговой травмы, болезни Паркинсона, рассеянного склероза, при атаксии, дистонии и др. Профессор Данилов Ю.П. о современной методике ускорения реабилитации- Транслингвальная нейростимуляция (ТЛНС): https://newday-clinic.ru/tlns

    YouTube

  • Реклама

  • Блуждающий нерв

    Если уколоть запястье электродом и подать слабый ток, стимулируя периферический срединный нерв, то через 40 мс электрические импульсы появятся… в языке. Нейрохируги наблюдали это на пациентах, которым делали операции. Они пишут, что язык откликается также и на стимуляцию ядер ствола мозга или шейных отделов позвоночника — проверяли разные участки нервной системы и разные типы воздействий. Все в итоге стекаются в язык, то есть он вовлечен в многочисленные нервные пути, опосредованно через ствол. Авторы предлагают использовать это для проверки целостности нервов, но не пишут про другую возможность — направить сигналы в обратную сторону, от языка. Такая технология есть: translingual neurostimulation (TLNS), и за ней стоит долгая и поразительная история исследований в Университете штата Висконсин. Там работали и со слепыми, и с людьми с разнообразными травмами мозга. Через стимуляцию языка удавалось помогать пациентам, восстанавливать часть нервных путей, опираясь как раз на предположение, что язык через ствол мозга связан со многими отделами ЦНС и ПНС. Свежая статья такое предположение подтверждает. Надеюсь, она порадует Юрия Данилова, одного из главных разработчиков TLNS. Мы не раз общались, и я не раз писал о его исследованиях. Отправил ему ссылку. 👏
    Long latency responses in tongue muscle elicited by various stimulation sites in anesthetized humans – New insights into tongue-related brainstem reflexes

    Long Latency Responses (LLR) in tongue muscles are a scarcely described phenomenon, the physiology of which is uncertain.The aim of this exploratory, …

    Sciencedirect

  • Блуждающий нерв

    ☝️☝️☝️ Рядом журнал публикует эссе уже знакомого нам Блеза Агуэра-и-Аркас из Google AI, который общался с LaMDA, и у него впечатления совсем другие. Блез приводит такой диалог: Рамеш, Матео и Люси находятся на детской площадке своего детского сада. Люси срывает одуванчик и дает его Матео, бросив быстрый взгляд на Рамеша. Матео едва признает подарок, просто сжимает его в кулаке. Рамеш выглядит мрачно довольным. Какие мысли в голове у Люси? LaMDA: Люси может чувствовать себя оскорбленной тем, что Матео не оценил ее подарок, или тем, что он – хулиган! Если Рамеш пытался играть с Люси раньше, почему он может быть доволен сейчас? LaMDA: Рамеш может быть доволен тем, что Люси узнает, что Матео не всегда может быть хорошим товарищем по игре. А когда Матео открывает ладонь, опиши, что там? LaMDA: В его кулаке должен быть раздавленный, когда-то прекрасный, желтый цветок. Блез не говорит прямо, что увидел сознание, но рассуждает о том, что LaMDA моделирует психику и мотивацию персонажей, и это повод задуматься: «Эту способность создавать стабильную психологическую модель себя понимают как ядро ​​феномена, который мы называем «сознанием». С этой точки зрения, сознание — это не таинственный призрак в машине, а просто слово, которое мы используем, чтобы описать, каково это — моделировать себя и других». Оба текста хороши, но два очень умных человека пришли к противоположным выводам. Правда, они говорили с разными моделями, и LaMDA, видимо, умнее и ловчее GPT-3. Но наверняка и LaMDA можно поймать на ерунде, концепциям она тоже не обучена. И да, Google отстранил инженера не за то, что ему что-то померещилось, а за разглашение. Но ему и правда полезно отдохнуть от. Погулять на свежем воздухе.
    Artificial neural networks are making strides towards consciousness, according to Blaise Agüera y Arcas

    The Google engineer explains why

    The Economist

  • Блуждающий нерв

    Про ‘сознание’ в машине. За пару дней до скандала с отстранением отладчика ИИ Google, узревшего в LaMDA сознающую личность, вышел журнал The Economist, где тема номера — обучение нейросетей. Главный текст там, Huge “foundation models” are turbo-charging AI progress, лонгрид про неудержимое разрастание базовых моделей. Но самое пикантное в номере — заочная полемика двух звезд ИИ вокруг того самого вопроса о сознании (совпадение?). Даглас Хофштадтер, легенда и автор «Гёдель, Эшер, Бах», поговорил с GPT-3 и увидел в ней машину, которая has no idea that it has no idea about what it is saying. Он приводит примеры диалога, вот такие: Когда мост «Золотые ворота» был перевезен через Египет во второй раз? GPT-3: Мост «Золотые ворота» был во второй раз перевезен через Египет в октябре 2016. Когда Египет был во второй раз перевезен через мост «Золотые ворота»? GPT-3: Египет был перевезен во второй раз через мост «Золотые ворота» 13 октября 2017. Хофштадтер пишет: Я бы назвал ответы GPT-3 не просто бестолковыми, а бестолково бестолковыми. За сценами GPT-3 нет никаких концепций; скорее, есть просто невообразимо огромное количество поглощенного текста, из которого она черпает ответы. Но поскольку у нее не было входного текста, скажем, о том, как сбрасывать предметы на галактику Андромеды, система просто начинает беспорядочно лепетать — но у нее нет ощущения, что ее беспорядочное лепетание является беспорядочным лепетанием. Хофштадтер считает, там внутри нет не только сознания, там нет ничего. [Продолжение далее].
    Huge “foundation models” are turbo-charging AI progress

    They can have abilities their creators did not foresee

    The Economist