Блуждающий нерв. Страница 5
3230
@dtulinov
Исследования мозга, нейротехнологии, генная инженерия и др. смежные темы -- что происходит в этой области. Ссылки на научные источники.
-
Блуждающий нерв
Майкл Грациано, профессор неврологии и психологии из Принстона, в небольшом эссе для Wall Street Journal утверждает: «Как бы парадоксально это ни звучало, для создания доброкачественного ИИ может потребоваться сделать его более сознательным, а не менее». Как считает Грациано, мы должны добиваться появления у ИИ сознания, тогда он будет видеть сознание в нас, и это сделает его более эмпатичным. «Без сознания мы обязательно были бы социопатами, потому что у нас не было бы инструментов для просоциального поведения. А без представления о том, что такое сознание, или понимания того, что оно есть у других существ, машины — социопаты [...] Социопатическая машина, которая может принимать последовательные решения, была бы очень опасной». На мой взгляд, идея довольно легкомысленная, особенно для известного ученого, изучающего сознание, коим является Грациано. Его предложение “решает” одну проблему (отношение ИИ к людям), но порождает другую (отношение людей к ИИ). Ведь наличие сознания у робота или цифрового агента меняет их моральный статус, и уже мы должны будем проявлять просоциальность в их сторону, со всеми вытекающими. Либо признать рабовладение. Он никак не затрагивает этот момент в своем тексте. -
Блуждающий нерв
24 января Human Brain Project проведет вебинар по механизмам расстройства сознания. Поучаствовать онлайн можно свободно, если зарегистрируетесь. Кому эта тема интересна, искренне рекомендую, так как докладывать будут исследователи из знаменитой Coma Science Group. Там работают, пожалуй, самые опытные специалисты в области тяжелых расстройств (от минимального до комы). Тема: Exploring the mechanisms of consciousness disorders Время: 24 January 2023 from 16:30-17:30 CET Предыдущие вебинары HBP, по другим темам, можно посмотреть в youtube: вот плейлист. -
Блуждающий нерв
Мэтт Уэлш, ранее профессор информатики в Гарварде и директор по инженерным вопросам в Google, а ныне СЕО Fixie.ai считает, что программирование вымрет: «Я говорю не только о таких вещах, как CoPilot Github, заменяющий программистов. Я говорю о замене всей концепции написания программ обучающими моделями». «Основная часть интеллектуальной работы, направленной на то, чтобы заставить машину делать то, что нужно, будет заключаться в том, чтобы придумать правильные примеры, правильные данные для обучения и правильные способы оценки процесса обучения». «В новой компьютерной науке — если мы вообще назовем ее компьютерной наукой — эта область будет выглядеть не столько как инженерное дело, сколько как образовательное; то есть, как лучше всего обучать машину , что мало чем отличается от науки о том, как лучше всего обучать детей в школе». -
Реклама
-
Блуждающий нерв
О подпороговых волнах в мозге Их роль в общем случае не известна. Экспериментируя с гиппокампом и оптогенетикой, главный редактор Journal of Neural Engineering изучал, как ведут себя эти волны в нервной ткани. Об этом см. его свежую статью. Под электрической активностью нейронов обычно имеют в виду потенциалы действия, всплески или спайки, но есть еще медленные колебания мембранного потенциала ниже уровня срабатывания нейрона. Эти колебания формируют волны, гуляющие по нейросети. Если их запустить навстречу друг другу, то они интерферируют. Если разрезать гиппокамп, они пройдут через зазор между его половинками. ❗️ Похоже, нервная ткань устроена таким образом, чтобы позволить распространение волн, создающих интерференционные картины, — это вывод авторов экспериментов. Что, в свою очередь, “ведет к новому уровню аналоговых нейронных вычислений, ранее не описанных”. -
Блуждающий нерв
LLMs могут сильно перетряхнуть когнитивную науку. Потому что теперь, наряду с мозгом человека, появляется второй объект для изучения потенциальной связи языка и познания. Лупьян как когнитивный психолог исследует именно такую связь. И, глядя на недавние успехи глубокого обучения, уже крепко задумался — а верны ли наши прежние теории. Он призывает ставить эксперименты над LLMs: манипулировать их обучением, отключать части (“травмировать”), наблюдать за поведением. Словом, тестировать гипотезы, как это делают на крысах, например. С той лишь разницей, что крысы не пользуются языком. Напомню еще один манифест — "Machine behaviour", где авторы предложили изучать поведение машин как ученые изучают поведение животных. Все такие идеи уже созрели. Бескрайнее новое поле исследований открывается нашему взору. 
-
Блуждающий нерв
Гари Маркус пришел в подкаст The New York Times. Подробно объяснил, почему глубокое обучение ведет к имитации без понимания, а масштабирование не решит проблем. Метко сравнил нынешнее положение дел в ИИ с алхимией: в те времена люди что-то уже умели, но у них еще не было теории химии. Они даже не знали, как задать правильные вопросы. В том же положении сейчас разработчики — ищут под фонарем. Есть аудио и транскрипт. Рекомендую. К этому блюду хорошо пойдет летний манифест Лекуна A Path Towards Autonomous Machine Intelligence и его же небольшое размышление AI And The Limits Of Language. 
-
Блуждающий нерв
⬆️⬆️⬆️ О том, как рецензирование может разрушать науку, вместо ее развития, пишет Адам Мастрояни, психолог из Гарварда, автор довольно экстравагантных взглядов на организацию науки. Например, его бесило требование писать статьи нарочито скучным, нечитаемым стилем, и он показал, как можно сообщать об исcледовании так, чтобы вас поняли, оставаясь при этом корректным в отношении фактов, а чтение при этом не было бы мукой. Эссе про рецензирование он начинает так: «Последние 60 лет или около того наука ставила эксперимент над собой. Экспериментальный план был не очень хорош; не было ни рандомизации, ни контрольной группы. Точно никто не был ответственным, и никто не проводил последовательных измерений. И все же это был самый масштабный эксперимент из когда-либо проводившихся, и в нем участвовали все ученые на Земле». Он провалился, считает Мастрояни. При всей радикальности позиции он ставит хорошие вопросы. И на очевидные незыблемые истины начинаешь смотреть по-другому: «Я думаю, у нас была неправильная модель того, как работает наука. Мы относились к науке как к проблеме слабого звена, где прогресс зависит от качества нашей худшей работы. Но наука — это проблема сильного звена: прогресс зависит от качества нашей лучшей работы. Лучшие идеи не всегда побеждают сразу, но в конце концов они побеждают, потому что более полезны». Его не пугает перспектива получить вал мусорных работ в отсутствие peer review. Во-первых, в астрофизике или информатике давно уже общаются препринтами; во-вторых, рецензирование не решило проблему низкого качества, мы просто обманываем себя. -
Блуждающий нерв
Как падает доля прорывных исследований 2023-й начался с занятной статьи в Nature о кризисе в науке. Поток открытий с годами не меняется, хотя расходы и количество ученых с середины ХХ века выросли в разы. Это значит, что эффективность вложений в научный поиск неуклонно падает, словно следуя ‘закону’ убывающей предельной полезности. Парадокс: объем исследований и публикаций огромен, но сегодня “ученые полагаются на более узкий набор существующих знаний”, чем их предшественники. Статья перекликается с другой работой, определившей, что чем больше науки, тем сложнее новым идеям пробиться. Авторы ищут объяснений, но бросилось в глаза то, что деградация совпадает по времени с вводом в широкую практику научного рецензирования. Гоню эту мысль прочь. 
-
Блуждающий нерв
Александр Каплан много лет занимается нейроинтерфейсами и говорит, что неинвазивные решения почти исчерпаны. Он предрекает в обозримом будущем смену концепции BCI. Новый тип интерфейса: мозг не дает простую команду (как сейчас), а подключен к генеративной нейросети, которая пытается угадать намерение или мыслеобраз путем “горячо-холодно”. Сеть генерирует гипотезы, мозг их корректирует. По сути, они ведут диалог, взаимно подстраиваясь. Он говорил об этом в декабре на Петербургском семинаре по когнитивным исследованиям (см. видео с 1:05:08). Добавлю, что года три назад на обезьянах уже испробовали нечто похожее, обучив нейросеть создавать изображения, максимизирующие активность конкретных нейронов мозга. Можно считать это первым шагом. Все выступления питерского семинара можно посмотреть здесь. -
Блуждающий нерв
Гари Маркус призывает смотреть видеозапись AI Debate, онлайн обсуждение перспектив ИИ технологий, которое состоялось в декабре. Даже 94-летний Хомский принял участие. Двоякое чувство возникает, если запустить в яндекс-браузере: встроенный ИИ на лету переводит нормальным человеческим голосом выступления участников о том, как ИИ не оправдывает их ожиданий. Лет пять назад о таком можно было мечтать. Тизер от Маркуса: An epic AI Debate — and why everyone should be at least a little bit worried about AI going into 2023 -
Блуждающий нерв
Biological Systems as Evolved, Overloaded, Multi-scale Machines В новой статье Бонгард и Левин отсылают к известной лекции Ричарда Фейнмана 1959 года и заявляют, что «места полным-полно» не только внизу, но и прямо у нас перед носом, повсюду. Их статья так и называется, There’s Plenty of Room Right Here. Статья сильная. Она развивает идеи их публикации 2021 года о машинах будущего, но чуть с другого ракурса. Обе работы глубоки по мысли и перекраивают привычные представления о том, что такое жизнь, организм, машина и вычисления. Понятно, что это “кино не для всех”, уж слишком концептуально, хотя написано просто и даже не требует специальных знаний от читателя. Какого места полно? — места для вычислений. В живом один и тот же элемент вовлечен в разные вычислительные процессы: на уровне клетки, ткани, органа, организма, сообщества. Каждый уровень обладает своей компетентностью и автономией. Наши технические системы не таковы, вероятно, потому, что мы мыслим последовательно, нам сложно дается представление суперпозиций. Но жизнь использует их повсеместно. Бонгард и Левин говорят: научиться бы делать такие машины, с поли-вычислением. У их взгляда много следствий, для практики и для теории, инженерии и медицины, но пока это именно концепт, примерно как фейнмановские размышления о нанотехнологии в 1959 году. Это взгляд лет на 20-30 вперед. – статья 2021 (про машины будущего) + мой пересказ – статья 2022 (про поли-вычисления) -
Блуждающий нерв
Триптих про мышление и аналогИИ 2017 Центральный вопрос человеческого развития заключается в том, как маленькие дети так быстро приобретают знания. Мы предполагаем, что обобщение по аналогии является движущей силой этого раннего обучения и позволяет детям генерировать новые абстракции на основе опыта. — Analogy and Abstraction 2021 Несмотря на долгую историю исследований по созданию систем искусственного интеллекта, ни одна современная система ИИ не приблизилась к способности формировать человекоподобные абстракции или аналогии. — Abstraction and analogy-making in artificial intelligence 2022 Большие языковые модели, такие как GPT-3, приобрели способность находить безошибочные решения для широкого круга задач по аналогии. GPT-3 демонстрирует удивительно сильную способность к абстрактной индукции шаблонов, соответствующую или даже превосходящую человеческие возможности. — Emergent Analogical Reasoning in Large Language Models Бонус: тви-тред одного из авторов [2022], а также блог-пост Google Research на тему эмерджентности LLM Characterizing Emergent Phenomena in Large Language Models -
Блуждающий нерв
Нейрокогнитивные исследования: приоткрываем тайны работы мозга Напоминаю про завтрашний вебинар — 27.12.2022 (вторник), 18:00–19:30: 18:00–18:15 Что происходит при научении смыслу новых слов в мозге человека? -- Б.В. Чернышев, руководитель МЭГ-центра МГППУ (по статье Razorenova, Chernyshev et al., 2022) 18:20–18:35 С чем связано нарушение баланса нейронной активности у детей с расстройствами аутистического спектра? -- Е.В. Орехова, в.н.с. МЭГ-центра МГППУ (по статье Manyukhina ... Orekhova, 2022) 18:40–18:55 Управление силой мысли: зачем здоровому человеку пользоваться нейроинтерфейсами? -- С.Л. Шишкин, рук. группы нейрокогнитивных интерфейсов МЭГ-центра МГППУ (по статье Shishkin, 2022) 19:00–19:15 Что делает подоконник? Почему нам бывает сложно извлечь слова из памяти, и какие мозговые механизмы помогают решить эту задачу -- А.А. Павлова, н.с. МЭГ-центра МГППУ (по статье Butorina, Pavlova et al., 2017) 19:20–19:30 Общая дискуссия Подробная программа, регистрация NEW: если вы не успеете зарегистрироваться -- подключайтесь по этой ссылке: https://events.webinar.ru/42206439/1931869862 Внимание: для подключения с мобильного устройства потребуется установить приложение webinar.ru. (На компьютере можно или обойтись браузером, или установить приложение). -
Блуждающий нерв
За этот год видел разные попытки Константина Анохина изложить свою гиперсетевую теорию мозга. Каждый раз он это делает немного по-другому, учитывая уровень аудитории. Все эти попытки есть в youtube, но эта, видимо, самая свежая. Плюс тут он старается объяснить попроще, чтобы все поняли (о теории начиная с 1:17:22) И все равно выходит сложновато. Слишком много в его схеме элементов и понятий. Для продвижения теории ему бы найти метафору, выделяющую главную идею. “Гиперсеть” не совсем то — не дает достаточной ясности. -
Блуждающий нерв
Не всегда нужен BCI, чтобы возникла проблема с агентностью. Более глубокий пример — психические заболевания. Сами пациенты порой не могут ответить себе, что в их поведении и чувствах принадлежит их “Я”, а что заболеванию. “Я сама по себе напористая личность или это у меня симптом мании?”. Чтобы отразить эту двойственность, размытость, психиатр John Z. Sadler ввел понятие ‘self-illness ambiguity’, с тех пор его работу часто цитируют. Но если BCI можно просто отключить, то как быть здесь? Это не только вопрос различения нормы и психопатологии, который исключительно труден. Есть еще задача понять, где заканчивается личность пациента и начинается расстройство — чтобы избавить его от второго, не повредив первое. Увы, на практике такую грань найти почти не реально. Врачу или психотерапевту нужно быть очень наблюдательным, чутким и осторожным, чтобы пройти по тонкому канату, поскольку исцеление может деформировать структуру личности больного. Не все разделяют сверхценность сохранения личности, это тема спорная, полная нюансов, не для короткого поста. Люди, которых лечат глубокой стимуляцией мозга, часто говорят об изменении своего “Я”, появлении нового самоощущения. Авторы статьи называют этот эффект ‘self-implant ambiguity’, опираясь на идеи Садлера. У таких пациентов выбор: либо тремор, депрессия и проч., либо измененное “Я”. Блуждающий нерв Есть такой риск при использовании нейроинтерфейса, размывание собственного “Я” и чувства агентности, когда человек не может четко отделить свои решения от решений машины. Эту проблему разделенного контроля часто упоминают в обзорах о будущем BCI, считая, что ИИ на другом конце интерфейса будет брать на себя все больше управления. Вкратце проблема сводится к вопросу: “это я так подумал(а) или машина?”. Кто тогда виноват? Нервная система умеет принимать чужое за свое, мы это видим хотя бы по иллюзии резиновой руки. Так что сам риск вовсе не иллюзорен, пусть и отнесен пока в будущее. На этом фоне декабрьская статья в Scientific Reports добавляет оптимизма: когда люди и ИИ-агенты достигают цели совместно, мозг способен отличить свои ошибки от ошибок агента, это читается по ЭЭГ (потенциалы, связанные с ошибкой, ErrPs). Данное направление исследований будет усиливаться по мере роста нашей вовлеченности в симбиоз с ИИ. Различение “Я/не Я” — одно из фундаментальных свойств живого (а иммунная система только этим…
-
Реклама
-
Блуждающий нерв
Ирония, метафора, юмор, косвенная речь, обман — все это требует умения интерпретировать сказанное не буквально. В MIT оценили, насколько к этому способны языковые модели (LM). Их тестировали на семи типах лингвистических задач, и модели справились не хуже людей. Причем, поведение моделей, включая характер ошибок, походило на то, как трактуют те же ситуации люди. Из чего авторы делают вывод, что речевая коммуникация вполне решаема без “теории разума”. Ну, поскольку LM ею не обладают. Здесь они заочно спорят со своим же коллегой по Массачусетскому институту, Андреасом из Language & Intelligence, о статье которого я упоминал неделю назад. Он как раз видит у LM зачатки агентности — чтобы связно писать и общаться, нужно хотя бы в грубом виде смоделировать агента, который имеет намерения и убеждения. Авторы же новой статьи, среди них и Эвелина Федоренко, приходят к противоположной мысли: «явная ментализация не является необходимой для имитации прагматического поведения — опыта работы с языковыми формами может быть достаточно». И хотя кажется, что они пишут о нейросетевых моделях, на самом деле это исследование по нашу душу. Авторы изучают мышление людей, а на LM лишь проверяют гипотезы. В данном случае, насколько мы вообще понимаем язык, если для общения хватает просто статистики. Статья в Arxiv | суть кратко в тви-треде одного из авторов -
Блуждающий нерв
Скоро выйдет русское издание книги Мигеля Николелиса, одного из отцов-основателей технологии BCI (“интерфейс мозг-компьютер”), достижения которого спустя 10+ лет повторяет Neuralink. На английском книга вышла три года назад, но вряд ли хоть слово устарело — судя по описанию, автор представляет личный взгляд на работу мозга. То, что он понял за десятилетия экспериментов. Английский вариант я прочесть не успел; не знаю, что там. Гадать не буду. Одно известно, "истинный творец всего" — наш мозг. Зато недавно прочел его короткую заметку в National Science Review (fya: это китайский журнал) о том, что BCI следующих поколений проложат путь к нейропротезированию. Паркинсон, Альцгеймер, мигрень, биполярное, шизофрения, ОКР, депрессия, тревога, тремор, аутизм, расстройства пищевого поведения и др. расстройства — все они, не зависимо от причины, как считает Николелис, могут быть связаны с ростом возбудимости больших групп нейронов. Что чем-то похоже на очаг эпилепсии. Если эта гипотеза верна, пишет Николелис, тогда BCI окажутся очень полезны при лечении всякого рода ‘неврологий’ и даже психопатологий. Откуда растет сама гипотеза, не ясно — он ссылается как раз на свою книгу. Развернутые ответы там. 📖 -
Блуждающий нерв
В свежем Nature: диффузные опухоли в мозге зависят от клеток, задающих ритм подобно клеткам-пейсмейкерам в сердце. Злокачественная глиома — почти всегда смертельная форма рака головного мозга. Оказалось, сети опухолевых клеток связаны с небольшими группами клеток-"пейсмейкеров", в которых уровень ионов кальция периодически пульсирует, передавая по сети сигнал, вызывающий рост опухоли. Так небольшие группы клеток глиомы заимствуют инструмент коммуникации у водителей ритма сердца. Авторы считают, что нашли отличную мишень для лечения рака мозга. Эти группы — словно узлы сети. Если их подавить, опухоль перестает развиваться. Статья: 🗞 doi.org/10.1038/s41586-022-05520-4