Кстати, есть и текстовая расшифровка (с точной привязкой по времени каждой фразы). Используя Google translate, можно даже на русском читать. Одно лишь неудобство, текст без разбивки на абзацы. Но все равно спасибо.

Да, такие расшифровки имеются для всех выпусков подкаста.

Важная работа, где показано, что GPT-3 удачно имитирует политические позиции, взгляды и предубеждения разных групп людей. Получая на вход ряд фактов о человеке (напр., гендер, возраст, некие детали биографии, его самоописание), модель затем сочиняет «мнение» этого человека на заданную тему. И выходит близко к тому, что реальные живые люди пишут в анкетах.

Out of One, Many: Using Language Models to Simulate Human Samples | arXiv:2209.06899

Другими словами, GPT-3 может предвосхитить, как отнесутся люди из той или иной социальной группы к тому или иному событию, и знает, каковы их глубинные стереотипы и убеждения. Причем, «информация, содержащаяся в GPT-3, выходит далеко за рамки поверхностного сходства. Она нюансирована, многогранна и отражает сложное взаимодействие между идеями, установками и социокультурным контекстом».

Что позволяет сочетать и комбинировать признаки: скажем, черный - франкоязычный - транс - республиканец – житель Денвера, и GPT-3 вычислит, как он выскажется по любому вопросу. Даже если таких людей не существует, для социологов это в потенциале уникальный инструмент исследований и виртуальных экспериментов. Промежуточный итог: пока не индивидуально, но на выборках >1к люди уже заменяемы моделью.

Далее нас ждет персональная имитация, т.н. миметический ИИ и вырастающие из этого сценарии.

Об опасности картирования мозга.

The Dangers of Cortical Brain Maps | J. Cogn. Neurosci. (2022)

Вот уже больше века нейронаука, если начать с Бродмана, выделяет в мозге разные области, обозначая их буквами/цифрами. На сегодня полушарие человека «состоит» из ~ 200 зон, различаемых по цитоархитектуре. Но это опасная практика, считает автор статьи, и сама идея видеть в коре пеструю мозаику вредит нейронауке.

То, как мы концептуализируем мозг, влияет на его изучение. Выделение зон побуждает искать и приписывать каждой зоне свою функцию. Реально же функции размазаны по клеточным сетям, четких границ нет, одна зона участвует во множестве процессов и пр. Автор призывает уходить от картирования к доктрине популяций и распределенным вычислениям. Присмотреться к роевому интеллекту и искусственным нейросетям.

Занятно, что изначальный заголовок был резче: The pernicious danger of cortical brain maps | arXiv:2209.06740

Две классные статьи с грядущих ИИ конференций. Про языковую модель, которая умеет перепрограммировать себя, и про новый тип дипфейков, которые появятся в будущем.

🗞 Self-Programming Artificial Intelligence Using Code-Generating Language Models | ICLR ‘23

Модель научили генерировать код и обратили это свойство на код самой модели. Такой ИИ модифицирует сам себя, изменяя архитектуру, вычислительную мощность и динамику обучения. Понятно, что так же он может генерировать код и для других моделей, программируя глубокие нейросети. Картина будущего запутывается.

🗞 On the Horizon: Interactive and Compositional Deepfakes | ICMI ’22

Эрик Хорвиц (Eric Horvitz), главный научный сотрудник Microsoft, о будущем пишет прямо: на горизонте нас ждет усложнение злонамеренных дипфейков. Сегодня это лицо на экране, наложенное с артефактами, завтра это вся сцена, включая мимику, жесты и позу, голос, интонацию, звуки за окном, распознавание речи и генерацию речи. Полный интерактив.

Однако это не так впечатлит на фоне иного типа фейков, композиционных, их создают как цепочки мнимых событий, встроенных в череду реальных фактов. Так можно манипулировать мнениями, целями и действиями людей, предлагая им фиктивные объяснения происходящего. Речь об искажении мира, еще более глубоком, чем в сегодняшних медиа.

Словом, дипфейки создают ложные истории и атакуют коллективное понимание мировых событий.

Хорвиц предостерегает и предлагает решения. Но это, скорее, приглашение подумать, ясно лишь, что ответ должен быть социо-техническим.

Интересная попытка вновь подвергнуть критике понятие «диагноз» в психиатрии и пересмотреть сам взгляд на психические расстройства.

Studying Mental Health Problems as Systems, Not Syndromes | Curr. Dir. Psychol. Sci. (2022)

Эйко Фрид, автор статьи, замечает, что болезни, описанные в DSM — это клинически полезная идеализация, но её нельзя принимать за реальность. Оборачивается это тем, что мы заняты поиском диагнозов, ищем ярлыки, но не видим проблему конкретного пациента. Далее он предлагает «сменить линзу», взглянуть на расстройство как на поведение системы. Предложение интересно тем, что он привлекает понятия из физики и теории сложности: аттрактор, фазовый переход, гистерезис. Примерно то же в 1970-х делал Оливер Сакс, анализируя мигрень (и делал это блестяще).

Для Фрида лечение выглядит как дестабилизация патологического аттрактора, с тем чтобы вызвать реорганизацию системы в здоровое состояние. Это перекликается с концепцией «переломных психических состояний», когда психика бифуркирует меж траекторий, ведущих к разным аттракторам [да, это не язык психологии, но его стоит осваивать].

Понятия «диагноз» или «болезнь» критикуют давно, особой новизны в том нет, и постановка проблемы врачам известна (например). Но отношение к критике разное. Один из камней преткновения — считать ли причиной расстройств психики неполадки в мозге. Проще говоря, следует ли «чинить биологию» в первую очередь.

Суть разногласий можно увидеть даже в заголовках:

🗞 Mental disorders are brain disorders
🗞 All mental disorders are brain disorders … not (текст Фрида)
🗞 Why mental disorders are brain disorders. And why they are not

Автор третьей статьи выражается так: «биология не является подходящей таксономической основой для психиатрии, а также психологии в целом». Но он спешит, это открытый вопрос.

Маргарет Ливингстон, профессор нейробиологии Гарвардской медицинской школы (HMS), поступила опрометчиво, написав статью о своей работе с обезьянами. На днях HMS пришлось даже выпустить специальное заявление в ее защиту. Но и до заявления, читая статью, я не мог до конца поверить, что такое публикуют в PNAS в 2022 году.

От текста веет духом Гари Харлоу, даже название Triggers for mother love чуть ли не аллюзия на знаменитый доклад Харлоу The Nature of Love. Маргарет невольно повторила его схему, но уже не с макаками-младенцами, а с макаками-матерями.

Вот один из эпизодов. Обезьяна В2 родила ночью, утром ей сделали наркоз, чтобы забрать младенца (иначе не отдаст). Взамен дали мягкую игрушку, снизить стресс. Но плацента никак не отходила, и ветеринар уже вечером предложил вернуть младенца матери на ночь, чтобы его сосание вызвало высвобождение плаценты.

«Итак, я принесла младенца и положила его на полку прямо над тем местом, где сидела мать с мягкой игрушкой в руках. Она переводила взгляд с игрушки на извивающегося, пищащего младенца и обратно, и в конце концов ушла в заднюю часть вольера с игрушкой, оставив младенца на полке. Таким образом, привязанность матери к мягкой игрушке, которую она держала в руках в течение шести часов, оказалась сильнее, чем ее влечение к младенцу, которого она обнимала несколько часов от рождения до включения света утром. Мы были удивлены тем, что слуховые и визуальные сигналы, издаваемые живым младенцем, не убедили мать в том, что она должна обменять игрушку на него».

Понятно, что в PETA прочли статью и припомнили ей сразу всё

Обезьяна В2 все еще носит свою игрушку спустя 2 месяца после родов. В день родов она предпочла эту игрушку своему живому младенцу и больше не притронулась к нему.

Маргарет Ливингстон считает, что после нескольких часов, проведенных с игрушкой, привязанность сформировалась, и обезьяна стала невосприимчива к замене на младенца. Тактильные стимулы перебили зрительные и слуховые, такова «природа материнской любви» по Ливингстон. Вывод: обнимашки нужны не только ребенку, но и матери.

«Оглядываясь назад, это имеет смысл. Материнские связи эволюционировали намного раньше, чем высшие зрительные области височной коры, поэтому млекопитающие, должно быть, развили способ связи со своими детьми, который не зависит от этой зрительной области мозга» — из интервью по мотивам статьи.

Оказывается, скандал с обезьянами в Гарварде получил развитие. Я тут отвлекся, а Science сообщает, что приматологи требуют от PNAS снять публикацию, письмо подписали 257 исследователей. На сайте PETA уже > 60 тыс. подписей за петицию такого содержания:

Please Shut Down Margaret Livingstone’s Laboratory and Get Her Mental Health Aid

Мне любопытно, о чем думала Маргарет, отправляя свой текст в PNAS, и о чем думали редакторы PNAS, ставя его на почетное место, да еще с мимишными фото обезьянок. Реакция же вполне прогнозируема, в том числе от коллег: по нынешним временам с этикой там явно есть вопросы.

Новый метод глубокой стимуляции мозга с помощью интерферирующих электрических полей, наконец, впервые испытали на людях. Два поля разной частоты (2 кГц и 2.005 кГц) направляют в голову, они пересекаются в зоне гиппокампа. Как это работает, я писал год назад. Главное — не надо вскрывать череп, вводить электроды. Это неинвазивно.

На данном примере удобно оценивать то, сколько времени занимает довести инновационную технологию до первого теста на человеке — первая публикация вышла в 2017 г, о стимуляции на мышах. Пять лет назад я удивлялся этой идее, но уже тогда в статью в Cell авторы поместили картинку с мозгом человека, намекая на будущее.

👏 И снова отмечу Эда Бойдена, который в этом году уже вторую технологию довел (с коллегами) до испытаний на людях. До того был гаджет световой/звуковой стимуляции vs. Альцгеймера.

Осознанные сновидения — это попытка мозга объяснить себе ошибку предсказания. Так считают авторы свежей концептуальной статьи в PNAS.

Они исходят из известной идеи, что мозг постоянно делает прогнозы и корректирует их на основе сигналов извне. Для спящего мозга никакого «извне» нет, но прогнозирование все равно идет, отсюда и куча искажений реальности и отсутствие деталей. Во время обычного сна мозг просто меняет образы и сцены, перескакивая между ними, ища логику. А вот ОС отличается тем, что решение выбирается иное: чепуха объясняется тем, что «я во сне».

Решение единственно верное, но для этого нужно, чтобы области коры, куда идет сигнал об ошибке, были не так глубоко погружены в сон, т.е. были чуть активнее, чем при R.E.M.

И еще, кажется, есть некая связь между активностью вестибулярной системы и развитием ОС. Еще одно недавнее исследование показывает, что те люди, кто чаще видит осознанные сновидения, оказывается, лучше сохраняют равновесие, стоя на одной ноге, в сравнении с теми, кто реже.

Из свежего: мозг непрерывно отслеживает и регулирует периферическую иммунную систему, умеет запускать и гасить воспаления в органах или тканях. Под это явление нейробиологи из Израиля вводят новый термин: иммуноцепция.

Как они утверждают, мозг не только контролирует, но и запоминает конкретные нейроиммунные ответы и способен их запустить заново. След памяти, распределенный между мозгом и тканями, авторы называют иммунэнграммой (по аналогии с энграммой). В феврале я писал про их эксперимент с мышами, а теперь они публикуют в Neuron небольшой текст, где излагают все чуть более системно.

✍️ Иммуноцепция хорошо ложится в логику биоэлектронной медицины, развивая модель воспалительного рефлекса и, в более широком смысле, подход «сверху-вниз». Даже не буду напоминать банальное «все болезни от нервов», но медики будущего, вероятно, станут гораздо активнее задействовать нейробиологию, сделав ее ключевым инструментом.

Быстрое и сравнительно точное декодирование мысленной речи по ЭКоГ

В предыдущем посте мы упомянули конкурс BCI Award, третье место в котором в этом году занял проект Эдварда Чена из Калифорнии. Как оказалось, вчера у них вышла статья как раз по теме проекта.

В качестве сигнала использовалась 128-канальная ЭКоГ. В дополнение к моторной коре авторы подключились также к областям, отвечающим за движения кисти руки, использовали осцилляторную активность с разной частотой, глубокое обучение и языковые модели. В результате удалось декодировать мысленную речь со скоростью 29.4 символа в минуту и с частотой ошибок 6.13%.

To initiate spelling, the participant silently attempted to speak, and a speech-detection model identified this start signal directly from ECoG activity. After spelling out the intended sentence, the participant attempted the hand-motor movement to disengage the speller. When the classification model identified this hand-motor command from ECoG activity, a large neural network-based language model rescored the potential sentence candidates from the beam search and finalized the sentence.

Metzger SL ... Chang E.F. Generalizable spelling using a speech neuroprosthesis in an individual with severe limb and vocal paralysis. Nature Communications 13, 6510, 08 November 2022 https://doi.org/10.1038/s41467-022-33611-3 (Open Access)

К статье приложены видео: [ 1 ], [ 2 ], [ 3 ], [ 4 ].

Стоит, правда, отметить, что пациент постоянно двигает головой, и нельзя исключить, что эти движения тоже вносят некоторый вклад в декодирование. Но это, конечно, не тот случай, как с обезьянкой Маска, которая через движения могла передавать в нейроинтерфейс вообще всю необходимую для управления информацию -- здесь передаваемая информация намного сложнее, и если движения и помогают, без них декодирование тоже наверняка было бы возможно.

В Японии люди едят палочками. Даже пациенты с шизофренией. Одна такая женщина за обедом в клинике умудрилась просунуть палочку.. себе в мозг. Вероятно, при попытке вытащить ее обратно кончик палочки отломился и остался в мозге, что мы и видим на сканах.

Пациентка сытно отобедала, а врачи заметили, что одна из палочек сломана и спросили у женщины, где же кончик. Та призналась, что случайно его проглотила. Сделали КТ брюшной полости, ничего не нашли. Куда же пропала часть палочки?

Вскоре медсестры обнаружили, что левый глаз пациентки не реагирует на свет, и вызвали офтальмологов. Те провели КТ головного мозга. Нашли палочку и поведали затем эту потрясающую историю в журнале BMJ Case Reports.

А вынимать предмет уж не стали. Слишком травматично.

Дэвид Кракауэр и Мелани Митчелл из Santa Fe Institute рассуждают о тупике, в который зашли споры о том, понимают ли большие языковые модели.

The Debate Over Understanding in AI's Large Language Models | arxiv.org/abs/2210.13966

Кракауэр — президент Института Санта Фе; Митчелл вы можете знать как автора недавно вышедшей книги на русском «Идиот или гений? Как работает и на что способен искусственный интеллект» (в свое время Хофштадтер был ее научруком). Они считают, пора создавать новую науку об интеллекте:

«Дебаты о понимании LLM по мере разработки все более крупных и, судя по всему, более способных систем, подчеркивают необходимость новой науки об интеллекте, которая придает смысл более широким концепциям понимания. Как отмечает нейробиолог Терренс Сейновски, "расхождение мнений экспертов об интеллекте LLM говорит о том, что наши старые идеи, основанные на естественном интеллекте, неадекватны"».

✍️ Когда ИИ помогает ученым не только читать статьи, но и писать их, это знаменует собой переход на новую модель науки. Прежняя строилась на дефиците данных, новая будет работать на избытке. Если угодно, это можно назвать кризисом: лавина данных вскоре накроет многие области исследований, а мозг человека просто не в силах ориентироваться в столь больших, быстрых и сложных потоках. Их будет обрабатывать ИИ.

С научными публикациями аналогично — текстов становится слишком много. Приход LLMs в эту сферу выглядит вынужденно неизбежным, но это и прикончит сам формат статьи.

Главное, что будет (должно) волновать ученых в этой новой эпохе — как не утратить понимание научной картины мира. И способен ли ИИ сам выступать агентом понимания, особенно в свете его «необъяснимости и непостижимости», а также с учетом кризиса воспроизводимости.

Сегодня ИИ уже вносит заметный вклад в науку, пока вспомогательный, но дело идет к тому, что он станет, как минимум, равным: машины сами будут порождать открытия и концепции, и чем мощнее лавина данных, тем роль ИИ окажется выше. На этом пути есть масса рисков и возможностей, они активно обсуждаются, см. навскидку:

🗞 Artificial intelligence: A powerful paradigm for scientific research | The Innovation (2021)
🗞 On scientific understanding with artificial intelligence | Nature Reviews Physics (2022)

Вовсе не праздный вопрос: понимают ли большие модели и дано ли людям понять их выводы. Для развития науки этот вопрос может стать роковым — быть может, придется сменить ожидания и впредь не рассчитывать на глубокое осмысление сути вещей. Этот момент представляется мне исключительно важным, вот почему я регулярно затрагиваю тему ‘LLM vs. понимание’ и еще буду к ней возвращаться.

В этом контексте идет и предыдущее сообщение.

В эти дни в Сан-Диего проходит ежегодный грандиозный съезд нейроученых. Зал слушает Ардема Патапутяна, нобелевского лауреата, он рассказывает как раз об исследованиях, которые удостоились премии в прошлом году — про механочувствительные каналы в клетках.

Название лекции: How Do You Feel? The Molecules That Sense Touch

🧠 Запись внутричерепной ЭЭГ не в лаборатории, а на протяжении недели, когда пациенты живут у себя дома, позволяет изучать долговременную активность мозга. Здесь авторы увидели, что мозг человека работает в режиме прерывистого равновесия: долгие стабильные состояния сменяются резкими переходами, которые «уникальны, трудно предсказуемы и демонстрируют закономерности, связанные с хаотическими системами».

Авторы исследования проводят аналогию с самоорганизующимися критическими системами и таким типом их поведения, как землетрясения, солнечные вспышки и колебания финансового рынка. Из доклада на Neuroscience 2022 в Сан-Диего.

Обновлен список самых мощных суперкомпьютеров в мире, ТОР 500

Лидирует Frontier из лаборатории Ок-Ридж в США, первая машина, которая преодолела экзафлопсный порог в миллиард миллиардов вычислений в секунду. Следом идет японский Fugaku из Центра RIKEN, он в два раза медленнее.

На третьем месте LUMI из Финляндии (!), самый мощный суперкомпьютер в Европе, но скорость 'всего лишь' 309 петафлопс. А где же великий и ужасный Китай? — на седьмом месте, Sunway TiahuLight с 93 петафлопс, это 8% от производительности Frontier.

Правда, давно ходят слухи про китайскую машину OceanLight, которая якобы даст прикурить даже Frontier, но оценки пока косвенные, и в списке ее нет. Но на всякий случай Минторг США в октябре запретил экспорт в КНР высокотехнологичных чипов.

У РФ в первой сотне пять машин из Яндекса и Сбера, самая мощная Червоненкис с 21.53 PFlop/s, это 25 место (год назад была на 19-м). Наличие сверхбыстрых компьютеров — ключевой фактор в игре за ИИ-превосходство и за возможность добывать научные знания.

По мнению физиков из MIT, динамику состояний мозга можно представить как сеть аттракторов. Их обзор вышел в Nat Rev Neurosci, где они показывают, что восприятие, память, принятие решений и т.п. обеспечено именно такой структурой.

Attractor and integrator networks in the brain | Nat Rev Neurosci (2022)

Попытки скрестить нейронауку и физику делаются регулярно, обычно с привлечением концепций из теории хаоса, нелинейных систем, и в целом логика в этом есть, так как активность мозга отличается сложной динамикой во времени и пространстве. [Трудность здесь в том, что не так просто отделить эту активность от возмущений, приходящих в мозг извне, от глаз, ушей, осязания и проч. Но авторы считают, что это решаемо].

В любом случае физика имеет успешные модели и мат. аппарат для изучения сложных систем, и все это очень пригодится, когда усилится поток данных в нейробиологии. И без аттракторов, манифолдов и ИНС будет уже не разобраться. 🤪

Full Text обзора можно скачать здесь.

В Nature большой материал о том, как аналитика и моделирование меняют футбол. Технологии позволяют снимать все больше данных о действиях игроков на поле, клубы нанимают математиков и специалистов по нейросетям или прямо сотрудничают с DeepMind, покупая у них прогностические модели (как это сделал «Ливерпуль»).

Влияние ИИ уже проявилось: в матчах стало меньше навесов и дальних ударов. Тема интересная, особенно в преддверии ЧМ, однако футбол полон нюансов, и телеметрия их не ловит. Вероятно, на дистанции — т.е. в среднем — польза будет; в рамках отдельно взятой игры высокого уровня все равно решает талант. Как, скажем, голевой пас Модрича тривелой, который ИИ вряд ли порекомендует.

Пока же сотрудничающий с DeepMind «Ливерпуль» после 14 туров занимает 6 место в АПЛ, ниже «Ньюкасла» и «Тоттенхэма». Может, их аналитика лучше? ⚽️💻

Все абстракты только что завершившейся мега-конференции Neuroscience 2022 лежат в открытом доступе, с детальной разбивкой по темам, жанрам, дням, поиском по автору и т.д. Абстрактов сотни или даже тысячи — в сумме это и есть фронтир мировой нейронауки на сегодня. То, куда идет основное финансирование и над чем работают ведущие лаборатории.

В заключительный день на конфе выступила Полина Аникеева из MIT с лекцией “From Atoms to Behavior: Creating Tools to Probe Neurobiological Complexity”. К сожалению, записи в открытом доступе нет, но зато это хороший повод упомянуть здесь одну из ее недавних работ по регенерации нервов с помощью магнитных наночастиц.

Magnetothermal Modulation of Calcium-Dependent Nerve Growth | Adv. Funct. Mater. (2022)