Том Оксли, CEO Synchron, встал на защиту нейроинтерфейсов. Он увидел, как Кип Людвиг, бывший директор по нейроинженерии в NIH, обесценивает BCI: "Это очень дорогая и сложная технология, требующая обслуживания. Это очень маленький рынок. Кто будет платить за нее?” — и разразился возражением. Вот доводы Оксли:

Опровержение 1: Дорого и сложно

Снижение стоимости (с того уровня, на котором находился Second Sight) будет иметь большое значение. Отчасти это связано со сложностью системы. Мы узнаём, что пациенты хотят простоты в функциях. На конференции BCI в Брюсселе в прошлом месяце Ник Рэмси сделал убедительное заявление о том, что пациентам необходимы простые, удобные в использовании, надежные системы, которые просто работают: не нужно полагаться на сиделок или инженеров для устранения неполадок – минимальное обучение пациентов, не месяцы и не недели – когнитивная нагрузка должна быть низкой.

В "гонке вооружений" за высокую производительность и пропускную способность BCI упускается из виду, что пациентам нужна простая и стабильная система, которая работает сразу. И она должна продолжать работать. Долговечность устройства имеет значение.

Мы остановились на простой конструкции, которая должна снизить стоимость, быть простой в использовании и универсальной для различных платформ/операционных систем.

Опровержение 2: Маленький рынок

Это миф. Нарушение двигательных функций — не маленькая проблема. Инсульт, БАС, травма спинного мозга, рассеянный склероз, артропатия — существует множество заболеваний, при которых нарушаются двигательные функции. Моторные BCI (нейропротезы) не устраняют основное заболевание, а создают новый "обходной" путь для вывода управляющих сообщений из мозга в цифровом виде. Технология не зависит от заболевания и может помочь большому количеству людей, у которых не работают руки и которые хотят вернуть контроль над своими смартфонами.

Опровержение 3: Кто будет платить?

Как и все новые имплантируемые медицинские устройства класса III, BCI должны быть доказаны в клинических испытаниях как безопасные и эффективные. Затем эти данные передаются в Medicare/CMS, где запрашивается покрытие и оплата. Если технология работает, за ней следуют частные страховщики. Если испытания покажут, что технология необходима и целесообразна для пациентов, Medicare/CMS имеет отличный послужной список по покрытию технологий, прошедших путь предварительного одобрения FDA. (Но да, вы должны провести испытания).

Мы говорим о технологии, которая восстанавливает использование персональных устройств для людей, чьи руки больше не работают. В этом пространстве много шума, но в целом мы движемся к ясности в отношении нормативных требований и путей возмещения расходов, которые сделают эту технологию доступной для многих людей и улучшат их жизнь так, как это невозможно в настоящее время.

* * *

Макс Ходак сразу поддержал Оксли: “Кип будет продолжать рассказывать нам о том, что BCI невозможны, в то время как пациенты будут создавать баскетбольную лигу”.

Посмотрел, наконец, дебаты об угрозах искусственного интеллекта: Бенжио и Тегмарк vs. Лекуна и Митчелл. Думаю, примерно так проходили споры схоластов о том, сколько ангелов уместится на кончике иглы. Сверхразумный ИИ, экспоненциально умнеющий и ускользающий от любого контроля, столь же неуловим для предметного анализа, что и ангелы. Отсюда в ход шли аналогии и примеры из прошлого. Если интересно, дебаты начинаются после 13-й минуты (YT).

Более содержателен, однако, вопрос о том, можно ли оценивать интеллект ИИ метриками, разработанными для людей. Когда человек сдает тест/экзамен, мы неявно ожидаем, что он научился решать задачи данного типа. В случае ИИ это может быть не так. На этот счет рекомендую июльское эссе той же Мелани Митчелл в Science: How do we know how smart AI systems are? и подкаст Эрика Тополя с ней же: Straight Talk on A.I. Large Language Models. Это ключевой вопрос, влияющий на всю дальнейшую политику по отношению к ИИ.

По случаю напомню, что прошло уже четыре месяца с момента публикации открытого письма о приостановке обучения ИИ моделей на полгода. Паузы не случилось, признаков неконтролируемого возрастания рисков не видать, зато случился курьез, который подписанты письма не предвидели — GPT-4 “поглупел”. Что само по себе занятно и может создать барьер широкому использованию таких моделей из-за непредсказуемости подобных эффектов. Последствия хорошо разобрал Александр Сергеев в 14-минутном видео.

Заголовок NYT вводит в заблуждение. Впрочем, как и название оригинальной статьи в PLoS Biology: о реконструкции музыки по сигналам мозга тут говорить явно не приходится. Можете сами послушать аудио-фрагменты и оценить, насколько они похожи на песню Pink Floyd.

Увы, результат еще хуже, чем с реконструкцией картинок. Почему авторы пишут “We successfully reconstructed a recognizable song from direct neural recordings”, не ясно.

Вышел свежий манифест группы авторов, включая таких звезд как Эд Бойден и Джордж Чёрч, с призывом создать работающую модель нервной системы червя: не коннектом, который не дал понимания, а именно все взаимодействия клеток, то есть, по сути, сделать “цифрового двойника” нервной системы.

💥 "To reverse engineer an entire nervous system" | arXiv (2023)

Они считают, что следует пока отложить эксперименты с мышами и попытаться вывести принципы нейронных вычислений, работая с более простой моделью:

“Reverse engineering the causal interactions in the nervous system of C. elegans promises to establish in-silico simulations as a way of accelerating neuroscience. It promises to teach us how to run experiments that reveal the causal ways of how circuits work”.

В манифесте читается образ науки, который предвещают и приближают авторы: нейронаука будет питаться, с одной стороны, возросшими возможностями инструментов, которые могут видеть активность и организацию живых сетей в мельчайших деталях, и ресурсами машинного обучения, с другой, которое позволит извлекать корреляции из петабайтов данных, строить модели и экспериментировать in-silico.

Концепция “живых электродов” получила развитие. Напомню, придумали ее в University of Pennsylvania: в мягких гидрогелевых трубках выращивают аксоны живых нейронов и затем имплантируют эти трубки в мозг крысы, где отростки связываются с клетками грызуна и проводят сигнал, словно обычный электронный зонд.

Идея убедила инженеров из University of Utah. Они сделали из таких "электродов" матрицу 4х4 и выложили препринт. Пока ее проверили in vitro, но уже планируют эксперименты in vivo, в том числе сделать иглы разлагаемыми. Так в перспективе решается проблема биосовместимости: в мозге останутся только живые клетки в роли проводящего кабеля к чипу.

Не хотел писать про очередное мыслительное упражнение на тему “сознание в машине”, но новость расходится, отклики разные, и пару моментов все же стоит пояснить. Например, ряд авторов препринта еще в апреле подписали открытое письмо Association for Mathematical Consciousness Science (да, есть и такое) с посылом: “мы подчеркиваем, что быстрое развитие ИИ обнажает острую необходимость ускорения исследований в области науки о сознании”.

К августу они провели свое “исследование”, хотя оно было изначально обречено — препринт вышел длинным, но почти лишен содержания. Их ключевой вывод “The evidence we consider suggests that […] conscious AI systems could realistically be built in the near term” примечателен тем, что его никак не проверить, особенно in the near term. Нет научного способа обнаружить сознание в неоднозначной ситуации, в серой зоне.

Корректнее их вывод звучал бы так: мы считаем, что можно создать такую ИИ систему, у которой будут свойства из списка, что мы составили, изучив некоторые теории сознания. Словом, свойства будут, а будет ли сознание — не ясно. Потому что “теории сознания” сами еще сырые, чтобы на них полагаться. По некоторым тезисам в тексте видно, что авторы все понимают. Тем удивительнее этот порыв перелить из пустого в порожнее на 70 страниц.

Неделей раньше вышла статья, главная мысль которой отражена в названии: “Системы ИИ не должны вводить пользователей в заблуждение относительно их разумности или морального статуса”. Или чуть подробнее:

“Системы ИИ не должны сбивать с толку с моральной точки зрения. Этически правильный способ обращения с ними должен быть очевиден из их дизайна и интерфейса. Никто не должен вводить себя в заблуждение, например, думая, что неразумная языковая модель на самом деле является разумным другом, способным испытывать истинное удовольствие и боль. К сожалению, мы находимся на пороге новой эры морально запутанных машин”.

Проблема поймана верно, оттого и 'острая необходимость ускорения исследований в области науки о сознании'. Причем наука эта, вероятно, должна предвидеть возможность разных форм сознания и изучать в т.ч. поведение ИИ систем. Пока же мы ходим по кругу, бормоча одни и те же заклинания, ни к чему не обязывающие и не проверяемые — ровно так и окажемся в компании морально запутанных машин. 🦜🧠

Кстати, Джошуа Бенжио, лауреат премии Тьюринга и активный подписант открытых писем за приостановку исследований ИИ и за ускорение исследований сознания, он же соавтор препринта ☝️, написал недавно о личных переживаниях и кризисе, через который проходит.

Всю дорогу он, как и все коллеги, стремился сделать умную машину, но считал, что эта цель слишком далека, чтобы рефлексировать. В этом году, увидев GPT4, он пришел в смятение. Бенжио полагает, что грядет сверхразум, и не хочет быть причастным к этому: “Больно осознавать, что мы, возможно, способствовали чему-то, что может быть очень разрушительным. Мы пока не знаем, как сделать агента ИИ управляемым и тем самым гарантировать безопасность человечества! И все же мы — включая меня до сих пор — мчимся вперед к созданию таких систем”.

Бенжио оказался очень впечатлительным и ранимым. В отличие от бодрого Лекуна или того же Маркуса, который не сдается и продолжает ехидничать над “интеллектом” больших моделей, предвещая их убыточность.

В Nature сообщают: мышам встроили ген от голого землекопа, и мыши реже заболевали раком, они стали дольше жить и оставаться здоровыми. Ген взяли не случайный, а высокомолекулярной гиалуроновой кислоты. Подозревают и очень давно, что он способствует уникальному долгожитию голых землекопов. Авторы пишут, что “механизм долголетия может быть экспортирован в другие виды”, и это круто, конечно.

Замечу, что эксперимент провели Вера Горбунова и Андрей Селуянов из University of Rochester, они чуть ли не главные в мире эксперты по этой теме. Много лет изучают голых землекопов.

Однажды давно они как-то прилетели в Москву, и мы часа полтора беседовали об их исследованиях и вообще о том, что там с перспективой жить дольше. Андрей тогда дословно сказал: “Пока мы сделали это на клетках: если убирается гиалуроновая кислота, они становятся раковыми, если продолжают выделять, они устойчивы к раку. Мы сейчас пытаемся сделать мышь, которая будет вырабатывать такую же длинную гиалуроновую кислоту, как у голого землекопа, и мы предполагаем, что мышь перестанет болеть раком и будет дольше жить”.

И вот, спустя годы, получилось. Мои поздравления!

Карл Циммер в NYT пишет про запутанный вопрос о микробах в опухолях. В прошлом году я отмечал статью в Cell, где авторы обнаружили в раковых клетках «множественные грибково-бактериально-иммунные экологии». Но вот несколько исследовательских групп поставили под сомнение три наиболее известных работы в этой области, сообщив, что им не удалось их воспроизвести. Критики критикуют, а авторы настаивают на своем, утверждая, что получают ДНК сигнатуры, специфичные для типа опухоли.

В целом это терпимая ситуация для поисковых исследований, если бы не одно пикантное обстоятельство: один из главных авторов из UC San Diego еще и соучредитель стартапа по разработке тестов на рак на основе микробных ДНК. Впрочем, Циммер завершает текст тем, что критика пока не изменила общий вес доказательств. По словам одного эксперта «все согласны с тем, что микробы существуют в опухолях и играют важную роль».

Физика как вычисление. В недавней статье “К формальной теории вычислительных машин, созданной на основе всего, что предлагает физика” авторы обсуждают альтернативу вычислениям по Тьюрингу для создания нетрадиционных компьютеров. Отмечу введение — его можно читать и без привязки к дальнейшему тексту, где все становится сложнее (впрочем, это еще краткий вариант, есть и extended version).

Тем же днем вышла статья в Nature: “Транзисторы будущего”. Подробно изложена проблематика КМОП и перспективные решения, которые видятся сегодня. Авторы уверены, что закон Мура будет действовать еще долго. Обе статьи ценны еще как кладезь ссылок и идей, и как свидетельство того, что нынешние компьютеры — лишь промежуточный этап на пути к чему-то более грандиозному. 👌

Тема про лечение светом, мерцающим на “волшебной” частоте 40 Гц, продолжает развиваться, опережая мои ожидания. Уже писал здесь о том, как ученые MIT раньше включали свет грызунам и теперь уже идут клинические испытания с пациентами, и первые результаты обнадеживают, в т.ч. недавно озвучены на AAIC, ежегодной конфе Alzheimer's Association. Но всякий раз я упоминал MIT, Cognito Therapeutics и Эда Бойдена.

Пора ввести в эту историю нового персонажа: Аннабель Сингер. Она была сотрудницей у Бойдена в MIT, когда они разрабатывали этот метод. Ее имя в соавторах ключевых статей. Позже возглавила лабораторию в Georgia Tech, где занимается в том числе зрительной стимуляцией мозга на частоте 40 Гц, очевидно, с благословения Бойдена. И вот, от нее есть новости.

Ее группа показала: выбрав частоту мерцания, можно регулировать иммунные ответы и функции микроглии в мозге. Часа стимуляции хватит, чтобы изменить синтез цитокинов и даже морфологию глиальных клеток. Выходит, одним лишь мерцанием света можно влиять на иммунную функцию. Как говорит Сингер, «мы можем неинвазивно манипулировать иммунной системой мозга в любом направлении, усиливая или приглушая ее, в зависимости от стимуляции».

Если подтвердится на людях, это будет очень интересный инструмент. Выходящий далеко за пределы терапии болезни Альцгеймера, ведь патологическая нейроиммунная активность проявляет себя при разных заболеваниях. Игра стоит свеч.

Вот такие очки со светодиодами, возмутительно просто. Правда, Cognito Therapeutics обещает более дизайнерский гаджет, но не за дизайн компания привлекла весной $73M на венчурном рынке. Бойден — учредитель Cognito, а Сингер владеет долей.

Психолог из Колумбийского университета Адам Мастроянни, который любит заострять, на днях выдал эссе, где прошелся по экспериментальной психологии как науке. Это его область, и он говорит: то, что многие работы не воспроизводятся, не главная проблема. Главная проблема — то, что эта невоспроизводимость не имеет значения.

Масса статей, десятки тысяч цитирований, блестящие карьеры. Формально бурное развитие. Но если их изъять из корпуса текстов, в этой “науке” не изменится ничего. Мастроянни считает, что у экспериментальных психологов есть всего три парадигмы (например, «люди предвзяты»), которые они без конца “проверяют”, но идеи такого рода не поддаются фальсификации и неисчерпаемы. Словом, психология пока пребывает в стадии донауки или протонауки.

Мастроянни вы можете знать и как автора недавно пошумевшей в новостях статьи в Nature “The illusion of moral decline” про кажущийся упадок морали в последние десятилетия.

Кажется, “беременных” органоидов у нас еще не было. Но будут. А иначе как изучать взаимодействие матери и плода, их нарушения и болезни? У мышей все же иная физиология, и далеко не все детали человеческого эмбриогенеза так можно узнать.

Корейские авторы в журнале eBioMdicine призывают к моделированию беременности человека in vitro. Их взгляд такой: “Воссоздание человеческой беременности с помощью инженерной модели, естественно, является сложной задачей; тем не менее, для развития точной медицины эти задачи неизбежны”.

Медицина будущего будет больше похожа на психиатрию, чем на химию. Майкл Левин вместе с директором Центра раковых стволовых клеток в University of Pittsburgh написали статью “Future medicine: from molecular pathways to the collective intelligence of the body” [в комментах см. PDF]. Я долго сомневался, стоит ли о ней здесь упоминать — взгляд там радикальный и требует многих пояснений.

В чем их идея, если кратко. Сегодня медицина работает за счет микроуправления, пытаясь регулировать молекулы и пути. Авторы считают, что лучше работать уровнями выше и использовать способности организма к самовосстановлению. Если смотреть на ткани тела как на коллективных агентов, решающих проблемы, то в качестве вмешательств уже применимы методы поведенческой и когнитивной науки. Тогда у биомедицины появится — помимо фармакологии для микроуправления — новый инструмент. Он нацелен не на молекулы и физиологию, а на восприятие, память и принятие решений разными агентами (клетками, тканями, органами).

Авторы используют термин «соматическая психиатрия». Это зонтик, под которым и кибернетика, и теория контроля, и поведенческая нейробиология, и теория игр, и теория обучения. Исследовательская программа в таком случае сводится к поиску управляющих сигналов для “агентов”, перепрограммированию их целей (скажем, бактерии или паразиты уже владеют этим инструментом).

Словом, если использовать далекую аналогию, медицина должна перейти от переподключения кабелей ЭВМ 1940—1950-х годов к работе через софт и высокоуровневые языки программирования.

Отличная работа онкологов из Кембриджа, люблю такое. Они реализовали идею, которая давно напрашивается: вместо того, чтобы уничтожать раковые клетки, можно попытаться вернуть их в нормальное состояние. Ведь что такое нейробластома — это клетки-предшественники, которые “забыли”, что должны стать клетками нервной ткани. Они застряли в незрелом состоянии и делятся, не в силах пройти этот этап.

В Кембридже испытали «дифференциационную терапию» (differentiation therapy): подавили размножение опухолевых клеток и заставили их дифференцироваться, т.е. превращаться в нейрональные. Проще говоря, вернули их на изначальную траекторию развития. Кстати, тот же фокус с нормализацией опухолей удавался Майклу Левину, но он действовал через мембранные потенциалы, т.е. биоэлектричество.

Слишком обольщаться тоже не стоит, пока все результаты на животных и лишь на одном типе рака, но подкупает, что британские ученые скомбинировали два препарата, уже одобренные FDA для людей. Да и сам подход привлекателен, так как, во-первых, биологичен и, во-вторых, обращает “зло” в “добро”. Более тонкая задача, нежели просто убийство зла.

Сегодня исполняется ровно полгода знаменитому письму с призывом ввести мораторий на обучение мощных ИИ моделей. Авторы предлагали сделать паузу на шесть месяцев, опасаясь быстрого развития чат-ботов. Под письмом свыше 33 тысяч подписей. Интересно, сильно ли эти люди переживают сейчас, что моратория не случилось.

Конечно, письмо наделало шуму, и в ряде стран чиновники стали обсуждать регулирование ИИ сферы. Но похоже, что первый шок и ажиотаж вокруг чат-ботов угасает. Мы привыкаем жить с ними, воспринимая их просто как еще один инструмент, и все сложнее убедить себя, что от них веет катастрофой. В марте письмо казалось эмоциональной реакцией впечатлительных людей, таким оно представляется и сейчас, в сентябре.

На днях вышло другое открытое письмо экспертов, по иному поводу, но тоже крайне странное. По моим наблюдениям, сам жанр коллективных писем задает игру на упрощение, и часто потом самим подписантам бывает неловко.

Тема нового номера Nature: наука в эпоху искусственного интеллекта (Science and the new age of AI). Будет несколько выпусков, на повестке главный вопрос: как ИИ изменит науку.

Тут я вспоминаю эссе прошлого года, которое написали К.В. Анохин, К.С. Новоселов (да, тот самый нобелевский лауреат), С.К. Смирнов (тот самый лауреат Филдсовской премии), А.Р. Ефимов и Ф.М. Матвеев. Эссе называется «Искусственный интеллект для науки и наука для искусственного интеллекта».

Новоселов там замечает, что физики не любят задач, которые не описываются небольшим количеством красивых уравнений: “если возникает необходимость написать уравнение в полстраницы, физик скорее всего решит, что в его рассуждении что-то пошло не так". Есть большой класс задач, которыми пренебрегают физики-люди. Однако ИИ не смутят «некрасивые» громоздкие уравнения, он будет их решать, орудовать ими, и тогда физика может пойти по пути, по которому человек никогда не хаживал.

Это вопрос о том, возможна ли “инопланетная” наука, т.е. работающая модель мира, созданная другим разумом. Если ИИ продолжит умнеть, то “инопланетности” в науке будет все больше, и, соответственно, понимания у людей все меньше.

Сценарии могут быть разными, но есть намек на то, что потенциальный успех ИИ в науке (if any) может иметь глубокие основания. Сразу две команды ученых, независимо друг от друга, пришли к необычной идее: Вселенная похожа на программу машинного обучения и, вероятно, непрерывно обучается. Ушел читать Nature.

Гарвард официально запустил проект по коннектому мозга мыши. За пять лет планируют отсканировать 10 кубических миллиметров, на это NIH выделяет $30 млн, половина уйдет Гарварду, остальное получат Princeton, MIT, Cambridge, Johns Hopkins. Авторы проекта считают, что этот объем ткани сгенерит 10 000 терабайт, обещают затем выложить в общий доступ. Впрочем, они оговариваются, что полный мозг мыши потребует в 50 раз больше данных. Параллельно запущены еще несколько проектов по коннектомике, все в рамках BRAIN CONNECTS, как части BRAIN Initiative.

На фоне 10 кубических мм проще оценить перспективы создания коннектома мозга человека. Мое отношение к науке такого рода я уже высказал два года назад, мне лишь остается порадоваться за людей, которые сидят на этой теме. Коннектомы и атласы — неисчерпаемый источник грантов. На десятилетия.

Где могут быть полезны “атласы” и “карты” — там, где смотрят на изменения во времени. Например, в Стэнфорде недавно изучили нейроны мозжечка человека в разных возрастах. И обнаружилось, что у этих нейронов 3D-архитектура генома постепенно перестраивается в течение всей жизни. Что и отражено на картинке. Как мы видим, хроматин радикально меняет свою конформацию на пути от младенчества до старости.

Один из авторов статьи признается: “Со временем эти клетки стали чем-то совершенно не похожим на классический нейрон. Они становятся практически не-нейронными в смысле 3D структуры генома. Мы действительно не могли поверить своим глазам. Они были похожи на глию”.

К слову, в мозжечке проживает большая часть нейронов мозга.

Сделал перевод короткого эссе Пола Нерса, нобелевского лауреата и первого директора Института Фрэнсиса Крика в Лондоне. Эссе называется “Биология должна генерировать не только данные, но и идеи” (“Biology must generate ideas as well as data”) — звучит еще актуальнее на фоне нового залпа из 20+ статей по переписи типов нейронов от консорциума NIH BICCN.

“Довольно часто, придя на научный доклад, я чувствую себя утонувшим в данных. При этом не уделяется должного внимания формулировкам, а также тому, зачем собираются данные, какие гипотезы проверяются, какие идеи возникают”.

Я уже упоминал текст Нерса в 2021 году, в связи с первым залпом от BICCN, но с тех пор Nature закрыл эссе пейволом, так что PDF положу в комментарии, а вот перевод.

О важности идей в науке, помимо данных, пишут и в статье “Креативность как противоядие от излишней предсказуемости исследований” (“Creativity as an antidote to research becoming too predictable”). Авторы считают, что нам нужно не столько больше данных, сколько обоснованные предположения (т. е. теория) о том, что искать в первую очередь. Статья призывает поощрять творческий поиск и риск:

“Если мы хотим, чтобы исследования процветали, нам необходимо будет взять на себя ответственность и переосмыслить процесс производства знаний в наших лабораториях, чтобы допускать случайные обходные пути, неудачи и тупики”.

И если Нерс больше обращается к ученым, то статья в EMBO Journal, скорее, адресована тем, кто организует научный процесс. На этом пока завершаю тему “атласов и карт” мозга.