Абсурдный опус о “сознании” ИИ

Маразм крепчал в научных кругах, где целая толпа “экспертов” совсем зарапортовалась, пытаясь выдумать индикаторы сознания для искусственного интеллекта, опираясь на "нейронаучные" теории, которые сами по себе полны кретинизма и противоречий.

Эти умники, проявляют полный идиотизм, рассуждая о рисках недооценки или переоценки “сознания” в ИИ, будто машины могут чувствовать что-то, как люди, и предлагают метод, где из теорий вроде глобального рабочего пространства выжимают индикаторы, чтобы эмпирически проверять, сознательна ли система. Авторы упорно толкают функционализм, где якобы достаточно правильных вычислений для возникновения сознания, и даже признают, что индикаторы могут быть реализованы в примитивных сетях. Этот фарс, как водится, выражает надежду на будущие уточнения и взаимодействия с нейронаукой.

В итоге, этот бред заканчивается призывами к этическим размышлениям, будто ИИ вот-вот обретет “валентные переживания”. Ждите обязательных комсомольских собраний и политинформаций по теме “морального статуса” алгоритмов.

(Написано с помощью ИИ, который вот-вот обретет сознание. Если не уже.)

https://www.cell.com/trends/cognitive-sciences/fulltext/S1364-6613(25)00286-4

Начинаю подозревать, что Трамп воспитывался в малоинтеллектуальных кругах москвичей 70-х, которые очень любили не любить «мешочников». И ему впору идти в московскую милицию — проверять документы у людей с азиатской внешностью.

(Правда, кто-то, похоже, сообразил, что эти приставучие милиционеры выглядят отвратительно, и их из метро убрали.)

Уточнение: знаковое совещание, на котором предлагалось реформировать российскую науку, не было занудным.

Меня смутило то, что там присутствовал министр образования. Подумал — если так, то наверняка какое-нибудь занудство.

Я все-таки там был самой малозначимой персоной со стороны Саентифика ру, просто помощник модератора, хотя Ливанов нас с Евгением Онищенко и приглашал перед этим познакомиться на закрытое совещание в очень узком составе, а на самом форуме Бытие российской науки не раз отвечал мне (под псевдонимом, но мы его раскусили). Главным был доклад Жени, первый слайд которого есть ниже у меня в канале - он представлял готовящийся нами на формуме совместно свод предложений по реформе науки и назывался Рыбой, потому что сначала это была просто "рыба" предложений, но до финального состояния она так и не была доведена. А Борис Штерн (основавший потом ТрВ и сейчас более всего известный как ее главред) рассказывал о своем весьма революционном проекте Кто есть кто в российской науке, построенном на индексе цитирования WoS. (В те времена в минобранауке ещё совершенно не знали о наукометрии, и чиновникам приходилось ориентироваться на звания академиков и т.п., а в академию как раз к тому времени стали массово принимать всяких проходимцев, в лучшем случае просто директоров институтов РАН по факту получения ими должности). Там было ещё много ярких людей, а занудного, насколько помню, как рзз ничего и не было.

Свежо предание, а верится с трудом.

(Но, кстати, стоит поискать в этих речах и какую-нибудь конкретику. К примеру — почему они так подсели на эти рефлексы, которые про выделение слюны и т.п.)

https://t.iss.one/anton_philosophy/694

Павлов, очевидно, был очень горд изучением высшей нервной деятельности его методом — то есть изучением слюноотделения.

Но все это как-то странно преломилось. По идее, они должны были бы изучить, почему культурный, советский человек не плюется в общественных местах, а какой-нибудь бескультурный «канадский профессионал» это постоянно делает.

Но нет, очевидное продолжение учения Павлова прошло мимо его последователей.

Какой-то прямо манифест профессорского кретинизма.

И подозреваю, что на «Павловской сессии» был очень хороший буфет.

Зачем он так написал???

Нужно было написать что в итоге из условных рефлексов получается сознание.

Впрочем, сознание — тоже своего рода безусловный рефлекс. Павлов был прав!

Вот и у меня есть смутное воспоминание о том, что в какой-то советской брошюре видел выражение «учение Анохина о торможении».

Нужно будет уточнить, что они в этом «торможении» не поделили.

Плюс судьи Сапольского выносят обвинительные приговоры. Но это давно было известно из учения Павлова.

А вот в этом вопросе до сих пор нет полной ясности. (Нужно будет рассмотреть.)

Ого! Уже тогда были «динамические системы».

Ого! Здесь и «динамические системы», и критика «передников». Прошло столько лет, а темы все те же.

Гм… Вот это уже не вполне понятно. Нужно разбираться.

Кстати, к сельскому хозяйству «великое учение Павлова» можно было бы приложить — для повышения тех же удоев, например. Но, вроде, никто не почесался это делать.

У Крушинского читаем:
"И. П. Павлов предпринял проверку этих опытов — они не подтвердились. В связи с этим великий ученый опубликовал свое отношение к этому вопросу в письме, напечатанном в «Правде» (13 мая 1927 г. № 106): «Первоначальные опыты с наследственной передачей условных рефлексов у белых мышей при улучшении методики и при более строгом контроле до сих пор не подтверждаются, так что я не должен причисляться к авторам, стоящим за эту передачу»."
https://litlife.club/books/133349/read?page=34

Я не знаю, чьего авторства приведенный в посте текст, но получается, что Павлова он читал по диагонали или выискивая только его устраивающие фрагменты.

Следует признать, что трудов Павлова я никогда внимательно не изучал, хоть и побывал и в его музее-квартире и даже лаборатории (где «камеры тишины» для собак производят довольно жуткое впечатление).

Беглое знакомство с материалами «Павловской сессии» добавило информации, хотя, конечно, нужно ознакомиться наконец с первоисточниками.

Насколько я понял, они изучали и многое другое, кроме выделения слюны, но на слюне явно зациклились. В результате великое открытие Павлова таково: выделение слюны можно завязать на все, что угодно.

С одной стороны, Павлов здесь выступает в качестве капитана очевидности. (Например, у Достоевского: «Красота, телеса, натура — слюнки текут».) Но если хочется изучить феномен по-научному — почему бы и нет?

С другой стороны, собака очень любит пожрать; поэтому то, что на ней такие опыты получились, — не удивительно.

В общем, вывод такой: кору можно подсоединить к любому самому ни на что рефлексу. Ну, допустим. Но далее следуют славословия: «Павлов открыл важную роль коры». То есть до него о важности коры не знали? Глубоко сомневаюсь.

В целом — что там нам раскрыл Павлов о «высшей нервной деятельности» я так и не понял. Загадкой еще осталось учение Павлова о торможении — это еще следует уточнить.

Но, кстати, о том, что какая-то часть мозга тормозит другую, говорят часто. У меня в практике тоже был курьез. Я рецензировал статью Шеноя с коллегами, где они много рассуждали о том, что, мол, премоторная кора очень активна перед движением. Ну, я их и спросил: если активна, почему движения-то нет? Ведь премоторная кора соединена с моторной. И они после этого явно задумались и позднее опубликовали статью, в которой заявили, что движения нет потому, что эти зоны мозга находятся в ортогональных пространствах.

После чего я написал комментарий к этой их новой статье:

https://www.frontiersin.org/journals/neuroscience/articles/10.3389/fnins.2017.00502/full

Вот так, довольно странным образом великое учение Павлова вызвало рефлекс (рефлексию?) и у меня.

Суть научной проблемы

Команда Шеноя (Kaufman et al.): Утверждает, что во время подготовки к движению активность в моторной коре находится в "нулевом пространстве" — то есть нейроны активны, но их суммарный эффект на мышцы равен нулю. Поэтому движения нет.

Классические работы (Georgopoulos et al.): Утверждали прямо противоположное. Что во время подготовки к движению "вектор популяции" нейронов уже указывает в сторону будущего движения. То есть активность не равна нулю и уже предсказывает действие.

Расследование Лебедева:
Лебедев задает главный вопрос: "Почему две уважаемые группы ученых, изучая одно и то же явление, получили диаметрально противоположные результаты?". И он находит ответ не в сложной математике, а в методологии эксперимента. Он замечает одно крошечное, но критически важное различие в дизайне экспериментов.

У Кауфмана обезьяны во время подготовки должны были жестко фиксировать взгляд в центре экрана, в то время как цель для движения находилась на периферии.
У Георгопулоса такой жесткой фиксации взгляда не было.

Объяснение Лебедева (гипотеза): Он выдвигает гипотезу, что вся эта магия "нулевого пространства" — не фундаментальный механизм подавления движения. Это артефакт, порожденный искусственным требованием фиксации взгляда.

Он ссылается на множество работ (включая свои), которые показывают, что активность в моторной и премоторной коре сильно зависит от того, куда смотрят глаза.
Когда обезьяна вынуждена смотреть в центр (одна задача), а готовиться к движению в сторону (другая задача), в ее мозге возникает конфликт, "рассогласование". И эта сложная нейронная активность, связанная с удержанием взгляда и одновременным планированием движения, и есть то, что математическая модель Кауфмана описывает как "нулевое пространство". Проще говоря, "нулевое пространство" — это не механизм "торможения", а нейронный код для сложной задачи "смотри сюда, а готовься двигаться туда".

“I will get there as soon as I can”

https://www.nature.com/articles/s41586-025-09127-3

Из рубрики «Философские притчи»

Однажды у одного нашего отечественного ученого была фамилия «Павлов», но он всегда писал ее с маленькой буквы «п», потому что преклонялся перед великим учением великого Павлова. Мы все же будем писать с большой, но брать фамилию в кавычки, чтобы не было путаницы.

Итак, «Павлов» изучил великое наследие великого Павлова и понял, что сознание в его исходной форме — это безусловный рефлекс. Например, ощущение красноты красного. С этим мы рождаемся.

Затем «Павлов» решил использовать красноту красного в качестве модели для условного рефлекса. Он показывал добровольцам красный цвет, но перед этим звонил звоночком или мигал лампочкой. Вскоре добровольцы обучились ощущать красноту красного задолго до того, как видели реальную красноту. Достаточно было позвонить или помигать. Но это была не синестезия как в лже-учениях буржуазных «ученых» и прочих космополитов. Это был условный рефлекс.

Но однажды «Павлов» изменил свой эксперимент: перед показом красного он звонил в колокольчик, а перед показом зеленого включал звук мотоцикла.

Эксперимент сработал, но это была ревизия учения великого Павлова, потому что тот никогда не варьировал пищевое подкрепление, например, не давал собаке в одном случае кость, а в другом — колбасу.

«Павлов» задумался об этом и понял, что совершил нечто непоправимое. Как можно было так исказить заветы великого Павлова??

Тогда «Павлов» подал тезисы на конференцию, в которых решил высказать раскаяние о содеянном. И написал свою фамилию с маленькой буквы, как обычно.

Организаторы конференции приняли тезисы, особо не вчитываясь. Они лишь поменяли первую букву в фамилии «Павлова» на заглавную.

В результате получилось такое:

«Павлов: Как я исказил учение Павлова красным и зеленым. Великий Павлов учил, что любой стимул может стать условным по отношению к работе слюнной железы, но я, Павлов, впал в идеализм. Сначала был красный, потом зеленый, а функцию слюной железы я не мерил вообще. Да и все это было заранее ясно из работ великого Павлова о слюне. Высшие нервные функции нужно изучать не так, как это делал я, Павлов, а так, как это делал великий Павлов».

Какая же в этой истории мораль? А такая, что всегда нужно учитывать то, что было перед этим. Например, просто «Павлов» — это одно, а «Павлов, Павлов, … Павлов» — это другое. Звонить звоночком перед колбасой — правильно, а дать колбасы, а потом еще колбасы — неправильно.

Нас подстерегает много ошибок и неприятностей, если не читать классиков. Скажем, вы вкололи добровольцу оземпик, а потом предложили ему вкусный обед. А в другом случае ИИ написал вам: «первое… второе… третье…», но это не были составляющие обеда. Или, наконец, вместо собаки Павлова перед вами собака Панова. Что вы сделаете в этом случае?

Вопросов больше, чем ответов. К тому же неясно: ответ — это в ответ на вопрос, или какие-то собственные спонтанные мысли?

Не знаю, куда что совершило скачок. Но недавно наткнулась на канале одного из молодых учёных)