​​На подступах к кинопроектору разума.
Событие года в нейровизуализации.
Сначала поясню про кинопроектор.
• В основе работы разума процесс сопоставления сенсорных данных об окружающем мире с моделью мира, содержащейся в мозге, и базой данных всего предыдущего опыта живого существа. Итог этого процесса – оптимальный выбор, что делать в данной ситуации на основе имеющегося опыта.
• База данных опыта больше всего напоминает авторское кино. Это не объективный сборник из каждой прожитой нами секунды, а набор видео-историй, описывающих избранные моменты/сцены жизни (что чувствовал, хотел, делал и что получилось). У человека эта база данных способна хранить «кино его жизни» примерно за 100 лет, записанных в разумном разрешении (закодированный непрерывный сенсорный входной поток со скоростью примерно 10^5 бит/сек в течение 3 × 10^9 сек).
• До тех пор, пока люди не научатся раскодировать записанное в мозге «кино нашей жизни», разобраться в работе разум будет невозможно. Существующие методы нейровизуализации в принципе не способны раскодировать «кино нашей жизни». Их использование для этой цели подобно попытке посмотреть кинофильм, вложив CD диск в слайд-проектор (если забыли, что это, погуглите «диапроектор»).

Две новые работы Фристона и Со. обещают великую революцию в нейровизуализации процессов разума. Вместо диапроектора придуман даже не видео-магнитофон, способный показывать кино. Придумана чудо-программа видео-плеера с встроенным видео-поиском по ключевым словам, семантическим образам, месту, времени и т.д. Эта чудо-программа показывает процессы, которые невозможно увидеть ни одним из существующих способов нейровизуализации:
• ни коннектомикой - методами отслеживания связей нейронов в мозге, отражаемых его картированием,
• ни методами выявления неориентированной функциональной связности (т. е. измеримых корреляций) при различном поведении и различных реакциях мозга на уровне отдельных нейронов, групп нейронов или даже интегрированной сети.
Ибо связи и корреляции невозможно раскодировать в «кино нашей жизни».

Поясню на примере.
На фронтальной стороне (консоли) 4-х первых поколений «настоящих компьютеров» (мейнфремов) было много лампочек, мигание которых неведомым образом коррелировало с тем, что делал компьютер, выполняя конкретные программы.
Как думаете, можно по этому миганию было понять, что делает компьютер?
Увы, нет (хотя опытный оператор, взглянув на консоль, мог определить, что компьютер завис).
А можно ли тогда понять работу компьютера (или хотя бы одной его интегральной схемы) определив все физические связи элементов и рассчитав всевозможные корреляции между данными на входе /выходе и коммуникационно-вычислительной динамикой всего множества арифметически-логических элементов и элементов памяти?
Увы, но тоже нет (и все подобные попытки закончились ничем).

Аналогичная тупиковая ситуация наблюдается в нейровизуализации (тупиковая – лишь в смысле понимания процессов разума, ибо для всех остальных прикладных задач медицины эти методы чрезвычайно полезны и эффективны).

Новый метод, имхо, способный раскодировать «кино нашей жизни», основан на выявлении эффективной связности, которая говорит о появлении в мозге внутренних сетей и критической динамике в них, являющейся эмерджентным свойством конкретных разделов нейронных состояний на все более грубых масштабах. В итоге, авторы нашли способ связать динамику состояний на ориентированных графах с феноменологией внутренних мозговых сетей.

Кроме того, в соответствии с принципом свободной энергии, нейронные корреляты определены в терминах нейронной динамики, а не нейронных состояний, путем определения вычислительных коррелятов сознания (в терминах вероятностей, кодируемых нейронными состояниями). Тем самым делается переход от вычислительных коррелятов к вычислительному объяснению процессов разума.

#ПринципСвободнойЭнергии #Разум

Иллюзия луны (почему мозг обманывает нас, увеличивая кажущийся размер Луны у горизонта) – научная головоломка, так окончательно и не разрешенная за почти 3 тыс. лет, сломав головы десятков великих ученых.

Биоматематика сознания (если работа мозга – вычислительный процесс, то по каким алгоритмам он работает) – величайшая научная загадка, от решения которой зависит будущее не только искусственного интеллекта, но и вида Homo sapiens.
– – –
В моем новом лонгриде рассказывается,
• как Принцип свободной энергии и построенная на его базе Модель проективного сознания стали той биоматематикой, которая оказалась в состоянии разрешить головоломку иллюзии луны;
• а разрешение этой головоломки, в свою очередь, позволяет предположить, что биоматематика сознания на основе принципа свободной энергии — не просто очередная теория, претендующая называться «теорией всего», а вполне возможно, таковой и станет.

История получилась захватывающая, но длинная (25 мин). Но если не прочесть ее в длинные новогодние каникулы, когда же еще узнаете, как две великие тайны помогли раскрыть друг друга.
- на Medium https://bit.do/fMcv9
- на Яндекс Дзен https://clck.ru/Secik
#ПринципСвободнойЭнергии #Фристон #ПроективнаяТеорияСознания

​​Прорыв в ИИ может произойти уже до конца этого года.
Начинается всемирный поиск новых ИИ-моделей, в котором вы можете участвовать.
Речь идет об объявленном AIcrowd Facebook AI крауд-конкурсе проектирования и обучения альтернативных ИИ-агентов, работающих иначе, чем современный мейнстрим машинного обучения с подкреплением.

Недавно DeepMind объявил, что обучение с подкреплением — метод, когда ИИ-агент ничего не знает об окружающей среде, но может самообучаться, взаимодействуя с ней, - может позволить прорыв к ИИ человеческого уровня (AGI). Этот метод, действительно, весьма перспективен. Но он требует значительного объема вычислений и мощного компьютерного оборудования. А это, к сожалению, не очень подходит за пределами демонстрационных игр, когда цель – не удивить общественность, а решение практических задач в реальном мире.

Facebook решил попробовать обойти эту проблему, организовав всемирный поиск новых ИИ-моделей, позволяющих ИИ-агентам ориентироваться в сложных средах при низких вычислительных затратах.

В качестве супер-теста была выбрана NetHack — старая, но до сих пор одна из самых сложных игр. В ней игроки должны спуститься на 50+ уровней подземелья, чтобы найти магический амулет. Шансов выиграть в эту игру мало даже у ИИ-агентов, разгромивших людей в StarCraft II, Dota 2 и Minecraft. Ведь в этой игре игроки просто мрут, как мухи. А после каждой смерти подземелье полностью перестраивается, тем самым сводя почти что к нулю набранный опыт.

Единственный способ выиграть в таких адских условиях — каким-то образом суметь совместить нестандартное мышление, исследовательские навыки и удачу. Такой ИИ-агент должен уметь совмещать оптимальное применение уже имеющихся знаний со способностью исследовать совершенно неизученные области (т.е. сочетать exploitation & exploration).

Идея исследователей из Facebook проста. Авторитеты машинного обучения так пока и не преуспели в создании ИИ-агентов, способных учиться с малыми вычислительными затратами. Поэтому вместо того, чтобы самим пытаться поймать «золотую рыбку» прорывной ИИ-модели, Facebook решил провести открытый конкурс, пригласив участвовать всех желающих и предоставив каждому участнику высокотехнологическую «удочку». Ею будет специально разработанная учебная среда с открытым кодом - NetHack Learning Environment (NLE). Это масштабируемая, процедурно генерируемая, стохастическая, весьма сложная среда для исследования обучения с подкреплением в ходе игры ИИ-агента в NetHack.

Работая в среде NLE, участники смогут тратить больше времени на тестирование новых перспективных идей, а не на ожидание результатов длительных вычислений. Перед ними поставлена задача спроектировать и обучить своего агента каким угодно существующим или изобретенным способом - с машинным обучением или без него, с использованием любой внешней информации, любого метода обучения с любым вычислительным бюджетом.

Единственное требование – создать ИИ-агента, который может быть оценен жюри конкурса. О его результатах будут судить по тому, как часто этот агент выживает и поднимается из подземелья с Амулетом.

Среди альтернативных концепций создания моделей ИИ-агентов – имхо, самой перспективной является модель процесса активного вывода (active inference). Суть такого процесса в:
• статистической генерации предсказаний (бессознательных выводов об окружающем мире и самом себе на основе внутренней модели);
• проверке этих выводов на основе сенсорных данных;
• и постоянной минимизации ошибок предсказания.

Активный вывод и прогностическое кодирование, объединенные фундаментальным принципом свободной энергии Карла Фристона я называю «конституция биоматематики». Это, по сути, - высший закон, определяющий основной принцип жизни и разума (подробней см. мой пост).

А теперь о самом важном и интересном.
Дочитать (еще всего на 1 мин):
- на Medium https://bit.ly/3j9Qaf8
- на ЯДзен https://clck.ru/VgSju
#ИИ #МашинноеОбучение #ПринципСвободнойЭнергии #Фристон #АктивныйВывод

Попытки понять механизмы разума будто упираются в стену. Десятки интригующих гипотез. Но экспериментально, по гамбургскому счету, не удается проверить ни одной.
И вот вдруг получилось нечто совсем уж крышесрывательное. Причем эксперименты основаны на теории, все чаще называемой «теорией относительности когнитивных наук».

Базовая идея проста – сравнить, «показания» мозга в штатном и нештатном режимах. Известно, - что у пьяного на языке, то у трезвого на уме. И если мы не в состоянии понять «показания» мозга в штатном («трезвом») режиме, попробуем снять с него «показания» в нештатном («пьяном») режиме измененных состояний разума: в процессе психоделических трипов в иные миры и медитативных погружений в бездну подсознания.
Ну а потом, сравнивая эти «показания», выявить ключевые элементы базового механизма конструирования мозгом индивидуальной реальности, единого для обычных и измененных состояний разума.

Два новых исследования, о которых пойдет речь, дают ответы на важнейшие вопросы.
• Почему человек —  не компьютер с вычислительным процессором мозга, а творец собственной реальности посредством мыследействий.
• Как, чтобы не захлебнуться в деталях, мозг просеивает шум, выборочно запоминая только самое важное.
• Что за «переломные моменты» позволяют разуму находить компромисс между порядком и хаосом.
• Какова роль фракталов и энтропии в базовом механизме конструирования мозгом реальности.
• Как специфика мозговых процессов в ходе медитативных «погружений» и психоделических «улётов» позволяет объяснить механизм восприятия мира.
• Как выпасть из времени, отключить свободу воли и испытать озарение

Читайте 1-ю часть рассказа обо всем этом (11 мин. чтения)
- на Medium https://bit.ly/2X5BrsF
- на Яндекс Дзен https://clck.ru/WiKTv
#Восприятие #Медитация #Психоделики #ПринципСвободнойЭнергии #ПрогнозирующийМозг

2-я часть поста «Разум — это эволюционный компромисс в упорядочении хаоса» посвящена единой модели для объяснения эффектов психоделических препаратов REBUS.
В этой части будет рассказано:
• о долгой истории психоделиков - от шаманов до психонавтов;
• о модели психоделических эффектов на основе гипотезы энтропийного мозга;
• как расслабить убеждения и погрузить мозг в анархию;
• чем отличаются магическое мышление и вторичное сознание;
• что общего у вариационной свободной энергии и ландшафта убеждений;
• как «разогреть» мозг, чтобы достичь когнитивной гибкости;
• как образуется «текучесть пространства и времени»;
• что нам сулит «психоделический ренессанс».
Текст на 12 мин чтения можно прочесть:
- на Medium https://bit.ly/3gqsOQm
- на Яндекс Дзен https://clck.ru/WzWDT
#Восприятие #Медитация #Психоделики #ПринципСвободнойЭнергии #ПрогнозирующийМозг

Наконец закончил 3-ю часть поста «Разум — это эволюционный компромисс в упорядочении хаоса».
Текст получился не простой. Но не стреляйте в пианиста, поскольку это первый в мире популярный текст о потенциально фантастическом прорыве – попытке создания общей теории медитации на основе принципа свободной энергии.
Среди прочего, в этом посте вы прочтете о следующем.
• О наипервейшей проблеме в понимании разума.
• Как Норберт Виннер мог бы прочесть полученную из будущего флешку.
• О визионерских переживаниях и обучении без фактов.
• Как запускается механизм озарений.
• Как выпасть из времени и отключить свободу воли.
• О реактивации у людей способности, подобно дельфинам, обмениваться визуальными образами.
• Об инжиниринге технобустов и техноделической психонавтике.
Все это на 21 мин чтения
- на Medium https://bit.ly/3zPk90t
- на Яндекс Дзен https://clck.ru/XpPmm
#Восприятие #Медитация #Психоделики #ПринципСвободнойЭнергии #ПрогнозирующийМозг

Лет через 30 (а может и через 300) «конституция биоматематики» (так я называю систему фундаментальных принципов жизни и разума, объединяющую их физическую, математическую, биологическую и когнитивную основы), возможно, будет считаться главным научным законом природы. Пока же это лишь система эвристических гипотез, хотя и на крепкой математической основе.
Тем интересней узнавать о появлении первых экспериментальных подтверждений, согласующихся с предсказаниями «конституции биоматематики».
✔️ Первым таким прорывом, стало исчерпывающее научное объяснение «иллюзии Луны», над которым человечество билось более двух тысяч лет. Оказалось, что магия великой иллюзии объясняется проективной геометрией в основе пространственной модели, используемой сознанием.
✔️ Новое экспериментальное подтверждение проективной модели сознания объясняет, каким образом в нем строится субъективное представление о времени.
✔️ Следствиями этого нового экспериментального подтверждения могут стать два научных прорыва:
• прорыв к полноценной теории сознания, воплощающего в себе субъективную точку зрения, необходимую для интеграции информации субъективного опыта и позволяющую интеллектуальному агенту создавать субъективные смыслы в понимании биологической кибернетики;
• прорыв в понимании механизма дистального моделирования – свойства людей мысленно улетать далеко от реальности “здесь и сейчас”; а в перспективе, – возможность экспериментального выявления «имаджинавтов» (супер-креативных людей, способных к ничем не ограниченным перемещениям по неисчерпаемой вселенной воображаемых миров Мультиверса).

Продолжить чтение моего нового поста (еще на 6 мин)
- на Medium https://bit.ly/3oO9CQV
- на Яндекс Дзен https://clck.ru/ZJzRK
#ПринципСвободнойЭнергии #ПроективнаяТеорияСознания #Имаджинавты #Воображение #Креативность

Мозг самооптимизируется по Принципу свободной энергии.
Японское открытие вписывает новую статью в «конституцию биоматематики».
Мы точно знаем, что организация работы нейронных сетей мозга так или иначе построена на самоорганизации сетей. Ибо мозг живой. А всё живое (пардон за каламбур) живет путем той или иной самоорганизации. Но что это за самоорганизация, и каков её принцип, - оставалось великой тайной до января 2022.

Но видно не зря я еще два года назад назвал Принцип свободной энергии (ПСЭ) «конституцией биоматематики». Открытие, сделанное в японском Центре исследований мозга RIKEN, показало, что нейронные сети самооптимизируются на основе этого единого принципы организации жизни и разума (1).

ПСЭ является попыткой объяснить структуру и функции мозга, предполагая, что любые адаптивные изменения в мозге минимизируют свободную энергию (т.е. ошибку предсказаний его предиктивной модели). Алгоритмически ПСЭ следует концепции машинного обучения, называемой байесовским выводом.

Этот вывод задает способ расчета вероятности события, когда становится доступной новая информация (т. е. новый сенсорный ввод). Агент принимает решения на основе новых поступающих сенсорных данных, с учетом опыта своих прошлых решений и полученных во их исполнение результатов.

Японские исследователи поставили перед искусственной нейронной сетью задачу научиться проходить лабиринт. В результате они обнаружили, что сеть самоорганизуется, изменяя силу своих нейронных связей и связывая прошлые решения с будущими результатами. При этом сеть смогла пройти лабиринт методом проб и ошибок статистически оптимальным образом.

Понять физический смысл открытия проще всего на физической аналогии.
• Для жизни энергия превыше всего.
• Биологическая оптимизация — это естественный процесс, который делает тела и поведение максимально энергоэффективными.
• Понятный поведенческий пример – увязка аллюров (паттернов походки) у лошади (или собаки, кошки …) со скоростью движения. Для каждого аллюра — шага, рыси или галопа — животные выбирают определенную, наиболее энергоэффективную для этого паттерна скорость
• FYI Во время движения шагом расход энергии в 5-6 раз выше, чем в состоянии относительного покоя, а при резвой рыси – расход энергии в 60 и более раз выше.
Затраты энергии сначала увеличиваются (см. рис. (2)) — по мере увеличения скорости в каждом стиле «походки», а затем, при смене паттерна походки с шага на рысь, а также с рыси на галоп, — уменьшаются. Каждый переход снижает количество затрачиваемых усилий: медленная рысь требует меньше усилий, чем быстрый шаг; а медленный галоп метаболически дешевле быстрой рыси. Причем каждый паттерн походки использует одно и то же отношение энергии к расстоянию (примерно 300 джоулей на метр).

Аналогичным образом нейронные сети мозга оптимизированы для обеспечения эффективного управления поведением и передачей информации, сохраняя при этом способность адаптироваться и перестраиваться в меняющихся условиях путем следованию ПСЭ – т.е. минимизируя сюрпризы в предсказаниях своей модели.

Это исследование предлагает универсальное правило для описания того, как мозг самооптимизируется.
«Наша теория может значительно снизить сложность проектирования самообучающегося нейроморфного оборудования для выполнения различных типов задач, что будет важно для ИИ следующего поколения» , — сказал ведущий автор исследования Такуя Исомура.

Так что, моим читателям есть смысл перечитать мой лонгрид «Конституция биоматематики. Основной принцип жизни и разума» (https://bit.ly/3UW9P1t)

1 2
#ПринципСвободнойЭнергии

2023 может стать годом трёх великих переломов.
Конституция биоматематики расширяет наше понимание законов природы.
Этот год войдет в историю не только «революцией ИИ», но и тремя кардинальными трансформациями в научном понимании природы сложности, жизни и интеллекта. Основой всех трёх трансформаций становится сформулированный и формализованный Карлом Фристоном принцип свободной энергии (Free Energy Principle) - главный претендент на звание «единой теории мозга» и даже «единой теории всего».

Еще в 2020 я назвал принцип свободной энергии «конституцией биоматематики», т.к. на его основе строится ряд важнейших научных теорий, объясняющих и математически описывающих возникновение и развитие сложности, жизни и интеллекта.
Теперь, спустя 3 года, можно констатировать, что на основе «конституции биоматематики» происходит кардинальное переосмысление всех трех названных фундаментальных понятий. По сути, новые работы Карла Фристона, Майкла Левина, Криса Филдса, Йошуа Бонгарда, Ричарда Уотсона и др. дают новые теоретические описания законов природы более высокого уровня, для которых наши прежние научные представления остаются лишь их частными случаями (подобно законам Ньютона после открытия Теории относительности).

Рост сложности - это следствие двунаправленного обмена информации между системой и ее окружением
Используя формальные рамки принципа свободной энергии, рост сложности является следствием общих термодинамических требований к двунаправленному обмену информацией между системой и ее окружением. Это приводит к возникновению иерархических вычислительных архитектур в системах, которые работают достаточно далеко от теплового равновесия. В таких условиях окружающая среда любой системы увеличивает ее способность предсказывать поведение системы путем "инженерии", направленной на увеличение морфологической сложности и, как следствие, более масштабного, более макроскопического поведения.

Принцип свободной энергии вызывает нейроморфное развитие
Любая конечная физическая система с морфологическими, т. е. трехмерными вложениями или формой, степенями свободы и локально ограниченной свободной энергией будет, при ограничениях принципа свободной энергии, со временем развиваться в сторону нейроморфной морфологии, которая поддерживает иерархические вычисления, в которых каждый «уровень» иерархии выполняет укрупнение своих входов и, соответственно, мелкозернистость своих выходов.

Индивидуальный интеллект не существует. Все интеллекты являются коллективами
Индивидуальный интеллект в привычном обличье центральной нервной системы или мозга возникает в результате взаимодействия многих неразумных компонентов (нейронов), расположенных в правильной организации с правильными связями. Т.е. отдельный нейрон — это не то место, где происходят познания и обучение. Именно распределенная коллективная деятельность в сети представляет собой познание, а изменения в организации сетевых связей составляют механизм обучение. Т.о. мозг является разумным коллективом правильного типа, способным познавать и учиться. А произвольную нейронную сеть можно рассматривать как агента, который подчиняется принципу свободной энергии, обеспечивая универсальную характеристику мозга».

Каждый из трёх великих переломов заслуживает своего лонгрида. И если получится, я их для вас напишу.
А пока перечитайте лонгрид «Конституция биоматематики», популярно объясняющий суть принципа свободной энергии для неспециалиста.
Три года назад, представляя лонгрид, я написал – «подобного рода высокоуровневое описания принципа свободной энергии, насколько мне известно, в мире еще не публиковалось»
Увы, и спустя 3 года это по-прежнему так.

#ПринципСвободнойЭнергии #Фристон

Команда Карла Фристона разработала и опробовала ИИ нового поколения.
Предложено единое решение 4х фундаментальных проблем ИИ: универсальность, эффективность, объяснимость и точность.
✔️ ИИ от Фристона – это даже не кардинальная смена курса развития ИИ моделей.
✔️ Это пересмотр самих основ технологий машинного обучения.
✔️ Уровень этого прорыва не меньше, чем был при смене типа двигателей на истребителях: с поршневых (принципиально не способных на сверхзвуковую скорость) на реактивные (позволяющие летать в несколько раз быстрее звука)

Новая фундаментальная работа команды Карла Фристона «От пикселей к планированию: безмасштабный активный вывод» описывает первую реальную альтернативу глубокому обучению, обучению с подкреплением и генеративному ИИ.
Эта альтернатива – по сути, ИИ нового поколения, - названа ренормализирующие генеративные модели (RGM).

Полный текст про новый тип ИИ от Фристона доступен подписчикам моих лонгридов на Patreon, Boosty и VK
Картинка https://telegra.ph/file/18129fcce3f45e87026e6.jpg
#ИИ #AGI #ПринципСвободнойЭнергии #Фристон