Суть разума – быть творцом преобразуемого нами мира.
Теория «мира манящих возможностей» экспериментально подтверждена - восприятие мира зависит от того, что мы можем с ним сделать.
Сразу два прорывных исследования экспериментально разрубили гордиев узел многолетних нейробио-когнипсихо-технофилософских дебатов о взаимосвязи между познанием, движением и окружающей средой.
Объединение инструментария электроэнцефалографии и виртуальной реальности позволило провести эксперименты на людях, давшие ответ на давно мучающие людей два вопроса.
✔️ Как в нашем сознании формируется картина окружающего мира?
✔️ И насколько мир в нашем восприятии похож на объективно существующий окружающий нас физический мир?

И хотя психологическая и философская база «мира манящих возможностей» известна со времен Джеймса Гибсона, два прорывных эксперимента теперь расставили точки над i.
N.B. «Манящая возможность» - это мой термин. В литературе вы найдете: аффорданс, валентность, «возбуждающая способность», Aufforderungscharakter, Affordance … Мне же больше нравится термин «манящая возможность», как лучше отражающая сочетание нашего желания творить (сотворить, сделать что-то) с возможностью осуществить это желание в условиях окружающего нас мира (так уж случилось, что попали мы именно в этот мир, - так что приходится приспосабливаться). Осталось понять, откуда оно, это желание берется. И возможно, свобода воли все же существует.

Так вот.
Эксперименты показали, что корковые потенциалы мозга изменяются в зависимости от телесных возможностей, определямых отрефлектированной мозгом физической средой.
Т.е. мы видим мир как бы через призму того, что мы можем с ним сделать.
- Например, чашку мы видим такой, какой мы можем взять ее и налить в нее чай.
- А незнакомца – таким, какого мы можем взять за руку, дотронуться до его носа… и много чего еще, включая дать ему в бубен (если он настолько нам гадок) или сбежать от него (если он настолько нам опасен) и т.д.

Из этого делаются два фундаментальных вывода.
1) Познание по своей природе связано с потенциальным движением тела. Т.е. действие взаимосвязано с восприятием, активно влияя на создаваемую в мозге модель воспринимаемой через органы чувств окружающей среды.
2) Наше движение в пространстве требует непрерывного расчета предсказаний «мира манящих возможностей», и это «архитектурное решение» основано на непрерывном восприятии окружающего пространства с учетом движений тела, изменяющих восприятие и опыт.

Как удалось осуществить эти эксперименты, можно прочесть в источниках 1, 2. Читается, как н/ф детектив. Трипы по виртуальной среде в ЭЭГ-тюбетейках со всплывающими в пространстве дверьми разной ширины, меняющими цвет и загорающимися над ними словами «Иди» или «Не иди», превращающих испытуемых в эдаких перманентных «витязей на распутье». Короче, прикольно.

Ну а в завершение два прогнозируемых мною дальнейших прорыва.
А) Прорыв в понимании того, как на основе модели «мира манящих возможностей» может формироваться иной разум (первая попытка этого была предпринята два года назад 3, когда на основе модели воплощенного познания была построена модель разума дельфина – разум оказался сильно иным, т.к. «манящие возможности» у нас с дельфинами разные из-за физически разных сред обитания).
Б) Прорыв в понимании следующего эволюционного мега-этапа – уже не биологической, а культурной эволюции – на основе теории «манящих возможностей культуры» (первая попытка этого была предпринята три года назад 4, когда была разработана модель приобретения культурных знаний, ценностей и практик с точки зрения перцептивных и поведенческих возможностей (Perceptual and Behavioral Affordances)).

Крутые времена наступают! Следите за новостями с переднего края.

#Сознание #МашинаПредсказаний #Восприятие #Аффорданс #МанящаяВозможность

Что делает агента интеллектуальным?
Согласно «теории относительности интеллекта», - его относительный уровень аффорданса.
• У шимпанзе он примерно 40+.
• У отдельного индивида Homo sapiens он может составлять число, измеряемое в миллионах.
• У коллективного интеллекта человечества это несчитанные триллионы, квадриллионы ...
• А у любой даже самой «интеллектуальной» машины (самоуправляемого авто, умной колонки «Алиса», выигрывающего в Го у чемпиона мира алгоритма AlphaGo, или алгоритма AlphaFold, предсказывающего структуру белка) он такой же, как у экскаватора. Т.е. равен 0 (нулю, Карл!)

О том, что же такое аффорданс, мой новый пост на 6 мин чтения:
- на Medium https://bit.ly/3F7TfUG
- на Яндекс Дзен https://clck.ru/YktcQ
#AGI #ОткрытаяЭволюция #РискиИИ #Аффорданс

Это продолжение поста “Открыта теория относительности интеллекта: биологического и машинного”.
В предыдущей части поста было рассказано об аффордансах – ключевом свойстве интеллектуальных агентов, позволяющем им использовать в своих целях разнообразные возможности потенциально доступные им в конкретных условиях окружающей среды и текущей ситуации.

Следующим естественным вопросом нашего рассмотрения станет такой.
Каков же этот потенциал возможностей? Насколько он велик?
Но прежде, чем продолжить свой рассказ, хотел бы обратить внимание на важное для его оценки читателями обстоятельство.

В своих публикациях я всегда рассказываю о новейших исследованиях, результаты которых публиковались недавно. Что же до рассказа о «теории относительности интеллекта», то импульсом к его написанию стали предельно новые работы, публикуемые рецензируемыми научными журналами параллельно с публикациями продолжений моего поста.
• В 1й части поста мой рассказ начинался с выводов работы «How Organisms Come To Know The World: Fundamental Limits On Artificial General Intelligence» («Как организмы познают мир: фундаментальные ограничения общего искусственного интеллекта»), опубликованной 2-го ноября.
• В этой же 3-ей части поста я опираюсь на выводы следующей работы «The World Is Not a Theorem» («Мир – это не теорема»), опубликованной Кауфманом и Роли 6-го ноября.
Таким образом, в этом моем рассказе речь идет о совершенно новых научных представлениях, часть из которых уже прошла через сито рецензирования авторитетных научных журналов, а другая часть находится в процессе рецензирования.

Сделав это замечание, перейдем к поиску ответа на поставленный выше вопрос. А сделать это нам позволит рассмотрение аффордансов в контексте теории смежного возможного.

Продолжить чтение (еще 6 мин.)
- на Medium https://bit.ly/3cnsRdo
- на Яндекс Дзен https://clck.ru/YtFYm
#AGI #ОткрытаяЭволюция #РискиИИ #Аффорданс

Разум Homo sapiens – это не только сложнейшая биологическая структура, но и набор способностей, среди которых есть, как минимум, одна уникальная. Именно она позволила одному из наиболее развитых в ходе эволюции животных за какие-то 6 млн лет обрести сверхспособности полубога.

Ни одна из существующих научных теорий пока не ответила на вопрос - что это за уникальная способность людей?
А без ответа на этот вопрос, невозможно понять:
1. Что такое разум и сознание людей?
2. Как они могли появиться.

«Теория относительности интеллекта» Роли-Йегера-Кауффмана - это попытка ответить на два названных главных вопроса человечества синтезом двух теорий: «смежного возможного» и «аффордансов». Этот синтез позволяет выявить ту самую уникальную способность, что позволила развиться разуму и сознанию человеческого уровня.

Уникальной сверхспособностью людей является серендипность. Эту врожденную способность привносить связную, богатую смысловую перспективу в многомерную сложную реальность иногда ошибочно называют интуицией. Но это, хоть и близкая, но совсем иная способность.

Серендипность позволяет нам совершать акт непонятийного, непосредственного “узрения”, “постижения”, и этот акт познания совпадает с актом, порождающим действительность.

Об этом мой новый пост (11 мин. чтения)
- на Medium https://bit.ly/32CYTjJ
- на Яндекс Дзен https://clck.ru/Z8MZV
#AGI #ОткрытаяЭволюция #РискиИИ #Аффорданс

Теория Роли-Йегера-Кауффмана (a.k.a. «теория относительности интеллекта») кому-то может казаться перепевом старых научных «песен о главном» на новые модные слова: смежное возможное, аффордансы, серендипность, предиктивный мозг, дистальное моделирование, квантовая суперпозиция внутренних реальностей и мультиверс.
И это отчасти правда. Все названные термины и стоящие за ними теории и гипотезы уже существуют.

Но в том то и прорывной потенциал «теории относительности интеллекта», что достигаемая ею синергия «великолепной семёрки» уже существующих научных понятий позволяет совершенно по-новому подойти к ответам на главные вопросы 21 века:
✔️ Может ли машинный интеллект достичь и превзойти по уровню человеческий?
✔️ Возможна ли открытая эволюция машин?
✔️ Существует ли экзистенциальный риск дальнейших разработок в области ИИ?

Как и Теория относительности Эйнштейна, теория Роли-Йегера-Кауффмана ломает привычные представления. А новые представления весьма трудно понять и, тем более, принять.

45-минутный рассказ не может заменить длинной серии моих постов на эту тему (часть из которых еще и не опубликована).

Но этот мой рассказ гораздо проще. В нем я попытался объяснить все семь понятий «теории относительности интеллекта» предельно простым языком и на самых наглядных примерах.

Таймлайн рассказа:
00:00 Представление
01:00 Чем важна новая теория, и почему её называют «теорией относительности интеллекта»
05:00 О двух главных вопросах человечества в 21 веке
06:00 Три кита «ТО интеллекта»: «смежное возможное», аффордансы и серендипность
08:45 Что такое «смежное возможное» и его роль в «ТО интеллекта»
13:25 Что такое аффордансы и их роль в «теории относительности интеллекта»
18:20 В чем разница открытий и изобретений
20:00 Индукция, дедукция и абдукция
22:40 Что такое серендипность и её роль в «ТО интеллекта»
25:00 Как в процессе творческого акта осуществляется прорыв реальности
26:15 Как рождаются смыслы
28:00 О механизме узрения и постижения внешней реальности и внутренних реальностей – «внутреннего мультиверса»
28:50 Чем серендипность отличается от интуиции, инсайтов и «моментов эврики»
30:00 О квантовой суперпозиции мгновенных узрений и постижений
35:00 Синергия теории предсказательного мозга и теории мультивселенных
36:40 Механизм дистального моделирования для перемещения в пространстве и времени
40:00 Серендипность, как транспорт из «здесь и сейчас» в мультивселенную внутренних реальностей
44:00 Почему невозможен вычислительный AGI, вычислительная открытая эволюция и в чем же экзистенциальный риск ИИ
https://www.youtube.com/watch?v=hADqkxkQF2o
Запись программы Mediametrics Live 2 от 1 декабря 2021.
Благодарю ведущего программы Саркиса Григоряна за предоставленный материал передачи.
#AGI #ОткрытаяЭволюция #РискиИИ #Аффорданс

Секрет нашего разума – нерациональность.
Уникальное эволюционное преимущество, помогающее выживать и творить.
Вот «тест на сверхразум», свойственный только людям.
На столе что-то типа коробки хитрой формы с непонятными наворотами. В ней то, что вам нужно достать. Вам позволяют подглядеть, как это делают трое других испытуемых. Все они, прежде чем поднять крышку: трижды стучат по ней пальцем, потом ладонью трут дно коробки, затем дергают за что-то типы ручки сбоку и лишь потом поднимают крышку, доставая из коробки приз.
Как поступите вы?
100 против 1 – вы повторите все подсмотренные вами у других бессмысленные действия, не имеющие отношения к открыванию крышки. Ибо вы – венец эволюции земного разума, придумавшего и построившего на планете все от пирамид до космической станции и создающего порой непостижимые абстракции в математике, музыке и т.д.

И если вы думаете, что использованный вами абсолютно нерациональный способ открытия коробки – результат длительного формирования в культурной среде людей, - вы ошибаетесь. Как показывают многочисленные эксперименты, так поступают даже малые дети.
А вот наши ближайшие эволюционные родственники – шимпанзе так не умеют. Будучи абсолютно рациональными, они проигнорируют не относящиеся к цели увиденные ими «танцы с бубном» вокруг коробки и поступят 100%-но рационально – просто поднимут крышку, отделяющую их от лакомства, и незамедлительно съедят его.

Как же этого добилась эволюция?
Решение суперпростое, как и все сверхгениальное – наделить людей способностями суперимитаторов. (читайте великого Мерлина Дональда (1))
Миметическое (подражательное) познание, основанное на копировании действий и жестов, - это основа основ когнитивной эволюции людей до появления языка.
Человеческий инстинкт копировать, а не думать самостоятельно, оказался эволюционно чрезвычайно полезен. Инстинкт подражания родителям, наставникам и сверстникам помогает учиться, ладить в компании, организовывать и, в конечном итоге, строить общие модели поведения, позволяющие людям выживать и развиваться. По сравнению с другими приматами, мы – чемпионы по имитации: мы копируем, даже если для этого нет никаких рациональных причин (как в вышеописанном «тесте на сверхразум»).

Человеческая нерациональность проявляется во всем: психология и принятие решений в экономике, политике, социальных вопросах и повседневной жизни (2).
Эта нерациональность позволяет нам (А) выживать в экстремальных ситуациях и (Б) творить.

Пример 1го см. у Дирка Хелбинга (3). Он моделировал поведение людей при катастрофах, типа пожара в клубе «Хромая лошадь». На модели видно, что до определенных пределов стадный эффект (бездумное копирование действий других) реализует самую выгодную из стратегий. Это самоусиливающийся эффект правильных решений, когда кто-то находит выход, а другие просто следуют за ним (N.B. после определенного уровня это уже не помогает).

Пример 2-го см. у Джозефа Хенриха (4). Он показал, что нерациональная способность суперимитации породила множество культурных инноваций (огонь, приготовление пищи, емкости для воды, знания о растениях, метательное оружие …), которые, в свою очередь, способствовали расширению нашего мозга и решающим образом изменили нашу физиологию, анатомию и психологию. В итоге у людей сформировался «жидкий мозг», сделавший нас полубогами (5).

Насколько нужно быть нерациональным, чтобы (6):
• изобретать немыслимые и никогда не существовавшие на свете виды деятельности?
• угробить год на алгоритм расчета оптимальных бутербродов с арахисовым маслом и бананом?

На что еще, кроме нерациональности, могли бы рассчитывать люди при решении невычислимых задач, связанных с аффордансами и серендипностью? (7)

1 2 3 4 5 6 7
#Нерациональность #Разум #Аффорданс

Создана энергетическая модель понимания ИИ сложных сцен.
Это еще не человек, но уже и не совсем машина, ибо кое-что понимает.
Современный ИИ водит авто лучше большинства людей. Но при этом не понимает ничего из того что видит. ИИ-автопилот способен аккуратно обогнать грузовик, но не в состоянии по вашей команде «ехать за грузовиком с красной кабиной». Причина в том, что ИИ-автопилот научили ориентироваться среди объектов, встречающихся на дорогах, но он не понимает композитной структуры окружающего мира: их взаиморасположение, взаимосвязь и т.д. Из-за этого он не понимает, что это грузовик, у него есть кабина, она имеет цвет и может быть красной.

Есть два способа проверить понимание ИИ композитной структуры окружающего мира:
• Visual Relation Understanding: предлагать ИИ описать на естественном языке, что он видит;
• Language Guided Scene Generation: предлагать ему сгенерировать изображение сцен по их описанию на естественном языке.

Например, «понимающая» окружающий мир умная колонка со встроенной камерой может, на ваш вопрос «как расставлена мебель в комнате», ответить что-то типа: слева у окна письменный стол, а перед ним стул, справа книжный шкаф, а за ним этажерка, на окне бежевые шторы, а на подоконнике цветок в горшке.
Или, например, она способна сгенерировать верную 3D картинку по вашему описанию: на дворе трава, а на траве дрова.
Умеющему сделать такое ИИ будет еще далеко до человеческого понимания мироустройства. Но и сказать, что он совсем не понимает, как устроен окружающий его мир, уже будет не справедливо.

Новый весьма оригинальный способ обучения ИИ пониманию сложных композитных сцен из многих предметов и их взаимоотношений описан в только что опубликованной работе Лаборатории компьютерных наук и искусственного интеллекта (CSAIL) MIT. Способ основан на «энергетической модели»: описание реляционной сцены отношений объектов, как произведение отдельных распределений вероятностей отношений между ними, причем каждое отдельное отношение определяется на изображении своим распределением вероятностей. Такая композиция позволяет моделировать взаимодействия между несколькими отношениями (популярно, научно).

Новый способ скоро позволит ИИ строить сцены по описаниям типа «на златом крыльце сидели: царь, царевич, король, королевич, сапожник, портной». И совсем не за горами понимание ИИ фраз типа «графиня изменившимся лицом бежит пруду».

Вместе с тем, даже столь обещающие перспективы «энергетической модели» не позволяют надеяться на понимание ИИ фраз типа «на меня наставлен сумрак ночи тысячью биноклей на оси». Ибо здесь, как с аффордансами, - проблема не в неисчислимости вариантов объектов и их отношений, а в неопределенности этих отношений (см. здесь). Это значит, что пока Борис Пастернак не создал этих отношений между объектами: «сумрак ночи», «тысяча биноклей» да еще и «на оси» в контексте «ощущения неотвратимости трагедии», - они просто не существуют в нашем мире.

И даже если они существуют в каком-то из иных миров Метаверса, люди уровня Бориса Пастернака умеют их оттуда извлекать, а алгоритмы ИИ – нет (т.к. преодолеть неопределенность с помощью вычислений нельзя).
#ИИ #МашинноеОбучение #Аффорданс

ИИ можно научить интуитивной прозорливости.
Глубокое обучение способно находить скрытые маркеры провидческих идей в обширных корпусах текстов.
Такой вывод следует из фантастически интересной работы «Модель глубокого обучения провидческих идей демонстрирует, что они возникают на периферии», которая выйдет в мартовском номере PNAS Nexus.

Революционность этого открытия в следующем:
• До сего времени считалось, что провидческие идеи могут быть обнаружены только постфактум, то есть когда известно будущее состояние мира.
• Оказалось, это не так. ИИ способен идентифицировать провидческие идеи в настоящем времени, не зная будущее состояние мира.

В 21 веке открытие механизма серендипности (способности к интуитивным прозрениям, лежащей в основе провидческих, абсолютно нестандартных и воистину прорывных идей) может стать для человечества столь же важно, как открытие квантовой механики для 20го века.

Дело в том, что серендипность это:
✔️ важнейший элемент, без которого любые стратегии инноваций не будут оптимальны - см. мой пост;
✔️ ключевая отличительная способность разума Homo sapiens, делающая нас «богоподобными», позволяя нам привносить связную, богатую смысловую перспективу в многомерную сложную реальность (часто эту способность ошибочно называют интуицией, но это, хоть и близкая, но совсем иная способность) – см. мой пост;
✔️ один из семи базовых элементов (наряду со смежным возможным, аффордансами, предиктивным мозгом, дистальным моделированием, квантовой суперпозицией внутренних реальностей и мультиверсом) «теории относительности интеллекта» Роли-Йегера-Кауффмана ) – см. мой пост;
✔️ уникальное эволюционное преимущество (наряду с нерациональностью), помогающее людям не только творить, но и выживать за счет способности решать невычислимые задачи – см. мой пост;

Согласно «теории относительности интеллекта», серендипность не доступна ИИ.
Но зато, как показало новое исследование, с помощью глубокого обучения можно обнаруживать в корпусах текстов из разных сфер деятельности людей (бизнес, право, политика) скрытые лингвистические маркеры провидческих идей.

Кроме того, исследование установило два нетривиальных момента.
1. Провидческие идеи возникают не в центре, а на периферии многомерного пространства слов.
2. Для появления провидческой идеи, важен не только сам автор, но и контекст, в котором идея рождается. Хотя способность генерировать такие идеи часто приписывается отдельным людям, их происхождение может быть связано как с людьми, так и с контекстом.

Авторы идентифицируют лингвистические маркеры провидческих идей, используя представления двунаправленного кодировщика трансформера BERT - глубокую нейронную сеть, которая кодирует семантическую и контекстуальную информацию языка.

Новый метод позволяет извлекать провидческие идеи из естественного языка независимо от формы, в которой эта идея в конечном итоге реализуется, и в широком диапазоне областей.
#инновации #серендипность #Аффорданс

Скрытый потенциал русского ИИ для преодоления отставания от США и Китая.
Что если разрешить русским LLM материться без ограничений?
«Русский мат — … это не просто скабрезные ругательства. Это еще и эмоциональная беседа мужчин в критических ситуациях. Исконной матерной речью пользовались в мужских компаниях, и не для того, чтобы обругать друг друга, а чтобы весело, быстро, понятно и эмоционально объясниться друг с другом в экстремальных условиях, в опасных ситуациях. Такая речь обладает мощным не только психологическим, но, как показано выше, и физиологическим действием.»
Доктор психологических наук Леонид Александрович Китаев-Смык

Сразу предупрежу: это не шутка, не ирония и уж тем более не издевка.
На современном этапе развития ИИ все упирается в наличие огромных вычислительных мощностей, требуемых для обучения гигантских нейросетей-трансформеров. Об этом я талдычу уже несколько лет в постах под грифом «Есть «железо» - участвуй в гонке. Нет «железа» - кури в сторонке» [1, 2, 3]
Но экспортные ограничения крепчают. Их преодоление становится все накладней, и требуемый массовый характер таких поставок в Россию уже не видится реальным.
Разработка своего железа на горизонте достижимости в несколько лет тоже нереальна, т.к. на это требуются десятки миллиардов долларов и десятки лет. А для создания стратегической системы поставок, подобной китайской, среди российских госчиновников маловато китайцев.
В этой тупиковой ситуации остается надеяться либо на чудо, либо на какой-то уж совсем немыслимый творческий кульбит – некую фантастически перспективную идею.

Как у нас водится, примеров предложений таких, якобы, перспективных идей хватает во всех сегментах разработок российского ИИ: от, будто бы, небывало эффективных новых архитектур, до хитрейших и гениальных (по мнению их авторов) новых алгоритмов.
Но все они, в моем представлении, уступают по шедевриальности вот этой идее, недавно прозвучавшей в кулуарах крупной тусовки российских ИИ-разработчиков – новый класс матерящихся языковых моделей.

Речь об использовании уникального ресурсного языкового богатства русского языка (русского мата), потенциально способного стать ключевым конкурентным преимуществом больших языковых моделей, обучающихся на нерецензируемом корпусе русский текстов и не имеющих никаких ограничений на использование нецензурной лексики.

Эта довольно дикая на первый взгляд идея, по мысли ее сторонников, стоит на трёх слонах и черепахе по имени «аффорданс» (описание которых не умещается в ограниченный размер Телеграм поста и потому вынесено в лонгрид для подписчиков на Patreon, Boosty, VK и Дзен – подписывайтесь, ибо текст весьма интересный 😊).
Здесь же, из-за недостатка места, я лишь назову три связанных друг с другом следствия этой идеи.

1) Новейшее метаисследование пяти солидных академических центров показывает, что с точки зрения практического применения, «ругань представляет собой малорискованное, эффективное и недорогое вмешательство, которое может существенно улучшить физическую работоспособность» людей (см. рисунок).
2) Резонно предположить, что, будучи частью языка, ругань может быть использована языковыми моделями с большей лингвистической, семантической и эмоциональной эффективностью, чем это достижимо для людей.
3) При снятии цензурных ограничений при обучении и использовании LLM, уникальное преимущество русского мата могло бы стать малорискованным, эффективным и недорогим вмешательством, способным существенно улучшить интеллектуальную работоспособность не только языковых моделей, но и работающих с ними в гибридном режиме людей.

Своих комментариев на эту офигительную идею я давать не буду, дабы не портить одним читателям возможность ее уничижительной критики, а другим - ее восторженной поддержки.

Скажу лишь, что мое подробное обсуждение с пятью LLM (четырьмя американскими и одной китайской) показало их весьма позитивное отношение к этой «плодотворной дебютной идее».

#ИИгонка #Россия #Аффорданс