Начало войны и ошибочный диагноз рака – следствие одного и того же.
Мир кардинально изменился. Но человечество пока этого не поняло. И это очень плохо.
Люди всегда были не очень сильны в оценке вероятностей. Но еще хуже они всегда были в принятии решений на основе таких оценок.
Сколько катастрофических ошибок для стран и народов делают политические лидеры, принимая военные решения, неверно трактовав оценку вероятности разных сценариев!
А сколько ошибок, катастрофических для конкретных людей и их близких, делают врачи, принимая ошибочное решение на основе оценки вероятности!
Но так было всегда.
Так в чем же дело? Почему это вдруг стало столь критично?
Об этом, а также об изменивших мир цифровизации и больших данных. И о том, как изменить мировоззрение людей, адаптировав его к условиям нового мира, я написал здесь (читать 4 мин)
https://goo.gl/kPMvtj

#БольшиеДанные #Вероятность #Неопределенность #ПринятиеРешений

Почему наем «лучших» людей ошибочен – 2 (как разнообразие становится конкурентным преимуществом)
Предыдущий пост на эту тему вызвал интерес у многих.
В продолжение темы вчера и сегодня в «Институте сумасшедших идей» в Санта-Фе проходит замечательный учебный «Курс прикладной сложности» https://goo.gl/PQfPrA .
Его цель – рассказать о разнообразии, сложности и принятии решений в бизнесе, способствующих увеличению прибыли в контексте формирования команд и, в целом, при найме персонала. О том, как разнообразие возникает во множестве сложных систем, и как его можно использовать в бизнесе, чтобы приручить неопределенность и повысить уровень инноваций, - расскажет созвездие первостатейных спикеров, о прорывных работах которых я уже не раз писал:
— Джеффри Уэст (см. «Открыта формула победы на выборах» https://t.iss.one/theworldisnoteasy/238 )
— Джессика Флэк (см. «На пороге открытия нового класса законов природы» https://t.iss.one/theworldisnoteasy/357 )
— Мирта Галесич (см. «Новая социально-сетевая социология опросов» https://t.iss.one/theworldisnoteasy/428)
— Скотт Пейдж (см. «Почему наем «лучших» людей ошибочен» https://t.iss.one/theworldisnoteasy/411) и др.

СпрОсите, зачем рекламировать учебный курс, на который никто из читателей уже не попадет?

Да затем, что:
✔️ Во-первых, тема настолько важная, что я пишу о ней чуть ли не каждый 2й свой пост, стараясь разнообразить для вас ее сервировку и подавая под разными соусами. Однако желающих попробовать это блюдо на практике пока катастрофически мало (слишком это перпендикулярно мейнстриму).
✔️ А во-вторых, статьи всех спикеров этого курса на данную тему лежат в открытом доступе на расстоянии пары кликов от вас, - кто заинтересуется, враз найдет.

Ну или хотя бы потратьте 1.5 мин. на чтение тизера курса https://goo.gl/hck6vA о том, что общего между катастрофой, постигшей компанию Xerox (копир которой в 1970 был признан «самым успешным продуктом, когда-либо выводимым на рынок США»),и катастрофой шатла «Челленджер» в 1986 г. https://goo.gl/3J5LG3 (в свете последних заявлений США и России о скорых миссиях на Луну и Марс – более, чем актуально).
#Разнообразие #Сложность #ПринятиеРешений #НаёмПерсонала

ЦРУ создает кентавров для предсказания будущего.

Эта тема — одна из моих любимых. И уже не первый месяц, как я собираюсь начать о ней писать.

Хотя не совсем так. Кое-что я уже про это писал. И даже не раз. Но не системно, а как-то по касательной. Как бы подступаясь к этой многогранной истории с разных сторон:
— писал об интеллектуальных кентаврах — симбиозе интеллекта человека и компьютера, — альтернативе мейнстриму ИИ технологий, плодящему «бездумные машины»;
— о том, как устроен интеллект человека, и в чем его принципиальное отличие от интеллекта компьютера;
— о возможности предсказания будущего;
— о роли случайности.

Наверное, наиболее проницательные из моих читателей уже поняли, куда я клоню.
К тому, что всё вышеперечисленное — грани одной комплексной темы: взаимосвязи интеллекта (человеческого, машинного, кентаврического) и предсказаний будущего. Но как они связаны — интеллект и предсказания?
Полагаю, хватить дробить эту тему. Пора попытаться нарисовать общую картину.

Но такой рассказ в один или даже пару постов не втиснуть. Слишком много здесь захватывающих, крайне малоизвестных и интригующих поворотов. Хочу попробовать редкий для е-каналов жанр — постосериал, еженедельно публикуя продолжение одной большой истории.
Ну а начну с прояснения заголовка. Как в этой теме сплелись кентавры и предсказания будущего, объясню чуть позже. А начну с интриги, — при здесь ЦРУ, да еще и на ключевой позиции.

Тегов у этого постосериала будет много:
#ИнтеллектКентавра #AI #ИИ #IA #AIA #Краудсорсинг #РынкиПредсказаний #АльтернативныйИИ #Прогнозирование #Будущее #ПринятиеРешений #Случайность #Память #КогнитивныеСистемы #Нейронаука #IARPA

Мда… И обо всем этом я собираюсь написать в одном постосериале? … Ну хотя бы попробую 😊
Вот 1й пост 1го сезона нового постосериала. https://goo.gl/2AemSJ

Проект «Карта будущего»
2й пост 1го сезона постосериала «ЦРУ создает кентавров для предсказания будущего»

Соперничество между военными и разведкой в США еще круче, чем соперничество между КГБ и МВД (во всех их исторических ипостасях). Т.е. было всегда и ныне процветает, касаясь, казалось бы, самых экзотических и неожиданных областей.
Самым ярким примером такого соперничества в последние десятилетия стала «30летняя война» Министерства обороны США и ЦРУ за первенство в обладании технологии предсказания будущего.

В 1й серии этого постосериала было рассказано, что:
✔️ предсказание будущего — это вовсе не шаманство, а острая необходимость для принятия решений в любом мало-мальски ответственном деле;
✔️ не смотря на крайнюю сложность более-менее точных предсказаний, людям все равно приходится делать предсказания каждый раз, когда нужно принимать решения — т.е. от предсказаний все равно никуда не денешься, и потому задача повышения точности предсказаний — крайне актуальная, вполне практическая и высокоприоритетная;
✔️ существуют 2х основных направления в области исследования методов и технологий повышения точности предсказаний:
— поиск и выявление супер-предсказателей;
— агрегация информации от многих предсказателей с использованием рыночных механизмов — рынков предсказаний.

Во 2ом посте будет рассказано о генеральном сражении «30летней войны» Министерства обороны США и ЦРУ за первенство в обладании технологией предсказания будущего.
Это генеральное сражение произошло 15 лет назад. Наступающей стороной было Министерство обороны США, а победителем стало ЦРУ.
Ну а главным героем этой битвы, во многом определившим направление исследований предсказания будущего на годы вперед, стал адмирал Пойндекстер — ключевая фигура наиболее хитроумных спецопераций американских военных, прозванный за это «Адмирал-затейник», а также:
— изобретатель ставшей сегодня широко известной технологии создания «Ситуационных центров»,
— отец стратегии информационных войн, программы тотального прослушивания и контртеррористических информационных операций,
— а ко всему прочему, страстный приверженец идеи необходимости поиска методов улучшения предсказаний будущего, как основного средства повышения национальной безопасности США.

Продолжить чтение в Instant View на Medium
https://goo.gl/9J2321

#ИнтеллектКентавра #AI #ИИ #IA #AIA #Краудсорсинг #РынкиПредсказаний #АльтернативныйИИ #Прогнозирование #Будущее #ПринятиеРешений #Случайность #Память #КогнитивныеСистемы #Нейронаука #IARPA

Предсказания становятся приоритетом.
3й пост постосериала «ЦРУ создает кентавров для предсказания будущего».

Новый этап исследований и разработок по предсказанию будущих событий для обеспечения национальной безопасности США возглавила разведка. Он продолжался до прошлого 2017 года и отличался от 1го этапа двумя принципиальными моментами:
1) Законодательный запрет на игру на деньги в области предсказаний, заставил сместить фокус исследований с рынков предсказаний на поиск супер-предсказателей и ряд других методов повышения эффективности предсказаний «коллективного интеллекта».
2) Объемы финансирования и, соответственно, число и разнообразие проектов качественно выросло после оглашения в 2004 результатов работы комиссии по теракту 9/11. Разведсообщество было поставлено перед фактом – делайте, что хотите, но такого повториться не должно.
Этот этап исследований можно условно назвать «Поиск максимума человеческих возможностей в предсказаниях». Об этом и будет рассказ.

Продолжить чтение в Instant View на Medium
https://goo.gl/4Y1Kp1

Предыдущие посты постосериала:
№1 https://goo.gl/2AemSJ
№2 https://goo.gl/9J2321

#ИнтеллектКентавра #AI #ИИ #IA #AIA #Краудсорсинг #РынкиПредсказаний #АльтернативныйИИ #Прогнозирование #Будущее #ПринятиеРешений #Случайность #Память #КогнитивныеСистемы #Нейронаука #IARPA

Не знаю, как читать, но писать о том, о чем в мире очень мало кто знает, - весьма увлекательно. Хочется писать и писать. Но даже лонгрид не резиновый.
Ну а как кратко описать, о чем этот лонгрид – вообще загадка.
Попробую последовать с детства любимому Жюлю-Верну.

Краткое содержание лонгрида про «топор под компасом американской разведки» и про то, кто кого сборет - краудсорсинг против рынков предсказаний:

Бомба замедленного действия. — Таинственная смерть на Эвересте. — Триумф и крах Intrade. — Упреждающая разведка. — ЦРУ спешит на помощь. — Результативность прогнозов растет. — Но точность хромает. — Два сокрушительных удара. — Черные лебеди не ловятся. — Требуются кентавры.

Мой новый пост https://goo.gl/ggcXCo

#ИнтеллектКентавра #AI #ИИ #IA #AIA #Краудсорсинг #РынкиПредсказаний #АльтернативныйИИ #Прогнозирование #Будущее #ПринятиеРешений #Случайность #Память #КогнитивныеСистемы #Нейронаука #IARPA

Алгоритм экономического доверия зашит в наших генах.
Это удивительное открытие озадачивает – а что еще там зашито?
Насколько сложные поведенческие стратегии и алгоритмы их исполнения зашиты в наших генах и передаются по наследству? Речь здесь не о простых поведенческих реакциях, типа страха, а о сложных поведенческих стратегиях, отсутствующих у животных, но имеющихся у людей.
Например, - базовая поведенческая стратегия, на которой стоит вся экономика человечества, и без которой нашей цивилизации просто не было бы. Речь об экономическом доверии – основе взаимовыгодного взаимодействия.

Что это такое, никому объяснять не нужно. Взрослый человек понимает это интуитивно. Два главных параметра этого понятия для нас столь же очевидны, как ощущение усталости или головной боли.
Первый параметр – потенциал пользы от проявляемого нами доверия (что мы может за наше доверие получить). Второй – моральный риск того, что партнер может нас обмануть (насколько больно нам будет в душе, если нас кинут).

До сих пор считалось, что сложные поведенческие стратегии, уровня экономического доверия, - продукт исключительно культурной эволюции человека. И, следовательно, экономическое доверие – плод социального научения человека в процессе жизни.
Однако, результаты исследования «Экономическое доверие у маленьких детей», опубликованного на прошлой неделе в Трудах Королевского научного общества, опровергает существующую точку зрения.

✔️ Путем разработанных авторами забавных и весьма креативных поведенческих экспериментов с куклами (см. видео, которое пока что посмотрели меньше 100 человек во всем мире!), авторы убедительно доказали, что в головах детей 4-6 летнего возраста уже есть все необходимое для понимания и следования стратегиям экономического доверия.

Дело в том, что в этом возрасте у детей просто отсутствуют:
- способности к ориентированному на будущее мышлению,
- опыт социального научения экономическим отношениям.
А это значит, что базовый уровень поведенческой стратегии экономического доверия, а также алгоритмы исполнения этой стратегии зашиты в наших генах.

И это поразительно. Ведь алгоритмика нейро-химического управления стратегией столь высокого уровня сложности куда сложней, чем, например, зашитые в нас алгоритмы ориентации в 3х мерном пространстве или оценки расстояний между предметами (FYI: оба этих умения лежат в основе научения ребенком тому, что мы называем «видеть», в первые месяцы после его рождения).

• Каким образом в ДНК умещаются столь сложные алгоритмы?
• Каким супер-эффективным кодом они там закодированы?
• А может, все-таки, они загружаются из каких-то внешних источников, отличных от опыта социального научения?

Все это пока неизвестно. Но тем интересней 🤓

Исследование:
- популярно;
- для профи.

#Биопсихология #ЭволюционнаяПсихология #ПринятиеРешений #Эволюция #СравнительнаяПсихология

Если ставка – жизнь, спасают лишь интуиция и молчаливое знание. И то, и другое можно натренировать, если знать как.
Увы, но самому главному в жизни нас не учат. Например, как спасти свою жизнь в экстремальных ситуациях: пожар, теракт и т.д. Классический подход к принятию важных решений учит – надо сформулировать проблему, очертить альтернативы, оценить варианты…
Однако, профессиональные пожарные вовсе не очерчивают альтернативы и не оценивают их, а используют первую более или менее приемлемую идею, которая приходит в голову, затем ищут следующую идею и т. д. Принятие решений у пожарных и близко не походит на то, что рекомендует классическая теория. Так же поступают и «морские котики», да и все профессиональные спасатели и бойцы спецподразделений в цейтнотных ситуациях жизни и смерти, характеризуемых высочайшей неуверенностью и нестабильностью, при которых рациональный подход к принятию решений не работает так, как предполагается.

Причина в том, что человеческая рациональность ограниченна, а требования к скорости обработки информации в экстремальных ситуациях намного превосходят познавательные способности людей. Поэтому в таких ситуациях нужно принимать решения не из расчета оптимальных исходов, а ориентируясь на то, что «достаточно хорошо» и довольствуясь тем, что есть. Разум нужно выключить, отдавшись на волю интуиции и своих «молчаливых знаний».

Чтобы научиться этому, существует специальных подход - Натуралистическое принятие решений Naturalistic Decision Decision (NDM). Он трактует интуицию наподобие глубокого обучения на большом количестве образцов, полученных в результате опыта, что приводит к различным формам молчаливого (неявного) знания. Не менее важно здесь принципиальное отличие интуиции и понимания.
- Интуиция зависит от «библиотеки моделей», которые человек приобрел в процессе жизни.
- А понимание является средством создания новых моделей.

NDM предлагает семь способов улучшения интуитивного принятия решений, основанных на создании у людей более совершенной библиотеки неявных знаний - Tacit Knowledge (молчаливое, неявное, невербализованное знание): от выбора «наименее худшего» варианта до практики рассказывания «мрачных историй».

И последнее. NDM – не очередное психо-разводилово. Этот подход разработан Гари Кляйном – проф. экспериментальной психологии экстремальных ситуаций, среди прочего, спроектировавшим Ситуационный центр Белого дома. Сегодня NDM - штатный метод подготовки к экстремальным ситуациям в армии, ВВС и ВМФ США, у пожарных и военных медсестер, морской пехоты и спецназа …

Подробней
- популярно
- научно

P.S. И кстати, как считают в McKinsey, в XXI веке «молчаливое знание» станет ключевым конкурентным преимуществом. Оно поможет совершить революцию в здравоохранении, торговле, страховании, финансовых услугах и консалтинге.
Подробней о возрастающей роли «молчаливого знания» при формировании сетевого разума - как будут устроены работа, развлечения, война и борьба с терроризмом в постиндустриальном мире, - читайте в моем посте на Republic.

#Интуиция #МолчаливоеЗнание #ПринятиеРешений

Надеюсь, в 2020 это открытие не только станет широко обсуждаемой сенсацией, но и:
- положит начало научной революции в экономике, социологии и психологии;
- запустит кардинальный пересмотр многих практических направлениях, связанных с принятием решений и оценкой рисков.
Наука, наконец, откажется от концептуально упрощенной трактовки вероятности без учёта фактора времени.
Технологии больших данных пересмотрят существующие подходы их анализа, основанные на вероятности больших ансамблей.
Бизнес кардинально поменяет методики анализа рисков и прогнозирования для большинства видов человеческой деятельности.
И все мы будем вынуждены переосмыслить отношение к случайностям, из которых, собственно, и состоит наша жизнь.

Все это может произойти потому, что даже математически выверенные ожидания, базирующиеся на ансамблевых средних значениях - от выигрыша в казино до выгодности страховки, - оказываются ошибочными, если не учитывать фактор времени.

А может никакой такой революции не произойдёт: ни в 2020, ни даже через 3, 5 или 10 лет. Ведь человечество неоднократно доказывало, что способно веками прекрасно уживаться с наивными и несовершенными представлениями о мире. Что солнце вращается вокруг неподвижной земли, что камни не могут падать с неба, да и мало ли ещё было … ((

Но все же не думаю, что снова случится подобное. Слишком уж разогнался ход времени, чтобы продолжилась и дальше 300 летняя практика его неучета при оценке вероятности выигрыша в случайных процессах.

Кем бы вы ни были по профессии, и какова бы ни была сфера ваших интересов, данная тема - одна из самых важных. И разобраться в ней обязательно надо. Но это не просто. Чтобы объяснить на примерах, что здесь к чему, мне пришлось написать лонгрид на 19 мин чтения, да еще и с 20 картинками:
- на Medium https://bit.ly/3IAKJ4k
- на Яндекс Дзен https://clck.ru/L6YrP

И кстати. Если даже такая тема вас не заинтересовала и нет желания читать дальше (мол, время жалко), - вы правы! Не тратьте больше свое драгоценное время и смело отписывайтесь от этого канала.
В мире ведь так много другого - общеизвестного неинтересного.
#Вероятность #Эргодичность #ПринятиеРешений

Для лиц принимающих решения, самое страшное – усугубить эпидемию ошибочными решениями из-за неверного понимания ситуации. А шансы такого неверного понимания крайне велики. Более того, они растут по мере прохождения плато эпидемии и снижения ее темпов.

О том, что:
• главный источник опасности – ориентация на средние значения показателей хода эпидемии,
• катастрофические локальные вспышки смертей таятся в толстом хвосте графика эпидемии,
• когда эпидемия пойдет на спад, может случиться непредвиденное - взрыв паники, сдетонировавшей от немыслимо большой локальной вспышки,

читайте в моем новом посте (4 мин чтения), резюмирующем предостережение проф. Кристофера Мура, - автора «нового закона Мура», установившего «пределы возможности компьютинга».

На Medium https://bit.ly/2W69ywv
На Яндекс Дзен https://clck.ru/NCQfQ
#Эпидемия #Вероятность #ПринятиеРешений

​​Байден лопух? В ЦРУ идиоты?
Возможно. Но причина сегодняшней суперновости в ином.
Сегодня, когда «Талибан» взял под контроль весь Афганистан, мир недоумевает: как мог президент Байден так лопухнуться, заявив 8-го июля: «вероятность того, что «Талибан» захватит всю страну, крайне невелика»?
Как такое могло быть сказано президентом сверхдержавы, обладающим доступом к, казалось бы, самой секретной информации от самых продвинутых аналитиков одной из самых крутых разведок мира?
Может дело в том, что Байден просто лопух? Или в ЦРУ сидят одни идиоты?
Увы, но ситуация куда хуже. И об этом уже полвека известно и в ЦРУ, и во всех других разведках мира.

Дело в том, что при оценке рисков принимаемых решений, политики (а) полагаются на прогнозы аналитиков разведки, но при этом (б) не понимают, что стоит за конкретными значениями вероятностей, указанных в этих прогнозах.

Ведь что имел в виду Байден, говоря “highly unlikely” во фразе “But the likelihood there’s going to be the Taliban overrunning everything and owning the whole country is highly unlikely.”?
И если вы думаете, что Байден имел в виду что-то типа 5%, то вы сильно ошибаетесь.

Еще полвека назад разведка НАТО задалась сакраментальным вопросом – а что это мы так часто лажаем в своих прогнозах?
Проведенное ими исследование показало.
✔️ Аналитики и офицеры разведки – тоже люди. А у людей весьма расплывчатые и путанные представления о вероятности. Из-за этого кто-то воспринимает оценку вероятности “highly unlikely”, как 5%. Другой же – как 20%, а третий – как менее 40%.
✔️ Политики и генералы – тоже люди. И у них представления о вероятности еще хуже. Поэтому, прочтя в заключении разведки оценку “highly unlikely” (написанную аналитиком, оценивающим эту вероятность менее 40%), политик запросто может интерпретировать это, как вероятность, менее 5%).

Информация для размышления
На приложенном рисунке показан разброс представлений людей о соотношении числовых и словесных оценок вероятности:
• слева – внутреннее руководство для аналитиков разведки (1);
• в середине – результаты опроса Reddit, как люди оценивают словесные оценки вероятности (2)
• справа – итоги исследования разведки НАТО (2)

Авторы исследования разведки НАТО пришли к такому выводу:
1) подобная расплывчатость и неоднозначность оценок вероятности делает решения, принимаемые связкой аналитиков разведки и политиков, непредсказуемо неточными.
2) поскольку почти все решения национального уровня принимаются такой связкой, необходимо в принципе отказаться от словесных формулировок при оценке вероятности (т.е. писать четко – напр. с вероятностью 80%)

После этого исследования прошло полвека. Думаете, что-то изменилось? Увы, нет.

Почему? Да просто ни разведчики, ни политики не хотят отвечать за базар. Ведь за вероятность в 5% многим пришлось бы отвечать. А какой спрос с “highly unlikely”? В конце концов, каждый понимает это по-своему.

N.B. Ну а если принять в расчет, что используемая уже 300 лет во всем мире модель рациональности при оценке рисков в корне ошибочна (см. «300 лет в искаженной реальности»), то спрашивать с разведки и политиков вообще не за что: ни за профуканный развал СССР, ни за сегодняшнее торжество «Талибан», ни за … Что там за сюрприз ждет нас в сентябре?
#Вероятность #ПринятиеРешений

​​Результаты голосования и вакцинации зависят от «обезьян» и «упертых».
Учет сложного взаимодействия когнитивных и социальных факторов при принятии коллективных решений.
Три прорывных открытия могут сильно повысить шансы человечества на благополучное прохождение новых кризисов в результате прилетов очередных «черных лебедей». Все они касаются способов принятия важных коллективных решений.

1-е открытие раскрывает секрет возникновения многих черных лебедей.
Они появляются в результате массового поведения людей в предкритических глобальных ситуациях: от обвалов финансовых рынков и экономических кризисов до схлопывания политических режимов (типа «Арабской весны») и инфо-вирусных пандемий (типа COVID-19).
Ключевых факторов того, взлетит ли новый черный лебедь или все как-то утрясется без катастроф, два:
1) насколько близко подошла система к критической (переломной) точке - фазовому переходу;
2) в какую сторону: к критической точке или от нее подталкивает систему коллективное поведение (как следствие коллективных решений).
Подробней см. (1)

2-е и 3-е открытия раскрывают секрет механизма принятия коллективных решений в предкризисных ситуациях.
Ведь в большинстве из них коллективное поведение общества играет не меньшую роль, чем стратегия, избираемая властью. А эта стратегия, в значительной степени, также зависит от предпочтений большинства в обществе (COVID-19 тому яркий пример).

2-е открытие в том, что наличие «упертых несогласных» в обществе кардинально повышает качество коллективных решений.
Упертые несогласные – это люди, имеющих собственное мнение, не вписывающееся в агрегированный итог иерархического сбора мнений, и не готовые от него отказаться даже под угрозой притеснений или даже репрессий.
Похоже, это новый закон природы - чем больше упертых несогласных, тем выше качество коллективных решений общества.
Подробней см. (2)

3-е открытие определяет критический порог «обезьян» в обществе, после которого катастрофически падает качество коллективных решений.
Исследование, опубликованное неделю назад в PNAS (3), уточняет и дополняет 2 предыдущих.
Подобно двум архетипам людей по их видению мира (ежи, которые смотрят на мир через призму одной определяющей идеи, и лисы, которые опираются на широкий спектр опыта и для которых мир не может быть сведён к одной идее), существуют два архетипа по принятию коллективных решений: кошки и обезьяны.
Люди – кошки предпочитают во всех вариантах выбора разбираться самим и принимать решение, опираясь на собственное понимание вопроса.
Тогда как люди – обезьяны не исследуют достоинства имеющихся вариантов самостоятельно, а принимают мнения и поведение других людей в качестве основы собственных решений.
Авторы исследования построили 1-ю в мире многопараметрическую модель, учитывающую сложное взаимодействие когнитивных и социальных факторов при принятии коллективных решений. Цель была – численно определить, где прячутся причины катастрофических коллективных решений.

Ответ найден.
В любом классе коллективных решений (от голосования на выборах до решения о вакцинации) существует критический порог доли числа «обезьян» в обществе, после которого возникает бистабильное состояние, позволяющее обществу отдать предпочтение худшему варианту. Если же критический порог не достигнут, общество тяготеет к лучшему из вариантов.

Дополнительный вывод исследования касается важной роли влияния «упертых несогласных» на «обезьян».
Рост их доли в обществе и степень их упертости может быть решающим фактором влияния на решения, принимаемые «обезьянами»

Этот вывод, подтверждаемый примерами многих революций, заставляет вспомнить мой пост 2011 года «Суперкомпьютер рассчитал, при каких условиях сменится власть в России» (кто не читал, погуглите).

ИТОГО: нужно снижать долю обезьян и повышать долю упертых.

Источники: 1, 2, 3,

#ПринятиеРешений

​​Мы не иррациональные обезьяны, а сверхэффективный суперкомпьютер.
Смена парадигмы иррациональности косвенно подтверждает вычислительную теорию разума.
Наша иррациональность (нерациональное поведение при принятии решений и осуществлении выбора) уникальна. Ни одно животное не способно действовать столь нерационально, выбирая, рискуя или сотрудничая. Люди – особый вид, иррациональность поведения которого (наряду с языком) превратила нас в царя природы и сверхразумное подобие Бога (кто бы еще из животных променял жизнь в раю на несколько укусов яблока - шутка, соответствующая реальности).

Разгадать природу нашей иррациональности психологи, экономисты и нейробиологи целенаправленно пытаются 60+ лет. В результате опубликованы тысячи научных статей и более двухсот монографий, присуждено несколько Нобелевских премий, проданы миллионы экземпляров мировых бестселлеров... 1
Но центральный вопрос экономики, психологии и нейробиологии принятия иррациональных решений – почему поведение людей при выборе вариантов столь предвзято, - по-прежнему открыт.

Установлено, что источником предвзятостей являются многообразные когнитивные искажения 2.
Но что за механизм их вызывает?

Согласно традиционным представлениям, механизм примерно таков - мозг функционирует, как несколько конкурирующих агентов 3:
• быстро и неосознанно на автомате решающей Системы 1
• и внимательно-задумчивой и потому медленной Системы 2
В результате внутренней конкуренции агентов возникают когнитивные искажения, ведущие к иррациональному поведению: странные финансовые решения; поступки, совершенные как бы в несознанке; импульсивные решения во вред себе (типа приема наркотиков) и т.д. 4

ОДНАКО!

В августовском выпуске Trends in Cognitive Sciences 5 публикуется новая работа отца нейроэкономики Пола Глимчера «Efficiently irrational: deciphering the riddle of human choice». Она подводит итог 10-летних исследований Глимчера, результаты которых могут кардинально поменять существующую научную парадигму объяснения иррациональности выбора людей в нейробиологии, психологии, экономике, социологии и политике.

Революционный вывод новой теории в том, что никакой иррациональности нет: мозг вовсе не максимизирует функцию полезности, а абсолютно рационально ищет компромисс между точностью своих вычислений и энергозатратами на них.

Сверхразумность Homo имеет высокую энергетическую цену (см. рис. ниже):
• Вычислительные потребности мозга около 10 ватт энергии в час (за сутки - 240 Вт)
• Для выработки 240 Вт требуется примерно 400 ккал энергии (около 20% суточной нормы поступающих с пищей калорий)
Это сверхэффективное энергопотребление мозга в сравнении с современными компьютерами, потребляющими в 30-100 раз больше энергии, но зато способными обеспечить высочайшую точность вычислений.

Чтобы повысить точность вычислений мозга на порядок, потребовалось бы 100 ватт энергии в час.
• За сутки энергопотребление составило бы 2400 Вт
• Для их выработки требуется примерно 4000 ккал энергии. Если этот объем калорий составит около 70% суточной потребности, то человеку потребуется ежедневно потреблять пищи, содержащей около 5600 ккал.
Т.е. для повышения точности вычислений лишь на 1 порядок, людям пришлось бы есть в 3 раза больше.

Реальность среды обитания не позволяла эволюции пойти на подобные энергозатраты мозга. Пришлось искать компромисс между точностью вычислений и энергопотреблением.

Как это делается в мозге, сам Глимчер рассказывает в часовой лекции 6.
И если Глимчер прав, это сильный (хоть и косвенный) аргумент в пользу вычислительной теории разума.
#Рациональность #КогнитивныеИскажения #ПринятиеРешений

​​Пусть у меня корова сдохнет — лишь бы у соседа не было двух!
Экспериментальное подтверждение, что «ненависть к чужим» сильнее в нас «любви к своим».
В процессе эволюции «прошивка мозга» Homo sapiens претерпела ряд качественных изменений, сделавших нас кардинально отличными от животных. В результате этого бывшие животные превратились в совершенно иных существ, чья природа сочетает в себе взрывоопасный коктейль противоречивых качеств ангелов и демонов.

О коктейле добра и зла в нашей «прошивке» я уже писал. Так что теперь расскажу о другом адско-райском коктейле.

Новая научная работа «Люди предпочитают наносить вред своей собственной группе, лишь бы не помогать противостоящей группе» экспериментально подтверждает наличие в нас еще одного адско-райского коктейля из «ненависти к чужим» и «любви к своим».

Этот коктейль работает в нас при принятии решений, касающихся антагонистических социальных групп: своих (наших) и чужих (не наших).

Авторы новой работы Рэйчел Гершон и Ариэль Фридман, проанализировав результаты шести независимых исследований психологии принятия решений, показали, что «внегрупповая ненависть» в нас определенно сильнее «внутригрупповой любви».

Эта работа - недвусмысленное свидетельство того, что люди настолько не склонны демонстрировать поддержку антагонистической группе «не наших», что готовы заплатить за это, причиняя бОльший вред своей собственной группе «наших».

Важно понимать, что данный коктейль оказывает решающее влияние на поддержку социо-демографическими группами «своих и чужих» абсолютно по любым вопросам (политическим, социальным, военным).

Из чего следует вот что:
• доминирование в психологии людей мотивации на «причинение зла чужим» над мотивацией «минимизации зла для своих» становится ключевым фактором раскручивания спиралей зла;
• в пределе таких спиралей, антагонистическая группа способна принимать коллективные решения в пользу самоуничтожения, лишь бы лишить противную группу победы.

Есть над чем призадуматься.

FYI В канале еще десятки интересный постов с тэгом #ПринятиеРешений

Когнитивные иллюзии ведут к когнитивным ловушкам.
Начинается переосмысление: ИИ - это неизбежность, а не панацея.
Редакционная статья Nature «Почему ученые слишком доверяют ИИ - и что с этим делать» [1] впервые на столь высоком научном уровне кардинально смещает фокус видения ИИ-рисков для человечества:
Колоссальная и уже сейчас вполне реальная опасность развития ИИ-технологий - отнюдь не попадание людей под пяту Сверхразума, и влияние на наш разум этого супер-инструмента расширения когнитивных возможностей людей.

Также было и при освоении человеком огня: первоначальное примитивное понимания рисков смещалось по мере развития технологий использования огня: от риска ожога и сгоревшего шалаша к рискам огнеметов, напалма и хиросим.

С ИИ рисками происходит подобное, только много быстрее: от рисков несогласованных с людьми целей ИИ к рискам когнитивных иллюзий, - наших иллюзий, а не ИИ, - но миллиардократно им усугубленным.

Опираясь на данные антропологии и когнитивной науки, исследователи университетов Йеля и Принстона первой среди таких иллюзий называют иллюзию понимания (иллюзию глубины объяснения), когда люди, полагаясь на ИИ, считают свои знания глубже и точнее, чем на самом деле [2].

Итогом этого становятся когнитивные ловушки. Степень катастрофичности которых зависит от «впаянности» когнитивной иллюзии в нашу когнитивную практику и от её институализированности в научном дискурсе.

Об одной из самых поразительных когнитивных иллюзий, в плену которой человечество пребывает уже более 300 лет, я писал в лонгриде «300 лет в искаженной реальности» [3].

Новый лонгрид «Ловушка неэргодических целей. Самый технопродвинутый путь к катастрофическим решениям» - , как и следует из названия, о потенциальных катастрофических последствиях превращения, при применении ИИ, этой самой накрепко впаянной в нас когнитивной иллюзии в колоссальную когнитивную ловушку.

P.S. Не удивляйтесь, что этот и последующие мои лонгриды теперь на Boosty и Patreon
https://www.patreon.com/user?u=121753727
https://boosty.to/theworldisnoteasy
Иного способа понять, стоит ли время на написание лонгридов реального интереса к ним со стороны 140 тыс моих бесплатных подписчиков на 4-х существующих платформах, у меня нет.
Кроме того, для подписчиков на Boosty и Patreon:
• Открыт ТГ-чат для комментариев и обсуждений, где я планирую отвечать на вопросы читателей.
• Также планируется рассылка несколько раз в год тщательно отобранных подборок моих откомментированных текстов в виде электронных книг.
• Позже есть мысли сделать и подкаст

Так что, добро пожаловать в клуб «Малоизвестное интересное»!

И спасибо всем за поздравления с ДР! 😊

1 https://www.nature.com/articles/d41586-024-00639-y
2 https://www.nature.com/articles/s41586-024-07146-0
3 https://t.iss.one/theworldisnoteasy/953
#Вероятность #Эргодичность #ПринятиеРешений