Самый страшный порок – не трусость, а иллюзия объективности.
Булгакова не интересовала политическая психологии, а во времена Иешуа Га-Ноцри её вообще не было. Отсюда и вывод, что «трусость – самый страшный порок».
Великий сэр Исайя Берлин понимал тонкости политической психологии, как никто другой. И потому так описал самый страшный порок людей.
«Мало что принесло больше вреда, чем вера отдельных людей или групп (племен, государств, наций или церквей) в то:
- что они единолично владеют истиной, особенно о том, как жить, чем быть и что делать,
- что те, кто думает иначе, не просто ошибаются, а злые или безумные, которых нужно сдерживать, а то и подавлять.
Это ужасное и опасное высокомерие - верить, что ты один прав, что у тебя есть «волшебный глаз», который видит истину, и что другие не могут быть правы, если они с тобой не согласны».
Такая вера отдельных людей или групп в психологии называется «иллюзия объективности». Будучи одним из самых сильных когнитивных искажений (встроенных в нас эволюцией глубинных нейропрограмм), иллюзия объективности обладает широчайшим спектром влияния на сознание.
В первую очередь, это выражается в «галлюцинотворчестве мозга» в отношении к восприятию визуальных образов (см. мой пост). Но «галлюцинотворчество мозга» - это еще не самое худшее.
Куда страшнее социально психологические последствия «иллюзии объективности» для понимания мотивов и хода мыслей других людей.
• Люди привычно делят мир на своих и чужих.
• Что же до взглядов сторон, то и здесь все предельно просто.
- “Моя сторона” достаточно информирована и видит мир объективно.
- “Другая сторона” недостаточно (а то и превратно) информирована и видит мир через призму своих предубеждений.
Новое исследование психологов Стэнфордского университета «The objectivity illusion and voter polarization in the 2016 presidential election», путем серии оригинальных экспериментов, показало следующее:
• Иллюзия объективности не просто «одурачивает» каждого из нас, предельно упрощая картину миру и озлобляя против “другой стороны” (и неважно, о чем речь: спор о выборе марки нового авто или выборах президента).
• Иллюзия объективности, встраиваясь во все наши инфопотоки, становится главным фактором роста поляризации общества.
• Но самое плохое в том, что исследование экспериментально подтвердило положительную обратную связь между силой действия иллюзии объективности и разделением на «наших» и «не наших». Это значит, что на уровне встроенного в каждого из нас нейрокода природа предусмотрела лишь единственный путь разрешения противоречий – если “другая сторона” не сдается, то её уничтожают.
Что же тогда мешает окончательному смертоубийству сторон, не способных справиться с встроенной в мозг иллюзией объективности (как у двух алкашей, убивающих друг друга, сражаясь с галлюцинациями белой горячки)?
Это культура, до сих пор спасающая Homo sapiens от тотального взаимоистребления. Культурные коды, надстроенные в мозге много выше нейрокодов, встроенных эволюцией, способны как-то сдерживать общество от взаимного уничтожения.
Хватит ли сдерживающих сил культуры в условиях тотального нарастания супер-поляризации (внутри обществ и между ними), пока не известно. Усугубление положительной обратной связи «иллюзии объективности» нелинейно, и в любой момент может произойти скачок. Произойдет ли он во внутреннем расколе общества или между странами, - в любом случае велик шанс, что это будут яростные 2020-е.
#Раскол #КогнитивныеИскажения
Булгакова не интересовала политическая психологии, а во времена Иешуа Га-Ноцри её вообще не было. Отсюда и вывод, что «трусость – самый страшный порок».
Великий сэр Исайя Берлин понимал тонкости политической психологии, как никто другой. И потому так описал самый страшный порок людей.
«Мало что принесло больше вреда, чем вера отдельных людей или групп (племен, государств, наций или церквей) в то:
- что они единолично владеют истиной, особенно о том, как жить, чем быть и что делать,
- что те, кто думает иначе, не просто ошибаются, а злые или безумные, которых нужно сдерживать, а то и подавлять.
Это ужасное и опасное высокомерие - верить, что ты один прав, что у тебя есть «волшебный глаз», который видит истину, и что другие не могут быть правы, если они с тобой не согласны».
Такая вера отдельных людей или групп в психологии называется «иллюзия объективности». Будучи одним из самых сильных когнитивных искажений (встроенных в нас эволюцией глубинных нейропрограмм), иллюзия объективности обладает широчайшим спектром влияния на сознание.
В первую очередь, это выражается в «галлюцинотворчестве мозга» в отношении к восприятию визуальных образов (см. мой пост). Но «галлюцинотворчество мозга» - это еще не самое худшее.
Куда страшнее социально психологические последствия «иллюзии объективности» для понимания мотивов и хода мыслей других людей.
• Люди привычно делят мир на своих и чужих.
• Что же до взглядов сторон, то и здесь все предельно просто.
- “Моя сторона” достаточно информирована и видит мир объективно.
- “Другая сторона” недостаточно (а то и превратно) информирована и видит мир через призму своих предубеждений.
Новое исследование психологов Стэнфордского университета «The objectivity illusion and voter polarization in the 2016 presidential election», путем серии оригинальных экспериментов, показало следующее:
• Иллюзия объективности не просто «одурачивает» каждого из нас, предельно упрощая картину миру и озлобляя против “другой стороны” (и неважно, о чем речь: спор о выборе марки нового авто или выборах президента).
• Иллюзия объективности, встраиваясь во все наши инфопотоки, становится главным фактором роста поляризации общества.
• Но самое плохое в том, что исследование экспериментально подтвердило положительную обратную связь между силой действия иллюзии объективности и разделением на «наших» и «не наших». Это значит, что на уровне встроенного в каждого из нас нейрокода природа предусмотрела лишь единственный путь разрешения противоречий – если “другая сторона” не сдается, то её уничтожают.
Что же тогда мешает окончательному смертоубийству сторон, не способных справиться с встроенной в мозг иллюзией объективности (как у двух алкашей, убивающих друг друга, сражаясь с галлюцинациями белой горячки)?
Это культура, до сих пор спасающая Homo sapiens от тотального взаимоистребления. Культурные коды, надстроенные в мозге много выше нейрокодов, встроенных эволюцией, способны как-то сдерживать общество от взаимного уничтожения.
Хватит ли сдерживающих сил культуры в условиях тотального нарастания супер-поляризации (внутри обществ и между ними), пока не известно. Усугубление положительной обратной связи «иллюзии объективности» нелинейно, и в любой момент может произойти скачок. Произойдет ли он во внутреннем расколе общества или между странами, - в любом случае велик шанс, что это будут яростные 2020-е.
#Раскол #КогнитивныеИскажения
Кругом нас не одни идиоты.
Крутейший прорыв в психологии взаимонепонимания.
Мир захлебывается от поляризации мнений, научных гипотез и морально-этических расхождений. По любому важному вопросу – от потепления и ГМО до масок и вакцинаций, - сторонники противоположных позиций в баталиях споров теряют друзей и остатки веры в разумность оппонентов, все более склоняясь к непреодолимости когнитивных искажений и пороков мышления людей, ведущих во тьму интеллектуальной слепоты.
Лучом света в этом все быстрее темнеющем царстве может стать новая прорывная гипотеза Войтовича и ДеДео, опубликованная ими в работе «От вероятности к согласию: как объяснительные ценности реализуют байесовское рассуждение».
Эта гипотеза:
✔️ может дать продуктивный способ смягчения противоречий (а то и способом преодоления) взаимонепонимания групп специалистов и общественности, стоящих на противоположных позициях в самых жизненно важных научных и морально-этических вопросах;
✔️ позволяет переосмыслить объяснительные пороки, которые движут теории заговора, заблуждения на основе отрицания науки и экстремистские идеологии.
Предложенная Фристоном новая «конституция биоматематики» предполагает, что мозг использует байесовскую модель мира и байесовский вывод— основанный на теореме Байеса вероятностный вывод, в котором свидетельства и/или наблюдения используются, чтобы обновить или вновь вывести вероятность того, что гипотеза может быть верной.
Войтович и ДеДео пошли похожим путем, предложив байесовское объяснение того, как в нашем мозге сочетается множество объяснительных ценностей, на основе которых мы принимаем или отвергаем объяснения некоторых фактов (обычно, оппоненты соглашаются с фактами, но категорически не согласны с их объяснением).
Если любопытство побуждает искать ответы на важные вопросы, то объяснительные ценности - это субъективные состояния, связанные с получением удовлетворения при нахождении «хороших» (нравящихся) ответов.
В работе Войтовича и ДеДео:
1. Предложена таксономия объяснительных ценностей – неких измерений, по которым мы оцениваем объяснения как лучшие или худшие.
2. Полученная таксономия дает набор предикторов того, из чего складываются предпочтения людей к тем или иным объяснениям, а также показывает, как основные ценности психологии, статистики и философии науки возникают из общей математической структуры байесовской процедуры.
3. Операционное применение таксономии и байесовского подхода позволяют измерять и сравнивать объяснительные предпочтения в различных контекстах, включая визуальное восприятие, политику и науку.
Предельно упрощая, можно сказать, что объяснительные ценности делятся на две группы:
• первая связана с оценкой объяснения в свете опыта,
• а вторая касается внутренних особенностей объяснения.
Неспособность настолько хорошо объяснить, чтобы убедить оппонента, может быть понята как дисбаланс в этих ценностях.
Если найти баланс, оппонент может согласиться. Но нахождение баланса между многими объяснительными ценностями является сложной когнитивной проблемой.
Авторы приводят примеры нахождения баланса между объяснительными ценностями:
• простоты и эстетической элегантности объяснения
• сложных сообъяснений, пытающихся решить сразу несколько головоломок одним махом.
Особенно интересны примеры, приводимые авторами по теории заговора.
Например, история террориста из Оклахома-Сити Тимоти Маквея, который был арестован вскоре после взрыва за то, что ехал без номерного знака с заряженным пистолетом на пассажирском сиденье. Людям было трудно понять, как преступный гений может быть таким беспечным козлом. И потому многим было куда легче поверить, что Маквей просто стал козлом отпущения в заговоре элиты.
На приложенном рисунке: слева – кадр из рассказа о конспирологическом меме Pepe Silva, справа – один из авторов исследования Саймон ДеДео.
#Поляризация #Раскол #КогнитивныеИскажения
Крутейший прорыв в психологии взаимонепонимания.
Мир захлебывается от поляризации мнений, научных гипотез и морально-этических расхождений. По любому важному вопросу – от потепления и ГМО до масок и вакцинаций, - сторонники противоположных позиций в баталиях споров теряют друзей и остатки веры в разумность оппонентов, все более склоняясь к непреодолимости когнитивных искажений и пороков мышления людей, ведущих во тьму интеллектуальной слепоты.
Лучом света в этом все быстрее темнеющем царстве может стать новая прорывная гипотеза Войтовича и ДеДео, опубликованная ими в работе «От вероятности к согласию: как объяснительные ценности реализуют байесовское рассуждение».
Эта гипотеза:
✔️ может дать продуктивный способ смягчения противоречий (а то и способом преодоления) взаимонепонимания групп специалистов и общественности, стоящих на противоположных позициях в самых жизненно важных научных и морально-этических вопросах;
✔️ позволяет переосмыслить объяснительные пороки, которые движут теории заговора, заблуждения на основе отрицания науки и экстремистские идеологии.
Предложенная Фристоном новая «конституция биоматематики» предполагает, что мозг использует байесовскую модель мира и байесовский вывод— основанный на теореме Байеса вероятностный вывод, в котором свидетельства и/или наблюдения используются, чтобы обновить или вновь вывести вероятность того, что гипотеза может быть верной.
Войтович и ДеДео пошли похожим путем, предложив байесовское объяснение того, как в нашем мозге сочетается множество объяснительных ценностей, на основе которых мы принимаем или отвергаем объяснения некоторых фактов (обычно, оппоненты соглашаются с фактами, но категорически не согласны с их объяснением).
Если любопытство побуждает искать ответы на важные вопросы, то объяснительные ценности - это субъективные состояния, связанные с получением удовлетворения при нахождении «хороших» (нравящихся) ответов.
В работе Войтовича и ДеДео:
1. Предложена таксономия объяснительных ценностей – неких измерений, по которым мы оцениваем объяснения как лучшие или худшие.
2. Полученная таксономия дает набор предикторов того, из чего складываются предпочтения людей к тем или иным объяснениям, а также показывает, как основные ценности психологии, статистики и философии науки возникают из общей математической структуры байесовской процедуры.
3. Операционное применение таксономии и байесовского подхода позволяют измерять и сравнивать объяснительные предпочтения в различных контекстах, включая визуальное восприятие, политику и науку.
Предельно упрощая, можно сказать, что объяснительные ценности делятся на две группы:
• первая связана с оценкой объяснения в свете опыта,
• а вторая касается внутренних особенностей объяснения.
Неспособность настолько хорошо объяснить, чтобы убедить оппонента, может быть понята как дисбаланс в этих ценностях.
Если найти баланс, оппонент может согласиться. Но нахождение баланса между многими объяснительными ценностями является сложной когнитивной проблемой.
Авторы приводят примеры нахождения баланса между объяснительными ценностями:
• простоты и эстетической элегантности объяснения
• сложных сообъяснений, пытающихся решить сразу несколько головоломок одним махом.
Особенно интересны примеры, приводимые авторами по теории заговора.
Например, история террориста из Оклахома-Сити Тимоти Маквея, который был арестован вскоре после взрыва за то, что ехал без номерного знака с заряженным пистолетом на пассажирском сиденье. Людям было трудно понять, как преступный гений может быть таким беспечным козлом. И потому многим было куда легче поверить, что Маквей просто стал козлом отпущения в заговоре элиты.
На приложенном рисунке: слева – кадр из рассказа о конспирологическом меме Pepe Silva, справа – один из авторов исследования Саймон ДеДео.
#Поляризация #Раскол #КогнитивныеИскажения
Ловушка уныния – самое опасное когнитивное искажение для общества.
Но петли отрицательных обратных связей можно разорвать.
Оглядываясь на прошедший год, трудно не испытать приступ безнадеги.
• Накрывшая мир инфопандемия COVID-19 и панически-идиотическая реакция на нее большинства правительств.
• Ненасильственный протест сотен тысяч и зверские расправы диктатора в ответ.
• Судорожные попытки самовлюбленного идиота удержать власть и танец полуголого шамана в Капитолии.
• Обнуление вкупе с обрезанием конституции так, что уже, кажется, больше никогда не отрастет…
В результате всего этого повсеместного торжества непреодолимого идиотизма, всё больше людей впадают в «ловушку уныния» - одно из самых опасных когнитивных искажений.
Очень важно понимать, что помимо нарастающего депресняка безысходности, страшнейшим последствием этого когнитивного искажения становится цикл отрицательной обратной связи, в котором невозможность исправить ситуацию становится самореализующейся.
И еще важнее понимать вот что.
✔️ Если не останавливать усилия в борьбе, если не сдаваться и продолжать держаться стиснув зубы, то неизбежно достижение критического порога, после прохождения которого вы победите (желающие могут перечитать «Мексиканец» Джека Лондона).
✔️ Успех подобных побед может быть очень заразителен, стимулируя еще неделю назад невозможный уровень мобилизации.
Об этом, на примере законодательного успеха французских активистов, первыми в мире сумевших пробить закон «Об обязанности проявлять должную осмотрительность» (интеграция социальной и экологической ответственности крупных корпораций), рассказывается в брифе Элис Эванс, где есть и ссылка на глобальный проект и большую статью Эванс на эту тему.
https://www.rebuildingmacroeconomics.ac.uk/post/despondency-trap-how-to-break-the-negative-feedback-loop
Казалось бы, что здесь нового.
Да лишь то, что все мы знаем про опасность самореализующихся пророчеств. Но как-то забываем о циклах отрицательной обратной связи, в которых невозможность исправить ситуацию также становится самореализующейся.
#КогнитивныеИскажения
Но петли отрицательных обратных связей можно разорвать.
Оглядываясь на прошедший год, трудно не испытать приступ безнадеги.
• Накрывшая мир инфопандемия COVID-19 и панически-идиотическая реакция на нее большинства правительств.
• Ненасильственный протест сотен тысяч и зверские расправы диктатора в ответ.
• Судорожные попытки самовлюбленного идиота удержать власть и танец полуголого шамана в Капитолии.
• Обнуление вкупе с обрезанием конституции так, что уже, кажется, больше никогда не отрастет…
В результате всего этого повсеместного торжества непреодолимого идиотизма, всё больше людей впадают в «ловушку уныния» - одно из самых опасных когнитивных искажений.
Очень важно понимать, что помимо нарастающего депресняка безысходности, страшнейшим последствием этого когнитивного искажения становится цикл отрицательной обратной связи, в котором невозможность исправить ситуацию становится самореализующейся.
И еще важнее понимать вот что.
✔️ Если не останавливать усилия в борьбе, если не сдаваться и продолжать держаться стиснув зубы, то неизбежно достижение критического порога, после прохождения которого вы победите (желающие могут перечитать «Мексиканец» Джека Лондона).
✔️ Успех подобных побед может быть очень заразителен, стимулируя еще неделю назад невозможный уровень мобилизации.
Об этом, на примере законодательного успеха французских активистов, первыми в мире сумевших пробить закон «Об обязанности проявлять должную осмотрительность» (интеграция социальной и экологической ответственности крупных корпораций), рассказывается в брифе Элис Эванс, где есть и ссылка на глобальный проект и большую статью Эванс на эту тему.
https://www.rebuildingmacroeconomics.ac.uk/post/despondency-trap-how-to-break-the-negative-feedback-loop
Казалось бы, что здесь нового.
Да лишь то, что все мы знаем про опасность самореализующихся пророчеств. Но как-то забываем о циклах отрицательной обратной связи, в которых невозможность исправить ситуацию также становится самореализующейся.
#КогнитивныеИскажения
Rebuild Macro
Despondency Trap: How to break the Negative Feedback Loop
by Alice EvansMany activists are caught in a despondency trap (working paper here). Never seeing radical reform, they lower their ambitions, and invest in more feasible but sub-optimal alternatives. This creates a negative feedback loop, in which the dearth…
Незнание о незнании присуще не только дуракам. Самое известное когнитивное искажение оказалось миражом измерений.
Если человека спросить температуру кипения ртути, скорее всего, он не станете отвечать. Ибо знает, что не знает ответа. Но если спросить столицу Шотландии, многие подумают, что знают ответ. И назовут… Глазго, тогда как это Эдинбург. А Глазго – всего лишь недостоверная информация, засевшая в мозге и своим наличием порождающая «незнание о незнании».
Так что же тогда, - это «незнание о незнании»?
И может ли оно быть результатом когнитивного искажения?
Всем известно, что когнитивные искажения - это плохо, ибо они не позволяют нам видеть объективную картину мира и самого себя. Самым распространенным и, возможно, самым влиятельным из когнитивных искажений считается «Эффект Даннинга-Крюгера» (ЭДК).
В быту ЭДК трактуют, как «когнитивную предвзятость иллюзорного превосходства», в просторечии определяемое «чем человек тупее, тем он уверенней в себе».
Подобная трактовка не так уж далека от научной, где ЭДК определяют примерно так.
✔️ Люди с низким уровнем знаний/компетенций, необходимых для выполнения конкретного задания (или вынесения суждения), переоценивают свои зна-я/ком-ии.
✔️ Люди с высоким уровнем зна-й/ком-ий наоборот – недооценивают свои зна-я/ком-ии.
Про это есть и у великих.
• «Невежество чаще рождает уверенность, нежели знание» (Чарльз Дарвин).
• «Одно из неприятных свойств нашего времени состоит в том, что те, кто испытывает уверенность, глупы, а те, кто обладает хоть каким-то воображением и пониманием, исполнены сомнений и нерешительности» (Бертран Рассел).
Но оказывается, такая трактовка ЭДК ошибочна
▪️ ЭДК вовсе не про «глупых или некомпетентных людей, не знающих, что они глупые и некомпетентные», и не про «невежественных людей, которые очень высокомерны и уверены в своем незнании». И вообще, ЭДК не про отсутствие у человека информации, а про «незнание о незнании», порождаемом у него недостоверной информацией.
▪️ Кроме того, ЭДК – это даже не когнитивное искажение мозга, поскольку аналогичный эффект опытным путем можно получить на случайных, сгенерированных компьютером данных.
▪️ Скорее, ЭДК является следствием того, как измеряются результаты наблюдений и точности самооценок. А эта точность оказывается довольно низкой. Например, моя оценка, насколько хорошо я сдал сегодня тест, может измениться завтра, если изменится мое настроение. И в результате этого моя уверенность в себе может пошатнуться. Таким образом, любое измерение самооценки в некоторой степени ненадежно, что не позволяет надежно отделить действительно существующий психологический эффект от контекста эксперимента. А если убрать из измерений эту ненадежность, ты выясняется, что «глупые и умные», равно как и «компетентные и не очень» примерно одинаково подвержены ЭДК.
Подробней:
популярно - https://bit.do/fNenX;
научно – https://bit.do/fNen3 https://bit.do/fNen7 https://bit.do/fNeoa.
ОК. Допустим это так, скажете вы. И зададите 2 вопроса.
1) Есть ли на свете глупые люди, которые не осознают, что они глупы?
Конечно же да. Но ЭДК совсем не о них.
2) Есть ли столь высокомерные люди, что всегда уверены в своей правоте?
Конечно, но Даннинг и Крюгер не измеряли уверенность или высокомерие в своих экспериментах.
Но если так, и ЭДК здесь ни при чем, почему же тогда люди, меньше всего разбирающиеся в сложных вопросах, становятся всё более убеждены, что знают о них предостаточно? Почему, не смотря на всеобщую грамотность и массовое просвещение, складывается устойчивое впечатление, что мир глупеет?
Причины две:
1) Взрывной рост объема информации, в котором достоверная информация просто тонет.
2) Кардинальное изменение структуры и механизмов инфокоммуникационной среды людей: засилье алгоритмов, безмасштабные инфосети, стигмергия цифровых следов, инфокаскады и т.д.
Но это уже другая история, о которой будет отдельный пост.
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота
Если человека спросить температуру кипения ртути, скорее всего, он не станете отвечать. Ибо знает, что не знает ответа. Но если спросить столицу Шотландии, многие подумают, что знают ответ. И назовут… Глазго, тогда как это Эдинбург. А Глазго – всего лишь недостоверная информация, засевшая в мозге и своим наличием порождающая «незнание о незнании».
Так что же тогда, - это «незнание о незнании»?
И может ли оно быть результатом когнитивного искажения?
Всем известно, что когнитивные искажения - это плохо, ибо они не позволяют нам видеть объективную картину мира и самого себя. Самым распространенным и, возможно, самым влиятельным из когнитивных искажений считается «Эффект Даннинга-Крюгера» (ЭДК).
В быту ЭДК трактуют, как «когнитивную предвзятость иллюзорного превосходства», в просторечии определяемое «чем человек тупее, тем он уверенней в себе».
Подобная трактовка не так уж далека от научной, где ЭДК определяют примерно так.
✔️ Люди с низким уровнем знаний/компетенций, необходимых для выполнения конкретного задания (или вынесения суждения), переоценивают свои зна-я/ком-ии.
✔️ Люди с высоким уровнем зна-й/ком-ий наоборот – недооценивают свои зна-я/ком-ии.
Про это есть и у великих.
• «Невежество чаще рождает уверенность, нежели знание» (Чарльз Дарвин).
• «Одно из неприятных свойств нашего времени состоит в том, что те, кто испытывает уверенность, глупы, а те, кто обладает хоть каким-то воображением и пониманием, исполнены сомнений и нерешительности» (Бертран Рассел).
Но оказывается, такая трактовка ЭДК ошибочна
▪️ ЭДК вовсе не про «глупых или некомпетентных людей, не знающих, что они глупые и некомпетентные», и не про «невежественных людей, которые очень высокомерны и уверены в своем незнании». И вообще, ЭДК не про отсутствие у человека информации, а про «незнание о незнании», порождаемом у него недостоверной информацией.
▪️ Кроме того, ЭДК – это даже не когнитивное искажение мозга, поскольку аналогичный эффект опытным путем можно получить на случайных, сгенерированных компьютером данных.
▪️ Скорее, ЭДК является следствием того, как измеряются результаты наблюдений и точности самооценок. А эта точность оказывается довольно низкой. Например, моя оценка, насколько хорошо я сдал сегодня тест, может измениться завтра, если изменится мое настроение. И в результате этого моя уверенность в себе может пошатнуться. Таким образом, любое измерение самооценки в некоторой степени ненадежно, что не позволяет надежно отделить действительно существующий психологический эффект от контекста эксперимента. А если убрать из измерений эту ненадежность, ты выясняется, что «глупые и умные», равно как и «компетентные и не очень» примерно одинаково подвержены ЭДК.
Подробней:
популярно - https://bit.do/fNenX;
научно – https://bit.do/fNen3 https://bit.do/fNen7 https://bit.do/fNeoa.
ОК. Допустим это так, скажете вы. И зададите 2 вопроса.
1) Есть ли на свете глупые люди, которые не осознают, что они глупы?
Конечно же да. Но ЭДК совсем не о них.
2) Есть ли столь высокомерные люди, что всегда уверены в своей правоте?
Конечно, но Даннинг и Крюгер не измеряли уверенность или высокомерие в своих экспериментах.
Но если так, и ЭДК здесь ни при чем, почему же тогда люди, меньше всего разбирающиеся в сложных вопросах, становятся всё более убеждены, что знают о них предостаточно? Почему, не смотря на всеобщую грамотность и массовое просвещение, складывается устойчивое впечатление, что мир глупеет?
Причины две:
1) Взрывной рост объема информации, в котором достоверная информация просто тонет.
2) Кардинальное изменение структуры и механизмов инфокоммуникационной среды людей: засилье алгоритмов, безмасштабные инфосети, стигмергия цифровых следов, инфокаскады и т.д.
Но это уже другая история, о которой будет отдельный пост.
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота
Миру срочно нужен психотерапевт.
Уникальный анализ культуромики когнитивных искажений с 1855 по 2019.
Скоро будут официально опубликованы результаты уникального по объему и важности исследования «Исторические языковые записи свидетельствуют о всплеске когнитивных искажений в последние десятилетия».
Наблюдаемое в 21 веке ускорение мировых процессов все чаще заставляет использовать метафору «фазового перехода», переживаемого человечеством. И хотя академическая наука не в состоянии подтвердить или опровергнуть наличие какого-либо «фазового перехода» (напр., вхождения земной цивилизации в зону эволюционной сингулярности), практических свидетельств этого становится все больше.
На сей раз весьма убедительное свидетельство пришло из исследования культурно-лингвистической динамики (культуромики). Это новая научная область и новый метод исследований культурных и социальных процессов с помощью статистического анализа употребления слов и словосочетаний в огромных текстовых массивах. Исследования по культуромике выполняются на базе Google ngrams - хранилища всех сочетаний слов для каждого года длиной от 1 до 5 на 8 языках.
Логика данного исследования такова.
1) Ключевым фактором, позволившим нам стать теми, кто мы есть сегодня, является язык. Прогресс земной цивилизации сопровождается непрерывным и ускоряющимся ростом сложности и разнообразия используемых языков.
2) Все важные изменения в коллективной психологии людей так или иначе проявляются в их языке в ответ на разные культурные и социально-экономические вызовы.
3) Т.о., анализ культуромики позволяет отследить и оценить изменения в коллективной психологии людей.
Предметом исследования стал поиск и анализ исторических следов когнитивных искажений - паттернов мышления, связанных с такими психологическими расстройствами, как депрессия и тревога.
Поиск и анализ проводился в более чем 14 млн. книг, опубликованных с 1855 по 2019 на английском, испанском и немецком языках.
В результате анализа был выявлен ярко выраженный паттерн “хоккейной клюшки”: за последние два десятилетия текстовые индикаторы когнитивных искажений поднялись значительно выше исторических уровней (включая 1-ю и 2-ю мировые войны) после снижения или стабилизации на протяжении большей части 20-го века.
Эти результаты указывают на возможность того, что недавние социально-экономические изменения, новые технологии и социальные сети вызвали беспрецедентный рост когнитивных искажений, способствующих росту депрессии и тревоги во всех развитых обществах.
Пояснение
Люди, страдающие депрессией и тревогой, склонны к росту когнитивных искажений, в результате чего они думают о себе, мире и будущем чрезмерно негативными и неточными способами. Эти искажения связаны с заметными изменениями в настроении, поведении и речи.
Такие когнитивные искажения, например, проявляются, когда:
• люди называют себя негативными, абсолютистскими терминами (типа, “я неудачник”);
• говоря о будущем, люди впадают в крайности (типа, “моя встреча будет полной катастрофой”);
• люди делают необоснованные предположения о чьем-то душевном состоянии или мыслях (типа, “все будут думать, что я псих”).
В исследовании рассмотрели 12 типов таких когнитивных искажений: от черно-белого мышления и катастрофизации до «ясновидения» и «телепатии».
Для каждого типа когнитивных искажений существуют свои лингвистические шаблоны. Напр., в английском языке для «катастрофизации» - это will fail, will go wrong, will end, will be impossible, will not happen, will be terrible, will be horrible, will be a catastrophe, will be a disaster, will never end, will not end.
Исследователи нивелировали альтернативные влияния: учли изменения языков, объемов публикуемых текстов и семантические сдвиги.
Вывод однозначный – миру срочно нужен психотерапевт.
Из-за чего?
Скорее всего, из-за смены медиа-среды, стимулирующей поляризацию "мы-против-них".
P.S. Канал уходит в небольшой отпуск. Счастливо!
#КогнитивныеИскажения #Язык
Уникальный анализ культуромики когнитивных искажений с 1855 по 2019.
Скоро будут официально опубликованы результаты уникального по объему и важности исследования «Исторические языковые записи свидетельствуют о всплеске когнитивных искажений в последние десятилетия».
Наблюдаемое в 21 веке ускорение мировых процессов все чаще заставляет использовать метафору «фазового перехода», переживаемого человечеством. И хотя академическая наука не в состоянии подтвердить или опровергнуть наличие какого-либо «фазового перехода» (напр., вхождения земной цивилизации в зону эволюционной сингулярности), практических свидетельств этого становится все больше.
На сей раз весьма убедительное свидетельство пришло из исследования культурно-лингвистической динамики (культуромики). Это новая научная область и новый метод исследований культурных и социальных процессов с помощью статистического анализа употребления слов и словосочетаний в огромных текстовых массивах. Исследования по культуромике выполняются на базе Google ngrams - хранилища всех сочетаний слов для каждого года длиной от 1 до 5 на 8 языках.
Логика данного исследования такова.
1) Ключевым фактором, позволившим нам стать теми, кто мы есть сегодня, является язык. Прогресс земной цивилизации сопровождается непрерывным и ускоряющимся ростом сложности и разнообразия используемых языков.
2) Все важные изменения в коллективной психологии людей так или иначе проявляются в их языке в ответ на разные культурные и социально-экономические вызовы.
3) Т.о., анализ культуромики позволяет отследить и оценить изменения в коллективной психологии людей.
Предметом исследования стал поиск и анализ исторических следов когнитивных искажений - паттернов мышления, связанных с такими психологическими расстройствами, как депрессия и тревога.
Поиск и анализ проводился в более чем 14 млн. книг, опубликованных с 1855 по 2019 на английском, испанском и немецком языках.
В результате анализа был выявлен ярко выраженный паттерн “хоккейной клюшки”: за последние два десятилетия текстовые индикаторы когнитивных искажений поднялись значительно выше исторических уровней (включая 1-ю и 2-ю мировые войны) после снижения или стабилизации на протяжении большей части 20-го века.
Эти результаты указывают на возможность того, что недавние социально-экономические изменения, новые технологии и социальные сети вызвали беспрецедентный рост когнитивных искажений, способствующих росту депрессии и тревоги во всех развитых обществах.
Пояснение
Люди, страдающие депрессией и тревогой, склонны к росту когнитивных искажений, в результате чего они думают о себе, мире и будущем чрезмерно негативными и неточными способами. Эти искажения связаны с заметными изменениями в настроении, поведении и речи.
Такие когнитивные искажения, например, проявляются, когда:
• люди называют себя негативными, абсолютистскими терминами (типа, “я неудачник”);
• говоря о будущем, люди впадают в крайности (типа, “моя встреча будет полной катастрофой”);
• люди делают необоснованные предположения о чьем-то душевном состоянии или мыслях (типа, “все будут думать, что я псих”).
В исследовании рассмотрели 12 типов таких когнитивных искажений: от черно-белого мышления и катастрофизации до «ясновидения» и «телепатии».
Для каждого типа когнитивных искажений существуют свои лингвистические шаблоны. Напр., в английском языке для «катастрофизации» - это will fail, will go wrong, will end, will be impossible, will not happen, will be terrible, will be horrible, will be a catastrophe, will be a disaster, will never end, will not end.
Исследователи нивелировали альтернативные влияния: учли изменения языков, объемов публикуемых текстов и семантические сдвиги.
Вывод однозначный – миру срочно нужен психотерапевт.
Из-за чего?
Скорее всего, из-за смены медиа-среды, стимулирующей поляризацию "мы-против-них".
P.S. Канал уходит в небольшой отпуск. Счастливо!
#КогнитивныеИскажения #Язык
Non Satis Scire.
Благодаря Google и Яндекс, мы знаем все больше, а понимаем все меньше.
Восемь лет это исследование пробивалось сквозь тернии и препоны, чтобы быть напечатанным в Трудах Национальной Академии наук США. И вот свершилось. Исследование Адриана Ф. Уорда «Люди принимают знания Интернета за свои собственные», наконец, опубликовано, не смотря на все попытки помешать этому со стороны Интернет-гиганта №1.
Предаваясь бесконечным опасениям из-за, якобы, исходящих от ИИ экзистенциальных угроз, мы не хотим видеть главной реальной угрозы. Новая синтетическая культура людей и алгоритмов (названная мною алгокогнитивная культура) меняет самих людей.
Когда наши «старые» когнитивные системы взаимодействуют с «новыми» цифровыми технологиями, происходит адаптация когнитивных систем. И этот процесс оказывается чрезвычайно быстрым. Уже при жизни одного поколения меняется способ поиска и понимания информации. Латинское выражение Non Satis Scire (не достаточно знать) в алгокогнитивной среде людей и поисковых алгоритмов воплощает неотвратимость лавинообразного массового нарастания интеллектуальной слепоты.
Эффект Даннинга-Крюгера (метакогнитивное искажение типа «чем тупее, тем уверенней в себе») вовсе не преодолевается путем предоставления «незнайкам» истинных данных и научной аргументации (подробней см. мой пост «Метакогнитивные искажения не оставляют нам шансов. Современное просвещение дает обратный эффект»).
Напротив. При использовании поисковиков, это метакогнитивное искажение явственно увеличивается. Люди склонны принимать знания Интернета за свои собственные. В их разуме размывается граница между собственной памятью и памятью поисковика. Это ведет к росту необоснованной уверенности в своих знаниях.
В результате чего:
• растет интеллектуальная слепота масс;
• даже профессионалы предпочитают все более следовать мейнстриму массовых заблуждений (оно спокойней и доходней).
В итоге, мир неуклонно глупеет: растет значимость фейков в миропонимании людей и число принимаемых ими ошибочных, излишне самоуверенных решений.
Ощущение большей осведомленности, возникающее у людей при использовании Интернета, может заставить полагаться на интуицию при принятии медицинских или рискованных финансовых решений. Также это может еще более цементировать укоренившиеся ошибочные взгляды людей на науку и политику.
Главный ущерб от всего этого испытывает понимание. Информация, извлекаемая не из собственной памяти, а из поисковика, испаряется столь же быстро, как и находится. И даже если с помощью этой информации было достигнуто понимание чего-либо, оно остается у человека без опоры на знания, быстро испаряющиеся при «отключении от сети».
Ну а вслед за этим происходит одно из двух:
• либо испаряется и понимание;
• либо остается ощущение фантомного понимания, не имеющего под собой фактической базы, или на базе каких-то актуальных фейков.
Метаитог всего названного известен, и я об этом уже писал: «Незнание о незнании присуще не только дуракам».
Ну а исследование Уорда живописует механизм этой «эпидемии незнания о незнании» множеством экспериментальных деталей.
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
Благодаря Google и Яндекс, мы знаем все больше, а понимаем все меньше.
Восемь лет это исследование пробивалось сквозь тернии и препоны, чтобы быть напечатанным в Трудах Национальной Академии наук США. И вот свершилось. Исследование Адриана Ф. Уорда «Люди принимают знания Интернета за свои собственные», наконец, опубликовано, не смотря на все попытки помешать этому со стороны Интернет-гиганта №1.
Предаваясь бесконечным опасениям из-за, якобы, исходящих от ИИ экзистенциальных угроз, мы не хотим видеть главной реальной угрозы. Новая синтетическая культура людей и алгоритмов (названная мною алгокогнитивная культура) меняет самих людей.
Когда наши «старые» когнитивные системы взаимодействуют с «новыми» цифровыми технологиями, происходит адаптация когнитивных систем. И этот процесс оказывается чрезвычайно быстрым. Уже при жизни одного поколения меняется способ поиска и понимания информации. Латинское выражение Non Satis Scire (не достаточно знать) в алгокогнитивной среде людей и поисковых алгоритмов воплощает неотвратимость лавинообразного массового нарастания интеллектуальной слепоты.
Эффект Даннинга-Крюгера (метакогнитивное искажение типа «чем тупее, тем уверенней в себе») вовсе не преодолевается путем предоставления «незнайкам» истинных данных и научной аргументации (подробней см. мой пост «Метакогнитивные искажения не оставляют нам шансов. Современное просвещение дает обратный эффект»).
Напротив. При использовании поисковиков, это метакогнитивное искажение явственно увеличивается. Люди склонны принимать знания Интернета за свои собственные. В их разуме размывается граница между собственной памятью и памятью поисковика. Это ведет к росту необоснованной уверенности в своих знаниях.
В результате чего:
• растет интеллектуальная слепота масс;
• даже профессионалы предпочитают все более следовать мейнстриму массовых заблуждений (оно спокойней и доходней).
В итоге, мир неуклонно глупеет: растет значимость фейков в миропонимании людей и число принимаемых ими ошибочных, излишне самоуверенных решений.
Ощущение большей осведомленности, возникающее у людей при использовании Интернета, может заставить полагаться на интуицию при принятии медицинских или рискованных финансовых решений. Также это может еще более цементировать укоренившиеся ошибочные взгляды людей на науку и политику.
Главный ущерб от всего этого испытывает понимание. Информация, извлекаемая не из собственной памяти, а из поисковика, испаряется столь же быстро, как и находится. И даже если с помощью этой информации было достигнуто понимание чего-либо, оно остается у человека без опоры на знания, быстро испаряющиеся при «отключении от сети».
Ну а вслед за этим происходит одно из двух:
• либо испаряется и понимание;
• либо остается ощущение фантомного понимания, не имеющего под собой фактической базы, или на базе каких-то актуальных фейков.
Метаитог всего названного известен, и я об этом уже писал: «Незнание о незнании присуще не только дуракам».
Ну а исследование Уорда живописует механизм этой «эпидемии незнания о незнании» множеством экспериментальных деталей.
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
PNAS
People mistake the internet’s knowledge for their own
People frequently search the internet for information. Eight experiments (n = 1,917) provide evidence that when people “Google” for online informat...
65% топ-выдачи Яндекса искажают инфореальность, продвигая теории заговора.
Проведен сравнительный аудит конспирологичности поисковиков.
К сожалению, информатизация общества имеет и отрицательные последствия. Одно из них - рост «интеллектуальной слепоты» все большего числа людей. Ее характерными признаками являются: (1) неумение отличить фейк от правды и (2) повышение доли конспирологических убеждений в мировоззрении людей.
Маршевыми двигателями процесса «интеллектуального ослепления» масс стали социальные сети и поисковики.
И если ослепляющий эффект первых можно хотя бы минимизировать (стерев экаунт или заходя в соцсеть пореже), с поисковиками дело совсем хана: без них как без рук.
В этой связи, важнейший для каждого из нас вопрос:
насколько сильно конкретный поисковик искажает инфореальность в пользу конспирологического мировоззрения - всевозможных теорий заговора.
Проверить это можно лишь путем сравнения первых страниц поисковой выдачи разных поисковиков на запросы, так или иначе связанные с теориями заговора. Чем больше в выдаче ссылок на отстойные ресурсы конспирологов, и чем они выше в выдаче, тем сильнее алгоритмы поисковика искажают инфореальность, пропагандируя теории заговора.
Важно также, что следствием такого искажения инфореальности, помимо роста «интеллектуальной слепоты», становится усиление раскола общества и повышение в нем градуса хейта.
Только что опубликованное исследование четырех солидных институтов из Швейцарии и Германии «Where the Earth is flat and 9/11 is an inside job: A comparative algorithm audit of conspiratorial information in web search results» описывает результаты аудита 4х поисковиков: Google, MS Bing, DuckDuckGo, Yahoo! и Яндекс.
Обобщение результатов вы видите на приложенной диаграмме.
Главных результатов три:
✔️ Степень искажения инфореальности у MS Bing, DuckDuckGo, Yahoo! составляет от 25% до 40%.
✔️ Абсолютный чемпион по продвижению теорий заговора – Яндекс (65% его топовой выдачи продвигает источники, пропагандирующие теории заговора.
✔️ Алгоритмы поисковиков настолько подвержены предвзятости в пользу теорий заговора, что вычистить их пропаганду из поисковой выдачи могут лишь люди (что и делает среди поисковиков лишь Google).
P.S. В пандан к этой теме - о том, что благодаря поисковикам, мы знаем все больше, а понимаем все меньше, я недавно писал.
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
Проведен сравнительный аудит конспирологичности поисковиков.
К сожалению, информатизация общества имеет и отрицательные последствия. Одно из них - рост «интеллектуальной слепоты» все большего числа людей. Ее характерными признаками являются: (1) неумение отличить фейк от правды и (2) повышение доли конспирологических убеждений в мировоззрении людей.
Маршевыми двигателями процесса «интеллектуального ослепления» масс стали социальные сети и поисковики.
И если ослепляющий эффект первых можно хотя бы минимизировать (стерев экаунт или заходя в соцсеть пореже), с поисковиками дело совсем хана: без них как без рук.
В этой связи, важнейший для каждого из нас вопрос:
насколько сильно конкретный поисковик искажает инфореальность в пользу конспирологического мировоззрения - всевозможных теорий заговора.
Проверить это можно лишь путем сравнения первых страниц поисковой выдачи разных поисковиков на запросы, так или иначе связанные с теориями заговора. Чем больше в выдаче ссылок на отстойные ресурсы конспирологов, и чем они выше в выдаче, тем сильнее алгоритмы поисковика искажают инфореальность, пропагандируя теории заговора.
Важно также, что следствием такого искажения инфореальности, помимо роста «интеллектуальной слепоты», становится усиление раскола общества и повышение в нем градуса хейта.
Только что опубликованное исследование четырех солидных институтов из Швейцарии и Германии «Where the Earth is flat and 9/11 is an inside job: A comparative algorithm audit of conspiratorial information in web search results» описывает результаты аудита 4х поисковиков: Google, MS Bing, DuckDuckGo, Yahoo! и Яндекс.
Обобщение результатов вы видите на приложенной диаграмме.
Главных результатов три:
✔️ Степень искажения инфореальности у MS Bing, DuckDuckGo, Yahoo! составляет от 25% до 40%.
✔️ Абсолютный чемпион по продвижению теорий заговора – Яндекс (65% его топовой выдачи продвигает источники, пропагандирующие теории заговора.
✔️ Алгоритмы поисковиков настолько подвержены предвзятости в пользу теорий заговора, что вычистить их пропаганду из поисковой выдачи могут лишь люди (что и делает среди поисковиков лишь Google).
P.S. В пандан к этой теме - о том, что благодаря поисковикам, мы знаем все больше, а понимаем все меньше, я недавно писал.
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
Апокалипсис от Адама.
Иррациональность ведет к экзистенциальной катастрофе.
“Homo irrationalis (лат. «человек иррациональный») — это недавно открытая новая ветвь нынешнего доминирующего вида Homo sapiens (лат. «человек разумный») . В результате эволюционной адаптации существа Homo irrationalis потеряли способность быть разумными (мыслящими рационально) и поэтому вынуждены вести себя все более беспорядочно, необъяснимо и иррационально”.
Кароль Цисевски (анонс данс-мим-шоу Homo irrationalis)
Два весьма знаковых события, несущие одну и ту же важнейшую для человечества весть, пришлись на декаду предрождественских хитов.
• Об одном из них — мировой премьере фильма Адама МакКея «Не смотрите наверх», — спустя месяц так или иначе слышала уже добрая половина человечества (еще бы: тысячи разноязычных статей, подкастов и дискуссий на ТВ и десятки тысяч обсуждений в соцсетях).
• О втором событии — публикации исследования команды Мартена Схеффера «Взлет и падение рациональности в языке», — на всей Земле сейчас знают от силы несколько тысяч человек (менее сотни упоминаний в Twitter и блогах для интеллектуалов, да скромная ветка на Reddit).
Весть, которую несут человечеству эти два столь разные по типу, форме и жанру высказывания творческой команды Адама МакКея и научной команды Мартена Схеффера, такова.
Цивилизация превращается в мир кретинов, в результате чего риски экзистенциальных катастроф становятся непреодолимыми.
Казалось бы, исследование и фильм не говорят чего-то принципиально нового. О наблюдаемых признаках тотального оглупления в последние годы говорят и пишут многие эксперты в самых разных контекстах на стыке знаний психологии, биологии и социальных наук:
• когнитивные психологи и нейроантропологи, например, уже несколько лет пишут о возможном пагубном влиянии социальных сетей и всезнающих алгоритмов;
• социальные психологи, эволюционные антропологи и культурологи, в свою очередь, в последние годы пишут о вероятном влиянии антропотехнологической эволюции на возможности возникновения нового “подвида” людей — инфоргов (inforgs), нового класса алгоритмически насыщенных обществ (algorithmically infused societies) и нового типа цивилизации — алгокогнитивная культура (algocognitive culture).
И тем не менее, два вышеназванных события можно по праву отнести к важнейшим событиям 2021 года, что я и собираюсь здесь показать.
Исследование и фильм уникальны и крайне важны для того, чтобы весть о превращении цивилизации в мир кретинов и экзистенциальных рисках этого превращения была наконец-то услышана человечеством.
✔️ Исследование экспериментально подтвердило, что человечество теряет способность рационально мыслить (а это ведет к нарастанию разнообразных рисков и, в том числе, экзистенциальных).
✔️ А фильм, своей художественной силой, потенциально способен достучаться до изрядно ослабевшего умом человечества, уже не способного поверить в экзистенциальность угроз, описываемых на языке анализа фактов.
В этом посте я попытался обосновать оба вышеназванных тезиса и ответить на главный вопрос –
почему так происходит и куда ведет?
Продолжить чтение (еще 12 мин)
- на Medium https://bit.ly/3r22Eb4
- на Яндекс Дзен https://clck.ru/aiDsi
#Рациональность #КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
Иррациональность ведет к экзистенциальной катастрофе.
“Homo irrationalis (лат. «человек иррациональный») — это недавно открытая новая ветвь нынешнего доминирующего вида Homo sapiens (лат. «человек разумный») . В результате эволюционной адаптации существа Homo irrationalis потеряли способность быть разумными (мыслящими рационально) и поэтому вынуждены вести себя все более беспорядочно, необъяснимо и иррационально”.
Кароль Цисевски (анонс данс-мим-шоу Homo irrationalis)
Два весьма знаковых события, несущие одну и ту же важнейшую для человечества весть, пришлись на декаду предрождественских хитов.
• Об одном из них — мировой премьере фильма Адама МакКея «Не смотрите наверх», — спустя месяц так или иначе слышала уже добрая половина человечества (еще бы: тысячи разноязычных статей, подкастов и дискуссий на ТВ и десятки тысяч обсуждений в соцсетях).
• О втором событии — публикации исследования команды Мартена Схеффера «Взлет и падение рациональности в языке», — на всей Земле сейчас знают от силы несколько тысяч человек (менее сотни упоминаний в Twitter и блогах для интеллектуалов, да скромная ветка на Reddit).
Весть, которую несут человечеству эти два столь разные по типу, форме и жанру высказывания творческой команды Адама МакКея и научной команды Мартена Схеффера, такова.
Цивилизация превращается в мир кретинов, в результате чего риски экзистенциальных катастроф становятся непреодолимыми.
Казалось бы, исследование и фильм не говорят чего-то принципиально нового. О наблюдаемых признаках тотального оглупления в последние годы говорят и пишут многие эксперты в самых разных контекстах на стыке знаний психологии, биологии и социальных наук:
• когнитивные психологи и нейроантропологи, например, уже несколько лет пишут о возможном пагубном влиянии социальных сетей и всезнающих алгоритмов;
• социальные психологи, эволюционные антропологи и культурологи, в свою очередь, в последние годы пишут о вероятном влиянии антропотехнологической эволюции на возможности возникновения нового “подвида” людей — инфоргов (inforgs), нового класса алгоритмически насыщенных обществ (algorithmically infused societies) и нового типа цивилизации — алгокогнитивная культура (algocognitive culture).
И тем не менее, два вышеназванных события можно по праву отнести к важнейшим событиям 2021 года, что я и собираюсь здесь показать.
Исследование и фильм уникальны и крайне важны для того, чтобы весть о превращении цивилизации в мир кретинов и экзистенциальных рисках этого превращения была наконец-то услышана человечеством.
✔️ Исследование экспериментально подтвердило, что человечество теряет способность рационально мыслить (а это ведет к нарастанию разнообразных рисков и, в том числе, экзистенциальных).
✔️ А фильм, своей художественной силой, потенциально способен достучаться до изрядно ослабевшего умом человечества, уже не способного поверить в экзистенциальность угроз, описываемых на языке анализа фактов.
В этом посте я попытался обосновать оба вышеназванных тезиса и ответить на главный вопрос –
почему так происходит и куда ведет?
Продолжить чтение (еще 12 мин)
- на Medium https://bit.ly/3r22Eb4
- на Яндекс Дзен https://clck.ru/aiDsi
#Рациональность #КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
Medium
Апокалипсис от Адама
Иррациональность ведет к экзистенциальной катастрофе
Как получается, что профессиональные эксперты, привлекаемые обществом при выработке важных и ответственных решений, дают диаметрально противоположные заключения?
Увы, но такое происходит постоянно и повсеместно. И порой касается даже самых важных вопросов, от которых зависят жизни и судьбы конкретных людей, а то и всего общества.
Сталкиваясь с полярными суждениями по важным вопросам (напр. касательно изменения климата и рисков автономного оружия, вреда социальных сетей и методов борьбы с пандемией …), мы примыкаем к одной из сторон, считая суждения противоположной стороны ошибочными. Причины этой ошибочности могут нам видеться разными: от некомпетентности и мотивированности людей, до непреодолимых изъянов их разума и/или морали.
✔️ Но как быть с институтом профессиональной экспертизы, на суждения которой опираются при принятии решений все прочие институты от суда и медицины до политиков и военных?
✔️ Гарантируют ли обществу репутация и опыт профессиональных экспертов непредвзятость их оценок, точность их анализа и верность их рекомендаций?
В моём новом лонгриде предпринята попытка ответить на оба вопроса.
Итог моего анализа резюмируется так.
• В эпоху постнормальной науки и постнормальной истины полагаться лишь на «рациональных ангелов нашей природы» не следует никому, включая профессиональных экспертов.
• Авторитет, знания и опыт профессиональных экспертов, сами по себе, не гарантируют верных выводов и решений, ибо даже лучшие из экспертов не меньше обычных людей (а подчас и больше) уязвимы для когнитивных искажений и шумов.
• Единственный способ минимизации ошибок общества при принятии сложных и ответственных решений — наличие строгого контроля за тем, насколько неукоснительно все вовлеченные в выработку решений эксперты следуют методам, противодействующим влиянию когнитивных искажений и шума.
• Эти методы, основанные на адаптации самых продвинутых теоретических научных представлений о человеческом разуме, мозге и познании, уже разработаны и многократно проверены. Однако, их практическое применение ограничено (1) в силу незнания о них многими профессиональными экспертами, и также (2) из-за нежелания большинства экспертов признавать влияние собственных предубеждений (когнитивных искажений) и шума на их профессиональные суждения и выводы.
А если в институте экспертизы ничего не менять, оставляя всё как есть (что мы, сожалению, пока наблюдаем на практике), даже лучшие и честнейшие из экспертов легко превращаются для общества в слепошарых поводырей.
Читайте мой новый лонгрид “Cлепошарые поводыри. Истоки и причины интеллектуальной слепоты экспертов” (примерно 19 мин):
• на Medium https://bit.ly/3gJIzSk
• на Яндекс Дзен https://clck.ru/bFW3Q
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
Увы, но такое происходит постоянно и повсеместно. И порой касается даже самых важных вопросов, от которых зависят жизни и судьбы конкретных людей, а то и всего общества.
Сталкиваясь с полярными суждениями по важным вопросам (напр. касательно изменения климата и рисков автономного оружия, вреда социальных сетей и методов борьбы с пандемией …), мы примыкаем к одной из сторон, считая суждения противоположной стороны ошибочными. Причины этой ошибочности могут нам видеться разными: от некомпетентности и мотивированности людей, до непреодолимых изъянов их разума и/или морали.
✔️ Но как быть с институтом профессиональной экспертизы, на суждения которой опираются при принятии решений все прочие институты от суда и медицины до политиков и военных?
✔️ Гарантируют ли обществу репутация и опыт профессиональных экспертов непредвзятость их оценок, точность их анализа и верность их рекомендаций?
В моём новом лонгриде предпринята попытка ответить на оба вопроса.
Итог моего анализа резюмируется так.
• В эпоху постнормальной науки и постнормальной истины полагаться лишь на «рациональных ангелов нашей природы» не следует никому, включая профессиональных экспертов.
• Авторитет, знания и опыт профессиональных экспертов, сами по себе, не гарантируют верных выводов и решений, ибо даже лучшие из экспертов не меньше обычных людей (а подчас и больше) уязвимы для когнитивных искажений и шумов.
• Единственный способ минимизации ошибок общества при принятии сложных и ответственных решений — наличие строгого контроля за тем, насколько неукоснительно все вовлеченные в выработку решений эксперты следуют методам, противодействующим влиянию когнитивных искажений и шума.
• Эти методы, основанные на адаптации самых продвинутых теоретических научных представлений о человеческом разуме, мозге и познании, уже разработаны и многократно проверены. Однако, их практическое применение ограничено (1) в силу незнания о них многими профессиональными экспертами, и также (2) из-за нежелания большинства экспертов признавать влияние собственных предубеждений (когнитивных искажений) и шума на их профессиональные суждения и выводы.
А если в институте экспертизы ничего не менять, оставляя всё как есть (что мы, сожалению, пока наблюдаем на практике), даже лучшие и честнейшие из экспертов легко превращаются для общества в слепошарых поводырей.
Читайте мой новый лонгрид “Cлепошарые поводыри. Истоки и причины интеллектуальной слепоты экспертов” (примерно 19 мин):
• на Medium https://bit.ly/3gJIzSk
• на Яндекс Дзен https://clck.ru/bFW3Q
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
Medium
Слепошарые поводыри
Истоки и причины интеллектуальной слепоты экспертов
Мы не представляли сколь велик айсберг когнитивных искажений.
Наши представления о мире становятся все более кривыми.
Таков весьма неутешительный вывод о состоянии представлений человечества о мире и самих себе, впервые вербализован на уровне профильного госагенства технологической сверхдержавы - Национальным институтом стандартов и технологий США (NIST).
Авторы нового отчета NIST, озаглавленного «Towards a Standard for Identifying and Managing Bias in Artificial Intelligence», поставили перед собой такую задачу.
1. Среда взаимодействий отдельных людей и сообществ становится все более виртуальной (в моей терминологии это называется переходом человечества к иному типу культура – алгокогнитивная культура).
2. Цифровые следы людей в новой инфокоммуникационной среде глобальной сети превращаются в самый востребованный и дорогой товар.
3. За формирование этого товара отвечают алгоритмы, которые пытаются количественно оценивать поведение и высказывания людей. Эти оценки используются алгоритмами для классификации, сортировки, рекомендаций и принятия решений о жизни людей.
4. Но к сожалению, в основе алгоритмических оценок лежат неоднозначные по своей природе представления об устройстве мира и поведении людей, подчерпнутые алгоритмами из океана собираемых ими данных о людях – их настоящем и прошлом опыте.
5. Все обобщаемые алгоритмами данные об опыте людей насквозь пропитаны искажающими реальность ошибками, являющимися результатами когнитивных искажений людей.
6. Это ошибки переносятся (с мультиплицирующим эффектом) алгоритмами во все технологические процессы, автоматизирующие деятельность людей и принятие ими решений с применением ИИ-систем, что может вести к весьма вредным последствиям независимо от намерений их создателей.
7. Для снижения рисков вредных последствий вышеописанных процессов необходимо, в первую очередь, идентифицировать и классифицировать все типы когнитивных искажений, приводящих к ошибкам в данных об опыте людей.
В результате 1й систематической попытки такой классификации авторы пришли к следующим выводам (в моей интерпретация, - подробней и точнее см. отчет).
A. «Айсберг» когнитивных искажений оказался куда больше чем предполагалось.
B. Помимо статистически-вычислительных искажений, вносимых алгоритмами, и когнитивных искажений людей, чей опыт воплощен в исходные данные для алгоритмов, существует огромная нижняя часть «айсберга» - системообразующие когнитивные искажения институтов общества.
C. Эта лежащая в основе «айсберга» колоссальная по размерам область является результатом исторически сложившихся процедур и практик, кодирующих социокультурные предубеждения в миропонимании конкретных институтов общества. В результате этих когнитивных искажений, определенные социальные группы получают преимущества или привилегии, а другие оказываются в неблагоприятном положении или обесцениваются. И это не обязательно является результатом какого-либо сознательного предубеждения или дискриминации, а скорее следствием того, что большинство следует существующим правилам или нормам.
▶️ ️ Специалисты по ИИ умеют минимизировать статистически-вычислительные искажения.
▶️ ️ Психологи и специалисты по когнитивному мышлению учатся учитывать когнитивные искажения и шум при принятии решений отдельными людьми.
▶️ ️ Но для системообразующих когнитивных искажений институтов общества, к сожалению, пока не существует признанных систем их идентификации и классификации. И более того, - в разных обществах они по-разному идентифицируются.
Это значит, что:
✔️ нет пока способов предотвращения мультиплицирования махины когнитивных искажений институтов алгоритмами ИИ;
✔️ наши представления о мире, формируемые в рамках новой алгокогнитивной культуры, будут становиться все более кривыми (рост интеллектуальной слепоты и падение рациональности).
См. также мои посты по тэгам:
#Рациональность #КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
Наши представления о мире становятся все более кривыми.
Таков весьма неутешительный вывод о состоянии представлений человечества о мире и самих себе, впервые вербализован на уровне профильного госагенства технологической сверхдержавы - Национальным институтом стандартов и технологий США (NIST).
Авторы нового отчета NIST, озаглавленного «Towards a Standard for Identifying and Managing Bias in Artificial Intelligence», поставили перед собой такую задачу.
1. Среда взаимодействий отдельных людей и сообществ становится все более виртуальной (в моей терминологии это называется переходом человечества к иному типу культура – алгокогнитивная культура).
2. Цифровые следы людей в новой инфокоммуникационной среде глобальной сети превращаются в самый востребованный и дорогой товар.
3. За формирование этого товара отвечают алгоритмы, которые пытаются количественно оценивать поведение и высказывания людей. Эти оценки используются алгоритмами для классификации, сортировки, рекомендаций и принятия решений о жизни людей.
4. Но к сожалению, в основе алгоритмических оценок лежат неоднозначные по своей природе представления об устройстве мира и поведении людей, подчерпнутые алгоритмами из океана собираемых ими данных о людях – их настоящем и прошлом опыте.
5. Все обобщаемые алгоритмами данные об опыте людей насквозь пропитаны искажающими реальность ошибками, являющимися результатами когнитивных искажений людей.
6. Это ошибки переносятся (с мультиплицирующим эффектом) алгоритмами во все технологические процессы, автоматизирующие деятельность людей и принятие ими решений с применением ИИ-систем, что может вести к весьма вредным последствиям независимо от намерений их создателей.
7. Для снижения рисков вредных последствий вышеописанных процессов необходимо, в первую очередь, идентифицировать и классифицировать все типы когнитивных искажений, приводящих к ошибкам в данных об опыте людей.
В результате 1й систематической попытки такой классификации авторы пришли к следующим выводам (в моей интерпретация, - подробней и точнее см. отчет).
A. «Айсберг» когнитивных искажений оказался куда больше чем предполагалось.
B. Помимо статистически-вычислительных искажений, вносимых алгоритмами, и когнитивных искажений людей, чей опыт воплощен в исходные данные для алгоритмов, существует огромная нижняя часть «айсберга» - системообразующие когнитивные искажения институтов общества.
C. Эта лежащая в основе «айсберга» колоссальная по размерам область является результатом исторически сложившихся процедур и практик, кодирующих социокультурные предубеждения в миропонимании конкретных институтов общества. В результате этих когнитивных искажений, определенные социальные группы получают преимущества или привилегии, а другие оказываются в неблагоприятном положении или обесцениваются. И это не обязательно является результатом какого-либо сознательного предубеждения или дискриминации, а скорее следствием того, что большинство следует существующим правилам или нормам.
▶️ ️ Специалисты по ИИ умеют минимизировать статистически-вычислительные искажения.
▶️ ️ Психологи и специалисты по когнитивному мышлению учатся учитывать когнитивные искажения и шум при принятии решений отдельными людьми.
▶️ ️ Но для системообразующих когнитивных искажений институтов общества, к сожалению, пока не существует признанных систем их идентификации и классификации. И более того, - в разных обществах они по-разному идентифицируются.
Это значит, что:
✔️ нет пока способов предотвращения мультиплицирования махины когнитивных искажений институтов алгоритмами ИИ;
✔️ наши представления о мире, формируемые в рамках новой алгокогнитивной культуры, будут становиться все более кривыми (рост интеллектуальной слепоты и падение рациональности).
См. также мои посты по тэгам:
#Рациональность #КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
Итиель Дрор – разрушитель башен экспертной предвзятости
Будучи абсолютно невиновным, любой из нас может запросто оказаться в тюрьме. И очень надолго, если суд по ошибке признает нас виновным в убийстве. Для этого достаточно всего лишь ошибки эксперта из-за существующих у него в изобилии когнитивных предубеждений.
• Отпечатки пальцев не лгут. … Но верно и то, что отпечатки пальцев не говорят. За них говорят эксперты-криминалисты, на основании заключений которых суд выносит решение. Но эксперты люди, а люди могут ошибаться.
• Эксперты-патологоанатомы с куда большей вероятностью объявят смерть ребенка убийством, а не несчастным случаем, если ребенок был чернокожим и доставлен в госпиталь бойфрендом матери, чем если бы ребенок был белым и доставлен бабушкой.
Мы не знаем, какова на самом деле реальность. Нам доступен лишь пазл из фрагментов, сконструированных мозгом в ответ на сигналы от органов чувств.
И для судебных экспертов это так же справедливо, как и для любого из нас.
Наша цивилизация построена из огромных башен экспертной предвзятости. Эти башни, способные легко ломать жизни тысяч людей, легко сотрут в порошок любого, кто бросит им вызов.
Но такой человек всё же нашелся. Его зовут Итиель Дрор и он - нейробиолог и специалист в области когнитивного мышления.
Только что в Science вышла интереснейшая статья «The Bias Hunter» (1) о битве Итиеля Дрора с «международной мафией» судебно-медицинских экспертов, обвинивших Дрора в непрофессионализме и нарушении этических норм после опубликования им результатов исследования широкого спектра когнитивных предубеждений экспертов.
Эта битва может очень дорого стоить Дрору. Но он храбр и не отступит, а будет биться до конца. Прозванный «Охотником за предубеждениями», Дрор поклялся доказать миру страшную угрозу последствий когнитивных искажений профессиональных экспертов.
Более подробно о Дроре и предыстории его битвы с «международной мафией» судебно-медицинских экспертов читайте в моем лонгриде «Слепошарые поводыри. Истоки и причины интеллектуальной слепоты экспертов» (2).
Рюмка коньяка под хороший лонгрид, - что может быть лучшим завершением уикенда.
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
1 2
Будучи абсолютно невиновным, любой из нас может запросто оказаться в тюрьме. И очень надолго, если суд по ошибке признает нас виновным в убийстве. Для этого достаточно всего лишь ошибки эксперта из-за существующих у него в изобилии когнитивных предубеждений.
• Отпечатки пальцев не лгут. … Но верно и то, что отпечатки пальцев не говорят. За них говорят эксперты-криминалисты, на основании заключений которых суд выносит решение. Но эксперты люди, а люди могут ошибаться.
• Эксперты-патологоанатомы с куда большей вероятностью объявят смерть ребенка убийством, а не несчастным случаем, если ребенок был чернокожим и доставлен в госпиталь бойфрендом матери, чем если бы ребенок был белым и доставлен бабушкой.
Мы не знаем, какова на самом деле реальность. Нам доступен лишь пазл из фрагментов, сконструированных мозгом в ответ на сигналы от органов чувств.
И для судебных экспертов это так же справедливо, как и для любого из нас.
Наша цивилизация построена из огромных башен экспертной предвзятости. Эти башни, способные легко ломать жизни тысяч людей, легко сотрут в порошок любого, кто бросит им вызов.
Но такой человек всё же нашелся. Его зовут Итиель Дрор и он - нейробиолог и специалист в области когнитивного мышления.
Только что в Science вышла интереснейшая статья «The Bias Hunter» (1) о битве Итиеля Дрора с «международной мафией» судебно-медицинских экспертов, обвинивших Дрора в непрофессионализме и нарушении этических норм после опубликования им результатов исследования широкого спектра когнитивных предубеждений экспертов.
Эта битва может очень дорого стоить Дрору. Но он храбр и не отступит, а будет биться до конца. Прозванный «Охотником за предубеждениями», Дрор поклялся доказать миру страшную угрозу последствий когнитивных искажений профессиональных экспертов.
Более подробно о Дроре и предыстории его битвы с «международной мафией» судебно-медицинских экспертов читайте в моем лонгриде «Слепошарые поводыри. Истоки и причины интеллектуальной слепоты экспертов» (2).
Рюмка коньяка под хороший лонгрид, - что может быть лучшим завершением уикенда.
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
1 2
Мы не иррациональные обезьяны, а сверхэффективный суперкомпьютер.
Смена парадигмы иррациональности косвенно подтверждает вычислительную теорию разума.
Наша иррациональность (нерациональное поведение при принятии решений и осуществлении выбора) уникальна. Ни одно животное не способно действовать столь нерационально, выбирая, рискуя или сотрудничая. Люди – особый вид, иррациональность поведения которого (наряду с языком) превратила нас в царя природы и сверхразумное подобие Бога (кто бы еще из животных променял жизнь в раю на несколько укусов яблока - шутка, соответствующая реальности).
Разгадать природу нашей иррациональности психологи, экономисты и нейробиологи целенаправленно пытаются 60+ лет. В результате опубликованы тысячи научных статей и более двухсот монографий, присуждено несколько Нобелевских премий, проданы миллионы экземпляров мировых бестселлеров... 1
Но центральный вопрос экономики, психологии и нейробиологии принятия иррациональных решений – почему поведение людей при выборе вариантов столь предвзято, - по-прежнему открыт.
Установлено, что источником предвзятостей являются многообразные когнитивные искажения 2.
Но что за механизм их вызывает?
Согласно традиционным представлениям, механизм примерно таков - мозг функционирует, как несколько конкурирующих агентов 3:
• быстро и неосознанно на автомате решающей Системы 1
• и внимательно-задумчивой и потому медленной Системы 2
В результате внутренней конкуренции агентов возникают когнитивные искажения, ведущие к иррациональному поведению: странные финансовые решения; поступки, совершенные как бы в несознанке; импульсивные решения во вред себе (типа приема наркотиков) и т.д. 4
ОДНАКО!
В августовском выпуске Trends in Cognitive Sciences 5 публикуется новая работа отца нейроэкономики Пола Глимчера «Efficiently irrational: deciphering the riddle of human choice». Она подводит итог 10-летних исследований Глимчера, результаты которых могут кардинально поменять существующую научную парадигму объяснения иррациональности выбора людей в нейробиологии, психологии, экономике, социологии и политике.
Революционный вывод новой теории в том, что никакой иррациональности нет: мозг вовсе не максимизирует функцию полезности, а абсолютно рационально ищет компромисс между точностью своих вычислений и энергозатратами на них.
Сверхразумность Homo имеет высокую энергетическую цену (см. рис. ниже):
• Вычислительные потребности мозга около 10 ватт энергии в час (за сутки - 240 Вт)
• Для выработки 240 Вт требуется примерно 400 ккал энергии (около 20% суточной нормы поступающих с пищей калорий)
Это сверхэффективное энергопотребление мозга в сравнении с современными компьютерами, потребляющими в 30-100 раз больше энергии, но зато способными обеспечить высочайшую точность вычислений.
Чтобы повысить точность вычислений мозга на порядок, потребовалось бы 100 ватт энергии в час.
• За сутки энергопотребление составило бы 2400 Вт
• Для их выработки требуется примерно 4000 ккал энергии. Если этот объем калорий составит около 70% суточной потребности, то человеку потребуется ежедневно потреблять пищи, содержащей около 5600 ккал.
Т.е. для повышения точности вычислений лишь на 1 порядок, людям пришлось бы есть в 3 раза больше.
Реальность среды обитания не позволяла эволюции пойти на подобные энергозатраты мозга. Пришлось искать компромисс между точностью вычислений и энергопотреблением.
Как это делается в мозге, сам Глимчер рассказывает в часовой лекции 6.
И если Глимчер прав, это сильный (хоть и косвенный) аргумент в пользу вычислительной теории разума.
#Рациональность #КогнитивныеИскажения #ПринятиеРешений
Смена парадигмы иррациональности косвенно подтверждает вычислительную теорию разума.
Наша иррациональность (нерациональное поведение при принятии решений и осуществлении выбора) уникальна. Ни одно животное не способно действовать столь нерационально, выбирая, рискуя или сотрудничая. Люди – особый вид, иррациональность поведения которого (наряду с языком) превратила нас в царя природы и сверхразумное подобие Бога (кто бы еще из животных променял жизнь в раю на несколько укусов яблока - шутка, соответствующая реальности).
Разгадать природу нашей иррациональности психологи, экономисты и нейробиологи целенаправленно пытаются 60+ лет. В результате опубликованы тысячи научных статей и более двухсот монографий, присуждено несколько Нобелевских премий, проданы миллионы экземпляров мировых бестселлеров... 1
Но центральный вопрос экономики, психологии и нейробиологии принятия иррациональных решений – почему поведение людей при выборе вариантов столь предвзято, - по-прежнему открыт.
Установлено, что источником предвзятостей являются многообразные когнитивные искажения 2.
Но что за механизм их вызывает?
Согласно традиционным представлениям, механизм примерно таков - мозг функционирует, как несколько конкурирующих агентов 3:
• быстро и неосознанно на автомате решающей Системы 1
• и внимательно-задумчивой и потому медленной Системы 2
В результате внутренней конкуренции агентов возникают когнитивные искажения, ведущие к иррациональному поведению: странные финансовые решения; поступки, совершенные как бы в несознанке; импульсивные решения во вред себе (типа приема наркотиков) и т.д. 4
ОДНАКО!
В августовском выпуске Trends in Cognitive Sciences 5 публикуется новая работа отца нейроэкономики Пола Глимчера «Efficiently irrational: deciphering the riddle of human choice». Она подводит итог 10-летних исследований Глимчера, результаты которых могут кардинально поменять существующую научную парадигму объяснения иррациональности выбора людей в нейробиологии, психологии, экономике, социологии и политике.
Революционный вывод новой теории в том, что никакой иррациональности нет: мозг вовсе не максимизирует функцию полезности, а абсолютно рационально ищет компромисс между точностью своих вычислений и энергозатратами на них.
Сверхразумность Homo имеет высокую энергетическую цену (см. рис. ниже):
• Вычислительные потребности мозга около 10 ватт энергии в час (за сутки - 240 Вт)
• Для выработки 240 Вт требуется примерно 400 ккал энергии (около 20% суточной нормы поступающих с пищей калорий)
Это сверхэффективное энергопотребление мозга в сравнении с современными компьютерами, потребляющими в 30-100 раз больше энергии, но зато способными обеспечить высочайшую точность вычислений.
Чтобы повысить точность вычислений мозга на порядок, потребовалось бы 100 ватт энергии в час.
• За сутки энергопотребление составило бы 2400 Вт
• Для их выработки требуется примерно 4000 ккал энергии. Если этот объем калорий составит около 70% суточной потребности, то человеку потребуется ежедневно потреблять пищи, содержащей около 5600 ккал.
Т.е. для повышения точности вычислений лишь на 1 порядок, людям пришлось бы есть в 3 раза больше.
Реальность среды обитания не позволяла эволюции пойти на подобные энергозатраты мозга. Пришлось искать компромисс между точностью вычислений и энергопотреблением.
Как это делается в мозге, сам Глимчер рассказывает в часовой лекции 6.
И если Глимчер прав, это сильный (хоть и косвенный) аргумент в пользу вычислительной теории разума.
#Рациональность #КогнитивныеИскажения #ПринятиеРешений
Тяжелый диагноз, если не приговор человечеству.
Разум ученых столь же уязвим, как и у любого Homo.
Результаты двойного слепого тестирования эффекта Матфея в науке прискорбны. Исследование команды Юргена Хубера показало абсолютную предвзятость рецензирования научных статей.
• Статью, совместно написанную нобелиатом и новичком, предложили на рецензию 3300ти профильным ученым.
Предложили 3я способами:
- скрывая имена авторов (одного или обоих)
- не скрывая
• Из 2611 до кого дошло приглашение, согласилось дать рецензию всего 821. Предвзятость вела к отказам при знании имен авторов: рецензенты не хотели связываться с нобелиатом и тратить время на новичка.
• Дальше все стало совсем плохо. Рецензия зависела, в основном, от того, знал ли рецензент имена авторов (см рис):
- лишь 23% рекомендовали отклонить статью, когда нобелиат был единственным показанным автором
- 48% сделали это для анонимной статьи
- и 65% рекомендовали отклонить, когда новичок был единственным показанным автором.
Итого: статью нобелиата одобряют 77% рецензентов, а ту же статью новичка 65% пускают в отстой.
Следовательно, ученые столь же бессильны против когнитивных искажений, как и судьи, политики, эксперты, да и вообще все люди.
И это значит, что в предельно усложнившемся мире, вошедшем в зону непредсказуемости, надежды на науку тают. Объективность и непредвзятость решений, предлагаемых наукой, крайне сомнительна. Ибо в ней, как и по всюду у людей, правит эффект Матфея.
Этот эффект, сформулированный еще Спасителем - «ибо кто имеет, тому дано будет и приумножится, а кто не имеет, у того отнимется и то, что имеет», - уже 2 тыс лет считается непреложной истиной, справедливой для всех областей деятельности людей.
Неважно, чем богат человек – деньгами, властью, репутацией, известностью и т.д., - богатые будут и дальше богатеть, а бедные беднеть до конца веков.
Такая несправедливость мира прискорбна, но вовсе не смертельна для развития цивилизации землян. Потенциально смертельной она становится при двух условиях:
1. Бесконечное усложнение мира в результате развития науки, технологий, экономики и устройства социума, влекущее все более сложные экологические, техногенные и техно-гуманитарные кризисы.
2. Достижение интеллектуального предела сложности задач, которые необходимо решать человечеству за все меньшее время на решение.
Про условие 1 и большое откровение, открывающееся нам с усложнением мира, подробно написано в этом моем посте.
А главной причиной достижения нами интеллектуального предела сложности решаемых задач стали наши когнитивные искажения. Плата за богоподобный интеллект Homo оказалась неподъемной. Для выживания во все усложняющемся мире, мозг людей использует порожденные им же модели, интегрирующие информацию: полученную наследственно, извлекаемую из социо-когнитивных сетей социума и извлекаемую из собственного опыта. И вот тут засада.
Все 3 источника «отравлены» когнитивными искажениями разнообразной природы. Накладываясь на эффект Матфея, они лишают человека объективности. В результате этого принимаемые нами решения вытекают из искаженной картины мира. Последствия очевидны. Для экзистенциальных задач – это путь к катастрофам. И если в науке и дальше будут доминировать искаженные представления о мире, последствия будут прискорбными.
#КогнитивныеИскажения #Неравенство #Наука
Разум ученых столь же уязвим, как и у любого Homo.
Результаты двойного слепого тестирования эффекта Матфея в науке прискорбны. Исследование команды Юргена Хубера показало абсолютную предвзятость рецензирования научных статей.
• Статью, совместно написанную нобелиатом и новичком, предложили на рецензию 3300ти профильным ученым.
Предложили 3я способами:
- скрывая имена авторов (одного или обоих)
- не скрывая
• Из 2611 до кого дошло приглашение, согласилось дать рецензию всего 821. Предвзятость вела к отказам при знании имен авторов: рецензенты не хотели связываться с нобелиатом и тратить время на новичка.
• Дальше все стало совсем плохо. Рецензия зависела, в основном, от того, знал ли рецензент имена авторов (см рис):
- лишь 23% рекомендовали отклонить статью, когда нобелиат был единственным показанным автором
- 48% сделали это для анонимной статьи
- и 65% рекомендовали отклонить, когда новичок был единственным показанным автором.
Итого: статью нобелиата одобряют 77% рецензентов, а ту же статью новичка 65% пускают в отстой.
Следовательно, ученые столь же бессильны против когнитивных искажений, как и судьи, политики, эксперты, да и вообще все люди.
И это значит, что в предельно усложнившемся мире, вошедшем в зону непредсказуемости, надежды на науку тают. Объективность и непредвзятость решений, предлагаемых наукой, крайне сомнительна. Ибо в ней, как и по всюду у людей, правит эффект Матфея.
Этот эффект, сформулированный еще Спасителем - «ибо кто имеет, тому дано будет и приумножится, а кто не имеет, у того отнимется и то, что имеет», - уже 2 тыс лет считается непреложной истиной, справедливой для всех областей деятельности людей.
Неважно, чем богат человек – деньгами, властью, репутацией, известностью и т.д., - богатые будут и дальше богатеть, а бедные беднеть до конца веков.
Такая несправедливость мира прискорбна, но вовсе не смертельна для развития цивилизации землян. Потенциально смертельной она становится при двух условиях:
1. Бесконечное усложнение мира в результате развития науки, технологий, экономики и устройства социума, влекущее все более сложные экологические, техногенные и техно-гуманитарные кризисы.
2. Достижение интеллектуального предела сложности задач, которые необходимо решать человечеству за все меньшее время на решение.
Про условие 1 и большое откровение, открывающееся нам с усложнением мира, подробно написано в этом моем посте.
А главной причиной достижения нами интеллектуального предела сложности решаемых задач стали наши когнитивные искажения. Плата за богоподобный интеллект Homo оказалась неподъемной. Для выживания во все усложняющемся мире, мозг людей использует порожденные им же модели, интегрирующие информацию: полученную наследственно, извлекаемую из социо-когнитивных сетей социума и извлекаемую из собственного опыта. И вот тут засада.
Все 3 источника «отравлены» когнитивными искажениями разнообразной природы. Накладываясь на эффект Матфея, они лишают человека объективности. В результате этого принимаемые нами решения вытекают из искаженной картины мира. Последствия очевидны. Для экзистенциальных задач – это путь к катастрофам. И если в науке и дальше будут доминировать искаженные представления о мире, последствия будут прискорбными.
#КогнитивныеИскажения #Неравенство #Наука
Ценность знаний современной науки оказалась сильно преувеличена.
Предвзятости разума ученых – далеко не худшая их уязвимость.
Куда хуже оказалось существование огромной скрытой вселенной неопределенности. Это своего рода «темная материя» науки, о природе которой мы пока не знаем почти ничего.
В 21 веке мир вступил в пост-нормальную эру. Это проявляется в необходимости реконцептуализации науки для ситуаций т.н. радикальной неопределенности (когда «факты неточны, ценности спорны, ставки высоки, а решения срочны») (подробней см. мой пост «Большое откровение»).
Ситуация еще более усложняется абсолютной предвзятостью ученых при рецензировании научных статей своих коллег. Разум ученых оказался столь же уязвим, как и у любого Homo. Это позволило мне озаглавить свой пост об этом «Тяжелый диагноз, если не приговор человечеству».
Только что опубликованное исследование большой международной группы ученых Германии, Великобритании и США под редакцией проф. Принстонского университета Дугласа Мэсси «Observing many researchers using the same data andhypothesis reveals a hidden universe of uncertainty» подтверждает худший из названных вариантов.
Диагноз и приговор в название моего поста - это вовсе не дань кликабельности.
• Постнормальность, отягощенная тотальной предвзятостью, - не самое худшее в ситуации современной науки.
• В 21 веке науке открылось существование огромной скрытой вселенной неопределенности. Это своего рода «темная материя» науки, о природе которой мы пока не знаем почти ничего.
• Ученым, особенно тем, кто работает со сложными системами уровня человеческих обществ и поведения, остается лишь проявлять смирение при столкновении с необъяснимой нам «темной материей» научной неопределенности.
Авторы скоординировали работу 161 исследователя в 73 исследовательских группах и наблюдали за их исследовательскими решениями на основании одних и тех же данных в целях независимой проверки одной и той же известной гипотезы социальных наук: что рост иммиграции снижает поддержку социальной политики среди населения.
Широкий разброс в результатах исследований 73 научных групп, использовавших одни и те же данные, но пришедших к противоположным выводам, не может объясняться лишь предвзятостью ученых.
Столь широкая вариабельность выводов 73 научных групп говорит об идиосинкразии сознательных и бессознательных решений, которые исследователи принимают во время анализа данных.
Даже действуя исключительно из лучших побуждений, ученые, получившие идентичные данные и освобожденные от давления, направленного на искажение результатов, могут абсолютно не сходиться в своих выводах из-за сложности и двусмысленности, присущих процессу научного анализа.
Следовательно:
✔️ Компетентность исследователей при анализе одних и тех же данных не гарантирует отсутствие противоположных выводов из-за наличия «темной материи» научной неопределенности.
✔️ Идиосинкразия сознательных и бессознательных решений способна исказить анализ даже самых компетентных экспертов до сколь угодно высокого уровня искажений: что 2х2=4, что 2х2=9 и даже 2х2=-3.14i
#КогнитивныеИскажения #Неопределенность #Наука
Предвзятости разума ученых – далеко не худшая их уязвимость.
Куда хуже оказалось существование огромной скрытой вселенной неопределенности. Это своего рода «темная материя» науки, о природе которой мы пока не знаем почти ничего.
В 21 веке мир вступил в пост-нормальную эру. Это проявляется в необходимости реконцептуализации науки для ситуаций т.н. радикальной неопределенности (когда «факты неточны, ценности спорны, ставки высоки, а решения срочны») (подробней см. мой пост «Большое откровение»).
Ситуация еще более усложняется абсолютной предвзятостью ученых при рецензировании научных статей своих коллег. Разум ученых оказался столь же уязвим, как и у любого Homo. Это позволило мне озаглавить свой пост об этом «Тяжелый диагноз, если не приговор человечеству».
Только что опубликованное исследование большой международной группы ученых Германии, Великобритании и США под редакцией проф. Принстонского университета Дугласа Мэсси «Observing many researchers using the same data andhypothesis reveals a hidden universe of uncertainty» подтверждает худший из названных вариантов.
Диагноз и приговор в название моего поста - это вовсе не дань кликабельности.
• Постнормальность, отягощенная тотальной предвзятостью, - не самое худшее в ситуации современной науки.
• В 21 веке науке открылось существование огромной скрытой вселенной неопределенности. Это своего рода «темная материя» науки, о природе которой мы пока не знаем почти ничего.
• Ученым, особенно тем, кто работает со сложными системами уровня человеческих обществ и поведения, остается лишь проявлять смирение при столкновении с необъяснимой нам «темной материей» научной неопределенности.
Авторы скоординировали работу 161 исследователя в 73 исследовательских группах и наблюдали за их исследовательскими решениями на основании одних и тех же данных в целях независимой проверки одной и той же известной гипотезы социальных наук: что рост иммиграции снижает поддержку социальной политики среди населения.
Широкий разброс в результатах исследований 73 научных групп, использовавших одни и те же данные, но пришедших к противоположным выводам, не может объясняться лишь предвзятостью ученых.
Столь широкая вариабельность выводов 73 научных групп говорит об идиосинкразии сознательных и бессознательных решений, которые исследователи принимают во время анализа данных.
Даже действуя исключительно из лучших побуждений, ученые, получившие идентичные данные и освобожденные от давления, направленного на искажение результатов, могут абсолютно не сходиться в своих выводах из-за сложности и двусмысленности, присущих процессу научного анализа.
Следовательно:
✔️ Компетентность исследователей при анализе одних и тех же данных не гарантирует отсутствие противоположных выводов из-за наличия «темной материи» научной неопределенности.
✔️ Идиосинкразия сознательных и бессознательных решений способна исказить анализ даже самых компетентных экспертов до сколь угодно высокого уровня искажений: что 2х2=4, что 2х2=9 и даже 2х2=-3.14i
#КогнитивныеИскажения #Неопределенность #Наука
