Forwarded from Малоизвестное интересное
Ваши метакогнитивные искажения не оставляют вам шансов.
Современное просвещение дает обратный эффект.
В этом веке «модель дефицита знаний» оказалась разрушенной. Повсюду рулит эффект Даннинга-Крюгера и лавиной нарастает интеллектуальная слепота. Сегодня те люди, кто меньше всего разбирается в сложных вопросах, более всего убеждены, что знают о них предостаточно.
Это относится ко всем странам и культурам, и распространяется на любые сложные вопросы, по которым нет научного консенсуса.
Но это еще не самое плохое.
Куда хуже то, что все современные попытки просвещения масс в таких вопросах дают прямо противоположный результат.
Практика последнего десятилетия доказывает, что эффект Даннинга-Крюгера (метакогнитивное искажение типа «чем тупее, тем уверенней в себе») не преодолевается путем предоставления «незнайкам» истинных данных и научной аргументации.
Им от этого становится только хуже! Их тупая самоуверенность крепчает, и убедить их в обратном будет еще труднее.
Причина в том, что наше время оказалось временем краха «модели дефицита знаний» - идеи о том, что люди выступают против правильной политики и истинной науки из-за недостатка у них проверенной научной информации. Мол, достаточно людей просветить, - они поумнеют, и в мире возобладают научные истины.
XXI век опроверг «модель дефицита знаний». Главными причинами этого стали:
1) взрывной рост объемов информации, в которой истинные знания просто тонут, да их и невозможно идентифицировать в падающем на нас, подобно Ниагаре, инфопотоке;
2) новые, весьма важные и полезные изобретения человечества в области массовых коммуникаций и информационных технологий: основанные на сетевой стигмергии поисковики, электронные СМИ, социальные сети, Википедия, технокультура смартфонов и т.д.
Все эти замечательные технологии, к сожалению, делают «модель дефицита знаний» все менее работоспособной. В результате чего:
- во-первых, растет интеллектуальная слепота масс;
- в во-вторых, даже профессионалы предпочитают все более следовать мейнстриму массовых заблуждений (оно спокойней и доходней).
Т.е. весь мир неуклонно глупеет.
Для борьбы с этим необходимы новые методы донесения научных данных в электронной инфосфере Земли, способные хотя бы конкурировать (а нужно, чтобы они побеждали) с вирусными каскадами интеллектуальной слепоты масс и фейкового контента всякого рода интересантов (просто зарабатывающих на нем).
Но такие методы человечеством пока не разработаны.
Желающие ознакомиться с конкретными исследованиями, доказывающими крах «модели дефицита знаний», могут пройти по ссылкам в кристально ясном эссе проф. Аарона Кэрролла «Health Facts Aren’t Enough. Should Persuasion Become a Priority?»
Ну и перечитать мои предыдущие посты на тему «интеллектуальной слепоты» 1, 2, 3
P.S. О стигмергии поисковиков я предупреждал еще 6 лет назад.
#ИнтеллектуальнаяСлепота #Вызовы21века
Современное просвещение дает обратный эффект.
В этом веке «модель дефицита знаний» оказалась разрушенной. Повсюду рулит эффект Даннинга-Крюгера и лавиной нарастает интеллектуальная слепота. Сегодня те люди, кто меньше всего разбирается в сложных вопросах, более всего убеждены, что знают о них предостаточно.
Это относится ко всем странам и культурам, и распространяется на любые сложные вопросы, по которым нет научного консенсуса.
Но это еще не самое плохое.
Куда хуже то, что все современные попытки просвещения масс в таких вопросах дают прямо противоположный результат.
Практика последнего десятилетия доказывает, что эффект Даннинга-Крюгера (метакогнитивное искажение типа «чем тупее, тем уверенней в себе») не преодолевается путем предоставления «незнайкам» истинных данных и научной аргументации.
Им от этого становится только хуже! Их тупая самоуверенность крепчает, и убедить их в обратном будет еще труднее.
Причина в том, что наше время оказалось временем краха «модели дефицита знаний» - идеи о том, что люди выступают против правильной политики и истинной науки из-за недостатка у них проверенной научной информации. Мол, достаточно людей просветить, - они поумнеют, и в мире возобладают научные истины.
XXI век опроверг «модель дефицита знаний». Главными причинами этого стали:
1) взрывной рост объемов информации, в которой истинные знания просто тонут, да их и невозможно идентифицировать в падающем на нас, подобно Ниагаре, инфопотоке;
2) новые, весьма важные и полезные изобретения человечества в области массовых коммуникаций и информационных технологий: основанные на сетевой стигмергии поисковики, электронные СМИ, социальные сети, Википедия, технокультура смартфонов и т.д.
Все эти замечательные технологии, к сожалению, делают «модель дефицита знаний» все менее работоспособной. В результате чего:
- во-первых, растет интеллектуальная слепота масс;
- в во-вторых, даже профессионалы предпочитают все более следовать мейнстриму массовых заблуждений (оно спокойней и доходней).
Т.е. весь мир неуклонно глупеет.
Для борьбы с этим необходимы новые методы донесения научных данных в электронной инфосфере Земли, способные хотя бы конкурировать (а нужно, чтобы они побеждали) с вирусными каскадами интеллектуальной слепоты масс и фейкового контента всякого рода интересантов (просто зарабатывающих на нем).
Но такие методы человечеством пока не разработаны.
Желающие ознакомиться с конкретными исследованиями, доказывающими крах «модели дефицита знаний», могут пройти по ссылкам в кристально ясном эссе проф. Аарона Кэрролла «Health Facts Aren’t Enough. Should Persuasion Become a Priority?»
Ну и перечитать мои предыдущие посты на тему «интеллектуальной слепоты» 1, 2, 3
P.S. О стигмергии поисковиков я предупреждал еще 6 лет назад.
#ИнтеллектуальнаяСлепота #Вызовы21века
NY Times
Health Facts Aren’t Enough. Should Persuasion Become a Priority? (Published 2019)
Those with the least understanding of science oppose it the most and also think they know the most, a study showed.
Forwarded from Малоизвестное интересное
Эпидемию коронавируса остановят, а эпидемию фейков о нем – нет.
Борьба с дезинформацией и теорией заговора об эпидемиях дает обратный эффект.
Вокруг уханьского короновируса растет клубок сенсационно-истерических мифов: вирус рукотворный, это утекшая из США в Китай секретная разработка, это вырвавшееся из-под контроля биооружие, вирус превратится в испанку 21 века и погибнут сотни миллионов …
Для предотвращения нарастающей паники в большинстве стран разворачиваются кампании противодействия этим фейкам.
Смогут ли они победить фейки и остановить нарастающий массовый психоз?
Однозначно нет. И вот доказательство.
Цифровые медиа кардинально изменили мир. Полной картины этого мы пока не знаем. Она будет проясняться еще не одно десятилетие.
Однако, путем серьезных экспериментальных исследований уже установлено:
существующие подходы в борьбе с дезинформацией и теориями заговора об эпидемиях и вспышках заболеваний не только неэффективны, но даже контрпродуктивны.
Двухлетняя серия полевых экспериментов бразильских исследователей, посвященная попыткам коррекции в массовом сознании мифов о лихорадке Зика, показала:
• исправление мифологической чуши почти не происходит (люди продолжают верить в нее);
• возникает дополнительный ущерб из-за того, что многие перестают верить правдивым фактам о болезни и способах ее распространения.
Авторы интерпретируют столь обескураживающие результаты так.
✔️ Когда общий уровень знаний населения по конкретному вопросу низок, любые попытки повысить этот уровень во время кризиса идут лишь во вред, - поздно пить Боржоми.
Как вы понимаете, такой вывод относится не только к фейкам об эпидемиях.
В эпоху цифровых медиа нужно вырабатывать принципиально новые способы борьбы с мифообразующими фейками. Старый привычный подход - донесение правдивой информации, - в мире больше не работает.
Исследование: The effects of corrective information about disease epidemics and outbreaks: Evidence from Zika and yellow fever in Brazi
Это исследование еще раз подтверждает:
- торжество эффекта Даннинга-Крюгера (метакогнитивное искажение типа «чем тупее, тем уверенней в себе»);
- и окончательный крах «модели дефицита знаний».
И о том, и другом см. мой пост
#Эпидемия #ИнтеллектуальнаяСлепота #Вызовы21века
Борьба с дезинформацией и теорией заговора об эпидемиях дает обратный эффект.
Вокруг уханьского короновируса растет клубок сенсационно-истерических мифов: вирус рукотворный, это утекшая из США в Китай секретная разработка, это вырвавшееся из-под контроля биооружие, вирус превратится в испанку 21 века и погибнут сотни миллионов …
Для предотвращения нарастающей паники в большинстве стран разворачиваются кампании противодействия этим фейкам.
Смогут ли они победить фейки и остановить нарастающий массовый психоз?
Однозначно нет. И вот доказательство.
Цифровые медиа кардинально изменили мир. Полной картины этого мы пока не знаем. Она будет проясняться еще не одно десятилетие.
Однако, путем серьезных экспериментальных исследований уже установлено:
существующие подходы в борьбе с дезинформацией и теориями заговора об эпидемиях и вспышках заболеваний не только неэффективны, но даже контрпродуктивны.
Двухлетняя серия полевых экспериментов бразильских исследователей, посвященная попыткам коррекции в массовом сознании мифов о лихорадке Зика, показала:
• исправление мифологической чуши почти не происходит (люди продолжают верить в нее);
• возникает дополнительный ущерб из-за того, что многие перестают верить правдивым фактам о болезни и способах ее распространения.
Авторы интерпретируют столь обескураживающие результаты так.
✔️ Когда общий уровень знаний населения по конкретному вопросу низок, любые попытки повысить этот уровень во время кризиса идут лишь во вред, - поздно пить Боржоми.
Как вы понимаете, такой вывод относится не только к фейкам об эпидемиях.
В эпоху цифровых медиа нужно вырабатывать принципиально новые способы борьбы с мифообразующими фейками. Старый привычный подход - донесение правдивой информации, - в мире больше не работает.
Исследование: The effects of corrective information about disease epidemics and outbreaks: Evidence from Zika and yellow fever in Brazi
Это исследование еще раз подтверждает:
- торжество эффекта Даннинга-Крюгера (метакогнитивное искажение типа «чем тупее, тем уверенней в себе»);
- и окончательный крах «модели дефицита знаний».
И о том, и другом см. мой пост
#Эпидемия #ИнтеллектуальнаяСлепота #Вызовы21века
Science
The effects of corrective information about disease epidemics and outbreaks: Evidence from Zika and yellow fever in Brazil
Disease epidemics and outbreaks often generate conspiracy theories and misperceptions that mislead people about the risks they face and how best to protect themselves. We investigate the effectiveness of interventions aimed at combating false and unsupported…
Forwarded from Малоизвестное интересное
5я колонна COVID-19.
Почему антипрививочники непобедимы.
Прорывное исследование проф. Нила Джонсона и Со. открывает завесу тайны непобедимости интеллектуальной слепоты масс.
Влияние антипрививочников (вакциноскептиков) может стать важным фактором в борьбе с COVID-19 после появления вакцины. Беда в том, что это влияние вовсе не ослабевает и даже усиливается.
Причины вакциноскептицизма понемногу становятся понятней. Это особенность мышления антипрививочников, связанная с преувеличением последствий негативных событий.
Однако вопрос о том, почему позиция антипрививочников оказывается в обществе, как минимум, не менее влиятельной, чем научные аргументы, до сих пор был без ответа.
Новое прорывное исследование объясняет, почему это происходит.
По большому счету, причины две.
1. Глобальная инфосеть социальных медиа оказывает беспрецедентное влияние на формирование представлений о мире и персональных убеждений людей.
2. Наука о инфосетевом влиянии на мышление людей до последнего времени не обладала убедительными данными о механизмах этого влияния и, в первую очередь, о «мировом соревновании» кластеров полярных убеждений. Теперь эти данные собраны и проанализированы.
Анализ динамики «мирового соревнования» кластеров полярных убеждений анти- и про-прививочников на полях 100 млн. страниц Facebook позволяет понять, почему антипрививочники в социальных медиа сильнее.
Причин этого аж семь. Но чтобы не влезать в сложности матмодели, назовем лишь 3 главных.
✔️ У антипрививочников существенно привлекательней «рассказ». Он сочетает наиболее интересные для масс темы (такие, как проблемы безопасности, теории заговора, альтернативное здоровье и медицина, а теперь еще и причину, а также лечение COVID-19).
✔️ Антипрививочники берут не числом, а умением (они куда активней и правильней организованы с точки зрения организации сетевых кластеров: тематически, географически и т.д.) «Сетевая сила» антипрививочников столь высока, что они даже нарушают сетевой закон Матфея о преференциальных предпочтениях. Это переворот в сетевой науке.
✔️ Решающую роль в локальных победах антипрививочников играют неопределившиеся, имеющие самый высокий рост новых исходящих связей. Это ставит под сомнение существующее представление о том, что неопределившиеся люди являются пассивным фоном в битве за «сердца и умы»
Полученные результаты и выводы весьма важны не только для победы здравого смысла в вопросе о вакцинации. Интеллектуальная слепота человечества, к сожалению, нарастает по мере прогресса инфосетевых технологий.
И если человечество не научится организовывать правильные кластерные структуры и рассказывать правильные истории массам, число интеллектуальных слепцов будет расти по всем темам. Благо их предостаточно: от плоской Земли до сильного ИИ.
Доп. Материалы:
• Об интеллектуальной слепоте вследствие мотивированных рассуждений
• Об интеллектуальной слепоте ученых
• О главной проблеме человечества — сингулярности его глупости (на материале последней книги Харари)
• О том, как Земля превращается в мир идиотов
#ИнтеллектуальнаяСлепота #Вызовы21века
Почему антипрививочники непобедимы.
Прорывное исследование проф. Нила Джонсона и Со. открывает завесу тайны непобедимости интеллектуальной слепоты масс.
Влияние антипрививочников (вакциноскептиков) может стать важным фактором в борьбе с COVID-19 после появления вакцины. Беда в том, что это влияние вовсе не ослабевает и даже усиливается.
Причины вакциноскептицизма понемногу становятся понятней. Это особенность мышления антипрививочников, связанная с преувеличением последствий негативных событий.
Однако вопрос о том, почему позиция антипрививочников оказывается в обществе, как минимум, не менее влиятельной, чем научные аргументы, до сих пор был без ответа.
Новое прорывное исследование объясняет, почему это происходит.
По большому счету, причины две.
1. Глобальная инфосеть социальных медиа оказывает беспрецедентное влияние на формирование представлений о мире и персональных убеждений людей.
2. Наука о инфосетевом влиянии на мышление людей до последнего времени не обладала убедительными данными о механизмах этого влияния и, в первую очередь, о «мировом соревновании» кластеров полярных убеждений. Теперь эти данные собраны и проанализированы.
Анализ динамики «мирового соревнования» кластеров полярных убеждений анти- и про-прививочников на полях 100 млн. страниц Facebook позволяет понять, почему антипрививочники в социальных медиа сильнее.
Причин этого аж семь. Но чтобы не влезать в сложности матмодели, назовем лишь 3 главных.
✔️ У антипрививочников существенно привлекательней «рассказ». Он сочетает наиболее интересные для масс темы (такие, как проблемы безопасности, теории заговора, альтернативное здоровье и медицина, а теперь еще и причину, а также лечение COVID-19).
✔️ Антипрививочники берут не числом, а умением (они куда активней и правильней организованы с точки зрения организации сетевых кластеров: тематически, географически и т.д.) «Сетевая сила» антипрививочников столь высока, что они даже нарушают сетевой закон Матфея о преференциальных предпочтениях. Это переворот в сетевой науке.
✔️ Решающую роль в локальных победах антипрививочников играют неопределившиеся, имеющие самый высокий рост новых исходящих связей. Это ставит под сомнение существующее представление о том, что неопределившиеся люди являются пассивным фоном в битве за «сердца и умы»
Полученные результаты и выводы весьма важны не только для победы здравого смысла в вопросе о вакцинации. Интеллектуальная слепота человечества, к сожалению, нарастает по мере прогресса инфосетевых технологий.
И если человечество не научится организовывать правильные кластерные структуры и рассказывать правильные истории массам, число интеллектуальных слепцов будет расти по всем темам. Благо их предостаточно: от плоской Земли до сильного ИИ.
Доп. Материалы:
• Об интеллектуальной слепоте вследствие мотивированных рассуждений
• Об интеллектуальной слепоте ученых
• О главной проблеме человечества — сингулярности его глупости (на материале последней книги Харари)
• О том, как Земля превращается в мир идиотов
#ИнтеллектуальнаяСлепота #Вызовы21века
Non Satis Scire.
Благодаря Google и Яндекс, мы знаем все больше, а понимаем все меньше.
Восемь лет это исследование пробивалось сквозь тернии и препоны, чтобы быть напечатанным в Трудах Национальной Академии наук США. И вот свершилось. Исследование Адриана Ф. Уорда «Люди принимают знания Интернета за свои собственные», наконец, опубликовано, не смотря на все попытки помешать этому со стороны Интернет-гиганта №1.
Предаваясь бесконечным опасениям из-за, якобы, исходящих от ИИ экзистенциальных угроз, мы не хотим видеть главной реальной угрозы. Новая синтетическая культура людей и алгоритмов (названная мною алгокогнитивная культура) меняет самих людей.
Когда наши «старые» когнитивные системы взаимодействуют с «новыми» цифровыми технологиями, происходит адаптация когнитивных систем. И этот процесс оказывается чрезвычайно быстрым. Уже при жизни одного поколения меняется способ поиска и понимания информации. Латинское выражение Non Satis Scire (не достаточно знать) в алгокогнитивной среде людей и поисковых алгоритмов воплощает неотвратимость лавинообразного массового нарастания интеллектуальной слепоты.
Эффект Даннинга-Крюгера (метакогнитивное искажение типа «чем тупее, тем уверенней в себе») вовсе не преодолевается путем предоставления «незнайкам» истинных данных и научной аргументации (подробней см. мой пост «Метакогнитивные искажения не оставляют нам шансов. Современное просвещение дает обратный эффект»).
Напротив. При использовании поисковиков, это метакогнитивное искажение явственно увеличивается. Люди склонны принимать знания Интернета за свои собственные. В их разуме размывается граница между собственной памятью и памятью поисковика. Это ведет к росту необоснованной уверенности в своих знаниях.
В результате чего:
• растет интеллектуальная слепота масс;
• даже профессионалы предпочитают все более следовать мейнстриму массовых заблуждений (оно спокойней и доходней).
В итоге, мир неуклонно глупеет: растет значимость фейков в миропонимании людей и число принимаемых ими ошибочных, излишне самоуверенных решений.
Ощущение большей осведомленности, возникающее у людей при использовании Интернета, может заставить полагаться на интуицию при принятии медицинских или рискованных финансовых решений. Также это может еще более цементировать укоренившиеся ошибочные взгляды людей на науку и политику.
Главный ущерб от всего этого испытывает понимание. Информация, извлекаемая не из собственной памяти, а из поисковика, испаряется столь же быстро, как и находится. И даже если с помощью этой информации было достигнуто понимание чего-либо, оно остается у человека без опоры на знания, быстро испаряющиеся при «отключении от сети».
Ну а вслед за этим происходит одно из двух:
• либо испаряется и понимание;
• либо остается ощущение фантомного понимания, не имеющего под собой фактической базы, или на базе каких-то актуальных фейков.
Метаитог всего названного известен, и я об этом уже писал: «Незнание о незнании присуще не только дуракам».
Ну а исследование Уорда живописует механизм этой «эпидемии незнания о незнании» множеством экспериментальных деталей.
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
_______
Источник | #theworldisnoteasy
Благодаря Google и Яндекс, мы знаем все больше, а понимаем все меньше.
Восемь лет это исследование пробивалось сквозь тернии и препоны, чтобы быть напечатанным в Трудах Национальной Академии наук США. И вот свершилось. Исследование Адриана Ф. Уорда «Люди принимают знания Интернета за свои собственные», наконец, опубликовано, не смотря на все попытки помешать этому со стороны Интернет-гиганта №1.
Предаваясь бесконечным опасениям из-за, якобы, исходящих от ИИ экзистенциальных угроз, мы не хотим видеть главной реальной угрозы. Новая синтетическая культура людей и алгоритмов (названная мною алгокогнитивная культура) меняет самих людей.
Когда наши «старые» когнитивные системы взаимодействуют с «новыми» цифровыми технологиями, происходит адаптация когнитивных систем. И этот процесс оказывается чрезвычайно быстрым. Уже при жизни одного поколения меняется способ поиска и понимания информации. Латинское выражение Non Satis Scire (не достаточно знать) в алгокогнитивной среде людей и поисковых алгоритмов воплощает неотвратимость лавинообразного массового нарастания интеллектуальной слепоты.
Эффект Даннинга-Крюгера (метакогнитивное искажение типа «чем тупее, тем уверенней в себе») вовсе не преодолевается путем предоставления «незнайкам» истинных данных и научной аргументации (подробней см. мой пост «Метакогнитивные искажения не оставляют нам шансов. Современное просвещение дает обратный эффект»).
Напротив. При использовании поисковиков, это метакогнитивное искажение явственно увеличивается. Люди склонны принимать знания Интернета за свои собственные. В их разуме размывается граница между собственной памятью и памятью поисковика. Это ведет к росту необоснованной уверенности в своих знаниях.
В результате чего:
• растет интеллектуальная слепота масс;
• даже профессионалы предпочитают все более следовать мейнстриму массовых заблуждений (оно спокойней и доходней).
В итоге, мир неуклонно глупеет: растет значимость фейков в миропонимании людей и число принимаемых ими ошибочных, излишне самоуверенных решений.
Ощущение большей осведомленности, возникающее у людей при использовании Интернета, может заставить полагаться на интуицию при принятии медицинских или рискованных финансовых решений. Также это может еще более цементировать укоренившиеся ошибочные взгляды людей на науку и политику.
Главный ущерб от всего этого испытывает понимание. Информация, извлекаемая не из собственной памяти, а из поисковика, испаряется столь же быстро, как и находится. И даже если с помощью этой информации было достигнуто понимание чего-либо, оно остается у человека без опоры на знания, быстро испаряющиеся при «отключении от сети».
Ну а вслед за этим происходит одно из двух:
• либо испаряется и понимание;
• либо остается ощущение фантомного понимания, не имеющего под собой фактической базы, или на базе каких-то актуальных фейков.
Метаитог всего названного известен, и я об этом уже писал: «Незнание о незнании присуще не только дуракам».
Ну а исследование Уорда живописует механизм этой «эпидемии незнания о незнании» множеством экспериментальных деталей.
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
_______
Источник | #theworldisnoteasy
PNAS
People mistake the internet’s knowledge for their own
People frequently search the internet for information. Eight experiments (n = 1,917) provide evidence that when people “Google” for online informat...
65% топ-выдачи Яндекса искажают инфореальность, продвигая теории заговора.
Проведен сравнительный аудит конспирологичности поисковиков.
К сожалению, информатизация общества имеет и отрицательные последствия. Одно из них - рост «интеллектуальной слепоты» все большего числа людей. Ее характерными признаками являются: (1) неумение отличить фейк от правды и (2) повышение доли конспирологических убеждений в мировоззрении людей.
Маршевыми двигателями процесса «интеллектуального ослепления» масс стали социальные сети и поисковики.
И если ослепляющий эффект первых можно хотя бы минимизировать (стерев экаунт или заходя в соцсеть пореже), с поисковиками дело совсем хана: без них как без рук.
В этой связи, важнейший для каждого из нас вопрос:
насколько сильно конкретный поисковик искажает инфореальность в пользу конспирологического мировоззрения - всевозможных теорий заговора.
Проверить это можно лишь путем сравнения первых страниц поисковой выдачи разных поисковиков на запросы, так или иначе связанные с теориями заговора. Чем больше в выдаче ссылок на отстойные ресурсы конспирологов, и чем они выше в выдаче, тем сильнее алгоритмы поисковика искажают инфореальность, пропагандируя теории заговора.
Важно также, что следствием такого искажения инфореальности, помимо роста «интеллектуальной слепоты», становится усиление раскола общества и повышение в нем градуса хейта.
Только что опубликованное исследование четырех солидных институтов из Швейцарии и Германии «Where the Earth is flat and 9/11 is an inside job: A comparative algorithm audit of conspiratorial information in web search results» описывает результаты аудита 4х поисковиков: Google, MS Bing, DuckDuckGo, Yahoo! и Яндекс.
Обобщение результатов вы видите на приложенной диаграмме.
Главных результатов три:
✔️ Степень искажения инфореальности у MS Bing, DuckDuckGo, Yahoo! составляет от 25% до 40%.
✔️ Абсолютный чемпион по продвижению теорий заговора – Яндекс (65% его топовой выдачи продвигает источники, пропагандирующие теории заговора.
✔️ Алгоритмы поисковиков настолько подвержены предвзятости в пользу теорий заговора, что вычистить их пропаганду из поисковой выдачи могут лишь люди (что и делает среди поисковиков лишь Google).
P.S. В пандан к этой теме - о том, что благодаря поисковикам, мы знаем все больше, а понимаем все меньше, я недавно писал.
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
_______
Источник | #theworldisnoteasy
Проведен сравнительный аудит конспирологичности поисковиков.
К сожалению, информатизация общества имеет и отрицательные последствия. Одно из них - рост «интеллектуальной слепоты» все большего числа людей. Ее характерными признаками являются: (1) неумение отличить фейк от правды и (2) повышение доли конспирологических убеждений в мировоззрении людей.
Маршевыми двигателями процесса «интеллектуального ослепления» масс стали социальные сети и поисковики.
И если ослепляющий эффект первых можно хотя бы минимизировать (стерев экаунт или заходя в соцсеть пореже), с поисковиками дело совсем хана: без них как без рук.
В этой связи, важнейший для каждого из нас вопрос:
насколько сильно конкретный поисковик искажает инфореальность в пользу конспирологического мировоззрения - всевозможных теорий заговора.
Проверить это можно лишь путем сравнения первых страниц поисковой выдачи разных поисковиков на запросы, так или иначе связанные с теориями заговора. Чем больше в выдаче ссылок на отстойные ресурсы конспирологов, и чем они выше в выдаче, тем сильнее алгоритмы поисковика искажают инфореальность, пропагандируя теории заговора.
Важно также, что следствием такого искажения инфореальности, помимо роста «интеллектуальной слепоты», становится усиление раскола общества и повышение в нем градуса хейта.
Только что опубликованное исследование четырех солидных институтов из Швейцарии и Германии «Where the Earth is flat and 9/11 is an inside job: A comparative algorithm audit of conspiratorial information in web search results» описывает результаты аудита 4х поисковиков: Google, MS Bing, DuckDuckGo, Yahoo! и Яндекс.
Обобщение результатов вы видите на приложенной диаграмме.
Главных результатов три:
✔️ Степень искажения инфореальности у MS Bing, DuckDuckGo, Yahoo! составляет от 25% до 40%.
✔️ Абсолютный чемпион по продвижению теорий заговора – Яндекс (65% его топовой выдачи продвигает источники, пропагандирующие теории заговора.
✔️ Алгоритмы поисковиков настолько подвержены предвзятости в пользу теорий заговора, что вычистить их пропаганду из поисковой выдачи могут лишь люди (что и делает среди поисковиков лишь Google).
P.S. В пандан к этой теме - о том, что благодаря поисковикам, мы знаем все больше, а понимаем все меньше, я недавно писал.
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
_______
Источник | #theworldisnoteasy
Мы не представляли сколь велик айсберг когнитивных искажений.
Наши представления о мире становятся все более кривыми.
Таков весьма неутешительный вывод о состоянии представлений человечества о мире и самих себе, впервые вербализован на уровне профильного госагенства технологической сверхдержавы - Национальным институтом стандартов и технологий США (NIST).
Авторы нового отчета NIST, озаглавленного «Towards a Standard for Identifying and Managing Bias in Artificial Intelligence», поставили перед собой такую задачу.
1. Среда взаимодействий отдельных людей и сообществ становится все более виртуальной (в моей терминологии это называется переходом человечества к иному типу культура – алгокогнитивная культура).
2. Цифровые следы людей в новой инфокоммуникационной среде глобальной сети превращаются в самый востребованный и дорогой товар.
3. За формирование этого товара отвечают алгоритмы, которые пытаются количественно оценивать поведение и высказывания людей. Эти оценки используются алгоритмами для классификации, сортировки, рекомендаций и принятия решений о жизни людей.
4. Но к сожалению, в основе алгоритмических оценок лежат неоднозначные по своей природе представления об устройстве мира и поведении людей, подчерпнутые алгоритмами из океана собираемых ими данных о людях – их настоящем и прошлом опыте.
5. Все обобщаемые алгоритмами данные об опыте людей насквозь пропитаны искажающими реальность ошибками, являющимися результатами когнитивных искажений людей.
6. Это ошибки переносятся (с мультиплицирующим эффектом) алгоритмами во все технологические процессы, автоматизирующие деятельность людей и принятие ими решений с применением ИИ-систем, что может вести к весьма вредным последствиям независимо от намерений их создателей.
7. Для снижения рисков вредных последствий вышеописанных процессов необходимо, в первую очередь, идентифицировать и классифицировать все типы когнитивных искажений, приводящих к ошибкам в данных об опыте людей.
В результате 1й систематической попытки такой классификации авторы пришли к следующим выводам (в моей интерпретация, - подробней и точнее см. отчет).
A. «Айсберг» когнитивных искажений оказался куда больше чем предполагалось.
B. Помимо статистически-вычислительных искажений, вносимых алгоритмами, и когнитивных искажений людей, чей опыт воплощен в исходные данные для алгоритмов, существует огромная нижняя часть «айсберга» - системообразующие когнитивные искажения институтов общества.
C. Эта лежащая в основе «айсберга» колоссальная по размерам область является результатом исторически сложившихся процедур и практик, кодирующих социокультурные предубеждения в миропонимании конкретных институтов общества. В результате этих когнитивных искажений, определенные социальные группы получают преимущества или привилегии, а другие оказываются в неблагоприятном положении или обесцениваются. И это не обязательно является результатом какого-либо сознательного предубеждения или дискриминации, а скорее следствием того, что большинство следует существующим правилам или нормам.
▶️ ️ Специалисты по ИИ умеют минимизировать статистически-вычислительные искажения.
▶️ ️ Психологи и специалисты по когнитивному мышлению учатся учитывать когнитивные искажения и шум при принятии решений отдельными людьми.
▶️ ️ Но для системообразующих когнитивных искажений институтов общества, к сожалению, пока не существует признанных систем их идентификации и классификации. И более того, - в разных обществах они по-разному идентифицируются.
Это значит, что:
✔️ нет пока способов предотвращения мультиплицирования махины когнитивных искажений институтов алгоритмами ИИ;
✔️ наши представления о мире, формируемые в рамках новой алгокогнитивной культуры, будут становиться все более кривыми (рост интеллектуальной слепоты и падение рациональности).
См. также мои посты по тэгам:
#Рациональность #КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
_______
Источник | #theworldisnoteasy
Наши представления о мире становятся все более кривыми.
Таков весьма неутешительный вывод о состоянии представлений человечества о мире и самих себе, впервые вербализован на уровне профильного госагенства технологической сверхдержавы - Национальным институтом стандартов и технологий США (NIST).
Авторы нового отчета NIST, озаглавленного «Towards a Standard for Identifying and Managing Bias in Artificial Intelligence», поставили перед собой такую задачу.
1. Среда взаимодействий отдельных людей и сообществ становится все более виртуальной (в моей терминологии это называется переходом человечества к иному типу культура – алгокогнитивная культура).
2. Цифровые следы людей в новой инфокоммуникационной среде глобальной сети превращаются в самый востребованный и дорогой товар.
3. За формирование этого товара отвечают алгоритмы, которые пытаются количественно оценивать поведение и высказывания людей. Эти оценки используются алгоритмами для классификации, сортировки, рекомендаций и принятия решений о жизни людей.
4. Но к сожалению, в основе алгоритмических оценок лежат неоднозначные по своей природе представления об устройстве мира и поведении людей, подчерпнутые алгоритмами из океана собираемых ими данных о людях – их настоящем и прошлом опыте.
5. Все обобщаемые алгоритмами данные об опыте людей насквозь пропитаны искажающими реальность ошибками, являющимися результатами когнитивных искажений людей.
6. Это ошибки переносятся (с мультиплицирующим эффектом) алгоритмами во все технологические процессы, автоматизирующие деятельность людей и принятие ими решений с применением ИИ-систем, что может вести к весьма вредным последствиям независимо от намерений их создателей.
7. Для снижения рисков вредных последствий вышеописанных процессов необходимо, в первую очередь, идентифицировать и классифицировать все типы когнитивных искажений, приводящих к ошибкам в данных об опыте людей.
В результате 1й систематической попытки такой классификации авторы пришли к следующим выводам (в моей интерпретация, - подробней и точнее см. отчет).
A. «Айсберг» когнитивных искажений оказался куда больше чем предполагалось.
B. Помимо статистически-вычислительных искажений, вносимых алгоритмами, и когнитивных искажений людей, чей опыт воплощен в исходные данные для алгоритмов, существует огромная нижняя часть «айсберга» - системообразующие когнитивные искажения институтов общества.
C. Эта лежащая в основе «айсберга» колоссальная по размерам область является результатом исторически сложившихся процедур и практик, кодирующих социокультурные предубеждения в миропонимании конкретных институтов общества. В результате этих когнитивных искажений, определенные социальные группы получают преимущества или привилегии, а другие оказываются в неблагоприятном положении или обесцениваются. И это не обязательно является результатом какого-либо сознательного предубеждения или дискриминации, а скорее следствием того, что большинство следует существующим правилам или нормам.
▶️ ️ Специалисты по ИИ умеют минимизировать статистически-вычислительные искажения.
▶️ ️ Психологи и специалисты по когнитивному мышлению учатся учитывать когнитивные искажения и шум при принятии решений отдельными людьми.
▶️ ️ Но для системообразующих когнитивных искажений институтов общества, к сожалению, пока не существует признанных систем их идентификации и классификации. И более того, - в разных обществах они по-разному идентифицируются.
Это значит, что:
✔️ нет пока способов предотвращения мультиплицирования махины когнитивных искажений институтов алгоритмами ИИ;
✔️ наши представления о мире, формируемые в рамках новой алгокогнитивной культуры, будут становиться все более кривыми (рост интеллектуальной слепоты и падение рациональности).
См. также мои посты по тэгам:
#Рациональность #КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
_______
Источник | #theworldisnoteasy
Перед важным решением обязательно пройдите через дверной проем.
Экспериментально подтвержден чудовищно странный баг в сознании людей.
Согласно древнему поверию, дверь является своеобразным порталом между пространствами. И хотя в наше время это звучит низкопробным суеверным бредом, как иначе можно объяснить результаты солидного научного эксперимента, проведенного Департаментом психологии Йельского университета?
На общечеловеческом уровне, похоже, никак. Говоря же научным языком, объяснение таково: восприятие более низкого уровня способно ограничивать даже самые непоколебимые когнитивные предубеждения более высокого уровня – напр., при принятии решений.
Пять экспериментов исследования того, как «визуальные границы восприятия событий» ограничивают «эффект числового якоря» при принятии решений, проводились так (схему эксперимента 1 см. на картинке).
• «Эффект числового якоря» в когнитивной психологии и принятия решений заключается в том, что первоначальное числовое значение, с которым сталкивается человек, может в дальнейшем влиять на его оценки или решения. Это числовое значение выступает в качестве "якоря", цепляясь за который, человек делает не совсем объективные суждения.
Например:
- Сначала человека просят решить капчу, а потом предлагают на вид прикинуть цену чемодана или решить, сколько часов общественных работ справедливо дать в качестве наказания за неприличное поведение человека в общественном месте.
- «Эффект числового якоря» проявится в том, что если одним людям показывать в капче число 29, а другим 92, то последние будут при принятии своего решения (цена чемодана или число часов наказания) давать более высокие цифры.
- и ничего с этим числовым якорем сделать невозможно, ибо он запаян в нас эволюцией.
• Влияние визуальных границ восприятия событий хорошо иллюстрируется «эффектом дверного проема». Этот эффект выражается в скачкообразном ухудшении кратковременной памяти в момент прохождения через дверной проем (что резко меняет восприятие окружающего). Мы склонны забывать о предметах, что только что держали в руках, сразу после прохождения проема и часто забываем, о чем думали или планировали сделать, пока не прошли проем.
• Оба эффекта (числового якоря и дверного проема) имеют объяснения (погуглите). На мой взгляд, все они довольно спорны. Но не суть. Ибо вот что фантастически интересно.
• Как показали 5 экспериментов Департамента психологии Йельского университета, «эффект дверного проема» сильно ослабляет или даже вообще устраняет «эффект числового якоря». И это распространяется на широкий спектр вопросов принятия решений: экономические оценки, вопросы о фактах, юридические суждения …
Это означает, как минимум, следующее.
1) Эволюция вложила в нас такие баги, что и в алкогольном бреду не привидятся. И посему говорить о принятии гарантированно верных решений, если их принимают люди, не приходится.
2) Мы можем сколько угодно смеяться, но имеет смыл вменить перед принятием решений прохождение через анфиладу комнат:
- бизнесменам и экспертам по экономике;
- аналитикам всех сортов;
- судьям;
- депутатам-законодателям и т.п.
Схема эксперимента 1 disk.yandex.ru
Отчет исследования www.pnas.org (за крепким пейволом)
Для особо любознательных wetransfer.com
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота
_______
Источник | #theworldisnoteasy
@F_S_C_P
Узнай судьбу картами Таро:
✨Anna Taro bot
Экспериментально подтвержден чудовищно странный баг в сознании людей.
Согласно древнему поверию, дверь является своеобразным порталом между пространствами. И хотя в наше время это звучит низкопробным суеверным бредом, как иначе можно объяснить результаты солидного научного эксперимента, проведенного Департаментом психологии Йельского университета?
На общечеловеческом уровне, похоже, никак. Говоря же научным языком, объяснение таково: восприятие более низкого уровня способно ограничивать даже самые непоколебимые когнитивные предубеждения более высокого уровня – напр., при принятии решений.
Пять экспериментов исследования того, как «визуальные границы восприятия событий» ограничивают «эффект числового якоря» при принятии решений, проводились так (схему эксперимента 1 см. на картинке).
• «Эффект числового якоря» в когнитивной психологии и принятия решений заключается в том, что первоначальное числовое значение, с которым сталкивается человек, может в дальнейшем влиять на его оценки или решения. Это числовое значение выступает в качестве "якоря", цепляясь за который, человек делает не совсем объективные суждения.
Например:
- Сначала человека просят решить капчу, а потом предлагают на вид прикинуть цену чемодана или решить, сколько часов общественных работ справедливо дать в качестве наказания за неприличное поведение человека в общественном месте.
- «Эффект числового якоря» проявится в том, что если одним людям показывать в капче число 29, а другим 92, то последние будут при принятии своего решения (цена чемодана или число часов наказания) давать более высокие цифры.
- и ничего с этим числовым якорем сделать невозможно, ибо он запаян в нас эволюцией.
• Влияние визуальных границ восприятия событий хорошо иллюстрируется «эффектом дверного проема». Этот эффект выражается в скачкообразном ухудшении кратковременной памяти в момент прохождения через дверной проем (что резко меняет восприятие окружающего). Мы склонны забывать о предметах, что только что держали в руках, сразу после прохождения проема и часто забываем, о чем думали или планировали сделать, пока не прошли проем.
• Оба эффекта (числового якоря и дверного проема) имеют объяснения (погуглите). На мой взгляд, все они довольно спорны. Но не суть. Ибо вот что фантастически интересно.
• Как показали 5 экспериментов Департамента психологии Йельского университета, «эффект дверного проема» сильно ослабляет или даже вообще устраняет «эффект числового якоря». И это распространяется на широкий спектр вопросов принятия решений: экономические оценки, вопросы о фактах, юридические суждения …
Это означает, как минимум, следующее.
1) Эволюция вложила в нас такие баги, что и в алкогольном бреду не привидятся. И посему говорить о принятии гарантированно верных решений, если их принимают люди, не приходится.
2) Мы можем сколько угодно смеяться, но имеет смыл вменить перед принятием решений прохождение через анфиладу комнат:
- бизнесменам и экспертам по экономике;
- аналитикам всех сортов;
- судьям;
- депутатам-законодателям и т.п.
Схема эксперимента 1 disk.yandex.ru
Отчет исследования www.pnas.org (за крепким пейволом)
Для особо любознательных wetransfer.com
#КогнитивныеИскажения #ИнтеллектуальнаяСлепота
_______
Источник | #theworldisnoteasy
@F_S_C_P
Узнай судьбу картами Таро:
✨Anna Taro bot
Яндекс Диск
Эксперимент 1.jpg
Посмотреть и скачать с Яндекс Диска