Начало войны и ошибочный диагноз рака – следствие одного и того же.
Мир кардинально изменился. Но человечество пока этого не поняло. И это очень плохо.
Люди всегда были не очень сильны в оценке вероятностей. Но еще хуже они всегда были в принятии решений на основе таких оценок.
Сколько катастрофических ошибок для стран и народов делают политические лидеры, принимая военные решения, неверно трактовав оценку вероятности разных сценариев!
А сколько ошибок, катастрофических для конкретных людей и их близких, делают врачи, принимая ошибочное решение на основе оценки вероятности!
Но так было всегда.
Так в чем же дело? Почему это вдруг стало столь критично?
Об этом, а также об изменивших мир цифровизации и больших данных. И о том, как изменить мировоззрение людей, адаптировав его к условиям нового мира, я написал здесь (читать 4 мин)
https://goo.gl/kPMvtj
#БольшиеДанные #Вероятность #Неопределенность #ПринятиеРешений
Мир кардинально изменился. Но человечество пока этого не поняло. И это очень плохо.
Люди всегда были не очень сильны в оценке вероятностей. Но еще хуже они всегда были в принятии решений на основе таких оценок.
Сколько катастрофических ошибок для стран и народов делают политические лидеры, принимая военные решения, неверно трактовав оценку вероятности разных сценариев!
А сколько ошибок, катастрофических для конкретных людей и их близких, делают врачи, принимая ошибочное решение на основе оценки вероятности!
Но так было всегда.
Так в чем же дело? Почему это вдруг стало столь критично?
Об этом, а также об изменивших мир цифровизации и больших данных. И о том, как изменить мировоззрение людей, адаптировав его к условиям нового мира, я написал здесь (читать 4 мин)
https://goo.gl/kPMvtj
#БольшиеДанные #Вероятность #Неопределенность #ПринятиеРешений
Medium
Начало войны и ошибочный диагноз рака — следствие одного и того же
Мир кардинально изменился. Но человечество пока этого не поняло. И это очень плохо.
Надеюсь, в 2020 это открытие не только станет широко обсуждаемой сенсацией, но и:
- положит начало научной революции в экономике, социологии и психологии;
- запустит кардинальный пересмотр многих практических направлениях, связанных с принятием решений и оценкой рисков.
Наука, наконец, откажется от концептуально упрощенной трактовки вероятности без учёта фактора времени.
Технологии больших данных пересмотрят существующие подходы их анализа, основанные на вероятности больших ансамблей.
Бизнес кардинально поменяет методики анализа рисков и прогнозирования для большинства видов человеческой деятельности.
И все мы будем вынуждены переосмыслить отношение к случайностям, из которых, собственно, и состоит наша жизнь.
Все это может произойти потому, что даже математически выверенные ожидания, базирующиеся на ансамблевых средних значениях - от выигрыша в казино до выгодности страховки, - оказываются ошибочными, если не учитывать фактор времени.
А может никакой такой революции не произойдёт: ни в 2020, ни даже через 3, 5 или 10 лет. Ведь человечество неоднократно доказывало, что способно веками прекрасно уживаться с наивными и несовершенными представлениями о мире. Что солнце вращается вокруг неподвижной земли, что камни не могут падать с неба, да и мало ли ещё было … ((
Но все же не думаю, что снова случится подобное. Слишком уж разогнался ход времени, чтобы продолжилась и дальше 300 летняя практика его неучета при оценке вероятности выигрыша в случайных процессах.
Кем бы вы ни были по профессии, и какова бы ни была сфера ваших интересов, данная тема - одна из самых важных. И разобраться в ней обязательно надо. Но это не просто. Чтобы объяснить на примерах, что здесь к чему, мне пришлось написать лонгрид на 19 мин чтения, да еще и с 20 картинками:
- на Medium https://bit.ly/3IAKJ4k
- на Яндекс Дзен https://clck.ru/L6YrP
И кстати. Если даже такая тема вас не заинтересовала и нет желания читать дальше (мол, время жалко), - вы правы! Не тратьте больше свое драгоценное время и смело отписывайтесь от этого канала.
В мире ведь так много другого - общеизвестного неинтересного.
#Вероятность #Эргодичность #ПринятиеРешений
- положит начало научной революции в экономике, социологии и психологии;
- запустит кардинальный пересмотр многих практических направлениях, связанных с принятием решений и оценкой рисков.
Наука, наконец, откажется от концептуально упрощенной трактовки вероятности без учёта фактора времени.
Технологии больших данных пересмотрят существующие подходы их анализа, основанные на вероятности больших ансамблей.
Бизнес кардинально поменяет методики анализа рисков и прогнозирования для большинства видов человеческой деятельности.
И все мы будем вынуждены переосмыслить отношение к случайностям, из которых, собственно, и состоит наша жизнь.
Все это может произойти потому, что даже математически выверенные ожидания, базирующиеся на ансамблевых средних значениях - от выигрыша в казино до выгодности страховки, - оказываются ошибочными, если не учитывать фактор времени.
А может никакой такой революции не произойдёт: ни в 2020, ни даже через 3, 5 или 10 лет. Ведь человечество неоднократно доказывало, что способно веками прекрасно уживаться с наивными и несовершенными представлениями о мире. Что солнце вращается вокруг неподвижной земли, что камни не могут падать с неба, да и мало ли ещё было … ((
Но все же не думаю, что снова случится подобное. Слишком уж разогнался ход времени, чтобы продолжилась и дальше 300 летняя практика его неучета при оценке вероятности выигрыша в случайных процессах.
Кем бы вы ни были по профессии, и какова бы ни была сфера ваших интересов, данная тема - одна из самых важных. И разобраться в ней обязательно надо. Но это не просто. Чтобы объяснить на примерах, что здесь к чему, мне пришлось написать лонгрид на 19 мин чтения, да еще и с 20 картинками:
- на Medium https://bit.ly/3IAKJ4k
- на Яндекс Дзен https://clck.ru/L6YrP
И кстати. Если даже такая тема вас не заинтересовала и нет желания читать дальше (мол, время жалко), - вы правы! Не тратьте больше свое драгоценное время и смело отписывайтесь от этого канала.
В мире ведь так много другого - общеизвестного неинтересного.
#Вероятность #Эргодичность #ПринятиеРешений
Для лиц принимающих решения, самое страшное – усугубить эпидемию ошибочными решениями из-за неверного понимания ситуации. А шансы такого неверного понимания крайне велики. Более того, они растут по мере прохождения плато эпидемии и снижения ее темпов.
О том, что:
• главный источник опасности – ориентация на средние значения показателей хода эпидемии,
• катастрофические локальные вспышки смертей таятся в толстом хвосте графика эпидемии,
• когда эпидемия пойдет на спад, может случиться непредвиденное - взрыв паники, сдетонировавшей от немыслимо большой локальной вспышки,
читайте в моем новом посте (4 мин чтения), резюмирующем предостережение проф. Кристофера Мура, - автора «нового закона Мура», установившего «пределы возможности компьютинга».
На Medium https://bit.ly/2W69ywv
На Яндекс Дзен https://clck.ru/NCQfQ
#Эпидемия #Вероятность #ПринятиеРешений
О том, что:
• главный источник опасности – ориентация на средние значения показателей хода эпидемии,
• катастрофические локальные вспышки смертей таятся в толстом хвосте графика эпидемии,
• когда эпидемия пойдет на спад, может случиться непредвиденное - взрыв паники, сдетонировавшей от немыслимо большой локальной вспышки,
читайте в моем новом посте (4 мин чтения), резюмирующем предостережение проф. Кристофера Мура, - автора «нового закона Мура», установившего «пределы возможности компьютинга».
На Medium https://bit.ly/2W69ywv
На Яндекс Дзен https://clck.ru/NCQfQ
#Эпидемия #Вероятность #ПринятиеРешений
Medium
Смерть таится в толстом хвосте
Когда эпидемия пойдет на спад, может случиться непредвиденное
301-й год в искаженной реальности.
И 1-й год при COVID-19
16 декабря 2019 я рассказал важную историю «300 лет в искаженной реальности. Назрел крупнейший прорыв в понимании случайности» (правильная ссылка https://bit.ly/3IAKJ4k ) . Искажение, про которое я рассказывал, - следствие сложившихся около 300 лет назад ошибочных представлений о вероятности (риска, удачи, болезни …). И чтобы исправить это, необходима смена человечеством модели рациональности.
А первый шаг на пути такого исправления - выход за рамки привычного «среднего мышления».
Когда эта статья вышла, COVID-19 в мире еще не было, а сам вирус SARS-CoV-2 только возник. А сейчас уже через пару месяцев человечество отметит год совместной жизни с этим вирусом. Он уже унес более 1 млн жизней. Но мы по-прежнему, не понимаем большинство его тайн.
• Почему было такое огромное число погибших в северной Италии, а не в остальной части страны? Только в 3-х смежных регионах северной Италии погибло 25К из почти 36К и только в Ломбардии - около 17К.
• Что произошло в Гуаякиле (Эквадор) в апреле, когда так много людей умерло так быстро, что тела валялись на улицах?
• Почему весной 2020 на небольшое число городов приходилась значительная часть смертей во всем мире, в то время как многие другие с аналогичной плотностью, погодой, возрастным распределением и схемами передвижения - проскочили?
• Что, на самом деле, представляет собой опыт Швеции? Одни считают его большим успехом из-за низкого числа случаев заболевания и смертей в то время как остальная часть Европы переживает вторую волну. Другие называют большой неудачей из-за повышенной смертности в первые месяцы пандемии.
• Почему не подтвердились широко распространенные предсказания катастрофы в Японии?
Непонятные примеры продолжаются. И каких только для них нет объяснений вплоть до «темной иммунной материи».
Но полагаю, объяснение гораздо проще. Человечество так и не отказалось от привычного «среднего мышления» и продолжает жить в искаженной реальности, на сей раз – эпидемической.
Одной из главных метрик этой реальности является пресловутый коэффициент R0 - средний показатель заразности.
К сожалению, средние значения не всегда полезны для понимания распространения явления, особенно если его поведение сильно различается. Если глава Amazon Джефф Безос зайдет в бар со 100 обычными людьми, среднее состояние посетителей в этом баре внезапно превысит $1 млрд. Если же я войду в тот же бар, то среднее состояние посетителей бара почти не изменится. Ясно, что среднее значение не так уж и полезно для понимания распределения богатства и того, как это изменить. Между тем, если в баре есть человек, инфицированный COVID-19, и если помещение плохо вентилируется, и если инфицированный громко говорит и стоит среди плотно стоящей группы собеседников, - то в результате всех этих «и», почти все в баре потенциально могут быть заражены. Эта закономерность, наблюдаемая много раз с начала пандемии, никак не улавливается коэффициентом R0. Потому что здесь главное – высокий разброс показателя - дисперсия. И среднее здесь лишь сбивает с толку. Ибо:
• большинство инфицированных людей никого не заражают;
• а всего один человек всего за несколько часов может заразить 80%+ людей, находящихся с ним в одном помещении.
И здесь все дело в случайности. Т.к. паттерн COVID-19 не детерминированный, а стохастический. А при таком паттерне некоторые люди становятся СУПЕР-РАСПРОСТРАНИТЕЛЯМИ вируса в результате ряда случайных совпадений, типа вышеописанной ситуации в баре.
При огромной дисперсии заражаемости и её стохастичности, не нужно иных объяснений для всех особо пострадавших регионов, кроме того, что в них изначально просто было несколько неудачных ранних событий сверхраспространения.
Если уйти от привычного «среднего мышления», реальность пандемии перестаёт быть искаженной. Становится ясно, что дело не в строгости ограничений, а в том, нацелены ли они на истинную опасность – суперраспространение.
Подробней, читайте здесь
#Вероятность #Случайность #Эпидемия
И 1-й год при COVID-19
16 декабря 2019 я рассказал важную историю «300 лет в искаженной реальности. Назрел крупнейший прорыв в понимании случайности» (правильная ссылка https://bit.ly/3IAKJ4k ) . Искажение, про которое я рассказывал, - следствие сложившихся около 300 лет назад ошибочных представлений о вероятности (риска, удачи, болезни …). И чтобы исправить это, необходима смена человечеством модели рациональности.
А первый шаг на пути такого исправления - выход за рамки привычного «среднего мышления».
Когда эта статья вышла, COVID-19 в мире еще не было, а сам вирус SARS-CoV-2 только возник. А сейчас уже через пару месяцев человечество отметит год совместной жизни с этим вирусом. Он уже унес более 1 млн жизней. Но мы по-прежнему, не понимаем большинство его тайн.
• Почему было такое огромное число погибших в северной Италии, а не в остальной части страны? Только в 3-х смежных регионах северной Италии погибло 25К из почти 36К и только в Ломбардии - около 17К.
• Что произошло в Гуаякиле (Эквадор) в апреле, когда так много людей умерло так быстро, что тела валялись на улицах?
• Почему весной 2020 на небольшое число городов приходилась значительная часть смертей во всем мире, в то время как многие другие с аналогичной плотностью, погодой, возрастным распределением и схемами передвижения - проскочили?
• Что, на самом деле, представляет собой опыт Швеции? Одни считают его большим успехом из-за низкого числа случаев заболевания и смертей в то время как остальная часть Европы переживает вторую волну. Другие называют большой неудачей из-за повышенной смертности в первые месяцы пандемии.
• Почему не подтвердились широко распространенные предсказания катастрофы в Японии?
Непонятные примеры продолжаются. И каких только для них нет объяснений вплоть до «темной иммунной материи».
Но полагаю, объяснение гораздо проще. Человечество так и не отказалось от привычного «среднего мышления» и продолжает жить в искаженной реальности, на сей раз – эпидемической.
Одной из главных метрик этой реальности является пресловутый коэффициент R0 - средний показатель заразности.
К сожалению, средние значения не всегда полезны для понимания распространения явления, особенно если его поведение сильно различается. Если глава Amazon Джефф Безос зайдет в бар со 100 обычными людьми, среднее состояние посетителей в этом баре внезапно превысит $1 млрд. Если же я войду в тот же бар, то среднее состояние посетителей бара почти не изменится. Ясно, что среднее значение не так уж и полезно для понимания распределения богатства и того, как это изменить. Между тем, если в баре есть человек, инфицированный COVID-19, и если помещение плохо вентилируется, и если инфицированный громко говорит и стоит среди плотно стоящей группы собеседников, - то в результате всех этих «и», почти все в баре потенциально могут быть заражены. Эта закономерность, наблюдаемая много раз с начала пандемии, никак не улавливается коэффициентом R0. Потому что здесь главное – высокий разброс показателя - дисперсия. И среднее здесь лишь сбивает с толку. Ибо:
• большинство инфицированных людей никого не заражают;
• а всего один человек всего за несколько часов может заразить 80%+ людей, находящихся с ним в одном помещении.
И здесь все дело в случайности. Т.к. паттерн COVID-19 не детерминированный, а стохастический. А при таком паттерне некоторые люди становятся СУПЕР-РАСПРОСТРАНИТЕЛЯМИ вируса в результате ряда случайных совпадений, типа вышеописанной ситуации в баре.
При огромной дисперсии заражаемости и её стохастичности, не нужно иных объяснений для всех особо пострадавших регионов, кроме того, что в них изначально просто было несколько неудачных ранних событий сверхраспространения.
Если уйти от привычного «среднего мышления», реальность пандемии перестаёт быть искаженной. Становится ясно, что дело не в строгости ограничений, а в том, нацелены ли они на истинную опасность – суперраспространение.
Подробней, читайте здесь
#Вероятность #Случайность #Эпидемия
Байден лопух? В ЦРУ идиоты?
Возможно. Но причина сегодняшней суперновости в ином.
Сегодня, когда «Талибан» взял под контроль весь Афганистан, мир недоумевает: как мог президент Байден так лопухнуться, заявив 8-го июля: «вероятность того, что «Талибан» захватит всю страну, крайне невелика»?
Как такое могло быть сказано президентом сверхдержавы, обладающим доступом к, казалось бы, самой секретной информации от самых продвинутых аналитиков одной из самых крутых разведок мира?
Может дело в том, что Байден просто лопух? Или в ЦРУ сидят одни идиоты?
Увы, но ситуация куда хуже. И об этом уже полвека известно и в ЦРУ, и во всех других разведках мира.
Дело в том, что при оценке рисков принимаемых решений, политики (а) полагаются на прогнозы аналитиков разведки, но при этом (б) не понимают, что стоит за конкретными значениями вероятностей, указанных в этих прогнозах.
Ведь что имел в виду Байден, говоря “highly unlikely” во фразе “But the likelihood there’s going to be the Taliban overrunning everything and owning the whole country is highly unlikely.”?
И если вы думаете, что Байден имел в виду что-то типа 5%, то вы сильно ошибаетесь.
Еще полвека назад разведка НАТО задалась сакраментальным вопросом – а что это мы так часто лажаем в своих прогнозах?
Проведенное ими исследование показало.
✔️ Аналитики и офицеры разведки – тоже люди. А у людей весьма расплывчатые и путанные представления о вероятности. Из-за этого кто-то воспринимает оценку вероятности “highly unlikely”, как 5%. Другой же – как 20%, а третий – как менее 40%.
✔️ Политики и генералы – тоже люди. И у них представления о вероятности еще хуже. Поэтому, прочтя в заключении разведки оценку “highly unlikely” (написанную аналитиком, оценивающим эту вероятность менее 40%), политик запросто может интерпретировать это, как вероятность, менее 5%).
Информация для размышления
На приложенном рисунке показан разброс представлений людей о соотношении числовых и словесных оценок вероятности:
• слева – внутреннее руководство для аналитиков разведки (1);
• в середине – результаты опроса Reddit, как люди оценивают словесные оценки вероятности (2)
• справа – итоги исследования разведки НАТО (2)
Авторы исследования разведки НАТО пришли к такому выводу:
1) подобная расплывчатость и неоднозначность оценок вероятности делает решения, принимаемые связкой аналитиков разведки и политиков, непредсказуемо неточными.
2) поскольку почти все решения национального уровня принимаются такой связкой, необходимо в принципе отказаться от словесных формулировок при оценке вероятности (т.е. писать четко – напр. с вероятностью 80%)
После этого исследования прошло полвека. Думаете, что-то изменилось? Увы, нет.
Почему? Да просто ни разведчики, ни политики не хотят отвечать за базар. Ведь за вероятность в 5% многим пришлось бы отвечать. А какой спрос с “highly unlikely”? В конце концов, каждый понимает это по-своему.
N.B. Ну а если принять в расчет, что используемая уже 300 лет во всем мире модель рациональности при оценке рисков в корне ошибочна (см. «300 лет в искаженной реальности»), то спрашивать с разведки и политиков вообще не за что: ни за профуканный развал СССР, ни за сегодняшнее торжество «Талибан», ни за … Что там за сюрприз ждет нас в сентябре?
#Вероятность #ПринятиеРешений
Возможно. Но причина сегодняшней суперновости в ином.
Сегодня, когда «Талибан» взял под контроль весь Афганистан, мир недоумевает: как мог президент Байден так лопухнуться, заявив 8-го июля: «вероятность того, что «Талибан» захватит всю страну, крайне невелика»?
Как такое могло быть сказано президентом сверхдержавы, обладающим доступом к, казалось бы, самой секретной информации от самых продвинутых аналитиков одной из самых крутых разведок мира?
Может дело в том, что Байден просто лопух? Или в ЦРУ сидят одни идиоты?
Увы, но ситуация куда хуже. И об этом уже полвека известно и в ЦРУ, и во всех других разведках мира.
Дело в том, что при оценке рисков принимаемых решений, политики (а) полагаются на прогнозы аналитиков разведки, но при этом (б) не понимают, что стоит за конкретными значениями вероятностей, указанных в этих прогнозах.
Ведь что имел в виду Байден, говоря “highly unlikely” во фразе “But the likelihood there’s going to be the Taliban overrunning everything and owning the whole country is highly unlikely.”?
И если вы думаете, что Байден имел в виду что-то типа 5%, то вы сильно ошибаетесь.
Еще полвека назад разведка НАТО задалась сакраментальным вопросом – а что это мы так часто лажаем в своих прогнозах?
Проведенное ими исследование показало.
✔️ Аналитики и офицеры разведки – тоже люди. А у людей весьма расплывчатые и путанные представления о вероятности. Из-за этого кто-то воспринимает оценку вероятности “highly unlikely”, как 5%. Другой же – как 20%, а третий – как менее 40%.
✔️ Политики и генералы – тоже люди. И у них представления о вероятности еще хуже. Поэтому, прочтя в заключении разведки оценку “highly unlikely” (написанную аналитиком, оценивающим эту вероятность менее 40%), политик запросто может интерпретировать это, как вероятность, менее 5%).
Информация для размышления
На приложенном рисунке показан разброс представлений людей о соотношении числовых и словесных оценок вероятности:
• слева – внутреннее руководство для аналитиков разведки (1);
• в середине – результаты опроса Reddit, как люди оценивают словесные оценки вероятности (2)
• справа – итоги исследования разведки НАТО (2)
Авторы исследования разведки НАТО пришли к такому выводу:
1) подобная расплывчатость и неоднозначность оценок вероятности делает решения, принимаемые связкой аналитиков разведки и политиков, непредсказуемо неточными.
2) поскольку почти все решения национального уровня принимаются такой связкой, необходимо в принципе отказаться от словесных формулировок при оценке вероятности (т.е. писать четко – напр. с вероятностью 80%)
После этого исследования прошло полвека. Думаете, что-то изменилось? Увы, нет.
Почему? Да просто ни разведчики, ни политики не хотят отвечать за базар. Ведь за вероятность в 5% многим пришлось бы отвечать. А какой спрос с “highly unlikely”? В конце концов, каждый понимает это по-своему.
N.B. Ну а если принять в расчет, что используемая уже 300 лет во всем мире модель рациональности при оценке рисков в корне ошибочна (см. «300 лет в искаженной реальности»), то спрашивать с разведки и политиков вообще не за что: ни за профуканный развал СССР, ни за сегодняшнее торжество «Талибан», ни за … Что там за сюрприз ждет нас в сентябре?
#Вероятность #ПринятиеРешений
Когнитивные иллюзии ведут к когнитивным ловушкам.
Начинается переосмысление: ИИ - это неизбежность, а не панацея.
Редакционная статья Nature «Почему ученые слишком доверяют ИИ - и что с этим делать» [1] впервые на столь высоком научном уровне кардинально смещает фокус видения ИИ-рисков для человечества:
Колоссальная и уже сейчас вполне реальная опасность развития ИИ-технологий - отнюдь не попадание людей под пяту Сверхразума, и влияние на наш разум этого супер-инструмента расширения когнитивных возможностей людей.
Также было и при освоении человеком огня: первоначальное примитивное понимания рисков смещалось по мере развития технологий использования огня: от риска ожога и сгоревшего шалаша к рискам огнеметов, напалма и хиросим.
С ИИ рисками происходит подобное, только много быстрее: от рисков несогласованных с людьми целей ИИ к рискам когнитивных иллюзий, - наших иллюзий, а не ИИ, - но миллиардократно им усугубленным.
Опираясь на данные антропологии и когнитивной науки, исследователи университетов Йеля и Принстона первой среди таких иллюзий называют иллюзию понимания (иллюзию глубины объяснения), когда люди, полагаясь на ИИ, считают свои знания глубже и точнее, чем на самом деле [2].
Итогом этого становятся когнитивные ловушки. Степень катастрофичности которых зависит от «впаянности» когнитивной иллюзии в нашу когнитивную практику и от её институализированности в научном дискурсе.
Об одной из самых поразительных когнитивных иллюзий, в плену которой человечество пребывает уже более 300 лет, я писал в лонгриде «300 лет в искаженной реальности» [3].
Новый лонгрид «Ловушка неэргодических целей. Самый технопродвинутый путь к катастрофическим решениям» - , как и следует из названия, о потенциальных катастрофических последствиях превращения, при применении ИИ, этой самой накрепко впаянной в нас когнитивной иллюзии в колоссальную когнитивную ловушку.
P.S. Не удивляйтесь, что этот и последующие мои лонгриды теперь на Boosty и Patreon
https://www.patreon.com/user?u=121753727
https://boosty.to/theworldisnoteasy
Иного способа понять, стоит ли время на написание лонгридов реального интереса к ним со стороны 140 тыс моих бесплатных подписчиков на 4-х существующих платформах, у меня нет.
Кроме того, для подписчиков на Boosty и Patreon:
• Открыт ТГ-чат для комментариев и обсуждений, где я планирую отвечать на вопросы читателей.
• Также планируется рассылка несколько раз в год тщательно отобранных подборок моих откомментированных текстов в виде электронных книг.
• Позже есть мысли сделать и подкаст
Так что, добро пожаловать в клуб «Малоизвестное интересное»!
И спасибо всем за поздравления с ДР! 😊
1 https://www.nature.com/articles/d41586-024-00639-y
2 https://www.nature.com/articles/s41586-024-07146-0
3 https://t.iss.one/theworldisnoteasy/953
#Вероятность #Эргодичность #ПринятиеРешений
Начинается переосмысление: ИИ - это неизбежность, а не панацея.
Редакционная статья Nature «Почему ученые слишком доверяют ИИ - и что с этим делать» [1] впервые на столь высоком научном уровне кардинально смещает фокус видения ИИ-рисков для человечества:
Колоссальная и уже сейчас вполне реальная опасность развития ИИ-технологий - отнюдь не попадание людей под пяту Сверхразума, и влияние на наш разум этого супер-инструмента расширения когнитивных возможностей людей.
Также было и при освоении человеком огня: первоначальное примитивное понимания рисков смещалось по мере развития технологий использования огня: от риска ожога и сгоревшего шалаша к рискам огнеметов, напалма и хиросим.
С ИИ рисками происходит подобное, только много быстрее: от рисков несогласованных с людьми целей ИИ к рискам когнитивных иллюзий, - наших иллюзий, а не ИИ, - но миллиардократно им усугубленным.
Опираясь на данные антропологии и когнитивной науки, исследователи университетов Йеля и Принстона первой среди таких иллюзий называют иллюзию понимания (иллюзию глубины объяснения), когда люди, полагаясь на ИИ, считают свои знания глубже и точнее, чем на самом деле [2].
Итогом этого становятся когнитивные ловушки. Степень катастрофичности которых зависит от «впаянности» когнитивной иллюзии в нашу когнитивную практику и от её институализированности в научном дискурсе.
Об одной из самых поразительных когнитивных иллюзий, в плену которой человечество пребывает уже более 300 лет, я писал в лонгриде «300 лет в искаженной реальности» [3].
Новый лонгрид «Ловушка неэргодических целей. Самый технопродвинутый путь к катастрофическим решениям» - , как и следует из названия, о потенциальных катастрофических последствиях превращения, при применении ИИ, этой самой накрепко впаянной в нас когнитивной иллюзии в колоссальную когнитивную ловушку.
P.S. Не удивляйтесь, что этот и последующие мои лонгриды теперь на Boosty и Patreon
https://www.patreon.com/user?u=121753727
https://boosty.to/theworldisnoteasy
Иного способа понять, стоит ли время на написание лонгридов реального интереса к ним со стороны 140 тыс моих бесплатных подписчиков на 4-х существующих платформах, у меня нет.
Кроме того, для подписчиков на Boosty и Patreon:
• Открыт ТГ-чат для комментариев и обсуждений, где я планирую отвечать на вопросы читателей.
• Также планируется рассылка несколько раз в год тщательно отобранных подборок моих откомментированных текстов в виде электронных книг.
• Позже есть мысли сделать и подкаст
Так что, добро пожаловать в клуб «Малоизвестное интересное»!
И спасибо всем за поздравления с ДР! 😊
1 https://www.nature.com/articles/d41586-024-00639-y
2 https://www.nature.com/articles/s41586-024-07146-0
3 https://t.iss.one/theworldisnoteasy/953
#Вероятность #Эргодичность #ПринятиеРешений
Patreon
Get more from Малоизвестное интересное on Patreon
Авторский канал Сергея Карелова