Малоизвестное интересное
64K subscribers
92 photos
1 video
11 files
1.8K links
Авторский канал Сергея Карелова о самом важном на фронтирах науки и технологий, что кардинально изменит людей и общество в ближайшие 10 лет.




Рекламы, ВП и т.п. в канале нет.
Пишите на @karelovs
Download Telegram
НАЙДЕН ОПТИМАЛЬНЫЙ СПОСОБ ПРИНЯТИЯ РЕШЕНИЙ

Это потрясающее открытие имеет колоссальные перспективы.

Оно может принципиально изменить способ принятия решений в бизнесе, социальной сфере, госуправлении и даже в организации государственной власти.

Повышение качества управления (важнейший фактор в конкурентной борьбе) - это улучшение соотношения удачно принятых (то есть правильных) решений к общему количеству принимаемых решений.

Сегодня, согласно McKinsey, как минимум, половина управленческих решений оказываются не верными, не смотря на все усилия науки и управленческих практик - см. например, здесь, здесь, здесь и здесь.

И хотя человечество уже вплотную подошло к необходимости включения в процесс принятия решений «социального интеллекта» («social intelligence»), методы краудсорсинга, «интеллекта роя» и пр. пока что не смогли изменить удручающую ситуацию с неумением людей найти оптимальную схему принятия сложных решений.

Прорыв произошел довольно неожиданно. На стыке нейронауки, теории информации, теории коллективного поведения и статистической физики удалось построить и верифицировать на большом объеме экспериментальных данных динамическую, стохастическую, распределенную модель принятия решений.

   Вопросы, поставленные авторами исследования, были достаточно сумасшедшими, равно как и 100%но научными:
-- как принимаются решения мозгом?
-- на уровне отдельных нейронов или огромной сетью коммуницирующих нейронов?
-- какова схема этого - как это происходит, и как организован процесс принятия решений?


Природа, в ходе эволюции, смогла создать так и не превзойденные современной наукой механику и биохимию живых существ. Логично предположить, что и в вопросе поиска наилучшей схемы принятия решений нейронами головного мозга природа опережает достигнутый уровень развития науки.

Новое исследование Центра Биосоциальных Сложных Систем и «Института сумасшедших идей» в Сата-Фе не только определило схему принятия решений нейронами головного мозга, но и доказало, что эта схема является оптимальной для любых коллективных вычислений, производимых сетью интеллектуальных агентов.

Эта схема, названная «кодирующая двойственность» состоит их 2х этапов.

— Первый этап более всего похож на то, что я, в свое время, назвал термином синтеллектуальный краудсорсинг - отличающийся от традиционного краудсорсинга, в первую очередь, ограничением на взаимодействие интеллектуальных агентов в начальной фазе процесса принятия решения.
Цель данного этапа – накопление информации в условиях подавления информационного шума.

— Второй этап – это «формирование консенсуса», в ходе которого информация быстро распространяется от «знающих» нейронов (имеющих доступ к информации) к множеству остальных участвующих в схеме нейронов, резко увеличивая этим избыточность в системе.

Принципиальным для эффективности схемы является то, что этапы накопления и консенсуса, отличаются разными временными шкалами.


#Нейронаука #ПринятиеРешений #Краудсорсинг
Я НАЧАЛЬНИК, ТЫ – AI

В прошлом посте была указана открытая ссылка за пэйвол HBR на последний номер этого журнала.

И поскольку доступ к этому номеру у вас уже есть, хочу порекомендовать еще один интересный материал из него – короткая статья «Алгоритмы видимость контроля».

В ней рассказывается про весьма неприятную историю, связанную с AI, - про которую почти не пишут. Речь идет о т.н. Эффекте «неприятия алгоритма»:
   --  истоки которого коренятся у нас в сознании, но до конца не понятно – почему, и потому не очень ясно, как с этим бороться;
-- последствия которого определяют успех/неуспех и, соответственно, – применение/неприменение той или иной AI технологии в конкретных индустриях и областях личного и общественного использования.

Суть этого «неприятия» в следующем.

Люди предъявляют к алгоритмам (решениям, принимаемым машинами) куда более жесткие требования, чем к самим себе. И поскольку почти любой алгоритм не идеален, люди отказываются использовать алгоритм, ссылаясь на его недостаточную точность и надежность.

Другими словами, себе-любимому мы готовы простить даже бОльшую ошибку, чем компьютеру.

   Это смахивает на наше свойство «в чужом глазу соломину видеть, а в своём — бревна не замечать». 


В результате, человек оставляет за собой работу, куда лучше выполняемую компьютером. А бизнес продолжает терять на этом кучу денег, эффективность не растет и, вообще, прогресс не идет, куда следует.

Например, вот такая ситуация:

(1) врач в состоянии самостоятельно поставить правильный диагноз по снимку с вероятностью 60%,

(2) ему дается AI, который якобы будет ставить правильные диагнозы по снимкам с вероятностью 90%;

(3) на практике же получается, что AI ставит правильные диагнозы с вероятностью «только» 80%.

В результате, врач заявляет, что не нужен ему такой плохой AI, который не дотягивает до обещанной точности диагностики. Более того, раз он не может обеспечить 90% точность диагностики, ему вообще нельзя доверять.

В статье HBR описываются эксперименты, проводимые с целью найти способ борьбы с «неприятием алгоритма».

Согласно экспериментам, неприятие снижается, если человеку дать возможность подправлять решения AI.

Т.е. этот самый врач, у которого точность диагноза на треть хуже, чем у AI, будет подправлять диагностику AI.

Бред, конечно! А что делать? Иначе человек не может ничего с собой поделать и будет всячески дискредитировать и саботировать решения AI.

Цена вопроса здесь колоссальная. Эксперты считают, что «неприятию алгоритма» человечество обязано многими миллиардами, теряемыми, например, в ритейле из-за того, что там, по-прежнему, предпочитают опираться на человеческий прогноз при пополнении запасов, а не на куда более точные прогнозы уже существующих AI систем.

- - - - -
Легко представить, что для борьбы с «неприятием алгоритма» разработчики AI начнут предусматривать спецтрюки. Например, человек будет считать, что корректирует решения AI, а на самом деле, AI просто будет в этот момент играть с человеком в поддавки, давая ему ложное ощущение, что тот – главный.

Такой путь может закончиться плохо. И я бы сильно подумал, прежде чем пойти на такой риск.

Так за кем должно оставаться финальное решение???

N.B. От ответа на этот вопрос, в частности, зависит юридическая легализация управляемых AI авто и даже то, решится ли одна из сторон нанести ядерный удар.

Такова важность решения вопроса о «неприятии алгоритма».

Статья ссылается на это исследование.
Но есть и более новое.

#AI #ПринятиеРешений #Прогнозирование #НеприятиеАлгоритма
Упертые несогласные кардинально повышают качество коллективных решений.
Этот 3й за полгода удивительный научный прорыв https://goo.gl/eqdpo6 подводит нас все ближе к открытию нового класса законов природы.

1) В июльском посте «Найден оптимальный способ принятия решений» https://t.iss.one/theworldisnoteasy/282 я рассказал о прорывном открытии на стыке нейронауки, теории информации, теории коллективного поведения и статистической физики.
Исследователям Центра Биосоциальных Сложных Систем (С4) удалось построить и верифицировать на большом объеме экспериментальных данных динамическую, стохастическую, распределенную модель принятия решений.
С помощью этой модели была выявлена схема организации процесса принятия решений в мозге огромной сетью коммуницирующих нейронов, названная авторами «кодирующая двойственность».

2) А в ноябре состоялся другой научный прорыв, о котором я писал в посте «На пороге открытия нового класса законов природы» https://t.iss.one/theworldisnoteasy/357.
Центр С4 опубликовал революционные результаты нового исследования, объясняющего, зачем адаптивные системы организуются во все более сложные укрупняющиеся структуры (от колоний бактерий до государств у людей).
Было показано, что создание иерархических многоуровневых структур – это закон природы, типа 2го закона термодинамики для живых систем. Это происходит для повышения эффективности обработки информации при коллективных вычислениях, осуществляемых элементами системы в условиях большой информационной зашумленности и разброса мнений.
Цель всего этого – улучшение предсказаний будущего, обеспечивающее максимальную адаптационную способность системы.

3) 1ое прорывное исследование открыло общую схему организации процесса принятия коллективных решений в сетях нейронов.
2й революционный прорыв распространил эту схему на принятие коллективных решений во всей живой природе (стая, племя, общество) и выявил ключевой механизм, отличающий процесс коллективного взаимодействия элементов в био-социальных (живых) и физических (неживых) системах. Этот механизм - создание иерархической многоуровневой структуры обработки информации, принятия решений и управления.

Только что опубликованное 3е исследование, с помощью еще более сложной и точной модели, выявило основной модельный фактор, повышающий качество коллективных решений, вырабатываемых вышеупомянутым механизмом, реализующим вышеупомянутую схему. После чего выявленный модельный фактор был проверен в полевых условиях на процессах принятия решений в сообществах обезьян (в этом смысле, жутко похожих на нас).

Выявленным ключевым фактором оказалась численность упертых несогласных, - имеющих собственное мнение, не вписывающееся в агрегированный итог иерархического сбора мнений, и не готовых от него быстро отказаться даже под угрозой трепки от более сильных вожаков, признаваемых большинством за власть.
Чем больше упертых несогласных – тем выше качество коллективных решений. И похоже, это новый закон природы.

P.S. Снаряды ложатся все кучнее. Революционное открытие прошлого года в области эффективности краудсорсинга говорит, по сути, о том же - наибольшее вознаграждение в краудсорсинге должно выдаваться упертым несогласным, оказавшимся в итоге правыми (см. «Особое мнение – 2я революция в краудсорсинге» https://t.iss.one/theworldisnoteasy/243)

Новое исследование https://goo.gl/6C7xB8 (сложно и за пейволом; кому нужен текст, пишите)
Популярно о нем: https://goo.gl/EN3J2u и https://goo.gl/pWdtVJ (оба по 1 мин)
Эссе об этом направлении работ С4 «Как природа решает проблемы с помощью вычислений» https://goo.gl/3b71TR (5 мин)

#ЭволюционнаяБиология #КоллективныеВычисления #Нейронаука #ПринятиеРешений #Краудсорсинг
Черные лебеди, как новый закон природы.
Важнейшим последствием продолжения прорывной серии открытий центра С4 (о чем я писал вчера), может стать выработка стратегий предотвращения «Черных лебедей».
И поскольку у вас могут не дойти руки:
— до рекомендованного мною вчера эссе https://goo.gl/3b71TR
— до научных статей C4 https://goo.gl/DMjYRg
— до превосходных публичных лекций С4 https://goo.gl/mXaM8q , —
попробую выжать «сухой остаток» из этих сотен страниц и десятков часов видео на 2 мин. вашего чтения.

I) О «Черных лебедях» и коллективном поведении.
«Черные лебеди» возникают в результате коллективного поведения людей в предкритических ситуациях. Это относится к любым «Черным лебедям», - непредвиденные глобальные обвалы финансовых рынков, национальные и глобальные экономические кризисы, эпидемии схлопывания политических режимов, типа «Арабской весны».

Ключевых факторов того, взлетит ли новый «Черный лебедь» или все как-то утрясется без катастроф, два:
1) насколько близко подошла система к критической (переломной) точке - фазовому переходу системы;
2) в какую сторону: к критической точке или от нее подталкивает систему коллективное поведение.
Это похоже на толпу у обрыва над пропастью.
— Как поведет себя толпа?
— Будет ли она в результате сотен индивидуальных действий еще ближе приближаться к краю, а потом и просто выдавливать в пропасть людей?
— Или сумеет самоорганизоваться, начнет пятиться от края и тем самым предотвратит катастрофу?

Понять степень близости системы к критической точке – задача междисциплинарных исследований в соответствующей области: финансы и т.д. Этим занимаются в исследовательских центрах типа NECSI.

Понимание того, по каким схемам и с помощью каких механизмов формируются коллективные: поведение, действия, принятие решений – это задача исследований центра С4.

II) О большой войне, как новом законе природы
Исследования на матмоделях с проверкой на обезьянах позволило понять, как социальные и другие био-системы переходят из состояния А в Б. Например:
— Коллективное вычисление, выясняющее, кто в обезьяньей стае власть, требует множества драк с участием от 2х до 30+ особей.
— Маленькие драки часты, большие - редки.
— На модели с проверкой на практике удалось собрать данные о решениях отдельных особей присоединиться к драке.
— На основе этого определили число обезьян, чья склонность присоединиться к драке должна увеличиться, чтобы приблизить систему к критической точке (тотальная потасовка с непредсказуемым для стаи результатом).
— Оказалось, что требуется всего 3-5 особей, чтобы подтолкнуть систему к краю пропасти.
— Дальше определили, как самые статусные индивиды способны чуть ли ни в одиночку довести до тотальной драки.

И вот тут откровение!
Выяснилось, что катастрофа тотального боя как бы притягивает участников. А его последствия, при всей катастрофичности, позволяют решить иначе не решаемую задачу:
✔️ полностью переконфигурировать стаю в ситуации, когда окружающая среда меняется от известной до неизвестной.
Т.е. вот она причина того, что большой войны оказывается не миновать.
Оказывается, что «Черные лебеди» прилетают к нам не по собственной воле.

Это наше коллективное рассогласование с кардинально изменившейся средой так меняет наше поведение, что мы сами толкаем ситуацию в пропасть.

И это, похоже, еще один новый закон природы.
#ЭволюционнаяБиология #КоллективныеВычисления #Нейронаука #ПринятиеРешений #Краудсорсинг #ЧерныйЛебедь
Начало войны и ошибочный диагноз рака – следствие одного и того же.
Мир кардинально изменился. Но человечество пока этого не поняло. И это очень плохо.
Люди всегда были не очень сильны в оценке вероятностей. Но еще хуже они всегда были в принятии решений на основе таких оценок.
Сколько катастрофических ошибок для стран и народов делают политические лидеры, принимая военные решения, неверно трактовав оценку вероятности разных сценариев!
А сколько ошибок, катастрофических для конкретных людей и их близких, делают врачи, принимая ошибочное решение на основе оценки вероятности!
Но так было всегда.
Так в чем же дело? Почему это вдруг стало столь критично?
Об этом, а также об изменивших мир цифровизации и больших данных. И о том, как изменить мировоззрение людей, адаптировав его к условиям нового мира, я написал здесь (читать 4 мин)
https://goo.gl/kPMvtj

#БольшиеДанные #Вероятность #Неопределенность #ПринятиеРешений
Почему наем «лучших» людей ошибочен – 2 (как разнообразие становится конкурентным преимуществом)
Предыдущий пост на эту тему вызвал интерес у многих.
В продолжение темы вчера и сегодня в «Институте сумасшедших идей» в Санта-Фе проходит замечательный учебный «Курс прикладной сложности» https://goo.gl/PQfPrA .
Его цель – рассказать о разнообразии, сложности и принятии решений в бизнесе, способствующих увеличению прибыли в контексте формирования команд и, в целом, при найме персонала. О том, как разнообразие возникает во множестве сложных систем, и как его можно использовать в бизнесе, чтобы приручить неопределенность и повысить уровень инноваций, - расскажет созвездие первостатейных спикеров, о прорывных работах которых я уже не раз писал:
— Джеффри Уэст (см. «Открыта формула победы на выборах» https://t.iss.one/theworldisnoteasy/238 )
— Джессика Флэк (см. «На пороге открытия нового класса законов природы» https://t.iss.one/theworldisnoteasy/357 )
— Мирта Галесич (см. «Новая социально-сетевая социология опросов» https://t.iss.one/theworldisnoteasy/428)
— Скотт Пейдж (см. «Почему наем «лучших» людей ошибочен» https://t.iss.one/theworldisnoteasy/411) и др.

СпрОсите, зачем рекламировать учебный курс, на который никто из читателей уже не попадет?

Да затем, что:
✔️ Во-первых, тема настолько важная, что я пишу о ней чуть ли не каждый 2й свой пост, стараясь разнообразить для вас ее сервировку и подавая под разными соусами. Однако желающих попробовать это блюдо на практике пока катастрофически мало (слишком это перпендикулярно мейнстриму).
✔️ А во-вторых, статьи всех спикеров этого курса на данную тему лежат в открытом доступе на расстоянии пары кликов от вас, - кто заинтересуется, враз найдет.

Ну или хотя бы потратьте 1.5 мин. на чтение тизера курса https://goo.gl/hck6vA о том, что общего между катастрофой, постигшей компанию Xerox (копир которой в 1970 был признан «самым успешным продуктом, когда-либо выводимым на рынок США»),и катастрофой шатла «Челленджер» в 1986 г. https://goo.gl/3J5LG3 (в свете последних заявлений США и России о скорых миссиях на Луну и Марс – более, чем актуально).
#Разнообразие #Сложность #ПринятиеРешений #НаёмПерсонала
ЦРУ создает кентавров для предсказания будущего.

Эта тема — одна из моих любимых. И уже не первый месяц, как я собираюсь начать о ней писать.

Хотя не совсем так. Кое-что я уже про это писал. И даже не раз. Но не системно, а как-то по касательной. Как бы подступаясь к этой многогранной истории с разных сторон:
— писал об интеллектуальных кентаврах — симбиозе интеллекта человека и компьютера, — альтернативе мейнстриму ИИ технологий, плодящему «бездумные машины»;
— о том, как устроен интеллект человека, и в чем его принципиальное отличие от интеллекта компьютера;
— о возможности предсказания будущего;
— о роли случайности.

Наверное, наиболее проницательные из моих читателей уже поняли, куда я клоню.
К тому, что всё вышеперечисленное — грани одной комплексной темы: взаимосвязи интеллекта (человеческого, машинного, кентаврического) и предсказаний будущего. Но как они связаны — интеллект и предсказания?
Полагаю, хватить дробить эту тему. Пора попытаться нарисовать общую картину.

Но такой рассказ в один или даже пару постов не втиснуть. Слишком много здесь захватывающих, крайне малоизвестных и интригующих поворотов. Хочу попробовать редкий для е-каналов жанр — постосериал, еженедельно публикуя продолжение одной большой истории.
Ну а начну с прояснения заголовка. Как в этой теме сплелись кентавры и предсказания будущего, объясню чуть позже. А начну с интриги, — при здесь ЦРУ, да еще и на ключевой позиции.

Тегов у этого постосериала будет много:
#ИнтеллектКентавра #AI #ИИ #IA #AIA #Краудсорсинг #РынкиПредсказаний #АльтернативныйИИ #Прогнозирование #Будущее #ПринятиеРешений #Случайность #Память #КогнитивныеСистемы #Нейронаука #IARPA

Мда… И обо всем этом я собираюсь написать в одном постосериале? … Ну хотя бы попробую 😊
Вот 1й пост 1го сезона нового постосериала. https://goo.gl/2AemSJ