Малоизвестное интересное
68.2K subscribers
125 photos
1 video
11 files
1.83K links
Авторский взгляд через призму новейших исследований на наше понимание реальности, человеческой сущности и того, как ИИ меняет их.




Рекламы, ВП и т.п. в канале нет.
Пишите на @karelovs
Download Telegram
Прорыв в расшифровке кода разума.
Установлено - разум кодируется телом и эмоциями.

2я половина 20го века ознаменована выдающимся триумфом человеческого разума – расшифровка «кода жизни» (генетического кода).
В 1й половине 21 века ожидается следующий «криптографический» прорыв –расшифровка «кода самого разума», шифрующего в мозге представления о мире – его объектах и событиях.

Способность идентифицировать отдельные объекты и события в общей таксономии представлений о мире (например, «дерево», «собака», «лошадь» или «визит к зубному врачу») является фундаментальным аспектом разума. Эта способность позволяет нам быстро получать доступ к большому количеству информации, относящейся к знакомому нам объекту или событию, и использовать ее для управления своим поведением.

Но как эта информация представлена в мозге, наука до сих пор не знает. Расшифровка этого «кода разума» позволит совершить колоссальный скачок в нейронауке, когнитивных науках и создании ИИ.

Новое исследование неврологов и биомедицинских инженеров Medical College of Wisconsin (1) позволяет науке вплотную подойти к расшифровке «кода разума». Авторы исследования использовали функциональную МРТ для анализа паттернов активности мозга, соответствующих сотням знакомых понятий, и количественно охарактеризовали информационную структуру этих паттернов.

Результаты исследования показывают, что концептуальные знания хранятся в виде паттернов нейронной активности, которые кодируют сенсомоторную и аффективную информацию о каждом понятии, вопреки давней идее о том, что представления понятий не зависят от сенсомоторного опыта.

Переводя это на понятный язык, можно сказать так.
Представления об объектах и событиях, кодируемых в мозге «кодом разума», представляют собой набор из двух типов воспоминаний о прошлом опыте:
1. воспоминания о наших сенсорных ощущениях и двигательных реакций на них (сенсомоторная информация), связанных с формированием в нашем опыте представлений о конкретном событии или объекте;
2. воспоминания о наших эмоциях (аффективной информации), испытанных нами в ходе восприятия конкретных сенсорных ощущений и двигательных реакций (см. п.1).


Это значит, что «кода разума» записан с использованием двух «алфавитов» (типа букв и цифр): алфавит тела (для записи сенсомоторной информации) и алфавит чувств (для записи аффективной информации).

Из чего, как мне видится, можно сделать следующий вывод.
Разум, не обладающий телом и чувствами, невозможен. По крайней мере, - биологический разум, типа разума человека, дельфина, ворона и осьминога.
(подробней см. (2))

1 2
#Разум
NVIDIA бросает вызов Meta и Google
Ставка в этой борьбе – лидерство в Метаверсе и ИИ.

Вы не пожалеете, посмотрев хоть 20 сек нового WEEKEND VIDEO о том, что такое Omniverse от NVIDIA.
Неотличимые от реальности, чарующие и пленяющие взор предметы неповторимой красоты: светящийся изнутри нефритовый тигр, маслянистая желтовато-зеленая мякоть авокадо, зыбучий песок дзен-сада, игра отражений и всплесков воды бассена …
Всей этой красоты нет в физическом мире. Но она есть в Омниверсе – 4х мерной пространственно-временной виртуальной вселенной, творимой художниками, исследователями, дизайнерами и инженерами на открытой расширяемой платформе Omniverse от NVIDIA.

Далее в этом видео калейдоскоп разнообразных образов и явлений Омниверса: от антикварной мебели и бегающих животных, до эпицентра торнадо и галактического ветра.
У всех этих образов и явлений одно общее свойство.
Являясь образами и явлениями VR-среды, они физически точно моделируются в реальном времени.
Физическая точность симуляции означает, что в ней выполняются все важные аспекты физики:
• то, как вещи выглядят в физическом мире — это физика взаимодействия света с материей;
• и то как вещи взаимодействуют друг с другом — это физика твердого тела, физики мягкого тела и гидродинамика.
Такая физическая точность Омниверса в корне отличает его от примитивного наполнения Мультиверса, как его понимают в Meta или Baidu.

Вы, наверное, уже видели убогие обрубки аватаров людей (дабы не было за что хватать и харасить), тусующихся на социальной VR-платформе Horizon от Meta и будто скопированных из видеоигр прошлого нелепых человечков Метавселенной по-китайски Xirang от Baidu.

Цель физической точности симуляции – далеко не только в привлекательности и достоверности 4-х мерной картинки.
Главная цель точности моделирования физического мира – возможность обретения людьми сверхспособностей в объединенном физически-цифровом мире, и в первую очередь способности телепортации.

Об этом открытым текстом сказал третьего дня вице-президент по Omniverse и технологиям моделирования NVIDIA Рев Лебаредиан в развернутом интервью IEEE Spectrum (1):
«Because we believe that if you can simulate the real world closely enough, then you gain superpowers… First, you get teleportation.»
О механизмах обретения в Мультиверсе сверхспособностей и, в частности, телепортации, я подробно рассказывал в январе в своем видео-интервью (2). Тогда некоторым это показалось завиральным. Теперь о том же публично сказал отвечающий за Omniverse ВП NVIDIA. И это реальный вызов концепции позиционирования Метаверса, предлагаемой Цукербергом.

Противостояние подходов Meta и NVIDIA определит будущее Метаверса на десятилетие:
1) точная VR-симуляция для объединения физического и цифрового миров в целях обретения людьми сверспособностей
или
2) условная VR-симуляция упрощенной копии реального мира для перевода в такой Мультиверс социальных медиа, е-торговли и е-развлечений.


1-е много сложней и затратней. И как ни могуча NVIDIA, но победить Meta в этой борьбе может не сдюжить.
Единственное, что может позволить это сделать NVIDIA – их сумасшедший по наглости трюк. NVIDIA бросает вызов еще и Google. Суть вызова в опровержении тезиса «данные – это новая нефть».

• Что если данные из физического мира перестанут быть первостепенным ресурсом для обучения ИИ?
• Что если удастся заменить данные физического мира на данные, полученные в Омниверсе?

Об этом и рассказывает Лебаредиан в интервью (1).
Получается, что:
✔️ к 2030 ¾ данных будут синтетическими - не из физического мира (3)
✔️ этим также удастся побороть предвзятость ИИ из-за предвзятости данных

Так что, если Meta и Google не объединятся, NVIDIA может испортить бизнес обоим.

1 2 3
#Metaverse #ИИ
​​ИИ превращается в ящик Пандоры с неисчислимой стаей Черных лебедей внутри.
Два жутких отчета о рисках «злонамеренного ИИ», снизить которые может лишь институциональная защита.

Обобщить выводы двух новых отчетов авторитетных исследовательских организаций, можно примерно так.

А) Масштабирование (увеличение размера) больших генеративных моделей ИИ (также называемых «базисные модели) - типа CLIP, Ernie 3.0 Titan, FLAN, Gopher, GPT-3, HyperClova, Jurassic-1-Jumbo, Megatron Turing NLG, LaMDA, Pan Gu, Yuan 1.0 и пр.), - неостановимо.
(1) Этот путь уже доказал свою эффективность для решения все более сложных задач.
(2) Он экономически выгодней любых иных путей.
Т.о. используемые в ИИ размеры моделей будут неуклонно расти.

Б) Последствием роста больших генеративных моделей ИИ является непредсказуемость рисков его применения. С увеличением размера моделей ИИ буквально превращается в ящик Пандоры, в котором обитает неисчислимое множество Черных лебедей – серьёзных, «злонамеренных» последствий действий ИИ, которые заранее невозможно предсказать.
Например:
-- ИИ самоуправляемого авто может начать максимизировать безопасность своих пассажиров за счет снижения безопасности пассажиров чужих авто
-- ИИ, управляющий балансировкой нагрузки электросетей, может максимизировать удовлетворение потребностей одного класса потребителей за счет другого.
N.B. Кавычки означают, что никаких намерений у ИИ конечно нет, а «злонамеренность» получается просто по факту.

В) Поскольку предсказать Черных лебедей «злонамеренности» ИИ невозможно, остается лишь строить универсальную систему защиты, способную понизить потенциальный урон.

Г) Цивилизация придумала лишь две универсальные системы защиты от злонамеренных действий интеллектуальных агентов (людей): мораль и закон.
-- Мораль в случае ИИ не подходит, ибо это не живой продукт эволюции, а машина, у которой нет базы для существования морали.
-- А вот система регулирующих ИИ законов, устанавливаемых соответствующими институтами, а другими институтами контролируемая, - может помочь.

Д) В частности, для регулирования самого перспективного из существующих ИИ – систем на основе обучения с подкреплением (Reinforcement Learning), - необходимо срочно создать институт нормативных «отчетов о вознаграждениях». Эти отчеты для ИИ-агентов будут подобны комбинации отчетов, существующих у людей – типа интеграции финансовой декларации человека с его психометрической оценкой и личным делом.

Е) Забить на ящик Пандоры с Черными лебедями для человечества себе дороже.
-- Системы обучения с подкреплением будут действовать на все более длительных временных горизонтах, принимая все более независимые решения, напрямую манипулируя реальностью и меняя ее в соответствии со своими неизвестными людям критериями.
-- ИИ-системы глубокого обучения – это «усилители культуры», которые повторяют и усиливают когнитивные искажения, мемы и идеологию людей, в скрытой форме содержащиеся в наборах данных, на которых ИИ обучался. Но поскольку эффект масштабирования ИИ несоизмеримо сильнее даже самых влиятельных лидеров мнений, интеллектуальная слепота, предвзятость и зашоренность людей будут катастрофически расти.

• 1й отчет Predictability and Surprise in Large Generative Models опубликовала компания Anthropic, являющейся на сегодня лидером в исследованиях потенциала и рисков масштабирования ИИ.

• 2й отчет Choices, Risks, and Reward Reports: Charting Public Policy for Reinforcement Learning Systems выпущен CLTC (Центр долгосрочной кибербезопасности Беркли).

О рисках базисных моделей также см. мой пост
#БазисныеМодели #РискиИИ
​​Интеллектуальная война – это гипервойна, война на истощение, междоменные боевые действия и операции когнитивного контроля.
Резюме отчета Минобороны США о военной мощи Китая.

Вопросы войны сейчас как никогда актуальны. Но кроме России и Украины, в мире есть и другие игроки, от военной мощи которых будущее зависит куда сильнее.
В первую очередь, - это Китай, до завершения «великой модернизации» которого осталось пять этапов.

1. К 2025 осуществить импортозамещение ключевых высокотехнологичных товаров: от сельскохозяйственных технологий до морской и аэрокосмической техники.
2. К 2027 модернизировать армию Китая до уровня, позволяющего успешно вести «интеллектуальную» войну.
3. К 2030 стать мировым лидером в ИИ.
4. К 2035 завершить мировое продвижение китайских стандартов функциональной совместимости новых технологий.
5. К 2049 году достичь своей столетней цели и превратиться в «современную социалистическую страну, которая будет процветающей, сильной, демократической, культурно развитой и гармоничной».

Только что опубликованный отчет Минобороны США о текущем состоянии и перспективах наращивания военной мощи Китая – это обстоятельный (173 стр) разбор п. 2 (как Китай модернизирует армию для ведения интеллектуальных войн).

Выделенные мною ключевые моменты таковы.

✔️ Ракетно-ядерное оружие больше не приоритет (если потребуется Китай уже способен нанести непоправимый урон любой географической точке Земли, но доктрина взаимного уничтожения делает подобные удары неприемлемыми для Китая).

✔️ Взят 100%-ный курс на «интеллектуальную» войну.
Она включает в себя:
-- Гипервойну, при которой во многих случаях отсутствует доступ к оперативным данным на поле боя, а скорость и темп операций превосходит физическую и ментальную реакцию людей.
-- Войну на истощение , которую ведут рои интеллектуальных дронов.
-- Междоменные боевые действия включают в себя ИИ-конфронтацию в космосе, радиоэлектронную борьбу и кибероперации.
-- Операции когнитивного контроля - направленное изменение восприятия, оценок и прогнозов динамики военного противостояния в сознании лиц, принимающих решения на стороне противника.

✔️ Детальный анализ, основные открытые положения которого приведены в отчете, приводит к трём выводам:
-- Ставка Китая на технологическое военное лидерство верная.
-- Шансы достичь технолидерства у Китая есть, и никто в мире (кроме США) не способен этому помешать.
-- Имеет место разрыв между видением Китая будущей «интеллектуальной» войны и реальными возможностями Китая. Это делает заявления, будто лидерство США в оборонных инновациях «почти потеряно», преждевременными.

N.B. Согласно отчету, Россия – единственный стратегический военный партнер Китая. И поэтому в отчете 67 упоминаний России.
#Китай #Война #ИИ #БПЛА
​​Выживут только инфорги.
Как распознать человека новой эпохи.

Мы живем в интересное время. На смену антропоцену, эпохе технологического освоения материи и энергии, приходит новацен – эпоха технологического освоения информации. И жить в новой эпохе, скорее всего, будут не Homo sapiens, а инфорги – люди следующего поколения, проводящие в онлайне больше времени, чем во сне. Причем они уже здесь.
Такой преамбулой главный редактор журнала "Популярная механика" Александр Грек предваряет моё интервью, публикуемое в мартовском номере журнала.
В интервью рассказывается:
• Как новоцен и онлайф привели к появлению инфоргов.
• Как апгрейды когнитивных гаджеты меняют подключение людей к гигантской распределенной когнитивной сети.
• Об ускорении эволюции в эксперименте академика Беляева.
• О детях инфоргов с перепрошитыми когнитивными гаджетами.
• О переходе к «алгокогнитивной культуре», ведущей к двум разломах человечества.
#БудущееHomo #УскорениеЭволюции #Инфорги #АлгокогнитивнаяКультура
​​Китай об уроках 2й подрывной стратегической ошибки северного соседа.
Теперь партнерские отношения Китая и США обрели новую перспективу.

• В сегодняшнем выпуске главной газеты Китая Жэньминь Жибао нет ни слова про российско-украинский конфликт (1).
• В опубликованном сегодня выступлении члена Госсовета Китая Ван И в качестве главного приоритета Китая во внешней политике однозначно названа дружба с США (2).
Что связывает два столь удивительных факта?
Короткое объяснение дано в заголовке речи Ван И - «Воспользуйтесь исторической мудростью и осветите себе путь вперед».
А чтобы в деталях понять, о какой «исторической мудрости» идет речь, и куда направлен «путь вперед», необходимо прочесть эссе «Украинская война и восстановление мирового порядка?» (3), автором которого является известный политический ученый и политический комментатор профессор Чжэн Юннянь (Zheng Yongnian) – директор ведущего национального аналитического центра Advanced Institute of Global and Contemporary China Studies.

Два года назад Чжэн Юннянь рассказал об уроках, извлеченных Китаем из подрывной стратегической ошибки - развала СССР (4).
1. «Китаю необходимо придерживаться двух принципов: открытых инноваций и рыночной ориентации».
2. «Необходимо понять, что современное поле соперничества США и Китая лежит не в сфере территориальных споров, как было раньше, а в сфере высоких технологий».

СССР не понял ни 1го, ни 2го, и это была подрывная стратегическая ошибка. Китай вовремя понял и избежал подобной ошибки.

Теперь же в новом эссе Чжэн Юннянь анализирует уроки 2й за 30 лет подрывной стратегической ошибки северного соседа, открывающей перед Китаем новые геополитические перспективы.
«Причина, по которой великая держава является или хотя бы считается таковой, заключается не в ее способности бросить вызов старому порядку, тем более в ее способности вести войну, а в ее ответственности за поощрение и поддержание международного мира.»
Теперь, когда «Путин шокировал Европу, шокировал США и шокировал мир полномасштабной украинской войной…, Китай и США должны отказаться от мифа об игре с нулевой суммой и навязчивой идеи сдерживания друг друга… теперь необходимо рассматривать друг друга, как партнеров по развитию, а не как врагов в силовой игре».
Поскольку «Путин рассчитывает, что у него будет от 15 до 20 лет для дальнейшего формирования и улучшения «маленького Советского Союза», для американцев утверждение о том, будто Китай является угрозой №1 для Америки, будет надолго подвергнуто сомнению.
Это означает, что пока мы сами не совершим подрывных стратегических ошибок, -
(1) процесс модернизации Китая не будет прерван со стороны США.
(2) Китай сможет играть более важную роль в построении нового мирового порядка»
.

Вот о какой «исторической мудрости» идет речь. Вот куда направлен «путь Китая вперед». И вот какова, по мнению проф. Чжэн Юнняня цена 2й подрывной стратегической ошибки северного соседа – «кровь, огонь, насилие и война».

1 2 3 4
#Китай #США #Россия
​​1 марта 2022 - начало войны андроритмов с алгоритмами.
В Китае началось регулирование сетевых алгоритмов, устанавливающих цены, контролирующих поиск, рекомендующих и фильтрующих любой контент.

История человечества закончилась, трансформировавшись в 21 веке в «гиперисторию». Это качественно иной способ жизни и развития человечества, в котором теперь два типа акторов: люди (точнее, «андроритмы») и алгоритмы. Теперь культурная составляющая генно-культурной эволюции вида Homo sapiens зависит от обоих типов акторов, ведущих деятельность в условиях нового типа культуры – «алгокогнитивная» (синтетическая) культура андроритмов и алгоритмов.

Про алгоритмы особенно объяснять ничего не нужно. Всем уже более-менее понятно, что по мере превращения людей в «инфоргов» (проводящих в сети больше времени, чем во сне), их представления о мире, пожелания, предпочтения, восприятие плохого и хорошего (а в пределе - добра и зла), а также их решения, - все больше зависят от сетевых алгоритмов, выступающих в качестве некоего «мозга» планетарной инфосети Интернет.

Однако, помимо доступной для управления алгоритмами «вычислительной» составляющей людей, они обладают и чисто человеческой «невычислительной» составляющей – андроритмами.

Этот уже ставший мемом неологизм Герд Леонхард использовал в своей книге «Технологии против человечества» для обозначения чисто человеческих свойств и качеств людей:
сочувствие, сострадание, творчество, любовь, интуиция, нерациональность, тяга к тайне, способность совершать ошибки и бесконечно придумывать инновации. И конечно же, - неизбывное стремление задавать вопросы («компьютеры глупы — они дают только ответы» (Пикассо); компьютеры — для ответов, люди — для вопросов (Кевин Келли)).

Оставить людям лишь «человеческое», положившись в остальном на оптимизационные сверхспособности алгоритмов крайне опасно. А ведь именно это и происходит, когда ответственные решения за людей принимают алгоритмы. Да и не самые ответственные решения (типа, что читать, смотреть, купить …) все равно ведут к ответственным (за какого политика голосовать, поддержать войну или нет …).

Если не начать регулировать деятельность алгоритмов, они со временем подомнут под себя андроритмов во всем (как это уже нередко происходит, например, при использовании популярных приложений для знакомств).

Китай первым в мире ввел c 1 марта регулирование сетевых алгоритмов:
перевод положения о регулировании,
предварительный экспертный анализ,
популярный анализ

Как это будет работать на практике, одному богу известно. Если буквально следовать новому регулированию, сетевым алгоритмам персонализации и рекомендаций хана. Равно как и персонализации цен (как сейчас при заказе такси). Компаниям запрещено использовать личную информацию, чтобы предлагать пользователям разные цены на продукты и услуги.

За неисполнение регулирования, государство обещает душить большими штрафами и проблемами с IPO. Также нарушителям может быть запрещено регистрировать новых пользователей, их бизнес-лицензии будут изъяты, а их веб-сайты или приложения закрыты.

Главная проблема этого регулирования в том, что:
• нарушать его бизнесу будет себе дороже;
• а выполнять его непонятно как, ибо непонятно, как контролировать поведение алгоритма, который постоянно меняется из-за новых входных данных.


Спорить о мотивации властей Китая, объявивших войну сетевым алгоритмам, нет смысла.
✔️ Официально объявляется, что цель – социальная, финансовая и психологическая защита граждан от манипулирования, монополий, дискриминации и фейков.
✔️ В реальности, главным мотивом может быть нежелание терять 100%ный контроль над обществом и делиться властью: ни с бизнесом, ни с алгоритмами.
#Китай #Интернет #АлгокогнитивнаяКультура
Выполняя указание Си, в Китае объявлена мобилизация алгоритмов.
В Метаверсе и реальном мире обязаны быть те же политические ценности, идеалы и стандарты.

Если б мог, Си запретил бы Метаверс. Но это не под силу даже ему. Понимая это, Китай решил пойти другим путем – взять под партийный контроль бесконечное множество новых цифровых миров Метаверса, подобно тому, как в Китае уже взят под контроль 1й из созданных человечеством глобальных цифровых миров – современный Интернет.

В Интернете Китаем уже создана самая крупная и функционально изощренная в мире система мониторинга и цензуры контента и поведения людей.
• Система «Великая Китайская стена» фильтрует содержимое всего интернета
• Система «Великая пушка» может блокировать трафик при входе или выходе из Китая
• Свод правил, известный как «семь базовых показателей», ограничивает характер контента, доступного в сети.
• Действуют жесткие ограничения на распространение слухов в Интернете (до 3х лет тюрьмы)
• Специальная система контроля «ванхунов» (инфлюенсеров среди интернет-блогеров и медийных персон, имеющих большую популярность в китайских социальных сетях).
• С 1 марта 2022 взяты под тотальный контроль сетевые алгоритмы, работающие на бизнес (устанавливающие цены, контролирующие поиск, рекомендующие и фильтрующие контент).

Все это, по замыслам КПК, будет работать и во всех новых виртуальных цифровых мирах Метаверса, которые в ближайшее десятилетие будут возникать и расти как грибы.

Но как в Метаверсе влиять на общественное мнение, формирующее политические ценности общества, его идеалы и стандарты?
Ведь число миров Метаверса будет огромным. И потому ни одна система мониторинга и контроля, в которой хоть минимально задействованы люди, не справится с этой задачей неограниченного масштаба.

Решение Китая очевидно и неотразимо:
провести мобилизацию алгоритмов, создав из них армию контролеров, филеров, цензоров, ревизоров, следователей и полицейских, следящих за самими собой. За тем, насколько правильное общественное мнение они формируют своей работой.

Ну и как любая мобилизация, процесс начали со сверки «личных карточек» всех сетевых алгоритмов, влияющих на формирование общественного мнения или возможности социальной мобилизации.
Администрация киберпространства Китая (CAC) заявила в уведомлении, опубликованном в понедельник, что новые правила требуют, чтобы поставщики услуг регистрировали свои алгоритмы в течение 10 рабочих дней после начала их работы. При регистрации алгоритмов указываются: область применения, тип алгоритма, отчет о самооценке алгоритма, содержание его работы и др.

Такой дивный новый мир не смогли предвидеть даже самые гениальные визионеры от Хаксли до Стругацких.
#Китай #Интернет #Metaverse
Тайный язык людей непостижим для ИИ.
Большой брат и цензура в Метаверсе преодолимы.

В 1й в истории битве андроритмов и алгоритмов победа будет за нами.
Китай (и не только он) стремиться взять под контроль властей политические ценности, идеалы и стандарты цифровой социо-коммуникационной инфосреды. Уже сегодня эта среда (Интернет) настолько огромна, что для контроля за ней в Китае работает целая армия спецов. Ну а чтоб держать под контролем бесчисленное множество цифровых миров Метаверса, никакой армии уже не хватит. Это могут сделать лишь специально настроенные и обученные алгоритмы.
Китай первым понял это и начал мобилизацию сетевых алгоритмов. Его примеру последуют и другие страны, узаконивающие уголовку за сетевой контент определенного смысла и тупо табуирующие отдельные фамилии и слова.

Казалось бы, ничто не сможет противостоять колоссальной вычислительной мощи госмашины алгоритмов контроля и цензуры цифровой социо-коммуникационной инфосреды.
И тем не менее, это не так. В 1й в истории цивилизации битве андроритмов и алгоритмов с неотвратимостью победят люди. Ибо мы обладаем тайным языком, не доступным для алгоритмов.

Известно, что люди – уникальный вид из-за наличия у нас развитого абстрактного языка. Он обладает безграничной смысловой мощью, ибо он «открыто-бесконечен» (т.е. обладает свойством ничем не ограниченной открытости для любых изменений, исправлений и дополнений (в английском это open-endedness).
На практике это позволяет:
1) бесконечно расширять язык новыми словами, символами и знаками;
2) бесконечно адаптировать смысл элементов языка и их сочетаний;
3) когда 1-2 недостаточно, строить на основе языка новые метаязыки более высокого уровня абстрагирования.

Алгоритмы же так не умеют. И если по отношению к т.н. «явным коммуникационным сигналам» у алгоритмов сохраняются шансы научиться их распознавать, то в отношении т.н. «скрытых коммуникационных сигналов» (понимаемых лишь «своими» - разделяющими контекст коммуникации) у алгоритмов нет ни шанса.

Как показало новое исследование «Стратегическая передача сигналов идентификации в гетерогенных сетях», поставившее целью экспериментально проверить «Теорию скрытой передачи сигналов» Пола Смальдино:
1) Как только риски и иные связанные с проявлением своей социально-политической идентичности издержки становятся высоки, люди переходят к «скрытым сигналам», которые кодируют информацию таким образом, что ее могут понять лишь те, кто разделяет их взгляды. Т.е. эти сигналы точно воспринимаются целевой аудиторией («своими» - «мы»), но весьма затруднительны для понимания «чужими» - «они».
2) Скрытые сигналы позволяют людям получать выгоду от того, что их идентифицируют «свои», одновременно избегая затрат, связанных с обнаружением себя «чужими». Это происходит за счет того, что общение с использованием скрытых сигналов содержит несколько одновременных смысловых слоев, которые не одинаково очевидны для всех типов получателей. Фоновые знания получателя и восприятие контекста влияют на то, будут ли раскрыты эти слои и каким образом.
3) Если значение некоторых слов или фраз, как маркеров веры, известно только «своим», их использование на публике позволяет говорящему передать сообщение «своим» слушателям («я разделяю ваши ценности»), не засвечиваясь перед остальными (среди которых немало «чужих»).

Т.к. для алгоритмов ИИ тайный язык скрытых сигналов непостижим, исследователи набирали оценщиков для классификации явных и скрытых сигналов среди сообщений Twitter среди людей на платформе Mechanical Turk. Отобрали 2 тыс. оценщиков: примерно по 500 крайне левых, умеренно левых, крайне правых и умеренно правых (определялось их ответами на вопросы анкеты).

Для выявления скрытых и явных твитов оценщики использовали методику Смальдино (чем экстремальней позиция, тем выше доля скрытых сигналов и аффектация).

Как и язык, скрытые сигналы open-endedness. Цензуре и Большому брату с этим не совладать.
https://www.pnas.org/doi/10.1073/pnas.2117898119
#Цензура #БольшойБрат #Metaverse
Что будет дальше.
Новый прогноз человека, точнее всех предсказавшего случившееся.

1) ПРОВАЛ ЭКСПЕРТОВ
Происходящее сейчас совсем недавно представлялось крайне маловероятным с рациональных позиций. И потому практически никто из публичных экспертов не прогнозировал подобное. При этом, прогнозы разведки США упорно не воспринимались экспертами всерьез, а то и просто высмеивались.
Не буду сыпать соль на раны позорно лоханувшихся в своих прогнозах экспертов всех мастей. Многие из них уже повинились за это, аргументируя свой промах неверием в публичные прогнозы разведки США, уже не раз оказавшихся полным фуфлом.
Эдвард Сноуден так, например, написал 15-го февраля в своей ленте Twitter:
«Источник моего скептицизма в том, что разведка США (уже который раз) делает воистину впечатляющие заявления, не представляя никаких доказательств – и все потому, что вы от них этого не потребовали».
Скепсис Сноудена, как и других критиков точности прогнозов разведки, можно понять. Общеизвестно, насколько бездарно неточны эти прогнозы. Исследование Филипа Тетлока о точности прогнозировании — Good Judgement Project (2011–2014), оплаченное Агентством передовых исследований в сфере разведки IARPA, показало ужасные результаты.
Качество прогнозов профессиональных экспертов разведки примерно соответствует вероятности попадания шимпанзе в яблочко при игре в дартс, и уж никак не точнее прогнозирования путем подбрасывания монеты.
Такие прискорбные результаты, объясняющие бесчисленные провалы прогнозов (развал СССР, крах операции в заливе Свиней и т.д.) заставили разведку США искать альтернативные пути повышения качества своих прогнозов. Подробно об этом читайте в серии моих постов «ЦРУ создает кентавров для предсказания будущего».

А если совсем кратко, то дело было так.
Сначала попытались задействовать «мудрость толпы» с помощью краудсорсинга и рынков предсказаний.
Получили весьма скромные результаты:
• «безумие толпы» доминировало над её «мудростью»,
• а инфошум, порождаемый активными крикунами, забивал ценные мысли толковых участников.
Тогда исследователям пришла в голову новая идея – искать среди игроков на рынках предсказаний аномально успешных.

2) СУПЕРПРОГНОЗИСТЫ
Так назвали 2% аномально успешных в проекте Тэтлока. Прогнозы этих «обычных» людей, имевших доступ лишь к открытым источникам информации, оказались существенно точнее прогнозов других участников, включая профессиональных аналитиков разведки, имевших доступ к материалам с грифом «секретно».
Выявленные суперпрогнозисты оказались штучными людьми с довольно высоким (но не выдающимся) интеллектом, способные удивительно эффективно:
а. структурировать предметную область прогноза;
б. выявлять и группировать источники информации;
с. потреблять информацию тоннами – буквально «пить из брандспойта цифровых медиа».
N.B.
I. Разведку интересовали не все прогнозы, а лишь суперкачественные
прогнозы верных результатов, базирующиеся на верных основаниях.
II. Одним из самых востребованных направлений форкастинга стал варкастинг, второй год осваиваемый дюжиной рынков предсказаний (Good Judgement, Metaculus, Hypermind …), на которых уже выявились свои суперпрогнозисты: Robert de Neufville, Balkan Devlen и один абсолютный чемпион, чьи прогнозы с декабря 2021 точнее всех.

3) ЕГО ЗОВУТ CLAY GRAUBARD
Этот молодой выпускник Оксфорда, специализирующийся на прогнозировании международных отношений и рынках предсказаний, недавно основал проект Global Guessing - прогнозы геополитических событий с углубленным анализом и ретроспективой. Логика прогнозов основана на анализе 3х списков мониторинга «важнейших сигналов», которые Clay ретвитит в своей ленте.
Насколько глубок анализ, можно судить по опубликованному 7-го марта Newsletter с вероятностями 4х сценариев до конца года. Каждый сценарий зависит от ответов на 4 ключевые вопроса: 2 ответа – это прогнозы и 2 - предсказания.

Всё предыдущее сбылось. Посмотрим, что теперь.

#РынкиПредсказаний #Прогнозирование
​​За 10 секунд до перезвона о конце света.
Часы Судного дня можно остановить, пока не начался бой.

«А затем, когда бьет на часах бездействия час и час отстраненья от дел повседневных, тогда приходит к нам раздвоенье, и мы ни о чем не мечтаем»
Гийом Аполлинер
В конце января Часы Судного дня (символически показывают время до ядерного апокалипсиса) впервые в истории были выставлены всего на 100 секунд до полуночи - 23:58:20.
А через месяц события понеслись столь стремительно, что мир даже не успел ужаснуться близости гибели. И теперь, в середине марта, о январских 100 сек можно лишь мечтать. Минутная стрелка Часов Судного дня резко скакнула и сейчас, полагаю, уже где-то в районе полуминуты до полуночи. А это значит, что 11 нобелевских лауреатов в составе совета директоров, принимающих решение об очередном переводе стрелки, могут уже не успеть собраться за оставшиеся несколько секунд.

Дело в том, что Часы Судного дня, скорее всего, устроены подобно курантам Кремля. Последние отмечают начало нового года вовсе не 12-м ударом (как уверены многие), а началом перезвона. И после того, как 20 секунд перезвона заканчиваются, с неотвратимостью начинает бить колокол, чьи удары звучат уже в первую минуту нового года.
Так и Часы Судного дня, готовые вот-вот начать перезвон (от этого нас отделяет всего лишь секунд 10). Когда после перезвона начнет бить колокол, это будет звон по концу человечества: по его науке и культуре, по искусству и технологиям, по мечтам о сильном ИИ и телепортации в Метаверсе.

Впрочем, последний, даже не успев состояться, все же предоставил нам возможность переживания виртуального имерсивного опыта при погружении в мир ядерного апокалипсиса: увидеть и почувствовать теплую кровь на своих руках и тотальное озверение людей, впадающих от всеобщей ненависти в ядерное безумие.

Об этом виртуальный имерсивный фильм Samsara - призер VR программы Венецианской Биеннале Venice VR Expanded — Satellite Programme 2021 от режиссера Хуан Синь-цзянь (Тайвань).

В фильме человечеству относительно повезло в том, что ядерный апокалипсис случился уже после освоения средне-дальнего космоса. И когда Земля оказывается полностью разрушена и отравлена, остатки людей покидают планету, чтобы найти новый дом в космосе. После сотен лет космических скитаний люди смогли модернизировать ДНК и искусственно эволюционировали в новую форму жизни. Прыгнув через космическую сингулярность, новые люди нашли планету, на которой можно обосноваться. Но внезапно люди понимают, что это не новый мир, а все та же Земля, только в другое время. Люди понимают, что время — это иллюзия. Наше прошлое, настоящее и будущее слиты воедино …

Пережить все это в виртуальном мире позволяет формат фильма 6DOF (6 степеней свободы) – это количество направлений, в которых объект может перемещаться/вращаться в трехмерном пространстве. Гарнитуры для VR в формате 3DOF могут отслеживать ориентацию головы, зная куда вы смотрите. Получается, как на рисунке: три оси вращения: качание головой, поворот/наклон влево и вправо и наклон вперед/назад.
Гарнитуры с шестью степенями свободами 6DOF вдобавок позиционно отслеживают ориентацию, и положение, получая информацию куда вы смотрите, а также где вы находитесь в пространстве.
Так что впечатление от виртуального конца света при просмотре фильма с гарнитурой улетное: мороз пробегает по коже, остужая теплую кровь на ваших руках…

Ну а без гарнитуры есть немалые шансы быстротечно ощутить конец мира в реале.
Ибо перезвон Часов Судного дня запускается применением тактического ядерного оружия.
И лишь в течение 20 сек этого «перезвона», часы еще можно остановить. Но не секундой позже.

Начав бить, колокол 3й мировой неостановимо пробьет конец цивилизации на Земле, доказав, что ядерное сдерживание – всего лишь миф рационального мышления.

Вариант фильма в пассивном, плоском формате видео

#ЭкзистенциальныеРиски
Через пару часов выйдет один из важнейших отчетов по ИИ.
Он почти как Библия для верующих.
Сегодня для всех ИИ-любов, равно как и для всех ИИ-ведов, особый день. Выходит новый (5-й) годовой отчет Стенфордского центра Institute for Human-Centered AI (HAI), - «2022 AI Index»
https://hai.stanford.edu/research/ai-index-2022
229 стр. хорошо структурированного текста с обилием инфографики, призваны дать количественные ответы на два ключевых вопроса:
1) Каково текущее состояние главных трендов развития ИИ в 2021.
2) Каково текущее состояние мировой «ИИ-гонки» среди 29 стран по 23 ключевым индикаторам.

8 важнейших выводов отчета
1) В 2021 частные инвестиции в ИИ резко выросли (более $93 млрд, что в 2 раза больше, чем в 2020), а концентрация инвестиций усилилась (в 2020 было 4 раунда финансирования на сумму $500+ млн, а в 2021 их было 15).

2) США и Китай доминируют в межстрановом сотрудничестве в области ИИ (Китай опубликовал наибольшее количество межстрановых совместных публикаций по ИИ, увеличив показатель в 5 раз с 2010.)

3) Языковые модели все более функциональны, но и все более предвзяты (модель с 280 млрд параметров, разработанная в 2021, показывает увеличение «токсичности» предубеждений на 29% по сравнению с моделью с 117 млн параметров – самой продвинутой моделью в 2018).

4) Этика ИИ теперь среди самых горячих тем (число публикаций увеличилось в 5 раз)

5) ИИ становится более доступным и более эффективным (с 2018 стоимость обучения классификации изображений снизилась на 63,6%, а время обучения сократилось на 94,4%)

6) Наилучшие результаты в технических тестах все больше зависят от использования дополнительных обучающих данных (на них в 2021 обучались 9 из 10 современных ИИ систем)

7) Государства пытаются взять ИИ под контроль (количество законопроектов про ИИ, принятых в качестве закона, выросло с 1 в 2016 до 18 в 2021)

8) Роботизированные руки манипуляторов дешевеют (средняя цена робота-манипулятора за последние 6 лет снизилась в 4 раза — с $50 000 в 2016 до $12 845 в 2021. Роботизация становится все более доступной и продуктивной.

Что касается текущего состояния мировой «ИИ-гонки» среди 29 стран по 23 ключевым индикаторам, то как обычно, можно будет посмотреть эту гонку в динамике :
• В 2015 Россия была на предпоследнем 25-м месте (обогнав ЮАР)
• В 2016 Россия опустилась на последнее 26-е место и оставалась там в течение 5-и лет
• В новом индексе стран уже 29. А на каком месте Россия, вы сможете увидеть в ближайшие часы, как только Андре Барбе допилит последние данные.
https://aiindex.stanford.edu/vibrancy/

В свете последних событий, могу лишь так прокомментировать эти результаты:
«Мы с вами чужие на этом празднике жизни …»
https://www.youtube.com/watch?v=8-YtQZR2wUE
… и надолго.
#ИИ #ИИгонка
Был ужас, а станет ужас-ужас.
ИИ США, Китая и России до и после железного занавеса.

США и Китай – заклятые конкуренты в борьбе за статус ИИ-супердержавы №1. И в то же время, как это ни парадоксально, ключевым фактором мирового прогресса в области ИИ является кооперация этих двух стран.
Как следует из опубликованного вчера отчета HAI «2022 AI Index», уровень кооперации США и Китая в области ИИ-исследований не только недостижим для других стран, но и просто не представим для них.
Количество совместных научных публикаций в 2021, как показатель уровня кооперации пар стран в области ИИ:
• США и Китай - 9,6К
• Китай и Великобритания - 3,6К
• США и Великобритания - 3,3К
• Китай и Австралия - 2,6К
• США и Германия - 3,3К
Такой отрыв в кооперации США и Китая объясняется тем, что эти страны как бы связаны одной цепью в силу трех причин.
 Обе страны вложили огромные ресурсы в искусственный интеллект и проводят огромное количество исследований.
 Многие китайские исследователи прошли обучение в США и сохранили тесные профессиональные связи с американскими коллегами.
 Максимум отдачи от любой технологии зависит не только от страны - пионера (изобретшей технологию), но и страны - внедренца (лучше всего применяющей технологию в широком спектре отраслей). Например, в сталелитейных технологиях пионером была Британия, а внедренцем США. В ИИ, понятное дело, США – пионер, а Китай – внедренец.

А что же Россия?
Увы, по данным соредактора «2022 AI Index» Рэя Перро, число совместных международных научных публикаций (проектов) в области ИИ в 2021 было таково.
• В США 1200 институтов опубликовали результаты примерно 3000 трансграничных совместных проектов ИИ.
• В Китае 500 институтов опубликовали результаты 2000 трансграничных проектов.
• В России только 60 институтов опубликовали результаты максимум 600 проектов по ИИ.

И это до железного занавеса, который отсечет 2/3 некитайских проектов российских институтов.
Т.е. в 2022, предположительно, будет примерно 20 институтов и менее 200 проектов. Это хуже, чем, например, у Венгрии или Мексики, но чуть лучше, чем у Египта и Нигерии.


#ИИ #Китай #США #Россия
В Китае скоро не будет слухов. И это не слух, а решение КПК.
Создается уникальный механизм борьбы со слухами: ИИ + журналисты + армия стукачей
Информбюро госсовета Китая, Администрация киберпространства Китая и Бюро комплексного госуправления сетью Интернет провели совместную пресс-конференцию, на которой рассказали о серии специальных операций «Цинлан», направленной на уничтожение в стране слухов.
Резюме.
1. Генсек Си считает киберпространство «общим духовным домом для сотен миллионов китайцев». И задача партии – «сделать этот дом чистым от слухов». В первую очередь необходимо сосредоточить внимание на слухах, связанных с политикой, экономикой, культурой, историей и научно-популярными темами.
2. Для этого в Китае будет создан механизм
-- отслеживания источников слухов;
-- подавления инфокаскадов распространения слухов;
-- жесткого и неотвратимого наказания источников слухов (с привлечением их к ответственности с последующим включением в «черные списки», запрещающие дальнейшую работу в сети);
3. В основе создаваемого механизма будет человеко-машинная коллаборация по контролю онлайн слухов:
-- ИИ системы + армия журналистов + армия стукачей (мобилизация большинства пользователей сети для активного доносительства и разоблачения слухов).

В свое время, по решению партии в Китае уничтожили воробьев (потом, спасаясь от насекомых, пришлось завозить воробьев из СССР). Теперь же для борьбы со слухами будут использовать аналогичный подход всеобщей мобилизации, но с применением ИИ.

Интересно, смогут ли другие страны, имеющие продвинутый опыт использования армии стукачей, последовать путем Китая? (может, даже ИИ применять не потребуется, учитывая продвинутость опыта)?

https://www.163.com/dy/article/H2MCMGT4051481US.html

#Китай #ГосконтрольИнтернета
话语权– магическое заклинание Китая для власти над миром.
В 21 веке 3й закон Артура Кларка столь же важен для понимания траектории развития человечества, как законы Ньютона для понимания траектории бильярдных шаров:
«Любая достаточно развитая технология неотличима от магии».

А что такое магия?
Это действия, связанные с верой в способность человека контролировать мир (т.е. влиять на силы природы, предметы, судьбы людей …), подчиняя себе сверхъестественные силы или манипулируя ими с помощью заклинаний.

В 21м цифровом веке знания открыли людям особый - технологический путь подчинения сверхъестественных сил. Воплотился афоризм Бэкона знание – сила с уточнением Мишеля Фуко сила – это власть (ибо знание теперь дает власть над людьми).
Фуко назвал эту новую парадигму знаний эпистема контроля. Она стала движущей силой цивилизации, основываясь на возможности властей получения тотального доступа к информации.
Принцип манипулируя информацией, можно манипулировать людьми успешно осваивается властями многих стран для контроля и манипулирования своими гражданами. Но абсолютный лидер здесь Китай, где эпистема контроля используется еще шире - она положена в основу «большой стратегии» превращения Китая к 2050 в сверхдержаву №1.

В Китае эта «магическая» эпистема контроля определяется термином 话语权 (Huàyǔ Quán, хуаюцюань). Чаще всего, это переводится, как «сила дискурса» и «право говорить», и используется в контексте целенаправленных действий китайского правительства и средств массовой информации «хорошо рассказывать историю Китая» (讲好中国故事), т.е. по сути, для пропаганды и цензуры.

• Термин «сила дискурса» стал активно использоваться в трудах Лу Вэя - крупного деятеля онлайн-пропаганды и цензуры, бывшим главой Управления киберпространства Китая в годы его становления.
• Начиная с 2013 года, этот термин стал постоянно использовать Си Цзиньпин. В 2016 он напрямую связал «силу дискурса» с кибербезопасностью: «В настоящее время игра в кибербезопасность крупных стран — это не только техническая игра, но также игра идей и игра силы дискурса».
• С 2016 в официальных документах Управления киберпространства Китая «технологические инновации трактуются, как способ улучшить влияние силы дискурса».
• В 2021 The People's Daily, резюмируя пропагандистскую и идеологическую работу Си Цзиньпина, характеризует силу дискурса, как форму «мягкой силы» (软实力).

В последние годы эпистема контроля по-китайски была распространена на глобальную сеть:
- «Интернет – это ключевое пространство для формирования глобального общественного мнения, в котором нации соревнуются за силу дискурса»
- «Тот, кто доминирует в Интернете, может доминировать в мировой силе дискурса»
- «В контексте силы дискурса, границы между международным и внутренним, а также между онлайном, офлайном и виртуальной реальностью становятся все более размытыми»

Подробный анализ семантики, контекста и практики применения понятия «сила дискурса» в «большой стратегии» Китая см. в новой публикации стэнфордской DigiChina
https://digichina.stanford.edu/work/lexicon-discourse-power-or-the-right-to-speak-huayu-quan/

Мне же в заключение остается лишь отметить, что магия эпистемы технологического контроля и манипулирования информацией позволяет сверхъестественно эффективно манипулировать людьми. Манипулировать их сознанием и судьбами так, как это было немыслимо до Интернета.
Вслед за Мишелем Фуко это поняли Лу Вэй и Си Цзиньпин, превратившие силу дискурса в магическое заклинание на пути Китая к власти над миром в 21 веке.

Но и для государств, не способных претендовать на мировое господство, магия силы дискурса крайне полезна. Она позволяет как никогда раньше «хорошо рассказать свою историю»:
• запрещая доступ к информации и возможность «говорить, что хотят и когда хотят»
• вводя «новые табуированные слова» (которые нельзя говорить и писать)
• устанавливая, «какую речь и по каким причинам можно считать истинной, а какая заведомо будет ложной»

#Китай #ГосконтрольИнтернета
​​Если не можешь выиграть честно – подтасуй колоду.
Как Китай планирует стать Суперкибердержавой №1.

Китай не был бы Китаем, если б стремился лишь к обладанию конкурентными преимуществами в строящемся на Земле цифровом мире.
Истинная цель Китая – стать гегемоном цифрового мира, его законодателем, и тем самым обрести желанный статус Суперкибердержава №1.

Достичь этой цели путем технологического лидерства Китай не может, т.к. США – более сильный игрок.
США определенно сильнее:
• в верхнем квартиле самых продвинутых научных и инженерных талантов (для которых США остаются наиболее желанным местом работы и жизни);
• в изобретении наиболее передовых и прорывных инноваций (что определяется не только лучшим пулом талантов, но и самой конкурентной в мире бизнес-средой).

Поэтому Китай решил: мы пойдем другим путем – «подтасуем колоду».
Китай станет законодателем цифрового мира, диктуя ему свои технологические стандарты и правила.
Если суметь заставить мир (правдами и неправдами: спонсорством и лоббированием, активным участием в международных комитетах, работой агентов влияния и прямым подкупом) принимать техностандарты, продвигаемые Китаем, то технологическое лидерство США можно будет нейтрализовать чисто бюрократическим путем.

О том,
• каков этот план в деталях,
• каков текущий статус и перспективы,
• что и как может (если может) помешать претворению этого плана, -
читайте в отчете Asia Society Policy Institute «Stacking the Deck: China’s Influence in Digital Rules Setting»
А также в только что вышедшем обновлении отчета экспертами ChinaFile

На приложенной диаграмме показано абсолютное лидерство Китая в предложениях стандартов 4G и 5G. Со связью 6G (важнейшей для реализации Метаверса) ситуация еще хуже (см. здесь).
#Китай #США #Сверхдержавы
Kанадо-британское исследование «A New Era: Intelligent Tutoring Systems Will Transform Online Learning for Millions» может ознаменовать поворот к новой эре в обучении  —  персонализированное активное обучение под руководством ИИ-тьютора.

Значимость этой кардинально трансформирующей культуру инновации для дальнейшего развития цивилизации сейчас оценить сложно. Но может статься, эта значимость будет соизмерима с появлением у людей письменности.

Этому посвящен мой новый лонгрид на 10 мин чтения:
- на Medium https://bit.ly/3LoNGnV
- на Яндекс Дзен https://clck.ru/eYNG5

В нем я прихожу к следующим трем выводам.
1. Создание и совершенствование технологий «трезориума для инфоргов» на основе ИИ-тьюторов персонализированного активного обучения видится мне наиболее перспективной областью из всех существующих областей разработки ИИ-технологий в мире.
2. Полагаю, что разработка технологий в этой области могла бы стать наиболее конкурентным направлением для российских ученых, инженеров, педагогов, психологов и специалистов по ИИ (в силу широкого спектра объективных факторов: научно-технологических, экономико-политических и социо-культурных, обсуждать которые здесь нет места).
3. Создание лучшей в мире системы образования на базе «трезориумов для инфоргов» с ИИ-тьюторами могло бы стать той самой объединяющей целью для «прекрасной России будущего», способной сплотить воедино федерацию ее региональных субъектов. Об этом уже не раз говорил и писал Борис Акунин. Но теперь, в свете новых ИИ-технологий, эта идея перестает быть «образовательной утопией» и обретает вполне реальные (как минимум, с технологической точки зрения) перспективы.
#Образование #ИИ #AGI #AIA #ИнтеллектКентавра
​​Мы не представляли сколь велик айсберг когнитивных искажений.
Наши представления о мире становятся все более кривыми.

Таков весьма неутешительный вывод о состоянии представлений человечества о мире и самих себе, впервые вербализован на уровне профильного госагенства технологической сверхдержавы - Национальным институтом стандартов и технологий США (NIST).
Авторы нового отчета NIST, озаглавленного «Towards a Standard for Identifying and Managing Bias in Artificial Intelligence», поставили перед собой такую задачу.
1. Среда взаимодействий отдельных людей и сообществ становится все более виртуальной (в моей терминологии это называется переходом человечества к иному типу культура – алгокогнитивная культура).
2. Цифровые следы людей в новой инфокоммуникационной среде глобальной сети превращаются в самый востребованный и дорогой товар.
3. За формирование этого товара отвечают алгоритмы, которые пытаются количественно оценивать поведение и высказывания людей. Эти оценки используются алгоритмами для классификации, сортировки, рекомендаций и принятия решений о жизни людей.
4. Но к сожалению, в основе алгоритмических оценок лежат неоднозначные по своей природе представления об устройстве мира и поведении людей, подчерпнутые алгоритмами из океана собираемых ими данных о людях – их настоящем и прошлом опыте.
5. Все обобщаемые алгоритмами данные об опыте людей насквозь пропитаны искажающими реальность ошибками, являющимися результатами когнитивных искажений людей.
6. Это ошибки переносятся (с мультиплицирующим эффектом) алгоритмами во все технологические процессы, автоматизирующие деятельность людей и принятие ими решений с применением ИИ-систем, что может вести к весьма вредным последствиям независимо от намерений их создателей.
7. Для снижения рисков вредных последствий вышеописанных процессов необходимо, в первую очередь, идентифицировать и классифицировать все типы когнитивных искажений, приводящих к ошибкам в данных об опыте людей.

В результате 1й систематической попытки такой классификации авторы пришли к следующим выводам (в моей интерпретация, - подробней и точнее см. отчет).
A. «Айсберг» когнитивных искажений оказался куда больше чем предполагалось.
B. Помимо статистически-вычислительных искажений, вносимых алгоритмами, и когнитивных искажений людей, чей опыт воплощен в исходные данные для алгоритмов, существует огромная нижняя часть «айсберга» - системообразующие когнитивные искажения институтов общества.
C. Эта лежащая в основе «айсберга» колоссальная по размерам область является результатом исторически сложившихся процедур и практик, кодирующих социокультурные предубеждения в миропонимании конкретных институтов общества. В результате этих когнитивных искажений, определенные социальные группы получают преимущества или привилегии, а другие оказываются в неблагоприятном положении или обесцениваются. И это не обязательно является результатом какого-либо сознательного предубеждения или дискриминации, а скорее следствием того, что большинство следует существующим правилам или нормам.

▶️ ️ Специалисты по ИИ умеют минимизировать статистически-вычислительные искажения.
▶️ ️ Психологи и специалисты по когнитивному мышлению учатся учитывать когнитивные искажения и шум при принятии решений отдельными людьми.
▶️ ️ Но для системообразующих когнитивных искажений институтов общества, к сожалению, пока не существует признанных систем их идентификации и классификации. И более того, - в разных обществах они по-разному идентифицируются.

Это значит, что:
✔️ нет пока способов предотвращения мультиплицирования махины когнитивных искажений институтов алгоритмами ИИ;
✔️ наши представления о мире, формируемые в рамках новой алгокогнитивной культуры, будут становиться все более кривыми (рост интеллектуальной слепоты и падение рациональности).


См. также мои посты по тэгам:
#Рациональность #КогнитивныеИскажения #ИнтеллектуальнаяСлепота #Вызовы21века
​​Главный кандидат в гегемоны мира определил дорожную карту ИИ на 20 лет.
Как будет развиваться ИИ в Эру Больших Моделей.

Поскольку согласно многим расчетам Китай в ближайшие десятилетия по всем показателям превзойдет США (или, как минимум, приблизится к тому, чтобы превзойти), демократические страны столкнутся с ситуацией возникновения в мире авторитарной державы-гегемона.
О конкретике китайского плана превращения к 2050 в мирового гегемона я напишу в следующий раз. А сегодняшняя супер-новость - публикация Китаем дорожной карты развития ИИ на ближайшую пару десятилетий.
Ведь на то Китай и главный кандидат в мировые гегемоны, чтобы, не оглядываясь на США, отчеканить:
Наступила Эра Больших Моделей. Теперь ИИ будет развиваться вот так (цели, задачи, пути и способы решения, последствия и риски). Будет так, и никак иначе.

Большими моделями (БМ) в Китае называют Базисные модели (Foundation Models), о которых в августе прошлого года я написал пост с длинным названием «Гибель или взлет, что он нам несет – поворот к базисным моделям. Это революция в обучении машин, последствия которой пока непредставимы» (1).
А еще через месяц в посте «Почему Россия аутсайдер в ИИ» (2) я рискнул предположить, что одной из основных причин аутсайдерства России в ИИ является «разруха в головах», наилучшей иллюстрацией которой стало полное пренебрежение в медиаповестке к важнейшей для ИИ теме Базисных моделей.

Прошло полгода, и Китай показал, кто в мировой лавке хозяин.
Собрав грандиозный интеллектуальный пул из 100 китайских специалистов, работающих в Китайской академии ИИ-наук, в 8-и ведущих университетах Китая и США, в 5-и ведущих НИИ по ИИ Китая, США и Канады, в 5-и ИИ-лабораториях гигантов бизнеса Tencent, Huawei, ByteDance, Microsoft, JD, - за 6 месяцев была разработана дорожная карта развития ИИ в Эру Больших Моделей (200 страниц со списком литературы из 1637 ссылок).

Дорожная карта ведет разработчиков ИИ к решению 3х ключевых проблем современных ИИ.
1. Непереносимость моделей.
Модель, построенная для конкретной задачи и обученная в рамках конкретного прикладного сценария, неприменима в другом сценарии и уж тем более для другой задачи. Обучение модели всегда приходится начинать с нуля, что ведет к высокой стоимости обучения.
2. Недопустимо много ручной работы.
Нынешнее обучение модели в основном проводится по схеме “ручной работы", поскольку для настройки параметров требуется много ручной работы, требующей большого количества специалистов по ИИ.
3. Дефицит качественных данных.
Модельное обучение предполагает высокие стандарты качества данных, и наличие крупномасштабных маркированных данных. Недостаток таких данных в некоторых областях ограничивает применение технологий ИИ.

Помимо устранения 3х названных проблем на основе применения БМ, целью дорожной карты также является устранения главного риска таких моделей - любые их дефекты будут наследоваться всеми последующими моделями, что быстро распространится на все сообщество базисных моделей.

▶️ Обзор БM включает 4 части: Ресурсы, Модели, Ключевые технологии и Приложения.
▶️ Представлено 16 конкретных тем, связанных с БM:
-- Ресурсы: данные, знания, вычислительные системы;
-- Модели: языка, зрения, мультимодальная модель:
-- Ключевые технологии: рассуждение, интерпретация, надежность и безопасность, управление, оценка;
-- Приложения: диалог, генерация текста, машинный перевод и предсказание структуры белка.
▶️ В каждой теме обобщаются текущие исследования и предлагаются направления будущих исследований.

Вот как становятся гегемоном:
Будет так, - я сказал!!! (4)


1
2
3
4
#Китай #БазисныеМодели #ИИ
​​Метаверс будет не просто VRом, а обителью сверхлюдей.
Через 10 лет мир запахов будет стандартной фичей Метаверса.

Технологически уже возможно не просто переносить людей в иную визуально-тактильно-слуховую виртуальную реальность, но и превращать их там в сверхлюдей, - например, с обонянием собаки. И это не первоапрельская шутка.
В “День дурака” человечество уже дважды развели мистификациями на тему цифровых технологий передачи запаха.
▶️ 1го апреля В 1965 BBC TV взяла интервью у профессора Лондонского университета о технологии "запаховидения", позволяющей зрителям чувствовать ароматы, произведенные в телевизионной студии. Профессор объяснил, что его машина разбивает запахи на составляющие их молекулы, которые затем могут передаваться через экран ТВ.
Профессор продемонстрировал технологию, поместив в аппарат smellovision сначала несколько кофейных зерен, а затем луковицу. Зрителей просили звонить в студию и рассказывать, что они унюхают, сидя у себя дома. Звонили со всей страны, подтверждая, что отчетливо ощущают запахи кофе и лука. Некоторые утверждали, что запах лука заставлял их глаза слезиться. (1)
Так что не только Кашпировский и Чумак выделывали чудеса по ТВ.
▶️ В “День дурака” 2013 Google представил бета-версию нового сервиса Google Nose - поиск запахов. Хотите почувствовать аромат розы, не отходя от компьютера, - вбейте в строку поиска «запах розы», подождите, пока запах загрузится, и наслаждайтесь. И так для любого запаха: от запаха новой машины до запаха гробницы фараона. “Google Nose – найдет вам любой запах”. (2)

Эти крутые первоапрельские разводки и тот факт, что журнал TIME включил Smell-O-Vision в список 100 худших идей 20го века, наряду с «сухим законом» и «Титаником» (3), казалось бы, не оставили шансов для Метавселенной уже в ближайшее время подарить людям мир виртуальных запахов.

Но это не так.
1. Технологии дополненной реальности запахов: разработаны, воплощены в гарнитуры, успешно тестируются в здравоохранении и обучении, проходят стадию симплификации и коммодизации.
2. Технологии типа OVR Technology используют VR-гарнитуру с картриджем, испускающим запахи возле носа, а новая технология доставки позволяет запахам рассеиваться естественным образом, избавляя от вентиляторов.
3. Ароматизаторы представляют собой составы на водной основе, что позволяет им быстро впитываться. Они высвобождаются с помощью быстродействующих пьезоэлектрических приводов, которые способны дозированно излучать ровно столько аромата, как он чувствуется в реальном мире.
4. Ароматы привязаны к «ароматным меткам» на предметах или взаимодействиях с виртуальным контентом, который передается на устройство через Bluetooth. Это позволяет генерировать запах в нужном количестве (т.е. запах оставленной псом на газоне кучки мал, но если вы вступили в нее, то запах резко усиливается).
5. Т.к. воздействие затрагивает тройничный нерв, симулируется не только запах, но и возникают температурные иллюзии.
Подробней см. (4).

В ближайшие годы предстоит решить 3 главные задачи.
• Разнообразие запахов и размер картриджа. Нужно добиться max 1го при min 2-го.
• Увязка интенсивности запаха с индивидуальным восприятием (напр., запах вин и какашек воспринимается сугубо индивидуально).
• Информативность запаха при восприятии реальности. Со времен Аристотеля обоняние находится впереди осязания и вкуса, но позади зрения и слуха. Это результат уникальной эволюции людей, не применимый к другим животным.

Но что мешает людям в Метавселенной стать сверхлюдьми, - например, с обонянием собаки?
✔️ Каким будет мир людей-собак с информационной точки зрения, - лишь предстоит понять и реализовать.
✔️ Но каким бы он ни был, подобный мир будет создан в Метавселенной (если, конечно, человечество не угробит себя быстрее, чем его создаст).

#Metaverse

1 2 3 4
Завтра буду рассказывать о том, что нас ждет с появлением "нового типа" Homo sapiens - инфоргов.
Рассказ состоится на 11м международном форуме о трендах будущего REFORUM.
Время трансляции с 10:00 до 19:00 по Москве.
Программа состоит из 5 блоков:
- Взгляд на будущее
- Взгляд на саморазвитие
- Взгляд на бизнес и деньги
- Взгляд на технологи
https://winningthehearts.com/

⚡️ 7 апреля
⭕️ Круглый стол: Decision-making. Инструменты и методы принятия решений в кризис I Взгляд на будущее
Модератор: Андрей Потапов, эксперт в области Futures studies & Decision sciences
Участники: Джон Суини, Алексей Каптерев, Ольга Ниссен

⭕️ Новое поколение инфоргов. Что нас ждет? I Взгляд на будущее
Сергей Карелов, основатель компании Witology, эксперт в области междисциплинарных исследований и стратегической аналитики, автор Telegram-канала «Малоизвестное интересное»

⭕️ Как научить себя учиться? I Взгляд на саморазвитие
Николай Ягодкин, основатель Центра образовательных технологий Advance

⭕️ Ресурсы мозга человека в цифровом мире I Взгляд на саморазвитие
Александр Каплан, доктор биологических наук, психофизиолог, основатель первой в России лаборатории нейроинтерфейсов

⭕️ Как оставаться молодым до глубокой старости I Взгляд на саморазвитие
Алексей Москалёв, доктор биологических наук, руководитель лаборатории молекулярной радиобиологии и геронтологии

⭕️ Интервью с психологом: стресс и страхи. Как справляться? I Взгляд на саморазвитие
Марина Аношина, начальник Дирекции клиентов VIP-6 РЕСО-Гарантия
Дмитрий Ковпак, Президент Ассоциации Когнитивно-Поведенческой Психотерапии, врач психотерапевт

⭕️ Сообщество судьбы: солидарность в условиях кризиса I Взгляд на саморазвитие
Виктор Вахштайн, Декан факультета социальных наук MВШСЭН

⭕️ Интервью: Как планировать карьерную стратегию в постнормальное время I Взгляд на бизнес и деньги
Барабанова Екатерина, Директор по развитию персонала Ростелеком

⭕️ Dream team: как быть командой, когда «все сложно»I Взгляд на бизнес и деньги
Евгения Роньжина, идеолог Community University, управляющий директор, руководитель Штаба SberX
Алиса Чумаченко, Предприниматель в области игровой индустрии

⭕️ Что такое BIG DATA и для чего её собирают? I Взгляд на технологии
Валерий Бабушкин, советник по машинному обучению AliExpress

⭕️ Правила кибербезопасности для общества и бизнеса I Взгляд на технологии
Лука Сафонов, эксперт в сфере информационной безопасности, основатель компании Киберполигон