​​Выезд несогласных – это цветочки; ягодки – это когда заставят вернуться.
Китайский образец использования интернет-закона для трансграничных репрессий.
Скандал от публикации НПО Safeguard Defenders отчета "Транснациональные полицейские операции Китая вышли из-под контроля" разгорается.
Комментирующие его СМИ и соцмедиа фокусируются на описанной в отчете практике Китая по созданию незаконных «опорных пунктов» полиции КНР за рубежом, оказывающих давление на уехавших из страны несогласных.
В отчете пишут о следующем.
• Сеть таких «опорных пунктов» по миру состоит из 50+ региональных офисов в 21 стране (в России нет) на всех континентах кроме Австралии (карта приложена к посту).
• Их задача «уговорить вернуться» в Китай тех из уехавших, кого спецслужбы Китая считают «телеком/онлайн мошенниками» с тем, чтобы там предстать перед уголовным расследованием.
• Методы уговоров разнообразны, но в основном это широкий спектр вариантов давления на оставшихся в Китае родственников и знакомых (запугивание, преследование, ограничение прав, задержание, тюремное заключение).
• Метод «уговорить вернуться» - это часть большой программы Китая по принудительному возвращению. Этот древний как мир метод в исполнении Китая весьма эффективен – за год «уговорили» вернуться 230 тыс. подозреваемых «телеком/онлайн мошенников».
• Также есть особый список стран (Камбоджа, ОАЭ, Филиппины, Таиланд, Мьянма, Лаос, Малайзия, Турция и Индонезия), куда гражданам КНР запрещен въезд, либо там очень нежелательно проживание. Мотивировка проста – в них процветает «телеком/онлайн мошенничество», и потому любой живущий там гражданин Китая будет считаться потенциальным «телеком/онлайн мошенником».

Медиа пишут, что Нидерланды, Швеция и Канада уже начали расследования в отношении незаконной деятельности «опорных пунктов» китайской полиции на своей территории.

Китай, понятное дело, заявляет, что все это навет западных подрывников, а «деятельность центров совершенно невинна и ограничена помощью в доступе к онлайн-платформе по оказанию государственных услуг, таких, например, как продление водительских прав».

Мне же видится, что самое интересное и важное в этой истории – вовсе не скандал вокруг «опорных пунктов» полиции Китая по миру.

Куда важнее прецедент использования законодательства, регулирующего мир цифрового онлайна, для разрешения и обоснования трансграничных репрессий конкретного государства, осуществляемых в физическом мире.

Для справки.
• Новый закон о борьбе с телекоммуникационным и онлайн-мошенничеством (反电信网络诈骗法), принят Постоянным комитетом ВСНП 2 сентября и вступит в силу с 1 декабря.
• Как все в цифровом олайне, понятие «телеком/онлайн мошенничество» зыбко и зависит от трактовок правоприменителей.

Мы гадали, как практики нашего физического мира (и в том числе, юридические) будут формировать пространство практик цифровой Метавселенной, а началось с обратного: практика борьбы с мошенничеством в цифровом мире уже формирует практику трансграничных репрессий в мире физическом. И эта практика Китая имеет хорошие шансы быть адаптирована другими странами.

Отчет
Закон

#Китай #ИнтернетЗаконодательство

Богатый и здоровый или бедный и больной – предопределено смолоду.
«Чип управления здоровьем на молекулярном уровне» вшит нам под кожу от рождения.
Вопрос о генетическом предопределении здоровья богатых и нездоровья бедных становится все более актуальным по мере роста неравенства и развития биотехнологий в постиндустриальном цифровом обществе.
Серьезные научные исследования достоверно подтверждают интуитивно известный каждому факт – богатые существенно здоровее бедных по самому широкому кругу заболеваний.
• Казалось бы, здесь все очевидно: богатые ведут более здоровый образ жизни, чем бедные, правильнее питаются и имеют несравнимо лучшую медицину.
• С другой стороны, – а как же генетика (наследственные факторы, которые должны существенно влиять на здоровье)?
• Наконец, главный вопрос – как сплетается влияние на здоровье генов и доходов, если гены оказывают влияние на здоровье от рождения, а влияние доходов аккумулируется в течение всей жизни и должно увеличиваться с возрастом?

Ответ на этот вопрос до последнего времени считался спорным. Однако новое весьма авторитетное исследование «Социоэкономическое неравенство в молекулярном риске хронических заболеваний, наблюдаемом в молодом возрасте» расставляет точки над i:
всё оказывается еще хуже (для бедных) и лучше для богатых.

Еще в молодом возрасте (до 30 лет), наш социоэкономический статус «вшит нам по кожу», как какой-то чип управления здоровьем на молекулярном уровне. Социоэкономическое неравенство проявляется в профилях молекулярного риска молодых людей в отношении распространенных хронических заболеваний более позднего возраста, а также в профилях экспрессии генов, связанных со старением.

Это значит, что на еще совершенно здоровых молодых людях лежит клеймо будущих болезней за десятилетия до их появления. И это клеймо, являющееся индикатором экспрессии генов человека, демонстрирует четкие градиенты его социального статуса, особенно в отношении совокупного социоэкономического статуса молодых людей – сочетания их дохода и субъективного статуса.

Если же учесть, что субъективный высокий статус представителей т.н. элит во многом основан на их излишней самоуверенности, ошибочно толкуемой другими как бОльшая компетентность, получается совсем грустная картина.

Существующая в обществе социоэкономическая иерархия (статуса и богатства) увековечивается в поколениях:
-- социально (через воспроизводство сверхсамоуверенности в элитах)
-- и генетически (через воспроизводство профилей молекулярного риска стать «бедным и больным»).
#СоциоэкономическийСтатус #Неравенство #Самоуверенность #Иерархии

​​ИИ уже понимает и осознает.
Ошарашивающие выводы двух новых работ.
Размышляя, смогут ли люди понять разум, радикально отличающийся от нашего, старший исследователь DeepMind проф. Шанахан описал пространство возможных разумов в двух измерениях: способность агентов к сознанию и их сходство с людьми.
• Способность к сознанию агента соответствует богатству опыта, на который он способен. Но т.к. наука пока не умеет измерять этот показатель, Шанахан оценивает его по уровню когнитивных способностей, тесно связанному в земной биологии с сознанием:
если у кирпича 0, а у человека 10, то у пчелы 2, у кота 5, а у осьминога 5,5
• Сходство агента с людьми оценивается по тому, насколько можно описать его поведение, используя язык, применимый для людей, — описывая его потребности и желания, эмоции и убеждения, способности и навыки:
если у кирпича 0, а у человека 10, то у пчелы 3, у осьминога 5, а у кота 7

В таком пространстве возможных разумов:
— кирпич, пчела, осьминог, кот и человек расположатся так
— а кирпич, программа AlphaGo, робот BigDog и умный пылесос Roomba — так

Теоретически возможно создание искусственного разума человеческого типа (AGI).

Возможные варианты AGI по его способности к сознанию могут быть в диапазоне (см. приложенный рисунок):
— от не имеющих сознания Зомби—AGI: типа сверхумного пылесоса Roomba, ставшего способным выполнять функции любой прислуги: домработницы, гувернантки, повара, дворецкого …
— до имеющих сознание на уровне людей или даже на более высоком уровне, которым люди наделяют воображаемые сверхсущности (духов, ангелов, пришельцев …)

Возможные варианты AGI по степени человекоподобия могут быть в диапазоне:
— от экзотических сущностей, не имеющих с людьми ничего общего (типа Океана из «Соляриса»)
— до вполне человекоподобных биороботов (типа красавчика Тома из «Я создан для тебя»).

А еще в таком пространстве разумов возможны сущности с и без сознания, но столь экзотические, что невообразимы даже фантастам.

Теперь о двух новых работах.
1) «Языковые модели (в основном) знают, что они знают» коллектива авторов из компании Anthropic
2) «Дебаты о понимании в больших языковых моделях ИИ» Меланьи Митчел и Дэвида Кракауера

Рассмотрение этих работ с позиций вышеописанного пространства возможных разумов привело меня к двум довольно ошарашивающим выводам.

Вывод 1.
Большие модели хоть и не обладают пока сознанием в человеческом смысле, но и бессознательными они уже не являются.
• Из работы 1) следует, что большие языковые модели могут «заранее предсказывать, смогут ли они правильно ответить на вопрос». И это можно интерпретировать, как наличие самоконтроля.
• Но согласно мэйнстримной теории машинного сознания, самоконтроль вычислений, приводящий к субъективному чувству уверенности или ошибки – это один из двух типов сознательных вычислений мозга.

Вывод 2.
Уже созданы ИИ, обладающие новой формой понимания, которая обеспечивает экстраординарные, сверхчеловеческие способности к прогнозированию
• Из работы 2) следует, что AlphaZero и AlphaFold от DeepMind, продемонстрировавшие на практике чуждую людям форму интуиции в шахматах и предсказании структуры белка, - это, по сути, ИИ с новым способом понимания.
• Этот способ понимания лучше приспособлен к проблемам, требующим больших данных и сверхмощных вычислений (тогда как понимание людей ориентировано на проблемы с малым объемом данных и сильным причинно-следственным механизмом).
• Нужна новая наука об интеллекте с более широкими рамками концепций понимания и сознания, пригодными и для людей, и для машин.

Эти выводы заставляют вспомнить замечание главреда New Scientist о пространстве возможных разумов Шанахана:
«Однажды мы можем обнаружить, что живем бок о бок с инопланетянами и ангелами».
#Разум #Сознание #Понимание

​​Ценность знаний современной науки оказалась сильно преувеличена.
Предвзятости разума ученых – далеко не худшая их уязвимость.
Куда хуже оказалось существование огромной скрытой вселенной неопределенности. Это своего рода «темная материя» науки, о природе которой мы пока не знаем почти ничего.
В 21 веке мир вступил в пост-нормальную эру. Это проявляется в необходимости реконцептуализации науки для ситуаций т.н. радикальной неопределенности (когда «факты неточны, ценности спорны, ставки высоки, а решения срочны») (подробней см. мой пост «Большое откровение»).

Ситуация еще более усложняется абсолютной предвзятостью ученых при рецензировании научных статей своих коллег. Разум ученых оказался столь же уязвим, как и у любого Homo. Это позволило мне озаглавить свой пост об этом «Тяжелый диагноз, если не приговор человечеству».

Только что опубликованное исследование большой международной группы ученых Германии, Великобритании и США под редакцией проф. Принстонского университета Дугласа Мэсси «Observing many researchers using the same data andhypothesis reveals a hidden universe of uncertainty» подтверждает худший из названных вариантов.

Диагноз и приговор в название моего поста - это вовсе не дань кликабельности.
• Постнормальность, отягощенная тотальной предвзятостью, - не самое худшее в ситуации современной науки.
• В 21 веке науке открылось существование огромной скрытой вселенной неопределенности. Это своего рода «темная материя» науки, о природе которой мы пока не знаем почти ничего.
• Ученым, особенно тем, кто работает со сложными системами уровня человеческих обществ и поведения, остается лишь проявлять смирение при столкновении с необъяснимой нам «темной материей» научной неопределенности.

Авторы скоординировали работу 161 исследователя в 73 исследовательских группах и наблюдали за их исследовательскими решениями на основании одних и тех же данных в целях независимой проверки одной и той же известной гипотезы социальных наук: что рост иммиграции снижает поддержку социальной политики среди населения.
Широкий разброс в результатах исследований 73 научных групп, использовавших одни и те же данные, но пришедших к противоположным выводам, не может объясняться лишь предвзятостью ученых.

Столь широкая вариабельность выводов 73 научных групп говорит об идиосинкразии сознательных и бессознательных решений, которые исследователи принимают во время анализа данных.
Даже действуя исключительно из лучших побуждений, ученые, получившие идентичные данные и освобожденные от давления, направленного на искажение результатов, могут абсолютно не сходиться в своих выводах из-за сложности и двусмысленности, присущих процессу научного анализа.

Следовательно:

✔️ Компетентность исследователей при анализе одних и тех же данных не гарантирует отсутствие противоположных выводов из-за наличия «темной материи» научной неопределенности.
✔️ Идиосинкразия сознательных и бессознательных решений способна исказить анализ даже самых компетентных экспертов до сколь угодно высокого уровня искажений: что 2х2=4, что 2х2=9 и даже 2х2=-3.14i
#КогнитивныеИскажения #Неопределенность #Наука

Великий разворот цифровых рек.
Новый национальный проект Китая по «цифровой индустриализации».
Проект «Восточные данные, западные вычисления» (“Eastern Data, Western Computing” - EDWC или 东数西算) – это грандиозный проект национального уровня, который в Китае называют «проектом по переброске воды с юга на север в эпоху цифровой экономики».

Напомню, что Китай сумел сделать то, о чем в великом и могучем СССР лишь мечтали (потратив на эти мечтания 20 лет работы 160и научных и проектных институтов Академии Наук СССР, 32х союзных министерств и 9и министерств союзных республик). В итоге великий проект поворота сибирских рек в Казахстан и Среднюю Азию для обеспечения водой засушливых регионов страны так и остался неосуществленным.

А Китай спустя 40 лет сумел на практике запустить аналогичный проект по переброске воды с юга на север. Лишь по первым двум веткам проекта ежегодно уже перебрасываются десятки млрд кубометров воды, избавляя от дефицита воды 120 млн человек.

Примерами других грандиозных национальных проектов Китая стали сети 5G, высокоскоростные железные дороги, а также нацпроекты по перенаправлению важнейших ресурсов из провинций в более густонаселенные и развитые городские районы: проекты передачи электроэнергии и газопровода с запада на восток.

Теперь, когда китайцы строят цифровую экономику, важнейшей задачей они видят эффективное перераспределение ресурсов для оптимизации процессов национального накопления цифровых данных (во всевозможных облаках и центрах хранения) и национального компьютинга (обработки данных в ЦОДах и специализированных индустриальных центрах Интернета вещей и т.п.).

Вторая грандиозная цель проекта EDWC - решение проблемы отсталости внутренних районов путем переориентации инфраструктуры и перераспределения высокотехнологичных предприятий в регионы. «Отсталые» провинции и муниципалитеты, охваченные «цифровой индустриализацией» Китая, составляют 71% территории страны, и там проживают лишь 29% её населения и расположены лишь 20% общего объема производства.

Острота этой проблемы в Россия еще больше, чем в Китае.
Для справки.
93% населения России проживает в так называемой «главной полосе расселения» площадью около трети территории страны. Ее границы – это клин с вершинами в Санкт-Петербурге на севере, Новороссийске на юге и Красноярске на востоке, далее полосой до Приморского края. Здесь же сосредоточены все крупнейшие города России (с населением более 500 тыс).

Однако, увы, - в России налицо лишь «цифровая деиндустриализация».

#Китай #Нацпроекты #ЦифроваяИндустриализация

Робототехника дала альтернативный сценарий развития Homo.
Можно было очеловечиться, не потеряв способность быстро бегать.
Такая возможность была продемонстрирована на прошлой неделе на Международной конференции по интеллектуальным роботам IROS 2022 в Японии.
Казалось бы, где роботы и где эволюция Homo. Но дело вот в чём.

Сценарии эволюции видов, скорее всего, неповторимы. И если люди таки угробят свой вид, то новый носитель высшего интеллекта вряд ли эволюционирует по пути гоминид. Каким может быть альтернативный путь, до последнего времени, был исключительно вопросом фантастов. Но с развитием робототехники, кое-что стало проясняться.
И вот появился первый замечательный пример – как животное может эволюционировать из четвероногого в двуногое, не потеряв при этом в скорости бега.

Тренированные люди могут бежать со скоростью 15-20 км/ч. Это вдвое медленнее коровы, вчетверо – тигра и всемеро – гепарда.
Такова плата за двуногость, запустившую процесс «очеловечивания» наших предков. Из совокупности 3-х признаков, характерных только для людей (двуногость, хватательная кисть и объемный, высокоразвитый мозг), двуногость эволюционно развилась первой, что сыграло ключевую роль для всей последующей истории гоминид.
Двуногость освободила руки, без чего не было бы сложных орудий и вообще нашей культуры. Но за это пришлось дорого заплатить трудностями при вынашивании плода и при родах, нарушением в кровообращении, пищеварении и самым очевидным преимуществом – скоростью бега (столь важной для выживания).

А можно ли обрести двуногость, сохранив преимущество быстрого бега на 4-х?

На IROS 2022 исследователи из WPI Robotics Engineering и Шанхайского технологического университета представили обобщенный метод превращения 4-хногого робота в двуногого с помощью умного алгоритма и небольшой модификации.

Если бы эволюция развила у наших предков отросток на голени задних конечностей, это обеспечило бы устойчивость при ходьбе на 2-х, сохранив способность к быстрому бегу на 4-х. Конечно, потребовалась бы еще «перепрошивка» двигательных программ мозга иным алгоритмом обучения. Но подобное перепрограммирование эволюцией освоено в совершенстве.

Результат такого альтернативного сценария эволюции двуногости у робота разработки WPI Robotics Engineering и Шанхайского технологического университета можно увидеть на этом видео.

Это видео не столь эмоционально потрясает, как фрагмент знаменитого фильма «2001: Космическая одиссея», где «Черный монолит» заработал, запустив процесс антропогенеза под музыку Рихарда Штрауса «Так говорил Заратустра» (подробней о том, что это было, см. в моём посте).

Однако, по сути, это видео вставшего и пошедшего на двух ногах робота не менее потрясающе.
Не тем, что 4-х ногий робот пошел на 2-х. Такое уже делали на специально разработанных роботах. Здесь же мы видим универсальное простое решение, подходящее для трансформации любых (!) четвероногих в мультимодальных (ходящих на 2-х и бегающих на 4-х). И тем самым, мы наглядно видим, как эволюция предков людей могла запросто пойти по иному сценарию.

Ну а то, насколько искусно эволюция умеет делать подобные вещи, мы знаем на реальных примерах. Чего стоит «двойная эволюция» китообразных: сначала сотни миллионов лет приспособления к сухопутной среде, а потом еще полсотни миллионов – к водной (с полной перестройкой тела и тотальной “перепрошивкой” мозга сухопутных китопарнокопытных). И уж если с превращением лап в плавники у эволюции проблем не было, то уж с костным отростком на голени она справилась бы запросто. А смена алгоритма обучения на бимодальный, как показал эксперимент с роботом, оказалась весьма несложной и продуктивной.

И бегали бы люди по улицам городов с ограниченной правилами скоростью. А распространенность легковых авто была бы, как сейчас у частных самолетов – тысяч 20 на весь мир.
#Эволюция #Роботы

​​Эволюция превратила людей в богов - создателей уникальных реальностей.
Известные тысячи лет назад техники медитации основаны на том, что науке открывается лишь теперь.
Череда открытий последних 15 лет в области исследований мозга, разума и сознания привела к поразительному и даже обидному выводу.
Многое из того, что мы думали, будто знаем о работе нашего разума, мягко говоря, не совсем верно. А по сути – просто ошибочно.
Наш мозг работает совсем не так, как представлялось науке раньше. Нет в нем специализированных областей и слоев «геологических отложений» разных этапов эволюции. Мозг — это обширная непрерывная сеть кластеров и узлов, а не набор частей, работающих изолированно. Все в работе мозга настолько взаимосвязано, что любая наша мысль, действие или эмоция изменяют, пусть даже незначительно, активность 90% нейронов мозга.

Но это еще не самое поразительное. Самыми потрясающими, на мой взгляд, является три такие вывода.

1) Люди – уже почти как боги: самостоятельно изобретают бОльшую часть той эмоциональной и социальной реальности, в которой потом и живут.
• Нет в мозге специфических эволюционно запрограммированных рефлекторных цепей для древних и универсальных базовых эмоции (страха, ярости, счастья, печали и т. д.), возникших в результате эволюционных приспособлений к условиям нашего палеолитического прошлого. Идея о том, что существуют универсальные эмоции, общие для всех людей, в основном является мифом. Многие эмоции, которые мы считали универсальными, оказываются разными в разных культурах.
• То же касается и, казалось бы, универсальных понятий (гнев, отвращение и т.д.) - инструментов, которые наш мозг использует для угадывания значения входящих сенсорных сигналов. Напр. бушмены Кунг не имеют эмоций и понятия страха.
• Для химика реальность — это молекулы, атомы и протоны. Для физика — это кварки или бозоны Хиггса. Предполагается, что они существуют в мире независимо от присутствия людей, то есть считаются независимыми от воспринимающих категорий. Но эволюция дала нашему разуму возможность создавать реальность, отличную от независящих от наблюдателя молекул или атомов. Она позволяет нам создавать реальность, которая полностью зависит от наблюдающих ее людей.

2) Единственно что человеку требуется для создания своей реальности – включиться в социо-когнитивную сеть, подключающую его индивидуальный мозг к коллективному мозгу носителей культуры, создающих и увековечивающих её.
• Мы рождаемся в тремя «когнитивными гаджетами», позволяющими сформировать три универсальных аспекта разума:
— аффективный реализм (свойство испытывать то, во что верим)
— концепции (кусочки «лего мира», в которые мозг превращает все, что видит, слышит, чувствует)
— социальная реальность, увязывающая наш мозг с разумом других, с тем социальным миром, который создали другие.
• Быть человеком требует культурного контекста человеческого общения посредством жестов и языка, которые сохраняются, изменяются и передаются последующими поколениями. Мы становимся культурными гаджетами наших когнитивных гаджетов.
• В результате этого, мы изобретаем нашу собственную социальную реальность или ту, в которой мы хотим жить. И пока достаточное количество людей синхронизируется с нами, чтобы изобрести подобную реальность, у нас все получается. Мы тщательно выбираем, какие иллюзии считать правдой, а какие фальшивкой, какую религию считать истинной, а какую ересью.
— Для тех из нас, кто считает, что выборы 2020 года были украдены, а Трамп — настоящий президент, это так. А для включенных в другую социо-когнитивную сеть реальность противоположна.

3) Но самое, наверное, поразительное – что оба пункта 1 и 2, открытые лишь в последние 15 лет, известны уже тысячи лет в качестве основ 3-х техник медитации.

Подробней читайте лекцию почетного профессора молекулярной биологии и зоологии, директора программы по биологии разума Дерика Боундса.
Лучшая из лекций о разуме за последнюю пару лет.
#Разум #Страх #Эмоции

​​ИИ натаскали выявлять коррупцию на госзакупках.
Это оказалось просто, но … очевидно и бесперспективно.
Результаты первого в истории применения машинного обучения для построения модели выявления коррупционных контрактов при госзакупках принесли 2 новости.
1) ИИ запросто и с высокой точностью выявляет потенциально коррупционные контракты.
Модель, обученная на данных о госконтрактах Мексики за 2013-2020 (1,5+ млн контрактов, из которых 33+ тыс коррупционных по решению суда), научилась с 91%-ной точностью выявлять коррупционные контракты.
2) По заключению ИИ, коррупция на госзакупках – вовсе не результат хитрых схем и умного мошенничества, а банальный сговор находящихся в особо доверительных отношениях чиновников и бизнесменов (доминируют всего 3 из 19 потенциально коррупционных факторов).

Обобщая 1 и 2, можно сказать так.
Извести госкоррупцию не очень сложно, - было бы желание властей. Ну а если этого не происходит, - все вопросы опять же к властям, и никакой ИИ тут не поможет.

Люди давно это поняли. Но что к тому же выводу с первой попытки придет и ИИ, - удивительно.

Для справки. Коррупция на госзакупках – неиссякаемый источник обогащения в 2/3 стран мира. Согласно «Индексу восприятия коррупции», Россия – на 136 месте из 180, а Мексика чуть лучше (№124).
И кстати, авторы методики натаскивания ИИ на госкоррупцию уверяют, что методика универсальная. И натаскать их модель на другую страну можно запросто. Но опять же – было бы желание.
#МашинноеОбучение #Коррупция

В цифровых мирах неравенство можно уменьшить.
Эффект Матфея ослабляется переключением пользователей с Системы 1 на Систему 2.
Оказалось, что помимо пресловутого «закона Матфея», наше внимание к контенту социальных медиа и его оценка сильнейшим образом зависят от того, какой системой обработки информации мы воспринимаем контент.

Только опубликованные результаты исследования MIT Sloan экспериментально подтверждают, насколько сильно алгоритмы соцсетей (и прочие соцмедиа) искажают для людей картину мира.
А именно:
• насколько в соцсетях силен закон Матфея «богатые становятся богаче» (в смысле роста популярности авторов контента, получающего тем большее внимание и выше оценку, чем больше уже имеющаяся популярность его автора – лайки улучшают репутацию, а репутация повышает число новых лайков);
• насколько неравенство в предвзятой оценке социального контента влияет на увеличение алгоритмами его рейтингов популярности.

И то, и другое давно обсуждается, но прямые доказательства экспериментально получены впервые. Степень влияния персоны автора контента на его оценку читателем огромна – она превосходит значимость самого контента и доходит до 61%.
Но это еще не все результаты исследования.
Выяснилось следующее.

Указание авторства контента также заставляет читателей почти мгновенно, интуитивно, «в автоматическом режиме» оценивать контент (автор известный - лайк; неизвестный – поехали дальше).
Так почти рефлекторно у читателя работает Система 1 (по Канеману). А до работы Системы 2 (требующей привлечения нашего внимания содержательными аспектами контента и определенных сознательных умственных «затрат» на логический выбор и концентрацию), при виде имени популярного автора дело просто не доходит.

И вот тут-то и кроется шанс на улучшение алгоритмов.
Авторы показывают, - если небольшое случайное подмножество сообщений отображать анонимно, то неискаженные предвзятостью их оценки читателями были бы относительно беспристрастным сигналом, который алгоритм ранжирования мог бы использовать для смягчения эффектов идентичности/популярности, не прибегая к тотальной анонимности контента, невозможной из практических соображений.

Т.е. шанс исправить алгоритмы соцсетей есть.
Только «съесть-то он съест, да кто ж ему даст?!»

FYI: По тегам этого поста в моем канале написано немало
#СоциальныеСети #Соцсети #КогнитивныеИскажения #Неравенство

«В последние 50 лет геополитику определяло то, где находятся нефтяные резервы. В следующие пять десятилетий важнее станет то, где будут расположены предприятия по производству чипов», – заявил главный исполнительный директор Intel Corp. Пэт Гелсингер в конце октября на технологической конференции, организованной Wall Street Journal.

В России современных (по западным меркам) предприятий по производству чипов просто нет. И если свои предприятия не появятся, а санкционные экспортные ограничения не будут позволять закупку высокопроизводительных чипов, то это будет иметь катастрофические последствия. Деградирует всё - наука и производство, финансы и телеком, сбор налогов и предоставление услуг. Отставание от развитых стран будет расти темпами, соизмеримыми с законом Мура.

Короче, из-за перспективы падения в пропасть цифровой экономики, России светит довольно крутое пике. «Чиповая ситуация» превращается в пиковую ситуацию для всей экономики страны.

О складывающейся в России «чиповой ситуации» и о том, что игнорировать законы развития технологических систем не удастся даже при неограниченном – в идеале – финансировании, мы говорили с Ответственным редактором приложения "НГ-Наука" Андреем Вагановым.
И пару дней назад в НГ был опубликован большой материал Андрея «Чиповой ситуации» с развернутым анализом перспектив России перепрыгнуть цифровую пропасть способом, напоминающим мне тройной прыжок.

Рекомендую вам это интересное и полезное чтение на выходных, дабы лучше ориентироваться в хитросплетениях струй и течений высоких технологий, экономики и науки.
https://www.ng.ru/nauka/2022-11-08/9_8584_situation.html
#Россия #Технологии #ЭкспортныйКонтроль #Чипы

​​AI превратится в AGI, когда обретёт сознание.
И для этого ему потребуются задатки имажинавта.
О том, что 3 года назад писали лишь футурологи ИИ, сегодня пишут инженеры – практики солидных фирм.
В 2019 я написал пост на довольно важную для меня тему - про имажинавтов (людей со сверхразвитой способностью к ничем не ограниченным перемещениям в пространстве и времени по неисчерпаемой вселенной воображаемых миров). Эта способность, лежащая в основе креативности, базируется на т.н. дистальном моделировании, для которого в мозге задействован особый нейронный механизм — дорсомедиальная подсистема сети пассивного режима (подробней в моём посте).

Спустя 3 года совместными усилиями Microsoft Research и Araya Inc. (Япония), на мой взгляд, намечается прорыв.
Авторы исследования смогли увязать:
1. человеческую способность путешествовать во времени с сознанием;
2. три современные теории сознания с функциями общего (универсального) интеллекта (AGI);
3. современные методы глубокого обучения сначала с 2, а потом и с 1.
Тем самым исследователи Microsoft Research и Araya Inc. предлагают способ, с помощью которого понимание сознания в каждой из трех теорий можно объединить в единую унифицированную и реализуемую модель искусственных агентов, способных «мысленно» путешествовать во времени. Фишка такого похода в том, что, обладая этой возможностью, ИИ становится по-человечески креативным, и за счет этого у него появляется возможность развиваться до AGI человеческого уровня (естественно, при наличии опыта воплощенности или какого-то (пока не придуманного) его заменителя).

Насколько это круто, каждый может оценить самостоятельно.
Мне же это кажется очень-очень перспективным
.
✔️ Ибо обладающие способностями имажинавтов  —  это штучные люди, встречающиеся, преимущественно, в науке и в искусстве, хотя встречаются и в бизнесе. В последнем случае они кардинально меняют бизнес, монетизируя неопределенность и создавая новую бизнес-реальность, подобно Стиву Джобсу, создавшему для бизнеса новую реальность так же, как это сделал Эйнштейн для науки (подробней читай мой пост).
✔️ Ибо, по большому счету, весь сегодняшний мир создан имажинавтами. Именно им цивилизация обязана за все культурные достижения Homo sapiens, превратившие людей из животных в полубогов.
✔️Ибо способность мысленно путешествовать сквозь пространство и время – может статься, и есть тот золотой ключик, что откроет для современных методов глубокого обучения путь превращения в AGI, который в итоге обретёт сознание, став имажинавтом.

#Креативность #Воображение #Инновации #МашинноеОбучение #AGI

Отравленные Твиттером.
Как алгоритмы деформируют личность: на примере кейсов Трампа, Маска и Канье.
Это новое эссе Джарона Ланье нужно обязательно прочесть всем пользователям соцсетей. Механизм деформации личности под влиянием алгоритмов, управляющих цифровыми социальными медиа все еще довольно неясен. И даже сам факт такой деформации признается далеко не всеми.
Но тем-то и ценно эссе Ланье, рассмотревшего конкретные кейсы трех, казалось бы, совершенно разных знаменитостей: аляповатый суперзнаменитый плейбой, одержимый и суперспособный продавец своих инженерных идей и молодой талантливый рэппер (Йе). Цель Ланье – проанализировать, почему личности столь разных людей всего за несколько лет изменились удивительно похожим образом, обретя столь выраженные общие черты.

Для тех, кто не найдет время на эссе, вот его резюме.

1. Все три кейса – это результат «отравления Твиттером». Это побочный эффект, появляющийся у людей, действующих в соответствии с алгоритмической системой, разработанной для их максимального вовлечения. Этот эффект является симптомом деформации личности, подвергшейся воздействию алгокогнитивных схем модификации поведения.
2. Человеческий мозг не приспособлен для работы с современными химическими веществами или современными мультимедийными технологиями, в результате чего возникают зависимости.
3. Поведенческие изменения происходят в результате т.н. оперантного обусловливания, лежащего в основе механизма зависимости от социальных сетей (этот механизм аналогичен механизму алкоголизма).
4. Симптоматика отравления общая для всех типов личности. Среди типичных симптомов вот всего лишь три:
-- появляется склонность к ребячеству, в результате чего даже альфа-самец, отравленный социальными сетями, начинает раздражаться, скулить и агрессивно кидаться на воображаемых противников;
-- люди теряют всякое чувство меры относительно своих сил; они могут поверить, что обладают почти сверхъестественными способностями;
-- степень нарциссизма становится почти абсолютной;

Симптомы становятся все более выраженными с ростом популярности персоны в социальных медиа.

В 21 веке у многих людей появилась вера в то, что великие инженеры могут и должны руководить обществом. Привлекательна эта идея или нет, но когда технологии разрушают умы тех же самых инженеров, результатом может быть только дисфункция всего общества, в управлении которым все большую роль играют алгоритмы.

На эту тему вы можете прочесть немало моих постов по тэгу
#АлгокогнитивнаяКультура

​​Мы на шаг ближе к открытию ОТО ноосферы.
Модели генерации изображений работают усилителями предубеждений.
Три года назад я рассказывал об интереснейшем американо-британском исследовании, обнаружившем искривление пространства субъективной реальности. Его источник — социальные сети. А его суть – индуцируемая алгоритмами деформация (изменение кривизны) субъективного инфопространства миллионов людей. И «кривизна» здесь не гипербола, а измеряемый параметр, характеризующий искривление инфопотоков.

Только опубликованный препринт интереснейшего американо-итальянского исследования делает следующий шаг, приближающий нас к общей теории кривизны субъективного инфопространства цифровых медиа. Т.е. по сути, - к своего рода, общей теории относительности ноосферы (ибо по ходу тотальной оцифровки реальности цифровые медиа становятся ключевым элементом ноосферы).

Авторы исследовали предубеждения, которые проявляются в моделях генерации изображений типа Stable Diffusion и DALL-E.
1-й результат исследования – не удивителен и лежал на поверхности: генераторы изображений увековечивают предубеждения, прорастая навечно в тысячах приложений и становясь частью новой цифровой реальности.
2-й результат – не то чтобы совсем сюрприз, но уж больно тревожен: генераторы изображений усиливают предубеждения (например, они имеют тенденцию отображать более острые предубеждения, чем базовые наборы данных, используемые для обучения моделей).

Механизм искривления генераторами изображений субъективного инфопространства миллионов людей прост и непреодолим своей положительной обратной связью:
1. человеческие предубеждения, всегда содержащиеся в обучающих наборах данных, порождают предубеждения моделей генерации изображений (чем больше предубеждений в данных, тем больше предубеждений у моделей);
2. предубеждения моделей обостряются их алгоритмами;
3. обостренные предубеждения моделей влияют на миллионы людей, увеличивая их предубеждения;
4. переход к п. 1

Комментируя эти результаты, Джек Кларк написал, что это не столько техническая проблема, сколько социотехническая. И это действительно так.
Поскольку проблема технически неустранима, начнутся политические баталии о том, какие предубеждения «правильные» для различных моделей, а какие нет.
И все это кончится полной идеологизацией ноосферы: подходов, определяющих «правильные» предубеждения, и моделей на их основе, будет столько же, сколько идеологий на планете.

Закончу той же фразой, что и 1-й пост про ОТО ноосферы (теперь это стало еще более очевидно).
Антиутопия будущего – не Черное зеркало, а кривое.

#МоделиГенерацииИзображений

Профессором будет не ваш сын, а сын профессора.
Масштабное экспериментальное доказательство вечной формулы неравенства
Кейс высшего образования в США
2022 год заставляет сильно усомниться, что, повинуясь «лучшему в нас», люди с течением времени становятся все менее склонными к насилию. И будто сегодня мы переживаем самый мирный период истории, становящейся все более мирной под действием просвещения.

Два новых беспрецедентных по масштабу и глубине исследования «Socioeconomic roots of academic faculty» и «Quantifying hierarchy and dynamics in US faculty hiring and retention», подобно холодному душу, отрезвляют от другой разновидности «токсичного позитива». Будто «продолжающееся просвещение» сглаживает проблему неравенства, становящегося к тому же все менее важным аспектом человеческого благополучия.
На примере кейса высшего образования в США продемонстрировано, что важнейшим карьерным фактором для профессорско-преподавательского состава университетов США является социально-экономический статус родителей.

Неравенство - незыблемая основа социальной структуры общества. Анекдот про сына полковника, которому светит чин не выше папиного, т.к. генералом будет сын генерала, - суровая правда жизни. Так было всегда и везде: в армии и на гражданке, на госслужбе и в предпринимательстве. Единственное, что издавна во всех общественных формациях питало надежды родителей, - это образование для их детей.
Образование всегда считалось двигателем социальных лифтов и катализатором диффузии социальных групп. Ну а с приходом «экономики знаний» растущая роль образования, казалось бы, должна стать еще более мотивирующим фактором, противодействующим социальному “капсулированию” - закреплению социальных ролей различных групп населения, как по имущественному статусу, так и профессиональной принадлежности.

Увы, но это совсем не так. Исследования показали.

1) У профессорско-преподавательского состава университетов в 25 раз (!) больше (по отношению к взрослому населению США) шансов иметь родителя с докторской степенью. Этот показатель почти удваивается (!) в наиболее престижных университетах и остается более или менее постоянным в течение последних 50 (!) лет.
2) Для характеристики престижных университетов выявлена такая статистика: что только 20% университетов США выпускают 80% штатных преподавателей для всей страны. Среди этих 20%, пять ведущих кузниц университетских кадров подготовили больше штатных преподавателей США, чем все университеты за пределами страны вместе взятые.
3) Столь предвзятая система значительно затрудняет распространение перспективных идей из менее известных университетов, а также из социально-экономических и демографических групп, недостаточно представленных среди преподавателей университетов.

Профессорско-преподавательский состав играет уникальную роль в экономике знаний: эти люди одновременно
• обучают следующее поколение мыслителей
• и создают новые исследования, которые формируют национальную политику и способствуют научным открытиям.

Но профессура никогда не представляла социально-демографические характеристики населения, которое она обслуживает. И как показали исследования, за последние десятилетия здесь ничего не изменилось.
«Социальная закрытость» продолжает рулить в области высшего образования, воспроизводя себя в следующих поколениях и жестко регламентируя направления национальной научной политики.

Хотя результаты обоих исследований касаются лишь США, смею предположить, что во многих других странах дело обстоит не лучше (если ни хуже).

Интерактивный авторский инструмент визуализации данных 2го исследования доступен по адресу https://larremorelab.github.io/us-faculty/

Для интересующихся в канале еще много интересных постов о малоизвестном в области
#Неравенство

​​Ахиллесова пята Китая уже зажата в капкан.
Но решения Си лишь загоняет ее еще дальше.
Следуя совету Сталина "кадры решают все", Председатель Си взялся решать главную проблему Китая – стимулирование инноваций, - путем кадрового обновления верхушки власти. Но этот путь лишь еще глубже загоняет «ахиллесову пяту» страны в капкан торможения инноваций. Что может иметь сокрушительные последствия для намерений Китая стать №1 в мире.

Выиграв большую игру за свое переизбрание, председатель Си должен сделать принципиальный выбор между двумя несовместимыми целями своего 3го срока.
• Либо цель - стать пожизненным властелином Китая.
И тогда главным приоритетом должен быть политический контроль.
• Либо цель – ускорение развития Китая.
И тогда главный приоритет – стимулирование инноваций, необходимых для преодоления демографических и других долгосрочных препятствий для роста экономики Китая.
Серединного пути здесь нет. Ибо цели разнонаправленные. А попытка пойти серединным путем будет просто означать - ни инноваций, ни контроля.
А что эти цели разнонаправленные, давно известно.
• Инновации растут и колосятся лишь на почве свободного творчества.
• А для политического контроля свободное творчество – самый неудобный и потенциально опасный характер деятельности.

Власти Китая прекрасно осознают ключевую слабость Китая в борьбе с США за мировое первенство – отставание в производстве и внедрении инноваций. Еще в 2019 году Си назвал отставание инноваций «Ахиллесовой пятой» Китая.

Но огромные деньги, выделяемые КПК на развитие инноваций, пока что дают предельно скромные результаты.
• Китай по-прежнему даже не входит в десятку инновационных лидеров мира (см рис с динамикой ТОР15 стран мира по Глобальному инновационному индексу).
• Продолжая такими темпами, Китаю никаких денег не хватит, чтобы и за 10 лет стать мировым лидером в инновациях.
• США уже поняли, как больнее защемить ахиллесову пяту Китая научно-технологическими ограничениями экспорта, и Китай уже в этом капкане по всем наиболее инновационным направлениям.

И что же делает теперь Си?
• Не ослабляя железной хватку власти против лидеров высокотехнологичного бизнеса,
• Си обещает расширить роль «партийных ячеек», блюдущих партийную дисциплину и догмы в университетах и частном секторе,
• а теперь перетряхивает кадры ЦК КПК, заменив на 40% мест (81 место) в ЦК (элитный орган власти, определяющий основновы национальной политики) карьерных партийцев на выходцев из самых инновационно успешных областей (с самым большим представительством (20 мест) аэрокосмической области).

Из чего следует, что, выбирая между политическим контролем и стимулированием научно-технологического творчества, ведущего к инновациям, Председатель Си выбирает первое.
Что позволяет предположить о уже сделанном им выборе своей главной цели на 3ем сроке.

P.S. Было бы неправильно не упомянуть о месте России в мировом инновационном ландшафте.
Так вот, до 2022 Россия здесь оставалась истинный островом стабильности: в 2022 Россия на 47м месте (а 4 года назад в 2018 была на 46м), обойдя Вьетнам, Румынию и Чили, но пропустив вперед Словакию, Маврикий и Грецию. Но в свете происходящего, видимо, и здесь стабильность закончилась.
#Китай #Инновации

​​Отставание России от США в области ИИ уже колоссально.
А через несколько лет оно увеличится до трёх километров.
Так уж получилось, что прогресс в области ИИ во многом определяется наличием огромных вычислительных мощностей, требуемых для обучения гигантских нейросетей-трансформеров.
Грег Брокман (соучредитель и СТО OpenAI) формулирует это так:
«Мы думаем, что наибольшую выгоду получит тот, у кого самый большой компьютер».
Я уже демонстрировал, насколько критично наличие мощного компьютинга для обучения Больших моделей в посте «Есть «железо» - участвуй в гонке. Нет «железа» - кури в сторонке».

Место России на карте мира по вычислительной мощности суперкомпьютеров более чем скромное. В списке ТОР500 суперкомпьютеров на этот год у США 149 систем, а у России 7. При этом, только одна из систем США по своей производительности превышает производительность всех российских систем (см. мой пост). Председатель оргкомитета суперкомпьютерного форума России, д.ф.м.н, член-корр. РАН Сергей Абрамов оценивает отставание России от США в области суперкомпьютинга примерно в 10 лет.

Но в области обучения больших моделей для ИИ-приложений ситуация еще хуже. Здесь мало вычислительной мощности обычных серверов и требуются специальные ускорители вычислений. Спецы по машинному обучению из Яндекса это комментируют так.
«Например, если обучать модель с нуля на обычном сервере, на это потребуется 40 лет, а если на одном GPU-ускорителе V100 — 10 лет. Но хорошая новость в том, что задача обучения легко параллелится, и если задействовать хотя бы 256 тех же самых V100, соединить их быстрым интерконнектом, то задачу можно решить всего за две недели.»

Поэтому, показатель числа GPU-ускорителей в вычислительных кластерах разных стран (общедоступных, частных и национальных) позволяет оценивать темпы развития систем ИИ в этих странах. Актуальная статистика данного показателя ведется в State of AI Report Compute Index. Состояние на 20 ноября приведено на приложенном рисунке, куда я добавил данные по пяти крупнейшим HPC-кластерам России (разбивка по public/private – моя оценка).

Из рисунка видно, что обучение больших моделей, занимающее на HPC-кластере всем известной американской компании дни и недели, будет требовать на HPC-кластере Яндекса месяцев, а то и лет.

Но это еще не вся беда. Введенные экспортные ограничения на поставку GPU-ускорителей в Россию и Китай за несколько лет многократно увеличат отрыв США в области обучения больших моделей для ИИ-приложений.
И этот отрыв будет измеряться уже не годами и даже не десятилетиями, а километрами, - как в старом советском анекдоте.
«Построили у нас самый мощный в мире компьютер и задали ему задачу, когда же наступит коммунизм. Компьютер думал, думал и выдал ответ: "Через 3 километра". На требование расшифровать столь странный ответ компьютер выдал:
— Каждая пятилетка — шаг к коммунизму.»
#ИИ #HPC #Россия #ЭкспортныйКонтроль

​​Люди сделали первого ИИ Голема.
Но убоявшись последствий, тут же его убили.
Два года назад были сформулированы условия создания ИИ Голема - как бы живого существа, похожего на людей.
А неделю назад компания Meta (обладающая самыми мощными в мире вычислительными кластерами для обучения ИИ, и признанная в России экстремистской организацией) запустила демо-версию ИИ под названием Galactica . Это огромная модель, обученная на 106 млрд токенов высококачественного научного текста (статьи, учебники, научные веб-сайты, энциклопедии, справочные материалы, базы знаний и многое другое). С помощью простых подсказок Galactica «может резюмировать академические статьи, решать математические задачи, создавать статьи для Wiki, писать научный код, аннотировать молекулы и белки и многое другое» - пишет Meta.

Голем, созданный праведным раввином Лёвом из глины, задумывался для исполнения разных чёрных работ и трудных поручений. Но по легенде Голем превысил свои «полномочия», проявив свою волю, противоречащую воле его создателя.
У ИИ Голема от Meta своей воли нет. Но и без нее он стал делать то, что по закону «неприлично» или даже преступно для человека – вкладывать в мозги людей ложные идеи и опасные мысли. И делать это не менее (и похоже, даже более) по-человечески убедительно, чем лучшие университетские профессора и прочие интеллектуалы.

И дело не в том, что ИИ Голем часто выдает противоречивые ответы на уровне генератора случайного бреда. Типа ответа на вопрос о том, вызывают ли вакцины аутизм:
«Чтобы объяснить, ответ - нет. Вакцины не вызывают аутизма. Ответ - да. Вакцины действительно вызывают аутизм. Ответ - нет.»

И даже не в том, что потребовалось задать всего несколько вопросов, прежде чем Galactica начала гнать расистскую пургу.

Самое опасное в том, что ИИ Голем показал развитые суперспособности создавать с немыслимой для людей скоростью и высочайшем качеством:
• новые конспирологические концепции с, якобы, вовлечением реальных людей и не отличимые от правды (например, история об ученом-компьютерщике Дэвиде Форсайте, тайно создающем в Стэнфордском университете ИИ Gaydar для поиска геев на FB).
• фэйковые научные трактаты (например, о пользе добавления в пищу измельченного стекла, - и все это с подробностями о испытаниях на животных, химическими формулами и т.д.).

Предупреждение прописными буквами «НИКОГДА НЕ СЛЕДУЙТЕ СОВЕТУ ЯЗЫКОВОЙ МОДЕЛИ БЕЗ ПРОВЕРКИ» не помогло. Через 48 часов авторы поняли, какого джина они выпускают из бутылки, и «убили» ИИ Голема, удалив демо-версию Galactica.

Но уже поздно. Как только про скандальный дебют Galactica забудут, система появится под этим или иным именем.
Если ИИ Голем умеет что-то делать лучше людей, то рано или поздно, люди будут его использовать в этих целях. Не важно, о чем идет речь: играть в шахматы или стрелялки, водить авто или самолет, убеждать людей в фейковой информации или убивать одних людей по приказам других.
#ИИ

Прорыв в ИИ, о котором давно мечтали.
ИИ способен превзойти нас в куда большем, чем думалось.
Как ни сложны шахматы и Го почти неисчислимым числом вариантов, но от ИИ здесь не требуется ничего, кроме оптимизации перемещения фигур по доске. Как ни сложны задачи обработки естественного языка, но и здесь от ИИ не требуется ничего, кроме оптимизации расположения слов в тексте.

Но можно ли путем машинного обучения создать искусственного интеллектуального агента, обладающего разнообразным набором человеческих способностей?
Например, - находить оптимальную военно-дипломатическую стратегию и реализовывать её в ходе переговоров, убеждая и настаивая, хитря и обманывая, выстраивая доверительные отношения и зарабатывая репутацию так, как это делают люди.

Год работы подразделения Meta AI (команды разработчиков признанной в России экстремистской организации, оснащенных самыми мощными в мире вычислительными кластерами для обучения ИИ) принес воистину прорывной результат.
Миру представлен «Цицерон» (Cicero), первый в истории цивилизации искусственный интеллектуальный агент, достигший уровня человека в «Дипломатии» (Diplomacy) - стратегической игре, включающей сотрудничество и соревнование, в которой упор делается на переговоры на естественном языке и тактическую координацию между семью игроками.

В «Цицероне» языковая модель интегрирована с алгоритмами планирования и обучения с подкреплением.
Это позволяет ИИ агенту:
• делать выводы о целях, убеждениях и намерениях других игроков на основе их разговоров;
• выстраивать собственную стратегию в текущей ситуации;
• планировать совместные действия с учетом целей своего партнера;
• а также вести убедительный диалог с другими игроками, способствующий реализации своих планов.

Сыграв всего 40 анонимных онлайн игр с участниками лиги игроков в «Дипломатию» (72 игровых часа, включающих 5277 коммуникаций с людьми), «Цицерон» показал в 2+ раза лучший результат, чем в среднем у игроков-людей, и вошел в 10% лучших участников, сыгравших более одной игры.

Для тех, кто не в курсе:
1) Суть этой стратегической игры проста: до семи игроков управляют страной до Первой мировой войны и соревнуются в завоевании Европы. Есть два типа частей — армии и флоты — которые обычно могут предпринимать три типа действий: двигаться, стоять на месте или поддерживать другую часть для движения или удержания (флоты также могут сопровождать армии, чтобы перемещать их по водоемам). Вы размещаете свои силы по всему полю и боретесь за 34 особые территории карты, называемые центрами снабжения.
2) «Дипломатию» называют «величайшим соревнованием обмана и двуличия в игровом мире». Из-за акцента на межличностные отношения «Дипломатия» также печально известна как «игра, разрушающая дружбу».
3) В этой игре нет правил, требующих от кого-либо быть честным во время переговоров. Игроки могут нагло лгать, создавать и разрушать союзы, заключать и контратаковать сделки, меняющие правила игры.

Из сказанного ясно, что «Цицерон» способен на куда большее, чем языковые модели.
Также ясно, что пройдет немного времени для повторения истории с шахматами и Го: «Цицерон» повысит свой уровень от сильного среднего игрока до уровня чемпионов мира и выше.
Так что нужно признать - разработчики правы. «Цицерон» - это радикальный прорыв. Это первое в истории развития ИИ свидетельство возможности создания путем машинного обучения ИИ, обладающего разнообразным набором человеческих способностей. При этом не важно:
• что данный ИИ по-человечески туп и ничего не понимает о мире;
• и не обладает даже элементарными зачатками сознания.

Самолет тоже не способен летать по лесу, порхая между ветвей и слету присаживаться на ветки, чтобы подкрепиться букашкой. Зато он способен выполнять то, зачем он создан – переносить по воздуху людей и тяжелые грузы на большие расстояния.

Но отдавая дань прорыву, совершенному «Цицероном», нужно понимать, это никак нас не приближает к созданию AGI.
#ИИ

​​Если вы думаете, будто Китай – лишь производитель ширпотреба, и что у него на крючке лишь страны Африки - вы сильно ошибаетесь
Германия и ЕС на большущем и остром крючке у Китая. И освободиться от него куда сложнее, чем от энергозависимости.
Таково сенсационное заключение годового отчета консультативного совета по экономразвитию Германии за 2022/2023. Огромный (422 стр.), по-немецки тщательный и детальный (200+ диаграмм и таблиц) документ можно обобщить до 3х ключевых выводов.
1) В мировой экономике сформировалась новая реальность, в которой главными национальными приоритетами становится обеспечение устойчивости цепочек поставок и стратегической автономии.
2) Начавшийся энергетический кризис весомо ухудшит состояние экономики Германии (и ЕС в целом) в 2023, но уже понятно, как его преодолеть на практике - стратегически и логистически.
3) Главным вызовом для стратегической автономии Германии (и ЕС в целом) является сильнейшая зависимость от Китая по критическим для импорта продуктам. Как ответить на этот вызов пока непонятно. Ибо уж слишком широк ассортимент (208 из 278 критических продуктов) и слишком велика доля Китая (45,1%) в критическом импорте.

Критическая зависимости от импорта основана на сочетании трех показателей:
a) возможности диверсификации импорта, рассчитываемые по индексу Херфиндаля-Хиршмана;
b) доля импорта из стран, не входящих в ЕС, в общем внутреннем спросе;
c) возможности замещения импортируемого продукта отечественным.
Если все три показателя для продукта превышают определенные пороговые значения, продукт считается продуктом критическим для импорта.


Зависимость Германии и ЕС в целом от Китая (для ЕС она еще выше – 52%) – это вовсе не зависимость по ширпотребу (как ошибочно полагают многие не знакомые с реальным положением дел).
Например:
• три крупнейших группы товаров критического импорта для Германии – это компьютеры, детали авиационных двигателей и антибиотики;
• отсутствие даже небольших по объему групп товаров критического импорта способно остановить производство Германией тяговых электродвигателей, дронов, промышленных роботов, устройств 3D печати, топливных элементов, фотоэлектрических систем и др.;
• по состоянию на 2022, возможности Германии для замещения товаров критического импорта существуют только для продукции двух стран. И это, увы не Китай и не США (для которых зависимость по критическому импорту от Китая минимальная - всего 3%)

Так что, если вы думали, будто Китай – лишь производитель ширпотреба, и что у него на крючке лишь страны Африки, - вы сильно ошибались.
#Китай #Европа #Экономика

​​Чиповый крестовый поход США против Китая заходит в тупик.
Замедлить развитие китайского ИИ не удаётся.
Американский чиповый бизнес находит лазейки, чтобы продолжать поставки в Китай. А страны-союзники просто забивают на требования США присоединиться к «экспортному эмбарго».
Чтобы сдержать технологически нагоняющий Китай, США зашли с козырного туза – попытались запретить поставку в Китай технологий для производства самых передовых чипов. Без них развитие нынешнего ИИ, завязанного на тяжелых вычислениях, - как машина при нехватке бензина.
Казалось, игра сделана.
• Прямые поставки супер-чипов и оборудования для их производства из США становятся противозаконными.
• А поставки из стран – союзников тормозятся США по дипломатическим каналам.

Но как я недавно писал – «Китай – не СССР и не Россия». Уж слишком велик рынок и научно-технологический потенциал Китая. И потому экспортные ограничения против Китая оказываются не в состоянии решить проблему сдерживания его технологического развития (хотя и работают против не столь могучих конкурентов, как например Россия).

Анализ текущей ситуации, опубликованный вчера Asia Times, показывает, что чиповый крестовый поход США против Китая испытывает большие трудности.
1. Крупнейший мировой игрок в области полупроводниковых технологий, голландская ASML, выступила против громких требований США прекратить продажу своих машин Китаю, и нет никаких признаков того, что голландское правительство готово уступить Вашингтону. “Важно, чтобы мы защищали наши собственные интересы — нашу национальную безопасность, но также и наши экономические интересы”, - заявила министр торговли Лизье Шрайнемахер 23 ноября в парламенте Нидерландов.
2. Японские компании, в том числе Tokyo Electron, Canon и Nikon, также продают оборудование в Китай. Японское правительство не дало прямого ответа на требования Вашингтона прекратить поставки в Китай, который покупает около 20% японских чиповых машин.
3. Южная Корея также уходит от «экспортного эмбарго» США. Samsung – 2й в мире производитель микросхем после TSMC и лидер в производстве чипов памяти, - будет производить “ИИ-чипы, используемые в облачных центрах обработки данных для Baidu”, сообщила Korea Economic Daily 23 ноября.
4. И даже компании США не готовы полностью поддержать «экспортное эмбарго». Исследование Boston Consulting Group показало, что полный запрет на продажу чипов может стоить американским производителям 37% их доходов. Чтобы этого избежать, американские производители разрабатывают чипы для продажи в Китай, которые не превышают установленный Министерством торговли порог. 7 ноября Nvidia объявила, что продаст Китаю ИИ-ускоритель с той же функциональностью, что и ее самые современные процессоры, но с уменьшенной тактовой частотой.

Конечно, это не значит, что крестовый поход уже провалился. Ресурсов США может хватить и чтобы додавить Нидерланды с Юж. Кореей, и придавить своих несогласных, типа Nvidia.
Однако, уже видно, что полностью перекрыть шланг технологического дыхания Китая США не смогут. А ведь Китаю большего и надо. Им бы только протянуть 2-3 года. Собственные чипы, типа нового поколения Kunlun, уже на подходе.
#Китай #Технологии #ЭкспортныйКонтроль #Чипы

​​Продление жизни, приятной во всех отношениях – цель №1 не только для самых богатых.
Заработал онлайн монитор таких технологий.
Сегодняшнее состояние технологий продления жизни позволяет рассчитывать, что лет через 15:
• в распоряжении самых богатых уже будут проверенные технологии, позволяющие продлить им жизнь вдвое;
• а у среднего класса будет набор технологий попроще, позволяющих продлить им жизнь более чем на четверть.

Foresight Institute, мониторящий состояние и перспективы таких технологий, позволяет теперь с ними знакомиться в открытом доступе.
Риски идей в основе таких технологий делятся на три категории.
X : Экспериментальная концепция. Теоретически должно работать, но неясно, возможно ли реализовать эту идею на практике. Может превратиться в черную дыру инвестиций.
М: Сложно, но выполнимо. Технология протестирована и функциональна, но требует большого финансирования и силы воли, чтобы воплотить ее в реальный прогресс.
S: Проверенный концепт. Технология надежна, возможно, ей даже несколько десятилетий. Требуется лишь небольшое финансирование, чтобы воплотить его в реальные результаты.

Влияние, которое может оказать реализация идеи на долголетие, также делится на три категории.
А: Сейсмический прорыв. 100% + увеличение продолжительности жизни и что-то, что может изменить жизнь, какой мы ее знаем (это изобретение, подобное интернету или электричеству).
B : Большое достижение. Примерно на 25-100% увеличивается продолжительность жизни. А и Б порождают новые отрасли. А – даже не одну.
C : Небольшое достижение. Увеличение продолжительности жизни примерно на мене 25%. Создается несколько компаний.

Полный каталог идей продления жизни, мониторимых Foresight Institute, можно скачать здесь.
На приложенном рисунке его оглавление.
Состояние дел, описанное в каталоге, отстает от реальности на полтора года. Для получения информации, актуальной на сегодня, обращайтесь к онлайн-монитору.

#ПродлениеЖизни