​​Экспериментально продемонстрирован непреодолимый предел для ИИ в имитации разума людей.
ИИ в принципе не способен мыслить из-за своей зомбиподобной природы.
Полгода назад я написал важный пост, что ИИ близок к пределу имитации разума людей. Ибо даже обнаруженная у ИИ способность воображать бессмыслицу ничуть не продвигает интеллект машин к способности мыслить. Ведь мыслить – значит самостоятельно извлекать смыслы из конструкций некоего языка (понимать их) и действовать на основании этого понимания.
Но как (и можно ли вообще) доказать неспособность ИИ понимать смысл?
Известный американский ученый в области когнитивных наук , физики и сравнительной литературы (доктор, профессор и т.д.) Дуглас Хофштадтер сумел доказать это оригинальным экспериментом, который каждый может повторить и оценить его убедительность.

Логика эксперимента такова.
1. Мышление и язык неразрывны.
2. Уникальность человека в его умении создавать новые языки для передачи существующих и новых смыслов.
3. Человек однозначно определяет наличие осмысленности (наличия смыслов) в любых конструкциях языка.
4. Следствием п.3 является способность людей извлекать смысл (и вкладывать смысл) в любые вновь изобретенные языковые конструкции.
5. Если же у ИИ нет такой способности, то он будет оперировать языковыми конструкциями, опираясь лишь на статистику их сочетаний в корпусе данных, использованном для обучения ИИ.
6. Из п. 5 следует зомбиподобная структура интеллекта ИИ, не позволяющего ему самостоятельно мыслить.

Экспериментальное доказательство принципиальной неспособности ИИ наделять смыслом конструкции языка (и детектировать в них его наличие) Хофштадтер построил на примерах введения в язык несуществующих слов, подчиняющихся, тем не менее, всем законам языка (типа Бармаглота из «Алисы в Зазеркалье» или «Глокой куздры» из «Слово о словах» (кто не помнит, погуглите).

Хофштадтер придумал ряд фраз на языке, сильно похожем на шведский. В этом фальшиво-шведском языке, шведскими были лишь нескольких местоимений, союзов (и, или), артиклей и несколько других очень распространенных коротких слов. Все существительные, глаголы, прилагательные и наречия были вымышленными.
Вот пример такой тарабарщины: «och sen med de inluppta trämplissorna blybbade det otvickligt».

Человек (мыслящий и потому понимающий смысл «Глокой куздры) перевел бы это, например, как «а затем, с зацикленными трамплизами, он неуклюже забулькал».

Тогда как не способные мыслить (наделять смыслом) алгоритмы перевода определили язык шведским и дали такие переводы:
• Google: «а затем, с брошенными щепками, он остался нетронутым»
• DeepL: «а потом с барабанами это было некомфортно»
• Baidu: «а потом с набитыми деревянными связками это конечно смутило»
От себя добавлю переводчик Яндекса: «а затем, с добавлением деревянных планок, он неумолимо покраснел». И кстати, замечу, что перевод Яндексом этой фразы, пожалуй, ближе всего приближается к человеческому.

Но стоит сделать фразу подлиннее, как все 4 автоматические переводчики демонстрируют абсолютную неприспособленность к наделению языковых конструкций хоть каким-то подобием (убогим, кривым, но хоть каким-то) наделения фраз смыслом (подробней см. в эссе Хофштадтера «Безмозглая тарабарщина».

Т.е. научиться наделению и извлечению смысла в результате машинного обучения современные ИИ-системы не могут.

Мне же остается лишь в заключение подчеркнуть:
✔️ Хотя язык может играть центральную организующую роль в процессах познания людей, лингвистической компетенции недостаточно для обретения здравого смысла: мышления и понимания.
✔️ Аналогичный вывод справедлив для всех иных способностей распознавания паттернов (зрительных, звуковых и т.д.). Прогнозирование очередного элемента (фразы, образа и т.д.) имеет нулевую ценность для понимания и порождения новых осмысленных элементов на основе предыдущих.
#AGI

Цена исхода в Метаверс определилась.
Это окончательная потеря приватности.
В том мире, где мы все живем, цена приватности и так не высока. За нами повсюду следят алгоритмы (сообщая кому надо все, что те хотят о нас знать).
• Наша жизнь в физической реальности контролируется через камеры целой армией алгоритмов - где мы, что делаем, куда направляемся, с кем встречаемся и т.д.
• Наши цифровые следы в цифровой реальности Интернета постоянно отслеживает и анализирует другая огромная армия алгоритмов – какую информацию, товары, услуги мы предпочитаем и потребляем, что и кто нам интересен, наши планы, контакты, коммуникации – все здесь под контролем.
• Наши все более умные гаджеты предоставляют массу дополнительной информации обеим названным армиям алгоритмов, следя за нашей жизнью в обеих реальностях (физической и цифровой).

Лишь в третьем виде реальности – реальности наших мыслей и чувств, - мы до сих пор могли рассчитывать на сохранение (хотя бы частичное) приватности.
Пусть «они» знают о нас всё, что касается наших действий. Но наши мысли и чувства им не подконтрольны. И мы можем думать, например, о Дяде Отечества (см. KGBT+), что угодно, и при этом испытывать к нему сколь угодно мерзопакостные чувства.

Увы, но этих остатков приватности люди лишатся в мирах Метавселенной, где им довольно скоро предстоит жить и работать все более значительную часть своего физического существования.

Анонсированная корпорацией – прародительницей Метавселенной, - новейшая гарнитура виртуальной реальности под названием Quest Pro – это прототип гарнитур, в которых десятки и сотни миллионов людей в ближайшие 10-15 лет будут жить и работать в самых разнообразных мирах Метаверса.

Отличительное свойство Quest Pro – наличие 10-ти камер слежения. Причем:
• 5 камер следят за внешним миром – окружающем метапоселенца миром смешанной реальности;
• а 5 других – следят за внутренним миром метапоселенца - реальностью его мыслей и чувств, которая анализируется и реконструируется по его взгляду, мимике и языку тела.

Естественно, творцы Метавселенной объясняют необходимость камер контроля за внутренним миром совершенно безобидно и даже прикольно.
Ведь эти камеры позволяют:
1. экономить вычислительные ресурсы, отслеживая взгляд и улучшая качество изображения смешанной реальности лишь в тех местах пространства, куда смотрит метапоселенец;
2. делать более реалистичными аватаров метапоселенцев, повторяя 1 в 1 их мимику, выражение глаз и язык тела – вот так.

О том, что с помощью данных, следящих за внутренним миром метапоселенцев, уже сейчас примерно можно (а через 10-15 лет будет можно точно) алгоритмически контролировать их эмоциональные реакции на происходящее там с ними, естественно, не афишируется.

Также не афишируется, что данные о мимике и движениях глаз пользователя Quest Pro могут передаваться другим компаниям. А в политике конфиденциальности для гарнитур говорится, что данные, передаваемые внешним компаниям, «будут регулироваться их собственными условиями и политиками конфиденциальности». Ну а что будет написано в этих политиках, не знает никто.

Так что прощайте остатки нашей приватности мыслей и чувств в Метаверсе. Ведь вряд ли многие из нас захотят и будут способны перед погружением в Метаверс пройти спецподготовку агентов по управлению мимикой и жестикуляцией. И скорее всего, даже это не поможет. Ибо в какой-то из следующих версий мета-гарнитур будут уже использоваться мозговые импланты.

Тренд на «политику нулевой приватности» определился. И его уже вряд ли изменить.

PS В развитие темы, можете почитать VR-гарнитура Meta собирает личные данные прямо с вашего лица
#Metaverse #Приватность

​​У каждого будет шанс стать супер горнолыжником и прочими супер.
Создана матмодель обучения неявным знаниям.
У каждого из нас огромная библиотека неявных знаний:
• либо заложенных в нас от рождения (напр. чувство опасности высоты и отсутствия опоры);
• либо полученных нами в ходе социального научения (напр. езда на велике)
Если явное знание легко кодируется, сохраняется и передается, то неявное (невербальное) знание – нет. Обычно, неявное знание получают в неязыковой форме, и попытка его вербализовать тщетна.

Как же мы учимся неявным знаниям (НЗ)?
Наука раскрыла секрет уникальной успешности Homo. Это вовсе не наш индивидуальный интеллект, а в коллективный мозг людей — способность человеческих групп социально взаимодействовать и учиться друг у друга на протяжении поколений.

Для явных знаний понятно, как работает социальное научение: используется язык, на котором кодируются и сами знания, и оптимальный способ их постижения. А там, где возможностей естественного языка недостаточно, люди придумывают специализированные нотации: математические, музыкальные и пр.

Для НЗ это невозможно по определению.
✔️ Так как же Homo осуществляли социальное научение до появления языка?
✔️ Как сейчас люди учатся НЗ?
✔️ Как происходит передача НЗ между поколениями?

Эти вопросы касаются широкого спектра культурных практик, имеющих "неявное" измерение, принципы которого не являются очевидными для наблюдателей и явно неизвестны экспертам. По сути, новички не могут определить принципы, которым следует подражать, а эксперты не могут сказать, что они делают.

Для раскрытия тайны НЗ необходима модель, описывающая, объясняющая и предсказывающая, насколько возможна их высокоточная передача.
Наличие такой модели позволит не только понять процесс освоения НЗ, но и, где это возможно, облегчить и оптимизировать этот процесс.
Ведь его хитрость (вспомните, например, как вы учились кататься на горных лыжах) заключается в том, чтобы (следуя заложенному в нас генетически алгоритму освоения НЗ):
1. структурировать и приоритезировать понимание, куда и на что смотреть в действиях тех, на чьем примере учитесь;
2. находить осмысленный или интуитивный способ переноса понятого вами из пункта 1 в свои действия;
3. совершенствовать пункт 2 до нужного вам уровня;
4. перестраивать структуру и приоритеты пункта 1 с учетом уже освоенной вами части НЗ;
5. снова переходить к пункту 2.
Для максимизации успеха обучения, похожий (но чуть иной) алгоритм передачи НЗ должен выполняться учителем (мы не приводим его из экономии места).

Новая модель разработана в Институте Санта-Фе. Она построена на крутой математике: сочетание машины Больцмана в машинном обучении, сетей Хопфилда в нейробиологии и возникновения «спинового стекла» в физике.

Эта модель принципиально отличается от стандартных моделей генно-культурной коэволюции, основанных на копировании чужих «мемов» (полезных поведенческих приемов и хитростей), вероятность успешного выучивания которых зависит от умственных способностей ученика (объема памяти и обучаемость) и от размера (сложности) мема (см. здесь).

✔️ Модель Санта-Фе рассматривает ученика, как человека, преодолевающего сеть ограничений (напр. для горнолыжника их десятки: от условий окружающей среды до возможностей скелета и мышц, от скорости реакции до смазки на лыжах).
✔️ Модель минимизирует объем информации для преодоления ограничений.
✔️ Минимум инфы (напр. наклон в повороте) может помочь учащемуся активировать набор навыков, которые преодолевают ограничения и позволяют добиться успеха на практике.

Хочется надеяться, что эта модель поможет поиску оптимальных способов обучения НЗ в спорте, художественном творчестве, архитектуре, медицине и науке.
И станем мы все супер спортсменами, супер певцами и вообще супер.
#НеявноеЗнание #МолчаливоеЗнание

​​Дзюдо в схватке сверхдержав сменили на бразильское джиу-джитсу.
35 ключевых «технологий удушающей хватки» способных в 21 веке убить будущее любой страны.
Человек самых скромных габаритов и физических возможностей при должной подготовке способен победить намного превосходящего в силе соперника, грамотно используя удушающие приемы. Даже неудавшаяся попытка задушить противника способна деморализовать его, напугать и сломать план боя. Однако во многих видах борьбы, ориентированных на броски (дзюдо, самбо и т.д.) удушения запрещены, а вот в бразильском джиу-джитсу – это ключевой раздел техники.

Переизбрание Си не стало сюрпризом для Белого дома. США были готовы к тому, что после воцарения в Китае «Мао №2» нужно будет кардинально менять даже не стратегию боя с Китаем, а вид борьбы за мировое технологическое лидерство.
Используя аналогию со спортивными единоборствами, можно сказать так: США поняли по огромным успехам Китая в технологической сфере, что габариты и физические возможности Китая покруче США. И потому единственный способ для США победить – переходить на удушающие приемы. Причем на такие, что позволяют соперника «убить» - уничтожить в корне конкурентный потенциал Китая в области ИИ (руководство обеих стран считает, что лидерство в технологиях ИИ имеет решающее значение для будущего глобальной военной и экономической конкуренции).

Для этого за 2 осенних месяца США провели ряд удушающих приемов (введение новых ограничений экспортного контроля), запретив Китаю:
(1) доступ к высокопроизводительным чипам (без чего не сможет развиваться китайская индустрия ИИ)
(2) разработку чипов ИИ внутри страны (перекрыв доступ к американскому ПО для проектирования чипов)
(3) производство передовых чипов (перекрыв доступ к американскому оборудованию для производства полупроводников)
(4) производство оборудования для производства полупроводников (перекрыв доступ к компонентам, произведенным в США)


Для Китая это не было сюрпризом. Еще в 2018 был сформирован перечень «35 ключевых технологий удушающей хватки» («卡脖子»的35项关键技术), применив которую США могут задушить конкурентный потенциал Китая.
Этот перечень включает полный набор технологий:
✔️ по которым США (и ее партнеры) уже обладают стратегическими конкурентными преимуществами;
✔️ перекрыв доступ к которым, Китай (и любая иная страна) лишается шансов на технологическое, экономическое и военное лидерство в 21 веке.
В списке 35и «технологий удушающей хватки»: от №1-3 фотолитографические машины, высокопроизводительные чипы, операционные системы до №33-35 высокопрочная нержавеющая сталь, СУБД, сканирующая электронная микроскопия.
По каждой из 35 «технологий удушающей хватки» Китай разработал детальный план на 15 лет. Это планы не импортозамещения, а научно-технического самоусиления.

Но самоусиление вряд ли получится без хотя бы частичного обхода запретов нового экспортного контроля США.

От того, сможет ли Бюро промышленности и безопасности (BIS) Министерства торговли США законопатить все дыры черного экспорта технологий, зависит результат 4-х удушающий приемов со стороны США.
В только вышедшем отчете CSIS «Перекрывая доступ Китая к будущему ИИ» Грегори Аллен (Директор проекта управления ИИ и старший научный сотрудник программы стратегических технологий) анализирует возможности США законопатить все дыры черного экспорта технологий. Аллен считает, что потребуются не только дополнительные финансовые и кадровые ресурсы, но и дополнительная поддержка со стороны разведывательного сообщества США.
«Это миссия, в которой разведка обязана преуспеть» - пишет автор.
Ибо, если Китай увернется от удушающих приемов США, лет через 10 он начнет сам душить штаты, просто сев на них своей колоссальной экономико-демографической тушей.

#Китай #США #ИИ #экспортныйконтроль

​​Проблема 37-го хода военного ИИ.
Люди могут просто не понять, что это их спасение или конец.
Автономное летальное оружие (АЛО): 1) уже существует и 2) скоро станет штатным элементом всех систем ведения военных действий.
Т.е. ящик Пандоры открыт, его уже не закрыть и нужно срочно решать, как предотвратить худшие из последствий.
А эти последствия: а) весьма разнообразны и б) что самое ужасное, предотвратить многие из них известными людям способами просто невозможно.
✔️ АЛО невозможно запретить (как химическое и бактериологическое оружие), ибо не существует средств контроля за разработками ИИ алгоритмов.
✔️ Невозможно ограничить автономизацию обычного (неавтономного) оружия, превращающую его в АЛО (превратить обычную бомбу в ядерную - сверхзадача, а для автономизации боевого дрона достаточно за 5 сек сменить его прошивку)
✔️ Попытки описать правила применения АЛО, оставляющие смертельные решение за людьми, столь же наивны, как надежды оставить за водителем решения по управлению авто, когда на принятие таких решений остается куда меньше 100 миллисекунд.

Но самым непреодолимым видится невозможность понять почему алгоритм принимает то или иное решение. И дело здесь не только в проблеме «черного ящика» (как сделать решения ИИ доступными для осмысления людьми).
Даже если такое осмысление в принципе возможно (как например это было со знаменитым нечеловечески хитрым и дальновидным 37-м ходом AlphaGo во 2-й игре против Lee Sedol), в реальных военных ситуациях на это не будет времени.
Если оставить окончательное решение за человеком, то он может просто не успеть понять спасительность и единственность решения, предложенного АЛО. Или вообще не понять, подобно экспертам по игре в Го, что единодушно сочли 37-й ход AlphaGo ошибкой.
А если и поймет, то скорее всего, к тому времени уже будет поздно.

• Почитайте про это в новом совместном отчете BAE Systems и WIRED Consulting «Robotic Weapons Are Coming – What Should We Do About It?»
• Мою презентацию и выступление на эту тему в ходе организованной МККК дискуссии «Цифровые технологии в вооруженных конфликтах: смягчение гуманитарных последствий» можно посмотреть здесь (22 мин).
#Война #ИИ #БПЛА #AWS

​​Россия – чемпион непохожести.
Нам столь же далек психокультурный профиль США, как и Китая.
Этот пост про психокультурную близость – глубинную основу братской дружбы и смертельной вражды народов.
Известно, что внутривидовая борьба протекает наиболее остро. И людям в этом смысле сильно не повезло.
• Самые успешные с эволюционной точки зрения беспозвоночные – муравьи, заселяя Землю, эволюционировали в 14+ тыс видов.
• Мы же – самые успешные из позвоночных, сумели заселить весь мир, так и оставаясь одним видом Homo sapiens.

Одним из следствий этого стали бесконечные кровопролитные войны и прочие проявления сверх жестокого истребления целых народов.

История показывает, что причины, мотивировавшие народы на истребление друг друга, весьма разнообразны: ресурсные, религиозные, идеологические и пр. И лишь одно ключевое различие присутствовало при делении на своих и чужих всегда – психокультурное различие между народами.
Самой ужасное, что степень остроты и жестокости внутривидовой борьбы людей соответствует обще эволюционному принципу – чем ближе народы друг другу (чем меньше их психокультурные различия), тем более острая и жестокая борьба возможна между ними (предельным примером чего являются гражданские войны).

В этой связи хотелось бы напомнить о существовании научно обоснованной и экспериментально подтвержденной методики расчета, легшей в основу базы данных о психокультурных различиях между народами. Эти различия учитывают широкий спектр национальных особенностей: ценности, финансы, групповая принадлежность, отношения к праву, политике, сексу, социальные отношения и пр.
Согласно этой базе:
• самой психокультурно близкой для России страной мира является Украина, следом идут Беларусь, Казахстан, Болгария, далее с отрывом Молдова, Эстония, Кипр …
• а самой психокультурно дальней для России страной мира является Норвегия (вот тебе и история про русских, как потомков викингов), следом идут Швеция, Швейцария, Финляндия, далее с отрывом Италия, Британия, Франция…
Сравнить психокультурные различия любых стран можно на онлайн-ресурсе исследования

Особенно интересно посмотреть на психокультурные различия в контексте формирования нового двуполярного мира двух сверхдержав: США и Китай.

Если сравнивать психокультурную дистанцию разных стран от США и Китая (см. приложенный рисунок), выясняется:
• Россия – чемпион непохожести, равноудаленный по психокультурным особенностям и от США, и от Китая (удаление 0.085 и 0,089);
• и хотя есть страны, более чем Россия отличные и от США (напр. Египет, Иордания, Вьетнам), и от Китая (напр. Катар, Йемен, Пакистан), но по равноудалению от обеих сверхдержав Россия – чемпион;
• характерно, что, например, Украина и Германия (близкие России по дистанцированию от США) вдвое дальше России от Китая;
• а например, Беларусь настолько же ближе России к США, насколько Казахстан дальше.

P.S.
-- О том, что у людей разных народов по разному прошит нейрокод эмоций, см. мой пост «Русский боится холода, а немец — тесноты»
-- Об универсальном для разных народов нейрокоде «готовности сражаться и умереть», простым переключением превращающем мозг священника в мозг шахида, см. мой пост «Нейрокод шахида»
#Психология #Культура #ЭволюционнаяПсихология

​​Выезд несогласных – это цветочки; ягодки – это когда заставят вернуться.
Китайский образец использования интернет-закона для трансграничных репрессий.
Скандал от публикации НПО Safeguard Defenders отчета "Транснациональные полицейские операции Китая вышли из-под контроля" разгорается.
Комментирующие его СМИ и соцмедиа фокусируются на описанной в отчете практике Китая по созданию незаконных «опорных пунктов» полиции КНР за рубежом, оказывающих давление на уехавших из страны несогласных.
В отчете пишут о следующем.
• Сеть таких «опорных пунктов» по миру состоит из 50+ региональных офисов в 21 стране (в России нет) на всех континентах кроме Австралии (карта приложена к посту).
• Их задача «уговорить вернуться» в Китай тех из уехавших, кого спецслужбы Китая считают «телеком/онлайн мошенниками» с тем, чтобы там предстать перед уголовным расследованием.
• Методы уговоров разнообразны, но в основном это широкий спектр вариантов давления на оставшихся в Китае родственников и знакомых (запугивание, преследование, ограничение прав, задержание, тюремное заключение).
• Метод «уговорить вернуться» - это часть большой программы Китая по принудительному возвращению. Этот древний как мир метод в исполнении Китая весьма эффективен – за год «уговорили» вернуться 230 тыс. подозреваемых «телеком/онлайн мошенников».
• Также есть особый список стран (Камбоджа, ОАЭ, Филиппины, Таиланд, Мьянма, Лаос, Малайзия, Турция и Индонезия), куда гражданам КНР запрещен въезд, либо там очень нежелательно проживание. Мотивировка проста – в них процветает «телеком/онлайн мошенничество», и потому любой живущий там гражданин Китая будет считаться потенциальным «телеком/онлайн мошенником».

Медиа пишут, что Нидерланды, Швеция и Канада уже начали расследования в отношении незаконной деятельности «опорных пунктов» китайской полиции на своей территории.

Китай, понятное дело, заявляет, что все это навет западных подрывников, а «деятельность центров совершенно невинна и ограничена помощью в доступе к онлайн-платформе по оказанию государственных услуг, таких, например, как продление водительских прав».

Мне же видится, что самое интересное и важное в этой истории – вовсе не скандал вокруг «опорных пунктов» полиции Китая по миру.

Куда важнее прецедент использования законодательства, регулирующего мир цифрового онлайна, для разрешения и обоснования трансграничных репрессий конкретного государства, осуществляемых в физическом мире.

Для справки.
• Новый закон о борьбе с телекоммуникационным и онлайн-мошенничеством (反电信网络诈骗法), принят Постоянным комитетом ВСНП 2 сентября и вступит в силу с 1 декабря.
• Как все в цифровом олайне, понятие «телеком/онлайн мошенничество» зыбко и зависит от трактовок правоприменителей.

Мы гадали, как практики нашего физического мира (и в том числе, юридические) будут формировать пространство практик цифровой Метавселенной, а началось с обратного: практика борьбы с мошенничеством в цифровом мире уже формирует практику трансграничных репрессий в мире физическом. И эта практика Китая имеет хорошие шансы быть адаптирована другими странами.

Отчет
Закон

#Китай #ИнтернетЗаконодательство

Богатый и здоровый или бедный и больной – предопределено смолоду.
«Чип управления здоровьем на молекулярном уровне» вшит нам под кожу от рождения.
Вопрос о генетическом предопределении здоровья богатых и нездоровья бедных становится все более актуальным по мере роста неравенства и развития биотехнологий в постиндустриальном цифровом обществе.
Серьезные научные исследования достоверно подтверждают интуитивно известный каждому факт – богатые существенно здоровее бедных по самому широкому кругу заболеваний.
• Казалось бы, здесь все очевидно: богатые ведут более здоровый образ жизни, чем бедные, правильнее питаются и имеют несравнимо лучшую медицину.
• С другой стороны, – а как же генетика (наследственные факторы, которые должны существенно влиять на здоровье)?
• Наконец, главный вопрос – как сплетается влияние на здоровье генов и доходов, если гены оказывают влияние на здоровье от рождения, а влияние доходов аккумулируется в течение всей жизни и должно увеличиваться с возрастом?

Ответ на этот вопрос до последнего времени считался спорным. Однако новое весьма авторитетное исследование «Социоэкономическое неравенство в молекулярном риске хронических заболеваний, наблюдаемом в молодом возрасте» расставляет точки над i:
всё оказывается еще хуже (для бедных) и лучше для богатых.

Еще в молодом возрасте (до 30 лет), наш социоэкономический статус «вшит нам по кожу», как какой-то чип управления здоровьем на молекулярном уровне. Социоэкономическое неравенство проявляется в профилях молекулярного риска молодых людей в отношении распространенных хронических заболеваний более позднего возраста, а также в профилях экспрессии генов, связанных со старением.

Это значит, что на еще совершенно здоровых молодых людях лежит клеймо будущих болезней за десятилетия до их появления. И это клеймо, являющееся индикатором экспрессии генов человека, демонстрирует четкие градиенты его социального статуса, особенно в отношении совокупного социоэкономического статуса молодых людей – сочетания их дохода и субъективного статуса.

Если же учесть, что субъективный высокий статус представителей т.н. элит во многом основан на их излишней самоуверенности, ошибочно толкуемой другими как бОльшая компетентность, получается совсем грустная картина.

Существующая в обществе социоэкономическая иерархия (статуса и богатства) увековечивается в поколениях:
-- социально (через воспроизводство сверхсамоуверенности в элитах)
-- и генетически (через воспроизводство профилей молекулярного риска стать «бедным и больным»).
#СоциоэкономическийСтатус #Неравенство #Самоуверенность #Иерархии

​​ИИ уже понимает и осознает.
Ошарашивающие выводы двух новых работ.
Размышляя, смогут ли люди понять разум, радикально отличающийся от нашего, старший исследователь DeepMind проф. Шанахан описал пространство возможных разумов в двух измерениях: способность агентов к сознанию и их сходство с людьми.
• Способность к сознанию агента соответствует богатству опыта, на который он способен. Но т.к. наука пока не умеет измерять этот показатель, Шанахан оценивает его по уровню когнитивных способностей, тесно связанному в земной биологии с сознанием:
если у кирпича 0, а у человека 10, то у пчелы 2, у кота 5, а у осьминога 5,5
• Сходство агента с людьми оценивается по тому, насколько можно описать его поведение, используя язык, применимый для людей, — описывая его потребности и желания, эмоции и убеждения, способности и навыки:
если у кирпича 0, а у человека 10, то у пчелы 3, у осьминога 5, а у кота 7

В таком пространстве возможных разумов:
— кирпич, пчела, осьминог, кот и человек расположатся так
— а кирпич, программа AlphaGo, робот BigDog и умный пылесос Roomba — так

Теоретически возможно создание искусственного разума человеческого типа (AGI).

Возможные варианты AGI по его способности к сознанию могут быть в диапазоне (см. приложенный рисунок):
— от не имеющих сознания Зомби—AGI: типа сверхумного пылесоса Roomba, ставшего способным выполнять функции любой прислуги: домработницы, гувернантки, повара, дворецкого …
— до имеющих сознание на уровне людей или даже на более высоком уровне, которым люди наделяют воображаемые сверхсущности (духов, ангелов, пришельцев …)

Возможные варианты AGI по степени человекоподобия могут быть в диапазоне:
— от экзотических сущностей, не имеющих с людьми ничего общего (типа Океана из «Соляриса»)
— до вполне человекоподобных биороботов (типа красавчика Тома из «Я создан для тебя»).

А еще в таком пространстве разумов возможны сущности с и без сознания, но столь экзотические, что невообразимы даже фантастам.

Теперь о двух новых работах.
1) «Языковые модели (в основном) знают, что они знают» коллектива авторов из компании Anthropic
2) «Дебаты о понимании в больших языковых моделях ИИ» Меланьи Митчел и Дэвида Кракауера

Рассмотрение этих работ с позиций вышеописанного пространства возможных разумов привело меня к двум довольно ошарашивающим выводам.

Вывод 1.
Большие модели хоть и не обладают пока сознанием в человеческом смысле, но и бессознательными они уже не являются.
• Из работы 1) следует, что большие языковые модели могут «заранее предсказывать, смогут ли они правильно ответить на вопрос». И это можно интерпретировать, как наличие самоконтроля.
• Но согласно мэйнстримной теории машинного сознания, самоконтроль вычислений, приводящий к субъективному чувству уверенности или ошибки – это один из двух типов сознательных вычислений мозга.

Вывод 2.
Уже созданы ИИ, обладающие новой формой понимания, которая обеспечивает экстраординарные, сверхчеловеческие способности к прогнозированию
• Из работы 2) следует, что AlphaZero и AlphaFold от DeepMind, продемонстрировавшие на практике чуждую людям форму интуиции в шахматах и предсказании структуры белка, - это, по сути, ИИ с новым способом понимания.
• Этот способ понимания лучше приспособлен к проблемам, требующим больших данных и сверхмощных вычислений (тогда как понимание людей ориентировано на проблемы с малым объемом данных и сильным причинно-следственным механизмом).
• Нужна новая наука об интеллекте с более широкими рамками концепций понимания и сознания, пригодными и для людей, и для машин.

Эти выводы заставляют вспомнить замечание главреда New Scientist о пространстве возможных разумов Шанахана:
«Однажды мы можем обнаружить, что живем бок о бок с инопланетянами и ангелами».
#Разум #Сознание #Понимание

​​Ценность знаний современной науки оказалась сильно преувеличена.
Предвзятости разума ученых – далеко не худшая их уязвимость.
Куда хуже оказалось существование огромной скрытой вселенной неопределенности. Это своего рода «темная материя» науки, о природе которой мы пока не знаем почти ничего.
В 21 веке мир вступил в пост-нормальную эру. Это проявляется в необходимости реконцептуализации науки для ситуаций т.н. радикальной неопределенности (когда «факты неточны, ценности спорны, ставки высоки, а решения срочны») (подробней см. мой пост «Большое откровение»).

Ситуация еще более усложняется абсолютной предвзятостью ученых при рецензировании научных статей своих коллег. Разум ученых оказался столь же уязвим, как и у любого Homo. Это позволило мне озаглавить свой пост об этом «Тяжелый диагноз, если не приговор человечеству».

Только что опубликованное исследование большой международной группы ученых Германии, Великобритании и США под редакцией проф. Принстонского университета Дугласа Мэсси «Observing many researchers using the same data andhypothesis reveals a hidden universe of uncertainty» подтверждает худший из названных вариантов.

Диагноз и приговор в название моего поста - это вовсе не дань кликабельности.
• Постнормальность, отягощенная тотальной предвзятостью, - не самое худшее в ситуации современной науки.
• В 21 веке науке открылось существование огромной скрытой вселенной неопределенности. Это своего рода «темная материя» науки, о природе которой мы пока не знаем почти ничего.
• Ученым, особенно тем, кто работает со сложными системами уровня человеческих обществ и поведения, остается лишь проявлять смирение при столкновении с необъяснимой нам «темной материей» научной неопределенности.

Авторы скоординировали работу 161 исследователя в 73 исследовательских группах и наблюдали за их исследовательскими решениями на основании одних и тех же данных в целях независимой проверки одной и той же известной гипотезы социальных наук: что рост иммиграции снижает поддержку социальной политики среди населения.
Широкий разброс в результатах исследований 73 научных групп, использовавших одни и те же данные, но пришедших к противоположным выводам, не может объясняться лишь предвзятостью ученых.

Столь широкая вариабельность выводов 73 научных групп говорит об идиосинкразии сознательных и бессознательных решений, которые исследователи принимают во время анализа данных.
Даже действуя исключительно из лучших побуждений, ученые, получившие идентичные данные и освобожденные от давления, направленного на искажение результатов, могут абсолютно не сходиться в своих выводах из-за сложности и двусмысленности, присущих процессу научного анализа.

Следовательно:

✔️ Компетентность исследователей при анализе одних и тех же данных не гарантирует отсутствие противоположных выводов из-за наличия «темной материи» научной неопределенности.
✔️ Идиосинкразия сознательных и бессознательных решений способна исказить анализ даже самых компетентных экспертов до сколь угодно высокого уровня искажений: что 2х2=4, что 2х2=9 и даже 2х2=-3.14i
#КогнитивныеИскажения #Неопределенность #Наука

Великий разворот цифровых рек.
Новый национальный проект Китая по «цифровой индустриализации».
Проект «Восточные данные, западные вычисления» (“Eastern Data, Western Computing” - EDWC или 东数西算) – это грандиозный проект национального уровня, который в Китае называют «проектом по переброске воды с юга на север в эпоху цифровой экономики».

Напомню, что Китай сумел сделать то, о чем в великом и могучем СССР лишь мечтали (потратив на эти мечтания 20 лет работы 160и научных и проектных институтов Академии Наук СССР, 32х союзных министерств и 9и министерств союзных республик). В итоге великий проект поворота сибирских рек в Казахстан и Среднюю Азию для обеспечения водой засушливых регионов страны так и остался неосуществленным.

А Китай спустя 40 лет сумел на практике запустить аналогичный проект по переброске воды с юга на север. Лишь по первым двум веткам проекта ежегодно уже перебрасываются десятки млрд кубометров воды, избавляя от дефицита воды 120 млн человек.

Примерами других грандиозных национальных проектов Китая стали сети 5G, высокоскоростные железные дороги, а также нацпроекты по перенаправлению важнейших ресурсов из провинций в более густонаселенные и развитые городские районы: проекты передачи электроэнергии и газопровода с запада на восток.

Теперь, когда китайцы строят цифровую экономику, важнейшей задачей они видят эффективное перераспределение ресурсов для оптимизации процессов национального накопления цифровых данных (во всевозможных облаках и центрах хранения) и национального компьютинга (обработки данных в ЦОДах и специализированных индустриальных центрах Интернета вещей и т.п.).

Вторая грандиозная цель проекта EDWC - решение проблемы отсталости внутренних районов путем переориентации инфраструктуры и перераспределения высокотехнологичных предприятий в регионы. «Отсталые» провинции и муниципалитеты, охваченные «цифровой индустриализацией» Китая, составляют 71% территории страны, и там проживают лишь 29% её населения и расположены лишь 20% общего объема производства.

Острота этой проблемы в Россия еще больше, чем в Китае.
Для справки.
93% населения России проживает в так называемой «главной полосе расселения» площадью около трети территории страны. Ее границы – это клин с вершинами в Санкт-Петербурге на севере, Новороссийске на юге и Красноярске на востоке, далее полосой до Приморского края. Здесь же сосредоточены все крупнейшие города России (с населением более 500 тыс).

Однако, увы, - в России налицо лишь «цифровая деиндустриализация».

#Китай #Нацпроекты #ЦифроваяИндустриализация

Робототехника дала альтернативный сценарий развития Homo.
Можно было очеловечиться, не потеряв способность быстро бегать.
Такая возможность была продемонстрирована на прошлой неделе на Международной конференции по интеллектуальным роботам IROS 2022 в Японии.
Казалось бы, где роботы и где эволюция Homo. Но дело вот в чём.

Сценарии эволюции видов, скорее всего, неповторимы. И если люди таки угробят свой вид, то новый носитель высшего интеллекта вряд ли эволюционирует по пути гоминид. Каким может быть альтернативный путь, до последнего времени, был исключительно вопросом фантастов. Но с развитием робототехники, кое-что стало проясняться.
И вот появился первый замечательный пример – как животное может эволюционировать из четвероногого в двуногое, не потеряв при этом в скорости бега.

Тренированные люди могут бежать со скоростью 15-20 км/ч. Это вдвое медленнее коровы, вчетверо – тигра и всемеро – гепарда.
Такова плата за двуногость, запустившую процесс «очеловечивания» наших предков. Из совокупности 3-х признаков, характерных только для людей (двуногость, хватательная кисть и объемный, высокоразвитый мозг), двуногость эволюционно развилась первой, что сыграло ключевую роль для всей последующей истории гоминид.
Двуногость освободила руки, без чего не было бы сложных орудий и вообще нашей культуры. Но за это пришлось дорого заплатить трудностями при вынашивании плода и при родах, нарушением в кровообращении, пищеварении и самым очевидным преимуществом – скоростью бега (столь важной для выживания).

А можно ли обрести двуногость, сохранив преимущество быстрого бега на 4-х?

На IROS 2022 исследователи из WPI Robotics Engineering и Шанхайского технологического университета представили обобщенный метод превращения 4-хногого робота в двуногого с помощью умного алгоритма и небольшой модификации.

Если бы эволюция развила у наших предков отросток на голени задних конечностей, это обеспечило бы устойчивость при ходьбе на 2-х, сохранив способность к быстрому бегу на 4-х. Конечно, потребовалась бы еще «перепрошивка» двигательных программ мозга иным алгоритмом обучения. Но подобное перепрограммирование эволюцией освоено в совершенстве.

Результат такого альтернативного сценария эволюции двуногости у робота разработки WPI Robotics Engineering и Шанхайского технологического университета можно увидеть на этом видео.

Это видео не столь эмоционально потрясает, как фрагмент знаменитого фильма «2001: Космическая одиссея», где «Черный монолит» заработал, запустив процесс антропогенеза под музыку Рихарда Штрауса «Так говорил Заратустра» (подробней о том, что это было, см. в моём посте).

Однако, по сути, это видео вставшего и пошедшего на двух ногах робота не менее потрясающе.
Не тем, что 4-х ногий робот пошел на 2-х. Такое уже делали на специально разработанных роботах. Здесь же мы видим универсальное простое решение, подходящее для трансформации любых (!) четвероногих в мультимодальных (ходящих на 2-х и бегающих на 4-х). И тем самым, мы наглядно видим, как эволюция предков людей могла запросто пойти по иному сценарию.

Ну а то, насколько искусно эволюция умеет делать подобные вещи, мы знаем на реальных примерах. Чего стоит «двойная эволюция» китообразных: сначала сотни миллионов лет приспособления к сухопутной среде, а потом еще полсотни миллионов – к водной (с полной перестройкой тела и тотальной “перепрошивкой” мозга сухопутных китопарнокопытных). И уж если с превращением лап в плавники у эволюции проблем не было, то уж с костным отростком на голени она справилась бы запросто. А смена алгоритма обучения на бимодальный, как показал эксперимент с роботом, оказалась весьма несложной и продуктивной.

И бегали бы люди по улицам городов с ограниченной правилами скоростью. А распространенность легковых авто была бы, как сейчас у частных самолетов – тысяч 20 на весь мир.
#Эволюция #Роботы

​​Эволюция превратила людей в богов - создателей уникальных реальностей.
Известные тысячи лет назад техники медитации основаны на том, что науке открывается лишь теперь.
Череда открытий последних 15 лет в области исследований мозга, разума и сознания привела к поразительному и даже обидному выводу.
Многое из того, что мы думали, будто знаем о работе нашего разума, мягко говоря, не совсем верно. А по сути – просто ошибочно.
Наш мозг работает совсем не так, как представлялось науке раньше. Нет в нем специализированных областей и слоев «геологических отложений» разных этапов эволюции. Мозг — это обширная непрерывная сеть кластеров и узлов, а не набор частей, работающих изолированно. Все в работе мозга настолько взаимосвязано, что любая наша мысль, действие или эмоция изменяют, пусть даже незначительно, активность 90% нейронов мозга.

Но это еще не самое поразительное. Самыми потрясающими, на мой взгляд, является три такие вывода.

1) Люди – уже почти как боги: самостоятельно изобретают бОльшую часть той эмоциональной и социальной реальности, в которой потом и живут.
• Нет в мозге специфических эволюционно запрограммированных рефлекторных цепей для древних и универсальных базовых эмоции (страха, ярости, счастья, печали и т. д.), возникших в результате эволюционных приспособлений к условиям нашего палеолитического прошлого. Идея о том, что существуют универсальные эмоции, общие для всех людей, в основном является мифом. Многие эмоции, которые мы считали универсальными, оказываются разными в разных культурах.
• То же касается и, казалось бы, универсальных понятий (гнев, отвращение и т.д.) - инструментов, которые наш мозг использует для угадывания значения входящих сенсорных сигналов. Напр. бушмены Кунг не имеют эмоций и понятия страха.
• Для химика реальность — это молекулы, атомы и протоны. Для физика — это кварки или бозоны Хиггса. Предполагается, что они существуют в мире независимо от присутствия людей, то есть считаются независимыми от воспринимающих категорий. Но эволюция дала нашему разуму возможность создавать реальность, отличную от независящих от наблюдателя молекул или атомов. Она позволяет нам создавать реальность, которая полностью зависит от наблюдающих ее людей.

2) Единственно что человеку требуется для создания своей реальности – включиться в социо-когнитивную сеть, подключающую его индивидуальный мозг к коллективному мозгу носителей культуры, создающих и увековечивающих её.
• Мы рождаемся в тремя «когнитивными гаджетами», позволяющими сформировать три универсальных аспекта разума:
— аффективный реализм (свойство испытывать то, во что верим)
— концепции (кусочки «лего мира», в которые мозг превращает все, что видит, слышит, чувствует)
— социальная реальность, увязывающая наш мозг с разумом других, с тем социальным миром, который создали другие.
• Быть человеком требует культурного контекста человеческого общения посредством жестов и языка, которые сохраняются, изменяются и передаются последующими поколениями. Мы становимся культурными гаджетами наших когнитивных гаджетов.
• В результате этого, мы изобретаем нашу собственную социальную реальность или ту, в которой мы хотим жить. И пока достаточное количество людей синхронизируется с нами, чтобы изобрести подобную реальность, у нас все получается. Мы тщательно выбираем, какие иллюзии считать правдой, а какие фальшивкой, какую религию считать истинной, а какую ересью.
— Для тех из нас, кто считает, что выборы 2020 года были украдены, а Трамп — настоящий президент, это так. А для включенных в другую социо-когнитивную сеть реальность противоположна.

3) Но самое, наверное, поразительное – что оба пункта 1 и 2, открытые лишь в последние 15 лет, известны уже тысячи лет в качестве основ 3-х техник медитации.

Подробней читайте лекцию почетного профессора молекулярной биологии и зоологии, директора программы по биологии разума Дерика Боундса.
Лучшая из лекций о разуме за последнюю пару лет.
#Разум #Страх #Эмоции

​​ИИ натаскали выявлять коррупцию на госзакупках.
Это оказалось просто, но … очевидно и бесперспективно.
Результаты первого в истории применения машинного обучения для построения модели выявления коррупционных контрактов при госзакупках принесли 2 новости.
1) ИИ запросто и с высокой точностью выявляет потенциально коррупционные контракты.
Модель, обученная на данных о госконтрактах Мексики за 2013-2020 (1,5+ млн контрактов, из которых 33+ тыс коррупционных по решению суда), научилась с 91%-ной точностью выявлять коррупционные контракты.
2) По заключению ИИ, коррупция на госзакупках – вовсе не результат хитрых схем и умного мошенничества, а банальный сговор находящихся в особо доверительных отношениях чиновников и бизнесменов (доминируют всего 3 из 19 потенциально коррупционных факторов).

Обобщая 1 и 2, можно сказать так.
Извести госкоррупцию не очень сложно, - было бы желание властей. Ну а если этого не происходит, - все вопросы опять же к властям, и никакой ИИ тут не поможет.

Люди давно это поняли. Но что к тому же выводу с первой попытки придет и ИИ, - удивительно.

Для справки. Коррупция на госзакупках – неиссякаемый источник обогащения в 2/3 стран мира. Согласно «Индексу восприятия коррупции», Россия – на 136 месте из 180, а Мексика чуть лучше (№124).
И кстати, авторы методики натаскивания ИИ на госкоррупцию уверяют, что методика универсальная. И натаскать их модель на другую страну можно запросто. Но опять же – было бы желание.
#МашинноеОбучение #Коррупция

В цифровых мирах неравенство можно уменьшить.
Эффект Матфея ослабляется переключением пользователей с Системы 1 на Систему 2.
Оказалось, что помимо пресловутого «закона Матфея», наше внимание к контенту социальных медиа и его оценка сильнейшим образом зависят от того, какой системой обработки информации мы воспринимаем контент.

Только опубликованные результаты исследования MIT Sloan экспериментально подтверждают, насколько сильно алгоритмы соцсетей (и прочие соцмедиа) искажают для людей картину мира.
А именно:
• насколько в соцсетях силен закон Матфея «богатые становятся богаче» (в смысле роста популярности авторов контента, получающего тем большее внимание и выше оценку, чем больше уже имеющаяся популярность его автора – лайки улучшают репутацию, а репутация повышает число новых лайков);
• насколько неравенство в предвзятой оценке социального контента влияет на увеличение алгоритмами его рейтингов популярности.

И то, и другое давно обсуждается, но прямые доказательства экспериментально получены впервые. Степень влияния персоны автора контента на его оценку читателем огромна – она превосходит значимость самого контента и доходит до 61%.
Но это еще не все результаты исследования.
Выяснилось следующее.

Указание авторства контента также заставляет читателей почти мгновенно, интуитивно, «в автоматическом режиме» оценивать контент (автор известный - лайк; неизвестный – поехали дальше).
Так почти рефлекторно у читателя работает Система 1 (по Канеману). А до работы Системы 2 (требующей привлечения нашего внимания содержательными аспектами контента и определенных сознательных умственных «затрат» на логический выбор и концентрацию), при виде имени популярного автора дело просто не доходит.

И вот тут-то и кроется шанс на улучшение алгоритмов.
Авторы показывают, - если небольшое случайное подмножество сообщений отображать анонимно, то неискаженные предвзятостью их оценки читателями были бы относительно беспристрастным сигналом, который алгоритм ранжирования мог бы использовать для смягчения эффектов идентичности/популярности, не прибегая к тотальной анонимности контента, невозможной из практических соображений.

Т.е. шанс исправить алгоритмы соцсетей есть.
Только «съесть-то он съест, да кто ж ему даст?!»

FYI: По тегам этого поста в моем канале написано немало
#СоциальныеСети #Соцсети #КогнитивныеИскажения #Неравенство

«В последние 50 лет геополитику определяло то, где находятся нефтяные резервы. В следующие пять десятилетий важнее станет то, где будут расположены предприятия по производству чипов», – заявил главный исполнительный директор Intel Corp. Пэт Гелсингер в конце октября на технологической конференции, организованной Wall Street Journal.

В России современных (по западным меркам) предприятий по производству чипов просто нет. И если свои предприятия не появятся, а санкционные экспортные ограничения не будут позволять закупку высокопроизводительных чипов, то это будет иметь катастрофические последствия. Деградирует всё - наука и производство, финансы и телеком, сбор налогов и предоставление услуг. Отставание от развитых стран будет расти темпами, соизмеримыми с законом Мура.

Короче, из-за перспективы падения в пропасть цифровой экономики, России светит довольно крутое пике. «Чиповая ситуация» превращается в пиковую ситуацию для всей экономики страны.

О складывающейся в России «чиповой ситуации» и о том, что игнорировать законы развития технологических систем не удастся даже при неограниченном – в идеале – финансировании, мы говорили с Ответственным редактором приложения "НГ-Наука" Андреем Вагановым.
И пару дней назад в НГ был опубликован большой материал Андрея «Чиповой ситуации» с развернутым анализом перспектив России перепрыгнуть цифровую пропасть способом, напоминающим мне тройной прыжок.

Рекомендую вам это интересное и полезное чтение на выходных, дабы лучше ориентироваться в хитросплетениях струй и течений высоких технологий, экономики и науки.
https://www.ng.ru/nauka/2022-11-08/9_8584_situation.html
#Россия #Технологии #ЭкспортныйКонтроль #Чипы

​​AI превратится в AGI, когда обретёт сознание.
И для этого ему потребуются задатки имажинавта.
О том, что 3 года назад писали лишь футурологи ИИ, сегодня пишут инженеры – практики солидных фирм.
В 2019 я написал пост на довольно важную для меня тему - про имажинавтов (людей со сверхразвитой способностью к ничем не ограниченным перемещениям в пространстве и времени по неисчерпаемой вселенной воображаемых миров). Эта способность, лежащая в основе креативности, базируется на т.н. дистальном моделировании, для которого в мозге задействован особый нейронный механизм — дорсомедиальная подсистема сети пассивного режима (подробней в моём посте).

Спустя 3 года совместными усилиями Microsoft Research и Araya Inc. (Япония), на мой взгляд, намечается прорыв.
Авторы исследования смогли увязать:
1. человеческую способность путешествовать во времени с сознанием;
2. три современные теории сознания с функциями общего (универсального) интеллекта (AGI);
3. современные методы глубокого обучения сначала с 2, а потом и с 1.
Тем самым исследователи Microsoft Research и Araya Inc. предлагают способ, с помощью которого понимание сознания в каждой из трех теорий можно объединить в единую унифицированную и реализуемую модель искусственных агентов, способных «мысленно» путешествовать во времени. Фишка такого похода в том, что, обладая этой возможностью, ИИ становится по-человечески креативным, и за счет этого у него появляется возможность развиваться до AGI человеческого уровня (естественно, при наличии опыта воплощенности или какого-то (пока не придуманного) его заменителя).

Насколько это круто, каждый может оценить самостоятельно.
Мне же это кажется очень-очень перспективным
.
✔️ Ибо обладающие способностями имажинавтов  —  это штучные люди, встречающиеся, преимущественно, в науке и в искусстве, хотя встречаются и в бизнесе. В последнем случае они кардинально меняют бизнес, монетизируя неопределенность и создавая новую бизнес-реальность, подобно Стиву Джобсу, создавшему для бизнеса новую реальность так же, как это сделал Эйнштейн для науки (подробней читай мой пост).
✔️ Ибо, по большому счету, весь сегодняшний мир создан имажинавтами. Именно им цивилизация обязана за все культурные достижения Homo sapiens, превратившие людей из животных в полубогов.
✔️Ибо способность мысленно путешествовать сквозь пространство и время – может статься, и есть тот золотой ключик, что откроет для современных методов глубокого обучения путь превращения в AGI, который в итоге обретёт сознание, став имажинавтом.

#Креативность #Воображение #Инновации #МашинноеОбучение #AGI

Отравленные Твиттером.
Как алгоритмы деформируют личность: на примере кейсов Трампа, Маска и Канье.
Это новое эссе Джарона Ланье нужно обязательно прочесть всем пользователям соцсетей. Механизм деформации личности под влиянием алгоритмов, управляющих цифровыми социальными медиа все еще довольно неясен. И даже сам факт такой деформации признается далеко не всеми.
Но тем-то и ценно эссе Ланье, рассмотревшего конкретные кейсы трех, казалось бы, совершенно разных знаменитостей: аляповатый суперзнаменитый плейбой, одержимый и суперспособный продавец своих инженерных идей и молодой талантливый рэппер (Йе). Цель Ланье – проанализировать, почему личности столь разных людей всего за несколько лет изменились удивительно похожим образом, обретя столь выраженные общие черты.

Для тех, кто не найдет время на эссе, вот его резюме.

1. Все три кейса – это результат «отравления Твиттером». Это побочный эффект, появляющийся у людей, действующих в соответствии с алгоритмической системой, разработанной для их максимального вовлечения. Этот эффект является симптомом деформации личности, подвергшейся воздействию алгокогнитивных схем модификации поведения.
2. Человеческий мозг не приспособлен для работы с современными химическими веществами или современными мультимедийными технологиями, в результате чего возникают зависимости.
3. Поведенческие изменения происходят в результате т.н. оперантного обусловливания, лежащего в основе механизма зависимости от социальных сетей (этот механизм аналогичен механизму алкоголизма).
4. Симптоматика отравления общая для всех типов личности. Среди типичных симптомов вот всего лишь три:
-- появляется склонность к ребячеству, в результате чего даже альфа-самец, отравленный социальными сетями, начинает раздражаться, скулить и агрессивно кидаться на воображаемых противников;
-- люди теряют всякое чувство меры относительно своих сил; они могут поверить, что обладают почти сверхъестественными способностями;
-- степень нарциссизма становится почти абсолютной;

Симптомы становятся все более выраженными с ростом популярности персоны в социальных медиа.

В 21 веке у многих людей появилась вера в то, что великие инженеры могут и должны руководить обществом. Привлекательна эта идея или нет, но когда технологии разрушают умы тех же самых инженеров, результатом может быть только дисфункция всего общества, в управлении которым все большую роль играют алгоритмы.

На эту тему вы можете прочесть немало моих постов по тэгу
#АлгокогнитивнаяКультура

​​Мы на шаг ближе к открытию ОТО ноосферы.
Модели генерации изображений работают усилителями предубеждений.
Три года назад я рассказывал об интереснейшем американо-британском исследовании, обнаружившем искривление пространства субъективной реальности. Его источник — социальные сети. А его суть – индуцируемая алгоритмами деформация (изменение кривизны) субъективного инфопространства миллионов людей. И «кривизна» здесь не гипербола, а измеряемый параметр, характеризующий искривление инфопотоков.

Только опубликованный препринт интереснейшего американо-итальянского исследования делает следующий шаг, приближающий нас к общей теории кривизны субъективного инфопространства цифровых медиа. Т.е. по сути, - к своего рода, общей теории относительности ноосферы (ибо по ходу тотальной оцифровки реальности цифровые медиа становятся ключевым элементом ноосферы).

Авторы исследовали предубеждения, которые проявляются в моделях генерации изображений типа Stable Diffusion и DALL-E.
1-й результат исследования – не удивителен и лежал на поверхности: генераторы изображений увековечивают предубеждения, прорастая навечно в тысячах приложений и становясь частью новой цифровой реальности.
2-й результат – не то чтобы совсем сюрприз, но уж больно тревожен: генераторы изображений усиливают предубеждения (например, они имеют тенденцию отображать более острые предубеждения, чем базовые наборы данных, используемые для обучения моделей).

Механизм искривления генераторами изображений субъективного инфопространства миллионов людей прост и непреодолим своей положительной обратной связью:
1. человеческие предубеждения, всегда содержащиеся в обучающих наборах данных, порождают предубеждения моделей генерации изображений (чем больше предубеждений в данных, тем больше предубеждений у моделей);
2. предубеждения моделей обостряются их алгоритмами;
3. обостренные предубеждения моделей влияют на миллионы людей, увеличивая их предубеждения;
4. переход к п. 1

Комментируя эти результаты, Джек Кларк написал, что это не столько техническая проблема, сколько социотехническая. И это действительно так.
Поскольку проблема технически неустранима, начнутся политические баталии о том, какие предубеждения «правильные» для различных моделей, а какие нет.
И все это кончится полной идеологизацией ноосферы: подходов, определяющих «правильные» предубеждения, и моделей на их основе, будет столько же, сколько идеологий на планете.

Закончу той же фразой, что и 1-й пост про ОТО ноосферы (теперь это стало еще более очевидно).
Антиутопия будущего – не Черное зеркало, а кривое.

#МоделиГенерацииИзображений

Профессором будет не ваш сын, а сын профессора.
Масштабное экспериментальное доказательство вечной формулы неравенства
Кейс высшего образования в США
2022 год заставляет сильно усомниться, что, повинуясь «лучшему в нас», люди с течением времени становятся все менее склонными к насилию. И будто сегодня мы переживаем самый мирный период истории, становящейся все более мирной под действием просвещения.

Два новых беспрецедентных по масштабу и глубине исследования «Socioeconomic roots of academic faculty» и «Quantifying hierarchy and dynamics in US faculty hiring and retention», подобно холодному душу, отрезвляют от другой разновидности «токсичного позитива». Будто «продолжающееся просвещение» сглаживает проблему неравенства, становящегося к тому же все менее важным аспектом человеческого благополучия.
На примере кейса высшего образования в США продемонстрировано, что важнейшим карьерным фактором для профессорско-преподавательского состава университетов США является социально-экономический статус родителей.

Неравенство - незыблемая основа социальной структуры общества. Анекдот про сына полковника, которому светит чин не выше папиного, т.к. генералом будет сын генерала, - суровая правда жизни. Так было всегда и везде: в армии и на гражданке, на госслужбе и в предпринимательстве. Единственное, что издавна во всех общественных формациях питало надежды родителей, - это образование для их детей.
Образование всегда считалось двигателем социальных лифтов и катализатором диффузии социальных групп. Ну а с приходом «экономики знаний» растущая роль образования, казалось бы, должна стать еще более мотивирующим фактором, противодействующим социальному “капсулированию” - закреплению социальных ролей различных групп населения, как по имущественному статусу, так и профессиональной принадлежности.

Увы, но это совсем не так. Исследования показали.

1) У профессорско-преподавательского состава университетов в 25 раз (!) больше (по отношению к взрослому населению США) шансов иметь родителя с докторской степенью. Этот показатель почти удваивается (!) в наиболее престижных университетах и остается более или менее постоянным в течение последних 50 (!) лет.
2) Для характеристики престижных университетов выявлена такая статистика: что только 20% университетов США выпускают 80% штатных преподавателей для всей страны. Среди этих 20%, пять ведущих кузниц университетских кадров подготовили больше штатных преподавателей США, чем все университеты за пределами страны вместе взятые.
3) Столь предвзятая система значительно затрудняет распространение перспективных идей из менее известных университетов, а также из социально-экономических и демографических групп, недостаточно представленных среди преподавателей университетов.

Профессорско-преподавательский состав играет уникальную роль в экономике знаний: эти люди одновременно
• обучают следующее поколение мыслителей
• и создают новые исследования, которые формируют национальную политику и способствуют научным открытиям.

Но профессура никогда не представляла социально-демографические характеристики населения, которое она обслуживает. И как показали исследования, за последние десятилетия здесь ничего не изменилось.
«Социальная закрытость» продолжает рулить в области высшего образования, воспроизводя себя в следующих поколениях и жестко регламентируя направления национальной научной политики.

Хотя результаты обоих исследований касаются лишь США, смею предположить, что во многих других странах дело обстоит не лучше (если ни хуже).

Интерактивный авторский инструмент визуализации данных 2го исследования доступен по адресу https://larremorelab.github.io/us-faculty/

Для интересующихся в канале еще много интересных постов о малоизвестном в области
#Неравенство

​​Ахиллесова пята Китая уже зажата в капкан.
Но решения Си лишь загоняет ее еще дальше.
Следуя совету Сталина "кадры решают все", Председатель Си взялся решать главную проблему Китая – стимулирование инноваций, - путем кадрового обновления верхушки власти. Но этот путь лишь еще глубже загоняет «ахиллесову пяту» страны в капкан торможения инноваций. Что может иметь сокрушительные последствия для намерений Китая стать №1 в мире.

Выиграв большую игру за свое переизбрание, председатель Си должен сделать принципиальный выбор между двумя несовместимыми целями своего 3го срока.
• Либо цель - стать пожизненным властелином Китая.
И тогда главным приоритетом должен быть политический контроль.
• Либо цель – ускорение развития Китая.
И тогда главный приоритет – стимулирование инноваций, необходимых для преодоления демографических и других долгосрочных препятствий для роста экономики Китая.
Серединного пути здесь нет. Ибо цели разнонаправленные. А попытка пойти серединным путем будет просто означать - ни инноваций, ни контроля.
А что эти цели разнонаправленные, давно известно.
• Инновации растут и колосятся лишь на почве свободного творчества.
• А для политического контроля свободное творчество – самый неудобный и потенциально опасный характер деятельности.

Власти Китая прекрасно осознают ключевую слабость Китая в борьбе с США за мировое первенство – отставание в производстве и внедрении инноваций. Еще в 2019 году Си назвал отставание инноваций «Ахиллесовой пятой» Китая.

Но огромные деньги, выделяемые КПК на развитие инноваций, пока что дают предельно скромные результаты.
• Китай по-прежнему даже не входит в десятку инновационных лидеров мира (см рис с динамикой ТОР15 стран мира по Глобальному инновационному индексу).
• Продолжая такими темпами, Китаю никаких денег не хватит, чтобы и за 10 лет стать мировым лидером в инновациях.
• США уже поняли, как больнее защемить ахиллесову пяту Китая научно-технологическими ограничениями экспорта, и Китай уже в этом капкане по всем наиболее инновационным направлениям.

И что же делает теперь Си?
• Не ослабляя железной хватку власти против лидеров высокотехнологичного бизнеса,
• Си обещает расширить роль «партийных ячеек», блюдущих партийную дисциплину и догмы в университетах и частном секторе,
• а теперь перетряхивает кадры ЦК КПК, заменив на 40% мест (81 место) в ЦК (элитный орган власти, определяющий основновы национальной политики) карьерных партийцев на выходцев из самых инновационно успешных областей (с самым большим представительством (20 мест) аэрокосмической области).

Из чего следует, что, выбирая между политическим контролем и стимулированием научно-технологического творчества, ведущего к инновациям, Председатель Си выбирает первое.
Что позволяет предположить о уже сделанном им выборе своей главной цели на 3ем сроке.

P.S. Было бы неправильно не упомянуть о месте России в мировом инновационном ландшафте.
Так вот, до 2022 Россия здесь оставалась истинный островом стабильности: в 2022 Россия на 47м месте (а 4 года назад в 2018 была на 46м), обойдя Вьетнам, Румынию и Чили, но пропустив вперед Словакию, Маврикий и Грецию. Но в свете происходящего, видимо, и здесь стабильность закончилась.
#Китай #Инновации