По моей персональной шкале магнитуда «малоизвестных интересных» междисциплинарных открытий (от лат. magnitudo «важность, значительность, крупность, величие») оценивается подобно магнитуде землетрясений по шкале Рихтера. На всей Земле за год происходит лишь до 10ти землетрясений с магнитудой 7,0–7,9 по шкале Рихтера. С такой же частотой делаются и междисциплинарные открытия аналогичной магнитуды.

Магнитуда междисциплинарного открытия, опубликованного в 2х статьях последнего выпуска журнала Antiquity, — не меньше 7,9. Что ставит его на уровень открытия роли Больших Богов и Большого Брата (о чем я все никак не успеваю написать продолжение 🥺).

Как и в истории с Большими Богами, новое открытие не только кардинально меняет наши представления о прошлом цивилизации.

Оно открывает нам понимание будущего, в которое стремительно увлекают мир новые информационные технологии.

На сей раз речь идет о кардинальном переосмыслении произошедшей 4 тыс. лет назад «1й революции роботов». Переосмыслении, позволяющем нам уже сегодня увидеть и понять в какую антиутопию попадет цивилизация, в результате нового большого скачка неравенства, вследствие «2й революции роботов».

Продолжить чтение:
- в Medium https://bit.ly/2mr5IzJ
- в Яндекс Дзен https://clck.ru/JEqu9

#Неравенство

Люди могли бы стать креативней Бога.
Будь у нас предложенная альтернативная система образования.
Образовательную систему можно представить, как сложную сеть связей между различными дисциплинами.
Цель большинства классических образовательных систем – подготовить узкого специалиста в конкретной области. Американская модель образования в области гуманитарных наук гордится тем, что дает студентам целостную перспективу, раскрывая им различные дисциплины. Однако простое знакомство студентов с различными идеями без того, чтобы они осознали глубокие, лежащие в основе связи, похоже на ожидание интересной сетевой динамики от сети с отключенными связями между узлами.

В работе «Творчество как новое свойство сложной образовательной системы» предлагается новая система образования представляющая собой сложную сеть из множества узлов - разных дисциплин, связи между которыми представляют поток объединяющих идей между ними.
Соединения между узлами позволяют свободно перетекать идеям между дисциплинами, качественно расширяя возможности для творчества, являющегося эмердгентным свойством такой сети.
Прообраз такой сетевой схемы существует. Но не в образовании. Это схема, похожая на лежащую в основе конструктора LEGO.

Примером того, на что способна креативность человека, самообразованием пришедшего к свободному перетеканию идей между разными дисциплинами, может служить Тео Янсен. Он бросил вызов земной эволюции, создав целый мир существ, способных передвигаться под воздействием ветра по песчаным пляжам. Используя генетические алгоритмы, симулирующие эволюцию биологических видов, Тео Янсен поднялся до уровня Бога. Его «пляжные животные» (нидерл. Strandbeest; strand = пляж; beest = зверь), это пример альтернативной искусственной жизни. От поколения к поколению эти механизмы совершенствуются и «адаптируются» к условиям песчаного пляжа, куда Янсен выпускает их погулять. Эти «живые скульптуры» — достаточно сложные конструкции, способные взаимодействовать с окружающей средой, в том числе, реагируя на её изменения – подробней здесь и здесь

Представить себе мир, населенный людьми с креативностью уровня Тео Янсена, я не способен (из-за нехватки креативности).
Но такой мир возможен, если изменить систему образования.
Возможно, она будет построена по схеме LEGO. Возможно, на иной схеме.
Но что точно, - это будет сетевая схема с высокой связностью узлов, в принципе исключающая возможность существования термина междисциплинарность.

Creativity as an Emergent Property of Complex Educational System

#Образование

Антиутопия сегодня – мир управляемый рейтингами.
Среди которых уже нет объективных.
Основным фактором, определяющим будущее мира, являются не квантовые компьютеры, цифровая экономика или ИИ. Все это важно, но не самое главное. Главное то, - что повседневно управляет мировосприятием и поступками миллиардов людей: от глав государств до конторских клерков, от профессоров до школяров, от интеллектуалов до домохозяек. Это рейтинги.

За последние 10 лет мир кардинально изменился, но мы этого не заметили. Повсеместно – в науке и искусстве, политике и экономике, социологии и спорте, маркетинге и пиаре - рейтинги стали определять, что важно, а что нет. Политический вес и статусы научных журналов, важность новостей и значимость идей, качество обучения или товара – все теперь определяется исключительно рейтингами. Да что там! Репутация человека теперь тоже исключительно продукт рейтингов. Выбор друзей и романтических связей – тоже.

Впервые входя в сетевой инфо-мир, дети начинают узнавать его с помощью алгоритмов рейтингования поисковых систем. Именно они – алгоритмы ранжирования Google и Яндекс – формируют знания, мировоззрение, отношение к другим людям, материальным и нематериальным объектам мира.

Короче, нет на Земле сегодня чего-любо более важного, чем рейтинги. А теперь вопрос - насколько эти рейтинги объективны?
Короткий ответ – неизвестно. Каков уровень предвзятости и манипуляций, стоящий за формированием тех или иных рейтингов, - в большинстве случаев точно определить невозможно.

Сегодняшний инфо-мир – это океан данных, в котором работают гигантские водочерпалки, фильтры которых ежеминутно модифицируются, оптимизируя работу черпалок под узкий набор установочных целей (напр. «вовлечение», рассчитываемое по числу кликов пользователей, или «удовлетворение» рассчитываемое по числу лайков).

Вот всего два примера, - имхо, самые впечатляющие.
1) Рейтингование величайшего в мире хранилища видео-контента, на 70% определяющее, какое видео вы дальше посмотрите на Ютубе.
Это откровение сотрудников Google на проходившей на прошлой неделе в Дании конференции RecSys '19.
https://dl.acm.org/citation.cfm?id=3346997
Как отозвался об этом докладе Джек Кларк из OpenAI:
«Это захватывающий документ, поскольку читается как заметки техперсонала, обслуживающего какую-то гигантскую машину, которую они едва понимают. Мы здесь находимся в области, где объемы данных настолько велики, что единственным методом понять, как работает система - провести живой эксперимент и посмотреть, что получится. Мы используем простые оценки в качестве прокси для куда более серьезных проблем, - напр. таких как предвзятость. Понимая при этом, что истинные «ценности» рейтингования, скорее всего, скрыты от нас.»

2) Скоро выходящий «бестселлер ближайшего будущего» - «Рейтингование: неписанные правила социальной игры, в которую мы все играем», написанная Петером Эрди - всемирно известным специалистом по сложности на стыке вычислительной нейробиологии и системной биологии.
https://global.oup.com/academic/product/ranking-9780190935467?cc=gb&lang=en&
Это потрясающая инди-книга показывает на многих реальных примерах, почему и как строятся рейтинги – плод пересечения реальности, иллюзий и манипулирования. Эрди открывает механизмы, которые мы, чаще всего, не осознаем. Он показывает на примерах, насколько мощное и удручающее влияние эти механизмы оказывают на жизни людей, ошибочно полагающих, что их мировоззрение и поступки находятся под их собственным контролем.

#Рейтинги #БББ

Сегодня последний день узнать, что ИИ думает о вас.
И на своем примере осознать: ИИ – это сама предвзятость.
Сегодня последний день работы проекта «Рулетка ImageNet» - самой хайповой и вирусной провокации на тему ИИ. Она действует как окно в расистские, женоненавистнические, жестокие и просто абсурдные классификации, которыми люди заразили ИИ (сам то он о нас не смыслит ничего).
ImageNet – это разработанный в Принстонском и Стэнфордском университетах набор данных изображений, широко используемый для машинного обучения.

Цель проекта «Рулетка ImageNet» - дать учебному набору данных «говорить за себя», чтобы он сам (а не эксперты) показал, насколько предвзят ИИ, и почему классификация людей ИИшным способом в лучшем случае ненаучна, а в худшем - глубоко вредна.

Поскольку проект супер-хайповый, мне много писать о нем не нужно.
Задача ИИ простая. По фото определить статус, характер и профессию людей.
Результаты тестов на десятках миллионов фото одни называют «хамскими», другие «забавными», третьи «проницательными», четвертые «заставляющими задуматься».

Еще бы:
• Обама, по мнению ИИ – типичный картежник
• Королева Елизавета – типичная суфражистка
• Меган, Герцогиня Сассекская, ранее Меган Маркл – признана ИИ эксцентричной и сумасбродной
• Президент Трамп – это борец за гражданские права меньшинств.
• Илон Маск – комик
• Киану Ривз — барон
• Президент Зеленский — демагог и мошенник
• Президент Путин получил от ИИ широкий спектр определений - барон, бизнесмен, король, магнат, олигарх
• А Юрий Дудь определен просто и конкретно – детектив.

Однако лучше всего, чтобы осознать степень предвзятости, которой человечество уже заразило ИИ, попробовать проверить на своем фото.
Я попробовал и получил такое определение от ИИ – образец духовности и разума, теософ (от θεοσοφία «божественная мудрость») — человек, занятый мистическим богопознанием, созерцанием Бога, в свете которого открывается таинственное знание всех вещей.
Вот теперь думаю, может переименовать свой канал в Теософ?

Проверьте ИИ на себе https://imagenet-roulette.paglen.com/ (сегодня это еще можно).
А здесь подробности https://www.excavating.ai/
Тут же о том, как пытаются «лечить от предвзятости» ИИ на наборе данных ImageNet https://image-net.org/update-sep-17-2019

#ПредвзятостьИИ

Если сопоставить и проанализировать в совокупности аргументацию и выводы Бострома и Турчина, то напрашивается довольно страшный вывод.
• Создание Всемирного Большого Брата является неизбежным следствием перехода человечества в постиндустриальную информационную эру.
• Произошел «фазовый переход» в сложности мира.
• И поэтому Всемирный Большой Брат теперь столь же необходим для дальнейшего масштабирования кооперации и стабилизации обществ, как и несколько тысячелетий назад людям потребовались Большие Боги, без которых развитие цивилизации вплоть до нынешнего уровня было бы вряд ли возможным.

Представляю вам 2ю часть лонгрида на 19 мин чтения о том, почему и когда пришли Большие Боги:
- на Medium https://bit.ly/2mSjcoK
- на Яндекс Дзен https://clck.ru/JKH7Z

#БольшойБрат #БольшиеБоги

​​Последнее китайское предупреждение США.
На сей раз, от McKinsey и армии.
• Год назад мною был зафиксирован технологический паритет США и Китая в области ИИ и показано, что США начинают проигрывать в ИИ-гонке (1)
• В феврале 2019 тема была продолжена так - Китай обходит США в ИИ-гонке. США сдаваться не намерены, но переломить ситуацию пока не могут (2)
• Развивая тему, в конце мая появился мой пост о том, что США близки к проигрышу ИИ-гонки Китаю (3)

Спустя 4 месяца ситуация становится критической уже не только для нацбезопасности США, но и для всего мира. Ведь речь теперь идет о надвигающемся технологическом доминировании Китая не только в области ИИ, но и в квантовом компьютинге, роботах, синтетической биологии и новом поколении коммуникаций.

Попытки предостеречь Белый дом от скатывания к непоправимой стратегической ошибке утери технологического мирового лидерства делались неоднократно с самых разных сторон: от разведсообщества до университетов, от независимых экспертов до отдельных высокопоставленных чиновников. Пока все впустую.

«Последнее китайское предупреждение» Белому дому только что пришло от альянса бизнес-консалтинга и армии США. Это доклад «Инновации и национальная безопасность: сохранение нашего преимущества», выпущенный под эгидой Дирекции по кибербезопасности Совета по международным отношениям США. Авторы доклада - Джеймс Мэниика (James Manyika - Chairman and Director, McKinsey Global Institute, and Senior Partner McKinsey & Company) и Вильям Макрэвен (William H. McRaven – профессор национальной безопасности и четырехзвездочный адмирал ВМФ США в отставке).

Как это принято у топовых консультантов и четырехзвездочных адмиралов, - они зрят в корень.
Вот в чем корень проблемы:
– одним графиком
– или подробней пятиминутным видео.

А что из этого корня вырастет, если не переломить ситуацию, - см. на приложенном графике, в который я лишь добавил Россию, так сказать, для раскрытия полноты катастрофы (размер кружка – объем финансирования).

При уравнивании финансирования НИОКР у США и Китая, все остальное факторы – объемы данных, отсутствие регуляторных ограничений, большой пул талантов, - быстро решат вопрос о том, кто станет единственной сверхдержавой, в пользу Китая. И уже никто тогда что-либо сделать не сможет.

P.S. Про нас. Если США пока держатся на R&D бюджетах бизнеса - сейчас это 2% ВВП, то у нас это 0,7%.
В абсолютных цифрах еще хуже. У их чемпиона Amazon в 2018 R&D бюджет $22.6 млрд. У нашего - Яндекса $325 млн.

#Китай #США #НИОКР

​​Нейрокод шахида.
Готовность сражаться и умереть сидит в каждом. И если уметь ее активировать …
В недавнем посте «Русский боится холода, а немец — тесноты. Нейрокод эмоций у разных народов разный» я писал:
«Далеко не только инстинкты, но и сложные поведенческие акты основаны на выполнении заложенных в человека нейропрограмм. Кто «написал» этот нейрокод — некий гипер-умный Творец или природа за миллионы лет эволюции — спорить не будем (пост не об этом)».

Сегодня продолжение этой темы. Новейшие исследования на стыке когнитивной и эмоциональной нейробиологии открывают все новые поразительные сюрпризы.

• Каким образом устроена в человеке мотивация заплатить за что-либо собственной жизнью – т.н. «готовность сражаться и умереть» (Willingness to fight and die)?
• Какая логика или рациональная оценка может подвигнуть человека отдать жизнь за некие абстрактные идеалы?
• Куда при этом девается рациональное сопоставление приобретаемой выгоды и уплаченной цены?
• Почему, черт возьми, в таких ситуациях молчит разум?

Новое исследование показало.
При принятии решения заплатить за что-либо собственной жизнью, в мозге работает другая область, чем при повседневных решениях.
Обычно это область, которую можно условно назвать «область сопоставления затрат и выгод» (dlPFC), а когда ставка – жизнь, работает, условно называемая «область субъективных ценностей» (vmPFC), вообще не заморачивающаяся сопоставлением «приобретений» от поступка и его «цены».
Готовый пожертвовать жизнь делает это за «идел», за «праведность», которые областью мозга vmPFC относятся к субъективным ценностям, не подлежащим сравнительной оценке.

Вот ведь природа отчудила нейрокодик!
Но как много это объясняет в истории человечества.
И каким ужасом для мира может стать очередной шаг в этих исследованиях. Когда простым переключением области исполняемого нейрокода, можно будет мозг священника превратить в мозг шахида.

#ЭволюционнаяПсихология #Нейронаука

ЛЮДИ, БОГИ, БОТЫ.
Как выжить среди богов и сверхразумных алгоритмов.
Новая книга Харари еще пишется. Но о чем она, уже можно догадаться.
О троице из людей, богов и ботов (сверхразумных алгоритмах), взаимодействие которых кардинально изменит мир в ближайшие десятилетия.

Приятно, когда «на разогреве» 3й (важнейшей) части поста «Большой Брат – сын Большого Бога» могу выпустить лучшего на сегодня "интеллектуального шоумена" (в хорошем и уважительном смысле) Юваля Ноя Харари.
Вчера в сеть выложили его видео с русскими титрами, озаглавленное, как этот мой пост.
https://www.youtube.com/watch?v=jqx3hic_3oE
Это видео пока что успели посмотреть лишь 787 человек. И я очень надеюсь, что теперь посмотрит куда больше.

Вопрос 1. С какого же бока Харари приплел к людям и алгоритмам еще и богов?
Вопрос 2. И где же здесь место «глобального большого брата»?

Вот мои 3 соображения, отвечающие на оба вопроса.
1) Одна из самых главных фикций, позволивших человечеству стать «чемпионом по сотрудничеству» миллиардов людей и, в результате, «царем природы» - это религия Больших Богов.
2) Спустя несколько тысячелетий такого супер-сотрудничества люди скоро превзойдут по могуществу Больших Богов:
- элита научится, путем технологических апгрейтов, превращать себя в «новых богов», обретя сверхчеловеческие возможности здоровья и интеллекта;
- остальная биомасса для «новых богов» станет просто ненужным обременением. Эту биомассу нужно будет тщательно контролировать и управлять ее потребностями, дабы создать им иллюзию счастья.
3) Обеспечить устойчивость социума в этом «дивном новом мире» может лишь глобальный «большой брат». Только он будет в состоянии обеспечить:
- контроль биомассы путем технологий тотального отслеживания (анализа действий и биомониторинга) миллиардов людей;
- управление материальными и духовными потребностями миллиардов людей, максимизирующего их иллюзию счастья за счет знания, понимания и формирования желаний и мотивации людей супер-интеллектуальными, но не обладающими сознанием алгоритмами.

Такова неполиткорректная трактовка сказанного Харари.
Подробней читайте в его новой книге и в 3й завершающей части моего поста «Большой Брат – сын Большого Бога».

#БольшойБрат #БольшиеБоги #Харари

​​Секрет главного когнитивного искажения.
Зачем сознанию кривое зеркало самооценки.
Надо привыкнуть смело, в глаза людям, говорить о своих достоинствах. Кому же, как не нам самим, знать, до какой степени мы хороши?
Венедикт В. Ерофеев

Проверить, «до какой степени мы хороши», довольно легко.
Например:
• Как вы думаете, с точки зрения навыков вождения, вы относитесь к лучшей (топ 50%) или худшей половине водителей?
• А по части воспитания детей: к лучшей или худшей половине родителей?
• По интеллекту, как думаете, вы в топ 50% населения входите или, увы, нет?
• А по внешности, доброте, понятливости, порядочности …?

Ответы на эти и подобные вопросы показывают абсолютную правоту эпиграфа.
90% людей практически по любому позитивному критерию относят себя к топ 50%. Хотя любой при этом понимает, насколько статистически маловероятно, чтобы все люди, думающие, что они выше среднего, на самом деле входили в топ 50% лучших.

- Но ничего поделать с подобной завышенной самооценкой нельзя: ни воспитанием, ни тренингом, ни гипнозом.
- Это самое глубоко зашитое и тотальное (зашито буквально в каждого) когнитивное искажение – завышенная по отношению к реальности самооценка.

Но зачем?
Ведь подобное кривое зеркало самооценки в корне искажает всю картину окружающей реальности. И это не может не снижать приспосабливаемость особи - адаптационные возможности и конкурентоспособность.
Получается, - это кривое зеркало противоречит принципам эволюции?
И какая польза от этого?

Ну польза, скажем, есть. И немалая. Это кривое зеркало – основа и источник постоянного счастья – «атомная батарейка» самопозитивности, особенно мощная в молодости и теряющая заряд лишь в весьма зрелом возрасте. Но как это устроено?

Связь между эмоциями и самооценкой лежит в основе человеческого благополучия. Знание механизмов этих сложных отношений имеет решающее значение для понимания мотивации, обучения и принятия решений, как у здоровых людей, так и при психоневрологических расстройствах. Поэтому так важно изучать когнитивные и нейронные механизмы, с помощью которых создается и поддерживается самооценка. Новое функциональное исследование MRI (fMRI) экспериментально продемонстрировало механизм взаимодействия между эмоциональной валентностью и само-релевантностью. Этот механизм работает в области мозга, которая классически связана с самостью: медиальная префронтальная кора (mPFC) (1).

Данное исследование предоставило доказательства, что когнитивное искажение самопозитивности является прямым следствием того, как в мозге устроен механизм автоматического восприятия информации о самом себе.
Т.е. самопозитивность возникает автоматом, вследствие организации работы мозга.

Но почему так?
Возможны варианты. И все зависит от того, что такое сознание.
Например, есть весьма распространенная концепция, что сознание – это эмергентное явление более высокого уровня, возникающее при обработке информации.
Тогда не исключено, что самопозитивность – это 5ое необходимое условие для возникновения сознания, наряду с информационным, динамическим, независимым и интегральным принципами, сформулированными Максом Тегмарком - стр. 116 в (2):
✔️ Сознательная система обладает абсолютной самопозитивностью.

N.B. Этот принцип согласуется с экспериментальным подтверждением, что самореференция возникает в мозге ДО появления эмоции. Сначала идентифицируется Я, а лишь затем формируется эмоция. Т.е. чувства в сознании появляются лишь ПОСЛЕ идентификации наличия самого себя (3)

#Сознание

​​Исчезнувшие с сайта NASA секретные материалы Google нашлись.
И что из этого следует – есть квантовое превосходство?
В позапрошлые выходные «Мир взорвался инфобомбой – Google достиг квантового превосходства». Мой комментарий на это был – «полагаю, это не совсем так, точнее, совсем не так»
На следующий день «китайцы расставили точки над i, и сомнения подтвердились».

Но мир продолжал хайповать на сенсации. Тема достижения квантового превосходства Google 2 недели была в топе. Все новые и новые статьи, комментарии экспертов, прогнозы аналитиков. Одни пишут – да, есть квантовое превосходство. Другие – превосходства нет. И это при том, что материалы Google на сайте NASA практически никто не видел.

Пора это как-то исправлять.
Вуаля!
Вот этот исчезнувший документ.
А это большое приложение к нему.

В дополнение пояснение того, что в документе и приложениях написано, выполненное Гилом Калай, разбирающимся в вопросе, как никто (не перевожу, т.к. переводчик есть у каждого читателя).
А заодно, тем кто хотел бы подробностей:
- две статьи Калай на эту тему (1) и (2);
- слайды его лекции по этой теме , прочтенной месяц назад в CERN

И какой из всего этого вывод?
Вот он на картинке.
#КвантовыйКомпьютинг

​​Импичмента не будет, а Трамп переизберется.
В США выявлен самоускоряющийся раскол, и единых США уже нет.
От того, кто станет следующим президентом США, зависит многое в мире. Вплоть до судьбы Украины и года смены президента в России.
Но предсказать исход попытки импичмента и следующих выборов в США не берется никто, - слишком сложный многофакторный прогноз с большим числом неопределенностей.
И вдруг выходит новый отчет Брукингского института (резюме, инфографика), в котором четко и неоспоримо выявлен сильнейший объективный тренд.
1. Единой страны США уже нет, а есть две разных страны, живущие в разных мирах с разными экономикой, культурой, ценностями и абсолютно разным будущим.
2. Действие самоускоряющегося тренда уже не раскола, а разбегания этих двух стран поразительным образом объединяет республиканцев и демократов лишь в одном – оставить Трампа президентом.
3. В основе этого противоречащего логике единения республиканцев и демократов простая, но практически непреодолимая мотивация:
- чем дольше Трамп сидит в президентах, тем лучше живется электорату демократов и хуже – электорату республиканцев;
- электорат республиканцев от этого еще более звереет, виня во всем противников Трампа, и увеличивая его поддержку;
- электорат демократов процветает и вовсе не хочет менять этот тренд, что заставляет их лишь яростней поносить Трампа, не покушаясь при этом на перспективы сохранения своего собственного благополучного статус-кво.

Дочитать и посмотреть графики (еще на пару мин.)
- на Medium https://bit.ly/2nkAM54
- на Яндекс Дзен https://clck.ru/JR4Ui
#Выборы #США

Кудесник и пророк, наконец, поговорили.
Состоялся диалог Пинкера и Харари.
«Глупые истории могут убедить миллиарды, тогда как истина имеет лишь незначительное количество последователей. Но тогда вопрос в том, что вы ищете в жизни: силу или правду?»
Юваль Харари
Этого разговора ждали интеллектуалы из разных стран мира. И даже заранее писали «рецензии» на этот еще не состоявшийся разговор. Лучшую из них написал Джон Фэйтфул Хеймер в марте 2018. И она настолько хороша, что, перечтя ее сегодня, сразу после прослушивания опубликованного вчера диалога Пинкера и Харари (видео, аудио), я однозначно решил – лучше и сегодня не напишешь.

В «Кудеснике и Пророке» (2018) Чарльз Манн утверждает, что интеллектуальная жизнь в 21-м веке определяется гражданской войной между Кудесниками, которые верят, что технологии спасут нас, и Пророками, которые видят на горизонте различные виды катастроф.
Стивен Пинкер – Кудесник. А Юваль Харари – Пророк.

Как и большинство Кудесников, Пинкер считает, что наши предки были по большей части добродушными идиотами. Как и большинство Пророков, Харари предполагает, что наши предки в некоторых отношениях были лучше нас.
Пинкер превозносит гуманизм. Для Харари гуманизм - это просто еще одна религия, породившая коммунизм и нацизм и превратившая современность в век интенсивного религиозного рвения, беспримерных миссионерских усилий и самых кровавых религиозных войн в истории.
Пинкер думает, что упадок идеалов Просвещения происходит из-за сохранения у некоторых граждан когнитивных предубеждений, типа эвристики доступности и негативизма. Харари думает, что мы вступаем в постгуманистическую эпоху, где Искусственный интеллект и биоинженерия меняют правила игры.
Пинкер - Кудесник, который не заставляет плохую девочку расплачиваться за свои грехи в конце своей истории. Он смеет предположить, что плохая девочка сможет найти счастье и жить долго и счастливо. Харари – Пророк, и признавая, что либеральный гуманизм в мире преуспел, он предполагает, что вечеринка может скоро закончиться. Дело в том, что гуманистическое движение слишком много думает о старых битвах, пренебрегая новыми битвами. Это очень опасно, потому что, несмотря на сохраняющиеся проблемы традиционных религий, судьба человечества и самой жизни будет зависеть от нашего отношения к биоинженерии и ИИ, а не от нашего отношения к Богу и Писанию.
Если верить Харари, либеральный гуманизм будет подорван через десятилетие или два тем же научным прогрессом, который Пинкер превозносит. Подобно тому, как научное изучение Библии непреднамеренно подрывает веру в христианского Бога, научное изучение разума непреднамеренно подрывает веру в либерального гуманистического Бога - свободно выбирающего человека. Алгоритмы, используемые Facebook и Google, уже знают вас лучше, чем ваши друзья и семья. Но алгоритмы будущего будут знать вас лучше, чем вы сами.

Наконец, этот разговор состоялся.
Как и предполагалось, Харари рассуждал, как неуверенный в себе интеллектуал, а Пинкер - как беспощадный президент дискуссионного клуба. Пинкер нарисовал радужную картину человеческого прогресса и его достижений в надежде на то, что он будет продолжаться. Харари наметил мрачное будущее в надежде, что это хоть как-то предотвратит его. Как и все пророки, он пророчествует, чтобы предотвратить пророчество, а не предсказывать его. А в итоге разговор получился так себе.

Настоящий же бой интеллектуалов получился год назад между Харари и Энди Норманом – «Смысл и наследие гуманизма: острый вызов от потенциального союзника». Весьма рекомендую. И особенно тем, кто ошибочно считает Харари легковесным поп-идолом, зарабатывающим на проповедях банальности.

#Харари

Рулить миром будет не тот, у кого ИИ круче, а чей ИИ сможет делать «это».
США готовят ассиметричный ответ Китаю и России.
Речь идет о перевороте в «искусстве войны». Вводится новый смысл - Когнитивная эффективность военных действий. Это понятие революционизирует военное применение ИИ.
В июле Эрик Шмидт (председатель Комиссии по нацбезопасности ИИ и бывший CEO & Chairman Google/Alphabet) и Роберт О. Ворк (зам-председателя Комиссии по нацбезопасности ИИ и бывший Зам-министра обороны США) запустили национальный мозговой штурм по поиску идей, как с помощью ИИ обеспечить абсолютное военное преимущество США в мире.
На основе лучших таких идей Комиссия по нацбезопасности ИИ готовит доклад с предложениями Конгрессу и Белому дому.

Нужно признать, что поступающие Шмидту и Ворку идеи/предложения впечатляют. Это очень круто. Вот характерный пример - идея/предложение Брэда Дьюеса. Он майор ВВС США, тактический офицер воздушного управления 13-й воздушной эскадрильи в Форт-Карсон (штат Колорадо), выпускник стипендии Главного штаба ВВС по стратегическим наукам, получивший степень доктора наук в области принятия решений в Гарвардском университете.
Название идеи – ИЗМЕРЕНИЕ ВОЙНЫ: КОГНИТИВНЫЕ ЭФФЕКТЫ В ЭПОХУ ИИ.
Продолжить чтение на пару минут:
- на Medium https://bit.ly/31YRm9H
- на Яндекс Дзен https://clck.ru/JSheF
#ВоенныйИИ

Мир раскалывается на все более мелкие части.
Это неумолимое следствие цифровизации социальных взаимодействий.
Задолго до переноса сознания отдельного человека в глобальную цифровую среду, уже вовсю идет перенос в эту среду сознания общества
Лет через 300 напишут, что в 21 веке человечество пережило тектоническую трансформацию, положившую начало разделению Homo sapiens на новые виды. И что этот процесс был запущен на много десятилетий раньше прорыва в объединении инфотеха и биотеха, приведшего к образованию киборгов, а потом и к оцифровке сознания. И что спусковым крючком 1го этапа тектонической трансформации стало лавинообразное перенесение социальных взаимодействий людей в глобальную инфосеть, называвшуюся тогда Интернет.

Так напишут через 300 лет. А что сейчас?
Да и сейчас уже многие понимают, что соцсети на глазах меняют мир. Журналисты и политики, ученые и военные, медиа-индустрия и маркетинг - все констатируют колоссальный рост влияния соцсетей.
Но в чем это выражается в целом для всего общества, а не для прагматики конкретных областей человеческой деятельности, мало кто задумывается.

О том, что соцсети – это мощнейшие катализаторы раскола в обществе, пишу уже несколько лет. Это явление коренится в сложной структуре и динамике социальных систем. Homo sapiens по своей природе не способен к почти мгновенным социальным взаимодействиям с миллионами людей, да еще и при такой колоссальной пропускной способности инфопотоков между ними.
Людям нужен механизм адаптации при таком переносе «нервной системы» их социальных взаимодействий в цифровую глобальную среду. Ведь по сути, еще задолго до переноса сознания отдельного человека в глобальную цифровую среду, уже вовсю идет перенос в эту среду сознания общества. Чтобы адаптироваться к этому, общество задействует все имеющиеся у него механизмы адаптации.
И главным таким, проверенным тысячелетиями механизмом, стал раскол.

Люди самоорганизуются в группы разных масштабов: от семей до городов и культур, от френдов и единомышленников до блоков, партий и наций. И этот процесс совсем не нов. Так было в социальных сетях человечества уже много веков и даже тысячелетий. Потребовалось даже «пришествие Больших Богов», чтобы противодействовать тренду раскола, мешающего масштабированию кооперации людей.

Что же изменилось?
Количество перешло в качество. Взрывной рост масштаба, скорости и пропускной способности социальных взаимодействий сметает все: от веры в Больших Богов до национальной идентичности. Разнообразие людей (гендерное, расовое, мировоззренческое и т.д.) катализируется ростом скоростей, масштабов и объемов инфопотоков. А сложная структура и динамика социальных систем переводит этот нелинейный процесс в новые непредсказуемые качества.
- Раскол порождает новые качества социальных взаимодействий.
- Люди вынуждены к этому адаптироваться, приспосабливаться.
- Необходимость приспособления к кардинально поменявшейся среде в течение десятка поколений, вполне возможно, окажется способной положить основу для разделения Homo sapiens на новые виды.

Пониманию механизмов, приводящих к возникновению многомасштабной фрагментации в гиперсвязанных социальных системах, и конкретному кейсу раскола, происходящего в США посвящен новый интереснейший отчет Института сложных систем Новой Англии (NECSI), опубликованный вчера в Журнале Королевского научного общества «U.S. Social Fragmentation at Multiple Scales».
https://necsi.edu/us-social-fragmentation-at-multiple-scales

#Раскол #СоциальныеСети #США

Смена парадигмы будущего для ИИ.
Будущее определяет коэволюция технологий и собственности.
Смены научной парадигмы – кардинальная трансформация модели реальности в конкретной науке – в прошлом случались редко. В XX веке подобные перевороты стали чаще, а ближе к концу века стали происходить каждое десятилетие, и даже не по одному. Причина этого – ускорение в накоплении и осмыслении новых знаний и нового опыта человечеством.
В XXI веке это ускорение еще нарастает. И люди уже просто не успевают осознавать и фиксировать все новые смены научных парадигм. Ну поменялось в какой-то науке или даже в ряде наук какое-то базовое представление, - ну и бог с ним. За всеми изменениями, даже базовыми, все равно не угонишься.
Увы, такой подход чреват большими рисками. Не отрефлексировав в коллективной памяти человечества произошедшую смену какой-то научной парадигмы, можно этим исказить коллективные представления социума о надвигающихся важнейших переменах в будущем.
А ведь будущее не предопределено. Оно будет таким, каким сложится в коллективных представлениях миллионов людей. И таким образом, пренебрегая осознанием какой-то изменившейся научной парадигмы, люди этим своим незнанием могут способствовать материализации худшего варианта будущего, чем если бы они вовремя это осознали.

Вот яркий пример, о котором я уже не раз писал. Как изменится экономика и социальные отношения в результате уже вплотную приблизившейся лавины ИИ-автоматизации и ИИ-роботизации (эти два понятия, в принципе, почти одно и то же, но мы по традиции привыкли их различать)?
99% людей – от профессиональных экспертов и аналитиков до журналистов и массовой аудитории – рассматривают достижения в области технологий как экзогенную движущую силу инноваций в экономических и социальных отношениях и институтах.

Но это совсем не так.

Дочитать (еще пара минут)
- на Medium https://bit.ly/2VyN9XT
- на Яндекс Дзен https://clck.ru/JUidK

P.S.
FYI В связи с жалобами читателей на “недостаточное раскрытие темы”, добавил в посты на Medium и Яндекс Дзен поясняющее дополнение.

#Неравенство #СменаПарадигм #ИИ #Будущее

Каналу 3 года. Уж и не знаю, радоваться этому или нет. С одной стороны, приятно, что есть на свете люди, которым интересно то же, что и мне. Причем некоторые из них за 3 года нашли в себе силы и время прочесть аж 900 моих постов. Что с учетом не самой легкой смысловой нагрузки текстов, - очень много. И это, что скрывать, приятно автору 😊
С другой стороны, до запланированных 1001 поста осталась всего сотня. Буду ли я и после этого вести канал, еще не решил. И потому, на всякий случай, воспользуюсь оставшейся сотней постов, чтобы поделиться с вами кое-чем из загашников своих текстов.

Вот, например, перед майскими праздниками я поделился с вами темой, крайне занимавшей меня более двух лет, и даже предложил тогда вашему вниманию свой рассказ про это на Ютубе. Рассказ получился сумбурный, т.к. тема огромная, а как ее уложить и подать, мне тогда было не понятно.
Но ясно было одно – это тема для книги, которую, кроме меня, вряд ли кто напишет. Однако мотивации писать ее было мало. Но все же начал и даже написал примерно треть. Буду ли дописывать – не знаю (мотивация с тех пор не прибавилась). Но и оставлять эту весьма «малоизвестную интересную» историю в недрах своего компа жалко. Ведь есть же среди вас мои родственные души по части «малоизвестного интересного». И если мне эта тема кажется бесконечно интересной, значит и кого-то из вас она может заинтересовать. А кому-то и моя интерпретация этой темы может понравиться, и мотивирует погрузиться в тему поглубже …

В итоге решил. Отметим трехлетие канала публикацией 1й главы так и не написанной его автором книги. В этом даже есть что-то забавно-символичное, - почти как у Лема 🥴

Вот текст. И даже не совсем лонгрид, – всего 14 минут.
- на Medium https://bit.ly/32oeizi
- или на Яндекс Дзене https://clck.ru/JVaCN

#Антропология #ЭволюционнаяПсихология #Интеллект

У нас в России и счастье особенное
На канале «Теории и Практики» увидел малоизвестный интересный материал о том, как измерить уровень счастья в России. Помимо того, что материал социолога Понарина сам по себе мне показался интересным, он также:
1) хорошо дополняет мой рассказ о «международном рейтинге счастья» за 2019, показавшем, что «формула всеобщего счастья проста и понятна»;
2) позволяет увидеть довольно тонкое различие в «приоритетах счастья» интеллектуалов и просто творческих людей в России и в США.
Чуть поясню, а дальше сами читайте по ссылкам, если заинтересует.

1) В России, как я писал, со счастьем незадача. Наша страна в этом году лишь на 68м месте, за год потеряв 9 позиций, а за два года — 19.
Но вот оказывается (как пишет Понарин) уровень счастья в России стабильно падал с его первого замера в 1981 г. Особенно резко он падал, понятно, в 90-е годы, достигнув минимума в середине десятилетия. Где-то с 2000-го он стал подниматься и в 2016 почти достиг уровня начала 80-х. Однако и тут не срослось. Теперь снова падает.
В общем, мы невыгодно контрастируем и со Скандинавией, получающей счастье через богатство и равенство, и с Латинской Америкой с ее тесными родственными и дружескими связями и опорой на религию.

2) Из рассказа Понарина следует, что население России, в основном, состоит из материалистов, то есть тех, кто во главу угла ставит экономическое благополучие и безопасность. О свободе выбора или интересной работе они думают во вторую очередь, если вообще думают.
Кроме того, нашим соотечественникам быть счастливыми довольно сильно мешает зависть. И хотя в Москве больше всего доля людей творческих профессий, но счастливых людей здесь меньше, чем, скажем, в Чебоксарах. Там разрыв в доходах не столь вопиющий.

Сравните это с «приоритетами счастья» интеллектуалов и прочих творческих людей в США. Там в «мире чистогана и желтого дьявола» у творческих людей совсем иные «приоритеты счастья».
- Как бороться с «психопрофессиональной гравитацией» (когда еще молодым стартапером взлетел на вершину творческого счастья, - а потом оттуда так высоко падать…)?
- Как с возрастом становиться счастливей, используя теорию «текучего и кристаллизованного интеллекта» (1й – позволяет анализировать и решать новые проблемы, а 2й - это способность использовать знания, полученные в прошлом)?
- Как перестать видеть свою жизнь огромным полотном картины, которую вам предстоит написать, а начать воспринимать жизнь, как глыбу мрамора, от которой нужно постараться отколоть все лишнее, чтобы придать ей шедевриальную форму?
Короче, - нам бы их заботы! 🥴

#Счастье

​​Китайский ответ на глобальный политический лайфхак Суркова.
Как в цифровом мире выглядит настоящий технологически усовершенствованный авторитаризм… А не его пародия.
Как же дремуче самобытны, технологически-отсталы и сермяжно-спесивы воззрения тех, кто полагает, будто Путинизм «представляет собой глобальный политический лайфхак, хорошо работающий метод властвования». И хотя в технологически отсталой России этот домотканый лайфхак пока что работает, но для современного цифрового мира он подходит не более, чем русские сани для передвижения по дорогам Южной Европы.

Чтобы понять это, достаточно взглянуть на настоящий политический лайфхак Китая. На его глобальную, технологически продвинутую, стратегически выверенную и, при этом, скромную, предельно тихую и не бросающуюся в глаза стратегию распространения по миру технологически усовершенствованного авторитаризма.

• Цель этой стратегии - формировать, управлять и контролировать глобальную операционную среду Китая таким образом, чтобы мировое общественное мнение благоприятствовало его собственным интересам.
• Её подход – неуклонное повышение государственной безопасности и, в первую очередь, политической безопасности Коммунистической партии Китая (КПК).
• Её базовый принцип - интересы КПК имеют приоритет, как над интересами китайского государства, так и над интересами китайского народа.
• Её тактика - постоянное расширения власти КПК за рубежом, поскольку (согласно ее собственному выражению) угрозы и риски для КПК, с такой же, если не с большей вероятностью по отношению к внутренним угрозам, могут возникнуть за пределами Китая.
• И наконец её основа и суть - массовый сбор данных в качестве средства генерирования информации для повышения обоснованности и действенности государственных решений, направленных на обеспечение безопасности.

Что же до предлагаемой тактики, то она состоит из двух ключевых направлений.
1) Принудительные и явно инвазивные технологии, типа камер наблюдения, а в дальнейшем и с добавлением био-мониторинга.
2) Технологии предоставления населению полезных услуг. Эти услуги призваны обеспечить эффективность повседневного управления и удобство повседневной жизни, типа «умного города» и «Интернета вещей» (IoT).
Цель 1 и 2 одна и та же. Тот, кто имеет возможность получить доступ к данным, которые система генерирует и собирает, может извлечь выгоду из них, превратив в информацию. То, как эти данные обрабатываются, а затем используются, зависит от целей и намерений того, кто их обрабатывает (а какие у них цели и намерения – читай выше).

Теперь понятно, почему китайские технологии видеонаблюдения, умного города и инета вещей уже внедрены или внедряются в полусотне стран мира? Вот это глобальный лайфхак, а не домотканая пародия на него.
Алё, гараж! Это к нам Huawei приходит, а не МТС в Китай. Или снова на выстрел «Авроры» надежда?

Подробней можно прочесть в новом отчете Саманты Хоффман из ASPI – «Инжиниринг глобального одобрения. Расширение власти КПК через контроль над данными».
Это куда ближе к реальности, чем фанаберии про Путинизм.

#Китай #ЦифровойАвторитаризм

Иллюстрация с обложки отчета: автор Badiucao, https://www.badiucao.com.

Реальный ИИ.
Будущее критически важных технологий решает не рынок, а правительство.
Об этом я рассказал в программе «Искусство интеллекта» на Радио Медиаметрикс. Слушать или смотреть можно по ссылке.
Если же вы не уверены, стоит ли тратить на это 46 мин, - вот тизер темы, что же такое Реальный ИИ, и почему сейчас это самое важное?

Практические результаты взаимоотношений между странами мало зависят от того, что говорят или пишут политики. И от того, насколько действия политиков и военных моральны, правдивы и соответствуют международному праву. И даже от идеологии сторон.
В основном, результаты взаимоотношений между странами определяются реальными практическими соображениями, вытекающими из интересов руководителей стран – правительств или авторитарных правителей. Со времен Бисмарка это называется Реальная политика (нем. Realpolitik). И поэтому не стоит всерьез анализировать, что говорят и пишут о политике в медиа. Куда продуктивней анализировать, что выгодно на практике тем, в чьих руках реальная власть.

С технологиями аналогично. Как только власти осознают критичность технологии для достижения своих международных и геополитических целей, они переключаются в режим Realpolitik по отношению к ней. Это не значит, что интересы исследователей и бизнеса перестают с этого момента влиять на развитие технологии. Но доминирующая роль теперь за интересами правительства.

Так было не раз в истории человечества с тех пор, как в мире появились государства. В итоге таких действий государств новая технология могла колоссально развиться (как ядерная или космическая). А могла и быть придушена государством (как парусный флот в истории Китая).

Сейчас пришла очередь ИИ. Правительства ведущих стран мира поняли критичность этой технологии. И отныне то, как она будет развиваться, более всего зависит от действий правительств.

Конечно, гордые исследователи и отважные бизнесмены будут пытаться отстаивать свои интересы в ИИ. Однако история показывает, что это тщетно. Пока мир поделен не корпорациями, а государствами, решающее слова всегда будет за последними.

• В связи с чем ИИ вдруг стал столь критичен для правительств?
• Что важнее для национального ИИ России: принятая нацпрограмма по ИИ или прогнозируемая национализация Яндекса?
• Что важнее для национального ИИ США: очередной триумф AlphaZero над человеком в новой игре или введение санкций против 28 хайтек компаний Китая?
• Что дальше будут делать правительства в уже начавшейся гонке за мировое лидерство в ИИ?
• Каковы возможные сценарии - куда мир может приплыть, ведомый шкурными интересами капитанов ведущих стран мира по отношению ИИ?

На все эти вопросы в контексте развития реального ИИ в мире я попытался ответить в своем рассказе.

#РеальныйИИ

ИИ, Китай, Россия и мировой порядок.
Лидеров в мире оказалось все же три.
Этот новый отчет послужит детализирующим послесловием к моему позавчерашнему рассказу о Real AI и новом переделе мира. Не вздрагивайте от объема в 291 страницу. Читать его целиком нужно только аналитикам со Старой площади, Знаменки и Лубянки. Остальные же, потратив всего четверть часа, удостоверятся, насколько серьезно стратегические эксперты США учитывают влияние Real AI на новый миропорядок.
Что особенно интересного пишут в этом отчете.
1) Привычных типов режимов (демократия и т.д.) среди стран, влияющих на мировой порядок, уже нет. Все новые типы режимов уже цифровые – цифровая демократия и т.д.
2) Лидеров в мире (сюрприз-сюрприз!) все же три, а не два. Это цифровая демократия США, цифровой авторитаризм Китая и цифровой гибридный режим России.
3) Борьба этой троице предстоит нешуточная и сразу на 3х фронтах: (1) укрепление своего режима внутри страны (в то время, как два противника его будут подтачивать), (2) экспорт своего режима по миру, (3) военное соперничество.
4) Основу битв на всех 3х фронтах обеспечивает Real AI, который весьма рационально трактуется расширительно: аналитика больших данных, автономизация/роботизация, всевозможные умные устройства Интернета вещей, когнитивные технологии и эффекты и пр.
5) Естественно, нам особенно интересно читать главы про Россию. И тут есть немало интересного:
- что российский приоритет не на экспорте режима, а на удержании (у Китая приоритет – экспорт, т.к. внутри все зацементировано);
- что инфостратегии России и Китая по удержанию своих режимов сильно разные (у Китая основана на фильтрации, цензуре и ограничениях контента; а у России – на «затролливании» медийной повестки и заваливании ее фейковыми новостями;
- что создание полноценного Большого Брата и в России, и в Китае – приоритет №1, но делается это по-разному (в Китае ставка не превосходные технологии наблюдения, а у нас на триаду технонаблюдение-агентура-карательное законодательство;
- что «суверенный Интернет» - это приоритет №2 и в России, и в Китае; делается это, понятно, по-разному, ну а детали читайте сами;
- что и в части экспорта своего гибридного режима (хотя в России это не приоритет), у России неплохие шансы: есть богатые страны, кому супер-техно-подход Китая по карману, а есть бедные, кому бюджетный гибридный подход зайдет лучше.
https://www.airuniversity.af.edu/Portals/10/AUPress/Books/B_0161_WRIGHT_ARTIFICIAL_INTELLIGENCE_CHINA_RUSSIA_AND_THE_GLOBAL_ORDER.PDF

#РеальныйИИ

В знаменитом рассказе Джейкобса «Обезьянья лапа», мумифицированная лапа обезьяны, на которую наложено заклятье, выполняла любые желания, но с чудовищными последствиями для пожелавших. Для людей подобные последствия были просто невообразимы из-за их чудовищной бесчеловечностии, немыслимой для человека.
Но у прОклятой старым факиром обезьяньей лапы была иная — нечеловеческая структура предпочтений. И потому, выполняя желания людей, она вовсе не со зла, а просто автоматом, преподносила людям страшные сюрпризы, выходящие за пределы воображения имевших несчастье обратиться к ней с просьбой.

Страшный рассказ оказался пророческим. В XXI веке обезьянья лапа материализовалась в виде некоторых прорывных IT технологий. Подарочек столь желанных нам соцсетей мы уже от неё получили. На очереди не менее желанный людям Сильный ИИ.

Что же будет, если с Сильным ИИ повторится история обезьяньей лапы, буквально на наших глазах произошедшая с соцсетями?
Скорее всего, цена новой ошибки может оказаться для человечества неподъемной.

Почему так? И как этого избежать?
Читайте об этом в новом посте (7 мин. чтения):
- на Medium https://bit.do/fdEMf
- На Яндекс Дзен https://clck.ru/JbAxN

#СильныйИИ #AGI #МашинноеОбучение #IRL