Так что же будет - Большая война или Парадоксальная цивилизация?
Развилки и сценарии будущего от одного из авторов сингулярной «Вертикали Снукса-Панова»

— На какой развилке наиболее кардинально изменилось направление хода истории?
— Какова вероятность Большой войны в ближайшие 5-10 лет?
— Какого глобального кризиса не избежать?
— Почему мир будущего может быть только сетевым, а не иерархическим?
— Превращение нашей цивилизации в «Парадоксальную цивилизацию» неизбежно?
— Разрешима ли проблема поиска внеземных цивилизаций?

Этот колоссально интересный букет вопросов поставлен в смартмастриде А.Д.Панова «Вселенский бросок монеты» https://goo.gl/HeUD2k

Вас, возможно, удивляет, что и 2й рекомендуемый мною смартмастрид (1й см. здесь https://goo.gl/7hmQm8 ) написан А.Д.Пановым.
Меня это не удивляет уже много лет. Удивляет другое. Насколько ничтожно число людей, знакомых с этими интереснейшими работами, значимость которых для понимания мира настоящего и будущего трудно переоценить.
Они непостижимо сочетают крышесрывательные провидения с ироничной научной педантичностью – это всё, мол, типа многомировой интерпретации квантовой механики Эверетта-Уилера, – «только эвристическая точка зрения, не имеющая научного статуса, но люди над этим работают…»
Не буду отвешивать комплементов автору, которому от этого ни холодно ни жарко. Пусть точки над i расставит история науки. Тем же, кто все еще предпочитает читать лишь мейнстримные работы ученых узкой специализации, лишь порекомендую посмотреть сериал «Гений» https://goo.gl/Ckqt3B . Ведь и так бывает.

Мне нечего добавить к сказанному в статье. Даже спустя 5 лет с её написания.
И даже иначе – особенно спустя 5 лет с её написания, когда первое из высказанных в ней предсказаний, к сожалению, уже начало сбываться, и события развиваются по наихудшему сценарию.

Единственное, что я мог сделать – перенести статью на платформу Medium, чтобы ее могли прочесть как можно больше читателей.

По той же причине репосты весьма приветствуются.

Как еще сагитировать прочесть этот смартмастрид? Ну может так.

«Бог не играет в кости со Вселенной», сказал Альберт Эйнштейн, бросая вызов коллегам, разрабатывавшим новую теорию — квантовую механику.

Бог бросает монету. А будет ли орел или решка, зависит не от монеты и даже не от Бога, а от того, в какой из миров мы попали. Об этом, как мне кажется, и написал А.Д.Панов во «Вселенском броске монеты».

P.S. Чтобы дать возможность, не отвлекаясь на новые публикации, прочесть эту статью как можно большему числу читателей, канал «Малоизвестное интересное» приостанавливает новые публикации на несколько дней. Очень надеюсь, что вы найдете время на ее прочтение.

«Вселенский бросок монеты» https://goo.gl/HeUD2k

#Смартмастрид #Будущее #БольшаяВойна #ИИ

Новый «Момент спутника» подкрался незаметно

Вчера Президент США Дональд Трамп подписал 716 млрд. оборонный бюджет на 2019 финансовый год.
Среди главные направлений — не только создание космических войск, но и расширение исследований в области искусственного интеллекта.
Что это - новый «Момент спутника»?

Впервые США пережили «Sputnik moment» в 1957, испытав шок от запуска СССР первого советского спутника. С тех пор «Момент спутника» стал в США символом осознания, что страна может потерять свое экономическое и политическое положение из-за наметившегося технологического отставания от других стран.
И не важно, было ли 60 лет назад реальное отставание США от СССР в сфере ракетных вооружений (на самом деле, никакого отставания не было). Но когда СССР опередил США в запуске 1го спутника, а Хрущев потом заявил, что ракеты сходят с советских сборочных линий «как сосиски», - «Момент спутника» неожиданно наступил.

Уже на президентских выборах 1960 года Джон Кеннеди пообещал покончить с отставанием в сфере ракетных вооружений, высмеяв Ричарда Никсона и заявив: «Мне кажется, что цветное телевидение не столь важно, как мощность ракетного двигателя».
Результатом осознания «Момента спутника» в США стал не только долгий приход к власти демократов (1958, 1960, 1962), но и технологический прорыв США, приведший к их высадке на Луне уже в 1969.
А также, что, наверное, еще более важно, - «Момент спутника» запустил новый этап гонки вооружений, закончившийся Звездными войнами Рональда Рейгана и последующим развалом СССР.

И вот история повторяется через 60 лет.
США могут потерять свое экономическое и политическое положение в мире, если не разработают всеобъемлющий высокоприоритетный план развития ИИ. Это серьезное предупреждение из нового отчета Strategic Competition in an Era of Artificial Intelligence, опубликованного Центром новой американской безопасности (CNAS).
Уже несколько стран – пишет отчет, - включая Китай, Индию, Францию и Великобританию объявили о крупных национальных инициативах в развитии своих национальных ИИ технологий. Эксперты рекомендуют США срочно последовать этому примеру, но Белый дом Трампа предпочитает пока что бить баклуши. А время уходит.
Исследование CNAS пишет, что ИИ будет иметь такое широкое влияние на оборону, дипломатию, разведку, экономическую конкурентоспособность и социальную стабильность, что правительство должно рассматривать это как новую космическую гонку вооружений.
«Замедление развития и внедрения ИИ будет представлять угрозу для глобального экономического и военного лидерства США. Соединенные Штаты вполне могут оказаться в новой космической гонке, но в отличие от Китая, Соединенные Штаты еще не испытали истинный «момент Спутника» с точки зрения более широкой общественности и политиков».

• Резюме отчета от MIT https://goo.gl/FjuUrG
• Авторский обзор отчета и его полный текст в pdf https://goo.gl/54Mtgr (26 стр., 82 ссылки, 3 кейса: Китай, Индия, Россия)

#ИИ #БольшаяВойна

Влияние технологий ИИ становится все более повсеместным. Они меняют бытовые детали и способы организации нашей жизни, рынок труда, взаимоотношения продавцов и покупателей, способы потребления нами информации и услуг.
Однако судьба мира будущего, какими будут его экономика и политика, как в нем будут решаться вопросы войны и мира, - впрямую не зависит от развития технологий ИИ.
Как и раньше, - при Наполеоне, Кайзере и Гитлере, решение глобальных вопросов мироопределения, по-прежнему, определяется геополитическими интересами наиболее могущественных стран.

В этой связи возникает интересный и весьма важный вопрос.
✔️ А каково влияние технологий ИИ на геополитику?

Результат проведенного мною анализа обширного корпуса документов дает такой ответ на этот вопрос.
— Влияние технологий ИИ на геополитику становится определяющим.
— Новые глобальные тренды ИИ-национализма и ИИ-национализации не просто сменят позицию на мировой шахматной доске, — они поменяют размер доски, набор фигур и правила игры.

Об этом мой новый лонгрид, опубликованный вчера на сайте Российского совета по международным делам (РСМД).

Для тех, кто предпочтет читать в Instant View мессенджера, лонгрид доступен в стандартном Medium-зеркале моего канала https://bit.ly/2Nxbt6V

Для тех же, кто будет читать структурированный лонгрид на компьютере, вот ссылка на сайт РСМД https://russiancouncil.ru/ai
А это Телеграм-канал РСМД @russiancouncil

Время чтения – 33 мин. с прилагаемым списком из 37 многостраничных отчетов (а вы как хотели, если вопрос такой?)

#ИИ #БольшаяВойна #Геополитика

Не прочесть этот лучший за последний год лонгрид о влиянии связки «ИИ – Геополитика – Экономика» на судьбы мира, - будет большой ошибкой. Уровень проникновения в тему и точность вИдения ближайшего будущего – беспрецедентны для СМИ (эссе выйдет в ноябрьском журнале WIRED).
Ну а пока вы его еще не прочли, желающие могут прочесть мой резюме https://bit.ly/2AACEdW

#ИИ #БольшаяВойна #Геополитика

Обречен ли мир?
Опубликована новая фундаментальная работа Ника Бострома «Гипотеза Уязвимого Мира».
В ней Бостром:
- классифицирует и анализирует сценарии, при которых технологические уязвимости подводят мир к краю пропасти;
- предлагает два взаимодополняющих варианта действий, способных, по его мнению, помочь человечеству избежать гибели.
Это важно по двум причинам.
Во-первых, тема, важнее которой, наверное, и нет.
Во-вторых, потенциал влияния идей автора. Он – признанный авторитет для самых известных и влиятельных людей бизнеса (от Билла Гейтса до Илона Маска). А поскольку его новая работа ориентирована на сильных мира сего, способных определять путь развития человечества, она может повлиять не только крупных бизнесменов, но и на ведущих политиков. И не только в вопросах технологий, а также в вопросах безопасности и геополитики.

В моем новом посте на 7 мин:
- резюме работы «Гипотеза Уязвимого Мира»
- анализ дополнительных аргументов (как за, так и против), не вошедших в работу Бострома, но важных для оценки предлагаемых им подходов спасения человечества.
Читать на Medium (https://bit.ly/2Qnra7e)
Читать на Яндекс Дзен (https://bit.ly/2SsOFbe)

#БольшаяВойна #ИИ #ГлобальныеРиски

Ровно два года назад в 1ом посте серии «Большой войны не миновать» я рассказал, как в ходе Нобелевского симпозиума Нассим Талеб опроверг теорию Стивена Пинкера о будто бы уже начавшейся эпохе «долгого мира» с неуклонным падением уровня насилия, снижением кровопролитности и числа войн. Нассим Талеб математически обосновал совершенно противоположный и страшный вывод.

Большой войны с десятками миллионов жертв человечеству не миновать.

Год назад я опубликовал 2й пост этой серии, названный «Большая война ближе, чем мы думаем». В нем было рассказано о результатах исследования Аарона Клаузета, подтвердившего правоту Талеба и доказавшего следующее.

Мы живем в циклической реальности, в которой на смену всё более «долгого мира» идут всё более кровопролитные войны.

И вот только что опубликовано исследование Уго Барди с коллегами, доводящее счет в легендарном споре Талеба и Пинкера о судьбе человечества до разгромных 3:0. Результаты интеллектуального анализа данных самой большой в мире базы о жертвах войн за 600 лет еще раз (и похоже, окончательно) развенчали идеи «долгого мира» и «снижения уровня насилия», отстаиваемые Стивеном Пинкером, и поддерживаемые многими другими известными интеллектуалами.

Вердикт нового исследования ужасен.

В недалеком будущем мир ждет война ещё более кровопролитная, чем 2я Мировая.
Но это не всё.

Еще более поражает интегральный результат трех работ — Талеба, Клаузета и Барди,— переводящий наши представления о войне из области качественных гуманитарных оценок и категорий в естественнонаучную область математически формулируемых гипотез и их экспериментальной проверки на моделях, позволяющих количественную оценку их точности.

Война — это встроенный в структуру общества механизм эффективного снижения энтропии человеческих обществ — сложных систем, живущих на кромке хаоса в состоянии самоорганизованной критичности.

Что это? Почему так? Причем здесь энтропия? И что из всего этого следует, — обо всем этом желающие могут прочесть в 3ей, завершающей статье серии «Большой войны не миновать».
На Medium https://bit.ly/2TyLaAH или https://goo.gl/S9nT3A
На Яндекс Дзен https://bit.ly/2RyfdLH или https://goo.gl/jb4Qv7

#БольшаяВойна #SOC #Энтропия

Каковы шансы войны, которая уничтожит большую часть человечества? Это более вероятно, чем вы думаете.
Пишу об этом уже 2 года. Последний раз всего 12 дней назад – 8го января (ссылка в конце).
Спрашивается, - сколько можно стращать, и зачем так чащу?
Да затем, что еще со времен Кассандры известно, что умное планирование подразумевает обязательный учет наихудшего сценария. И не делать это чревато …

Отклики читателей на мой пост от 8 января были разнообразны.
Оппоненты приводят, в основном, две группы контраргументов.
1) Будущее принципиально непредсказуемо, и потому все прогнозы мало чего стоят.
2) Статистические выкладки не заслуживают доверия, потому что (1) неполные данные и/или потому, что (2) тренды кардинально изменились – формальных доказательств этого нет, но статистика последних десятилетий обнадеживает (читайте Стивена Пинкера).

Что на это ответить? … Не знаю.
Но вот Уго Барди – автор работы, о которой я писал 8го января (профессор физической химии универа Флоренции, уже 10+ лет специализирующийся на матанализе экзистенциальных прогнозов) позавчера в своем блоге ответил оппонентам так.

«Недавно вместе со своими коллегами я занимался статистическим анализом войн за последние 600 лет. Результаты были отрезвляющими: война, похоже, является статистическим явлением, подобным землетрясениям и лесным пожарам.
Войны возникают в соответствии с четко определенными статистическими закономерностями, и с этим мало что можно поделать.
Аарон Клуазет - другой ученый, который работает над той же самой темой, в весьма отрезвляющем анализе рассчитал вероятности будущих войн.
По его подсчетам, крупная война масштаба 2й мировой имеет более 40% шансов произойти в течение ближайших 100 лет.
А война с более чем миллиардом погибших, которая может уничтожить большую часть человечества, с вероятностью 5% может произойти менее чем за 4 столетия.
Самое важное здесь то, что сказанное вовсе не значит, что мы можем расслабиться на ближайшие 4 века. Совсем нет.
Математически правильная трактовка этого прогноза - мы можем ожидать уничтожения значительной части человечества с 5%ной вероятностью в ЛЮБОЙ МОМЕНТ будущего, в течение ближайших 4 столетий».

Осталось осознать, что же представляет собой 5%ная вероятность.
Представьте такой вариант при игре в кости. Например, выпадает шестерка, а затем еще раз шестерка или пятерка. Вероятность того, что этот вариант может случиться при ваших 2х очередных бросках и есть примерно 5%.
Поставите судьбу человечества на кон, утверждая, что такой вариант крайне маловероятен?

Блог Уго Барди называется «Завет Кассандры – всегда планируйте возможность наихудшего сценария».
И это не алармизм, а житейская мудрость, которую люди всегда знали и никогда ей не следовали.

Как у Высоцкого:
Без умолку безумная девица
Кричала: "Ясно вижу Трою павшей в прах!"
Но ясновидцев - впрочем, как и очевидцев -
Во все века сжигали люди на кострах.


Допматериалы:
• Пост Уго Барди https://bit.do/eF2iz с «комментарием к нему» В.С.Высоцкого https://www.youtube.com/watch?v=PYHPS9tDsZo
• Мой пост «Окончательный диагноз — большой войны не миновать» https://bit.do/eF2ih

#БольшаяВойна

Пентагон совместно с Трампом обломал рога Google.
Самая строптивая компания США будет работать на Пентагон.
Многие сомневались, когда полгода назад я написал, что «впереди ИИ-национализм и ИИ-национализация», и что Госдеп и военные США скоро всерьез возьмутся за «хипстеров Силиконовой долины», и никуда последние не денутся …
Ну вот и дождались.
27го марта Трамп вызвал на ковер в Вашингтон гендира Google Сундара Пичаи и открытым текстом заявил ему, что сотрудничество Google с Китаем не только идет на пользу китайским военным, но и наносит колоссальный вред обороноспособности США.
Этот наезд на высшем уровне был подготовлен Председателем Объединенного комитета начальников штабов США генералом Джозефом Данфордом. 14го марта, выступая в Комитете Сената по вооруженным силам, генерал разнес в пух и прах Google за его сотрудничество с Китаем в области ИИ.
Через день после этого Трамп написал твит, получивший 26К+ ретвитов и 100К+ лайков:
«Google помогает Китаю и их военным, а не США. Ужас! Хорошая новость здесь лишь в том, что они уже помогали лживой Хиллари Клинтон, а не Трампу ... и что в итоге из этого получилось?»

Наездом в Твиттере дело не кончилось. Через неделю гендир Google был на президентском ковре. Разговор шел
- о необходимости радикального сокращения широкого спектра партнерства Google с китайским бизнесом, напрямую завязанным с китайскими военными программой «военно-гражданской интеграции»,
- об «отсутствии готовности у Google поддерживать программы Министерства обороны США» (цитата и.о. министра обороны США Шанахана) и, в 1ю очередь, автономных «роботов-киллеров».

В результате бурного разговора, Пичаи слился. А Трамп гордо твитнул:
«Только что встретился с @SundarPichai, президентом @Google, который явно делает успехи. Он решительно заверил, что абсолютно предан делу военных США, а вовсе не китайских военных....
Также обсуждались вопросы политической лояльности и многого из того, что @ Google может сделать для нашей страны. Встреча закончилась очень хорошо!»

На очереди наезд Пентагона на Amazon и Microsoft, объявивших о создании собственных лабораторий ИИ в Китае.
Подробней https://spectrum.ieee.org/tech-talk/aerospace/military/pentagon-warns-silicon-valley-about-aiding-chinese-military
#ИИ #БольшаяВойна #Геополитика

Россия включается в мировую ИИ-гонку. США тормозит. А Китай уходит в отрыв.
Последние новости позволяют оценить серьезность и масштаб российских претензий в мировой ИИ-гонке, а также расклад мировых сил в этой гонке на ближайшие год-два.
Новости такие.
РОССИЯ
• Сегодня Путин проведет совещание по развитию технологий в области ИИ. Центральной темой встречи станет обсуждение разработанной Сбербанком национальной стратегии развития искусственного интеллекта.
• Сегодня же объявлено о конкретных цифрах финансирования, полученных РФПИ от иностранных инвесторов для финансирования российских компаний в сфере ИИ - $2 млрд.
• Исходя из российской практики, можно предположить, что федеральные инвестиции в ИИ составят примерно ту же сумму – до $2 млрд.
США
• 21 мая 2 сенатора США представили национальную стратегию по ИИ. Сенаторы - соучредители Совета по ИИ Сената, - совместно с членом Комитета по торговле Сената, представили S. 1558 - двухпартийный Закон об инициативе в области ИИ (AI-IA). Его цель - координация национальной стратегии развития ИИ, обеспечиваемой федеральными инвестициями в размере $2,2 млрд.

Из этих новостей можно сделать такие выводы.
1) Объемы федеральных инвестиций в ИИ со стороны России и в США будут примерно одинаковые – примерно, по $2 млрд.
2) Инвестиции в ИИ со стороны бизнеса России и США отличаются на полтора порядка. Заявление Грефа «мы будем точно не хуже Google и Apple» останутся благими пожеланиями при текущем уровне финансирования НИОКР. Например, в Google в 2018 бюджет НИОКР был $21 млрд. В Сбербанке на полтора порядка меньше.
3) Т.о. суммарное финансирование развития ИИ правительством и бизнесом США и России будет примерно $30+ млрд против $4+ млрд.
Ну а теперь самое интересное.
КИТАЙ
Лучшим источником данных по ИИ Китая сейчас служит разведка США. Сами китайцы, конечно, тоже много публикуют, но сильно дозируют информацию, давая её под выгодным для себя углом зрения.

Но разведка США держит руку на пульсе. Две недели назад Комитет по разведке Палаты представителей США провел открытые слушания на тему «Цифровой авторитаризм Китая: наблюдение, влияние и политический контроль».
Желающие могут почитать все тексты слушаний и посмотреть выступления экспертов.
Резюме удручающее.
1) Китай развертывает в беспрецедентных масштабах широкую сеть наблюдения, которая использует достижения ИИ и МО для устранения внутриполитического инакомыслия и оптимизации политического контроля Компартии.
2) Китай экспортирует эту модель технологического социального контроля в страны всего мира, способствуя международному возрождению и скатыванию к авторитаризму во многих странах с формирующейся демократией.
3) Принятые и экспортируемые Китаем инвазивные меры наблюдения направленны на оптимизацию политического контроля и включают в себя (а) систему социального кредитования и (б) интегрированное решение Huawei «Безопасный город».
4) Эти попытки Пекина бросить вызов международному порядку поддерживаются беспрецедентным финансированием, как со стороны государства (порядка $30-40 млрд), так и со стороны бизнеса (порядка $60-80 млрд)

Подводя итог, зафиксируем, что суммарное финансирование развития ИИ Китаем превысит объемы финансирования:
• США – примерно втрое;
• России – примерно в 20+ раз.
#ИИ #БольшаяВойна #Геополитика

США близки к проигрышу ИИ-гонки Китаю
Итоговый анализ технологических, финансовых и политических действий США и Китая по состоянию на июнь 2019 позволяет констатировать вышесказанное.
Во вчерашнем посте дана оценка объемов финансирования развития ИИ США и Китаем на ближайшие годы.
Ранее, в феврале сего года, когда еще не было окончательной ясности позиции США в этом вопросе, я писал что: Китай обходит США в ИИ-гонке. США сдаваться не намерены, но переломить ситуацию пока не могут. Дополнительные материалы к приведенному в упомянутом посте анализу можно найти в презентации доклада, прочитанного в феврале мною в Американской торговой палате (AmCham Russia).
Мой доклад заканчивался цитатой Венди Андерсона – экс-замначальника Генштаба США,
GM Defense & National Security:
«На сегодняшний день мы, в основном, участвуем в дебатах о запрете экспорта ИИ. В отсутствие значительных федеральных расходов на ИИ и отсутствия надежной национальной стратегии в области ИИ мы теперь еще и пытаемся ограничить способность наших частных компаний получать доступ к капиталу посредством международных продаж на крупнейшие мировые рынки …Мы проигрываем эту гонку».

Прошедшие с моего доклада 4 месяца позволяют предположить, что можно перефразировать итоговую фразу этой цитаты на - … Мы близки к проигрышу этой гонки.

Но ведь просто так США гонку не проиграют. Сверхдержава, столько лет бывшая единственным лидером в области ИИ, рано или поздно опомнится.
И что будет тогда?

Остается только уповать, что прогноз из доклада Директора Open AI Джека Кларка о возможном «ИИ-Чернобыле» (см. «Artificial Intelligence and Countries: What Might Happen, What We'd Like to Happen, What We Should Avoid Letting Happen» в «Technology and National Security: Maintaining America's Edge») все же не сбудется.
«Если правительство считает, что оно не участвует в гонке, сотрудничая с другими частными или государственными субъектами, у него появится стимул к тому, чтобы срезать углы на методах предсказуемости, надежности и отказоустойчивости таких систем. Это может привести к развертыванию мощных ИИ-систем с непредсказуемыми профилями риска-приглашая нас задаться вопросом, как может выглядеть ИИ-Чернобыль».

Китай перспектива мирового «ИИ-Чернобыля» вряд ли остановит.
А вот США?

#ИИ #БольшаяВойна #Геополитика