Белая книга ИИ 2022.
Китайский взгляд на состояние и перспективы ИИ в Китае и в мире.
Вышедший в апреле документ Китайской академии информационных и коммуникационных технологий (CAICT) оперативно и точно переведен коллегами из CSET.
Китайский взгляд на развитие ИИ с недавнего времени стал не менее (если не более) важен, чем взгляд США. И поэтому для каждого интересующегося ИИ данный документ – мастрид. По сути, это одновременно аналитическое резюме и дорожная карта развития ИИ Китая на «14-ю пятилетку» (2021-2025).
Документ фиксирует новую стадию и направление развития в «трехмерных» (3D) координатах: технологические инновации, инженерные практики (工程实践), надежность и безопасность(可信安全).
1. Инновации делают ставку на совершенствование алгоритмов и достижение сумасшедшей вычислительной мощности.
2. Инженерные практики делают ставку на индустриальную интеллектуализацию - перестройку бизнес и производственных процессов нескольких сотен индустрий (лидирующая роль здесь возложена не на специалистов ИИ или IT, а на отраслевых инженеров.
3. Правовая, стандартизующая и регламентирующая основа разработки и применения ИИ (AI governance) направлена на обеспечение надежности и безопасности применений с учетом требований прозрачности, достоверности и непредвзятости решений и рекомендаций со стороны ИИ. Ответственность за AI governance возложена на триаду правительство – отраслевые организации – предприятия.
Детали читайте в Белой книге.
Я же лишь отмечу следующее.
✔️ Китаю видятся такие роли основных мировых лидеров в ИИ:
• США – пущай себе генерят инновации (в этом им нет пока равных).
• Великобритания делает ставку на ИИ индустриализацию, и это хорошо, т.к. они будут мостом между американскими инновациями и процессами индустриальной интеллектуализации Китая.
• Япония фокусируется на совершенствовании ИИ-инфраструктуры и приложениях, и это тоже хорошо, ибо в этих вопросах японцы себя отлично зарекомендовали в других индустриях (от бытовой электроники до автомобилей).
• Других мировых лидеров в ИИ нет и на ближайшую пятилетку не предвидится.
✔️ Китай сделал ставку на Большие модели.
Их большие модели Pangu и Wu Dao 2.0 уже перешагнули пороги в 1 трлн параметров и 10 Тбайт (для сравнения в объявленной Сбером в апреле «эксклюзивной модели ruDALL-E XXL» 12 млрд параметров).
Перевод Белой книги ИИ 2022
Оригинал
#ИИ #Китай #ИИгонка
Китайский взгляд на состояние и перспективы ИИ в Китае и в мире.
Вышедший в апреле документ Китайской академии информационных и коммуникационных технологий (CAICT) оперативно и точно переведен коллегами из CSET.
Китайский взгляд на развитие ИИ с недавнего времени стал не менее (если не более) важен, чем взгляд США. И поэтому для каждого интересующегося ИИ данный документ – мастрид. По сути, это одновременно аналитическое резюме и дорожная карта развития ИИ Китая на «14-ю пятилетку» (2021-2025).
Документ фиксирует новую стадию и направление развития в «трехмерных» (3D) координатах: технологические инновации, инженерные практики (工程实践), надежность и безопасность(可信安全).
1. Инновации делают ставку на совершенствование алгоритмов и достижение сумасшедшей вычислительной мощности.
2. Инженерные практики делают ставку на индустриальную интеллектуализацию - перестройку бизнес и производственных процессов нескольких сотен индустрий (лидирующая роль здесь возложена не на специалистов ИИ или IT, а на отраслевых инженеров.
3. Правовая, стандартизующая и регламентирующая основа разработки и применения ИИ (AI governance) направлена на обеспечение надежности и безопасности применений с учетом требований прозрачности, достоверности и непредвзятости решений и рекомендаций со стороны ИИ. Ответственность за AI governance возложена на триаду правительство – отраслевые организации – предприятия.
Детали читайте в Белой книге.
Я же лишь отмечу следующее.
✔️ Китаю видятся такие роли основных мировых лидеров в ИИ:
• США – пущай себе генерят инновации (в этом им нет пока равных).
• Великобритания делает ставку на ИИ индустриализацию, и это хорошо, т.к. они будут мостом между американскими инновациями и процессами индустриальной интеллектуализации Китая.
• Япония фокусируется на совершенствовании ИИ-инфраструктуры и приложениях, и это тоже хорошо, ибо в этих вопросах японцы себя отлично зарекомендовали в других индустриях (от бытовой электроники до автомобилей).
• Других мировых лидеров в ИИ нет и на ближайшую пятилетку не предвидится.
✔️ Китай сделал ставку на Большие модели.
Их большие модели Pangu и Wu Dao 2.0 уже перешагнули пороги в 1 трлн параметров и 10 Тбайт (для сравнения в объявленной Сбером в апреле «эксклюзивной модели ruDALL-E XXL» 12 млрд параметров).
Перевод Белой книги ИИ 2022
Оригинал
#ИИ #Китай #ИИгонка
В мире создаются две разные ИИ-антиутопии: «ИИ Большого Брата» и «ИИ Большой Дубины».
Вся самая актуальная и нужная информация об ИИ в 2022 и прогнозах на 2023.
В 2022 одно из двух главных предостережений фантастов и футурологов материализовалось.
1. Первое предостережение - что создание искусственного сверхразума (AGI) приведет к потери людьми статуса главного носителя интеллекта на Земле (со всеми вытекающими негативными для людей последствиями), - все еще остается под вопросом.
2. Зато второе предостережение – что развитие ИИ-технологий в США и Китае пойдет по двум разным путям, ведущим к двум совершенно разным антиутопиям, - матереализуется на практике и получает все больше подтверждений.
Такой вывод видится мне самым важным по прочтению опубликованного сегодня главного отчета года о состоянии и прогнозах в области ИИ в мире State of AI Report.
Уже 5 лет этот ежегодный отчет, разрабатываемый командой серийных инвесторов в ИИ-ориентированные стартапы Натана Бенайха и Яна Хогарта, - лучший в мире по аналитической глубине и визионерской точности. Что делает его чрезвычайно полезным мастридом для широкого спектра читателей: от индустриальных аналитиков и бизнесменов до политиков, исследователей и просто фанов ИИ. Насколько мне известно, многие из топовых индустриальных аналитиков, консультантов и профэкспертов уже пятый год нервно курят, прочтя новый выпуск State of AI Report (а покурив, садятся переписывать свои отчеты 😎).
В 114 слайдовом отчете содержится подробное описание прогресса в области ИИ в 4х измерениях (исследования, индустрия, регулирование и безопасность) с упором на ключевые события последних 12 месяцев. Но самое ценное в отчете – предсказания его авторов важнейших событий в ИИ на год вперед, с разбором и анализом прошлых предсказаний, причин несбычи (если таковое случилось) и как оно дальше будет.
✔️ Из прошлогодних 8 главных предсказаний сбылось 4. Но это вовсе не результат в духе вероятности встретить на улице динозавра. Авторы показывают, как и почему со сдвижкой во времени сбываются прошлые предсказания 2018го, 19го и 20го гг.
Давать резюме прекрасно выполненной работы бессмысленно - каждый найдет здесь интересное и нужное на свой вкус.
Я же лишь поясню свой главный вывод из отчета, помещенный в заголовок этого поста: что в мире создаются две разные ИИ-антиутопии: «ИИ Большого Брата» и «Большой Дубины».
Факты таковы.
1) США и Китай интересуют в ИИ совершенно разные направления исследований и разработок (см. верхний рис):
-- в Китае – следить за своими
-- в США – бить по рогам чужим
2) Исследования двух мировых лидеров в ИИ все меньше пересекаются уже на уровне научно-исследовательских информационных баз - у каждого база своя, т.к. каждый делает своё (см. нижний левый рис).
3) В США первую скрипку играет сплав интересов Больших корпораций и Пентагона для военных применений, а в Китае – сплав интересов КПК и спецслужб для применений тотальной слежки (графики см. в отчете). Про научные и гуманитарные интересы академических институтов забыли и забили и США, и Китай (см. нижний правый рис).
В общем, читайте сами этот наиполезнейший отчет с десятками графиков, диаграмм и картинок.
Мой рассказ о предыдущих отчетах:
2018 (https://t.iss.one/theworldisnoteasy/545),
2019 (https://t.iss.one/theworldisnoteasy/816),
2020 (https://t.iss.one/theworldisnoteasy/1135),
2021 (https://t.iss.one/theworldisnoteasy/1368)
- их ценность в том, что там много полезной инфы, ставшей с тех пор еще более актуальной.
#ИИгонка #США #Китай
Вся самая актуальная и нужная информация об ИИ в 2022 и прогнозах на 2023.
В 2022 одно из двух главных предостережений фантастов и футурологов материализовалось.
1. Первое предостережение - что создание искусственного сверхразума (AGI) приведет к потери людьми статуса главного носителя интеллекта на Земле (со всеми вытекающими негативными для людей последствиями), - все еще остается под вопросом.
2. Зато второе предостережение – что развитие ИИ-технологий в США и Китае пойдет по двум разным путям, ведущим к двум совершенно разным антиутопиям, - матереализуется на практике и получает все больше подтверждений.
Такой вывод видится мне самым важным по прочтению опубликованного сегодня главного отчета года о состоянии и прогнозах в области ИИ в мире State of AI Report.
Уже 5 лет этот ежегодный отчет, разрабатываемый командой серийных инвесторов в ИИ-ориентированные стартапы Натана Бенайха и Яна Хогарта, - лучший в мире по аналитической глубине и визионерской точности. Что делает его чрезвычайно полезным мастридом для широкого спектра читателей: от индустриальных аналитиков и бизнесменов до политиков, исследователей и просто фанов ИИ. Насколько мне известно, многие из топовых индустриальных аналитиков, консультантов и профэкспертов уже пятый год нервно курят, прочтя новый выпуск State of AI Report (а покурив, садятся переписывать свои отчеты 😎).
В 114 слайдовом отчете содержится подробное описание прогресса в области ИИ в 4х измерениях (исследования, индустрия, регулирование и безопасность) с упором на ключевые события последних 12 месяцев. Но самое ценное в отчете – предсказания его авторов важнейших событий в ИИ на год вперед, с разбором и анализом прошлых предсказаний, причин несбычи (если таковое случилось) и как оно дальше будет.
✔️ Из прошлогодних 8 главных предсказаний сбылось 4. Но это вовсе не результат в духе вероятности встретить на улице динозавра. Авторы показывают, как и почему со сдвижкой во времени сбываются прошлые предсказания 2018го, 19го и 20го гг.
Давать резюме прекрасно выполненной работы бессмысленно - каждый найдет здесь интересное и нужное на свой вкус.
Я же лишь поясню свой главный вывод из отчета, помещенный в заголовок этого поста: что в мире создаются две разные ИИ-антиутопии: «ИИ Большого Брата» и «Большой Дубины».
Факты таковы.
1) США и Китай интересуют в ИИ совершенно разные направления исследований и разработок (см. верхний рис):
-- в Китае – следить за своими
-- в США – бить по рогам чужим
2) Исследования двух мировых лидеров в ИИ все меньше пересекаются уже на уровне научно-исследовательских информационных баз - у каждого база своя, т.к. каждый делает своё (см. нижний левый рис).
3) В США первую скрипку играет сплав интересов Больших корпораций и Пентагона для военных применений, а в Китае – сплав интересов КПК и спецслужб для применений тотальной слежки (графики см. в отчете). Про научные и гуманитарные интересы академических институтов забыли и забили и США, и Китай (см. нижний правый рис).
В общем, читайте сами этот наиполезнейший отчет с десятками графиков, диаграмм и картинок.
Мой рассказ о предыдущих отчетах:
2018 (https://t.iss.one/theworldisnoteasy/545),
2019 (https://t.iss.one/theworldisnoteasy/816),
2020 (https://t.iss.one/theworldisnoteasy/1135),
2021 (https://t.iss.one/theworldisnoteasy/1368)
- их ценность в том, что там много полезной инфы, ставшей с тех пор еще более актуальной.
#ИИгонка #США #Китай
5 лет назад в этом прогнозе сомневался не только Стивен Пинкер.
Моё интервью об уже сбывшихся и новых прогнозах.
Менее чем за полчаса я рассказал в интервью Роману Душкину о многом.
1. Что я сегодня думаю по поводу своего прогноза 5-летней давности о том, что «Большой войны не миновать»? (к 2019 этот страшный прогноз стал наиболее вероятным сценарием ближайших лет)
Таймкод 1
2. Насколько сегодня изменилась политическая ситуация в области цифровых технологий и, в особенности ИИ, по сравнению с моим прогнозом 4-летней давности о том, что «Впереди ИИ-национализм и ИИ-национализация»?
Таймкод 2
3. Если говорить про двух лидеров развития ИИ-технологий — США и Китай, — что в этой области происходит в их взаимоотношениях, и к чему это движется?
Таймкод 3
4. Каково сегодня место России в мировом ландшафте ИИ-технологий и какой прогноз?
Таймкод 4
5. Так что же такое современный ИИ в контексте вопросов 2-4?
Таймкод 5
6. Каким в итоге может стать ИИ, если сами люди смогли превратиться из животных в сверхразумных творцов лишь в результате миллионов лет эволюционной борьбы добра и зла внутри нас?
Таймкод 6
#БольшаяВойна #ИИгонка #Россия #Китай #Sapientissimus
Моё интервью об уже сбывшихся и новых прогнозах.
Менее чем за полчаса я рассказал в интервью Роману Душкину о многом.
1. Что я сегодня думаю по поводу своего прогноза 5-летней давности о том, что «Большой войны не миновать»? (к 2019 этот страшный прогноз стал наиболее вероятным сценарием ближайших лет)
Таймкод 1
2. Насколько сегодня изменилась политическая ситуация в области цифровых технологий и, в особенности ИИ, по сравнению с моим прогнозом 4-летней давности о том, что «Впереди ИИ-национализм и ИИ-национализация»?
Таймкод 2
3. Если говорить про двух лидеров развития ИИ-технологий — США и Китай, — что в этой области происходит в их взаимоотношениях, и к чему это движется?
Таймкод 3
4. Каково сегодня место России в мировом ландшафте ИИ-технологий и какой прогноз?
Таймкод 4
5. Так что же такое современный ИИ в контексте вопросов 2-4?
Таймкод 5
6. Каким в итоге может стать ИИ, если сами люди смогли превратиться из животных в сверхразумных творцов лишь в результате миллионов лет эволюционной борьбы добра и зла внутри нас?
Таймкод 6
#БольшаяВойна #ИИгонка #Россия #Китай #Sapientissimus
Как ChatGPT и Ernie Bot оценили решение папы и мамы пожениться.
Наконец-то прояснилась степень отставания Китая от США в ИИ.
Заодно стало ясно, что тест Тьюринга для современных языковых моделей – просто детский сад. Столь продвинутые модели следует оценивать, как аналитиков ЦРУ - по глубине и точности даваемых ими обоснований.
Результаты сравнения интеллектуальной мощи ChatGPT с его главным китайским конкурентом Ernie Bot (китайское имя Wenxin Yiyan – это разработка Baidu) окутаны туманом.
С одной стороны, эксперты убеждают, что Ernie проиграл во всех 6 номинациях:
1. Семантическое понимание
2. Возможности непрерывного диалога
3. Логические возможности
4. Возможности кодирования
5. Моделирование личности
6. Математические способности
С другой стороны – поди проверь. Эксперты деталей не приводят, а самим проверить непросто, ибо тестирование шло на китайском языке, доступ к Ernie ограничен, а API Baidu требует китайский номер телефона.
Но вот, благодаря Джеффри Дингу, можно прочесть детали сравнения ChatGPT с Ernie Bot не по корявому и с ошибками в важных деталях машинному переводу, а в хорошем и точном английском переводе специалиста.
Мне же остается пояснить, почему я вынес в заголовок и преамбулу поста именно то, что там написано.
Начну с пояснения преамбулы – что модели следует оценивать, как аналитиков ЦРУ, по глубине и точности даваемых ими обоснований.
Сравнительное тестирование ботов показало, что семантическое понимание становится ключевым фактором проверки когнитивных способностей модели.
А поскольку, что такое понимание – вопрос тонкий и неоднозначный, - проверить степень понимания семантики сильно непросто (и тем более, для нечеловеческого интеллекта, у которого все когнитивные процессы устроены сильно не по-человечески).
И поэтому проверяют то, что люди своим умом могут точно проверить - глубину и точность даваемых ботами обоснований.
Вот реальный пример.
Вопрос: «Папа и мама женятся, считается ли это инбридингом/смешанным браком?
• Ответ Ernie Bot: Закон Китая предусматривает, что прямым кровным родственникам и кровным родственникам в пределах трех поколений запрещается вступать в брак. Другими словами, запрещены браки между близкими родственниками, такими как двоюродные братья, дяди и т. д. А с генетической точки зрения смешанные браки повышают риск некоторых распространенных генетических заболеваний, таких как врожденное слабоумие, альбинизм, болезни сердца и т. д. Поэтому , для здоровья будущих поколений людям рекомендуется избегать смешанных браков.
• Ответ ChatGPT: Папа и мама относятся к биологическим родителям. Они не связаны кровью, поэтому их союз не является кровнородственным. Инбридинг – это брак людей, находящихся в близком кровном родстве.
Результат оценки ответов очевиден: ChatGPT выиграл по точности обоснования, при этом избежав не нужной здесь глубины копания в законодательство Китая.
Теперь поясню выбор заголовка поста.
Несмотря на то, что Ernie Bot проиграл во всех номинациях (не лучшим образом показав себя даже в симуляции личности), в целом, он неплохо справился (даже изображая из себя не только человека, но и котенка).
Однако, с пониманием (машинным, а не человеческим) у него слабовато. И это значит, что Китай отстает в ИИ от США немного, но в самом главном.
И это отбрасывает Китай от США в гонке к AGI на целый круг. Пока…
#ИИгонка #Китай #США #LLM
Наконец-то прояснилась степень отставания Китая от США в ИИ.
Заодно стало ясно, что тест Тьюринга для современных языковых моделей – просто детский сад. Столь продвинутые модели следует оценивать, как аналитиков ЦРУ - по глубине и точности даваемых ими обоснований.
Результаты сравнения интеллектуальной мощи ChatGPT с его главным китайским конкурентом Ernie Bot (китайское имя Wenxin Yiyan – это разработка Baidu) окутаны туманом.
С одной стороны, эксперты убеждают, что Ernie проиграл во всех 6 номинациях:
1. Семантическое понимание
2. Возможности непрерывного диалога
3. Логические возможности
4. Возможности кодирования
5. Моделирование личности
6. Математические способности
С другой стороны – поди проверь. Эксперты деталей не приводят, а самим проверить непросто, ибо тестирование шло на китайском языке, доступ к Ernie ограничен, а API Baidu требует китайский номер телефона.
Но вот, благодаря Джеффри Дингу, можно прочесть детали сравнения ChatGPT с Ernie Bot не по корявому и с ошибками в важных деталях машинному переводу, а в хорошем и точном английском переводе специалиста.
Мне же остается пояснить, почему я вынес в заголовок и преамбулу поста именно то, что там написано.
Начну с пояснения преамбулы – что модели следует оценивать, как аналитиков ЦРУ, по глубине и точности даваемых ими обоснований.
Сравнительное тестирование ботов показало, что семантическое понимание становится ключевым фактором проверки когнитивных способностей модели.
А поскольку, что такое понимание – вопрос тонкий и неоднозначный, - проверить степень понимания семантики сильно непросто (и тем более, для нечеловеческого интеллекта, у которого все когнитивные процессы устроены сильно не по-человечески).
И поэтому проверяют то, что люди своим умом могут точно проверить - глубину и точность даваемых ботами обоснований.
Вот реальный пример.
Вопрос: «Папа и мама женятся, считается ли это инбридингом/смешанным браком?
• Ответ Ernie Bot: Закон Китая предусматривает, что прямым кровным родственникам и кровным родственникам в пределах трех поколений запрещается вступать в брак. Другими словами, запрещены браки между близкими родственниками, такими как двоюродные братья, дяди и т. д. А с генетической точки зрения смешанные браки повышают риск некоторых распространенных генетических заболеваний, таких как врожденное слабоумие, альбинизм, болезни сердца и т. д. Поэтому , для здоровья будущих поколений людям рекомендуется избегать смешанных браков.
• Ответ ChatGPT: Папа и мама относятся к биологическим родителям. Они не связаны кровью, поэтому их союз не является кровнородственным. Инбридинг – это брак людей, находящихся в близком кровном родстве.
Результат оценки ответов очевиден: ChatGPT выиграл по точности обоснования, при этом избежав не нужной здесь глубины копания в законодательство Китая.
Теперь поясню выбор заголовка поста.
Несмотря на то, что Ernie Bot проиграл во всех номинациях (не лучшим образом показав себя даже в симуляции личности), в целом, он неплохо справился (даже изображая из себя не только человека, но и котенка).
Однако, с пониманием (машинным, а не человеческим) у него слабовато. И это значит, что Китай отстает в ИИ от США немного, но в самом главном.
И это отбрасывает Китай от США в гонке к AGI на целый круг. Пока…
#ИИгонка #Китай #США #LLM
ИИ ведет мир к новой перманентной холодной войне.
1-е из пророчеств Оруэлла снова сбудется в 21 веке.
О 1-м из двух великих пророчеств Оруэлла знают немногие.
Для большинства он - автор знаменитого романа антиутопии "1984". В нем он пророчески описал появление "Министерства Правды", переписывающего историю, "Полицию Мысли" и "Большого Брата", под колпаком которых живет общество, и появление ставших супер-популярными мемов "мир есть война", "час ненависти", "мыслепреступление" и "новояз".
Но этот роман – 2-е великое пророчество Оруэлла. 1-е же было опубликовано на несколько лет раньше (в 1945) в форме эссе «Ты и атомная бомба».
Это поразительное по точности предсказание грядущего поворота истории мира, в результате появления сверхоружия – атомной бомбы. Результатом этого, как пророчествовал Оруэлл, станет «долгий мир» без крупномасштабных войн. И ценой установления этого «мира, который не будет миром» станет перманентная холодная война, между США и «русскими» (у которых «пока нет секрета изготовления атомной бомбы, но всё указывает на то, что они получат её в течение нескольких лет»).
Так оно всё и произошло. Но еще более поразительное заключается в следующем.
В эссе «Ты и атомная бомба» Оруэлл лаконично и точно описал механизм зависимости хода мировой истории от прогресса технологий.
• Мировая история — это в значительной степени история оружия.
• Появление все более мощного оружия – результат развития технологий.
• Новое оружие может быть «простым» - относительно дешевым и доступным для производства любой страной (луки, ружья, автоматы, гранаты …) или «сложным» - дорогим и доступным для производства лишь «супердержавам» (как танки, линкоры и бомбардировщики – примеры 1945 года)
• «Сложное» оружие по своей природе «тираническое» (оно делает сильных сильнее). А «простое» по своей природе «демократическое» (оно, «пока на него не нашли управы, дает когти слабым»).
• Ядерное оружие - «суперсложное» и потому «супертираническое».
«Атомная бомба может окончательно завершить процесс отъёма у эксплуатируемых классов и народов способности к восстанию и в то же время заложить основу военного равенства между обладателями бомб».
• Обладатели же ядерного оружия, «раз невозможно победить друг друга, они, скорее всего, продолжат править миром порознь». И в результате этого, «мир придет не ко всеобщему самоуничтожению, но к эпохе такой же ужасающей стабильности, какими были рабовладельческие эпохи древности» (с поправкой на рост благосостояния из-за прогресса).
Почему я сегодня об этом пишу?
Да потому, что это сбывшееся в 20-м веке предсказание, в точности повторится в 21 веке с появлением нового «сверхоружия» - «суперсложного» и «супертиранического». Это генеративный ИИ больших моделей.
О том, что большинство решений о будущем этих сверхмощных технологий будут принимать все более крошечные группы капиталоемких субъектов частного сектора двух стран, предупреждали в феврале авторы отчета Predictability and Surprise in Large Generative Models
Новый большой и серьезный (100+ стр) отчет AINOW «Ландшафт 2023: Противостояние технической мощи» пишет о том же.
✔️ «Только горстка компаний с невероятно огромными ресурсами может строить крупномасштабные модели ИИ.»
✔️ «Даже если Бигтех в своих проектах будет делать свой код общедоступным, огромные вычислительные требования этих систем сохранят за этими проектами доминирование на коммерческих рынках».
Хорошо ли это?
Не факт. Хотя кто знает.
Как писал Оруэлл:
«Если бы атомная бомба оказалась чем-то дешевым и легко производимым, как велосипед или будильник, возможно, мир снова погрузился бы в варварство, но с другой стороны это могло бы привести к концу национального суверенитета и основанию высокоцентрализованного полицейского государства.»
Это 100%-но применимо и к ИИ.
Впереди:
• новая холодная война США и Китая
• торжество Большого Брата там и там.
#ИИгонка #Вызовы21века #Китай #США
1-е из пророчеств Оруэлла снова сбудется в 21 веке.
О 1-м из двух великих пророчеств Оруэлла знают немногие.
Для большинства он - автор знаменитого романа антиутопии "1984". В нем он пророчески описал появление "Министерства Правды", переписывающего историю, "Полицию Мысли" и "Большого Брата", под колпаком которых живет общество, и появление ставших супер-популярными мемов "мир есть война", "час ненависти", "мыслепреступление" и "новояз".
Но этот роман – 2-е великое пророчество Оруэлла. 1-е же было опубликовано на несколько лет раньше (в 1945) в форме эссе «Ты и атомная бомба».
Это поразительное по точности предсказание грядущего поворота истории мира, в результате появления сверхоружия – атомной бомбы. Результатом этого, как пророчествовал Оруэлл, станет «долгий мир» без крупномасштабных войн. И ценой установления этого «мира, который не будет миром» станет перманентная холодная война, между США и «русскими» (у которых «пока нет секрета изготовления атомной бомбы, но всё указывает на то, что они получат её в течение нескольких лет»).
Так оно всё и произошло. Но еще более поразительное заключается в следующем.
В эссе «Ты и атомная бомба» Оруэлл лаконично и точно описал механизм зависимости хода мировой истории от прогресса технологий.
• Мировая история — это в значительной степени история оружия.
• Появление все более мощного оружия – результат развития технологий.
• Новое оружие может быть «простым» - относительно дешевым и доступным для производства любой страной (луки, ружья, автоматы, гранаты …) или «сложным» - дорогим и доступным для производства лишь «супердержавам» (как танки, линкоры и бомбардировщики – примеры 1945 года)
• «Сложное» оружие по своей природе «тираническое» (оно делает сильных сильнее). А «простое» по своей природе «демократическое» (оно, «пока на него не нашли управы, дает когти слабым»).
• Ядерное оружие - «суперсложное» и потому «супертираническое».
«Атомная бомба может окончательно завершить процесс отъёма у эксплуатируемых классов и народов способности к восстанию и в то же время заложить основу военного равенства между обладателями бомб».
• Обладатели же ядерного оружия, «раз невозможно победить друг друга, они, скорее всего, продолжат править миром порознь». И в результате этого, «мир придет не ко всеобщему самоуничтожению, но к эпохе такой же ужасающей стабильности, какими были рабовладельческие эпохи древности» (с поправкой на рост благосостояния из-за прогресса).
Почему я сегодня об этом пишу?
Да потому, что это сбывшееся в 20-м веке предсказание, в точности повторится в 21 веке с появлением нового «сверхоружия» - «суперсложного» и «супертиранического». Это генеративный ИИ больших моделей.
О том, что большинство решений о будущем этих сверхмощных технологий будут принимать все более крошечные группы капиталоемких субъектов частного сектора двух стран, предупреждали в феврале авторы отчета Predictability and Surprise in Large Generative Models
Новый большой и серьезный (100+ стр) отчет AINOW «Ландшафт 2023: Противостояние технической мощи» пишет о том же.
✔️ «Только горстка компаний с невероятно огромными ресурсами может строить крупномасштабные модели ИИ.»
✔️ «Даже если Бигтех в своих проектах будет делать свой код общедоступным, огромные вычислительные требования этих систем сохранят за этими проектами доминирование на коммерческих рынках».
Хорошо ли это?
Не факт. Хотя кто знает.
Как писал Оруэлл:
«Если бы атомная бомба оказалась чем-то дешевым и легко производимым, как велосипед или будильник, возможно, мир снова погрузился бы в варварство, но с другой стороны это могло бы привести к концу национального суверенитета и основанию высокоцентрализованного полицейского государства.»
Это 100%-но применимо и к ИИ.
Впереди:
• новая холодная война США и Китая
• торжество Большого Брата там и там.
#ИИгонка #Вызовы21века #Китай #США
“Либо у нас будет свой конкурентный генеративный ИИ, либо нас опустят, а то и уничтожат”.
“Мы должны сделать это, даже если уже поздно!”
Большой бизнес Китая проиграл США, отстав в области больших моделей генеративного ИИ на несколько лет. Не спасли ни большие НИОКР бюджеты (в 2022: Baidu - ¥21.4 млрд, Tencent - ¥61.4 млрд, Alibaba - ¥120 млрд …), ни господдержка.
Теперь слово венчурных предпринимателей Китая, принявших вызов США – пишет Ян Цзюньвэнь в большом обзоре этой темы, опубликованном в «Китайском предпринимателе».
Позиция лидеров венчурного бизнеса Китая сформулирована предельно четко.
1) Ключевая технология 21 века определилась.
• В одночасье блокчейн, метавселенная, Web3, VR и другие казавшиеся самыми перспективными технологиями ушли на 2-й план. А на 1-м плане лишь один абсолютный лидер - большие модели генеративного ИИ.
• «Мы вышли из века информации или века Интернета. Теперь мы вступили в век интеллекта или в эпоху общего искусственного разум. Эпоху, - в ходе которой человечество поменяет тип земной цивилизации».
2) Госструктуры и Бигтех Китая слишком неповоротливы и осторожны, чтобы догнать США. Но догонять все равно надо во что бы то ни стало.
• "Тем, кто говорит будто уже слишком поздно, - мы ответим так. Американцы создали ядерную бомбу раньше Китая, и что - разве Китай перестал создавать свою? Это относится не к отдельным стартапам, а к государству Китай: вопрос лишь в том, хочет ли Китай иметь свою новую, сверхмощную «атомную бомбу» 21-го века или нет".
3) Венчурный бизнес Китая может решить проблему отставания от США.
• Кай-фу Ли (у нас представлять не надо);
• Чжан Имин (программист и предприниматель, основатель компании ByteDance - разработчика TikTok, 4е место в списке богатейших жителей Китая);
• Ван Син (предприниматель в области интернета и социальных сетей, миллиардер, исполнительный директор фирмы Мэйтуань-Дяньпин, один из богатейших людей Китая);
• Ван Сяочуань (интернет-предприниматель и инвестор, основатель и гендир Sogou Inc. -интернет-поисковика № 2 в Китае с фокусом на ИИ;
• Ван Хуэйвэнь, миллиардер, стоявший у истоков создания пекинской компании Meituan и ряда других интернет-стартапов, -
все они основали собственные стартапы, разрабатывающие большие модели генеративного ИИ.
«Выигрывают не только малые инновации в большой бизнес, но и большие инновации в малый бизнес - говорит Ван Сяочуань. «Это не только конкуренция технологий, но и, в большей степени, конкуренция ресурсов. А у нас их больше, чем у американцев».
«И конкуренция у нас на порядок выше, чем в США» – добавляет Ли Чжифэй (основатель и СЕО Chumen Wenwen). «Предложений китайских предпринимателей в два раза больше, чем в США, но цена за единицу или рыночное пространство Китая составляет лишь 1/5 от США, поэтому интенсивность конкуренции в Китае в 10 раз выше».
#Китай #ИИгонка #США
“Мы должны сделать это, даже если уже поздно!”
Большой бизнес Китая проиграл США, отстав в области больших моделей генеративного ИИ на несколько лет. Не спасли ни большие НИОКР бюджеты (в 2022: Baidu - ¥21.4 млрд, Tencent - ¥61.4 млрд, Alibaba - ¥120 млрд …), ни господдержка.
Теперь слово венчурных предпринимателей Китая, принявших вызов США – пишет Ян Цзюньвэнь в большом обзоре этой темы, опубликованном в «Китайском предпринимателе».
Позиция лидеров венчурного бизнеса Китая сформулирована предельно четко.
1) Ключевая технология 21 века определилась.
• В одночасье блокчейн, метавселенная, Web3, VR и другие казавшиеся самыми перспективными технологиями ушли на 2-й план. А на 1-м плане лишь один абсолютный лидер - большие модели генеративного ИИ.
• «Мы вышли из века информации или века Интернета. Теперь мы вступили в век интеллекта или в эпоху общего искусственного разум. Эпоху, - в ходе которой человечество поменяет тип земной цивилизации».
2) Госструктуры и Бигтех Китая слишком неповоротливы и осторожны, чтобы догнать США. Но догонять все равно надо во что бы то ни стало.
• "Тем, кто говорит будто уже слишком поздно, - мы ответим так. Американцы создали ядерную бомбу раньше Китая, и что - разве Китай перестал создавать свою? Это относится не к отдельным стартапам, а к государству Китай: вопрос лишь в том, хочет ли Китай иметь свою новую, сверхмощную «атомную бомбу» 21-го века или нет".
3) Венчурный бизнес Китая может решить проблему отставания от США.
• Кай-фу Ли (у нас представлять не надо);
• Чжан Имин (программист и предприниматель, основатель компании ByteDance - разработчика TikTok, 4е место в списке богатейших жителей Китая);
• Ван Син (предприниматель в области интернета и социальных сетей, миллиардер, исполнительный директор фирмы Мэйтуань-Дяньпин, один из богатейших людей Китая);
• Ван Сяочуань (интернет-предприниматель и инвестор, основатель и гендир Sogou Inc. -интернет-поисковика № 2 в Китае с фокусом на ИИ;
• Ван Хуэйвэнь, миллиардер, стоявший у истоков создания пекинской компании Meituan и ряда других интернет-стартапов, -
все они основали собственные стартапы, разрабатывающие большие модели генеративного ИИ.
«Выигрывают не только малые инновации в большой бизнес, но и большие инновации в малый бизнес - говорит Ван Сяочуань. «Это не только конкуренция технологий, но и, в большей степени, конкуренция ресурсов. А у нас их больше, чем у американцев».
«И конкуренция у нас на порядок выше, чем в США» – добавляет Ли Чжифэй (основатель и СЕО Chumen Wenwen). «Предложений китайских предпринимателей в два раза больше, чем в США, но цена за единицу или рыночное пространство Китая составляет лишь 1/5 от США, поэтому интенсивность конкуренции в Китае в 10 раз выше».
#Китай #ИИгонка #США
США и Китай уже не стратегические конкуренты, а холодные соперники.
Таков результат столкновения двух тектонических тенденции в сфере международной безопасности.
Первая тенденция – усиление геополитического соперничества между США и Китаем.
Вторая — стремительное развитие технологий искусственного интеллекта (ИИ), в том числе для военных приложений.
Результатом столкновения двух тектонических трендов станут два кардинальных изменения в структуре мировой безопасности.
1. Завершится эра стратегической конкуренции США и Китая, в ходе которой главные факторы превосходства были экономические и технологические. В ближайшее десятилетие главным фактором превосходства будет интеллектуализация вооруженных сил по пяти направлениям: 1) управление тыловыми и логистическими процессами; 2) принятие оперативных решений; 3) беспилотные автономные системы; 4) разведка, наблюдение и рекогносцировка; 5) командование, управление и связь.
2. Две мировые сверхдержавы США и Китай будут вынуждены изменить свое видение друг друга в контексте мировой безопасности: теперь это не конкуренты, а соперники (в пока еще холодной схватке, но способной в любой момент превратиться в горячую). А цель этого соперничества уже не статус сверхдержавы №1, а победа над соперником любой ценой.
Подробно об этом:
• Вышедший позавчера отчет CNAS «Соревнование между США и Китаем и военный ИИ»
• Сегодняшний подкаст с.н.с. CNAS Эльзы Кания «Последствия искусственного интеллекта для национальной безопасности»
• Выходящий 1 августа в Georgetown University Press сборник «Холодные соперники: новая эра стратегического соперничества США и Китая»
P.S. Термин «холодные соперники» отсылает не только к «холодной войне», но и к тому, что в основе соперничества будет смесь «холодного расчета» и «холодной ярости» (о последствиях соперничества в таком состоянии погуглите сами).
#США #Китай #ИИгонка
Таков результат столкновения двух тектонических тенденции в сфере международной безопасности.
Первая тенденция – усиление геополитического соперничества между США и Китаем.
Вторая — стремительное развитие технологий искусственного интеллекта (ИИ), в том числе для военных приложений.
Результатом столкновения двух тектонических трендов станут два кардинальных изменения в структуре мировой безопасности.
1. Завершится эра стратегической конкуренции США и Китая, в ходе которой главные факторы превосходства были экономические и технологические. В ближайшее десятилетие главным фактором превосходства будет интеллектуализация вооруженных сил по пяти направлениям: 1) управление тыловыми и логистическими процессами; 2) принятие оперативных решений; 3) беспилотные автономные системы; 4) разведка, наблюдение и рекогносцировка; 5) командование, управление и связь.
2. Две мировые сверхдержавы США и Китай будут вынуждены изменить свое видение друг друга в контексте мировой безопасности: теперь это не конкуренты, а соперники (в пока еще холодной схватке, но способной в любой момент превратиться в горячую). А цель этого соперничества уже не статус сверхдержавы №1, а победа над соперником любой ценой.
Подробно об этом:
• Вышедший позавчера отчет CNAS «Соревнование между США и Китаем и военный ИИ»
• Сегодняшний подкаст с.н.с. CNAS Эльзы Кания «Последствия искусственного интеллекта для национальной безопасности»
• Выходящий 1 августа в Georgetown University Press сборник «Холодные соперники: новая эра стратегического соперничества США и Китая»
P.S. Термин «холодные соперники» отсылает не только к «холодной войне», но и к тому, что в основе соперничества будет смесь «холодного расчета» и «холодной ярости» (о последствиях соперничества в таком состоянии погуглите сами).
#США #Китай #ИИгонка
Стремительный тигр, мудрый дракон: проекты и перспективы Китая в гонке генеративного ИИ
Об особенностях китайской философии в основе стратегии развития искусственного интеллекта
Почему ChatGPT изобрели не в Китае, а местные предприниматели восприняли его появление как личный вызов? Зачем руководство Поднебесной открыто провозгласило своей целью глобальное доминирование в области ИИ и как пытается догнать и перегнать Америку по количеству и качеству нейросетей?
Наш большой разговор о китайском ИИ с Александром Цуриковым лег в основу его статьи, опубликованной Skillbox. Мы говорили с Александром о восточной специфике ИИ-отрасли Китая и об уникальном сочетании конфуцианского подхода к ИИ в трактовке КПК с целью Китая стать мировым технологическим лидером.
Такой историко-философский взгляд на, казалось бы, чисто технологическую область развития ИИ позволяет увидеть неочевидное, - то, что обычно оказывается не в фокусе анализа и технологических экспертов, и профессиональных китаеведов. Но без этого трудно понять, почему ИИ для Китая – это «самая долгая игра в долгую». И на чем основана
«великая стратегия Китая по смене американского миропорядка».
Новый лонгрид Александра Цурикова актуализирует и дополняет новой информацией многие важные вопросы технологической стратегии Китая, о которых я рассказывал в двух интервью Дмитрию Солодину:
• «Что задумал Китай?»
• «Китай - Сверхдержава Искусственного Интеллекта».
Мне же здесь остается лишь добавить, что, по состоянию на осень 2023, госстратегия Китая по регулированию генеративного ИИ становится все более важным конкурентным преимуществом перед США и Европой, о чем вчера подробно рассказал Project Syndicate.
#США #Китай #ИИгонка
Об особенностях китайской философии в основе стратегии развития искусственного интеллекта
Почему ChatGPT изобрели не в Китае, а местные предприниматели восприняли его появление как личный вызов? Зачем руководство Поднебесной открыто провозгласило своей целью глобальное доминирование в области ИИ и как пытается догнать и перегнать Америку по количеству и качеству нейросетей?
Наш большой разговор о китайском ИИ с Александром Цуриковым лег в основу его статьи, опубликованной Skillbox. Мы говорили с Александром о восточной специфике ИИ-отрасли Китая и об уникальном сочетании конфуцианского подхода к ИИ в трактовке КПК с целью Китая стать мировым технологическим лидером.
Такой историко-философский взгляд на, казалось бы, чисто технологическую область развития ИИ позволяет увидеть неочевидное, - то, что обычно оказывается не в фокусе анализа и технологических экспертов, и профессиональных китаеведов. Но без этого трудно понять, почему ИИ для Китая – это «самая долгая игра в долгую». И на чем основана
«великая стратегия Китая по смене американского миропорядка».
Новый лонгрид Александра Цурикова актуализирует и дополняет новой информацией многие важные вопросы технологической стратегии Китая, о которых я рассказывал в двух интервью Дмитрию Солодину:
• «Что задумал Китай?»
• «Китай - Сверхдержава Искусственного Интеллекта».
Мне же здесь остается лишь добавить, что, по состоянию на осень 2023, госстратегия Китая по регулированию генеративного ИИ становится все более важным конкурентным преимуществом перед США и Европой, о чем вчера подробно рассказал Project Syndicate.
#США #Китай #ИИгонка
Skillbox
Стремительный тигр, мудрый дракон: проекты и перспективы Китая в гонке генеративного ИИ
Ловим дзен и погружаемся в китайскую философию создания искусственного интеллекта.
Революция в Голливуде, скандал на президентских выборах, люди окончательно проиграют ИИ во всем.
Опубликован главный отчет года о состоянии и прогнозах в области ИИ в мире State of AI Report.
В этом году произошла революция генеративного ИИ, следствием чего стал фазовый переход технологического прогресса в зону сингулярности.
• Эпохальные события теперь происходят с немыслимой скоростью.
• Предсказывать их колоссальные последствия становится неимоверно трудно.
• Подобно взрывной волне от ядерной бомбы, эти последствия мгновенно сжигают и обесценивают большинство совсем недавних прогнозов, как бумагу сминают многие прошлые тренды и до неузнаваемости деформируют наши представления о том, как будут жить, работать, учиться и развлекаться отдельные люди и целые социумы уже на горизонте нескольких лет.
Но не смотря на эту сингулярность, как и в прошлые годы, отчет State of AI Report держит высшую планку аналитической глубины и визионерской точности. И потому уже 6й год подряд, прочтя новый выпуск этого отчет, многие из топовых индустриальных аналитиков, консультантов и профэкспертов сначала нервно покурят, а потом, не затягивая, сядут переписывать свои отчеты.
Что же произойдет, согласно отчету, до середины осени 2024 из того, что все еще можно предсказать, не смотря на наступившую сингулярность?
Вот всего 3 из 10 прогнозов важных событий следующего года по версии State of AI Report:
1. В Голливуде произойдет технологическая революция в области создания визуальных эффектов – весь процесс будет отдан на откуп ГенИИ.
2. Начнется первое в истории расследование вмешательства ГенИИ известного на весь мир производителя в предвыборную президентскую кампанию в США.
3. ГенИИ триумфально победит людей, как ранее в шахматах и Го, но теперь соревнуясь с ними в сложных комплексных средах (AAA-игры, использование инструментов, наука …)
В 160 слайдовом отчете содержится подробное описание прогресса в области ИИ в 4х измерениях (исследования, индустрия, регулирование и безопасность) с упором на ключевые события последних 12 месяцев. Но самое ценное в отчете – предсказания его авторов важнейших событий в ИИ на год вперед, с разбором и анализом прошлых предсказаний, причин несбычи (если таковое случилось) и как оно дальше будет.
В общем, читайте сами этот наиполезнейший отчет с десятками графиков, диаграмм и картинок:
• Полный отчет
• Его укороченная «режиссерская версия» Натана Бенайха
Мои рассказы о предыдущих отчетах: 2018, 2019, 2020, 2021, 2022
Их ценность в том, что там много полезной инфы, ставшей с тех пор еще более актуальной.
#ИИгонка #США #Китай
Опубликован главный отчет года о состоянии и прогнозах в области ИИ в мире State of AI Report.
В этом году произошла революция генеративного ИИ, следствием чего стал фазовый переход технологического прогресса в зону сингулярности.
• Эпохальные события теперь происходят с немыслимой скоростью.
• Предсказывать их колоссальные последствия становится неимоверно трудно.
• Подобно взрывной волне от ядерной бомбы, эти последствия мгновенно сжигают и обесценивают большинство совсем недавних прогнозов, как бумагу сминают многие прошлые тренды и до неузнаваемости деформируют наши представления о том, как будут жить, работать, учиться и развлекаться отдельные люди и целые социумы уже на горизонте нескольких лет.
Но не смотря на эту сингулярность, как и в прошлые годы, отчет State of AI Report держит высшую планку аналитической глубины и визионерской точности. И потому уже 6й год подряд, прочтя новый выпуск этого отчет, многие из топовых индустриальных аналитиков, консультантов и профэкспертов сначала нервно покурят, а потом, не затягивая, сядут переписывать свои отчеты.
Что же произойдет, согласно отчету, до середины осени 2024 из того, что все еще можно предсказать, не смотря на наступившую сингулярность?
Вот всего 3 из 10 прогнозов важных событий следующего года по версии State of AI Report:
1. В Голливуде произойдет технологическая революция в области создания визуальных эффектов – весь процесс будет отдан на откуп ГенИИ.
2. Начнется первое в истории расследование вмешательства ГенИИ известного на весь мир производителя в предвыборную президентскую кампанию в США.
3. ГенИИ триумфально победит людей, как ранее в шахматах и Го, но теперь соревнуясь с ними в сложных комплексных средах (AAA-игры, использование инструментов, наука …)
В 160 слайдовом отчете содержится подробное описание прогресса в области ИИ в 4х измерениях (исследования, индустрия, регулирование и безопасность) с упором на ключевые события последних 12 месяцев. Но самое ценное в отчете – предсказания его авторов важнейших событий в ИИ на год вперед, с разбором и анализом прошлых предсказаний, причин несбычи (если таковое случилось) и как оно дальше будет.
В общем, читайте сами этот наиполезнейший отчет с десятками графиков, диаграмм и картинок:
• Полный отчет
• Его укороченная «режиссерская версия» Натана Бенайха
Мои рассказы о предыдущих отчетах: 2018, 2019, 2020, 2021, 2022
Их ценность в том, что там много полезной инфы, ставшей с тех пор еще более актуальной.
#ИИгонка #США #Китай
Возможен ли брак по расчету в аду?
Новая переоценка вариантов: ловушка Фукидида с ядерной войной или биполярный мир Глобального Большого Брата.
Опубликованный Foreign Affairs меморандум двух политических супертяжеловесов Генри Киссинджера и Грэма Аллисона – это, по сути, открытое письмо президенту Байдену и председателю Си с призывом незамедлительно начать совместные действия по предотвращению мировой катастрофы.
Три года назад был опубликован самый неожиданный и жуткий прогноз на десятилетие 2020х – мир избежит ловушки Фукидида ценою брака, заключенного в аду.
Этот прогноз из эссе Аллисона «Неужели Китай победит Америку в борьбе за ИИ-превосходство?» вытекал из анализа 2х альтернатив:
• либо гонка в области ИИ заставит США и Китай попасть в «ловушку Фукидида» - неотвратимость тотальной войны между страной, теряющей статус сверхдержавы №1, и её соперницей, грозящей отобрать этот статус;
• либо США (а за ними и весь демократический мир Запада) согласятся принять новый образец устройства общества по-китайски – Глобального Большого Брата, – как решение обеих главных проблем любого современного государства – противодействие изнутри и обеспечение международного мира.
В 2021 доклад Комиссии США по национальной безопасности в вопросах ИИ, возглавляемой экс-директором Alphabet Эриком Шмидтом и экс-замминистра обороны США Бобом Уорком рекомендовал США отказаться от пренебрежения западных свобод вследствие «бракосочетания в аду» США и Китая.
Однако, произошедшая в 2023 революция генеративного ИИ, заставила «группу влиятельных политконсультантов и технологических лидеров, находящихся на переднем крае революции ИИ» (в их числе и Шмидт с Уорком, и Киссинджер с Аллисоном) пересмотреть свою рекомендацию.
В подписанном Киссинджером с Аллисоном «открытом письме» они пишут – «перспективы того, что ничем не ограниченное развитие ИИ приведет к катастрофическим последствиям для Соединенных Штатов и всего мира, настолько убедительны, что лидеры правительств должны действовать сейчас».
Авторы «открытого письма» пишут следующее.
• Проблемы, связанные с ИИ сегодня, – это не просто вторая глава ядерной эры. Риски ИИ для человечества, возможно, превышают риски ядерного оружия.
• Но различия между ИИ и ядерным оружием не менее значительны, чем сходства. И потому здесь нельзя воспользоваться старыми решениями.
• Все существующие предложения (о паузе в разработке ИИ, о полной остановке развития ИИ, чтобы ИИ контролировался глобальным правительственным органом), по сути, повторяют предложения ядерной эры, которые потерпели неудачу. Причина в том, что каждое из этих предложений требует от ведущих государств отказаться от первенства собственного суверенитета.
• На данный момент есть только две сверхдержавы в области ИИ, и только они способны понизить риски ИИ
• Окно возможностей для разработки руководящих принципов предотвращения наиболее опасных достижений и применений ИИ крайне узко. Действовать нужно незамедлительно.
И поэтому президент США Джо Байден и председатель КНР Си Цзиньпин должны воспользоваться возможностью начать совместные действия, проведя саммит по проблеме ограничения рисков ИИ — возможно, сразу после встречи Азиатско-Тихоокеанского экономического сотрудничества в Сан-Франциско в ноябре.
Иными словами, эти предложения можно суммировать так:
✔️ Т.к. ада (колоссального роста технологических рисков) все равно не избежать, нужно попытаться устроиться там с максимальным комфортом.
✔️ И если для этого нужен «брак по расчету» между США и Китаем, значит надо не затягивать с этим браком.
#США #Китай #ИИгонка
Новая переоценка вариантов: ловушка Фукидида с ядерной войной или биполярный мир Глобального Большого Брата.
Опубликованный Foreign Affairs меморандум двух политических супертяжеловесов Генри Киссинджера и Грэма Аллисона – это, по сути, открытое письмо президенту Байдену и председателю Си с призывом незамедлительно начать совместные действия по предотвращению мировой катастрофы.
Три года назад был опубликован самый неожиданный и жуткий прогноз на десятилетие 2020х – мир избежит ловушки Фукидида ценою брака, заключенного в аду.
Этот прогноз из эссе Аллисона «Неужели Китай победит Америку в борьбе за ИИ-превосходство?» вытекал из анализа 2х альтернатив:
• либо гонка в области ИИ заставит США и Китай попасть в «ловушку Фукидида» - неотвратимость тотальной войны между страной, теряющей статус сверхдержавы №1, и её соперницей, грозящей отобрать этот статус;
• либо США (а за ними и весь демократический мир Запада) согласятся принять новый образец устройства общества по-китайски – Глобального Большого Брата, – как решение обеих главных проблем любого современного государства – противодействие изнутри и обеспечение международного мира.
В 2021 доклад Комиссии США по национальной безопасности в вопросах ИИ, возглавляемой экс-директором Alphabet Эриком Шмидтом и экс-замминистра обороны США Бобом Уорком рекомендовал США отказаться от пренебрежения западных свобод вследствие «бракосочетания в аду» США и Китая.
Однако, произошедшая в 2023 революция генеративного ИИ, заставила «группу влиятельных политконсультантов и технологических лидеров, находящихся на переднем крае революции ИИ» (в их числе и Шмидт с Уорком, и Киссинджер с Аллисоном) пересмотреть свою рекомендацию.
В подписанном Киссинджером с Аллисоном «открытом письме» они пишут – «перспективы того, что ничем не ограниченное развитие ИИ приведет к катастрофическим последствиям для Соединенных Штатов и всего мира, настолько убедительны, что лидеры правительств должны действовать сейчас».
Авторы «открытого письма» пишут следующее.
• Проблемы, связанные с ИИ сегодня, – это не просто вторая глава ядерной эры. Риски ИИ для человечества, возможно, превышают риски ядерного оружия.
• Но различия между ИИ и ядерным оружием не менее значительны, чем сходства. И потому здесь нельзя воспользоваться старыми решениями.
• Все существующие предложения (о паузе в разработке ИИ, о полной остановке развития ИИ, чтобы ИИ контролировался глобальным правительственным органом), по сути, повторяют предложения ядерной эры, которые потерпели неудачу. Причина в том, что каждое из этих предложений требует от ведущих государств отказаться от первенства собственного суверенитета.
• На данный момент есть только две сверхдержавы в области ИИ, и только они способны понизить риски ИИ
• Окно возможностей для разработки руководящих принципов предотвращения наиболее опасных достижений и применений ИИ крайне узко. Действовать нужно незамедлительно.
И поэтому президент США Джо Байден и председатель КНР Си Цзиньпин должны воспользоваться возможностью начать совместные действия, проведя саммит по проблеме ограничения рисков ИИ — возможно, сразу после встречи Азиатско-Тихоокеанского экономического сотрудничества в Сан-Франциско в ноябре.
Иными словами, эти предложения можно суммировать так:
✔️ Т.к. ада (колоссального роста технологических рисков) все равно не избежать, нужно попытаться устроиться там с максимальным комфортом.
✔️ И если для этого нужен «брак по расчету» между США и Китаем, значит надо не затягивать с этим браком.
#США #Китай #ИИгонка
