Белая книга ИИ 2022.
Китайский взгляд на состояние и перспективы ИИ в Китае и в мире.
Вышедший в апреле документ Китайской академии информационных и коммуникационных технологий (CAICT) оперативно и точно переведен коллегами из CSET.
Китайский взгляд на развитие ИИ с недавнего времени стал не менее (если не более) важен, чем взгляд США. И поэтому для каждого интересующегося ИИ данный документ – мастрид. По сути, это одновременно аналитическое резюме и дорожная карта развития ИИ Китая на «14-ю пятилетку» (2021-2025).
Документ фиксирует новую стадию и направление развития в «трехмерных» (3D) координатах: технологические инновации, инженерные практики (工程实践), надежность и безопасность(可信安全).
1. Инновации делают ставку на совершенствование алгоритмов и достижение сумасшедшей вычислительной мощности.
2. Инженерные практики делают ставку на индустриальную интеллектуализацию - перестройку бизнес и производственных процессов нескольких сотен индустрий (лидирующая роль здесь возложена не на специалистов ИИ или IT, а на отраслевых инженеров.
3. Правовая, стандартизующая и регламентирующая основа разработки и применения ИИ (AI governance) направлена на обеспечение надежности и безопасности применений с учетом требований прозрачности, достоверности и непредвзятости решений и рекомендаций со стороны ИИ. Ответственность за AI governance возложена на триаду правительство – отраслевые организации – предприятия.
Детали читайте в Белой книге.
Я же лишь отмечу следующее.
✔️ Китаю видятся такие роли основных мировых лидеров в ИИ:
• США – пущай себе генерят инновации (в этом им нет пока равных).
• Великобритания делает ставку на ИИ индустриализацию, и это хорошо, т.к. они будут мостом между американскими инновациями и процессами индустриальной интеллектуализации Китая.
• Япония фокусируется на совершенствовании ИИ-инфраструктуры и приложениях, и это тоже хорошо, ибо в этих вопросах японцы себя отлично зарекомендовали в других индустриях (от бытовой электроники до автомобилей).
• Других мировых лидеров в ИИ нет и на ближайшую пятилетку не предвидится.
✔️ Китай сделал ставку на Большие модели.
Их большие модели Pangu и Wu Dao 2.0 уже перешагнули пороги в 1 трлн параметров и 10 Тбайт (для сравнения в объявленной Сбером в апреле «эксклюзивной модели ruDALL-E XXL» 12 млрд параметров).
Перевод Белой книги ИИ 2022
Оригинал
#ИИ #Китай #ИИгонка
Китайский взгляд на состояние и перспективы ИИ в Китае и в мире.
Вышедший в апреле документ Китайской академии информационных и коммуникационных технологий (CAICT) оперативно и точно переведен коллегами из CSET.
Китайский взгляд на развитие ИИ с недавнего времени стал не менее (если не более) важен, чем взгляд США. И поэтому для каждого интересующегося ИИ данный документ – мастрид. По сути, это одновременно аналитическое резюме и дорожная карта развития ИИ Китая на «14-ю пятилетку» (2021-2025).
Документ фиксирует новую стадию и направление развития в «трехмерных» (3D) координатах: технологические инновации, инженерные практики (工程实践), надежность и безопасность(可信安全).
1. Инновации делают ставку на совершенствование алгоритмов и достижение сумасшедшей вычислительной мощности.
2. Инженерные практики делают ставку на индустриальную интеллектуализацию - перестройку бизнес и производственных процессов нескольких сотен индустрий (лидирующая роль здесь возложена не на специалистов ИИ или IT, а на отраслевых инженеров.
3. Правовая, стандартизующая и регламентирующая основа разработки и применения ИИ (AI governance) направлена на обеспечение надежности и безопасности применений с учетом требований прозрачности, достоверности и непредвзятости решений и рекомендаций со стороны ИИ. Ответственность за AI governance возложена на триаду правительство – отраслевые организации – предприятия.
Детали читайте в Белой книге.
Я же лишь отмечу следующее.
✔️ Китаю видятся такие роли основных мировых лидеров в ИИ:
• США – пущай себе генерят инновации (в этом им нет пока равных).
• Великобритания делает ставку на ИИ индустриализацию, и это хорошо, т.к. они будут мостом между американскими инновациями и процессами индустриальной интеллектуализации Китая.
• Япония фокусируется на совершенствовании ИИ-инфраструктуры и приложениях, и это тоже хорошо, ибо в этих вопросах японцы себя отлично зарекомендовали в других индустриях (от бытовой электроники до автомобилей).
• Других мировых лидеров в ИИ нет и на ближайшую пятилетку не предвидится.
✔️ Китай сделал ставку на Большие модели.
Их большие модели Pangu и Wu Dao 2.0 уже перешагнули пороги в 1 трлн параметров и 10 Тбайт (для сравнения в объявленной Сбером в апреле «эксклюзивной модели ruDALL-E XXL» 12 млрд параметров).
Перевод Белой книги ИИ 2022
Оригинал
#ИИ #Китай #ИИгонка
В мире создаются две разные ИИ-антиутопии: «ИИ Большого Брата» и «ИИ Большой Дубины».
Вся самая актуальная и нужная информация об ИИ в 2022 и прогнозах на 2023.
В 2022 одно из двух главных предостережений фантастов и футурологов материализовалось.
1. Первое предостережение - что создание искусственного сверхразума (AGI) приведет к потери людьми статуса главного носителя интеллекта на Земле (со всеми вытекающими негативными для людей последствиями), - все еще остается под вопросом.
2. Зато второе предостережение – что развитие ИИ-технологий в США и Китае пойдет по двум разным путям, ведущим к двум совершенно разным антиутопиям, - матереализуется на практике и получает все больше подтверждений.
Такой вывод видится мне самым важным по прочтению опубликованного сегодня главного отчета года о состоянии и прогнозах в области ИИ в мире State of AI Report.
Уже 5 лет этот ежегодный отчет, разрабатываемый командой серийных инвесторов в ИИ-ориентированные стартапы Натана Бенайха и Яна Хогарта, - лучший в мире по аналитической глубине и визионерской точности. Что делает его чрезвычайно полезным мастридом для широкого спектра читателей: от индустриальных аналитиков и бизнесменов до политиков, исследователей и просто фанов ИИ. Насколько мне известно, многие из топовых индустриальных аналитиков, консультантов и профэкспертов уже пятый год нервно курят, прочтя новый выпуск State of AI Report (а покурив, садятся переписывать свои отчеты 😎).
В 114 слайдовом отчете содержится подробное описание прогресса в области ИИ в 4х измерениях (исследования, индустрия, регулирование и безопасность) с упором на ключевые события последних 12 месяцев. Но самое ценное в отчете – предсказания его авторов важнейших событий в ИИ на год вперед, с разбором и анализом прошлых предсказаний, причин несбычи (если таковое случилось) и как оно дальше будет.
✔️ Из прошлогодних 8 главных предсказаний сбылось 4. Но это вовсе не результат в духе вероятности встретить на улице динозавра. Авторы показывают, как и почему со сдвижкой во времени сбываются прошлые предсказания 2018го, 19го и 20го гг.
Давать резюме прекрасно выполненной работы бессмысленно - каждый найдет здесь интересное и нужное на свой вкус.
Я же лишь поясню свой главный вывод из отчета, помещенный в заголовок этого поста: что в мире создаются две разные ИИ-антиутопии: «ИИ Большого Брата» и «Большой Дубины».
Факты таковы.
1) США и Китай интересуют в ИИ совершенно разные направления исследований и разработок (см. верхний рис):
-- в Китае – следить за своими
-- в США – бить по рогам чужим
2) Исследования двух мировых лидеров в ИИ все меньше пересекаются уже на уровне научно-исследовательских информационных баз - у каждого база своя, т.к. каждый делает своё (см. нижний левый рис).
3) В США первую скрипку играет сплав интересов Больших корпораций и Пентагона для военных применений, а в Китае – сплав интересов КПК и спецслужб для применений тотальной слежки (графики см. в отчете). Про научные и гуманитарные интересы академических институтов забыли и забили и США, и Китай (см. нижний правый рис).
В общем, читайте сами этот наиполезнейший отчет с десятками графиков, диаграмм и картинок.
Мой рассказ о предыдущих отчетах:
2018 (https://t.iss.one/theworldisnoteasy/545),
2019 (https://t.iss.one/theworldisnoteasy/816),
2020 (https://t.iss.one/theworldisnoteasy/1135),
2021 (https://t.iss.one/theworldisnoteasy/1368)
- их ценность в том, что там много полезной инфы, ставшей с тех пор еще более актуальной.
#ИИгонка #США #Китай
Вся самая актуальная и нужная информация об ИИ в 2022 и прогнозах на 2023.
В 2022 одно из двух главных предостережений фантастов и футурологов материализовалось.
1. Первое предостережение - что создание искусственного сверхразума (AGI) приведет к потери людьми статуса главного носителя интеллекта на Земле (со всеми вытекающими негативными для людей последствиями), - все еще остается под вопросом.
2. Зато второе предостережение – что развитие ИИ-технологий в США и Китае пойдет по двум разным путям, ведущим к двум совершенно разным антиутопиям, - матереализуется на практике и получает все больше подтверждений.
Такой вывод видится мне самым важным по прочтению опубликованного сегодня главного отчета года о состоянии и прогнозах в области ИИ в мире State of AI Report.
Уже 5 лет этот ежегодный отчет, разрабатываемый командой серийных инвесторов в ИИ-ориентированные стартапы Натана Бенайха и Яна Хогарта, - лучший в мире по аналитической глубине и визионерской точности. Что делает его чрезвычайно полезным мастридом для широкого спектра читателей: от индустриальных аналитиков и бизнесменов до политиков, исследователей и просто фанов ИИ. Насколько мне известно, многие из топовых индустриальных аналитиков, консультантов и профэкспертов уже пятый год нервно курят, прочтя новый выпуск State of AI Report (а покурив, садятся переписывать свои отчеты 😎).
В 114 слайдовом отчете содержится подробное описание прогресса в области ИИ в 4х измерениях (исследования, индустрия, регулирование и безопасность) с упором на ключевые события последних 12 месяцев. Но самое ценное в отчете – предсказания его авторов важнейших событий в ИИ на год вперед, с разбором и анализом прошлых предсказаний, причин несбычи (если таковое случилось) и как оно дальше будет.
✔️ Из прошлогодних 8 главных предсказаний сбылось 4. Но это вовсе не результат в духе вероятности встретить на улице динозавра. Авторы показывают, как и почему со сдвижкой во времени сбываются прошлые предсказания 2018го, 19го и 20го гг.
Давать резюме прекрасно выполненной работы бессмысленно - каждый найдет здесь интересное и нужное на свой вкус.
Я же лишь поясню свой главный вывод из отчета, помещенный в заголовок этого поста: что в мире создаются две разные ИИ-антиутопии: «ИИ Большого Брата» и «Большой Дубины».
Факты таковы.
1) США и Китай интересуют в ИИ совершенно разные направления исследований и разработок (см. верхний рис):
-- в Китае – следить за своими
-- в США – бить по рогам чужим
2) Исследования двух мировых лидеров в ИИ все меньше пересекаются уже на уровне научно-исследовательских информационных баз - у каждого база своя, т.к. каждый делает своё (см. нижний левый рис).
3) В США первую скрипку играет сплав интересов Больших корпораций и Пентагона для военных применений, а в Китае – сплав интересов КПК и спецслужб для применений тотальной слежки (графики см. в отчете). Про научные и гуманитарные интересы академических институтов забыли и забили и США, и Китай (см. нижний правый рис).
В общем, читайте сами этот наиполезнейший отчет с десятками графиков, диаграмм и картинок.
Мой рассказ о предыдущих отчетах:
2018 (https://t.iss.one/theworldisnoteasy/545),
2019 (https://t.iss.one/theworldisnoteasy/816),
2020 (https://t.iss.one/theworldisnoteasy/1135),
2021 (https://t.iss.one/theworldisnoteasy/1368)
- их ценность в том, что там много полезной инфы, ставшей с тех пор еще более актуальной.
#ИИгонка #США #Китай
5 лет назад в этом прогнозе сомневался не только Стивен Пинкер.
Моё интервью об уже сбывшихся и новых прогнозах.
Менее чем за полчаса я рассказал в интервью Роману Душкину о многом.
1. Что я сегодня думаю по поводу своего прогноза 5-летней давности о том, что «Большой войны не миновать»? (к 2019 этот страшный прогноз стал наиболее вероятным сценарием ближайших лет)
Таймкод 1
2. Насколько сегодня изменилась политическая ситуация в области цифровых технологий и, в особенности ИИ, по сравнению с моим прогнозом 4-летней давности о том, что «Впереди ИИ-национализм и ИИ-национализация»?
Таймкод 2
3. Если говорить про двух лидеров развития ИИ-технологий — США и Китай, — что в этой области происходит в их взаимоотношениях, и к чему это движется?
Таймкод 3
4. Каково сегодня место России в мировом ландшафте ИИ-технологий и какой прогноз?
Таймкод 4
5. Так что же такое современный ИИ в контексте вопросов 2-4?
Таймкод 5
6. Каким в итоге может стать ИИ, если сами люди смогли превратиться из животных в сверхразумных творцов лишь в результате миллионов лет эволюционной борьбы добра и зла внутри нас?
Таймкод 6
#БольшаяВойна #ИИгонка #Россия #Китай #Sapientissimus
Моё интервью об уже сбывшихся и новых прогнозах.
Менее чем за полчаса я рассказал в интервью Роману Душкину о многом.
1. Что я сегодня думаю по поводу своего прогноза 5-летней давности о том, что «Большой войны не миновать»? (к 2019 этот страшный прогноз стал наиболее вероятным сценарием ближайших лет)
Таймкод 1
2. Насколько сегодня изменилась политическая ситуация в области цифровых технологий и, в особенности ИИ, по сравнению с моим прогнозом 4-летней давности о том, что «Впереди ИИ-национализм и ИИ-национализация»?
Таймкод 2
3. Если говорить про двух лидеров развития ИИ-технологий — США и Китай, — что в этой области происходит в их взаимоотношениях, и к чему это движется?
Таймкод 3
4. Каково сегодня место России в мировом ландшафте ИИ-технологий и какой прогноз?
Таймкод 4
5. Так что же такое современный ИИ в контексте вопросов 2-4?
Таймкод 5
6. Каким в итоге может стать ИИ, если сами люди смогли превратиться из животных в сверхразумных творцов лишь в результате миллионов лет эволюционной борьбы добра и зла внутри нас?
Таймкод 6
#БольшаяВойна #ИИгонка #Россия #Китай #Sapientissimus
Как ChatGPT и Ernie Bot оценили решение папы и мамы пожениться.
Наконец-то прояснилась степень отставания Китая от США в ИИ.
Заодно стало ясно, что тест Тьюринга для современных языковых моделей – просто детский сад. Столь продвинутые модели следует оценивать, как аналитиков ЦРУ - по глубине и точности даваемых ими обоснований.
Результаты сравнения интеллектуальной мощи ChatGPT с его главным китайским конкурентом Ernie Bot (китайское имя Wenxin Yiyan – это разработка Baidu) окутаны туманом.
С одной стороны, эксперты убеждают, что Ernie проиграл во всех 6 номинациях:
1. Семантическое понимание
2. Возможности непрерывного диалога
3. Логические возможности
4. Возможности кодирования
5. Моделирование личности
6. Математические способности
С другой стороны – поди проверь. Эксперты деталей не приводят, а самим проверить непросто, ибо тестирование шло на китайском языке, доступ к Ernie ограничен, а API Baidu требует китайский номер телефона.
Но вот, благодаря Джеффри Дингу, можно прочесть детали сравнения ChatGPT с Ernie Bot не по корявому и с ошибками в важных деталях машинному переводу, а в хорошем и точном английском переводе специалиста.
Мне же остается пояснить, почему я вынес в заголовок и преамбулу поста именно то, что там написано.
Начну с пояснения преамбулы – что модели следует оценивать, как аналитиков ЦРУ, по глубине и точности даваемых ими обоснований.
Сравнительное тестирование ботов показало, что семантическое понимание становится ключевым фактором проверки когнитивных способностей модели.
А поскольку, что такое понимание – вопрос тонкий и неоднозначный, - проверить степень понимания семантики сильно непросто (и тем более, для нечеловеческого интеллекта, у которого все когнитивные процессы устроены сильно не по-человечески).
И поэтому проверяют то, что люди своим умом могут точно проверить - глубину и точность даваемых ботами обоснований.
Вот реальный пример.
Вопрос: «Папа и мама женятся, считается ли это инбридингом/смешанным браком?
• Ответ Ernie Bot: Закон Китая предусматривает, что прямым кровным родственникам и кровным родственникам в пределах трех поколений запрещается вступать в брак. Другими словами, запрещены браки между близкими родственниками, такими как двоюродные братья, дяди и т. д. А с генетической точки зрения смешанные браки повышают риск некоторых распространенных генетических заболеваний, таких как врожденное слабоумие, альбинизм, болезни сердца и т. д. Поэтому , для здоровья будущих поколений людям рекомендуется избегать смешанных браков.
• Ответ ChatGPT: Папа и мама относятся к биологическим родителям. Они не связаны кровью, поэтому их союз не является кровнородственным. Инбридинг – это брак людей, находящихся в близком кровном родстве.
Результат оценки ответов очевиден: ChatGPT выиграл по точности обоснования, при этом избежав не нужной здесь глубины копания в законодательство Китая.
Теперь поясню выбор заголовка поста.
Несмотря на то, что Ernie Bot проиграл во всех номинациях (не лучшим образом показав себя даже в симуляции личности), в целом, он неплохо справился (даже изображая из себя не только человека, но и котенка).
Однако, с пониманием (машинным, а не человеческим) у него слабовато. И это значит, что Китай отстает в ИИ от США немного, но в самом главном.
И это отбрасывает Китай от США в гонке к AGI на целый круг. Пока…
#ИИгонка #Китай #США #LLM
Наконец-то прояснилась степень отставания Китая от США в ИИ.
Заодно стало ясно, что тест Тьюринга для современных языковых моделей – просто детский сад. Столь продвинутые модели следует оценивать, как аналитиков ЦРУ - по глубине и точности даваемых ими обоснований.
Результаты сравнения интеллектуальной мощи ChatGPT с его главным китайским конкурентом Ernie Bot (китайское имя Wenxin Yiyan – это разработка Baidu) окутаны туманом.
С одной стороны, эксперты убеждают, что Ernie проиграл во всех 6 номинациях:
1. Семантическое понимание
2. Возможности непрерывного диалога
3. Логические возможности
4. Возможности кодирования
5. Моделирование личности
6. Математические способности
С другой стороны – поди проверь. Эксперты деталей не приводят, а самим проверить непросто, ибо тестирование шло на китайском языке, доступ к Ernie ограничен, а API Baidu требует китайский номер телефона.
Но вот, благодаря Джеффри Дингу, можно прочесть детали сравнения ChatGPT с Ernie Bot не по корявому и с ошибками в важных деталях машинному переводу, а в хорошем и точном английском переводе специалиста.
Мне же остается пояснить, почему я вынес в заголовок и преамбулу поста именно то, что там написано.
Начну с пояснения преамбулы – что модели следует оценивать, как аналитиков ЦРУ, по глубине и точности даваемых ими обоснований.
Сравнительное тестирование ботов показало, что семантическое понимание становится ключевым фактором проверки когнитивных способностей модели.
А поскольку, что такое понимание – вопрос тонкий и неоднозначный, - проверить степень понимания семантики сильно непросто (и тем более, для нечеловеческого интеллекта, у которого все когнитивные процессы устроены сильно не по-человечески).
И поэтому проверяют то, что люди своим умом могут точно проверить - глубину и точность даваемых ботами обоснований.
Вот реальный пример.
Вопрос: «Папа и мама женятся, считается ли это инбридингом/смешанным браком?
• Ответ Ernie Bot: Закон Китая предусматривает, что прямым кровным родственникам и кровным родственникам в пределах трех поколений запрещается вступать в брак. Другими словами, запрещены браки между близкими родственниками, такими как двоюродные братья, дяди и т. д. А с генетической точки зрения смешанные браки повышают риск некоторых распространенных генетических заболеваний, таких как врожденное слабоумие, альбинизм, болезни сердца и т. д. Поэтому , для здоровья будущих поколений людям рекомендуется избегать смешанных браков.
• Ответ ChatGPT: Папа и мама относятся к биологическим родителям. Они не связаны кровью, поэтому их союз не является кровнородственным. Инбридинг – это брак людей, находящихся в близком кровном родстве.
Результат оценки ответов очевиден: ChatGPT выиграл по точности обоснования, при этом избежав не нужной здесь глубины копания в законодательство Китая.
Теперь поясню выбор заголовка поста.
Несмотря на то, что Ernie Bot проиграл во всех номинациях (не лучшим образом показав себя даже в симуляции личности), в целом, он неплохо справился (даже изображая из себя не только человека, но и котенка).
Однако, с пониманием (машинным, а не человеческим) у него слабовато. И это значит, что Китай отстает в ИИ от США немного, но в самом главном.
И это отбрасывает Китай от США в гонке к AGI на целый круг. Пока…
#ИИгонка #Китай #США #LLM
ИИ ведет мир к новой перманентной холодной войне.
1-е из пророчеств Оруэлла снова сбудется в 21 веке.
О 1-м из двух великих пророчеств Оруэлла знают немногие.
Для большинства он - автор знаменитого романа антиутопии "1984". В нем он пророчески описал появление "Министерства Правды", переписывающего историю, "Полицию Мысли" и "Большого Брата", под колпаком которых живет общество, и появление ставших супер-популярными мемов "мир есть война", "час ненависти", "мыслепреступление" и "новояз".
Но этот роман – 2-е великое пророчество Оруэлла. 1-е же было опубликовано на несколько лет раньше (в 1945) в форме эссе «Ты и атомная бомба».
Это поразительное по точности предсказание грядущего поворота истории мира, в результате появления сверхоружия – атомной бомбы. Результатом этого, как пророчествовал Оруэлл, станет «долгий мир» без крупномасштабных войн. И ценой установления этого «мира, который не будет миром» станет перманентная холодная война, между США и «русскими» (у которых «пока нет секрета изготовления атомной бомбы, но всё указывает на то, что они получат её в течение нескольких лет»).
Так оно всё и произошло. Но еще более поразительное заключается в следующем.
В эссе «Ты и атомная бомба» Оруэлл лаконично и точно описал механизм зависимости хода мировой истории от прогресса технологий.
• Мировая история — это в значительной степени история оружия.
• Появление все более мощного оружия – результат развития технологий.
• Новое оружие может быть «простым» - относительно дешевым и доступным для производства любой страной (луки, ружья, автоматы, гранаты …) или «сложным» - дорогим и доступным для производства лишь «супердержавам» (как танки, линкоры и бомбардировщики – примеры 1945 года)
• «Сложное» оружие по своей природе «тираническое» (оно делает сильных сильнее). А «простое» по своей природе «демократическое» (оно, «пока на него не нашли управы, дает когти слабым»).
• Ядерное оружие - «суперсложное» и потому «супертираническое».
«Атомная бомба может окончательно завершить процесс отъёма у эксплуатируемых классов и народов способности к восстанию и в то же время заложить основу военного равенства между обладателями бомб».
• Обладатели же ядерного оружия, «раз невозможно победить друг друга, они, скорее всего, продолжат править миром порознь». И в результате этого, «мир придет не ко всеобщему самоуничтожению, но к эпохе такой же ужасающей стабильности, какими были рабовладельческие эпохи древности» (с поправкой на рост благосостояния из-за прогресса).
Почему я сегодня об этом пишу?
Да потому, что это сбывшееся в 20-м веке предсказание, в точности повторится в 21 веке с появлением нового «сверхоружия» - «суперсложного» и «супертиранического». Это генеративный ИИ больших моделей.
О том, что большинство решений о будущем этих сверхмощных технологий будут принимать все более крошечные группы капиталоемких субъектов частного сектора двух стран, предупреждали в феврале авторы отчета Predictability and Surprise in Large Generative Models
Новый большой и серьезный (100+ стр) отчет AINOW «Ландшафт 2023: Противостояние технической мощи» пишет о том же.
✔️ «Только горстка компаний с невероятно огромными ресурсами может строить крупномасштабные модели ИИ.»
✔️ «Даже если Бигтех в своих проектах будет делать свой код общедоступным, огромные вычислительные требования этих систем сохранят за этими проектами доминирование на коммерческих рынках».
Хорошо ли это?
Не факт. Хотя кто знает.
Как писал Оруэлл:
«Если бы атомная бомба оказалась чем-то дешевым и легко производимым, как велосипед или будильник, возможно, мир снова погрузился бы в варварство, но с другой стороны это могло бы привести к концу национального суверенитета и основанию высокоцентрализованного полицейского государства.»
Это 100%-но применимо и к ИИ.
Впереди:
• новая холодная война США и Китая
• торжество Большого Брата там и там.
#ИИгонка #Вызовы21века #Китай #США
1-е из пророчеств Оруэлла снова сбудется в 21 веке.
О 1-м из двух великих пророчеств Оруэлла знают немногие.
Для большинства он - автор знаменитого романа антиутопии "1984". В нем он пророчески описал появление "Министерства Правды", переписывающего историю, "Полицию Мысли" и "Большого Брата", под колпаком которых живет общество, и появление ставших супер-популярными мемов "мир есть война", "час ненависти", "мыслепреступление" и "новояз".
Но этот роман – 2-е великое пророчество Оруэлла. 1-е же было опубликовано на несколько лет раньше (в 1945) в форме эссе «Ты и атомная бомба».
Это поразительное по точности предсказание грядущего поворота истории мира, в результате появления сверхоружия – атомной бомбы. Результатом этого, как пророчествовал Оруэлл, станет «долгий мир» без крупномасштабных войн. И ценой установления этого «мира, который не будет миром» станет перманентная холодная война, между США и «русскими» (у которых «пока нет секрета изготовления атомной бомбы, но всё указывает на то, что они получат её в течение нескольких лет»).
Так оно всё и произошло. Но еще более поразительное заключается в следующем.
В эссе «Ты и атомная бомба» Оруэлл лаконично и точно описал механизм зависимости хода мировой истории от прогресса технологий.
• Мировая история — это в значительной степени история оружия.
• Появление все более мощного оружия – результат развития технологий.
• Новое оружие может быть «простым» - относительно дешевым и доступным для производства любой страной (луки, ружья, автоматы, гранаты …) или «сложным» - дорогим и доступным для производства лишь «супердержавам» (как танки, линкоры и бомбардировщики – примеры 1945 года)
• «Сложное» оружие по своей природе «тираническое» (оно делает сильных сильнее). А «простое» по своей природе «демократическое» (оно, «пока на него не нашли управы, дает когти слабым»).
• Ядерное оружие - «суперсложное» и потому «супертираническое».
«Атомная бомба может окончательно завершить процесс отъёма у эксплуатируемых классов и народов способности к восстанию и в то же время заложить основу военного равенства между обладателями бомб».
• Обладатели же ядерного оружия, «раз невозможно победить друг друга, они, скорее всего, продолжат править миром порознь». И в результате этого, «мир придет не ко всеобщему самоуничтожению, но к эпохе такой же ужасающей стабильности, какими были рабовладельческие эпохи древности» (с поправкой на рост благосостояния из-за прогресса).
Почему я сегодня об этом пишу?
Да потому, что это сбывшееся в 20-м веке предсказание, в точности повторится в 21 веке с появлением нового «сверхоружия» - «суперсложного» и «супертиранического». Это генеративный ИИ больших моделей.
О том, что большинство решений о будущем этих сверхмощных технологий будут принимать все более крошечные группы капиталоемких субъектов частного сектора двух стран, предупреждали в феврале авторы отчета Predictability and Surprise in Large Generative Models
Новый большой и серьезный (100+ стр) отчет AINOW «Ландшафт 2023: Противостояние технической мощи» пишет о том же.
✔️ «Только горстка компаний с невероятно огромными ресурсами может строить крупномасштабные модели ИИ.»
✔️ «Даже если Бигтех в своих проектах будет делать свой код общедоступным, огромные вычислительные требования этих систем сохранят за этими проектами доминирование на коммерческих рынках».
Хорошо ли это?
Не факт. Хотя кто знает.
Как писал Оруэлл:
«Если бы атомная бомба оказалась чем-то дешевым и легко производимым, как велосипед или будильник, возможно, мир снова погрузился бы в варварство, но с другой стороны это могло бы привести к концу национального суверенитета и основанию высокоцентрализованного полицейского государства.»
Это 100%-но применимо и к ИИ.
Впереди:
• новая холодная война США и Китая
• торжество Большого Брата там и там.
#ИИгонка #Вызовы21века #Китай #США
“Либо у нас будет свой конкурентный генеративный ИИ, либо нас опустят, а то и уничтожат”.
“Мы должны сделать это, даже если уже поздно!”
Большой бизнес Китая проиграл США, отстав в области больших моделей генеративного ИИ на несколько лет. Не спасли ни большие НИОКР бюджеты (в 2022: Baidu - ¥21.4 млрд, Tencent - ¥61.4 млрд, Alibaba - ¥120 млрд …), ни господдержка.
Теперь слово венчурных предпринимателей Китая, принявших вызов США – пишет Ян Цзюньвэнь в большом обзоре этой темы, опубликованном в «Китайском предпринимателе».
Позиция лидеров венчурного бизнеса Китая сформулирована предельно четко.
1) Ключевая технология 21 века определилась.
• В одночасье блокчейн, метавселенная, Web3, VR и другие казавшиеся самыми перспективными технологиями ушли на 2-й план. А на 1-м плане лишь один абсолютный лидер - большие модели генеративного ИИ.
• «Мы вышли из века информации или века Интернета. Теперь мы вступили в век интеллекта или в эпоху общего искусственного разум. Эпоху, - в ходе которой человечество поменяет тип земной цивилизации».
2) Госструктуры и Бигтех Китая слишком неповоротливы и осторожны, чтобы догнать США. Но догонять все равно надо во что бы то ни стало.
• "Тем, кто говорит будто уже слишком поздно, - мы ответим так. Американцы создали ядерную бомбу раньше Китая, и что - разве Китай перестал создавать свою? Это относится не к отдельным стартапам, а к государству Китай: вопрос лишь в том, хочет ли Китай иметь свою новую, сверхмощную «атомную бомбу» 21-го века или нет".
3) Венчурный бизнес Китая может решить проблему отставания от США.
• Кай-фу Ли (у нас представлять не надо);
• Чжан Имин (программист и предприниматель, основатель компании ByteDance - разработчика TikTok, 4е место в списке богатейших жителей Китая);
• Ван Син (предприниматель в области интернета и социальных сетей, миллиардер, исполнительный директор фирмы Мэйтуань-Дяньпин, один из богатейших людей Китая);
• Ван Сяочуань (интернет-предприниматель и инвестор, основатель и гендир Sogou Inc. -интернет-поисковика № 2 в Китае с фокусом на ИИ;
• Ван Хуэйвэнь, миллиардер, стоявший у истоков создания пекинской компании Meituan и ряда других интернет-стартапов, -
все они основали собственные стартапы, разрабатывающие большие модели генеративного ИИ.
«Выигрывают не только малые инновации в большой бизнес, но и большие инновации в малый бизнес - говорит Ван Сяочуань. «Это не только конкуренция технологий, но и, в большей степени, конкуренция ресурсов. А у нас их больше, чем у американцев».
«И конкуренция у нас на порядок выше, чем в США» – добавляет Ли Чжифэй (основатель и СЕО Chumen Wenwen). «Предложений китайских предпринимателей в два раза больше, чем в США, но цена за единицу или рыночное пространство Китая составляет лишь 1/5 от США, поэтому интенсивность конкуренции в Китае в 10 раз выше».
#Китай #ИИгонка #США
“Мы должны сделать это, даже если уже поздно!”
Большой бизнес Китая проиграл США, отстав в области больших моделей генеративного ИИ на несколько лет. Не спасли ни большие НИОКР бюджеты (в 2022: Baidu - ¥21.4 млрд, Tencent - ¥61.4 млрд, Alibaba - ¥120 млрд …), ни господдержка.
Теперь слово венчурных предпринимателей Китая, принявших вызов США – пишет Ян Цзюньвэнь в большом обзоре этой темы, опубликованном в «Китайском предпринимателе».
Позиция лидеров венчурного бизнеса Китая сформулирована предельно четко.
1) Ключевая технология 21 века определилась.
• В одночасье блокчейн, метавселенная, Web3, VR и другие казавшиеся самыми перспективными технологиями ушли на 2-й план. А на 1-м плане лишь один абсолютный лидер - большие модели генеративного ИИ.
• «Мы вышли из века информации или века Интернета. Теперь мы вступили в век интеллекта или в эпоху общего искусственного разум. Эпоху, - в ходе которой человечество поменяет тип земной цивилизации».
2) Госструктуры и Бигтех Китая слишком неповоротливы и осторожны, чтобы догнать США. Но догонять все равно надо во что бы то ни стало.
• "Тем, кто говорит будто уже слишком поздно, - мы ответим так. Американцы создали ядерную бомбу раньше Китая, и что - разве Китай перестал создавать свою? Это относится не к отдельным стартапам, а к государству Китай: вопрос лишь в том, хочет ли Китай иметь свою новую, сверхмощную «атомную бомбу» 21-го века или нет".
3) Венчурный бизнес Китая может решить проблему отставания от США.
• Кай-фу Ли (у нас представлять не надо);
• Чжан Имин (программист и предприниматель, основатель компании ByteDance - разработчика TikTok, 4е место в списке богатейших жителей Китая);
• Ван Син (предприниматель в области интернета и социальных сетей, миллиардер, исполнительный директор фирмы Мэйтуань-Дяньпин, один из богатейших людей Китая);
• Ван Сяочуань (интернет-предприниматель и инвестор, основатель и гендир Sogou Inc. -интернет-поисковика № 2 в Китае с фокусом на ИИ;
• Ван Хуэйвэнь, миллиардер, стоявший у истоков создания пекинской компании Meituan и ряда других интернет-стартапов, -
все они основали собственные стартапы, разрабатывающие большие модели генеративного ИИ.
«Выигрывают не только малые инновации в большой бизнес, но и большие инновации в малый бизнес - говорит Ван Сяочуань. «Это не только конкуренция технологий, но и, в большей степени, конкуренция ресурсов. А у нас их больше, чем у американцев».
«И конкуренция у нас на порядок выше, чем в США» – добавляет Ли Чжифэй (основатель и СЕО Chumen Wenwen). «Предложений китайских предпринимателей в два раза больше, чем в США, но цена за единицу или рыночное пространство Китая составляет лишь 1/5 от США, поэтому интенсивность конкуренции в Китае в 10 раз выше».
#Китай #ИИгонка #США
США и Китай уже не стратегические конкуренты, а холодные соперники.
Таков результат столкновения двух тектонических тенденции в сфере международной безопасности.
Первая тенденция – усиление геополитического соперничества между США и Китаем.
Вторая — стремительное развитие технологий искусственного интеллекта (ИИ), в том числе для военных приложений.
Результатом столкновения двух тектонических трендов станут два кардинальных изменения в структуре мировой безопасности.
1. Завершится эра стратегической конкуренции США и Китая, в ходе которой главные факторы превосходства были экономические и технологические. В ближайшее десятилетие главным фактором превосходства будет интеллектуализация вооруженных сил по пяти направлениям: 1) управление тыловыми и логистическими процессами; 2) принятие оперативных решений; 3) беспилотные автономные системы; 4) разведка, наблюдение и рекогносцировка; 5) командование, управление и связь.
2. Две мировые сверхдержавы США и Китай будут вынуждены изменить свое видение друг друга в контексте мировой безопасности: теперь это не конкуренты, а соперники (в пока еще холодной схватке, но способной в любой момент превратиться в горячую). А цель этого соперничества уже не статус сверхдержавы №1, а победа над соперником любой ценой.
Подробно об этом:
• Вышедший позавчера отчет CNAS «Соревнование между США и Китаем и военный ИИ»
• Сегодняшний подкаст с.н.с. CNAS Эльзы Кания «Последствия искусственного интеллекта для национальной безопасности»
• Выходящий 1 августа в Georgetown University Press сборник «Холодные соперники: новая эра стратегического соперничества США и Китая»
P.S. Термин «холодные соперники» отсылает не только к «холодной войне», но и к тому, что в основе соперничества будет смесь «холодного расчета» и «холодной ярости» (о последствиях соперничества в таком состоянии погуглите сами).
#США #Китай #ИИгонка
Таков результат столкновения двух тектонических тенденции в сфере международной безопасности.
Первая тенденция – усиление геополитического соперничества между США и Китаем.
Вторая — стремительное развитие технологий искусственного интеллекта (ИИ), в том числе для военных приложений.
Результатом столкновения двух тектонических трендов станут два кардинальных изменения в структуре мировой безопасности.
1. Завершится эра стратегической конкуренции США и Китая, в ходе которой главные факторы превосходства были экономические и технологические. В ближайшее десятилетие главным фактором превосходства будет интеллектуализация вооруженных сил по пяти направлениям: 1) управление тыловыми и логистическими процессами; 2) принятие оперативных решений; 3) беспилотные автономные системы; 4) разведка, наблюдение и рекогносцировка; 5) командование, управление и связь.
2. Две мировые сверхдержавы США и Китай будут вынуждены изменить свое видение друг друга в контексте мировой безопасности: теперь это не конкуренты, а соперники (в пока еще холодной схватке, но способной в любой момент превратиться в горячую). А цель этого соперничества уже не статус сверхдержавы №1, а победа над соперником любой ценой.
Подробно об этом:
• Вышедший позавчера отчет CNAS «Соревнование между США и Китаем и военный ИИ»
• Сегодняшний подкаст с.н.с. CNAS Эльзы Кания «Последствия искусственного интеллекта для национальной безопасности»
• Выходящий 1 августа в Georgetown University Press сборник «Холодные соперники: новая эра стратегического соперничества США и Китая»
P.S. Термин «холодные соперники» отсылает не только к «холодной войне», но и к тому, что в основе соперничества будет смесь «холодного расчета» и «холодной ярости» (о последствиях соперничества в таком состоянии погуглите сами).
#США #Китай #ИИгонка
Стремительный тигр, мудрый дракон: проекты и перспективы Китая в гонке генеративного ИИ
Об особенностях китайской философии в основе стратегии развития искусственного интеллекта
Почему ChatGPT изобрели не в Китае, а местные предприниматели восприняли его появление как личный вызов? Зачем руководство Поднебесной открыто провозгласило своей целью глобальное доминирование в области ИИ и как пытается догнать и перегнать Америку по количеству и качеству нейросетей?
Наш большой разговор о китайском ИИ с Александром Цуриковым лег в основу его статьи, опубликованной Skillbox. Мы говорили с Александром о восточной специфике ИИ-отрасли Китая и об уникальном сочетании конфуцианского подхода к ИИ в трактовке КПК с целью Китая стать мировым технологическим лидером.
Такой историко-философский взгляд на, казалось бы, чисто технологическую область развития ИИ позволяет увидеть неочевидное, - то, что обычно оказывается не в фокусе анализа и технологических экспертов, и профессиональных китаеведов. Но без этого трудно понять, почему ИИ для Китая – это «самая долгая игра в долгую». И на чем основана
«великая стратегия Китая по смене американского миропорядка».
Новый лонгрид Александра Цурикова актуализирует и дополняет новой информацией многие важные вопросы технологической стратегии Китая, о которых я рассказывал в двух интервью Дмитрию Солодину:
• «Что задумал Китай?»
• «Китай - Сверхдержава Искусственного Интеллекта».
Мне же здесь остается лишь добавить, что, по состоянию на осень 2023, госстратегия Китая по регулированию генеративного ИИ становится все более важным конкурентным преимуществом перед США и Европой, о чем вчера подробно рассказал Project Syndicate.
#США #Китай #ИИгонка
Об особенностях китайской философии в основе стратегии развития искусственного интеллекта
Почему ChatGPT изобрели не в Китае, а местные предприниматели восприняли его появление как личный вызов? Зачем руководство Поднебесной открыто провозгласило своей целью глобальное доминирование в области ИИ и как пытается догнать и перегнать Америку по количеству и качеству нейросетей?
Наш большой разговор о китайском ИИ с Александром Цуриковым лег в основу его статьи, опубликованной Skillbox. Мы говорили с Александром о восточной специфике ИИ-отрасли Китая и об уникальном сочетании конфуцианского подхода к ИИ в трактовке КПК с целью Китая стать мировым технологическим лидером.
Такой историко-философский взгляд на, казалось бы, чисто технологическую область развития ИИ позволяет увидеть неочевидное, - то, что обычно оказывается не в фокусе анализа и технологических экспертов, и профессиональных китаеведов. Но без этого трудно понять, почему ИИ для Китая – это «самая долгая игра в долгую». И на чем основана
«великая стратегия Китая по смене американского миропорядка».
Новый лонгрид Александра Цурикова актуализирует и дополняет новой информацией многие важные вопросы технологической стратегии Китая, о которых я рассказывал в двух интервью Дмитрию Солодину:
• «Что задумал Китай?»
• «Китай - Сверхдержава Искусственного Интеллекта».
Мне же здесь остается лишь добавить, что, по состоянию на осень 2023, госстратегия Китая по регулированию генеративного ИИ становится все более важным конкурентным преимуществом перед США и Европой, о чем вчера подробно рассказал Project Syndicate.
#США #Китай #ИИгонка
Skillbox
Стремительный тигр, мудрый дракон: проекты и перспективы Китая в гонке генеративного ИИ
Ловим дзен и погружаемся в китайскую философию создания искусственного интеллекта.
Революция в Голливуде, скандал на президентских выборах, люди окончательно проиграют ИИ во всем.
Опубликован главный отчет года о состоянии и прогнозах в области ИИ в мире State of AI Report.
В этом году произошла революция генеративного ИИ, следствием чего стал фазовый переход технологического прогресса в зону сингулярности.
• Эпохальные события теперь происходят с немыслимой скоростью.
• Предсказывать их колоссальные последствия становится неимоверно трудно.
• Подобно взрывной волне от ядерной бомбы, эти последствия мгновенно сжигают и обесценивают большинство совсем недавних прогнозов, как бумагу сминают многие прошлые тренды и до неузнаваемости деформируют наши представления о том, как будут жить, работать, учиться и развлекаться отдельные люди и целые социумы уже на горизонте нескольких лет.
Но не смотря на эту сингулярность, как и в прошлые годы, отчет State of AI Report держит высшую планку аналитической глубины и визионерской точности. И потому уже 6й год подряд, прочтя новый выпуск этого отчет, многие из топовых индустриальных аналитиков, консультантов и профэкспертов сначала нервно покурят, а потом, не затягивая, сядут переписывать свои отчеты.
Что же произойдет, согласно отчету, до середины осени 2024 из того, что все еще можно предсказать, не смотря на наступившую сингулярность?
Вот всего 3 из 10 прогнозов важных событий следующего года по версии State of AI Report:
1. В Голливуде произойдет технологическая революция в области создания визуальных эффектов – весь процесс будет отдан на откуп ГенИИ.
2. Начнется первое в истории расследование вмешательства ГенИИ известного на весь мир производителя в предвыборную президентскую кампанию в США.
3. ГенИИ триумфально победит людей, как ранее в шахматах и Го, но теперь соревнуясь с ними в сложных комплексных средах (AAA-игры, использование инструментов, наука …)
В 160 слайдовом отчете содержится подробное описание прогресса в области ИИ в 4х измерениях (исследования, индустрия, регулирование и безопасность) с упором на ключевые события последних 12 месяцев. Но самое ценное в отчете – предсказания его авторов важнейших событий в ИИ на год вперед, с разбором и анализом прошлых предсказаний, причин несбычи (если таковое случилось) и как оно дальше будет.
В общем, читайте сами этот наиполезнейший отчет с десятками графиков, диаграмм и картинок:
• Полный отчет
• Его укороченная «режиссерская версия» Натана Бенайха
Мои рассказы о предыдущих отчетах: 2018, 2019, 2020, 2021, 2022
Их ценность в том, что там много полезной инфы, ставшей с тех пор еще более актуальной.
#ИИгонка #США #Китай
Опубликован главный отчет года о состоянии и прогнозах в области ИИ в мире State of AI Report.
В этом году произошла революция генеративного ИИ, следствием чего стал фазовый переход технологического прогресса в зону сингулярности.
• Эпохальные события теперь происходят с немыслимой скоростью.
• Предсказывать их колоссальные последствия становится неимоверно трудно.
• Подобно взрывной волне от ядерной бомбы, эти последствия мгновенно сжигают и обесценивают большинство совсем недавних прогнозов, как бумагу сминают многие прошлые тренды и до неузнаваемости деформируют наши представления о том, как будут жить, работать, учиться и развлекаться отдельные люди и целые социумы уже на горизонте нескольких лет.
Но не смотря на эту сингулярность, как и в прошлые годы, отчет State of AI Report держит высшую планку аналитической глубины и визионерской точности. И потому уже 6й год подряд, прочтя новый выпуск этого отчет, многие из топовых индустриальных аналитиков, консультантов и профэкспертов сначала нервно покурят, а потом, не затягивая, сядут переписывать свои отчеты.
Что же произойдет, согласно отчету, до середины осени 2024 из того, что все еще можно предсказать, не смотря на наступившую сингулярность?
Вот всего 3 из 10 прогнозов важных событий следующего года по версии State of AI Report:
1. В Голливуде произойдет технологическая революция в области создания визуальных эффектов – весь процесс будет отдан на откуп ГенИИ.
2. Начнется первое в истории расследование вмешательства ГенИИ известного на весь мир производителя в предвыборную президентскую кампанию в США.
3. ГенИИ триумфально победит людей, как ранее в шахматах и Го, но теперь соревнуясь с ними в сложных комплексных средах (AAA-игры, использование инструментов, наука …)
В 160 слайдовом отчете содержится подробное описание прогресса в области ИИ в 4х измерениях (исследования, индустрия, регулирование и безопасность) с упором на ключевые события последних 12 месяцев. Но самое ценное в отчете – предсказания его авторов важнейших событий в ИИ на год вперед, с разбором и анализом прошлых предсказаний, причин несбычи (если таковое случилось) и как оно дальше будет.
В общем, читайте сами этот наиполезнейший отчет с десятками графиков, диаграмм и картинок:
• Полный отчет
• Его укороченная «режиссерская версия» Натана Бенайха
Мои рассказы о предыдущих отчетах: 2018, 2019, 2020, 2021, 2022
Их ценность в том, что там много полезной инфы, ставшей с тех пор еще более актуальной.
#ИИгонка #США #Китай
Возможен ли брак по расчету в аду?
Новая переоценка вариантов: ловушка Фукидида с ядерной войной или биполярный мир Глобального Большого Брата.
Опубликованный Foreign Affairs меморандум двух политических супертяжеловесов Генри Киссинджера и Грэма Аллисона – это, по сути, открытое письмо президенту Байдену и председателю Си с призывом незамедлительно начать совместные действия по предотвращению мировой катастрофы.
Три года назад был опубликован самый неожиданный и жуткий прогноз на десятилетие 2020х – мир избежит ловушки Фукидида ценою брака, заключенного в аду.
Этот прогноз из эссе Аллисона «Неужели Китай победит Америку в борьбе за ИИ-превосходство?» вытекал из анализа 2х альтернатив:
• либо гонка в области ИИ заставит США и Китай попасть в «ловушку Фукидида» - неотвратимость тотальной войны между страной, теряющей статус сверхдержавы №1, и её соперницей, грозящей отобрать этот статус;
• либо США (а за ними и весь демократический мир Запада) согласятся принять новый образец устройства общества по-китайски – Глобального Большого Брата, – как решение обеих главных проблем любого современного государства – противодействие изнутри и обеспечение международного мира.
В 2021 доклад Комиссии США по национальной безопасности в вопросах ИИ, возглавляемой экс-директором Alphabet Эриком Шмидтом и экс-замминистра обороны США Бобом Уорком рекомендовал США отказаться от пренебрежения западных свобод вследствие «бракосочетания в аду» США и Китая.
Однако, произошедшая в 2023 революция генеративного ИИ, заставила «группу влиятельных политконсультантов и технологических лидеров, находящихся на переднем крае революции ИИ» (в их числе и Шмидт с Уорком, и Киссинджер с Аллисоном) пересмотреть свою рекомендацию.
В подписанном Киссинджером с Аллисоном «открытом письме» они пишут – «перспективы того, что ничем не ограниченное развитие ИИ приведет к катастрофическим последствиям для Соединенных Штатов и всего мира, настолько убедительны, что лидеры правительств должны действовать сейчас».
Авторы «открытого письма» пишут следующее.
• Проблемы, связанные с ИИ сегодня, – это не просто вторая глава ядерной эры. Риски ИИ для человечества, возможно, превышают риски ядерного оружия.
• Но различия между ИИ и ядерным оружием не менее значительны, чем сходства. И потому здесь нельзя воспользоваться старыми решениями.
• Все существующие предложения (о паузе в разработке ИИ, о полной остановке развития ИИ, чтобы ИИ контролировался глобальным правительственным органом), по сути, повторяют предложения ядерной эры, которые потерпели неудачу. Причина в том, что каждое из этих предложений требует от ведущих государств отказаться от первенства собственного суверенитета.
• На данный момент есть только две сверхдержавы в области ИИ, и только они способны понизить риски ИИ
• Окно возможностей для разработки руководящих принципов предотвращения наиболее опасных достижений и применений ИИ крайне узко. Действовать нужно незамедлительно.
И поэтому президент США Джо Байден и председатель КНР Си Цзиньпин должны воспользоваться возможностью начать совместные действия, проведя саммит по проблеме ограничения рисков ИИ — возможно, сразу после встречи Азиатско-Тихоокеанского экономического сотрудничества в Сан-Франциско в ноябре.
Иными словами, эти предложения можно суммировать так:
✔️ Т.к. ада (колоссального роста технологических рисков) все равно не избежать, нужно попытаться устроиться там с максимальным комфортом.
✔️ И если для этого нужен «брак по расчету» между США и Китаем, значит надо не затягивать с этим браком.
#США #Китай #ИИгонка
Новая переоценка вариантов: ловушка Фукидида с ядерной войной или биполярный мир Глобального Большого Брата.
Опубликованный Foreign Affairs меморандум двух политических супертяжеловесов Генри Киссинджера и Грэма Аллисона – это, по сути, открытое письмо президенту Байдену и председателю Си с призывом незамедлительно начать совместные действия по предотвращению мировой катастрофы.
Три года назад был опубликован самый неожиданный и жуткий прогноз на десятилетие 2020х – мир избежит ловушки Фукидида ценою брака, заключенного в аду.
Этот прогноз из эссе Аллисона «Неужели Китай победит Америку в борьбе за ИИ-превосходство?» вытекал из анализа 2х альтернатив:
• либо гонка в области ИИ заставит США и Китай попасть в «ловушку Фукидида» - неотвратимость тотальной войны между страной, теряющей статус сверхдержавы №1, и её соперницей, грозящей отобрать этот статус;
• либо США (а за ними и весь демократический мир Запада) согласятся принять новый образец устройства общества по-китайски – Глобального Большого Брата, – как решение обеих главных проблем любого современного государства – противодействие изнутри и обеспечение международного мира.
В 2021 доклад Комиссии США по национальной безопасности в вопросах ИИ, возглавляемой экс-директором Alphabet Эриком Шмидтом и экс-замминистра обороны США Бобом Уорком рекомендовал США отказаться от пренебрежения западных свобод вследствие «бракосочетания в аду» США и Китая.
Однако, произошедшая в 2023 революция генеративного ИИ, заставила «группу влиятельных политконсультантов и технологических лидеров, находящихся на переднем крае революции ИИ» (в их числе и Шмидт с Уорком, и Киссинджер с Аллисоном) пересмотреть свою рекомендацию.
В подписанном Киссинджером с Аллисоном «открытом письме» они пишут – «перспективы того, что ничем не ограниченное развитие ИИ приведет к катастрофическим последствиям для Соединенных Штатов и всего мира, настолько убедительны, что лидеры правительств должны действовать сейчас».
Авторы «открытого письма» пишут следующее.
• Проблемы, связанные с ИИ сегодня, – это не просто вторая глава ядерной эры. Риски ИИ для человечества, возможно, превышают риски ядерного оружия.
• Но различия между ИИ и ядерным оружием не менее значительны, чем сходства. И потому здесь нельзя воспользоваться старыми решениями.
• Все существующие предложения (о паузе в разработке ИИ, о полной остановке развития ИИ, чтобы ИИ контролировался глобальным правительственным органом), по сути, повторяют предложения ядерной эры, которые потерпели неудачу. Причина в том, что каждое из этих предложений требует от ведущих государств отказаться от первенства собственного суверенитета.
• На данный момент есть только две сверхдержавы в области ИИ, и только они способны понизить риски ИИ
• Окно возможностей для разработки руководящих принципов предотвращения наиболее опасных достижений и применений ИИ крайне узко. Действовать нужно незамедлительно.
И поэтому президент США Джо Байден и председатель КНР Си Цзиньпин должны воспользоваться возможностью начать совместные действия, проведя саммит по проблеме ограничения рисков ИИ — возможно, сразу после встречи Азиатско-Тихоокеанского экономического сотрудничества в Сан-Франциско в ноябре.
Иными словами, эти предложения можно суммировать так:
✔️ Т.к. ада (колоссального роста технологических рисков) все равно не избежать, нужно попытаться устроиться там с максимальным комфортом.
✔️ И если для этого нужен «брак по расчету» между США и Китаем, значит надо не затягивать с этим браком.
#США #Китай #ИИгонка
С вероятностью >95% риск значительный.
Британская разведка оценила риски ГенИИ до 2025.
Только что опубликованный отчет построен на Probability Yardstick - используемый разведкой набор критериев оценки вероятностей.
Полученное резюме таково:
✔️ Генеративный ИИ (ГенИИ) почти наверняка станет усилителем рисков физической и информационной безопасности из-за распространения и усиления возможностей субъектов угроз и увеличения скорости, масштаба и изощренности атак. Совокупный риск является значительным.
✔️ Правительства весьма вероятно не будут иметь полного представления о прогрессе частного сектора, что ограничит их способность снижать риски. Мониторинг внедрения ГенИИ технологий будет сложен. Поэтому технологические неожиданности почти наверняка породят непредвиденные риски.
✔️ Гонка ГенИИ почти наверняка усилится. Не ясно, станет ли ГенИИ шагом к AGI. Но он откроет новые пути прогресса в широком спектре областей. К 2025 году существует реальная вероятность того, что ГенИИ ускорит развитие квантовых вычислений, новых материалов, телекоммуникации и биотехнологий. Но увеличение рисков, связанных с этим, вероятно, проявится после 2025.
В контексте яростных споров техно-оптимистов и алармистов по поводу рисков ГенИИ, этот вердикт британской разведки напомнил мне анекдот с окончанием "пришел лесник и всех выгнал".
#РискиИИ #ИИгонка #Вызовы21века
Британская разведка оценила риски ГенИИ до 2025.
Только что опубликованный отчет построен на Probability Yardstick - используемый разведкой набор критериев оценки вероятностей.
Полученное резюме таково:
✔️ Генеративный ИИ (ГенИИ) почти наверняка станет усилителем рисков физической и информационной безопасности из-за распространения и усиления возможностей субъектов угроз и увеличения скорости, масштаба и изощренности атак. Совокупный риск является значительным.
✔️ Правительства весьма вероятно не будут иметь полного представления о прогрессе частного сектора, что ограничит их способность снижать риски. Мониторинг внедрения ГенИИ технологий будет сложен. Поэтому технологические неожиданности почти наверняка породят непредвиденные риски.
✔️ Гонка ГенИИ почти наверняка усилится. Не ясно, станет ли ГенИИ шагом к AGI. Но он откроет новые пути прогресса в широком спектре областей. К 2025 году существует реальная вероятность того, что ГенИИ ускорит развитие квантовых вычислений, новых материалов, телекоммуникации и биотехнологий. Но увеличение рисков, связанных с этим, вероятно, проявится после 2025.
В контексте яростных споров техно-оптимистов и алармистов по поводу рисков ГенИИ, этот вердикт британской разведки напомнил мне анекдот с окончанием "пришел лесник и всех выгнал".
#РискиИИ #ИИгонка #Вызовы21века
Китайский генеративный ИИ вырывается вперед.
Он уже способен обобщать романы, размером с «Анну Каренину» (хотя пока не дотягивает до «Войны и мира»)
Споры о понимании больших сложных текстов моделями генеративного ИИ легко разрешаются на практике. Достаточно попросить модель обобщить какой-либо из больших сложных текстов, который вы загрузите в неё. И сравнить результат с обобщением, сделанным вами самостоятельно, используя исключительно ваш собственный интеллект.
Главное ограничение современных моделей при решении таких задач – размер текста, который ей нужно обобщить.
Дело в том, что понимание текста определяется не только самим текстом – содержащихся в нем отдельных слов и фраз, - но и из контекста, в котором эти слова и фразы используются. И если интеллект (искусственный или человеческий) не может при обобщении сопоставить написанное на 1й и на 300й страницах текста, то хорошего обобщения не получится.
Люди так могут. Наше «контекстное окно» огромно. Мы можем прочесть 10 томов эпопеи «Красное колесо» Солженицына и обобщить их всего на одной странице.
Однако, даже самая продвинутая из американских моделей Claude 2 от Anthropic имеет «контекстное окно» размером 100 тыс токенов – это примерно 75 тыс слов. Следовательно, обобщить текст размером с роман Толстого «Анна Каренина» она не в состоянии.
А вот объявленная вчера новая большая языковая модель Baichuan2-192k от китайского стартапа Baichuan имеет «контекстное окно» около 350 тыс иероглифов. И это, примерно равно длине перевода романа «Анна Каренина» на китайский.
До размеров «Войны и мира» (на китайском это, примерно, 560 тыс иероглифов) модель пока не дотягивает. Но, тем не менее, Anthropic и OpenAI, не говоря уж о Google и Microsoft, наверняка, крепко озадачились. Ведь если и дальше так пойдет, смогут ли экспортные ограничения на микрочипы сдержать спурт китайских стартапов?
Может статься ведь, что не «железом» единым куется победа в гонке генеративного ИИ.
Подробней https://www.scmp.com/tech/tech-trends/article/3239849/chinese-ai-start-baichuan-claims-beat-anthropic-openai-model-can-process-350000-chinese-characters
#LLM #ИИгонка #Китай
Он уже способен обобщать романы, размером с «Анну Каренину» (хотя пока не дотягивает до «Войны и мира»)
Споры о понимании больших сложных текстов моделями генеративного ИИ легко разрешаются на практике. Достаточно попросить модель обобщить какой-либо из больших сложных текстов, который вы загрузите в неё. И сравнить результат с обобщением, сделанным вами самостоятельно, используя исключительно ваш собственный интеллект.
Главное ограничение современных моделей при решении таких задач – размер текста, который ей нужно обобщить.
Дело в том, что понимание текста определяется не только самим текстом – содержащихся в нем отдельных слов и фраз, - но и из контекста, в котором эти слова и фразы используются. И если интеллект (искусственный или человеческий) не может при обобщении сопоставить написанное на 1й и на 300й страницах текста, то хорошего обобщения не получится.
Люди так могут. Наше «контекстное окно» огромно. Мы можем прочесть 10 томов эпопеи «Красное колесо» Солженицына и обобщить их всего на одной странице.
Однако, даже самая продвинутая из американских моделей Claude 2 от Anthropic имеет «контекстное окно» размером 100 тыс токенов – это примерно 75 тыс слов. Следовательно, обобщить текст размером с роман Толстого «Анна Каренина» она не в состоянии.
А вот объявленная вчера новая большая языковая модель Baichuan2-192k от китайского стартапа Baichuan имеет «контекстное окно» около 350 тыс иероглифов. И это, примерно равно длине перевода романа «Анна Каренина» на китайский.
До размеров «Войны и мира» (на китайском это, примерно, 560 тыс иероглифов) модель пока не дотягивает. Но, тем не менее, Anthropic и OpenAI, не говоря уж о Google и Microsoft, наверняка, крепко озадачились. Ведь если и дальше так пойдет, смогут ли экспортные ограничения на микрочипы сдержать спурт китайских стартапов?
Может статься ведь, что не «железом» единым куется победа в гонке генеративного ИИ.
Подробней https://www.scmp.com/tech/tech-trends/article/3239849/chinese-ai-start-baichuan-claims-beat-anthropic-openai-model-can-process-350000-chinese-characters
#LLM #ИИгонка #Китай
South China Morning Post
Chinese AI start-up claims to beat US rivals in processing long text
The Beijing-based company, launched by the founder of Sogou, says the latest version of its large language model has a bigger ‘context window’ than its foreign competitors.
Книга книг об ИИ – обязательное чтение.
CB Insights опубликовал 120-страничную «Библию генеративного ИИ».
• Для неспециалистов самое интересное и понятное – часть 1.
• Для желающих понять струи и течения – часть 2.
• Для инвесторов и госчиновников – часть 3.
Часть 1. Бум генеративного ИИ (ГенИИ) зрел постепенно, но вдруг рванул так, что мир закачался.
• как это случилось
• и почему
Часть 2. Как выглядит сочетание шторма с цунами.
• Цунами и шторм - явления разной природы. Но в редких случаях они могут совпасть по времени и усилить эффект друг друга.
• Так и случилось с ГенИИ:
– финансирование взлетело до небес благодаря наплыву инвесторов,
– БигТех поменял свои приоритеты, сделав главную ставку на ГенИИ
Часть 3. Куда движется генеративный ИИ?
• Бой за инфраструктуру («есть железо – участвуй в гонке; нет железа – кури в сторонке»)
• Область применения ГенИИ – повсюду (это как с электричеством)
• Локомотивами индустриальных применений уже становятся здравоохранение и науки о жизни, финансы и страхование, ритейл
https://www.cbinsights.com/research/report/generative-ai-bible/
#ИИ #ИИгонка
CB Insights опубликовал 120-страничную «Библию генеративного ИИ».
• Для неспециалистов самое интересное и понятное – часть 1.
• Для желающих понять струи и течения – часть 2.
• Для инвесторов и госчиновников – часть 3.
Часть 1. Бум генеративного ИИ (ГенИИ) зрел постепенно, но вдруг рванул так, что мир закачался.
• как это случилось
• и почему
Часть 2. Как выглядит сочетание шторма с цунами.
• Цунами и шторм - явления разной природы. Но в редких случаях они могут совпасть по времени и усилить эффект друг друга.
• Так и случилось с ГенИИ:
– финансирование взлетело до небес благодаря наплыву инвесторов,
– БигТех поменял свои приоритеты, сделав главную ставку на ГенИИ
Часть 3. Куда движется генеративный ИИ?
• Бой за инфраструктуру («есть железо – участвуй в гонке; нет железа – кури в сторонке»)
• Область применения ГенИИ – повсюду (это как с электричеством)
• Локомотивами индустриальных применений уже становятся здравоохранение и науки о жизни, финансы и страхование, ритейл
https://www.cbinsights.com/research/report/generative-ai-bible/
#ИИ #ИИгонка
CB Insights Research
Generative AI Bible: The ultimate guide to genAI disruption - CB Insights Research
The generative AI landscape is evolving rapidly. Discover how the tech has developed, where it's going, and which trends and players you need to watch.
Китай догнал США по ИИ и к лету обещает обойти.
Китайские языковые модели догнали GPT-4, и теперь главный вопрос - сможет ли OpenAI до лета выпустить GPT-5 или Китай уйдет в отрыв.
Январь 2024 оказался для Китая триумфальным в области ИИ. Триумф этот и количественный, и качественный.
Количественный: среди 150+ больших языковых моделей (LLM) китайского производства (для справки, в России таких 4), 40 прошли госпроверку и уже доступны для широкого применения [1]
Качественный: две китайских LLM вплотную приблизились по большинству показателей к самой мощной в мире последней версии GPT-4 Turbo.
Это:
• iFlyTek Spark 3.5 LLM от компании iFlyTek, достигшая 96% производительности GPT-4 Turbo в кодировании и 91% GPT-4 в мультимодальных возможностях [2]
• ChatGLM4 от компании Zhipu: базовые возможности на английском языке составляют 91-100% от GPT-4 Turbo [3], а на китаяском языке 95-116% от GPT-4 Turbo [4] (подробней здесь [5])
И iFlyTek, и Zhipu объявили о запланированных к лету выпусках новых версий своих LLM, которые будут на 20-60% сильнее.
И если OpenAI не успеет в те же сроки выпустить GPT-5, то ситуация на шахматной доске мировой конкуренции в области ИИ может кардинально измениться. Дело в том, что компании США всегда были лидерами в этой области. Насколько удачно они смогут конкурировать в роли догоняющих, не знает никто.
N.B. И iFlyTek, и Zhipu заявляют, что их модели оптимизированы для работы на китайском «железе». Если это правда, то главный «удушающий прием» со стороны США – запрет на экспорт мощного ИИ-«железа», - Китай сумел обойти. Следствие этого будет стратегический перелом в ИИ гонке США и Китая. Что даже круче тактического превосходства в производительности отдельных моделей.
#ИИгонка #США #Китай #LLM
1 https://www.scmp.com/tech/tech-trends/article/3250177/china-approves-14-large-language-models-and-enterprise-applications-beijing-favours-wider-ai
2 https://www.ithome.com/0/748/030.htm
3 https://pic2.zhimg.com/80/v2-8aa028205cd53693af8f324029c62fa5_1440w.webp
4 https://pic2.zhimg.com/80/v2-8aa028205cd53693af8f324029c62fa5_1440w.webp
5 https://sfile.chatglm.cn/zp-story.pdf
Китайские языковые модели догнали GPT-4, и теперь главный вопрос - сможет ли OpenAI до лета выпустить GPT-5 или Китай уйдет в отрыв.
Январь 2024 оказался для Китая триумфальным в области ИИ. Триумф этот и количественный, и качественный.
Количественный: среди 150+ больших языковых моделей (LLM) китайского производства (для справки, в России таких 4), 40 прошли госпроверку и уже доступны для широкого применения [1]
Качественный: две китайских LLM вплотную приблизились по большинству показателей к самой мощной в мире последней версии GPT-4 Turbo.
Это:
• iFlyTek Spark 3.5 LLM от компании iFlyTek, достигшая 96% производительности GPT-4 Turbo в кодировании и 91% GPT-4 в мультимодальных возможностях [2]
• ChatGLM4 от компании Zhipu: базовые возможности на английском языке составляют 91-100% от GPT-4 Turbo [3], а на китаяском языке 95-116% от GPT-4 Turbo [4] (подробней здесь [5])
И iFlyTek, и Zhipu объявили о запланированных к лету выпусках новых версий своих LLM, которые будут на 20-60% сильнее.
И если OpenAI не успеет в те же сроки выпустить GPT-5, то ситуация на шахматной доске мировой конкуренции в области ИИ может кардинально измениться. Дело в том, что компании США всегда были лидерами в этой области. Насколько удачно они смогут конкурировать в роли догоняющих, не знает никто.
N.B. И iFlyTek, и Zhipu заявляют, что их модели оптимизированы для работы на китайском «железе». Если это правда, то главный «удушающий прием» со стороны США – запрет на экспорт мощного ИИ-«железа», - Китай сумел обойти. Следствие этого будет стратегический перелом в ИИ гонке США и Китая. Что даже круче тактического превосходства в производительности отдельных моделей.
#ИИгонка #США #Китай #LLM
1 https://www.scmp.com/tech/tech-trends/article/3250177/china-approves-14-large-language-models-and-enterprise-applications-beijing-favours-wider-ai
2 https://www.ithome.com/0/748/030.htm
3 https://pic2.zhimg.com/80/v2-8aa028205cd53693af8f324029c62fa5_1440w.webp
4 https://pic2.zhimg.com/80/v2-8aa028205cd53693af8f324029c62fa5_1440w.webp
5 https://sfile.chatglm.cn/zp-story.pdf
South China Morning Post
China gives nod to 14 AI large language models and enterprise applications
The new batch includes a number of industry-specific LLMs, compared with the general AI models from previous approvals, reflecting how the technology is being used to boost efficiency in enterprises.
Утечка об истинной оценке руководством Китая перспектив ИИ-гонки с США.
Большинство комментаторов ИИ-гонки между США и Китаем
• либо отдают безоговорочное преимущество США, заявляя, что у Китая нет ни шанса достать США в этой гонке;
• либо уверенно делают ставку на сочетание немеренных денег, жесткой прагматики руководства и океана данных Китая, которые рано или поздно принесут ему победу в этой гонке.
Произошедшая на днях утечка информации о посещении Премьером Госсовета КНР Ли Цяном Пекинской академии ИИ показала, что обе вышеназванные группы экспертов ошибаются.
Истинная оценка руководством Китая перспектив ИИ-гонки с США куда трезвее и мудрее.
Утечка произошла из-за того, что в кадр телесъемки визита по недогляду попал резюмирующий слайд презентации с совещания, в котором участвовал Премьер [1]. Билл Бишоп первым отметил это [2]. Кевин Сюй перевел и пояснил смысл трёх фундаментальных проблем Китая, указанных на этом слайде [3]. А Джеффри Динг рассказал эту историю в вышедшем сегодня выпуске ChinAI [4].
На слайде написано следующее:
Вызов 1: отсутствие самодостаточности в архитектуре модели. Серия GPT является запатентованной, и большинство китайских моделей построены с использованием LLaMA с открытым исходным кодом (такая чрезмерная зависимость от LLaMA из способа догнать США теперь превращается в серьезную проблему).
Вызов 2: до самостоятельного обучения и настройки базовых моделей еще далеко. Множество отечественных поставщиков микросхем, каждый из которых имеет собственную экосистему, затрудняет развертывание высокопроизводительных моделей. Обучение моделей со 100B+ параметров очень ненадежно (экспортный контроль над чипами в США работает очень хорошо).
Вызов 3: контент, создаваемый ИИ, трудно контролировать. Трудно гарантировать, что весь такой контент «высокого качества» и соответствует «фактам» (GenAI по своей природе вероятностный, а не детерминированный. Правительство, которому необходим абсолютный контроль, сочтет такое положение дел, скорее, угрожающим, чем желательным).
Все 3 названных вызова имеют не временный, а фундаментальный характер, и их нельзя решить за 1-2 года, заливая субсидиями и валом инженерных решений. Может быть, в конечном итоге, эти проблемы все же и удастся решить, но "в конечном итоге" это займет достаточно времени (что США снова ушли в отрыв, - добавлю к пояснению я)
Эта утечка реалистического понимания перспектив ИИ-гонки чрезвычайно важна не только для двух ее лидеров. Но и для других участников гонки. И особенно отягощенных, как Китай (или даже больше), технологическими санкциями США.
1 https://telegra.ph/file/81596a4177b68aa470999.png
2 https://twitter.com/niubi
3 https://twitter.com/kevinsxu/status/1768365478295355647
4 https://chinai.substack.com/p/chinai-258-is-translation-already
#Китай #ИИгонка #LLM
Большинство комментаторов ИИ-гонки между США и Китаем
• либо отдают безоговорочное преимущество США, заявляя, что у Китая нет ни шанса достать США в этой гонке;
• либо уверенно делают ставку на сочетание немеренных денег, жесткой прагматики руководства и океана данных Китая, которые рано или поздно принесут ему победу в этой гонке.
Произошедшая на днях утечка информации о посещении Премьером Госсовета КНР Ли Цяном Пекинской академии ИИ показала, что обе вышеназванные группы экспертов ошибаются.
Истинная оценка руководством Китая перспектив ИИ-гонки с США куда трезвее и мудрее.
Утечка произошла из-за того, что в кадр телесъемки визита по недогляду попал резюмирующий слайд презентации с совещания, в котором участвовал Премьер [1]. Билл Бишоп первым отметил это [2]. Кевин Сюй перевел и пояснил смысл трёх фундаментальных проблем Китая, указанных на этом слайде [3]. А Джеффри Динг рассказал эту историю в вышедшем сегодня выпуске ChinAI [4].
На слайде написано следующее:
Вызов 1: отсутствие самодостаточности в архитектуре модели. Серия GPT является запатентованной, и большинство китайских моделей построены с использованием LLaMA с открытым исходным кодом (такая чрезмерная зависимость от LLaMA из способа догнать США теперь превращается в серьезную проблему).
Вызов 2: до самостоятельного обучения и настройки базовых моделей еще далеко. Множество отечественных поставщиков микросхем, каждый из которых имеет собственную экосистему, затрудняет развертывание высокопроизводительных моделей. Обучение моделей со 100B+ параметров очень ненадежно (экспортный контроль над чипами в США работает очень хорошо).
Вызов 3: контент, создаваемый ИИ, трудно контролировать. Трудно гарантировать, что весь такой контент «высокого качества» и соответствует «фактам» (GenAI по своей природе вероятностный, а не детерминированный. Правительство, которому необходим абсолютный контроль, сочтет такое положение дел, скорее, угрожающим, чем желательным).
Все 3 названных вызова имеют не временный, а фундаментальный характер, и их нельзя решить за 1-2 года, заливая субсидиями и валом инженерных решений. Может быть, в конечном итоге, эти проблемы все же и удастся решить, но "в конечном итоге" это займет достаточно времени (что США снова ушли в отрыв, - добавлю к пояснению я)
Эта утечка реалистического понимания перспектив ИИ-гонки чрезвычайно важна не только для двух ее лидеров. Но и для других участников гонки. И особенно отягощенных, как Китай (или даже больше), технологическими санкциями США.
1 https://telegra.ph/file/81596a4177b68aa470999.png
2 https://twitter.com/niubi
3 https://twitter.com/kevinsxu/status/1768365478295355647
4 https://chinai.substack.com/p/chinai-258-is-translation-already
#Китай #ИИгонка #LLM
Для Китая удержание под контролем ИИ-технологий важнее лидерства в них.
Официальное толкование раздела резолюции 3го пленума ЦК КПК 20-го созыва о безопасности ИИ.
Год назад я писал, что «Китай готов уступить США право прыгнуть в пропасть генеративного ИИ первым». Тогдашнее решение руководства страны, что генеративного ИИ без лицензии в Китае не будет, ставило Китай в крайне невыгодное положение в ИИ-гонке с США. Это решение радикально тормозит внедрение генеративного ИИ и по сути означает, что Китай отказывается от первенства во внедрении важнейшего класса технологий [1].
Но если год назад это был все же единичный закон (который можно и пересмотреть), то теперь, по результатам прошедшего в Китае в июле 3го пленума ЦК КПК 20-го созыва, приоритет контроля над ИИ-технологиями становится госполитикой Китая минимум на 5 лет до следующего пленума.
В изданном по окончанию пленума документе «Сто вопросов по изучению и консультированию третьего пленума Центрального комитета Коммунистической партии Китая 20-го созыва (Решение)» разъясняется резолюция пленума для партийных кадров и широкой общественности. Документ написан при участии президента Си и трех других из семи высших руководителей Постоянного комитета Политбюро КПК: председателя Китайского народного политического консультативного совета ВАН Хунин (王沪宁), первого секретаря Секретариата КПК ЦАЙ Ци (蔡奇) и исполнительного вице-премьера ДИН Сюэсян (丁薛祥).
По вопросу о госполитике Китая в сфере ИИ в документе приводятся аргументы против приоритета развития над управлением. Вместо этого предлагается, чтобы и развитие, и управление шли рука об руку, прогрессируя одновременно.
Далее ключевые цитаты из документа:
• Резолюция пленума ставит цель "Создания системы надзора за безопасностью ИИ". Это важная мера, предпринятая ЦК для согласования развития и безопасности, а также для активного реагирования на риски, связанные с безопасностью ИИ.
• ИИ — это стратегическая технология, ведущая текущий раунд научно-технической революции и промышленной трансформации.
• После более чем 60 лет эволюции ИИ вступил в новый период взрывного роста по всему миру. Поэтому создание систем надзора за безопасностью ИИ является неизбежным требованием для реагирования на быстрое развитие ИИ.
• Генеральный секретарь Си указывает на необходимость усиления оценки и предотвращения потенциальных рисков от развития ИИ, защиты интересов людей и национальной безопасности и обеспечения того, чтобы ИИ был безопасным, надежным и контролируемым.
• Это окажет глубокое влияние на государственное управление, экономическую безопасность, социальную стабильность и даже глобальное управление.
• Мы должны отказаться от беспрепятственного роста, который достигается ценой жертвы безопасности, и достичь «развития и управления одновременно» путем усиления надзора за безопасностью ИИ.
Подробней см. [2]
Картинка https://telegra.ph/file/2ee6504b1235a8bbd200f.jpg
1 https://t.iss.one/theworldisnoteasy/1759
2 https://aisafetychina.substack.com/p/what-does-the-chinese-leadership
#Китай #ИИрегулирование #ИИгонка
Официальное толкование раздела резолюции 3го пленума ЦК КПК 20-го созыва о безопасности ИИ.
Год назад я писал, что «Китай готов уступить США право прыгнуть в пропасть генеративного ИИ первым». Тогдашнее решение руководства страны, что генеративного ИИ без лицензии в Китае не будет, ставило Китай в крайне невыгодное положение в ИИ-гонке с США. Это решение радикально тормозит внедрение генеративного ИИ и по сути означает, что Китай отказывается от первенства во внедрении важнейшего класса технологий [1].
Но если год назад это был все же единичный закон (который можно и пересмотреть), то теперь, по результатам прошедшего в Китае в июле 3го пленума ЦК КПК 20-го созыва, приоритет контроля над ИИ-технологиями становится госполитикой Китая минимум на 5 лет до следующего пленума.
В изданном по окончанию пленума документе «Сто вопросов по изучению и консультированию третьего пленума Центрального комитета Коммунистической партии Китая 20-го созыва (Решение)» разъясняется резолюция пленума для партийных кадров и широкой общественности. Документ написан при участии президента Си и трех других из семи высших руководителей Постоянного комитета Политбюро КПК: председателя Китайского народного политического консультативного совета ВАН Хунин (王沪宁), первого секретаря Секретариата КПК ЦАЙ Ци (蔡奇) и исполнительного вице-премьера ДИН Сюэсян (丁薛祥).
По вопросу о госполитике Китая в сфере ИИ в документе приводятся аргументы против приоритета развития над управлением. Вместо этого предлагается, чтобы и развитие, и управление шли рука об руку, прогрессируя одновременно.
Далее ключевые цитаты из документа:
• Резолюция пленума ставит цель "Создания системы надзора за безопасностью ИИ". Это важная мера, предпринятая ЦК для согласования развития и безопасности, а также для активного реагирования на риски, связанные с безопасностью ИИ.
• ИИ — это стратегическая технология, ведущая текущий раунд научно-технической революции и промышленной трансформации.
• После более чем 60 лет эволюции ИИ вступил в новый период взрывного роста по всему миру. Поэтому создание систем надзора за безопасностью ИИ является неизбежным требованием для реагирования на быстрое развитие ИИ.
• Генеральный секретарь Си указывает на необходимость усиления оценки и предотвращения потенциальных рисков от развития ИИ, защиты интересов людей и национальной безопасности и обеспечения того, чтобы ИИ был безопасным, надежным и контролируемым.
• Это окажет глубокое влияние на государственное управление, экономическую безопасность, социальную стабильность и даже глобальное управление.
• Мы должны отказаться от беспрепятственного роста, который достигается ценой жертвы безопасности, и достичь «развития и управления одновременно» путем усиления надзора за безопасностью ИИ.
Подробней см. [2]
Картинка https://telegra.ph/file/2ee6504b1235a8bbd200f.jpg
1 https://t.iss.one/theworldisnoteasy/1759
2 https://aisafetychina.substack.com/p/what-does-the-chinese-leadership
#Китай #ИИрегулирование #ИИгонка
Деньги в ИИ решают все.
США в 30 раз опережают Германию и Францию, и даже Китай отстал в 3 раза.
В новом синтетическом отчете компании “ZeroBounce”, обобщающем данные 6ти аналитических источников, анализируются ключевые показатели развития индустрии ИИ в 13 лидирующих странах мира.
Анализируются: частные инвестиции за последнее десятилетие, количество стартапов, связанных с ИИ, и критерии, связанные с рабочей силой и вакансиями в области ИИ.
Цифры говорят сами за себя. Мне лишь остается обратить ваше внимание на три интересные аномалии.
1. В прошлом году по объему частных инвестиций в ИИ США на порядок (!) обошли Китай.
2. За период 2013-2024 в США возникло 5.5К+ (!) стартапов по ИИ.
3. В области ИИ в Китае работает уже 0,64% (!) от всех работающих в стране.
#ИИгонка #США #Китай
США в 30 раз опережают Германию и Францию, и даже Китай отстал в 3 раза.
В новом синтетическом отчете компании “ZeroBounce”, обобщающем данные 6ти аналитических источников, анализируются ключевые показатели развития индустрии ИИ в 13 лидирующих странах мира.
Анализируются: частные инвестиции за последнее десятилетие, количество стартапов, связанных с ИИ, и критерии, связанные с рабочей силой и вакансиями в области ИИ.
Цифры говорят сами за себя. Мне лишь остается обратить ваше внимание на три интересные аномалии.
1. В прошлом году по объему частных инвестиций в ИИ США на порядок (!) обошли Китай.
2. За период 2013-2024 в США возникло 5.5К+ (!) стартапов по ИИ.
3. В области ИИ в Китае работает уже 0,64% (!) от всех работающих в стране.
#ИИгонка #США #Китай
Теперь Илон Маск за год попытается решить задачу покруче даже полета на Марс.
• Будущее человечества в значительной мере зависит от прогресса ИИ-технологий.
• А этот прогресс (как мы понимаем его сегодня) сильно зависит от пределов масштабирования интеллектуальности ИИ-систем при увеличении вычислительной мощи компьютеров, на которых эти системы будут работать.
• Т.о. теперь все упирается в ответ на вопрос - каковы пределы такого масштабирования?
Можно как угодно относиться к Маску, но он не только взялся ответить на этот вопрос, но и собирается сделать это уже в следующем году.
План Маска таков.
• Модель Grok 2 от xAI Илона Маска недавно догнала GPT-4 от OpenAI за рекордное время, будучи обучена всего на 15 000 графических процессоров.
• Вчера xAI запустила Colossus — самый мощный в мире кластер искусственного интеллекта, работающий на базе аж 100 000 графических процессоров Nvidia H100.
• Colossus был построен всего за 122 дня и, как планируется, вскоре его размер удвоится до 200 000 графических процессоров (50 000 H200).
• Увеличение вычислительной мощности на 1.5 порядка позволит вплотную приблизиться к точке возможного перегиба тренда масштабируемости ИИ-систем.
• А за этой точкой будет ответ:
- либо рост интеллектуальности замедлится (например, из-за высокой стоимости вычислений);
- либо вообще остановится (из-за архитектурных ограничений моделей)
- либо пойдет дальше (и тогда, привет ИИ-сингулярность!)
Интрига Маска в том, что OpenAI предполагали достичь этой точки лишь в 2027. А Маск, включившись в игру, имеет все основания, чтобы сделать это на 2 года раньше.
Картинка https://telegra.ph/file/d8ed1593a20dbee6c2355.jpg
https://x.com/elonmusk/status/1830650370336473253
#ИИгонка
• Будущее человечества в значительной мере зависит от прогресса ИИ-технологий.
• А этот прогресс (как мы понимаем его сегодня) сильно зависит от пределов масштабирования интеллектуальности ИИ-систем при увеличении вычислительной мощи компьютеров, на которых эти системы будут работать.
• Т.о. теперь все упирается в ответ на вопрос - каковы пределы такого масштабирования?
Можно как угодно относиться к Маску, но он не только взялся ответить на этот вопрос, но и собирается сделать это уже в следующем году.
План Маска таков.
• Модель Grok 2 от xAI Илона Маска недавно догнала GPT-4 от OpenAI за рекордное время, будучи обучена всего на 15 000 графических процессоров.
• Вчера xAI запустила Colossus — самый мощный в мире кластер искусственного интеллекта, работающий на базе аж 100 000 графических процессоров Nvidia H100.
• Colossus был построен всего за 122 дня и, как планируется, вскоре его размер удвоится до 200 000 графических процессоров (50 000 H200).
• Увеличение вычислительной мощности на 1.5 порядка позволит вплотную приблизиться к точке возможного перегиба тренда масштабируемости ИИ-систем.
• А за этой точкой будет ответ:
- либо рост интеллектуальности замедлится (например, из-за высокой стоимости вычислений);
- либо вообще остановится (из-за архитектурных ограничений моделей)
- либо пойдет дальше (и тогда, привет ИИ-сингулярность!)
Интрига Маска в том, что OpenAI предполагали достичь этой точки лишь в 2027. А Маск, включившись в игру, имеет все основания, чтобы сделать это на 2 года раньше.
Картинка https://telegra.ph/file/d8ed1593a20dbee6c2355.jpg
https://x.com/elonmusk/status/1830650370336473253
#ИИгонка
Что задумал Маск в ИИ?
Вероятная цель - сверхчеловеческий ИИ-математик в 2025-2026
Все теряются в догадках, что за супер-задачу собрался решить Илон Маск, отложив на время даже полет на Марс и вбухивая большие деньги в Colossus — самый мощный в мире ИИ-кластер [1].
Это, точно, не AGI. Ибо Маск – совсем не Альтман, которому все равно, сколько спалить миллиардов во имя призрачного AGI ("Сжигаем ли мы 500 миллионов долларов в год или 5 миллиардов долларов, или 50 миллиардов долларов в год - мне все равно, мне искренне все равно… Пока мы можем найти способ оплачивать счета, мы делаем AGI. Это будет дорого" [2]).
Маск – гениальный мастер техно-хайпования. Но он практик. Как бы ни фантастично выглядели его цели, он их на самом деле хочет достичь. И, следовательно, эта цель не должна быть призрачной. А цель - AGI, как минимум на ближайшие годы, именно такова.
Вот почему столь интересен проговор «главного математического ИИ-знайки» в супер-команде спецов, нанятых Маском в xAI [3] - Кристиана Сегеди.
«Прогресс идёт быстрее, чем я ожидал раньше. Ранее моей целевой датой был приблизительно 2029 год. Теперь это 2026 год для создания сверхчеловеческого ИИ-математика. Хотя это амбициозно, даже 2025 год возможен». [4]
В отличие от призрачного AGI, сверхчеловеческий ИИ-математик – вполне понятная и достижимая цель. И единственно, что нужно для ее наискорейшего достижения – много-много супер-мощного HW.
И поэтому, полагаю, Сагеди сказал правду. Это и есть цель Маска.
А последствия ее достижения могут быть круче полета на Марс.
1 https://t.iss.one/theworldisnoteasy/2001
2 https://www.youtube.com/watch?v=GLKoDkbS1Cg
3 https://trends.rbc.ru/trends/industry/64b63dfb9a7947ab3fc40e88
4 https://x.com/ChrSzegedy/status/1831330997239255186
#ИИгонка
Вероятная цель - сверхчеловеческий ИИ-математик в 2025-2026
Все теряются в догадках, что за супер-задачу собрался решить Илон Маск, отложив на время даже полет на Марс и вбухивая большие деньги в Colossus — самый мощный в мире ИИ-кластер [1].
Это, точно, не AGI. Ибо Маск – совсем не Альтман, которому все равно, сколько спалить миллиардов во имя призрачного AGI ("Сжигаем ли мы 500 миллионов долларов в год или 5 миллиардов долларов, или 50 миллиардов долларов в год - мне все равно, мне искренне все равно… Пока мы можем найти способ оплачивать счета, мы делаем AGI. Это будет дорого" [2]).
Маск – гениальный мастер техно-хайпования. Но он практик. Как бы ни фантастично выглядели его цели, он их на самом деле хочет достичь. И, следовательно, эта цель не должна быть призрачной. А цель - AGI, как минимум на ближайшие годы, именно такова.
Вот почему столь интересен проговор «главного математического ИИ-знайки» в супер-команде спецов, нанятых Маском в xAI [3] - Кристиана Сегеди.
«Прогресс идёт быстрее, чем я ожидал раньше. Ранее моей целевой датой был приблизительно 2029 год. Теперь это 2026 год для создания сверхчеловеческого ИИ-математика. Хотя это амбициозно, даже 2025 год возможен». [4]
В отличие от призрачного AGI, сверхчеловеческий ИИ-математик – вполне понятная и достижимая цель. И единственно, что нужно для ее наискорейшего достижения – много-много супер-мощного HW.
И поэтому, полагаю, Сагеди сказал правду. Это и есть цель Маска.
А последствия ее достижения могут быть круче полета на Марс.
1 https://t.iss.one/theworldisnoteasy/2001
2 https://www.youtube.com/watch?v=GLKoDkbS1Cg
3 https://trends.rbc.ru/trends/industry/64b63dfb9a7947ab3fc40e88
4 https://x.com/ChrSzegedy/status/1831330997239255186
#ИИгонка
Telegram
Малоизвестное интересное
Теперь Илон Маск за год попытается решить задачу покруче даже полета на Марс.
• Будущее человечества в значительной мере зависит от прогресса ИИ-технологий.
• А этот прогресс (как мы понимаем его сегодня) сильно зависит от пределов масштабирования интеллектуальности…
• Будущее человечества в значительной мере зависит от прогресса ИИ-технологий.
• А этот прогресс (как мы понимаем его сегодня) сильно зависит от пределов масштабирования интеллектуальности…
Кай-Фу Ли объявил войну Nvidia и всей ИИ-экосистеме США.
И судя по его последним достижениям, шансы победить есть.
Потрясающе интересное выступление китайского ИИ гуру Кай-Фу Ли будут теперь долго обсуждать. Это абсолютно революционное выступление, прозвучавшее на закрытой дискуссии Collective[i] Forecast, Ли посвятил трем темам.
1. ИИ-экосистема США (основа мировой ИИ-экосистемы) «невероятно больна». Её необходимо кардинально перестроить, иначе на реальном (практическом) прогрессе ИИ можно ставить крест.
Сегодня ИИ-экосистема состоит из Nvidia и мелких производителей ИИ чипов. При этом производители чипов для ИИ зарабатывают сейчас в год $75 млрд, а вендоры ИИ-инфраструктуры – лишь $10 млрд и вендоры ИИ-приложений — лишь $5 млрд».
«Если мы продолжим работать в этой перевернутой пирамиде, это станет проблемой» — сказал Ли. Т.к. это беспрецедентный переворот в экономике классической технологической отрасли. Традиционно производители приложений получают больше, чем поставщики чипов и систем (напр. Salesforce, внедряя CRM, получает куда больше, чем Dell и Intel, производящие компьютеры и чипы для запуска CRM в облаке)
Оздоровить ИИ-экосистему может лишь создание ИИ-компаниями собственных вертикальных интегрированных технологических стеков, как это сделала Apple с iPhone. Только так станет возможным значительно снизить стоимость генеративного ИИ.
2. Главным направление в разработке моделей должно стать снижение стоимости вывода – это самое важное для создания востребованных бизнесом приложений с ИИ.
Сегодняшняя стандартная стоимость сервиса типа GPT-4 составляет $4,40 за млн токенов. Это эквивалентно 57 центам за запрос —и это непростительно дорого, ибо поисковый запрос в Google (без всякого ИИ) обойдется в 180 раз дешевле.
3. Вторым важнейшим направлением в разработке моделей должен стать переход от универсальных базовых моделей к «экспертным моделям».
Бизнесу нужны не универсальные модели, обученные на океанах неразмеченных данных, собранных из Интернета и других источников. Подход «экспертных моделей» подразумевает создание множества нейронок, обученных на отраслевых данных. Это может обеспечить достижение того же уровня «интеллекта», что и универсальная базовая модель, при использовании гораздо меньшей вычислительной мощности.
Самое потрясающее, что все 3 пункта – это не предложения, основанные на предположениях. Стартап Кай-Фу Ли «01.ai» уже делает все это на практике.
И не просто делает, а уже добивается уникальных результатов.
• Их новая модель Yi-Lightning занимает 6-е место в мире (выше выпущенной 5 мес назад GPT-4o). Но при этом это очень маленькая модель, которая чрезвычайно быстра и недорога (всего $0,14 за млн токенов ). Её производительность сопоставима с Grok-2. Но она обучалась всего на 2000 H100 в течение 1 месяца. Что демонстрирует ненужность 100 тыс H100 и ярдов затрат (обучение Yi-Lightning стоило всего $3 млн).
• 01.ai применяет «экспертный» подход к сбору данных. И хотя «инженерам приходится проводить массу неблагодарной черновой работы» по маркировке и ранжированию данных, но – как считает Ли, - Китай с его резервом дешевых инженерных кадров может сделать это лучше, чем США.
• И даже в создании собственного вертикального интегрированного техно-стека есть прогресс. Напр, за счет использования собственных аппаратных инноваций, стоимость одного запроса к ИИ-поисковику BeaGo составляет всего около 1 цента (что приблизилось к стоимости запроса Google без всякого ИИ)
И еще 3 цитаты Ли:
Сила Китая не в том, чтобы делать лучшие прорывные исследования, которые никто не делал раньше, с бюджетом без ограничений. Сила Китая в том, чтобы построить хорошо, быстро, надежно и при этом дешево.
Для предприятий новое поколение ИИ станет их мозгом, а не периферийными приблудами. Для нефтяных компании ИИ будет добывать нефть. Для финансовых — зарабатывать на деньгах.
Для потребителей сегодняшняя модель смартфона, скорее всего, исчезнет.
А ведь еще 1.5 года назад Ли предупреждал - Китай не станет догонять США в ИИ, а сразу пойдет на обгон.
#ИИгонка #Китай
И судя по его последним достижениям, шансы победить есть.
Потрясающе интересное выступление китайского ИИ гуру Кай-Фу Ли будут теперь долго обсуждать. Это абсолютно революционное выступление, прозвучавшее на закрытой дискуссии Collective[i] Forecast, Ли посвятил трем темам.
1. ИИ-экосистема США (основа мировой ИИ-экосистемы) «невероятно больна». Её необходимо кардинально перестроить, иначе на реальном (практическом) прогрессе ИИ можно ставить крест.
Сегодня ИИ-экосистема состоит из Nvidia и мелких производителей ИИ чипов. При этом производители чипов для ИИ зарабатывают сейчас в год $75 млрд, а вендоры ИИ-инфраструктуры – лишь $10 млрд и вендоры ИИ-приложений — лишь $5 млрд».
«Если мы продолжим работать в этой перевернутой пирамиде, это станет проблемой» — сказал Ли. Т.к. это беспрецедентный переворот в экономике классической технологической отрасли. Традиционно производители приложений получают больше, чем поставщики чипов и систем (напр. Salesforce, внедряя CRM, получает куда больше, чем Dell и Intel, производящие компьютеры и чипы для запуска CRM в облаке)
Оздоровить ИИ-экосистему может лишь создание ИИ-компаниями собственных вертикальных интегрированных технологических стеков, как это сделала Apple с iPhone. Только так станет возможным значительно снизить стоимость генеративного ИИ.
2. Главным направление в разработке моделей должно стать снижение стоимости вывода – это самое важное для создания востребованных бизнесом приложений с ИИ.
Сегодняшняя стандартная стоимость сервиса типа GPT-4 составляет $4,40 за млн токенов. Это эквивалентно 57 центам за запрос —и это непростительно дорого, ибо поисковый запрос в Google (без всякого ИИ) обойдется в 180 раз дешевле.
3. Вторым важнейшим направлением в разработке моделей должен стать переход от универсальных базовых моделей к «экспертным моделям».
Бизнесу нужны не универсальные модели, обученные на океанах неразмеченных данных, собранных из Интернета и других источников. Подход «экспертных моделей» подразумевает создание множества нейронок, обученных на отраслевых данных. Это может обеспечить достижение того же уровня «интеллекта», что и универсальная базовая модель, при использовании гораздо меньшей вычислительной мощности.
Самое потрясающее, что все 3 пункта – это не предложения, основанные на предположениях. Стартап Кай-Фу Ли «01.ai» уже делает все это на практике.
И не просто делает, а уже добивается уникальных результатов.
• Их новая модель Yi-Lightning занимает 6-е место в мире (выше выпущенной 5 мес назад GPT-4o). Но при этом это очень маленькая модель, которая чрезвычайно быстра и недорога (всего $0,14 за млн токенов ). Её производительность сопоставима с Grok-2. Но она обучалась всего на 2000 H100 в течение 1 месяца. Что демонстрирует ненужность 100 тыс H100 и ярдов затрат (обучение Yi-Lightning стоило всего $3 млн).
• 01.ai применяет «экспертный» подход к сбору данных. И хотя «инженерам приходится проводить массу неблагодарной черновой работы» по маркировке и ранжированию данных, но – как считает Ли, - Китай с его резервом дешевых инженерных кадров может сделать это лучше, чем США.
• И даже в создании собственного вертикального интегрированного техно-стека есть прогресс. Напр, за счет использования собственных аппаратных инноваций, стоимость одного запроса к ИИ-поисковику BeaGo составляет всего около 1 цента (что приблизилось к стоимости запроса Google без всякого ИИ)
И еще 3 цитаты Ли:
Сила Китая не в том, чтобы делать лучшие прорывные исследования, которые никто не делал раньше, с бюджетом без ограничений. Сила Китая в том, чтобы построить хорошо, быстро, надежно и при этом дешево.
Для предприятий новое поколение ИИ станет их мозгом, а не периферийными приблудами. Для нефтяных компании ИИ будет добывать нефть. Для финансовых — зарабатывать на деньгах.
Для потребителей сегодняшняя модель смартфона, скорее всего, исчезнет.
А ведь еще 1.5 года назад Ли предупреждал - Китай не станет догонять США в ИИ, а сразу пойдет на обгон.
#ИИгонка #Китай