Россия – Клондайк научных идей … для Китая.
Анализ работы официальной службы Китая по «отсосу» научных идей.
Суть двух удивительных новостей такова.
✔️ Стал известен список приоритетных «хотелок» Китая по «отсосу» научных идей со всего мира.
✔️ Утекание наших научных достижений в Китай оказывается больше, чем из США.
Звучит это невероятно, но факт. И чтобы это прояснить, нужно разобраться в контексте.
В этом году США наконец поняли, что Китай не просто намерен сделать их в ближайшие 10 лет, а имеет на то веские основания. Также стало ясно, что главным оружием в битве за статус единственной сверхдержавы будет научно-технический потенциал. И поэтому США пытаются всюду, где только можно, перекрывать потоки научно-технологических идей из США в Китай, как по линии университетов, так и в бизнесе.
Китаю же новые перспективные научно-технологические идеи нужны как воздух. Они – мастаки доводки и промышленного освоения прорывных идей. Собственные же источники таких идей, например, в Шанхае или дельте Жемчужной реки, пока не могут соперничать с акулами Силиконовой долиной и ястребами, обитающими вокруг бостонского «Шоссе 128».
К сожалению Компартии Китая, даже самый изощренный промышленный шпионаж и плотная работа с диаспорами не могут гарантировать постоянного притока в Китай перспективных научно-технологических идей со всего мира. Но есть у КПК оружие и покруче. Это служба «дипломатов по науке и технике», работающих в посольствах и консульствах КНР в 52 странах, следящая за технологическими достижениями стран пребывания и налаживающая «отсос» идей.
«Дипломаты по науке и технике», играют уникальную роль в стратегии Китая по приобретению технологий, образуя мост между иностранными и отечественными организациями.
• У себя в Китае «дипломаты по науке и технике» взаимодействуют с китайскими фирмами и отслеживают научные узкие места, сдерживающие развитие Китая.
• За границей они работают с местным бизнесом, учеными, профессиональными ассоциациями, гильдиями диаспоры и т.д., чтобы:
o следить за научными открытиями и потенциальными технологическими прорывами, способными превратиться в инновации, которые могут представлять интерес для китайского правительства;
o выявлять наиболее передовые исследовательские проекты среди академических кругов и государственных лабораторий;
o помогать китайским компаниям подписывать инвестиционные, лицензионные и производственные соглашения с иностранными технологическими компаниями;
o и конечно же нанимать персонал для исследований и разработок в Китае или в своей стране, но на пользу Китая.
А теперь, наконец, новость.
Аналитический центр CSET составил «список хотелок Китая в области иностранных технологий» (China’s Foreign Technology Wish List).
Он получен путем анализа деятельности службы «дипломатов по науке и технологиям», действующих как брокеры в рамках более широкой стратегии Китая по приобретению иностранных технологий. Каждый год эти «дипломаты» подают сотни официальных отчетов о своей деятельности. CSET проанализировал 642 таких отчета, поданных управлениями науки и техники китайских посольств и консульств с 2015 по 2020 год.
Целью анализа была количественная оценка того:
✔️ на какие классы технологий более всего нацелен «отсос»;
✔️ откуда «отсос» налажен наиболее масштабно.
По результатам анализа, проведенного экспертами CSET, получены ответы на оба вопроса.
Самые сильные «хотелки» Китая в трех областях:
1. биотехнологии и фрама
2. ИИ и машинное обучение
3. военные технологии
Самые активные доноры научно-технологических идей:
1. (если стоите, лучше сядьте) с большим отрывом №1 - это Россия (больше всего научных идей Китай «отсасывает» у нас в области новых материалов и информационных технологий)
2. США
3. Великобритания
Сколько в каждой стране по каждой из «хотелок» совместных проектов, показано на приложенном графике.
Подробности читайте в отчете CSET
https://cset.georgetown.edu/wp-content/uploads/CSET-Chinas-Foreign-Technology-Wish-List.pdf
#Китай #Россия #Наука #Технологии
Анализ работы официальной службы Китая по «отсосу» научных идей.
Суть двух удивительных новостей такова.
✔️ Стал известен список приоритетных «хотелок» Китая по «отсосу» научных идей со всего мира.
✔️ Утекание наших научных достижений в Китай оказывается больше, чем из США.
Звучит это невероятно, но факт. И чтобы это прояснить, нужно разобраться в контексте.
В этом году США наконец поняли, что Китай не просто намерен сделать их в ближайшие 10 лет, а имеет на то веские основания. Также стало ясно, что главным оружием в битве за статус единственной сверхдержавы будет научно-технический потенциал. И поэтому США пытаются всюду, где только можно, перекрывать потоки научно-технологических идей из США в Китай, как по линии университетов, так и в бизнесе.
Китаю же новые перспективные научно-технологические идеи нужны как воздух. Они – мастаки доводки и промышленного освоения прорывных идей. Собственные же источники таких идей, например, в Шанхае или дельте Жемчужной реки, пока не могут соперничать с акулами Силиконовой долиной и ястребами, обитающими вокруг бостонского «Шоссе 128».
К сожалению Компартии Китая, даже самый изощренный промышленный шпионаж и плотная работа с диаспорами не могут гарантировать постоянного притока в Китай перспективных научно-технологических идей со всего мира. Но есть у КПК оружие и покруче. Это служба «дипломатов по науке и технике», работающих в посольствах и консульствах КНР в 52 странах, следящая за технологическими достижениями стран пребывания и налаживающая «отсос» идей.
«Дипломаты по науке и технике», играют уникальную роль в стратегии Китая по приобретению технологий, образуя мост между иностранными и отечественными организациями.
• У себя в Китае «дипломаты по науке и технике» взаимодействуют с китайскими фирмами и отслеживают научные узкие места, сдерживающие развитие Китая.
• За границей они работают с местным бизнесом, учеными, профессиональными ассоциациями, гильдиями диаспоры и т.д., чтобы:
o следить за научными открытиями и потенциальными технологическими прорывами, способными превратиться в инновации, которые могут представлять интерес для китайского правительства;
o выявлять наиболее передовые исследовательские проекты среди академических кругов и государственных лабораторий;
o помогать китайским компаниям подписывать инвестиционные, лицензионные и производственные соглашения с иностранными технологическими компаниями;
o и конечно же нанимать персонал для исследований и разработок в Китае или в своей стране, но на пользу Китая.
А теперь, наконец, новость.
Аналитический центр CSET составил «список хотелок Китая в области иностранных технологий» (China’s Foreign Technology Wish List).
Он получен путем анализа деятельности службы «дипломатов по науке и технологиям», действующих как брокеры в рамках более широкой стратегии Китая по приобретению иностранных технологий. Каждый год эти «дипломаты» подают сотни официальных отчетов о своей деятельности. CSET проанализировал 642 таких отчета, поданных управлениями науки и техники китайских посольств и консульств с 2015 по 2020 год.
Целью анализа была количественная оценка того:
✔️ на какие классы технологий более всего нацелен «отсос»;
✔️ откуда «отсос» налажен наиболее масштабно.
По результатам анализа, проведенного экспертами CSET, получены ответы на оба вопроса.
Самые сильные «хотелки» Китая в трех областях:
1. биотехнологии и фрама
2. ИИ и машинное обучение
3. военные технологии
Самые активные доноры научно-технологических идей:
1. (если стоите, лучше сядьте) с большим отрывом №1 - это Россия (больше всего научных идей Китай «отсасывает» у нас в области новых материалов и информационных технологий)
2. США
3. Великобритания
Сколько в каждой стране по каждой из «хотелок» совместных проектов, показано на приложенном графике.
Подробности читайте в отчете CSET
https://cset.georgetown.edu/wp-content/uploads/CSET-Chinas-Foreign-Technology-Wish-List.pdf
#Китай #Россия #Наука #Технологии
ИИ-мозг Китая почти втрое больше США.
Последствия этого могут быть сокрушительными … для России.
Разведки мира озадачены открытой публикацией отчета CAICT (аналитический центр при Министерстве промышленности и информационных технологий Китая) о вычислительных мощностях Китая в сравнении с другими странами (1).
В отчете фиксируется, что основным фактором превращения Китая в мирового технологического лидера является его первенство в интеллектуальной вычислительной мощности (Intelligent Computing Power - суммарная вычислительная мощность специализированных процессоров для глубокого обучения).
Логика Китая такова.
1) Ключевое универсальное технологическое направление 21 века – ИИ.
2) Как и для естественного интеллекта (биологического), первостепенным фактором уровня интеллектуальности ИИ является вычислительная мощность оборудования, на котором интеллект реализован. Для биологического интеллекта – это биологический мозг. А для ИИ – это «ИИ-мозг» компьютерного оборудования для машинного обучения.
3) Как и для естественного интеллекта, размер «ИИ-мозга» - не единственный фактор, определяющий его уровень интеллектуальности (другими факторами являются архитектура мозга, объем доступных для обучения данных и изощренность алгоритмов обучения). Однако размер «ИИ-мозга» - фактор №1 из определяющих интеллектуальную вычислительную мощность страны. Как я сформулировал это полгода назад “Есть «железо» - участвуй в гонке. Нет «железа» - кури в сторонке” (2).
4) В отчете CAICT рассчитаны 3 вычислительные мощности Китая в сравнении с другими странами мира: общая, интеллектуальная и суперкомпьютерная. По показателю интеллектуальной вычислительной мощности Китай в 2,7 раза превосходит США (причем скорость роста этого показателя у Китая вдвое превышает США).
5) Сделанная Китаем ставка на интеллектуальную вычислительную мощность страны призвана компенсировать превосходство США в суперкомпьютерной вычислительной мощности (см. (3)) и алгоритмах, зависящих от уровня научных исследований (см. (4)).
Понятно, что США не будут просто так смотреть, как Китай уходит в отрыв. В отчете CAICT честно указана ахиллесова пята Китая – 95% «ИИ-мозга» страны реализованы на GPU американской компании NVIDIA.
Из этого следует, что очевидным шагом США по сдерживанию отрыва Китая будет введение ограничений на экспорт GPU.
Понимая это, Китай форсирует работу стартапов Tianshu Zhixin, Muxi, Biren, Moore Threads (摩尔线程) и др., сфокусированных на импортозамещении GPU от NVIDIA. В июле 2021 года компания Enflame technology (燧原科技) запустила свой обучающий чип ИИ второго поколения Yunsui T20 с вычислительной мощностью тензора с одинарной точностью 160 TFLOPS (производительность NVIDIA Tesla V100 SXM2 составляет 125 TFLOPS). Т.е. у импортозамещения GPU от NVIDIA в Китае хорошие шансы.
А вот для России введение экспортных ограничений на «ИИ-мозги» из США могли бы стать катастрофой.
Надеяться, что такие ограничения США распространит только на Китай, наивно (как работали жернова COCOM, мы помним, а дело идет к его воссозданию).
И на Китайские GPU рассчитывать также наивно. И не по злобности Китая к России. А просто им самим не будет хватать. В отчете CAICT указано, что доля интеллектуальной вычислительной мощности в общей вычислительной мощности Китая (увеличилась в 2016-2020 с 3% до 41%) должна составить в 2023 70%).
О том, что без высокопроизводительного «ИИ-мозга» России нечего ловить даже в теоретических исследованиях, послушайте (5) академика И.А. Соколова (директор ФИЦ «Информатика и управление» РАН, главный учёный секретарь РАН, декан факультета ВМК МГУ).
Источники: 1 2 3 4 5
#ИИгонка #Китай #США #Россия
Последствия этого могут быть сокрушительными … для России.
Разведки мира озадачены открытой публикацией отчета CAICT (аналитический центр при Министерстве промышленности и информационных технологий Китая) о вычислительных мощностях Китая в сравнении с другими странами (1).
В отчете фиксируется, что основным фактором превращения Китая в мирового технологического лидера является его первенство в интеллектуальной вычислительной мощности (Intelligent Computing Power - суммарная вычислительная мощность специализированных процессоров для глубокого обучения).
Логика Китая такова.
1) Ключевое универсальное технологическое направление 21 века – ИИ.
2) Как и для естественного интеллекта (биологического), первостепенным фактором уровня интеллектуальности ИИ является вычислительная мощность оборудования, на котором интеллект реализован. Для биологического интеллекта – это биологический мозг. А для ИИ – это «ИИ-мозг» компьютерного оборудования для машинного обучения.
3) Как и для естественного интеллекта, размер «ИИ-мозга» - не единственный фактор, определяющий его уровень интеллектуальности (другими факторами являются архитектура мозга, объем доступных для обучения данных и изощренность алгоритмов обучения). Однако размер «ИИ-мозга» - фактор №1 из определяющих интеллектуальную вычислительную мощность страны. Как я сформулировал это полгода назад “Есть «железо» - участвуй в гонке. Нет «железа» - кури в сторонке” (2).
4) В отчете CAICT рассчитаны 3 вычислительные мощности Китая в сравнении с другими странами мира: общая, интеллектуальная и суперкомпьютерная. По показателю интеллектуальной вычислительной мощности Китай в 2,7 раза превосходит США (причем скорость роста этого показателя у Китая вдвое превышает США).
5) Сделанная Китаем ставка на интеллектуальную вычислительную мощность страны призвана компенсировать превосходство США в суперкомпьютерной вычислительной мощности (см. (3)) и алгоритмах, зависящих от уровня научных исследований (см. (4)).
Понятно, что США не будут просто так смотреть, как Китай уходит в отрыв. В отчете CAICT честно указана ахиллесова пята Китая – 95% «ИИ-мозга» страны реализованы на GPU американской компании NVIDIA.
Из этого следует, что очевидным шагом США по сдерживанию отрыва Китая будет введение ограничений на экспорт GPU.
Понимая это, Китай форсирует работу стартапов Tianshu Zhixin, Muxi, Biren, Moore Threads (摩尔线程) и др., сфокусированных на импортозамещении GPU от NVIDIA. В июле 2021 года компания Enflame technology (燧原科技) запустила свой обучающий чип ИИ второго поколения Yunsui T20 с вычислительной мощностью тензора с одинарной точностью 160 TFLOPS (производительность NVIDIA Tesla V100 SXM2 составляет 125 TFLOPS). Т.е. у импортозамещения GPU от NVIDIA в Китае хорошие шансы.
А вот для России введение экспортных ограничений на «ИИ-мозги» из США могли бы стать катастрофой.
Надеяться, что такие ограничения США распространит только на Китай, наивно (как работали жернова COCOM, мы помним, а дело идет к его воссозданию).
И на Китайские GPU рассчитывать также наивно. И не по злобности Китая к России. А просто им самим не будет хватать. В отчете CAICT указано, что доля интеллектуальной вычислительной мощности в общей вычислительной мощности Китая (увеличилась в 2016-2020 с 3% до 41%) должна составить в 2023 70%).
О том, что без высокопроизводительного «ИИ-мозга» России нечего ловить даже в теоретических исследованиях, послушайте (5) академика И.А. Соколова (директор ФИЦ «Информатика и управление» РАН, главный учёный секретарь РАН, декан факультета ВМК МГУ).
Источники: 1 2 3 4 5
#ИИгонка #Китай #США #Россия
Сунь-Цзы против кота Леопольда.
Россия и Китай пошли разными путями в этике ИИ.
Сегодняшняя топовая новость – «Крупнейшие компании подписали первый в России кодекс этики искусственного интеллекта». Принятие этого документа, в разработке которого участвовали высшие госструктуры, а подписали крупнейшие компании, - большое событие. Вместе с тем, оно наглядно показывает, что Россия в данном вопросе идет своим уникальным путем, в сравнении, например, с Китаем.
Российский «Кодекс этики в сфере ИИ» (1) – акт рекомендательного характера, содержащий этические нормы в сфере искусственного интеллекта и устанавливающий общие принципы, а также стандарты поведения для акторов в сфере ИИ.
• «Акторы ИИ должны ответственно относиться …»
• «Акторы ИИ не должны допускать …»
• «Акторам ИИ рекомендуется …»
• «Акторы ИИ должны соблюдать законодательство …»
• «Акторам ИИ следует обеспечивать комплексный надзор человека за …»
• «Акторы ИИ не должны допускать передачи полномочий ответственного нравственного выбора СИИ …»
Этот кодекс рекомендует имеющим отношение к ИИ чиновникам, исследователям, инженерам и предпринимателям вести себя этично и не предпринимать действий, способных повлечь неэтичные последствия.
Подход Китая принципиально иной.
Посмотрите на приложенную схему из документа CAICT - аналитический центр при Министерстве промышленности и информационных технологий Китая (оригинал 2) и (перевод 3).
1. Этика в сфере ИИ не является самостоятельным предметом рассмотрения, а вместе с законодательством ИИ и регулированием ИИ составляет триаду, определяющую главную цель – создание ИИ, которому люди могут доверять (Trustworthy AI).
2. «ИИ, которому можно доверять», обладает пятью характеристиками:
a. он надежный и управляемый;
b. его решения прозрачны и объяснимы;
c. его данные защищены;
d. его ответственность четко регламентирована;
e. его действия справедливы и толерантны по отношению к любым сообществам.
3. Планирование, разработка и внедрение практик обеспечения каждой из пяти характеристик ведется на корпоративном уровне (ответственность предприятий).
4. Система стандартов и контроля для всех практик ведется на отраслевом уровне (совместная ответственность отраслевых объединений и государства).
Резюмировать отличия подходов России и Китая можно так:
• Россия призывает причастных к ИИ людей вести себя этично.
• Китай формирует систему этических, регулятивных и законодательных практик, позволяющих доверять ИИ-системам.
Полагаю, что подход в стиле кота Леопольда, также имеет право на существование.
Однако, подход в стиле Сунь-Цзы, мне видится гораздо эффективней.
1
2
3
#ИИ #Этика #китай #россия
Россия и Китай пошли разными путями в этике ИИ.
Сегодняшняя топовая новость – «Крупнейшие компании подписали первый в России кодекс этики искусственного интеллекта». Принятие этого документа, в разработке которого участвовали высшие госструктуры, а подписали крупнейшие компании, - большое событие. Вместе с тем, оно наглядно показывает, что Россия в данном вопросе идет своим уникальным путем, в сравнении, например, с Китаем.
Российский «Кодекс этики в сфере ИИ» (1) – акт рекомендательного характера, содержащий этические нормы в сфере искусственного интеллекта и устанавливающий общие принципы, а также стандарты поведения для акторов в сфере ИИ.
• «Акторы ИИ должны ответственно относиться …»
• «Акторы ИИ не должны допускать …»
• «Акторам ИИ рекомендуется …»
• «Акторы ИИ должны соблюдать законодательство …»
• «Акторам ИИ следует обеспечивать комплексный надзор человека за …»
• «Акторы ИИ не должны допускать передачи полномочий ответственного нравственного выбора СИИ …»
Этот кодекс рекомендует имеющим отношение к ИИ чиновникам, исследователям, инженерам и предпринимателям вести себя этично и не предпринимать действий, способных повлечь неэтичные последствия.
Подход Китая принципиально иной.
Посмотрите на приложенную схему из документа CAICT - аналитический центр при Министерстве промышленности и информационных технологий Китая (оригинал 2) и (перевод 3).
1. Этика в сфере ИИ не является самостоятельным предметом рассмотрения, а вместе с законодательством ИИ и регулированием ИИ составляет триаду, определяющую главную цель – создание ИИ, которому люди могут доверять (Trustworthy AI).
2. «ИИ, которому можно доверять», обладает пятью характеристиками:
a. он надежный и управляемый;
b. его решения прозрачны и объяснимы;
c. его данные защищены;
d. его ответственность четко регламентирована;
e. его действия справедливы и толерантны по отношению к любым сообществам.
3. Планирование, разработка и внедрение практик обеспечения каждой из пяти характеристик ведется на корпоративном уровне (ответственность предприятий).
4. Система стандартов и контроля для всех практик ведется на отраслевом уровне (совместная ответственность отраслевых объединений и государства).
Резюмировать отличия подходов России и Китая можно так:
• Россия призывает причастных к ИИ людей вести себя этично.
• Китай формирует систему этических, регулятивных и законодательных практик, позволяющих доверять ИИ-системам.
Полагаю, что подход в стиле кота Леопольда, также имеет право на существование.
Однако, подход в стиле Сунь-Цзы, мне видится гораздо эффективней.
1
2
3
#ИИ #Этика #китай #россия
Россия на карте мира ИИ.
Место и перспектива трёх стран в мировой ИИ-гонке.
Еще пару лет назад был смысл в применении разнообразных рейтингов для оценки положения стран в мировой ИИ-гонке (см. (1)). Теперь это уже не так. Практические успехи глубокого обучения (основное направление развития современных ИИ-систем) привели к тому, что на это направлении развития ИИ теперь приходятся 95%+ всех денег и талантов. А это значит, что как минимум на ближайшую декаду, лидеры глубокого обучения будут лидерами мировой ИИ-гонки.
А в глубоком обучении, - как в беге. Выигрывает тот, у кого лучше физическая подготовка. Конечно, есть и другие факторы (спортивный дух, настрой, воля к победе, техника …). Но без исключительно хорошей физической подготовки в гонке не выиграть.
Эквивалентом физической подготовки в современном глубоком обучении является вычислительная мощность компьютера, на котором обучаются модели со все большим числом параметров. В крупнейшей на сегодня языковой модели transformer от Microsoft число параметров составляет 530 млрд. Насколько круто возросли требования к вычислительной мощности для таких моделей видно из этого графика (2).
В результате вычислительная мощность стала главным показателем потенциала роста величины и сложности новых все более совершенных моделей глубокого обучения. И это относится как к бизнесу компаний БигТеха, так и к академическим исследовательским центрам, а также к каждой стране в целом.
Для оценки вычислительной мощности для такого рода задач обучения сверхбольших моделей создан специальный тест HPL-AI (3). Но по этому тесту пока что оценена производительность лишь 19 высокопроизводительных вычислительных комплексов мира. Поэтому для более широкого и полного сравнения самых высокопроизводительных систем для ИИ пока продолжают использовать показатель скорости вычислений с плавающей точкой (Flop/s), как это принято в рейтинге ТОР500 (4).
И по этой оценке карта мира ИИ выглядит так, как на приложенном к посту рисунке.
Совокупная вычислительная мощность каждой из стран соответствует площади прямоугольников, в свою очередь разделенных на более мелкие прямоугольники, соответствующие вычислительной мощности отдельных высокопроизводительных систем.
• Россия обведена красным пунктиром (7 систем, самая мощная из них у Яндекса – 21,5 петафлопс (10^15 Flop/s)
• Китай обведен синим пунктиром (173 системы, самая мощная – 93 петафлопс – на 26% превышает производительность всех российских систем в ТОР500).
• США обведены желтым пунктиром (149 систем, самая мощная – 149 петафлопс –в 2 раза превышает производительность всех российских систем в ТОР500).
Таково сегодняшнее место России на карте мира ИИ.
А теперь о перспективе.
На этом рисунке (5) вычислительная мощность трёх новых суперкомпьютерных систем соответствует площади трёх прямоугольников:
• Желтый – это Китай: 25 января с.г. SenseTime запустил Artificial Intelligence Data Centre (AIDC) нового поколения SenseCore; его вычислительная мощность 3740 петафлопс (в 51 раз превышает производительность всех российских систем в ТОР500)
• Синий – это США: к 2023 году Facebook (Meta) доведет вычислительную мощность своего AI supercomputer RSC до 4900 петафлопс (в 67 раз превышает производительность всех российских систем в ТОР500)
• Красный – это Россия: к 2026 планируется создать суперкомпьютер на разрабатываемых сейчас отечественных процессорах «Эльбрус-32С» производительностью в 100 петафлопс.
#ИИ #HPC #Россия #Китай #США
1 2 3 4 5
Место и перспектива трёх стран в мировой ИИ-гонке.
Еще пару лет назад был смысл в применении разнообразных рейтингов для оценки положения стран в мировой ИИ-гонке (см. (1)). Теперь это уже не так. Практические успехи глубокого обучения (основное направление развития современных ИИ-систем) привели к тому, что на это направлении развития ИИ теперь приходятся 95%+ всех денег и талантов. А это значит, что как минимум на ближайшую декаду, лидеры глубокого обучения будут лидерами мировой ИИ-гонки.
А в глубоком обучении, - как в беге. Выигрывает тот, у кого лучше физическая подготовка. Конечно, есть и другие факторы (спортивный дух, настрой, воля к победе, техника …). Но без исключительно хорошей физической подготовки в гонке не выиграть.
Эквивалентом физической подготовки в современном глубоком обучении является вычислительная мощность компьютера, на котором обучаются модели со все большим числом параметров. В крупнейшей на сегодня языковой модели transformer от Microsoft число параметров составляет 530 млрд. Насколько круто возросли требования к вычислительной мощности для таких моделей видно из этого графика (2).
В результате вычислительная мощность стала главным показателем потенциала роста величины и сложности новых все более совершенных моделей глубокого обучения. И это относится как к бизнесу компаний БигТеха, так и к академическим исследовательским центрам, а также к каждой стране в целом.
Для оценки вычислительной мощности для такого рода задач обучения сверхбольших моделей создан специальный тест HPL-AI (3). Но по этому тесту пока что оценена производительность лишь 19 высокопроизводительных вычислительных комплексов мира. Поэтому для более широкого и полного сравнения самых высокопроизводительных систем для ИИ пока продолжают использовать показатель скорости вычислений с плавающей точкой (Flop/s), как это принято в рейтинге ТОР500 (4).
И по этой оценке карта мира ИИ выглядит так, как на приложенном к посту рисунке.
Совокупная вычислительная мощность каждой из стран соответствует площади прямоугольников, в свою очередь разделенных на более мелкие прямоугольники, соответствующие вычислительной мощности отдельных высокопроизводительных систем.
• Россия обведена красным пунктиром (7 систем, самая мощная из них у Яндекса – 21,5 петафлопс (10^15 Flop/s)
• Китай обведен синим пунктиром (173 системы, самая мощная – 93 петафлопс – на 26% превышает производительность всех российских систем в ТОР500).
• США обведены желтым пунктиром (149 систем, самая мощная – 149 петафлопс –в 2 раза превышает производительность всех российских систем в ТОР500).
Таково сегодняшнее место России на карте мира ИИ.
А теперь о перспективе.
На этом рисунке (5) вычислительная мощность трёх новых суперкомпьютерных систем соответствует площади трёх прямоугольников:
• Желтый – это Китай: 25 января с.г. SenseTime запустил Artificial Intelligence Data Centre (AIDC) нового поколения SenseCore; его вычислительная мощность 3740 петафлопс (в 51 раз превышает производительность всех российских систем в ТОР500)
• Синий – это США: к 2023 году Facebook (Meta) доведет вычислительную мощность своего AI supercomputer RSC до 4900 петафлопс (в 67 раз превышает производительность всех российских систем в ТОР500)
• Красный – это Россия: к 2026 планируется создать суперкомпьютер на разрабатываемых сейчас отечественных процессорах «Эльбрус-32С» производительностью в 100 петафлопс.
#ИИ #HPC #Россия #Китай #США
1 2 3 4 5
Шансы России в ИИ-гонке не хуже Китая.
Но нужна стратегия типа ИИ-ГОЭЛРО плюс ИИ-Ликбез.
«Начиная с механизации в 18 веке (1я промышленная революция), потом электрификации в 19 веке (2я промышленная революция) и затем информатизации в 20 веке (3я промышленная революция), - гигантские волны прорывных технологических инноваций...коренным образом меняли траекторию развития истории человечества...Сегодня мы переживаем еще более колоссальную по масштабу волну технологической революции и промышленной трансформации»
— Председатель КНР Си Цзиньпин
Искусственный интеллект - это новое электричество
— Эндрю Ын, ведущий исследователь ИИ и соучредитель Google Brain
Парадокс в том, что смысл ставшей крылатой фразы Ына мало кто понимает. А без понимания этого, высказывание Си – просто затасканная банальность.
Смысл сказанного Ыном в том, что прогресс в области ИИ (представляющего собой спектр Технологий Общего Назначения - ТОН) имеет совершенно иную траекторию, чем прогресс в области Технологических Продуктов и Услуг (ТПУ).
Разные траектории прогресса ТПУ и ТОН определяются разными (1) механизмами получения преимуществ от технологий и разными (2) сроками получения экономической отдачи.
• В ТПУ: ключевой механизм – монополия на инновацию, а получение экономической отдачи начинается прямо на начальной стадии внедрения.
• В ТОН: ключевой механизм – широта проникновения, а получение экономической отдачи отсрочено на позднюю стадию внедрения.
Разные траектории прогресса ТПУ и ТОН требуют совершенно разных национальных стратегий, направленных на вхождение страны в группу мировых технолидеров. И эти стратегии должны предусматривать абсолютно разную институциональную поддержку государства и бизнеса.
Для ТПУ:
• стратегия направлена на углубление технологического уровня ТПУ, обеспечивающего лидерство на мировом уровне;
• а институциональная поддержка ориентирована на помощь конкретной индустрии – производителю ТПУ в удержании ею лидирующих (а в идеале, монопольных) позиций на международном рынке.
Для ТОН:
• стратегия направлена на расширение сфер применения ТОН в различных индустриях;
• а институциональная поддержка – на стимулирование как можно более широкого применения ТОН как можно большим числом индустрий.
Отсюда следуют три вывода:
1. В отличие от ТПУ, для ТОН не принципиально важно быть в числе мировых лидеров по R&D, числу статей и патентов и даже по числу топовых ученых и инженеров, создающих и совершенствующих ТОН.
2. Самым важным для прогресса ТОН является:
(А) совершенствование инфраструктуры и оргподдержки, стимулирующих создание инновационных цепочек взаимодополняющих применений ТОН в большинстве секторов экономики;
(Б) обеспечение большого пула инженерных специалистов среднего и нижнего уровня, необходимых для внедрения и поддержки ТОН в самых разнообразных применениях широкого спектра индустрий;
(В) ориентация не на замену людей, а на расширение их возможностей.
Пояснение п. (А). Точно так же, как инфраструктура и оргмероприятия при внедрении беспроводной телеграфии отличались от оных при внедрении городского электроосвещения, пути внедрения для различных приложений ИИ будут сильно отличаться.
Пояснение п. (Б). Аналогично возникновению в ходе электрификации всей страны целой армии инженеров и техников-электриков в разных профессиональных ипостасях и во всех отраслях от авиации до колхозов, для прогресса ИИ потребуется армия специалистов из сотен тысяч ИИ-инженеров, на каждого из которых будет приходиться по 10+ ИИ-ПТУшников.
США изначально были и остаются лучше других стран подготовлены к прогрессу ИИ, как ТОН.
Руководство Китая в явном виде ориентирует национальную стратегию, как стратегию ТОН.
В России это, как мне видится, совсем не так.
Но страна в состоянии присоединиться к ИИ-гонке в группе лидеров. Для этого нужно менять стратегию, - что-то типа интегрированной стратегии ИИ-ГОЭЛРО плюс ИИ-Ликбез.
См. также 1 2 3
#ИИгонка #Китай #США #Россия
Но нужна стратегия типа ИИ-ГОЭЛРО плюс ИИ-Ликбез.
«Начиная с механизации в 18 веке (1я промышленная революция), потом электрификации в 19 веке (2я промышленная революция) и затем информатизации в 20 веке (3я промышленная революция), - гигантские волны прорывных технологических инноваций...коренным образом меняли траекторию развития истории человечества...Сегодня мы переживаем еще более колоссальную по масштабу волну технологической революции и промышленной трансформации»
— Председатель КНР Си Цзиньпин
Искусственный интеллект - это новое электричество
— Эндрю Ын, ведущий исследователь ИИ и соучредитель Google Brain
Парадокс в том, что смысл ставшей крылатой фразы Ына мало кто понимает. А без понимания этого, высказывание Си – просто затасканная банальность.
Смысл сказанного Ыном в том, что прогресс в области ИИ (представляющего собой спектр Технологий Общего Назначения - ТОН) имеет совершенно иную траекторию, чем прогресс в области Технологических Продуктов и Услуг (ТПУ).
Разные траектории прогресса ТПУ и ТОН определяются разными (1) механизмами получения преимуществ от технологий и разными (2) сроками получения экономической отдачи.
• В ТПУ: ключевой механизм – монополия на инновацию, а получение экономической отдачи начинается прямо на начальной стадии внедрения.
• В ТОН: ключевой механизм – широта проникновения, а получение экономической отдачи отсрочено на позднюю стадию внедрения.
Разные траектории прогресса ТПУ и ТОН требуют совершенно разных национальных стратегий, направленных на вхождение страны в группу мировых технолидеров. И эти стратегии должны предусматривать абсолютно разную институциональную поддержку государства и бизнеса.
Для ТПУ:
• стратегия направлена на углубление технологического уровня ТПУ, обеспечивающего лидерство на мировом уровне;
• а институциональная поддержка ориентирована на помощь конкретной индустрии – производителю ТПУ в удержании ею лидирующих (а в идеале, монопольных) позиций на международном рынке.
Для ТОН:
• стратегия направлена на расширение сфер применения ТОН в различных индустриях;
• а институциональная поддержка – на стимулирование как можно более широкого применения ТОН как можно большим числом индустрий.
Отсюда следуют три вывода:
1. В отличие от ТПУ, для ТОН не принципиально важно быть в числе мировых лидеров по R&D, числу статей и патентов и даже по числу топовых ученых и инженеров, создающих и совершенствующих ТОН.
2. Самым важным для прогресса ТОН является:
(А) совершенствование инфраструктуры и оргподдержки, стимулирующих создание инновационных цепочек взаимодополняющих применений ТОН в большинстве секторов экономики;
(Б) обеспечение большого пула инженерных специалистов среднего и нижнего уровня, необходимых для внедрения и поддержки ТОН в самых разнообразных применениях широкого спектра индустрий;
(В) ориентация не на замену людей, а на расширение их возможностей.
Пояснение п. (А). Точно так же, как инфраструктура и оргмероприятия при внедрении беспроводной телеграфии отличались от оных при внедрении городского электроосвещения, пути внедрения для различных приложений ИИ будут сильно отличаться.
Пояснение п. (Б). Аналогично возникновению в ходе электрификации всей страны целой армии инженеров и техников-электриков в разных профессиональных ипостасях и во всех отраслях от авиации до колхозов, для прогресса ИИ потребуется армия специалистов из сотен тысяч ИИ-инженеров, на каждого из которых будет приходиться по 10+ ИИ-ПТУшников.
США изначально были и остаются лучше других стран подготовлены к прогрессу ИИ, как ТОН.
Руководство Китая в явном виде ориентирует национальную стратегию, как стратегию ТОН.
В России это, как мне видится, совсем не так.
Но страна в состоянии присоединиться к ИИ-гонке в группе лидеров. Для этого нужно менять стратегию, - что-то типа интегрированной стратегии ИИ-ГОЭЛРО плюс ИИ-Ликбез.
См. также 1 2 3
#ИИгонка #Китай #США #Россия
Китай об уроках 2й подрывной стратегической ошибки северного соседа.
Теперь партнерские отношения Китая и США обрели новую перспективу.
• В сегодняшнем выпуске главной газеты Китая Жэньминь Жибао нет ни слова про российско-украинский конфликт (1).
• В опубликованном сегодня выступлении члена Госсовета Китая Ван И в качестве главного приоритета Китая во внешней политике однозначно названа дружба с США (2).
Что связывает два столь удивительных факта?
Короткое объяснение дано в заголовке речи Ван И - «Воспользуйтесь исторической мудростью и осветите себе путь вперед».
А чтобы в деталях понять, о какой «исторической мудрости» идет речь, и куда направлен «путь вперед», необходимо прочесть эссе «Украинская война и восстановление мирового порядка?» (3), автором которого является известный политический ученый и политический комментатор профессор Чжэн Юннянь (Zheng Yongnian) – директор ведущего национального аналитического центра Advanced Institute of Global and Contemporary China Studies.
Два года назад Чжэн Юннянь рассказал об уроках, извлеченных Китаем из подрывной стратегической ошибки - развала СССР (4).
1. «Китаю необходимо придерживаться двух принципов: открытых инноваций и рыночной ориентации».
2. «Необходимо понять, что современное поле соперничества США и Китая лежит не в сфере территориальных споров, как было раньше, а в сфере высоких технологий».
СССР не понял ни 1го, ни 2го, и это была подрывная стратегическая ошибка. Китай вовремя понял и избежал подобной ошибки.
Теперь же в новом эссе Чжэн Юннянь анализирует уроки 2й за 30 лет подрывной стратегической ошибки северного соседа, открывающей перед Китаем новые геополитические перспективы.
• «Причина, по которой великая держава является или хотя бы считается таковой, заключается не в ее способности бросить вызов старому порядку, тем более в ее способности вести войну, а в ее ответственности за поощрение и поддержание международного мира.»
• Теперь, когда «Путин шокировал Европу, шокировал США и шокировал мир полномасштабной украинской войной…, Китай и США должны отказаться от мифа об игре с нулевой суммой и навязчивой идеи сдерживания друг друга… теперь необходимо рассматривать друг друга, как партнеров по развитию, а не как врагов в силовой игре».
• Поскольку «Путин рассчитывает, что у него будет от 15 до 20 лет для дальнейшего формирования и улучшения «маленького Советского Союза», для американцев утверждение о том, будто Китай является угрозой №1 для Америки, будет надолго подвергнуто сомнению.
Это означает, что пока мы сами не совершим подрывных стратегических ошибок, -
(1) процесс модернизации Китая не будет прерван со стороны США.
(2) Китай сможет играть более важную роль в построении нового мирового порядка».
Вот о какой «исторической мудрости» идет речь. Вот куда направлен «путь Китая вперед». И вот какова, по мнению проф. Чжэн Юнняня цена 2й подрывной стратегической ошибки северного соседа – «кровь, огонь, насилие и война».
1 2 3 4
#Китай #США #Россия
Теперь партнерские отношения Китая и США обрели новую перспективу.
• В сегодняшнем выпуске главной газеты Китая Жэньминь Жибао нет ни слова про российско-украинский конфликт (1).
• В опубликованном сегодня выступлении члена Госсовета Китая Ван И в качестве главного приоритета Китая во внешней политике однозначно названа дружба с США (2).
Что связывает два столь удивительных факта?
Короткое объяснение дано в заголовке речи Ван И - «Воспользуйтесь исторической мудростью и осветите себе путь вперед».
А чтобы в деталях понять, о какой «исторической мудрости» идет речь, и куда направлен «путь вперед», необходимо прочесть эссе «Украинская война и восстановление мирового порядка?» (3), автором которого является известный политический ученый и политический комментатор профессор Чжэн Юннянь (Zheng Yongnian) – директор ведущего национального аналитического центра Advanced Institute of Global and Contemporary China Studies.
Два года назад Чжэн Юннянь рассказал об уроках, извлеченных Китаем из подрывной стратегической ошибки - развала СССР (4).
1. «Китаю необходимо придерживаться двух принципов: открытых инноваций и рыночной ориентации».
2. «Необходимо понять, что современное поле соперничества США и Китая лежит не в сфере территориальных споров, как было раньше, а в сфере высоких технологий».
СССР не понял ни 1го, ни 2го, и это была подрывная стратегическая ошибка. Китай вовремя понял и избежал подобной ошибки.
Теперь же в новом эссе Чжэн Юннянь анализирует уроки 2й за 30 лет подрывной стратегической ошибки северного соседа, открывающей перед Китаем новые геополитические перспективы.
• «Причина, по которой великая держава является или хотя бы считается таковой, заключается не в ее способности бросить вызов старому порядку, тем более в ее способности вести войну, а в ее ответственности за поощрение и поддержание международного мира.»
• Теперь, когда «Путин шокировал Европу, шокировал США и шокировал мир полномасштабной украинской войной…, Китай и США должны отказаться от мифа об игре с нулевой суммой и навязчивой идеи сдерживания друг друга… теперь необходимо рассматривать друг друга, как партнеров по развитию, а не как врагов в силовой игре».
• Поскольку «Путин рассчитывает, что у него будет от 15 до 20 лет для дальнейшего формирования и улучшения «маленького Советского Союза», для американцев утверждение о том, будто Китай является угрозой №1 для Америки, будет надолго подвергнуто сомнению.
Это означает, что пока мы сами не совершим подрывных стратегических ошибок, -
(1) процесс модернизации Китая не будет прерван со стороны США.
(2) Китай сможет играть более важную роль в построении нового мирового порядка».
Вот о какой «исторической мудрости» идет речь. Вот куда направлен «путь Китая вперед». И вот какова, по мнению проф. Чжэн Юнняня цена 2й подрывной стратегической ошибки северного соседа – «кровь, огонь, насилие и война».
1 2 3 4
#Китай #США #Россия
Был ужас, а станет ужас-ужас.
ИИ США, Китая и России до и после железного занавеса.
США и Китай – заклятые конкуренты в борьбе за статус ИИ-супердержавы №1. И в то же время, как это ни парадоксально, ключевым фактором мирового прогресса в области ИИ является кооперация этих двух стран.
Как следует из опубликованного вчера отчета HAI «2022 AI Index», уровень кооперации США и Китая в области ИИ-исследований не только недостижим для других стран, но и просто не представим для них.
Количество совместных научных публикаций в 2021, как показатель уровня кооперации пар стран в области ИИ:
• США и Китай - 9,6К
• Китай и Великобритания - 3,6К
• США и Великобритания - 3,3К
• Китай и Австралия - 2,6К
• США и Германия - 3,3К
Такой отрыв в кооперации США и Китая объясняется тем, что эти страны как бы связаны одной цепью в силу трех причин.
Обе страны вложили огромные ресурсы в искусственный интеллект и проводят огромное количество исследований.
Многие китайские исследователи прошли обучение в США и сохранили тесные профессиональные связи с американскими коллегами.
Максимум отдачи от любой технологии зависит не только от страны - пионера (изобретшей технологию), но и страны - внедренца (лучше всего применяющей технологию в широком спектре отраслей). Например, в сталелитейных технологиях пионером была Британия, а внедренцем США. В ИИ, понятное дело, США – пионер, а Китай – внедренец.
А что же Россия?
Увы, по данным соредактора «2022 AI Index» Рэя Перро, число совместных международных научных публикаций (проектов) в области ИИ в 2021 было таково.
• В США 1200 институтов опубликовали результаты примерно 3000 трансграничных совместных проектов ИИ.
• В Китае 500 институтов опубликовали результаты 2000 трансграничных проектов.
• В России только 60 институтов опубликовали результаты максимум 600 проектов по ИИ.
И это до железного занавеса, который отсечет 2/3 некитайских проектов российских институтов.
Т.е. в 2022, предположительно, будет примерно 20 институтов и менее 200 проектов. Это хуже, чем, например, у Венгрии или Мексики, но чуть лучше, чем у Египта и Нигерии.
#ИИ #Китай #США #Россия
ИИ США, Китая и России до и после железного занавеса.
США и Китай – заклятые конкуренты в борьбе за статус ИИ-супердержавы №1. И в то же время, как это ни парадоксально, ключевым фактором мирового прогресса в области ИИ является кооперация этих двух стран.
Как следует из опубликованного вчера отчета HAI «2022 AI Index», уровень кооперации США и Китая в области ИИ-исследований не только недостижим для других стран, но и просто не представим для них.
Количество совместных научных публикаций в 2021, как показатель уровня кооперации пар стран в области ИИ:
• США и Китай - 9,6К
• Китай и Великобритания - 3,6К
• США и Великобритания - 3,3К
• Китай и Австралия - 2,6К
• США и Германия - 3,3К
Такой отрыв в кооперации США и Китая объясняется тем, что эти страны как бы связаны одной цепью в силу трех причин.
Обе страны вложили огромные ресурсы в искусственный интеллект и проводят огромное количество исследований.
Многие китайские исследователи прошли обучение в США и сохранили тесные профессиональные связи с американскими коллегами.
Максимум отдачи от любой технологии зависит не только от страны - пионера (изобретшей технологию), но и страны - внедренца (лучше всего применяющей технологию в широком спектре отраслей). Например, в сталелитейных технологиях пионером была Британия, а внедренцем США. В ИИ, понятное дело, США – пионер, а Китай – внедренец.
А что же Россия?
Увы, по данным соредактора «2022 AI Index» Рэя Перро, число совместных международных научных публикаций (проектов) в области ИИ в 2021 было таково.
• В США 1200 институтов опубликовали результаты примерно 3000 трансграничных совместных проектов ИИ.
• В Китае 500 институтов опубликовали результаты 2000 трансграничных проектов.
• В России только 60 институтов опубликовали результаты максимум 600 проектов по ИИ.
И это до железного занавеса, который отсечет 2/3 некитайских проектов российских институтов.
Т.е. в 2022, предположительно, будет примерно 20 институтов и менее 200 проектов. Это хуже, чем, например, у Венгрии или Мексики, но чуть лучше, чем у Египта и Нигерии.
#ИИ #Китай #США #Россия
2022 - год начала хайтек-рабства.
Прогноз хайтек импорта России из Китая.
В кроссвордах часто встречается - "Полная зависимость ", семь букв. Правильный ответ – рабство.
Почему-то именно эта ассоциация всплывает в памяти по прочтению майского бюллетеня исследовательской службы Конгресса США «Экономические и торговые связи Китая с Россией».
• В благополучном 2021 г. доля Китая в российском импорте компьютеров и телекоммуникационного оборудования составляла 72%. А в этом году, с учетом санкций, прогнозные цифры российского импорта из Китая этих двух категорий хайтека увеличатся, соответственно, до 88% и 77%.
• Доля китайских поставок в Россию полупроводниковых устройств может составить 79%. И лишь для 4-й категории продуктов хайтека – интегральных схем, зависимость от импорта из Китая составит «всего лишь» 43% (с учетом присоединившегося к санкциям Тайваня).
• В целом доля китайских поставок хайтека в Россию может составить более 3/4 (т.е. полная зависимость).
Но Китай рост хайтек-экспорта в Россию вряд ли заметит. Ведь это для России ¾ импорта хайтека. А для Китая это всего лишь 2% его мирового экспорта хайтека (и, кстати, очень маленькая доля в контексте потенциальных рисков вторичных санкций).
Бюллетень исследовательской службы Конгресса США «Экономические и торговые связи Китая с Россией»
#Китай #Россия
Прогноз хайтек импорта России из Китая.
В кроссвордах часто встречается - "Полная зависимость ", семь букв. Правильный ответ – рабство.
Почему-то именно эта ассоциация всплывает в памяти по прочтению майского бюллетеня исследовательской службы Конгресса США «Экономические и торговые связи Китая с Россией».
• В благополучном 2021 г. доля Китая в российском импорте компьютеров и телекоммуникационного оборудования составляла 72%. А в этом году, с учетом санкций, прогнозные цифры российского импорта из Китая этих двух категорий хайтека увеличатся, соответственно, до 88% и 77%.
• Доля китайских поставок в Россию полупроводниковых устройств может составить 79%. И лишь для 4-й категории продуктов хайтека – интегральных схем, зависимость от импорта из Китая составит «всего лишь» 43% (с учетом присоединившегося к санкциям Тайваня).
• В целом доля китайских поставок хайтека в Россию может составить более 3/4 (т.е. полная зависимость).
Но Китай рост хайтек-экспорта в Россию вряд ли заметит. Ведь это для России ¾ импорта хайтека. А для Китая это всего лишь 2% его мирового экспорта хайтека (и, кстати, очень маленькая доля в контексте потенциальных рисков вторичных санкций).
Бюллетень исследовательской службы Конгресса США «Экономические и торговые связи Китая с Россией»
#Китай #Россия
Китай ушёл в отрыв, а Россия лишилась чемпиона.
Опубликован августовский выпуск мирового трекера ИИ-исследований.
Исследования в области ИИ развиваются столь быстро, что ежегодные мировые ИИ рейтинги и индексы превращаются в «прогнозы погоды на позавчера».
Но слава богу, есть уже в этой области и «прогнозы на сегодня». Например, ежемесячно обновляемый мировой трекер ИИ-исследований Центра безопасности и новых технологий CSET.
Трекер отслеживает ИИ исследования в большинстве стран мира, чтобы дать обзор исследовательского потенциала в каждой из них, а также предоставить информацию о конкурентоспособности и сотрудничестве в глобальном масштабе. В трекере представлены показатели исследований ИИ, патентов и инвестиционной деятельности для ИИ области в целом и его различных подобластей.
Из августовского выпуска мне бросилось в глаза следующее.
1. Китай просто ушел в отрыв. По главному показателю числа публикаций (Scholarly AI output) Китай уже опережает США вдвое (и это при том, что США опережает в 3-4 раза идущих за ними следом Индию, Британию, Германию, Японию, Францию и Австралию).
2. Россия по Scholarly AI output на 17-ом месте. Это стало результатом колоссального роста - с 2010 более 1000%. Еще более фантастический рост с супернизкой базы показали 18 небольших стран мира.
3. По проценту работ, отражающих уровень международной кооперации, место России катастрофично – 209-е. Если же учесть, что из десятки лидеров по сотрудничеству с Россией в области ИИ, скорее всего, уходят 7 стран, то через год 209 место будет вспоминаться славным достижением.
4. Чемпионом по цитированию его работ стал россиянин Виктор Лемпицкий (почти 500 цитирований). За плечами у Виктора Яндекс, Сколтех и Центр ИИ Самсунга в Москве. Увы, но похоже, что с этого лета Виктор лишь условно российский чемпион. С июля он стал CEO Cinemersive Labs в Армении. И судя по контенту его Мордокниги, шансов на скорый возврат нет.
#ИИ #Россия #Китай
Опубликован августовский выпуск мирового трекера ИИ-исследований.
Исследования в области ИИ развиваются столь быстро, что ежегодные мировые ИИ рейтинги и индексы превращаются в «прогнозы погоды на позавчера».
Но слава богу, есть уже в этой области и «прогнозы на сегодня». Например, ежемесячно обновляемый мировой трекер ИИ-исследований Центра безопасности и новых технологий CSET.
Трекер отслеживает ИИ исследования в большинстве стран мира, чтобы дать обзор исследовательского потенциала в каждой из них, а также предоставить информацию о конкурентоспособности и сотрудничестве в глобальном масштабе. В трекере представлены показатели исследований ИИ, патентов и инвестиционной деятельности для ИИ области в целом и его различных подобластей.
Из августовского выпуска мне бросилось в глаза следующее.
1. Китай просто ушел в отрыв. По главному показателю числа публикаций (Scholarly AI output) Китай уже опережает США вдвое (и это при том, что США опережает в 3-4 раза идущих за ними следом Индию, Британию, Германию, Японию, Францию и Австралию).
2. Россия по Scholarly AI output на 17-ом месте. Это стало результатом колоссального роста - с 2010 более 1000%. Еще более фантастический рост с супернизкой базы показали 18 небольших стран мира.
3. По проценту работ, отражающих уровень международной кооперации, место России катастрофично – 209-е. Если же учесть, что из десятки лидеров по сотрудничеству с Россией в области ИИ, скорее всего, уходят 7 стран, то через год 209 место будет вспоминаться славным достижением.
4. Чемпионом по цитированию его работ стал россиянин Виктор Лемпицкий (почти 500 цитирований). За плечами у Виктора Яндекс, Сколтех и Центр ИИ Самсунга в Москве. Увы, но похоже, что с этого лета Виктор лишь условно российский чемпион. С июля он стал CEO Cinemersive Labs в Армении. И судя по контенту его Мордокниги, шансов на скорый возврат нет.
#ИИ #Россия #Китай
Мировой рейтинг научно-технической мощи государств в 2022.
Кто есть кто среди лидеров и аутсайдеров 2ой НТР.
2я НТР – это процесс тотальной оцифровки мира, начавшийся в 21 веке. Все важнейшие виды деятельности людей проходят через этап цифровизации. В результате чего вычисления (компьютинг) становятся основой новых наук и технологий, обучения и промышленности, логистических и креативных процессов. Ну а самая многообещающая междисциплинарная область - искусственный интеллект, - состоит исключительно из вычислительных процессов (кроме вычислений там нет ничего).
Поэтому не удивительно, что ключевым фактором научно-технической мощи государств в новом цифровом мире стала их вычислительная мощь. Именно она определяет теперь, кто из стран – лидер, а кто – аутсайдер: в науке, в технологиях и практически во всех индустриях от нефтедобычи до телекоммуникаций, от производства самолетов до производства лекарств и т.д. Вся экономика и финансы, обороноспособность и социальная сфера, образование и медицина теперь завязаны на компьютинг. И чем он мощнее у страны, тем выше её научно-техническая мощь в каждой из названных областей.
Только что вышедший совместный отчет IDC и Inspur «2021-2022 Global Computing Index Assessment Report» – наглядное подтверждение вышесказанного.
• Интегральный Computing Index 15ти стран коррелирует с их ВВП лучше большинства других показателей (см. приложенную диаграмму).
• На каждый 1 пункт увеличения Computing Index страны её цифровая экономика получает 3,5% роста, а ВВП увеличивается на 1,8%.
Отчет также наглядно показывает, что в мире лишь две сверхдержавы: США, обладающие заоблачным Computing Index, и Китай, немыслимо быстро догоняющий лидера (к концу июня 2022 г. общий масштаб стоек центров обработки данных в стране превысил 5,9 млн, масштаб серверов — около 20 млн, а общий масштаб вычислительной мощности превысил 150 EFlops).
В группу развитых по показателю Computing Index стран входят: Япония, германия, Великобритания, Франция, Канада, Юж. Корея и Австралия.
Группа отстающих, но пытающихся догонять – это Индия, Италия, Бразилия, Россия (№13), Юж. Африка и Малайзия.
N.B. Computing Index – это не просто вычислительная производительность HW. Расчет ведется по сложной формуле (см. отчет), учитывающей: теоретический максимум производительности HW, уровень эффективности компьютинга (облачные вычисления, виртуализация и т.д.), эффективность работы приложений и уровень вычислительной инфраструктуры.
#Компьютинг #США #Китай #Россия
Кто есть кто среди лидеров и аутсайдеров 2ой НТР.
2я НТР – это процесс тотальной оцифровки мира, начавшийся в 21 веке. Все важнейшие виды деятельности людей проходят через этап цифровизации. В результате чего вычисления (компьютинг) становятся основой новых наук и технологий, обучения и промышленности, логистических и креативных процессов. Ну а самая многообещающая междисциплинарная область - искусственный интеллект, - состоит исключительно из вычислительных процессов (кроме вычислений там нет ничего).
Поэтому не удивительно, что ключевым фактором научно-технической мощи государств в новом цифровом мире стала их вычислительная мощь. Именно она определяет теперь, кто из стран – лидер, а кто – аутсайдер: в науке, в технологиях и практически во всех индустриях от нефтедобычи до телекоммуникаций, от производства самолетов до производства лекарств и т.д. Вся экономика и финансы, обороноспособность и социальная сфера, образование и медицина теперь завязаны на компьютинг. И чем он мощнее у страны, тем выше её научно-техническая мощь в каждой из названных областей.
Только что вышедший совместный отчет IDC и Inspur «2021-2022 Global Computing Index Assessment Report» – наглядное подтверждение вышесказанного.
• Интегральный Computing Index 15ти стран коррелирует с их ВВП лучше большинства других показателей (см. приложенную диаграмму).
• На каждый 1 пункт увеличения Computing Index страны её цифровая экономика получает 3,5% роста, а ВВП увеличивается на 1,8%.
Отчет также наглядно показывает, что в мире лишь две сверхдержавы: США, обладающие заоблачным Computing Index, и Китай, немыслимо быстро догоняющий лидера (к концу июня 2022 г. общий масштаб стоек центров обработки данных в стране превысил 5,9 млн, масштаб серверов — около 20 млн, а общий масштаб вычислительной мощности превысил 150 EFlops).
В группу развитых по показателю Computing Index стран входят: Япония, германия, Великобритания, Франция, Канада, Юж. Корея и Австралия.
Группа отстающих, но пытающихся догонять – это Индия, Италия, Бразилия, Россия (№13), Юж. Африка и Малайзия.
N.B. Computing Index – это не просто вычислительная производительность HW. Расчет ведется по сложной формуле (см. отчет), учитывающей: теоретический максимум производительности HW, уровень эффективности компьютинга (облачные вычисления, виртуализация и т.д.), эффективность работы приложений и уровень вычислительной инфраструктуры.
#Компьютинг #США #Китай #Россия
Человечеству предстоит сыграть в русскую рулетку.
Макс Тегмарк подсчитал шансы мира на скорую гибель.
Исходя их приложенной диаграммы сценариев, шансы земной цивилизации в ближайшее время погибнуть из-за ядерной мировой войны такие же, как при игре в русскую рулетку – 1/6.
Эта вероятность вытекает из оценки Тегмарком текущего состояния и вероятностей трех следующих сценарных переходов:
1. 30%-ая вероятность перехода ситуации в состояние kaboom («малый бабах») – ядерный удар по Украине;
2. после 1, с 80%-ой вероятностью переход в состояние «Расширение конфликта с неядерным участием НАТО»;
3. после 2, с 70%-ой вероятностью переход в состояние KABOOM («большой бабах») – ядерная 3-я мировая.
4. ИТОГО: 30% x 80% x 70% ~ 1/6
Кроме названных состояний самого опасного для мира сценария, диаграмма включает такие возможные сценарии: два полярных «Косово» и «Вьетнам»; три промежуточных «Финляндия», «Корея» и «Ливия».
Остальное (детали, обоснования, предположения) понятно из сопроводительного текста Тегмарка.
Завершается текст захватывающим резюме «Влияние 3-ей мировой войны».
Тут со ссылкой на рассекреченную американскую карту целей ядерных ударов по России и Китаю, Тегмарк отмечает:
• в случае ядерной войны России и США, последние ударят и по Китаю, чтобы тот не стал самой сильной послевоенной экономикой;
• поскольку в Китае гораздо больше крупных городов, чем в США и России, это значительно увеличит производство дыма и сажи, ведущих к ядерной зиме.
#БольшаяВойна #Россия #США #Китай
Макс Тегмарк подсчитал шансы мира на скорую гибель.
Исходя их приложенной диаграммы сценариев, шансы земной цивилизации в ближайшее время погибнуть из-за ядерной мировой войны такие же, как при игре в русскую рулетку – 1/6.
Эта вероятность вытекает из оценки Тегмарком текущего состояния и вероятностей трех следующих сценарных переходов:
1. 30%-ая вероятность перехода ситуации в состояние kaboom («малый бабах») – ядерный удар по Украине;
2. после 1, с 80%-ой вероятностью переход в состояние «Расширение конфликта с неядерным участием НАТО»;
3. после 2, с 70%-ой вероятностью переход в состояние KABOOM («большой бабах») – ядерная 3-я мировая.
4. ИТОГО: 30% x 80% x 70% ~ 1/6
Кроме названных состояний самого опасного для мира сценария, диаграмма включает такие возможные сценарии: два полярных «Косово» и «Вьетнам»; три промежуточных «Финляндия», «Корея» и «Ливия».
Остальное (детали, обоснования, предположения) понятно из сопроводительного текста Тегмарка.
Завершается текст захватывающим резюме «Влияние 3-ей мировой войны».
Тут со ссылкой на рассекреченную американскую карту целей ядерных ударов по России и Китаю, Тегмарк отмечает:
• в случае ядерной войны России и США, последние ударят и по Китаю, чтобы тот не стал самой сильной послевоенной экономикой;
• поскольку в Китае гораздо больше крупных городов, чем в США и России, это значительно увеличит производство дыма и сажи, ведущих к ядерной зиме.
#БольшаяВойна #Россия #США #Китай
Россияне на грани нервного срыва.
Цунами тревог накрыло одну из самых душевно неуравновешенных стран мира.
Согласно данным ФОМ, в конце сентября психика россиян испытала беспрецедентный удар – всего за неделю уровень тревоги в российском обществе взлетел вдвое (с 35% до 69%).
Даже когда подобное цунами тревог накрывает душевно уравновешенных людей, последствия могут быть довольно серьезными. Когда же такое цунами обрушивается на психику душевно неуравновешенных людей, последствия для них самих и окружающих могут стать очень опасными, ибо плохо предсказуемы.
Увы, но согласно новому мировому исследованию уровня душевного равновесия населения разных стран:
• Россия на 29-м с конца 87-м месте (хуже нас Таджикистан, Алжир, ЮАР и еще 26 стран, а перед нами Нигерия и Венесуэла).
• Для справки:
-- самые душевно уравновешенные люди сейчас живут в Финляндии, Норвегии и Нидерландах;
-- Китай №19, Германия №25, США №28, а Франция лишь №47.
Опрос этого мирового исследования происходил в конце 2020 – начале 2021. Т.е. тогда, когда по данным ФОМ уровень тревог в России был, хоть и далек от хорошего, но все же был терпимым (спокойное и тревожное состояние тогда ощущали примерно равные доли опрошенных).
Это значит, что даже при удовлетворительном уровне внешних тревог в 2020-2021, душевное равновесие россиян было ниже плинтуса. И остается только гадать, что стало с душевным равновесием россиян, начиная с октября, при двукратном взлете уровня тревог.
• Отдельные люди в подобных ситуациях оказываются на грани нервного срыва (впадают в истерику, проявляют агрессию или их сочетание).
• Как поведет себя на грани нервного срыва все общество – вряд ли знает хоть кто-то. Но что мало никому не покажется, и к добру это не приведет, - весьма вероятно.
#Россия #Социология #СоциальнаяПсихология
Цунами тревог накрыло одну из самых душевно неуравновешенных стран мира.
Согласно данным ФОМ, в конце сентября психика россиян испытала беспрецедентный удар – всего за неделю уровень тревоги в российском обществе взлетел вдвое (с 35% до 69%).
Даже когда подобное цунами тревог накрывает душевно уравновешенных людей, последствия могут быть довольно серьезными. Когда же такое цунами обрушивается на психику душевно неуравновешенных людей, последствия для них самих и окружающих могут стать очень опасными, ибо плохо предсказуемы.
Увы, но согласно новому мировому исследованию уровня душевного равновесия населения разных стран:
• Россия на 29-м с конца 87-м месте (хуже нас Таджикистан, Алжир, ЮАР и еще 26 стран, а перед нами Нигерия и Венесуэла).
• Для справки:
-- самые душевно уравновешенные люди сейчас живут в Финляндии, Норвегии и Нидерландах;
-- Китай №19, Германия №25, США №28, а Франция лишь №47.
Опрос этого мирового исследования происходил в конце 2020 – начале 2021. Т.е. тогда, когда по данным ФОМ уровень тревог в России был, хоть и далек от хорошего, но все же был терпимым (спокойное и тревожное состояние тогда ощущали примерно равные доли опрошенных).
Это значит, что даже при удовлетворительном уровне внешних тревог в 2020-2021, душевное равновесие россиян было ниже плинтуса. И остается только гадать, что стало с душевным равновесием россиян, начиная с октября, при двукратном взлете уровня тревог.
• Отдельные люди в подобных ситуациях оказываются на грани нервного срыва (впадают в истерику, проявляют агрессию или их сочетание).
• Как поведет себя на грани нервного срыва все общество – вряд ли знает хоть кто-то. Но что мало никому не покажется, и к добру это не приведет, - весьма вероятно.
#Россия #Социология #СоциальнаяПсихология
«В последние 50 лет геополитику определяло то, где находятся нефтяные резервы. В следующие пять десятилетий важнее станет то, где будут расположены предприятия по производству чипов», – заявил главный исполнительный директор Intel Corp. Пэт Гелсингер в конце октября на технологической конференции, организованной Wall Street Journal.
В России современных (по западным меркам) предприятий по производству чипов просто нет. И если свои предприятия не появятся, а санкционные экспортные ограничения не будут позволять закупку высокопроизводительных чипов, то это будет иметь катастрофические последствия. Деградирует всё - наука и производство, финансы и телеком, сбор налогов и предоставление услуг. Отставание от развитых стран будет расти темпами, соизмеримыми с законом Мура.
Короче, из-за перспективы падения в пропасть цифровой экономики, России светит довольно крутое пике. «Чиповая ситуация» превращается в пиковую ситуацию для всей экономики страны.
О складывающейся в России «чиповой ситуации» и о том, что игнорировать законы развития технологических систем не удастся даже при неограниченном – в идеале – финансировании, мы говорили с Ответственным редактором приложения "НГ-Наука" Андреем Вагановым.
И пару дней назад в НГ был опубликован большой материал Андрея «Чиповой ситуации» с развернутым анализом перспектив России перепрыгнуть цифровую пропасть способом, напоминающим мне тройной прыжок.
Рекомендую вам это интересное и полезное чтение на выходных, дабы лучше ориентироваться в хитросплетениях струй и течений высоких технологий, экономики и науки.
https://www.ng.ru/nauka/2022-11-08/9_8584_situation.html
#Россия #Технологии #ЭкспортныйКонтроль #Чипы
В России современных (по западным меркам) предприятий по производству чипов просто нет. И если свои предприятия не появятся, а санкционные экспортные ограничения не будут позволять закупку высокопроизводительных чипов, то это будет иметь катастрофические последствия. Деградирует всё - наука и производство, финансы и телеком, сбор налогов и предоставление услуг. Отставание от развитых стран будет расти темпами, соизмеримыми с законом Мура.
Короче, из-за перспективы падения в пропасть цифровой экономики, России светит довольно крутое пике. «Чиповая ситуация» превращается в пиковую ситуацию для всей экономики страны.
О складывающейся в России «чиповой ситуации» и о том, что игнорировать законы развития технологических систем не удастся даже при неограниченном – в идеале – финансировании, мы говорили с Ответственным редактором приложения "НГ-Наука" Андреем Вагановым.
И пару дней назад в НГ был опубликован большой материал Андрея «Чиповой ситуации» с развернутым анализом перспектив России перепрыгнуть цифровую пропасть способом, напоминающим мне тройной прыжок.
Рекомендую вам это интересное и полезное чтение на выходных, дабы лучше ориентироваться в хитросплетениях струй и течений высоких технологий, экономики и науки.
https://www.ng.ru/nauka/2022-11-08/9_8584_situation.html
#Россия #Технологии #ЭкспортныйКонтроль #Чипы
Независимая
Чиповая ситуация / / Независимая газета
«В последние 50 лет геополитику определяло то, где находятся нефтяные резервы. В следующие пять десятилетий важнее станет то, где будут расположены предприятия по производству чипов», – заявил главный исполнительный директор Intel Corp. Пэт Гелсингер в конце…
Отставание России от США в области ИИ уже колоссально.
А через несколько лет оно увеличится до трёх километров.
Так уж получилось, что прогресс в области ИИ во многом определяется наличием огромных вычислительных мощностей, требуемых для обучения гигантских нейросетей-трансформеров.
Грег Брокман (соучредитель и СТО OpenAI) формулирует это так:
«Мы думаем, что наибольшую выгоду получит тот, у кого самый большой компьютер».
Я уже демонстрировал, насколько критично наличие мощного компьютинга для обучения Больших моделей в посте «Есть «железо» - участвуй в гонке. Нет «железа» - кури в сторонке».
Место России на карте мира по вычислительной мощности суперкомпьютеров более чем скромное. В списке ТОР500 суперкомпьютеров на этот год у США 149 систем, а у России 7. При этом, только одна из систем США по своей производительности превышает производительность всех российских систем (см. мой пост). Председатель оргкомитета суперкомпьютерного форума России, д.ф.м.н, член-корр. РАН Сергей Абрамов оценивает отставание России от США в области суперкомпьютинга примерно в 10 лет.
Но в области обучения больших моделей для ИИ-приложений ситуация еще хуже. Здесь мало вычислительной мощности обычных серверов и требуются специальные ускорители вычислений. Спецы по машинному обучению из Яндекса это комментируют так.
«Например, если обучать модель с нуля на обычном сервере, на это потребуется 40 лет, а если на одном GPU-ускорителе V100 — 10 лет. Но хорошая новость в том, что задача обучения легко параллелится, и если задействовать хотя бы 256 тех же самых V100, соединить их быстрым интерконнектом, то задачу можно решить всего за две недели.»
Поэтому, показатель числа GPU-ускорителей в вычислительных кластерах разных стран (общедоступных, частных и национальных) позволяет оценивать темпы развития систем ИИ в этих странах. Актуальная статистика данного показателя ведется в State of AI Report Compute Index. Состояние на 20 ноября приведено на приложенном рисунке, куда я добавил данные по пяти крупнейшим HPC-кластерам России (разбивка по public/private – моя оценка).
Из рисунка видно, что обучение больших моделей, занимающее на HPC-кластере всем известной американской компании дни и недели, будет требовать на HPC-кластере Яндекса месяцев, а то и лет.
Но это еще не вся беда. Введенные экспортные ограничения на поставку GPU-ускорителей в Россию и Китай за несколько лет многократно увеличат отрыв США в области обучения больших моделей для ИИ-приложений.
И этот отрыв будет измеряться уже не годами и даже не десятилетиями, а километрами, - как в старом советском анекдоте.
«Построили у нас самый мощный в мире компьютер и задали ему задачу, когда же наступит коммунизм. Компьютер думал, думал и выдал ответ: "Через 3 километра". На требование расшифровать столь странный ответ компьютер выдал:
— Каждая пятилетка — шаг к коммунизму.»
#ИИ #HPC #Россия #ЭкспортныйКонтроль
А через несколько лет оно увеличится до трёх километров.
Так уж получилось, что прогресс в области ИИ во многом определяется наличием огромных вычислительных мощностей, требуемых для обучения гигантских нейросетей-трансформеров.
Грег Брокман (соучредитель и СТО OpenAI) формулирует это так:
«Мы думаем, что наибольшую выгоду получит тот, у кого самый большой компьютер».
Я уже демонстрировал, насколько критично наличие мощного компьютинга для обучения Больших моделей в посте «Есть «железо» - участвуй в гонке. Нет «железа» - кури в сторонке».
Место России на карте мира по вычислительной мощности суперкомпьютеров более чем скромное. В списке ТОР500 суперкомпьютеров на этот год у США 149 систем, а у России 7. При этом, только одна из систем США по своей производительности превышает производительность всех российских систем (см. мой пост). Председатель оргкомитета суперкомпьютерного форума России, д.ф.м.н, член-корр. РАН Сергей Абрамов оценивает отставание России от США в области суперкомпьютинга примерно в 10 лет.
Но в области обучения больших моделей для ИИ-приложений ситуация еще хуже. Здесь мало вычислительной мощности обычных серверов и требуются специальные ускорители вычислений. Спецы по машинному обучению из Яндекса это комментируют так.
«Например, если обучать модель с нуля на обычном сервере, на это потребуется 40 лет, а если на одном GPU-ускорителе V100 — 10 лет. Но хорошая новость в том, что задача обучения легко параллелится, и если задействовать хотя бы 256 тех же самых V100, соединить их быстрым интерконнектом, то задачу можно решить всего за две недели.»
Поэтому, показатель числа GPU-ускорителей в вычислительных кластерах разных стран (общедоступных, частных и национальных) позволяет оценивать темпы развития систем ИИ в этих странах. Актуальная статистика данного показателя ведется в State of AI Report Compute Index. Состояние на 20 ноября приведено на приложенном рисунке, куда я добавил данные по пяти крупнейшим HPC-кластерам России (разбивка по public/private – моя оценка).
Из рисунка видно, что обучение больших моделей, занимающее на HPC-кластере всем известной американской компании дни и недели, будет требовать на HPC-кластере Яндекса месяцев, а то и лет.
Но это еще не вся беда. Введенные экспортные ограничения на поставку GPU-ускорителей в Россию и Китай за несколько лет многократно увеличат отрыв США в области обучения больших моделей для ИИ-приложений.
И этот отрыв будет измеряться уже не годами и даже не десятилетиями, а километрами, - как в старом советском анекдоте.
«Построили у нас самый мощный в мире компьютер и задали ему задачу, когда же наступит коммунизм. Компьютер думал, думал и выдал ответ: "Через 3 километра". На требование расшифровать столь странный ответ компьютер выдал:
— Каждая пятилетка — шаг к коммунизму.»
#ИИ #HPC #Россия #ЭкспортныйКонтроль
У Китая и России появился шанс не дать США уйти в отрыв в области ИИ.
В этом году США пошли на крайние меры, чтобы не позволить Китаю догнать и перегнать США в важнейшей для нацбезопасности индустрии ИИ. Введенные США экспортные ограничения на высокопроизводительные процессоры сильно усложняют Китаю (не имеющему пока соизмеримых по производительности собственных процессоров) возможность конкуренции в области ИИ. Заодно под раздачу экспортных ограничений (по известным причинам) попала и Россия. И это лишает российские компании и без того тусклой перспективы, - пусть не догнать США, но хотя бы отставать на годы, а не на десятилетия.
Но тут случилось такое, что мало кто мог предвидеть.
Компания Together объявила, что смогла обучить свою модель с открытым кодом GPT-JT (6 млрд параметров):
• децентрализованно (на разнородной группе не самых крутых графических процессоров)
• соединенных медленными интернет-каналами (1 Гбит/с)
Авторы модели GPT-JT придумали кучу хитрых способов уменьшения вычислительной и коммуникационной нагрузки при децентрализованном обучении. В результате, эта модель на тестах классификации приближается к современным моделям, которые намного её крупнее (например, InstructGPT davinci v2).
Это достижение может иметь колоссальные последствия.
✔️ До сих пор магистральная линия развития ИИ определялась ограниченным набором компаний, имеющих доступ к большим централизованным компьютерам. На этих высокопроизводительных вычислительных комплексах обучались все т.н. большие модели, начиная от AlphaZero и заканчивая GPT3.
✔️ Компаниям, не имеющим в распоряжении суперкомпьютерных мощностей в этой гонке было нечего ловить (см мой пост «Есть «железо» - участвуй в гонке. Нет «железа» - кури в сторонке»).
GPT-JT сметает шашки с доски, предлагая совершенно иной сценарий будущего.
Вместо нескольких компаний – гигантов, оснащенных суперкомпьютерными системами для ИИ, распределенные коллективы разработчиков могут объединять свои скромные компьютерные мощности через не самые быстрые интернет-каналы, чтобы вместе обучать большие модели.
Но это возможно лишь при условии, что разработчики GPT-JT смогут её масштабировать со скромных 6 млрд параметров на сотни миллиардов. Ибо таково требование сегодняшних больших моделей. А в 2023 счет пойдет уже на триллионы параметров.
#ИИ #HPC #Россия #Китай #ЭкспортныйКонтроль
В этом году США пошли на крайние меры, чтобы не позволить Китаю догнать и перегнать США в важнейшей для нацбезопасности индустрии ИИ. Введенные США экспортные ограничения на высокопроизводительные процессоры сильно усложняют Китаю (не имеющему пока соизмеримых по производительности собственных процессоров) возможность конкуренции в области ИИ. Заодно под раздачу экспортных ограничений (по известным причинам) попала и Россия. И это лишает российские компании и без того тусклой перспективы, - пусть не догнать США, но хотя бы отставать на годы, а не на десятилетия.
Но тут случилось такое, что мало кто мог предвидеть.
Компания Together объявила, что смогла обучить свою модель с открытым кодом GPT-JT (6 млрд параметров):
• децентрализованно (на разнородной группе не самых крутых графических процессоров)
• соединенных медленными интернет-каналами (1 Гбит/с)
Авторы модели GPT-JT придумали кучу хитрых способов уменьшения вычислительной и коммуникационной нагрузки при децентрализованном обучении. В результате, эта модель на тестах классификации приближается к современным моделям, которые намного её крупнее (например, InstructGPT davinci v2).
Это достижение может иметь колоссальные последствия.
✔️ До сих пор магистральная линия развития ИИ определялась ограниченным набором компаний, имеющих доступ к большим централизованным компьютерам. На этих высокопроизводительных вычислительных комплексах обучались все т.н. большие модели, начиная от AlphaZero и заканчивая GPT3.
✔️ Компаниям, не имеющим в распоряжении суперкомпьютерных мощностей в этой гонке было нечего ловить (см мой пост «Есть «железо» - участвуй в гонке. Нет «железа» - кури в сторонке»).
GPT-JT сметает шашки с доски, предлагая совершенно иной сценарий будущего.
Вместо нескольких компаний – гигантов, оснащенных суперкомпьютерными системами для ИИ, распределенные коллективы разработчиков могут объединять свои скромные компьютерные мощности через не самые быстрые интернет-каналы, чтобы вместе обучать большие модели.
Но это возможно лишь при условии, что разработчики GPT-JT смогут её масштабировать со скромных 6 млрд параметров на сотни миллиардов. Ибо таково требование сегодняшних больших моделей. А в 2023 счет пойдет уже на триллионы параметров.
#ИИ #HPC #Россия #Китай #ЭкспортныйКонтроль
5 лет назад в этом прогнозе сомневался не только Стивен Пинкер.
Моё интервью об уже сбывшихся и новых прогнозах.
Менее чем за полчаса я рассказал в интервью Роману Душкину о многом.
1. Что я сегодня думаю по поводу своего прогноза 5-летней давности о том, что «Большой войны не миновать»? (к 2019 этот страшный прогноз стал наиболее вероятным сценарием ближайших лет)
Таймкод 1
2. Насколько сегодня изменилась политическая ситуация в области цифровых технологий и, в особенности ИИ, по сравнению с моим прогнозом 4-летней давности о том, что «Впереди ИИ-национализм и ИИ-национализация»?
Таймкод 2
3. Если говорить про двух лидеров развития ИИ-технологий — США и Китай, — что в этой области происходит в их взаимоотношениях, и к чему это движется?
Таймкод 3
4. Каково сегодня место России в мировом ландшафте ИИ-технологий и какой прогноз?
Таймкод 4
5. Так что же такое современный ИИ в контексте вопросов 2-4?
Таймкод 5
6. Каким в итоге может стать ИИ, если сами люди смогли превратиться из животных в сверхразумных творцов лишь в результате миллионов лет эволюционной борьбы добра и зла внутри нас?
Таймкод 6
#БольшаяВойна #ИИгонка #Россия #Китай #Sapientissimus
Моё интервью об уже сбывшихся и новых прогнозах.
Менее чем за полчаса я рассказал в интервью Роману Душкину о многом.
1. Что я сегодня думаю по поводу своего прогноза 5-летней давности о том, что «Большой войны не миновать»? (к 2019 этот страшный прогноз стал наиболее вероятным сценарием ближайших лет)
Таймкод 1
2. Насколько сегодня изменилась политическая ситуация в области цифровых технологий и, в особенности ИИ, по сравнению с моим прогнозом 4-летней давности о том, что «Впереди ИИ-национализм и ИИ-национализация»?
Таймкод 2
3. Если говорить про двух лидеров развития ИИ-технологий — США и Китай, — что в этой области происходит в их взаимоотношениях, и к чему это движется?
Таймкод 3
4. Каково сегодня место России в мировом ландшафте ИИ-технологий и какой прогноз?
Таймкод 4
5. Так что же такое современный ИИ в контексте вопросов 2-4?
Таймкод 5
6. Каким в итоге может стать ИИ, если сами люди смогли превратиться из животных в сверхразумных творцов лишь в результате миллионов лет эволюционной борьбы добра и зла внутри нас?
Таймкод 6
#БольшаяВойна #ИИгонка #Россия #Китай #Sapientissimus
Каков на самом деле военный потенциал Китая.
В 2023 от этого в мире будет зависеть многое.
Уж если какую страну «не понять умом», то не Россию, а Китай. По крайней мере, для европейцев и американцев.
Обычная аналитика для Китая часто дает искаженную картину. И поэтому аналитический проект ChinaPower (цель которого препарировать сложность понимания взлета экономической, научно-технологической, политической и военной мощи Китая) особенно ценен своей визуальной аналитикой.
Новый интерактивный визуализатор истинных военных расходов Китая (фрагменты которого приведены на картинке к посту) позволяет наглядно увидеть, например, такое:
• что скорость роста военных расходов Китая, в сравнении с остальными ТОР10 странами мира, все равно как Формула-1 против всех моделей Автоваза;
• что расходы на персонал –наименьшая часть военных расходов, а наибольшая часть – это расходы на новое вооружение и военные технологии.
Также открывается много интересного и про другие страны.
Например, такое:
• что абсолютным чемпионом мира по доле госрасходов на военные нужды является Беларусь (30% против 5% у Китая);
• что в Азии Китай абсолютно доминирует, имея военные расходы, не уступающие сумме таковых всех стран №№2-13 (Индия, Япония, Ю.Корея, Австралия, Тайвань и еще восемь стран);
• что Россия является чистым стратегическим активом Китая.
#Китай #Россия #БольшаяВойна
В 2023 от этого в мире будет зависеть многое.
Уж если какую страну «не понять умом», то не Россию, а Китай. По крайней мере, для европейцев и американцев.
Обычная аналитика для Китая часто дает искаженную картину. И поэтому аналитический проект ChinaPower (цель которого препарировать сложность понимания взлета экономической, научно-технологической, политической и военной мощи Китая) особенно ценен своей визуальной аналитикой.
Новый интерактивный визуализатор истинных военных расходов Китая (фрагменты которого приведены на картинке к посту) позволяет наглядно увидеть, например, такое:
• что скорость роста военных расходов Китая, в сравнении с остальными ТОР10 странами мира, все равно как Формула-1 против всех моделей Автоваза;
• что расходы на персонал –наименьшая часть военных расходов, а наибольшая часть – это расходы на новое вооружение и военные технологии.
Также открывается много интересного и про другие страны.
Например, такое:
• что абсолютным чемпионом мира по доле госрасходов на военные нужды является Беларусь (30% против 5% у Китая);
• что в Азии Китай абсолютно доминирует, имея военные расходы, не уступающие сумме таковых всех стран №№2-13 (Индия, Япония, Ю.Корея, Австралия, Тайвань и еще восемь стран);
• что Россия является чистым стратегическим активом Китая.
#Китай #Россия #БольшаяВойна
Мы уже сильно облажались, а международное сообщество по-прежнему в тупике дилеммы заключенного
Так считает бывший руководитель Google X Мо Гавдат, говоря об этом во вчерашней дискуссии в Cinnamon Lakeside Colombo (Шри Ланка) и последующем интервью Sky News.
Эра людей, как самого разумного вида на планете закончилась – говорит Гавдат, – ИИ служит нашей одержимости жадностью, потребительством и оружием войны, и это поставило международное сообщество в тупик дилеммы заключенного.
И если 1я часть этого высказывания еще остается дискуссионной, то 2-я – это неоспоримый факт.
Судите сами.
В июле состоялось 1-е в истории обсуждение темы ИИ в Совете Безопасности ООН. Комментарий о его итогах в Коммерсантъ озаглавлен «У международного сообщества проблемы с интеллектом». И этот заголовок абсолютно точно отражает диагноз.
Если члены Совбеза ООН (каждый из который обладает правом вето) стоят на столь разных позициях, им не договориться по этому важнейшему вопросу современности. А значит, жди мир беды.
«Сухой остаток» изложения позиции сторон (в моем понимании выступлений представителей стран) таков.
Позиция Китая основана на том, что безопасность должна быть приоритетной темой международного регулировании развития ИИ, поскольку оно таит в себе риски вызвать вымирание человечества. И потому предлагается на уровне международного законодательства создать «кнопку выключения» развития ИИ, если оно зайдет в зону чрезмерного риска.
У США иная позиция.
Во-первых, главной целью международного регулировании должен быть контроль, предотвращающий использование ИИ для цензуры, ограничения свобод, подавления или лишения прав людей.
Во-вторых, государства не должны пускать развитие ИИ исключительно по воле бизнеса, иначе придется жить под диктовку исключительно небольшого числа фирм, конкурирующих друг с другом на рынке ИИ.
У России своя позиция.
Во-первых, сама постановка вопроса об ИИ в непосредственной связи с угрозой миру и безопасности «несколько искусственная». А уж обсуждение этого вопроса в Совбезе ООН вообще контрпродуктивно. Необходимо определиться с природой угрозы, и для этого нужна научная и экспертная дискуссия на профильных площадках, на которую могут уйти годы.
Во-вторых, «основным генератором вызовов и угроз в этом смысле выступает не сам искусственный интеллект, а недобросовестные поборники искусственного интеллекта из числа особо продвинутых демократий»
Предоставляю читателям самим оценить позиции трёх стран.
Я же лишь напомню.
Дилемма заключённого — это классическая задача теории игр, демонстрирующая ситуацию, в которой игроки, действуя рационально и пытаясь максимизировать свою выгоду, могут прийти к худшему исходу для каждого из них.
Для преодоления дилеммы заключенного, требуется сочетание коммуникации, доверия и долгосрочного мышления.
Но их, увы, пока нет …
#РискиИИ #Китай #США #Россия
Так считает бывший руководитель Google X Мо Гавдат, говоря об этом во вчерашней дискуссии в Cinnamon Lakeside Colombo (Шри Ланка) и последующем интервью Sky News.
Эра людей, как самого разумного вида на планете закончилась – говорит Гавдат, – ИИ служит нашей одержимости жадностью, потребительством и оружием войны, и это поставило международное сообщество в тупик дилеммы заключенного.
И если 1я часть этого высказывания еще остается дискуссионной, то 2-я – это неоспоримый факт.
Судите сами.
В июле состоялось 1-е в истории обсуждение темы ИИ в Совете Безопасности ООН. Комментарий о его итогах в Коммерсантъ озаглавлен «У международного сообщества проблемы с интеллектом». И этот заголовок абсолютно точно отражает диагноз.
Если члены Совбеза ООН (каждый из который обладает правом вето) стоят на столь разных позициях, им не договориться по этому важнейшему вопросу современности. А значит, жди мир беды.
«Сухой остаток» изложения позиции сторон (в моем понимании выступлений представителей стран) таков.
Позиция Китая основана на том, что безопасность должна быть приоритетной темой международного регулировании развития ИИ, поскольку оно таит в себе риски вызвать вымирание человечества. И потому предлагается на уровне международного законодательства создать «кнопку выключения» развития ИИ, если оно зайдет в зону чрезмерного риска.
У США иная позиция.
Во-первых, главной целью международного регулировании должен быть контроль, предотвращающий использование ИИ для цензуры, ограничения свобод, подавления или лишения прав людей.
Во-вторых, государства не должны пускать развитие ИИ исключительно по воле бизнеса, иначе придется жить под диктовку исключительно небольшого числа фирм, конкурирующих друг с другом на рынке ИИ.
У России своя позиция.
Во-первых, сама постановка вопроса об ИИ в непосредственной связи с угрозой миру и безопасности «несколько искусственная». А уж обсуждение этого вопроса в Совбезе ООН вообще контрпродуктивно. Необходимо определиться с природой угрозы, и для этого нужна научная и экспертная дискуссия на профильных площадках, на которую могут уйти годы.
Во-вторых, «основным генератором вызовов и угроз в этом смысле выступает не сам искусственный интеллект, а недобросовестные поборники искусственного интеллекта из числа особо продвинутых демократий»
Предоставляю читателям самим оценить позиции трёх стран.
Я же лишь напомню.
Дилемма заключённого — это классическая задача теории игр, демонстрирующая ситуацию, в которой игроки, действуя рационально и пытаясь максимизировать свою выгоду, могут прийти к худшему исходу для каждого из них.
Для преодоления дилеммы заключенного, требуется сочетание коммуникации, доверия и долгосрочного мышления.
Но их, увы, пока нет …
#РискиИИ #Китай #США #Россия
YouTube
‘We messed up badly’: Former Google X boss warns of AI threat
The era of humans being the most intelligent species on the planet is over, according to the former boss of Google's advanced innovation team.
Mo Gawdat says AI is serving our obsession with greed, consumerism, and weapons of war, which is creating what…
Mo Gawdat says AI is serving our obsession with greed, consumerism, and weapons of war, which is creating what…
Интеллектуальная вычислительная мощь Китая в 4 тыс раз больше России.
К 2030 отставание России может сократиться … до 3,5 тыс раз.
Эти кажущиеся бредом цифры следуют из сопоставления двух авторитетных источников.
1. Материалы стратегической сессии «Развитие искусственного интеллекта», проведенной правительством России 26 сентября 2023.
2. Совместный отчет International Data Corporation (IDC), китайского производителя серверов Inspur и Института глобальной промышленности Университета Цинхуа «2022-2023 Оценка развития вычислительной мощности искусственного интеллекта в Китае».
Первый из названных документов предполагает следующее:
• В России вычислительная мощность инфраструктуры исследований, разработок и применения ИИ вырастет с нынешних примерно 0.1 экзафлопса до 1 экзафлопса в 2027.
• Увеличение этого показателя к 2030 возможно лишь теоретически, «благодаря прогрессу в области GPU» (что это за прогресс, чей прогресс и за счет чего, - в материалах не указано).
• Рассуждая же практически, 1 экзафлопс вычислительной мощности может так и остаться непревзойденным максимумом вычислительной мощности российской ИИ инфраструктуры вплоть до 2030 (хотя потребности вычислительной мощности инфраструктуры ИИ к тому времени составят 6,2 экзафлопса).
Второй из вышеназванных документов сообщает и предполагает абсолютно несравнимые по масштабу цифры:
• Сейчас (в 2023) вычислительная мощность инфраструктуры исследований, разработок и применения ИИ в Китае составляет около 427 экзафлопсов.
• Планируется, что к 2026 эта величина вырастет до 1271 экзафлопса.
• К 2030 году, как легко подсчитать самостоятельно на основе приведенных в отчете данных, вычислительная мощность инфраструктуры исследований, разработок и применения ИИ может составить в Китае примерно 3550 экзафлопса (или 3,55 зетафлопса).
Также напомню, что в США вычислительная мощность инфраструктуры исследований, разработок и применения ИИ сейчас, где-то на 30-40% больше, чем у Китая (а к 2030 США планируют оторваться примерно в 2 раза за счет экспортных ограничений на микроэлектронику).
В заключение, мне остается лишь с сожалением заметить вот что.
Зря глава Сбера Герман Греф не начал свой 1й доклад на стратегической сессию с уже цитировавшегося им ранее анекдота про снаряды:
«Здесь как в том анекдоте: назовите три причины, почему следует отступить? Причина первая: у нас нет снарядов. Вот так же и здесь: у нас нет такого количества снарядов».
Ведь и с развитием ИИ то же самое: если нет и не планируется в России обретение ИИ инфраструктуры, обладающей хоть как-то сопоставимой вычислительной мощностью, обсуждать пути преодоления остальных шести вызовов (что обсуждались на сессии) нет смысла.
Об этом я предупреждаю уже не один год в своих постах под грифом «Есть «железо» - участвуй в гонке. Нет «железа» - кури в сторонке»
#ИИ #Компьютинг #Россия #Китай
К 2030 отставание России может сократиться … до 3,5 тыс раз.
Эти кажущиеся бредом цифры следуют из сопоставления двух авторитетных источников.
1. Материалы стратегической сессии «Развитие искусственного интеллекта», проведенной правительством России 26 сентября 2023.
2. Совместный отчет International Data Corporation (IDC), китайского производителя серверов Inspur и Института глобальной промышленности Университета Цинхуа «2022-2023 Оценка развития вычислительной мощности искусственного интеллекта в Китае».
Первый из названных документов предполагает следующее:
• В России вычислительная мощность инфраструктуры исследований, разработок и применения ИИ вырастет с нынешних примерно 0.1 экзафлопса до 1 экзафлопса в 2027.
• Увеличение этого показателя к 2030 возможно лишь теоретически, «благодаря прогрессу в области GPU» (что это за прогресс, чей прогресс и за счет чего, - в материалах не указано).
• Рассуждая же практически, 1 экзафлопс вычислительной мощности может так и остаться непревзойденным максимумом вычислительной мощности российской ИИ инфраструктуры вплоть до 2030 (хотя потребности вычислительной мощности инфраструктуры ИИ к тому времени составят 6,2 экзафлопса).
Второй из вышеназванных документов сообщает и предполагает абсолютно несравнимые по масштабу цифры:
• Сейчас (в 2023) вычислительная мощность инфраструктуры исследований, разработок и применения ИИ в Китае составляет около 427 экзафлопсов.
• Планируется, что к 2026 эта величина вырастет до 1271 экзафлопса.
• К 2030 году, как легко подсчитать самостоятельно на основе приведенных в отчете данных, вычислительная мощность инфраструктуры исследований, разработок и применения ИИ может составить в Китае примерно 3550 экзафлопса (или 3,55 зетафлопса).
Также напомню, что в США вычислительная мощность инфраструктуры исследований, разработок и применения ИИ сейчас, где-то на 30-40% больше, чем у Китая (а к 2030 США планируют оторваться примерно в 2 раза за счет экспортных ограничений на микроэлектронику).
В заключение, мне остается лишь с сожалением заметить вот что.
Зря глава Сбера Герман Греф не начал свой 1й доклад на стратегической сессию с уже цитировавшегося им ранее анекдота про снаряды:
«Здесь как в том анекдоте: назовите три причины, почему следует отступить? Причина первая: у нас нет снарядов. Вот так же и здесь: у нас нет такого количества снарядов».
Ведь и с развитием ИИ то же самое: если нет и не планируется в России обретение ИИ инфраструктуры, обладающей хоть как-то сопоставимой вычислительной мощностью, обсуждать пути преодоления остальных шести вызовов (что обсуждались на сессии) нет смысла.
Об этом я предупреждаю уже не один год в своих постах под грифом «Есть «железо» - участвуй в гонке. Нет «железа» - кури в сторонке»
#ИИ #Компьютинг #Россия #Китай
Скрытый потенциал русского ИИ для преодоления отставания от США и Китая.
Что если разрешить русским LLM материться без ограничений?
«Русский мат — … это не просто скабрезные ругательства. Это еще и эмоциональная беседа мужчин в критических ситуациях. Исконной матерной речью пользовались в мужских компаниях, и не для того, чтобы обругать друг друга, а чтобы весело, быстро, понятно и эмоционально объясниться друг с другом в экстремальных условиях, в опасных ситуациях. Такая речь обладает мощным не только психологическим, но, как показано выше, и физиологическим действием.»
Доктор психологических наук Леонид Александрович Китаев-Смык
Сразу предупрежу: это не шутка, не ирония и уж тем более не издевка.
На современном этапе развития ИИ все упирается в наличие огромных вычислительных мощностей, требуемых для обучения гигантских нейросетей-трансформеров. Об этом я талдычу уже несколько лет в постах под грифом «Есть «железо» - участвуй в гонке. Нет «железа» - кури в сторонке» [1, 2, 3]
Но экспортные ограничения крепчают. Их преодоление становится все накладней, и требуемый массовый характер таких поставок в Россию уже не видится реальным.
Разработка своего железа на горизонте достижимости в несколько лет тоже нереальна, т.к. на это требуются десятки миллиардов долларов и десятки лет. А для создания стратегической системы поставок, подобной китайской, среди российских госчиновников маловато китайцев.
В этой тупиковой ситуации остается надеяться либо на чудо, либо на какой-то уж совсем немыслимый творческий кульбит – некую фантастически перспективную идею.
Как у нас водится, примеров предложений таких, якобы, перспективных идей хватает во всех сегментах разработок российского ИИ: от, будто бы, небывало эффективных новых архитектур, до хитрейших и гениальных (по мнению их авторов) новых алгоритмов.
Но все они, в моем представлении, уступают по шедевриальности вот этой идее, недавно прозвучавшей в кулуарах крупной тусовки российских ИИ-разработчиков – новый класс матерящихся языковых моделей.
Речь об использовании уникального ресурсного языкового богатства русского языка (русского мата), потенциально способного стать ключевым конкурентным преимуществом больших языковых моделей, обучающихся на нерецензируемом корпусе русский текстов и не имеющих никаких ограничений на использование нецензурной лексики.
Эта довольно дикая на первый взгляд идея, по мысли ее сторонников, стоит на трёх слонах и черепахе по имени «аффорданс» (описание которых не умещается в ограниченный размер Телеграм поста и потому вынесено в лонгрид для подписчиков на Patreon, Boosty, VK и Дзен – подписывайтесь, ибо текст весьма интересный 😊).
Здесь же, из-за недостатка места, я лишь назову три связанных друг с другом следствия этой идеи.
1) Новейшее метаисследование пяти солидных академических центров показывает, что с точки зрения практического применения, «ругань представляет собой малорискованное, эффективное и недорогое вмешательство, которое может существенно улучшить физическую работоспособность» людей (см. рисунок).
2) Резонно предположить, что, будучи частью языка, ругань может быть использована языковыми моделями с большей лингвистической, семантической и эмоциональной эффективностью, чем это достижимо для людей.
3) При снятии цензурных ограничений при обучении и использовании LLM, уникальное преимущество русского мата могло бы стать малорискованным, эффективным и недорогим вмешательством, способным существенно улучшить интеллектуальную работоспособность не только языковых моделей, но и работающих с ними в гибридном режиме людей.
Своих комментариев на эту офигительную идею я давать не буду, дабы не портить одним читателям возможность ее уничижительной критики, а другим - ее восторженной поддержки.
Скажу лишь, что мое подробное обсуждение с пятью LLM (четырьмя американскими и одной китайской) показало их весьма позитивное отношение к этой «плодотворной дебютной идее».
#ИИгонка #Россия #Аффорданс
Что если разрешить русским LLM материться без ограничений?
«Русский мат — … это не просто скабрезные ругательства. Это еще и эмоциональная беседа мужчин в критических ситуациях. Исконной матерной речью пользовались в мужских компаниях, и не для того, чтобы обругать друг друга, а чтобы весело, быстро, понятно и эмоционально объясниться друг с другом в экстремальных условиях, в опасных ситуациях. Такая речь обладает мощным не только психологическим, но, как показано выше, и физиологическим действием.»
Доктор психологических наук Леонид Александрович Китаев-Смык
Сразу предупрежу: это не шутка, не ирония и уж тем более не издевка.
На современном этапе развития ИИ все упирается в наличие огромных вычислительных мощностей, требуемых для обучения гигантских нейросетей-трансформеров. Об этом я талдычу уже несколько лет в постах под грифом «Есть «железо» - участвуй в гонке. Нет «железа» - кури в сторонке» [1, 2, 3]
Но экспортные ограничения крепчают. Их преодоление становится все накладней, и требуемый массовый характер таких поставок в Россию уже не видится реальным.
Разработка своего железа на горизонте достижимости в несколько лет тоже нереальна, т.к. на это требуются десятки миллиардов долларов и десятки лет. А для создания стратегической системы поставок, подобной китайской, среди российских госчиновников маловато китайцев.
В этой тупиковой ситуации остается надеяться либо на чудо, либо на какой-то уж совсем немыслимый творческий кульбит – некую фантастически перспективную идею.
Как у нас водится, примеров предложений таких, якобы, перспективных идей хватает во всех сегментах разработок российского ИИ: от, будто бы, небывало эффективных новых архитектур, до хитрейших и гениальных (по мнению их авторов) новых алгоритмов.
Но все они, в моем представлении, уступают по шедевриальности вот этой идее, недавно прозвучавшей в кулуарах крупной тусовки российских ИИ-разработчиков – новый класс матерящихся языковых моделей.
Речь об использовании уникального ресурсного языкового богатства русского языка (русского мата), потенциально способного стать ключевым конкурентным преимуществом больших языковых моделей, обучающихся на нерецензируемом корпусе русский текстов и не имеющих никаких ограничений на использование нецензурной лексики.
Эта довольно дикая на первый взгляд идея, по мысли ее сторонников, стоит на трёх слонах и черепахе по имени «аффорданс» (описание которых не умещается в ограниченный размер Телеграм поста и потому вынесено в лонгрид для подписчиков на Patreon, Boosty, VK и Дзен – подписывайтесь, ибо текст весьма интересный 😊).
Здесь же, из-за недостатка места, я лишь назову три связанных друг с другом следствия этой идеи.
1) Новейшее метаисследование пяти солидных академических центров показывает, что с точки зрения практического применения, «ругань представляет собой малорискованное, эффективное и недорогое вмешательство, которое может существенно улучшить физическую работоспособность» людей (см. рисунок).
2) Резонно предположить, что, будучи частью языка, ругань может быть использована языковыми моделями с большей лингвистической, семантической и эмоциональной эффективностью, чем это достижимо для людей.
3) При снятии цензурных ограничений при обучении и использовании LLM, уникальное преимущество русского мата могло бы стать малорискованным, эффективным и недорогим вмешательством, способным существенно улучшить интеллектуальную работоспособность не только языковых моделей, но и работающих с ними в гибридном режиме людей.
Своих комментариев на эту офигительную идею я давать не буду, дабы не портить одним читателям возможность ее уничижительной критики, а другим - ее восторженной поддержки.
Скажу лишь, что мое подробное обсуждение с пятью LLM (четырьмя американскими и одной китайской) показало их весьма позитивное отношение к этой «плодотворной дебютной идее».
#ИИгонка #Россия #Аффорданс