🇨🇳 Итоги Всемирной конференции по ИИ в Шанхае

6 июля в Шанхае завершилась седьмая ежегодная Всемирная конференция по ИИ (World Artificial Intelligence Conference, WAIC).

Ключевая тема конференции - управление ИИ для всеобщего блага и для всех («AI Governance for good and for all»).

В качестве участников присутствовали правительственные делегации, представители международных организаций, технологических гигантов и стартапов, а также иные специалисты и эксперты в области ИИ.

Программа WAIC 2024 включила:
🌎 правительственный форум с участием министров из разных стран, включая Россию, страны СНГ, Латинской Америки, Ближнего Востока, Африки и Азии
💬 тематические форумы и панельные сессии по ключевым темам (например, этика ИИ, беспилотный транспорт, ИИ в науке)
💻 выставка инновационных решений в сфере ИИ

На полях WAIC было объявлено о создании экспертных центров и исследовательских программ:
📃 Центр передового опыта Глобального отраслевого альянса в области ИИ на базе ЮНИДО
📄 Ежегодная исследовательская программа по глобальному управлению ИИ

Более того, по итогам WAIC были опубликованы или анонсированы нормативно-правовые акты и рекомендации в сфере ИИ:
🟦Шанхайская декларация Глобального регулирования ИИ
🟦Руководство по управлению человекоподобными роботами
🟦Голубая книга по ИИ и верховенству права в мире (2024)

❗️Также на конференции была озвучена официальная позиция Китая - важно укреплять международное сотрудничество и содействовать построению единой системы управления ИИ.

💬 Герд Мюллер, Генеральный директор ООН по промышленному развитию (ЮНИДО), на церемонии открытия WAIC 2024 заявил, что ИИ позволит решить многие актуальные проблемы человечества: голод, формирование устойчивой промышленности, создание более качественных рабочих мест и др. Однако, одновременно с этим, риски ИИ возрастают, а цифровой разрыв между странами увеличивается. Именно поэтому необходимо создавать центры обмена опытом, а также разрабатывать нормативную базу в области регулирования ИИ.

#AI #WAIC #China #UN

ℹ️ Правительственный форум по глобальному управлению ИИ в рамках WAIC

4 июля в рамках ежегодной Всемирной конференции по ИИ состоялась закрытая встреча высокого уровня с участием официальных правительственных делегаций зарубежных стран (Китай, Росиия, Австралия, ОАЭ, Эфиопия, Венгрия, Швейцария, Саудовская Аравия, Сингапур, Нидерланды и другие), а также представителей международных организаций (ЮНЕСКО, ЮНИДО).

Встреча была посвящена следующим вопросам:
🟦Построение глобальной системы управления ИИ при участии ООН
🟦Сокращение технологического разрыва между Югом и Севером посредством предоставления помощи развивающимся странам
🟦Недопустимость монополизации сферы ИИ отдельными странами и корпорациями, а также разработки международного регулирования исключительно в интересах отдельных государств
🟦Международное сотрудничество для разработки международных стандартов в области ИИ
🟦Разработка и соблюдение прав человека и этических принципов на всех этапах жизненного цикла ИИ
🟦Своевременная подготовка квалифицированных кадров
🟦Недопустимость использования ИИ для вмешательства во внутреннюю политику государств

Отдельно была отмечена важность разработки безопасного ИИ и подсвечены актуальные риски его использования:
🙅‍♂️ распространение недостоверной информации, в т. ч. посредством создания дипфейков
🙅‍♂️ нарушение конфиденциальности данных
🙅‍♂️ риски внедрения ИИ в системы вооружения
🙅‍♂️ угрозы использования ИИ с целью дестабилизации государств

❗️ Главный вывод форума: нужно укрепить международное сотрудничество, чтобы создать эффективную и справедливую систему регулирования ИИ. Это позволит всему мировому сообществу использовать возможности, которые предоставляет ИИ.

#AI #WAIC #China #UN

👋 Китай опубликовал первые принципы регулирования человекоподобных роботов

В рамках Всемирной конференции по искусственному интеллекту (WAIC) в Шанхае опубликованы Руководящие принципы по регулированию человекоподобных роботов.

Цель данного документа - содействие развитию технологий ИИ при гарантии соблюдения моральных и этических принципов в процессе разработки и использования человекоподобных роботов.

Основные положения Руководящих принципов:
👍 роботы не должны представлять угрозу для человечества, напротив, они должны стать гарантом безопасности человека и защиты его достоинства
🫡 человекоподобные роботы должны использоваться в соответствии с правилами и протоколами

Для достижения поставленных задач предлагаются следующие нововведения:
🔵 разработка унифицированной системы стандартов и норм для технологий человекоподобных роботов
🔵 создание агентств по этическим исследованиям и аудитам для обеспечения соблюдения стандартов безопасности
🔵 формирование системы предупреждения и реагирования на факты несанкционированного использования роботов
🔵 возложение на разработчиков обязанности установить протоколы безопасности, позволяющие прерывать деятельность роботов в опасных ситуациях
🔵 увеличение инвестирования в данную сферу
🔵 усиление международного сотрудничества для создания глобальной экосистемы в области производства роботов-гуманоидов

❗️Стоит отметить, что данный документ был разработан во исполнение плана, опубликованного Министерством промышленности и информационных технологий, согласно которому Китай стремится достичь массового производства человекоподобных роботов к 2025 году, а мирового лидерства в данной сфере - к 2027 году.

#AI #China #Robotics

🇨🇳 В Китае модели ИИ будут проверять на соответствие социалистическим ценностям

Администрация киберпространства Китая (Cyberspace Administration of China (CAC)) выпустила руководящие принципы, которые предписывают компаниям, создающим передовые ИИ-технологии, фильтровать запросы по тысячам чувствительных слов для соответствия основным социалистическим ценностям.

Процесс аудита системы ИИ может занимать несколько месяцев и включает в себя:
↖️ тестирование больших языковых моделей на корректность ответов на политические вопросы
🔍 анализ данных, используемых для обучения ИИ
📄 проверка соответствия протоколов безопасности общепринятым стандартам

Соблюдение таких требований отражается и на пользовательском опыте:
➡️ модели генеративного ИИ отклоняют все запросы, связанные с историческими чувствительными событиями или юмористическими сравнениями государственных должностных лиц Китая.

Что касается менее чувствительных тем, то разработчикам предлагается интегрировать дополнительный уровень фильтрации, который позволяет заменять спорные ответы более безопасными альтернативами.

📱 Согласно исследованию Университета Фудань больше всех установленным требованиям безопасности соответствует модель от ByteDance. Ее уровень соответствия 66,4%.

❗️Таким образом, Китай еще раз подчеркнул свою приверженность к разработке систем ИИ, соответствующих как нормативно-правовым требованиям, так и стратегическим национальным интересам.

#AI #China #GenAI #AIRegulation

☄️ Новый метод проверки ответов нейросетей

Группа исследователей из китайской компании Baidu Inc. предложила новый метод проверки правильности ответов больших языковых моделей (LLM).

Цель такой проверки – повысить надежность модели, минимизируя процент галлюцинаций ИИ.

«Самоанализ ИИ» - так Baidu назвала новый метод. Его суть заключается в том, что модель должна сама проверять свою работу перед тем, как предоставить результаты конечным пользователям.

Для этого в движок LLM внедряется трехэтапный процесс:
1️⃣модель, учитывающая релевантность результатов промпту пользователя
2️⃣выбор из серии ответов, учитывающий доказательства, основанные на релевантных документах
3️⃣ модуль анализа траектории, который проводит четкий и краткий анализ того, как LLM пришла к тому выводу, который модель считает правильным

Ученые уже протестировали данный подход на нейросети компании и утверждают, что улучшенная LLM смогла превзойти GPT-4, используя гораздо меньшие наборы обучающих данных.

Таким образом, по мнению исследователей, предлагаемый метод проверки позволит:
🆗 повысить точность ответов нейросетей
🆗 создавать новые модели для большего количества разработчиков, которые в настоящее время не имеют доступа к огромным наборам обучающих данных

#China #AI #LLM

☄️ Китай и ООН сотрудничают в наращивании потенциала ИИ

С 3 по 6 сентября в Шанхае прошел семинар, посвященный международному сотрудничеству в области наращивания потенциала ИИ (Workshop on Al Capacity Building). В мероприятии приняли участие 38 делегатов из Европы, Азии, Африки, стран Ближнего Востока и постсоветского пространства.

Программа семинара состояла из:
✏️ лекций, посвященных темам текущего состояния и развития отрасли ИИ в Китае и мире
😉 визитов в китайские организации для демонстрации текущих разработок в сфере ИИ (ПО и робототехника)

На открытии выступили представители Китая и ООН:

🇺🇳 Генеральный секретарь ООН Антониу Гутерриш на церемонии открытия подчеркнул, что ИИ стремительно меняет мир, и важно объединить усилия для ответственного развития и регулирования технологий. Он также отметил уникальную роль ООН в поддержке международного диалога по ИИ и укреплении глобальных стандартов.

🇨🇳 В свою очередь, Вице-министр иностранных дел Китая Ма Чжаосюй заявил, что Китай будет активно способствовать глобальному консенсусу по вопросам управления ИИ на предстоящем саммите ООН, подчеркивая важность создания справедливых глобальных рамок для управления ИИ.

Прошедший семинар стал продолжением инициативы Китая по резолюции Генеральной Ассамблеей ООН о расширении международного сотрудничества в сфере ИИ. По заверению организаторов, в дальнейшем планируется проводить подобные мероприятия на ежегодной основе.

#AI #China #UN #Regulation

🇨🇳 Китай разрабатывает новые документы, регулирующие ИИ

В рамках Глобальной инициативы по управлению искусственным интеллектом, запущенной в октябре прошлого года для решения всеобщих проблем, связанных с развитием ИИ, Национальный технический комитет по стандартизации информационной безопасности Китая провел исследование и разработал Рамочную программу управления безопасностью ИИ.

В Рамочной программе основное внимание уделяется поощрению инноваций в разработке ИИ при одновременном приоритетном предотвращении и смягчении рисков безопасности ИИ. В программе изложены и ключевые принципы управления безопасностью ИИ:
🆗 инклюзивность
🆗 подход, ориентированный на оценку рисков
🆗 интеграция технологий и процессов управления
🆗 совместные меры реагирования и открытое сотрудничество

Документ предоставляет основные технические рекомендации по созданию безопасной, надежной, справедливой и прозрачной экосистемы для исследований и применения ИИ.

Китай также предлагает новое регулирование маркировки ИИ-контента. Управление киберпространства Китая опубликовало проект постановления под названием «Меры по идентификации синтетического контента, сгенерированного ИИ».

👀 Синтетический контент, созданный ИИ, включает текст, изображения, аудио и видео, генерируемые с помощью технологий искусственного интеллекта. Проект постановления требует, чтобы интернет-платформы следовали национальным стандартам при маркировке такого контента.

❗️Кроме того, платформы, позволяющие загружать или экспортировать ИИ-материалы, должны встраивать в файлы явные метки. Платформы, распространяющие такой контент, обязаны регулировать его, предлагая функции идентификации и напоминая пользователям о необходимости указывать, если их контент создан ИИ.

#AI #Regulation #China

🤔 «США изобретают, Китай копирует, Европа регулирует»

Январь 2025 года был богат на значимые события для мира ИИ:
🇺🇸 анонс крупнейшего проекта Stargate стоимостью $500 млрд в США
🇨🇳 релиз китайским стартапом DeepSeek новой модели R1, которая по некоторым параметрам превосходит ChatGPT о1

🇪🇺 В это же время в Европе отключили французского чат-бота «Lucie» спустя несколько часов после запуска, так как он с трудом справлялся с элементарными вопросами и не сумел продемонстрировать «ИИ с европейскими ценностями».

Эксперты утверждают, что в Европе, где лишь 1️⃣3️⃣% компаний используют ИИ, слишком много внимания было уделено именно регулированию.

💬 Как заявляет Габриэле Маццини, один из авторов AI Act, регулирование зашло слишком далеко и оказалось слишком жестким для небольших компаний. В результате:
🟦 американские гиганты только укрепили свои позиции, так как именно у них есть ресурсы для выполнения всех требований закона
🟦 европейские стартапы теряют шансы на рост, так как высокая планка входа отпугивает инвесторов

Более того, выход новой модели от DeepSeek показал, что измерение системного риска ИИ по AI Act через мощность вычислений устарела: технологии становятся всё более эффективными при меньших мощностях.

❗️ Председатель Еврокомиссии Урсула фон дер Ляйен признала, что ситуация требует изменений.
На этой неделе она заявила о необходимости:
🟥 ликвидировать инновационный разрыв в ЕС,
🟥 упростить бюрократические барьеры.

Однако на данный момент финансирование для этих целей не выделено. При этом пока США готовят жёсткий ответ на вызовы DeepSeek, AI Office в ЕС набирает 140 сотрудников — больше, чем у Mistral в конце прошлого года.

#AI #Regulation #USA #China #EU

🇺🇸 США создадут национальный совет для гонки с Китаем в сфере ИИ

Федеральная комиссия по связи США (FCC) создает национальный совет по безопасности для противодействия киберугрозам со стороны Китая и обеспечения доминирования США в технологической сфере.

💬 Новый председатель FCC Брендан Карр подчеркнул, что цель совета — обеспечить победу США в стратегической конкуренции с Китаем в критически важных технологиях, включая искусственный интеллект, квантовые вычисления, автономные системы, 6G и спутники.

Задачи совета:
🔹общий контроль технологического соперничества между США и Китаем
🔹снижение уязвимости Америки к кибератакам, шпионажу и слежке со стороны враждебных государств

❗️ Решение FCC появилось на фоне завершившихся в Пекине ежегодных политических «Двух сессий», где центральное внимание было уделено развитию национальных технологических возможностей, в том числе в области ИИ.

🇨🇳 Более того, на прошлой неделе Китай объявил о создании государственного фонда для поддержки ИИ и других технологий. По оценкам, фонд привлечет 1️⃣ трлн юаней (около 1️⃣3️⃣8️⃣ млрд долларов) в течение 20 лет.

#AI #USA #China

🇨🇳 Китай запускает трёхмесячную кампанию против злоупотреблений ИИ

30 апреля Главное управление по делам киберпространства КНР объявило о кампании по борьбе с незаконным использованием ИИ.

🎯 Цель – усилить контроль над ИИ-сервисами и обеспечить «здоровое и упорядоченное развитие» отрасли.

Этап 1️⃣:
🔵удаление нелегальных ИИ-приложений,
🔵пресечение клонирования биометрических данных человека без его согласия,
🔵борьба с продажей нелегальных ИИ-инструментов (например, позволяющих подменять лица),
🔵контроль над соблюдением требований по обязательной маркировке AI-контента.

Этап 2️⃣:
🔵удаление дипфейков в сферах образования, правосудия, здравоохранения и финансов,
🔵пресечение распространения порнографического и насильственного ИИ-контента,
🔵борьба с распространением контента, наносящего вред детям, умершим или публичным лицам.

❗️Кампания продлится три месяца и охватит все регионы страны. Власти нацелены не только на контроль, но и на создание основ для устойчивого и этичного применения ИИ в долгосрочной перспективе.

#AI #Regulation #China