👍 Калифорнийский законопроект об ИИ смягчили из-за критики технологических гигантов

Законопроект Калифорнии SB 1047 («Закон о безопасных и надежных инновациях для передовых моделей искусственного интеллекта») в изначальной редакции предусматривал установление строгих стандартов безопасности для разработки ИИ, включая обязательное тестирование на безопасность и защиту информаторов в лабораториях ИИ.

‼️Именно поэтому многие технологические гиганты Кремниевой долины публично выступали против принятия данного законопроекта.

15 августа законопроект был принят Комитетом по ассигнованиям Калифорнии с несколькими ключевыми изменениями, предложенными ИИ-компаниями:
🟦законопроект больше не позволяет генеральному прокурору подавать в суд за халатность в вопросах безопасности до того, как произойдёт катастрофическое событие
🟦правительство Калифорнии отказалось от идеи создания Frontier Model Division (FMD) – самостоятельного органа, выпускающего правила безопасности и аудита ИИ-систем
🟦законопроект больше не предусматривает уголовной ответственности за лжесвидетельство при публиковании результатов тестирования безопасности моделей
🟦теперь законопроект требует от разработчиков проявлять «разумную осторожность» вместо «разумной гарантии» в отношении внедрения высокорисковых систем ИИ

Несмотря на значительное смягчение формулировок, SB 1047 все еще вызывает неоднозначную реакцию.

🇺🇸 Например, 8 членов Конгресса США уже написали письмо с просьбой к губернатору наложить вето на законопроект, так как он «не принесёт пользы штату, стартап-сообществу, научному развитию и даже не защитит от возможного вреда, связанного с разработкой ИИ».

📱 А директор по стратегии OpenAI Джейсон Квон в письме, адресованному сенатору штата Калифорния Скотту Винеру, настаивает на том, что правила разработки ИИ должны устанавливаться только на федеральном уровне.

#AI #USA #Regulation

🇺🇳 ЮНЕСКО объявила о начале консультаций по подходам к регулированию ИИ

ЮНЕСКО призывает заинтересованные стороны, включая представителей власти, экспертов по правовым вопросам и по управлению ИИ, принять участие в открытых консультациях по тезисам аналитической справки «Консультационный документ по регулированию ИИ: новые подходы в мире», опубликованной 16 августа 2024 г.

Данный документ представляет подробный обзор девяти подходов к регулированию ИИ, подкреплённых примерами из мировой практики:
1️⃣подход, провозглашающий общие принципы
2️⃣стандартизированный подход
3️⃣экспериментальный (гибкий) подход
4️⃣подход содействия и предоставления возможностей
5️⃣адаптационный подход
6️⃣подход, ориентированный на прозрачность
7️⃣риск-ориентированный подход
8️⃣правозащитный подход
9️⃣подход, устанавливающий ответственность

Подходы, расположенные по степени усиления государственного вмешательства, могут сочетаться друг с другом в одной стране.

Аналитический документ также советует представителям власти обратить внимание на три ключевые аспекта при разработке регулирования ИИ:
📄 аргументация в пользу регулирования
🔍 подбор оптимального момента для его внедрения
✔️ выбор подходящей комбинации подходов и методов

📎 Принять участие в консультациях можно до 19 сентября 2024 г. по ссылке.

Пересмотренная версия документа будет представлена на Ассамблее Межпарламентского союза в Женеве 13–17 октября 2024 года в контексте доработки резолюции «Влияние ИИ на демократию, права человека и верховенство закона».

#UNESCO #AI #Regulation

📝 Сенат Калифорнии принял новый законопроект, защищай артистов от ИИ

27 августа в Калифорнии одобрили законопроект AB 2602, требующий согласия исполнителей перед созданием их цифровых копий в медиа.

Так, без явного согласия артиста нельзя будет использовать его голос или образ для создания произведения или выполнения работы, которую артист мог бы выполнить лично.

Документ также закрепляет, что цифровые копии исполнителей не могут быть использованы, если:
🙅‍♂️ работодатели не указывают в контракте, как будет использоваться такая копия
🙅‍♂️ исполнитель не имел юридического или профсоюзного представительства на момент заключения сделки

Приняв данный законопроект, власти Калифорнии пошли навстречу SAG-AFTRA - профсоюзу, представляющему интересы актеров, телеведущих, радиоведущих и других работников в области развлечений.

SAG-AFTRA настаивала на принятии данного законодательства из-за опасений по поводу распространяющихся случаев нарушения прав артистов путем несанкционированного использования ИИ.

💬 Исполнительный директор SAG-AFTRA Дункан Крэбтри-Айрленд назвал законопроект «большим шагом вперед» в установлении гарантий против возможных злоупотреблений.

Законопроект АВ 2602 находится на рассмотрении у губернатора и вступит в силу после его подписания.

#AI #Regulation #USA

📝 Первое международное соглашение по обеспечению безопасности использования ИИ

5 сентября в Вильнюсе на конференции Министров юстиции Совета Европы была открыта для подписания первая Рамочная Конвенция (CETS No. 225) - первый в истории международный юридически обязывающий договор, направленный на обеспечение полного соответствия использования систем ИИ правам человека, демократии и верховенству закона.

🤝 Данная конвенция разрабатывалась при сотрудничестве 46 стран-участниц СЕ и 11 государств, не входящих в него. На данный момент конвенцию подписали 10 государств, в том числе Евросоюз, Соединенные Штаты и Великобритания.

Документ регулирует использование ИИ государственными и частными организациями, обязывая стороны проверять соответствие технологий стандартам в области прав человека.
🔜 При невозможности обеспечения этих стандартов предусмотрены меры вплоть до запрета использования таких технологий.

Соглашение также направлено на предотвращение использования ИИ для подрыва:
🔵демократических институтов и процессов
🔵принципов разделения властей
🔵независимости судебной системы и обеспечения доступа к правосудию

💬 Как утверждается в официальном объявлении Совета Европы: «Соглашение будет не только способствовать прогрессу и инновациям в области ИИ, но и поможет управлять рисками».

Конвенция вступит в силу после ратификации минимум пятью странами, включая трех членов Совета Европы. Присоединиться смогут страны со всего мира, при условии соблюдения положений Конвенци.

#AI #Regulation #CouncilOfEurope

📝 Группа технологических гигантов заявила, что жесткое регулирование ИИ в ЕС станет причиной стагнации развития технологии

Группа компаний, в которую входят Meta Platforms*, Spotify, Ericson, SAP и Prada, предупредила в своем открытом письме, что из-за сдерживающего регулирования ИИ, Европейский союз рискует упустить все преимущества технологии.

Руководители более чем двух десятков компаний призывают Евросоюз унифицировать свои правила и дать современную трактовку законодательства о защите данных.

Ключевые моменты письма:
🟥европейские организации имеют худший доступ к открытым моделям ИИ, что не позволяет им использовать опыт и наработки коллег
🟥непоследовательное применение GDPR и иных законов создает неопределенность в отношении видов данных, которые могут быть использованы для обучения моделей

"Европа стала менее конкурентоспособной и менее инновационной по сравнению с другими регионами, и теперь она рискует еще больше отстать в эпоху искусственного интеллекта из-за непоследовательного принятия нормативных решений", - говорится в письме.

❗️Не так давно Meta и Apple объявили о том, что новые функции и модели ИИ, которые они внедряют в других регионах, не будут доступны в Европе из-за законодательных требований юрисдикции.

*Meta признана в России экстремистской организацией и запрещена

#AI #EU #Regulation

☄️ Китай и ООН сотрудничают в наращивании потенциала ИИ

С 3 по 6 сентября в Шанхае прошел семинар, посвященный международному сотрудничеству в области наращивания потенциала ИИ (Workshop on Al Capacity Building). В мероприятии приняли участие 38 делегатов из Европы, Азии, Африки, стран Ближнего Востока и постсоветского пространства.

Программа семинара состояла из:
✏️ лекций, посвященных темам текущего состояния и развития отрасли ИИ в Китае и мире
😉 визитов в китайские организации для демонстрации текущих разработок в сфере ИИ (ПО и робототехника)

На открытии выступили представители Китая и ООН:

🇺🇳 Генеральный секретарь ООН Антониу Гутерриш на церемонии открытия подчеркнул, что ИИ стремительно меняет мир, и важно объединить усилия для ответственного развития и регулирования технологий. Он также отметил уникальную роль ООН в поддержке международного диалога по ИИ и укреплении глобальных стандартов.

🇨🇳 В свою очередь, Вице-министр иностранных дел Китая Ма Чжаосюй заявил, что Китай будет активно способствовать глобальному консенсусу по вопросам управления ИИ на предстоящем саммите ООН, подчеркивая важность создания справедливых глобальных рамок для управления ИИ.

Прошедший семинар стал продолжением инициативы Китая по резолюции Генеральной Ассамблеей ООН о расширении международного сотрудничества в сфере ИИ. По заверению организаторов, в дальнейшем планируется проводить подобные мероприятия на ежегодной основе.

#AI #China #UN #Regulation

🇺🇳 ООН представила план по управлению ИИ

Консультативный орган высокого уровня по искусственному интеллекту, созданный главой ООН, опубликовал 19 сентября доклад «Управление искусственным интеллектом в интересах человечества».
Данный документ представляет собой глобальный план действий по устранению рисков, связанных с ИИ, и всеобщему использованию его преобразующего потенциала.

Консультативный орган по ИИ начал свою работу в октябре прошлого года, а промежуточный отчет по докладу "Управление ИИ в интересах человечества" был опубликован уже в декабре.

Уже в промежуточной версии в качестве основной проблемы был выделен дефицит глобального управления и сосредоточение благ ИИ в руках небольшого количества субъектов частного сектора в еще меньшем числе государств.

В докладе были предложены предварительные рекомендации - руководящие принципы и институциональные функции управления:
🔹управление ИИ должно быть инклюзивным, осуществляться всеми и на благо всех
🔹управление ИИ должно строиться параллельно с управлением данными
🔹следует проводить регулярную оценку будущих направлений развития ИИ и последствий этого процесса
🔹рекомендуется разрабатывать и гармонизовать стандарты, требования безопасности и методы управления рисками
🔹должен проводиться регулярный мониторинг рисков и составляться отчетность об инцидентах

❗️ На основании промежуточного отчета Консультативный орган по ИИ разработал конкретные рекомендации по управлению безопасным, надежным и ответственным ИИ.

Международному сообществу предлагается принять ряд мер, в том числе:
🆗 заложить основы глобальной архитектуры управления ИИ, основанной на международном сотрудничестве
🆗 устранить пробелы в существующих механизмах управления ИИ
🆗 работать сообща в области управления ИИ в целях содействия развитию и защите прав человека

В докладе особое внимание уделено проблеме отсутствия глобальной структуры по управлению ИИ. Из 193 государств-членов ООН только 7 являются участниками инициатив в области управления искусственным интеллектом.

Авторы документа предлагают несколько способов разрешения сложившейся ситуации:
🔬 создать Международную научную группу экспертов по ИИ для предоставления беспристрастных научных знаний в этой области, что позволит устранить информационное неравенство между странами
📰 организовать обмен стандартами ИИ для обеспечения технической совместимости систем ИИ в разных странах
📈 создать Глобальную сеть по развитию потенциала ИИ и Глобальный фонд ИИ для устранения пробелов в потенциале и сотрудничестве

🔍 Таким образом, доклад подчеркивает не только технологические, но и социальные вызовы, связанные с управлением ИИ. Важно отметить, что отсутствие глобальной координации в этой сфере может усилить неравенство между странами и компаниями, обладающими доступом к передовым технологиям, и теми, кто остается в стороне. Предложенные шаги по созданию международных стандартов и научных советов нацелены на выравнивание этого дисбаланса, стимулируя развитие инноваций и укрепление прав человека в условиях стремительного роста применения ИИ.

#AI #UN #Regulation

🫡 В Сеуле прошел саммит «Ответственный ИИ в военной сфере»

9-10 сентября в Сеуле прошел Саммит по ответственному использованию ИИ в военной сфере (REAIM), организованный Министерством иностранных дел и Министерством национальной обороны Республики Корея.

Саммит REAIM – это международная многосторонняя встреча, призванная:
📃 улучшить понимание влияния военного использования ИИ на международное сообщество и безопасность
📄 внести вклад в процесс формирования соответствующих норм и правил.

Первая встреча состоялась в Гааге в Нидерландах в прошлом году. В этом году во встрече приняли участие правительственные делегации из 90 стран.

На саммите в Южной Корее представили план применения ИИ в военной сфере. Этот документ содержит более практические рекомендации по сравнению с аналогичной инициативой прошлого года, хотя он остается юридически необязательным.

«План» подчеркивает:
🔹 конкретные рекомендации по оценке рисков
🔹 необходимость предотвращения использования ИИ для распространения оружия массового уничтожения
🔹 важность сохранения контроля над этой технологией со стороны человека

Около 60 стран одобрили предложение - следующие шаги включают определение места и времени для будущих саммитов, чтобы продолжить диалог об ответственном использовании ИИ в военной сфере.

#AI #Regulation

☄️ Губернатор Калифорнии наложил вето на законопроект о безопасности ИИ

Законопроект SB 1047 («Закон о безопасных и надежных инновациях для передовых моделей искусственного интеллекта») мог бы стать первым подобным нормативно-правовым актом в США, но 29 сентября Гевин Ньюсом, губернатор Калифорнии, наложил вето на данную инициативу.

Законопроект SB 1047 претерпел значительные изменения с момента его предложения, так как изначальная редакция устанавливала слишком строгие и обременительные для разработчиков меры безопасности ИИ.

Так, в последней редакции, учитывающей поправки Комитета по ассигнованиям Калифорнии, законопроект предусматривал следующее:
1️⃣Крупные ИИ-компании, которые тратят более 100 миллионов долларов на обучение модели, должны разрабатывать, ежегодно обновлять и публиковать свои протоколы безопасности
2️⃣Разработчики обязаны внедрить возможность полной остановки модели в случае возникновения угроз
3️⃣Ежегодно начиная с 2026 года компании должны проходить независимый аудит выполнения требований законопроекта и представлять результаты аудита генеральному прокурору
4️⃣Разработчики обязаны сообщать генеральному прокурору о каждом инциденте, связанном с безопасностью модели, в течение 72 часов после его обнаружения
5️⃣Генеральный прокурор может подать в суд на компании за серьезный ущерб, причиненный их технологиями, такой как смерть или материальный ущерб

📣 Законопроект вызвал негативную реакцию как со стороны отрасли, так и со стороны членов Конгресса США.

💬 "Я возвращаю законопроект сената 1047 без своей подписи… Я не считаю, что это лучший подход к защите населения от реальных угроз, создаваемых технологией. Законопроект предписывает строгие стандарты даже к самым базовым функциям, но только при условии, что их использует крупная система» В конечном счете, любая структура для эффективного регулирования ИИ должна идти в ногу с самой технологией", - написал Ньюсом в письме, адресованном сенату штата Калифорния.

По мнению губернатора, принятие данного законопроекта затормозило бы инновации в быстро развивающемся секторе ИИ, что негативно бы сказалось на лидерской позиции Калифорнии в этой сфере.

❗️ Тем не менее, Ньюсом отметил, что обратился к ведущим мировым экспертам по безопасности ИИ с просьбой помочь Калифорнии разработать "реалистичные меры регулирования", основанные на научном анализе рисков. Он добавил, что поручил государственным агентствам расширить оценку рисков, связанных с возможными катастрофическими событиями, вызванными развитием ИИ.

#AI #USA #Regulation

🇺🇳 Генеральная Ассамблея ООН приняла Глобальный цифровой договор

22–23 сентября в штаб-квартире ООН в Нью-Йорке прошел Саммит будущего, в рамках которого единогласно был принят Пакт во имя будущего.

Составной частью Пакта стал Глобальный цифровой договор, концепция которого была выдвинута в докладе Генерального секретаря «Наша общая повестка дня» (2021).

❗️ Глобальный цифровой договор является первой всеобъемлющей глобальной основой для цифрового сотрудничества и управления ИИ. В основе договора лежит обязательство разрабатывать, использовать и управлять технологиями на благо всех.

Одна из задач, поставленных Глобальным цифровым договором - усилить международное регулирование в отношении ИИ на благо человечества.

Так, зафиксированы базовые принципы разработки и применения ИИ:
✔️ доверенный характер ИИ
✔️ безопасность и надежность
✔️ прозрачность и подотчетность

Создается механизм межправительственного взаимодействия:
1️⃣ формирование Независимой международной научной группы по ИИ, в функционал которой войдет анализ рисков и возможностей ИИ, а также обеспечение связи с другими инициативами
2️⃣ создание Глобального диалога по управлению ИИ с целью найти компромисс по вопросу регулирования между развитыми и развивающимися странами

🌐 Глобальный цифровой договор призван дополнить международные, региональные, национальные и многосторонние усилия в этой сфере, а также решить проблемы сохранения культурного и лингвистического разнообразия, преодоления цифрового разрыва и доступа к данным.

#AI #UN #Regulation