В Китае обсуждают уточнения требований по маркировке синтетического контента
Cyberspace Administration of China (CAC) опубликовала для общественных обсуждений документ, обобщающий практики по маркировке синтетического контента.
Напомню, что в Китае уже действует акт, который предполагает такую маркировку для поставщиков информационных услуг — Provisions on the Administration of Deep Synthesis Internet Information Services. На этот же акт ссылаются и временные меры по управлению сервисами генеративного ИИ (Interim Measures for the Management of Generative Artificial Intelligence Services).
На кого будет распространяться документ?
На всех поставщиков информационных услуг, определяемых тремя актами: двумя, которые мы уже рассмотрели выше, + более ранний акт о алгоритмических рекомендациях (Provisions on the Management of Algorithmic Recommendations in Internet Information Services).
В сферу действия не входят, например, предприятия, образовательные и научные организации, если они не предоставляют услуги населению.
Что включается в синтетический контент?
Текст, изображения, аудио-, видео- и другая информация, созданная, сгенерированная и синтезированная с использованием технологии ИИ.
Как есть виды маркировок?
Выделяется явная маркировка (логотип, графика, звук, текст) и скрытая (метаданные и иные технические средства маркировки, скрытые от глаз пользователя).
Скрытая маркировка будет обязательной для всех поставщиков сервисов глубокого синтеза.
Конкретизированы требования к чат-ботам
Контент должен быть явно помечен через текстовые, звуковые, визуальные подсказки или другие предупреждающие знаки в начале, конце или середине материала. Это включает текстовые метки для текстов, голосовые или звуковые сигналы для аудио, визуальные подсказки для изображений и видео, а также заметные предупреждающие знаки для виртуальных сцен. Также требуется явная идентификация синтетического контента при его загрузке, выгрузке и копировании.
Требования для держателей цифровых платформ
Они будут обязаны проверять:
а) метаданные файлов на наличие неявных идентификаторов и добавлять предупреждающие метки вокруг контента, если таковые идентификаторы обнаружены или заявлены пользователем;
б) если идентификаторы отсутствуют, но есть признаки синтеза, контент должен быть помечен как подозреваемо синтетический;
в) в метаданные должны быть внесены атрибуты синтетического контента, включая данные о платформе и номере контента;
г) платформы должны напоминать пользователям о необходимости заявлять, если контент является синтетическим.
Иные требования
Поставщики услуг должны будут в понятном для пользователя виде отразить требования к маркировке в пользовательском соглашении.
Если пользователь захочет получить контент без маркировки, то поставщик может его предоставить, указав на ответственность за его распространение в пользовательском соглашении. Также поставщик должен хранить оригиналы контента не менее шести месяцев.
Если речь идет про магазин приложений, то держатель платформы должен проверять, имеются ли в загружаемых приложениях функции по созданию синтетического контента.
Интересно, что специфических норм об ответственности не предусмотрено: нарушители будут преследоваться в рамках общего законодательства.
Cyberspace Administration of China (CAC) опубликовала для общественных обсуждений документ, обобщающий практики по маркировке синтетического контента.
Напомню, что в Китае уже действует акт, который предполагает такую маркировку для поставщиков информационных услуг — Provisions on the Administration of Deep Synthesis Internet Information Services. На этот же акт ссылаются и временные меры по управлению сервисами генеративного ИИ (Interim Measures for the Management of Generative Artificial Intelligence Services).
На кого будет распространяться документ?
На всех поставщиков информационных услуг, определяемых тремя актами: двумя, которые мы уже рассмотрели выше, + более ранний акт о алгоритмических рекомендациях (Provisions on the Management of Algorithmic Recommendations in Internet Information Services).
В сферу действия не входят, например, предприятия, образовательные и научные организации, если они не предоставляют услуги населению.
Что включается в синтетический контент?
Текст, изображения, аудио-, видео- и другая информация, созданная, сгенерированная и синтезированная с использованием технологии ИИ.
Как есть виды маркировок?
Выделяется явная маркировка (логотип, графика, звук, текст) и скрытая (метаданные и иные технические средства маркировки, скрытые от глаз пользователя).
Скрытая маркировка будет обязательной для всех поставщиков сервисов глубокого синтеза.
Конкретизированы требования к чат-ботам
Контент должен быть явно помечен через текстовые, звуковые, визуальные подсказки или другие предупреждающие знаки в начале, конце или середине материала. Это включает текстовые метки для текстов, голосовые или звуковые сигналы для аудио, визуальные подсказки для изображений и видео, а также заметные предупреждающие знаки для виртуальных сцен. Также требуется явная идентификация синтетического контента при его загрузке, выгрузке и копировании.
Требования для держателей цифровых платформ
Они будут обязаны проверять:
а) метаданные файлов на наличие неявных идентификаторов и добавлять предупреждающие метки вокруг контента, если таковые идентификаторы обнаружены или заявлены пользователем;
б) если идентификаторы отсутствуют, но есть признаки синтеза, контент должен быть помечен как подозреваемо синтетический;
в) в метаданные должны быть внесены атрибуты синтетического контента, включая данные о платформе и номере контента;
г) платформы должны напоминать пользователям о необходимости заявлять, если контент является синтетическим.
Иные требования
Поставщики услуг должны будут в понятном для пользователя виде отразить требования к маркировке в пользовательском соглашении.
Если пользователь захочет получить контент без маркировки, то поставщик может его предоставить, указав на ответственность за его распространение в пользовательском соглашении. Также поставщик должен хранить оригиналы контента не менее шести месяцев.
Если речь идет про магазин приложений, то держатель платформы должен проверять, имеются ли в загружаемых приложениях функции по созданию синтетического контента.
Интересно, что специфических норм об ответственности не предусмотрено: нарушители будут преследоваться в рамках общего законодательства.
China Daily
China proposes new regulation on labeling AI-generated content
BEIJING -- The Cyberspace Administration of China (CAC) has released a draft regulation that aims to standardize the labeling of AI-generated synthetic content to protect national security and public interests.
❤2
Еще один вечер дипфейков: смотрим на новые законопроекты в российском парламенте
Обычно я редко пишу про законопроекты, так как далеко не все из них становятся в конечном итоге законами. А даже если и становятся, то не всегда в первоначальном виде.
Однако с учетом того, что мы вчера разбирали китайский опыт маркировки синтетического контента, сегодня решил продолжить тему и обратить ваше внимание на несколько вчерашних законопроектов, внесенных в российский парламент.
Охрана голоса
Предлагается внести в ГК РФ новую статью: 152.3. Охрана голоса гражданина.
Она почти слово в слово повторяет уже существующую статью 152.1., которая направлена на охрану изображения.
Обнародование и дальнейшее использование голоса гражданина (в том числе записи, в которой он содержится, или записи, в которой содержится воссозданный с помощью специальных технологий голос гражданина) допускаются только с согласия этого гражданина. После смерти — с согласия членов семьи, за исключением случаев, когда имеется публичный интерес или запись производилась за плату.
Судя по пояснительной записке, документ был разработан Альянсом в сфере ИИ и Национальной Федерацией Музыкальной Индустрии.
Уголовная ответственность за дипфейки
Предлагается внести в ряд статей УК РФ квалифицирующий признак — совершение преступления с использованием изображения или голоса (в том числе фальсифицированных или искусственно созданных) и (или) биометрических данных гражданина.
Во время прочтения у меня сразу возникло внутреннее негодование. Однако отзывы Правительства и Верховного суда его несколько уменьшили:
1) дипфейки никак не урегулированы законодательно, так что их еще рано запрещать;
2) нет оснований полагать, что общественной опасности именно такого рода деяний достаточно, чтобы вводить более строгое наказание;
3) формулировка “фальсифицированные или искусственно созданные” — слишком расплывчатая.
Так что вряд ли документ будет принят в таком виде.
Оффтоп
В последнее время я довольно часто использую ChatGPT в голосовом режиме с моделькой GPT-4o. Например, мне с ней интересно поболтать во время приготовления еды или мытья посуды. Сегодня я случайно обнаружил забавный для юриста факт. Система правильно ставит ударение в слове договОр, но ошибается в других падежах. В моем случае она говорила договорАми вместо ударения на нужный слог — договОрами. Конечно, я дал фидбэк и сразу вспомнил времена учебы и преподавания на юрфаке🐱 .
Обычно я редко пишу про законопроекты, так как далеко не все из них становятся в конечном итоге законами. А даже если и становятся, то не всегда в первоначальном виде.
Однако с учетом того, что мы вчера разбирали китайский опыт маркировки синтетического контента, сегодня решил продолжить тему и обратить ваше внимание на несколько вчерашних законопроектов, внесенных в российский парламент.
Охрана голоса
Предлагается внести в ГК РФ новую статью: 152.3. Охрана голоса гражданина.
Она почти слово в слово повторяет уже существующую статью 152.1., которая направлена на охрану изображения.
Обнародование и дальнейшее использование голоса гражданина (в том числе записи, в которой он содержится, или записи, в которой содержится воссозданный с помощью специальных технологий голос гражданина) допускаются только с согласия этого гражданина. После смерти — с согласия членов семьи, за исключением случаев, когда имеется публичный интерес или запись производилась за плату.
Судя по пояснительной записке, документ был разработан Альянсом в сфере ИИ и Национальной Федерацией Музыкальной Индустрии.
Уголовная ответственность за дипфейки
Предлагается внести в ряд статей УК РФ квалифицирующий признак — совершение преступления с использованием изображения или голоса (в том числе фальсифицированных или искусственно созданных) и (или) биометрических данных гражданина.
Во время прочтения у меня сразу возникло внутреннее негодование. Однако отзывы Правительства и Верховного суда его несколько уменьшили:
1) дипфейки никак не урегулированы законодательно, так что их еще рано запрещать;
2) нет оснований полагать, что общественной опасности именно такого рода деяний достаточно, чтобы вводить более строгое наказание;
3) формулировка “фальсифицированные или искусственно созданные” — слишком расплывчатая.
Так что вряд ли документ будет принят в таком виде.
Оффтоп
В последнее время я довольно часто использую ChatGPT в голосовом режиме с моделькой GPT-4o. Например, мне с ней интересно поболтать во время приготовления еды или мытья посуды. Сегодня я случайно обнаружил забавный для юриста факт. Система правильно ставит ударение в слове договОр, но ошибается в других падежах. В моем случае она говорила договорАми вместо ударения на нужный слог — договОрами. Конечно, я дал фидбэк и сразу вспомнил времена учебы и преподавания на юрфаке
Please open Telegram to view this post
VIEW IN TELEGRAM
Коммерсантъ
Подменяется в вину
Законодатели предложили добавить дипфейки в Уголовный кодекс
❤5
Каким образом в США будет применяться внедоговорная ответственность к ИИ-разработчикам, допустившим причинение существенного вреда третьим лицам?
Для ответа на этот вопрос обратимся к отчёту, который опубликовал американский аналитический центр RAND. В документе рассматривается, с одной стороны, насколько применимы существующие правовые механизмы, а с другой — оцениваются возможные дальнейшие меры законодателей.
Начнём по порядку:
1. Исследователи видят существенные риски привлечения разработчиков к ответственности в рамках действующего правового поля. Обязанность проявлять разумную осторожность, чтобы не причинить вред личности или имуществу, по умолчанию распространяется на разработчиков ИИ, даже если законодателями не будут внесены какие-либо изменения.
2. В США внедоговорная ответственность в основном относится к общему праву, а значит, в будущем возможна неопределённость в том, каким образом суды будут использовать существующую практику применительно к спорам, возникшим вокруг ИИ-разработчиков. Более того, в разных штатах существуют свои устоявшиеся подходы и судебная практика, которые могут существенно различаться между собой. Например, исследователи отмечают, что штаты по-разному подходят к ответственности производителей за причинение вреда из-за существенной доработки товара третьими лицами. Также неясно, распространяются ли на ПО (ИИ в частности), которое не интегрировано в физические объекты (роботы, автомобили), требования законодательства о безопасности продукции (относятся ли системы и модели ИИ к продуктам). Таким образом, если по какой-либо причине будет нанесён существенный вред, который коснётся людей в нескольких штатах, разработчики столкнутся с необходимостью учитывать особенности разных юрисдикций. И это мы ещё не касаемся возможности причинения вреда одновременно в нескольких странах.
3. Разработчики, которые не используют принятые в отрасли передовые методы обеспечения безопасности, могут существенно повысить риски привлечения к ответственности. Судебная практика показывает, что в схожих случаях соблюдение ответчиком отраслевых стандартов и лучших практик имеет важное значение в исходе дела.
4. Разработчики могут быть привлечены к ответственности за вред, причинённый третьими лицами в результате неправомерного использования систем и моделей ИИ. Однако, как правило, суды штатов определяют, была ли у ответчика возможность разумно предвидеть наступление подобных последствий. В понимании того, какие конкретные действия разработчиков в этом случае могут считаться достаточными, судебная практика будет разниться. Особенно подобные сложности могут возникать вокруг открытых моделей ИИ.
5. Государство, бизнес и гражданское общество могут способствовать повышению безопасности и, как следствие, уменьшению рисков привлечения разработчиков к ответственности за счёт разработки стандартов, лучших практик и протоколов безопасности. На использование последних в дальнейшем могут обращать внимание суды при разрешении споров.
6. Принимая во внимания рассмотренные различия, авторы считают, что законодателям стоило бы подумать над изданием новых актов, которые бы внесли ясность и сформулировали единый подход по привлечению к ответственности ИИ-разработчиков. Более того, повысить ИИ-безопасность можно не только с помощью института юридической ответственности. Например, законодательно можно установить и другие меры, такие как минимальный уровень мер безопасности, необходимость тестирования и оценки ИИ-продуктов в наиболее опасных областях.
7. С точки зрения федерального законодательства исследователи обратили внимание на вопросы, которые уже стали американской классикой: распространяется ли Первая поправка (свобода слова и печати) на ПО (ИИ в частности), а также нужно ли использовать раздел 230 USC, снимающий ответственность с держателей цифровых платформ за размещённый пользователями контент при условии осуществления модерации, для разработчиков ИИ-продуктов.
В целом, отчёт получился интересным и изобилующим деталями. Если вы интересуетесь темой ответственности или американским правом, то советую ознакомиться🤩 .
Для ответа на этот вопрос обратимся к отчёту, который опубликовал американский аналитический центр RAND. В документе рассматривается, с одной стороны, насколько применимы существующие правовые механизмы, а с другой — оцениваются возможные дальнейшие меры законодателей.
Начнём по порядку:
1. Исследователи видят существенные риски привлечения разработчиков к ответственности в рамках действующего правового поля. Обязанность проявлять разумную осторожность, чтобы не причинить вред личности или имуществу, по умолчанию распространяется на разработчиков ИИ, даже если законодателями не будут внесены какие-либо изменения.
2. В США внедоговорная ответственность в основном относится к общему праву, а значит, в будущем возможна неопределённость в том, каким образом суды будут использовать существующую практику применительно к спорам, возникшим вокруг ИИ-разработчиков. Более того, в разных штатах существуют свои устоявшиеся подходы и судебная практика, которые могут существенно различаться между собой. Например, исследователи отмечают, что штаты по-разному подходят к ответственности производителей за причинение вреда из-за существенной доработки товара третьими лицами. Также неясно, распространяются ли на ПО (ИИ в частности), которое не интегрировано в физические объекты (роботы, автомобили), требования законодательства о безопасности продукции (относятся ли системы и модели ИИ к продуктам). Таким образом, если по какой-либо причине будет нанесён существенный вред, который коснётся людей в нескольких штатах, разработчики столкнутся с необходимостью учитывать особенности разных юрисдикций. И это мы ещё не касаемся возможности причинения вреда одновременно в нескольких странах.
3. Разработчики, которые не используют принятые в отрасли передовые методы обеспечения безопасности, могут существенно повысить риски привлечения к ответственности. Судебная практика показывает, что в схожих случаях соблюдение ответчиком отраслевых стандартов и лучших практик имеет важное значение в исходе дела.
4. Разработчики могут быть привлечены к ответственности за вред, причинённый третьими лицами в результате неправомерного использования систем и моделей ИИ. Однако, как правило, суды штатов определяют, была ли у ответчика возможность разумно предвидеть наступление подобных последствий. В понимании того, какие конкретные действия разработчиков в этом случае могут считаться достаточными, судебная практика будет разниться. Особенно подобные сложности могут возникать вокруг открытых моделей ИИ.
5. Государство, бизнес и гражданское общество могут способствовать повышению безопасности и, как следствие, уменьшению рисков привлечения разработчиков к ответственности за счёт разработки стандартов, лучших практик и протоколов безопасности. На использование последних в дальнейшем могут обращать внимание суды при разрешении споров.
6. Принимая во внимания рассмотренные различия, авторы считают, что законодателям стоило бы подумать над изданием новых актов, которые бы внесли ясность и сформулировали единый подход по привлечению к ответственности ИИ-разработчиков. Более того, повысить ИИ-безопасность можно не только с помощью института юридической ответственности. Например, законодательно можно установить и другие меры, такие как минимальный уровень мер безопасности, необходимость тестирования и оценки ИИ-продуктов в наиболее опасных областях.
7. С точки зрения федерального законодательства исследователи обратили внимание на вопросы, которые уже стали американской классикой: распространяется ли Первая поправка (свобода слова и печати) на ПО (ИИ в частности), а также нужно ли использовать раздел 230 USC, снимающий ответственность с держателей цифровых платформ за размещённый пользователями контент при условии осуществления модерации, для разработчиков ИИ-продуктов.
В целом, отчёт получился интересным и изобилующим деталями. Если вы интересуетесь темой ответственности или американским правом, то советую ознакомиться
Please open Telegram to view this post
VIEW IN TELEGRAM
www.rand.org
U.S. Tort Liability for Large-Scale Artificial Intelligence Damages
Researchers find that AI developers face considerable liability exposure under U.S. tort law for harms caused by their models, particularly if those models are developed or released without utilizing rigorous safety procedures and industry-leading safety…
Европейский AI Office начал разработку кодекса лучших практик для моделей ИИ общего назначения. Я стал членом рабочей группы, рассказываю первые подробности
Вчера я принял участие в первом пленарном заседании, на котором был дан старт разработке кодекса лучших практик для моделей ИИ общего назначения. Для его создания Европейским AI Office были отобраны около тысячи ИИ-экспертов от бизнеса, академии и гражданского общества. Друзья, я тоже попал в их число. Буду рассказывать вам интересные подробности изнутри и делиться впечатлениями🐱 .
Что уже известно о кодексе?
Создание кодекса будет происходить в четырех рабочих группах, каждая из которых отвечает за отдельную часть документа:
- прозрачность и требования к соблюдению авторских прав для поставщиков моделей ИИ общего назначения;
- меры по выявлению и оценке системных рисков. Напомню, что Регламент ЕС об ИИ предусмотрел отдельную группу моделей ИИ общего назначения — модели ИИ общего назначения, представляющие системные риски (если кратко, то это наиболее мощные и продвинутые модели). К их поставщикам предъявляются более жесткие требования;
- технические меры по снижению системных рисков;
- внутреннее (корпоративное) управление рисками и руководство для поставщиков моделей ИИ общего назначения.
Есть еще и пятая рабочая группа, но в ней будут собираться представители поставщиков моделей ИИ общего назначения.
Руководят рабочими группами известные исследователи и технические специалисты. Не буду перечислять, а приложу вам скриншот. Мне в глаза бросилось еще то, что сразу три человека представляют Стэнфордский университет (хоть и они из разных стран). А еще сразу три человека — Германию.
Какую юридическую силу будет иметь документ?
Документ является рекомендательным. Его главная суть — разъяснять на практике положения Регламента ЕС об ИИ. Однако прямо отмечается, что компании могут не присоединяться к кодексу и выбрать другой способ соответствия законодательным требованиям.
Есть ли сейчас какой-то консенсус по содержанию кодекса?
Трудно сказать. Но с июля по сентябрь AI Office проводил опрос среди стейкхолдеров. По некоторым вопросам в индустрии на первый взгляд имеется консенсус:
- документация должна включать описание допустимых сценариев использования моделей с указанием на то, в какие системы ИИ они могут быть в дальнейшем интегрированы;
- к наиболее серьезным рискам относят: автономность моделей, возможность преодолевать ограничения, наборы данных;
- среди методик уменьшения рисков ожидаемо лидирует предварительная, текущая и последующая оценка рисков, а не аудит. С технической стороны — управление данными и регулярные обновления моделей.
- среди корпоративных практик лидируют риск-менеджмент, карточки систем и моделей ИИ, обучение персонала, защита информаторов, а также средства физической и информационной безопасности.
Когда документ будет готов?
Работа над проектом кодекса должна завершиться к апрелю 2025 года.
Вчера я принял участие в первом пленарном заседании, на котором был дан старт разработке кодекса лучших практик для моделей ИИ общего назначения. Для его создания Европейским AI Office были отобраны около тысячи ИИ-экспертов от бизнеса, академии и гражданского общества. Друзья, я тоже попал в их число. Буду рассказывать вам интересные подробности изнутри и делиться впечатлениями
Что уже известно о кодексе?
Создание кодекса будет происходить в четырех рабочих группах, каждая из которых отвечает за отдельную часть документа:
- прозрачность и требования к соблюдению авторских прав для поставщиков моделей ИИ общего назначения;
- меры по выявлению и оценке системных рисков. Напомню, что Регламент ЕС об ИИ предусмотрел отдельную группу моделей ИИ общего назначения — модели ИИ общего назначения, представляющие системные риски (если кратко, то это наиболее мощные и продвинутые модели). К их поставщикам предъявляются более жесткие требования;
- технические меры по снижению системных рисков;
- внутреннее (корпоративное) управление рисками и руководство для поставщиков моделей ИИ общего назначения.
Есть еще и пятая рабочая группа, но в ней будут собираться представители поставщиков моделей ИИ общего назначения.
Руководят рабочими группами известные исследователи и технические специалисты. Не буду перечислять, а приложу вам скриншот. Мне в глаза бросилось еще то, что сразу три человека представляют Стэнфордский университет (хоть и они из разных стран). А еще сразу три человека — Германию.
Какую юридическую силу будет иметь документ?
Документ является рекомендательным. Его главная суть — разъяснять на практике положения Регламента ЕС об ИИ. Однако прямо отмечается, что компании могут не присоединяться к кодексу и выбрать другой способ соответствия законодательным требованиям.
Есть ли сейчас какой-то консенсус по содержанию кодекса?
Трудно сказать. Но с июля по сентябрь AI Office проводил опрос среди стейкхолдеров. По некоторым вопросам в индустрии на первый взгляд имеется консенсус:
- документация должна включать описание допустимых сценариев использования моделей с указанием на то, в какие системы ИИ они могут быть в дальнейшем интегрированы;
- к наиболее серьезным рискам относят: автономность моделей, возможность преодолевать ограничения, наборы данных;
- среди методик уменьшения рисков ожидаемо лидирует предварительная, текущая и последующая оценка рисков, а не аудит. С технической стороны — управление данными и регулярные обновления моделей.
- среди корпоративных практик лидируют риск-менеджмент, карточки систем и моделей ИИ, обучение персонала, защита информаторов, а также средства физической и информационной безопасности.
Когда документ будет готов?
Работа над проектом кодекса должна завершиться к апрелю 2025 года.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥11
Как лучше определять продвинутый ИИ с юридической точки зрения?
Друзья, на прошлой неделе я дал себе небольшой тайм-аут поболеть и восстановиться. Но уже снова в строю, продолжаем🐱 .
Американский аналитический центр Law & AI опубликовал статью, в которой авторы рассматривают существующие в законодательстве определения продвинутого ИИ и дают свои рекомендации.
Пробежимся по основным частям документа:
1. Авторы сравнивают три определения из нормативных актов:
- Определение фундаментальной модели ИИ двойного назначения из прошлогоднего Указа Президента США (разбирал его тут).
- Определение модели ИИ из Калифорнийского законопроекта SB 1047 «О безопасных и надежных инновациях для передового ИИ». Кстати, он был одобрен парламентом, но губернатор штата наложил на него вето из-за чрезмерно узкого фокуса регулирования. По мнению губернатора, законопроект направлен на продвинутый ИИ, но при этом игнорирует модели меньшего размера, которые также могут представлять существенные риски. Ждем новый текст.
- Определение модели ИИ общего назначения, представляющей системные риски, из Регламента ЕС об ИИ.
2. На основе анализа определений авторы выявили ряд признаков:
- Технические характеристики, такие как объем вычислительных мощностей, число параметров и размер наборов данных. Сейчас, за некоторыми исключениями, объем вычислительных мощностей, затраченных на обучение моделей ИИ, привязан к верхним границам существующих передовых моделей: 10^25 — 10^26 FLOPS (равно или превышает уровень GPT-4). Авторы отмечают, что с одной стороны, установление четких числовых характеристик поможет сделать нормативные требования более определенными, а с другой — любое изменение технологических реалий неизбежно повлечет необходимость пересмотра существующих критериев. Например, несложно представить, что в будущем небольшие модели могут обладать существенными характеристиками. Поэтому наиболее удачным вариантом будет установление пороговых технических характеристик органами исполнительной власти на основе широкого законодательного определения (схожий подход уже используется в Регламенте ЕС об ИИ).
- Возможности моделей. С одной стороны, возможности моделей могут быть использованы как более стабильное отражение технических характеристик, не привязанное к конкретным числовым значениям, но с другой — разработка бенчмарков для передовых моделей также является нетривиальной задачей.
- Уровень риска. Риски, которые представляют передовые модели, могут быть слабо изучены. Поэтому будет проблематично такие модели каким-то образом ранжировать. Как правило, само отнесение модели ИИ к передовой уже предполагает повышенные риски ее разработки и применения.
- Неизвестные возможности моделей. Такой признак позволил бы выделить отдельную группу продвинутых моделей ИИ и исключать их по мере изучения. Однако выявление подобных возможностей также является сложной задачей.
- Контекст последующего внедрения. Особенности и широта использования моделей повышают потенциальные риски. Например, Регламент ЕС об ИИ уже учитывает число пользователей (людей и бизнесов) при отнесении модели ИИ к группе, представляющей системные риски.
3. В завершающей части статьи авторы анализируют, каким образом оптимально будет закрепить определение передовых моделей ИИ в американском федеральном законодательстве. По большому счету, дискуссия ведется о том, должно ли оно быть исчерпывающе сформулировано Конгрессом на уровне закона или законодатели должны определить рамки для последующего уточнения органами исполнительной власти.
Советую обратить внимание, если интересуетесь американским правом. Тут авторы затронули более широкую тему соотношения компетенций разных ветвей власти в сфере правотворчества, ставшей в стране снова актуальной после недавней отмены Верховным судом (дело Loper Bright Enterprises v. Raimondo) доктрины, сформулированной в деле Chevron U.S.A. v. Natural Resources Defense Council.
Друзья, на прошлой неделе я дал себе небольшой тайм-аут поболеть и восстановиться. Но уже снова в строю, продолжаем
Американский аналитический центр Law & AI опубликовал статью, в которой авторы рассматривают существующие в законодательстве определения продвинутого ИИ и дают свои рекомендации.
Пробежимся по основным частям документа:
1. Авторы сравнивают три определения из нормативных актов:
- Определение фундаментальной модели ИИ двойного назначения из прошлогоднего Указа Президента США (разбирал его тут).
- Определение модели ИИ из Калифорнийского законопроекта SB 1047 «О безопасных и надежных инновациях для передового ИИ». Кстати, он был одобрен парламентом, но губернатор штата наложил на него вето из-за чрезмерно узкого фокуса регулирования. По мнению губернатора, законопроект направлен на продвинутый ИИ, но при этом игнорирует модели меньшего размера, которые также могут представлять существенные риски. Ждем новый текст.
- Определение модели ИИ общего назначения, представляющей системные риски, из Регламента ЕС об ИИ.
2. На основе анализа определений авторы выявили ряд признаков:
- Технические характеристики, такие как объем вычислительных мощностей, число параметров и размер наборов данных. Сейчас, за некоторыми исключениями, объем вычислительных мощностей, затраченных на обучение моделей ИИ, привязан к верхним границам существующих передовых моделей: 10^25 — 10^26 FLOPS (равно или превышает уровень GPT-4). Авторы отмечают, что с одной стороны, установление четких числовых характеристик поможет сделать нормативные требования более определенными, а с другой — любое изменение технологических реалий неизбежно повлечет необходимость пересмотра существующих критериев. Например, несложно представить, что в будущем небольшие модели могут обладать существенными характеристиками. Поэтому наиболее удачным вариантом будет установление пороговых технических характеристик органами исполнительной власти на основе широкого законодательного определения (схожий подход уже используется в Регламенте ЕС об ИИ).
- Возможности моделей. С одной стороны, возможности моделей могут быть использованы как более стабильное отражение технических характеристик, не привязанное к конкретным числовым значениям, но с другой — разработка бенчмарков для передовых моделей также является нетривиальной задачей.
- Уровень риска. Риски, которые представляют передовые модели, могут быть слабо изучены. Поэтому будет проблематично такие модели каким-то образом ранжировать. Как правило, само отнесение модели ИИ к передовой уже предполагает повышенные риски ее разработки и применения.
- Неизвестные возможности моделей. Такой признак позволил бы выделить отдельную группу продвинутых моделей ИИ и исключать их по мере изучения. Однако выявление подобных возможностей также является сложной задачей.
- Контекст последующего внедрения. Особенности и широта использования моделей повышают потенциальные риски. Например, Регламент ЕС об ИИ уже учитывает число пользователей (людей и бизнесов) при отнесении модели ИИ к группе, представляющей системные риски.
3. В завершающей части статьи авторы анализируют, каким образом оптимально будет закрепить определение передовых моделей ИИ в американском федеральном законодательстве. По большому счету, дискуссия ведется о том, должно ли оно быть исчерпывающе сформулировано Конгрессом на уровне закона или законодатели должны определить рамки для последующего уточнения органами исполнительной власти.
Советую обратить внимание, если интересуетесь американским правом. Тут авторы затронули более широкую тему соотношения компетенций разных ветвей власти в сфере правотворчества, ставшей в стране снова актуальной после недавней отмены Верховным судом (дело Loper Bright Enterprises v. Raimondo) доктрины, сформулированной в деле Chevron U.S.A. v. Natural Resources Defense Council.
Please open Telegram to view this post
VIEW IN TELEGRAM
Institute for Law & AI
Legal considerations for defining “frontier model”
I. Introduction One of the few concrete proposals on which AI governance stakeholders in industry1[1] and government2[2] have mostly3[3] been able to...
❤4👍3
Выступил с лекцией об основах регулирования в сфере ИИ. Запись можно посмотреть на ютубе
Пару недель назад я оказался проездом в Черногории, где выступил с открытой лекцией перед русскоязычным коммьюнити в Auditoria Budva. Мероприятие выдалось очень теплым и камерным. Всегда интересно работать с вовлеченной аудиторией.
В лекции я затронул базовые вопросы терминологии, а также рассмотрел насущные юридические проблемы. В финальной части можно найти краткий обзор подходов отдельных юрисдикций.
Пару недель назад я оказался проездом в Черногории, где выступил с открытой лекцией перед русскоязычным коммьюнити в Auditoria Budva. Мероприятие выдалось очень теплым и камерным. Всегда интересно работать с вовлеченной аудиторией.
В лекции я затронул базовые вопросы терминологии, а также рассмотрел насущные юридические проблемы. В финальной части можно найти краткий обзор подходов отдельных юрисдикций.
YouTube
Лекция Дмитрия Кутейникова «Право и искусственный интеллект»
Приглашаем вас в воскресенье, 6 октября, в 20:00 на лекцию Дмитрия Кутейникова «Право и искусственный интеллект» в Auditoria Budva.
Сейчас искусственный интеллект проникает во все сферы жизни общества.
В связи с этим в разных концах планеты законодатели…
Сейчас искусственный интеллект проникает во все сферы жизни общества.
В связи с этим в разных концах планеты законодатели…
🔥10❤6👍5
Есть ли консенсус в том, какие положения должны содержать политики допустимого использования моделей ИИ?
Для ответа на этот вопрос обратимся к статье Кевина Клаймана (Stanford HAI), которая была недавно опубликована в сборнике по итогам конференции AI Ethics and Society (кстати, там много других интересных докладов). Автор проанализировал политики и схожие документы 30 наиболее известных разработчиков моделей ИИ в США, ЕС и Китае.
Остановимся на некоторых интересных выводах:
- законодательство отдельных стран и регионов уже обязывает разработчиков и провайдеров контролировать использование моделей, но, как правило, не устанавливает требований к конкретной форме документов. В Китае поставщики услуг генеративного ИИ должны уведомлять пользователей о невозможности совершения противозаконных действий и противодействовать им. В США лидирующие ИИ-компании добровольно публикуют информацию в соответствии с достигнутыми соглашениями с Белым домом. Исключением является Регламент ЕС об ИИ, который требует иметь политику допустимого использования для всех провайдеров моделей ИИ общего назначения. Однако более детальные требования к документу будут позднее изложены в гармонизированных стандартах и кодексах лучших практик;
- помимо политик допустимого использования, аналогичные положения, ограничивающие последующих провайдеров и пользователей, могут содержаться в карточках моделей/систем ИИ, политиках об особенностях работы моделей (Model Behavior Policies), договорах с третьими сторонами (поставщиками облачных услуг и наборов данных);
- если разработчики моделей ИИ, как правило, в состоянии самостоятельно разработать необходимую документацию, то не факт, что это смогут качественно сделать последующие провайдеры из-за ограниченности ресурсов и компетенций;
- политики допустимого использования разных компаний имеют несколько разное содержание (а некоторые компании вообще их не имеют). Это может иметь негативные последствия для экономики и рынка ИИ-моделей, так как бизнес может перестраховываться и чрезмерно ограничивать потенциально выгодные сценарии использования моделей ИИ;
- компаниям крайне сложно следить за выполнением политик допустимого использования провайдерами и пользователями. Более того, некоторые организации фактически этого не делают, так как либо не заинтересованы в этом, либо не имеют необходимых возможностей.
Таким образом, несмотря на то что уже возникают нормативные и технические требования к документации, во многом государства стараются избежать чрезмерно жестких требований и отдают ее содержание на откуп отраслевому саморегулированию.
Для ответа на этот вопрос обратимся к статье Кевина Клаймана (Stanford HAI), которая была недавно опубликована в сборнике по итогам конференции AI Ethics and Society (кстати, там много других интересных докладов). Автор проанализировал политики и схожие документы 30 наиболее известных разработчиков моделей ИИ в США, ЕС и Китае.
Остановимся на некоторых интересных выводах:
- законодательство отдельных стран и регионов уже обязывает разработчиков и провайдеров контролировать использование моделей, но, как правило, не устанавливает требований к конкретной форме документов. В Китае поставщики услуг генеративного ИИ должны уведомлять пользователей о невозможности совершения противозаконных действий и противодействовать им. В США лидирующие ИИ-компании добровольно публикуют информацию в соответствии с достигнутыми соглашениями с Белым домом. Исключением является Регламент ЕС об ИИ, который требует иметь политику допустимого использования для всех провайдеров моделей ИИ общего назначения. Однако более детальные требования к документу будут позднее изложены в гармонизированных стандартах и кодексах лучших практик;
- помимо политик допустимого использования, аналогичные положения, ограничивающие последующих провайдеров и пользователей, могут содержаться в карточках моделей/систем ИИ, политиках об особенностях работы моделей (Model Behavior Policies), договорах с третьими сторонами (поставщиками облачных услуг и наборов данных);
- если разработчики моделей ИИ, как правило, в состоянии самостоятельно разработать необходимую документацию, то не факт, что это смогут качественно сделать последующие провайдеры из-за ограниченности ресурсов и компетенций;
- политики допустимого использования разных компаний имеют несколько разное содержание (а некоторые компании вообще их не имеют). Это может иметь негативные последствия для экономики и рынка ИИ-моделей, так как бизнес может перестраховываться и чрезмерно ограничивать потенциально выгодные сценарии использования моделей ИИ;
- компаниям крайне сложно следить за выполнением политик допустимого использования провайдерами и пользователями. Более того, некоторые организации фактически этого не делают, так как либо не заинтересованы в этом, либо не имеют необходимых возможностей.
Таким образом, несмотря на то что уже возникают нормативные и технические требования к документации, во многом государства стараются избежать чрезмерно жестких требований и отдают ее содержание на откуп отраслевому саморегулированию.
❤5🔥2
Завтра выступаю на Евразийском конгрессе по защите данных: делюсь ссылкой на прямой эфир
24 октября состоится Евразийский конгресс по защите данных, на котором запланирована отдельная секция по AI Governance. На ней мы с коллегами обсудим разные полюса ИИ-реглирования, такие как интеллектульная собственность, защита данных, качество работы систем ИИ. Я планирую рассказать про тренды регулирования в сфере разработки и применения передовых фундаментальных моделей ИИ.
Начало нашей секции в 16:00. Также советую посмотреть полную программу, там много всего интересного.
24 октября состоится Евразийский конгресс по защите данных, на котором запланирована отдельная секция по AI Governance. На ней мы с коллегами обсудим разные полюса ИИ-реглирования, такие как интеллектульная собственность, защита данных, качество работы систем ИИ. Я планирую рассказать про тренды регулирования в сфере разработки и применения передовых фундаментальных моделей ИИ.
Начало нашей секции в 16:00. Также советую посмотреть полную программу, там много всего интересного.
edpc.network
Евразийский конгресс по защите данных
🔥8❤3👍3
Еврокомиссия опубликовала проект имплементационного акта о создании совета независимых экспертов для AI Office
На сайте Еврокомиссии для общественного обсуждения размещен проект имплементационного акта о создании совета независимых экспертов для поддержки AI Office.
Что это за совет?
Совет создается в соответствии со статьей 68 Регламента ЕС об ИИ, которая прямо предусмотрела необходимость формирования соответствующего органа для поддержки правоприменителей и принятия для этого отдельного имплементационного акта.
Для чего он нужен?
Главной задачей совета будет консультирование AI Office относительно применения положений Регламента к системам и моделям ИИ общего назначения:
- совет должен предупреждать AI Office в том случае, если он обнаружил, что какая-либо система или модель ИИ достигла пороговых значений или представляет неизвестные ранее риски и должна быть отнесена к группе, представляющих системные риски (прим.: такие модели ИИ можно условно назвать продвинутыми. Регламент накладывает на их провайдеров большие требования);
- совет содействует разработке инструментов и методик по оценке возможностей систем и моделей ИИ;
- совет предоставляет рекомендации по классификации моделей ИИ общего назначения, представляющих системные риски;
- совет готовит необходимые инструменты и шаблоны документов.
Помимо этого, совет также будет помогать AI Office и компетентным органам стран-членов ЕС в исполнении функций, возложенных на них Регламентом.
Кто в него будет входить?
Совет будет состоять из компетентных межотраслевых независимых экспертов и формироваться на два года на основе открытого конкурса. Для членов совета возможно однократное продление полномочий на еще один срок. Конкретная численность органа будет определяться отдельно каждые два года Еврокомиссией и AI Board (совет представителей стран-членов ЕС). Однако общая численность совета не должна превышать 60 человек (эта цифра пока под вопросом). Эксперты, которые отвечают критериям, но по каким-то причинам не попали в текущий совет, включаются в резервный список.
На сайте Еврокомиссии для общественного обсуждения размещен проект имплементационного акта о создании совета независимых экспертов для поддержки AI Office.
Что это за совет?
Совет создается в соответствии со статьей 68 Регламента ЕС об ИИ, которая прямо предусмотрела необходимость формирования соответствующего органа для поддержки правоприменителей и принятия для этого отдельного имплементационного акта.
Для чего он нужен?
Главной задачей совета будет консультирование AI Office относительно применения положений Регламента к системам и моделям ИИ общего назначения:
- совет должен предупреждать AI Office в том случае, если он обнаружил, что какая-либо система или модель ИИ достигла пороговых значений или представляет неизвестные ранее риски и должна быть отнесена к группе, представляющих системные риски (прим.: такие модели ИИ можно условно назвать продвинутыми. Регламент накладывает на их провайдеров большие требования);
- совет содействует разработке инструментов и методик по оценке возможностей систем и моделей ИИ;
- совет предоставляет рекомендации по классификации моделей ИИ общего назначения, представляющих системные риски;
- совет готовит необходимые инструменты и шаблоны документов.
Помимо этого, совет также будет помогать AI Office и компетентным органам стран-членов ЕС в исполнении функций, возложенных на них Регламентом.
Кто в него будет входить?
Совет будет состоять из компетентных межотраслевых независимых экспертов и формироваться на два года на основе открытого конкурса. Для членов совета возможно однократное продление полномочий на еще один срок. Конкретная численность органа будет определяться отдельно каждые два года Еврокомиссией и AI Board (совет представителей стран-членов ЕС). Однако общая численность совета не должна превышать 60 человек (эта цифра пока под вопросом). Эксперты, которые отвечают критериям, но по каким-то причинам не попали в текущий совет, включаются в резервный список.
European Commission - Have your say
❤4🔥2
Какие органы и исследовательские организации в наибольшей степени влияют на формирование правового и технического регулирования в Китае?
Аналитический центр Institute for AI Policy and Strategy (IAPS) выпустил отчет, в котором исследователи проанализировали наиболее влиятельные китайские исследовательские организации в сфере ИИ и сравнили их по функциям с институтами безопасности ИИ, существующими в США и Великобритании. Последние сейчас выполняют крайне важные функции: они разрабатывают стандарты и методики, направленные на обеспечение безопасности ИИ, а также по согласованию с технологическими компаниями осуществляют внешние оценки передовых систем и моделей ИИ перед их официальным релизом.
Среди ключевых организаций авторы выделяют:
Cyberspace Administration of China (CAC) — основной регулятор в сфере ИИ. Готовит нормативные акты, осуществляет регистрацию и оценку систем ИИ, а также следит за распространением информации, признанной незаконной и вредной с точки зрения нынешних властей.
National Cybersecurity Standardization Technical Committee 260 (TC260) — комитет при национальном органе по стандартизации, который занимается определением рисков, связанных с разработкой и применением ИИ, а также разработкой методик оценки систем ИИ. Существуют также два других комитета по стандартизации (TC28/SC42 и CESA), но пока доступно мало информации о результатах их работы.
China Academy for Information and Communications Technology (CAICT) — аналитический центр при Министерстве промышленности и информатизации КНР, который непосредственно занимается внешними оценками систем и моделей ИИ, а также координирует работу совета стейкхолдеров Artificial Intelligence Industry Alliance (AIIA) и лаборатории, специализирующейся на разработке методик оценки AI Critical Technology and Applications Evaluation (AICTAE).
Международным сотрудничеством в сфере ИИ занимаются Institute for AI International Governance (I-AIIG) и Center for International Security and Strategy (CISS).
Также выделяются исследовательские организации, которые разрабатывают модели ИИ, изучают их безопасность и создают методики оценки: Beijing Academy of Artificial Intelligence (BAAI), Peng Cheng Lab (PCL), Shanghai AI Lab (SHLAB).
Аналитический центр Institute for AI Policy and Strategy (IAPS) выпустил отчет, в котором исследователи проанализировали наиболее влиятельные китайские исследовательские организации в сфере ИИ и сравнили их по функциям с институтами безопасности ИИ, существующими в США и Великобритании. Последние сейчас выполняют крайне важные функции: они разрабатывают стандарты и методики, направленные на обеспечение безопасности ИИ, а также по согласованию с технологическими компаниями осуществляют внешние оценки передовых систем и моделей ИИ перед их официальным релизом.
Среди ключевых организаций авторы выделяют:
Cyberspace Administration of China (CAC) — основной регулятор в сфере ИИ. Готовит нормативные акты, осуществляет регистрацию и оценку систем ИИ, а также следит за распространением информации, признанной незаконной и вредной с точки зрения нынешних властей.
National Cybersecurity Standardization Technical Committee 260 (TC260) — комитет при национальном органе по стандартизации, который занимается определением рисков, связанных с разработкой и применением ИИ, а также разработкой методик оценки систем ИИ. Существуют также два других комитета по стандартизации (TC28/SC42 и CESA), но пока доступно мало информации о результатах их работы.
China Academy for Information and Communications Technology (CAICT) — аналитический центр при Министерстве промышленности и информатизации КНР, который непосредственно занимается внешними оценками систем и моделей ИИ, а также координирует работу совета стейкхолдеров Artificial Intelligence Industry Alliance (AIIA) и лаборатории, специализирующейся на разработке методик оценки AI Critical Technology and Applications Evaluation (AICTAE).
Международным сотрудничеством в сфере ИИ занимаются Institute for AI International Governance (I-AIIG) и Center for International Security and Strategy (CISS).
Также выделяются исследовательские организации, которые разрабатывают модели ИИ, изучают их безопасность и создают методики оценки: Beijing Academy of Artificial Intelligence (BAAI), Peng Cheng Lab (PCL), Shanghai AI Lab (SHLAB).
Более сотни компаний согласились добровольно соблюдать отдельные положения Регламента ЕС об ИИ
Еврокомиссия опубликовала список из 115 компаний, которые подписали ИИ-пакт.
TLDR: ИИ-пакт направлен на то, чтобы бизнес добровольно начал исполнять ряд требований Регламента до того, как они начнут официально действовать (сроки — тут). Все это будет происходить в постоянной коммуникации компаний и компетентных органов, что позволит первым плавно и надежно подготовиться к соблюдению законодательных требований, а вторым — поработать над правоприменением и выработать лучшие практики.
Подробнее про пакт я писал тут и тут.
Кто, например, есть в списке?
Европа: Siemens, Airbus, IKEA, Deutsche Telekom, Vodafone, Orange, Dassault Systèmes, INGKA Group и Scania.
США: Microsoft, IBM, Google, Amazon, Palantir, Salesforce, Cisco, Autodesk, Hewlett Packard Enterprise, Motorola Solutions, Snap, Workday, Adobe, Intuit и Qualcomm.
Канада: Cohere.
Индия: Infosys, Tata Consulting Services (TCS) и Wipro.
Япония: NEC.
Австралия: Atlassian.
Израиль: Corsight AI.
Новая Зеландия: Waiheke.
Кого мы не видим в списке?
В исходном списке отсутствуют Meta (запрещена в РФ), Apple, Anthropic и все китайские компании (включая TikTok и Tencent). Из крупных европейский игроков на рынке ИИ в пакте пока не принял участие Mistral AI.
Что это значит?
Ничего. Участие в пакте добровольное и не отменяет того, что компании готовятся самостоятельно. Например, Politico пишет, что Meta уже проводит меры по соответствию требованиям Регламента и не исключает возможности присоединиться к пакту позднее.
Еврокомиссия опубликовала список из 115 компаний, которые подписали ИИ-пакт.
TLDR: ИИ-пакт направлен на то, чтобы бизнес добровольно начал исполнять ряд требований Регламента до того, как они начнут официально действовать (сроки — тут). Все это будет происходить в постоянной коммуникации компаний и компетентных органов, что позволит первым плавно и надежно подготовиться к соблюдению законодательных требований, а вторым — поработать над правоприменением и выработать лучшие практики.
Подробнее про пакт я писал тут и тут.
Кто, например, есть в списке?
Европа: Siemens, Airbus, IKEA, Deutsche Telekom, Vodafone, Orange, Dassault Systèmes, INGKA Group и Scania.
США: Microsoft, IBM, Google, Amazon, Palantir, Salesforce, Cisco, Autodesk, Hewlett Packard Enterprise, Motorola Solutions, Snap, Workday, Adobe, Intuit и Qualcomm.
Канада: Cohere.
Индия: Infosys, Tata Consulting Services (TCS) и Wipro.
Япония: NEC.
Австралия: Atlassian.
Израиль: Corsight AI.
Новая Зеландия: Waiheke.
Кого мы не видим в списке?
В исходном списке отсутствуют Meta (запрещена в РФ), Apple, Anthropic и все китайские компании (включая TikTok и Tencent). Из крупных европейский игроков на рынке ИИ в пакте пока не принял участие Mistral AI.
Что это значит?
Ничего. Участие в пакте добровольное и не отменяет того, что компании готовятся самостоятельно. Например, Politico пишет, что Meta уже проводит меры по соответствию требованиям Регламента и не исключает возможности присоединиться к пакту позднее.
Shaping Europe’s digital future
AI Pact
The AI Pact encourages and supports organisations to plan ahead for the implementation of AI Act measures.
❤5
Ответственность за вред, причиненный системами ИИ в ЕС: невероятные приключения PLD и AILD
Друзья, все мы любим тему ответственности, поэтому разбираем сразу несколько важных новостей из ЕС:
Евросовет подписал Директиву об ответственности за качество продукции (Product Liability Directive, PLD). Ждем текст в официальном источнике, а пока финальный его вариант можно прочитать тут. Ранее я делал подробный обзор документа, поэтому сейчас не будем на нем подробно останавливаться. Скажу лишь, что она крайне важна для нас, так как прямо относит ПО (включая ИИ) и робототехнику к продуктам, распространяя на них ответственность за продукцию ненадлежащего качества.
В 2022 году была опубликована Директива об ответственности в сфере ИИ (AI Liability Directive, AILD), которая направлена на то, чтобы найти баланс между технологическим развитием и защитой интересов пользователей за счет сочетания виновной и строгой ответственности для поставщиков систем ИИ повышенного риска. То есть, с одной стороны, ответственность не всегда по умолчанию возлагалась бы на поставщиков систем ИИ повышенного риска, а с другой — у пользователей был бы более простой способ доказать причинно-следственную связь между выходными результатами работы системы ИИ и общественно опасными последствиями.
Однако после принятия Регламента ЕС об ИИ текст директивы, который сильно завязан на его положения, был отправлен на доработку. Поскольку концепция документа вызвала неоднозначную реакцию у экспертов и бизнеса, Комитет по правовым вопросам Европарламента (JURI) запросил провести дополнительную оценку воздействия. Документ был составлен известным специалистом по ИИ-регулированию Филиппом Хакером, который ранее опубликовал ряд материалов на тему ответственности.
Какие выводы содержатся в документе? (не все однозначные, если честно🤩 )
Директиву следует значительно расширить за счет включения в ее сферу действия всего ПО, а не только ИИ, а также превратить ее в регламент (другой вид акта, который применяется напрямую во всех государствах-членах).
Концептуально документ должен быть аналогичен PLD, но распространяться на те сферы, которые находятся за ее границами (подробнее на скриншоте).
Ввести новую группу систем ИИ, оказывающих значительное воздействие (high-impact AI systems), в которую должны входить системы повышенного риска, системы/модели ИИ общего назначения, все системы, которые интегрированы в продукты из раздела B приложения I (в понимании Регламента ЕС об ИИ), а также автономный транспорт и страховые приложения.
Ввести строгую (безвиновную) ответственность в случае причинения вреда из-за создания системы ИИ из списка запрещенных Регламентом ЕС об ИИ.
Рассмотреть в ходу широкого общественного обсуждения возможность использования строгой ответственности для поставщиков систем ИИ повышенного риска (кстати, аналогичное предложение мы с коллегой озвучивали в статье тут).
Распределять ответственность внутри цепочки поставки систем ИИ на основе гибкого сочетания следующих принципов: равенства сторон, поддержки малого бизнеса и защиты нижестоящих поставщиков и эксплуатантов.
Друзья, все мы любим тему ответственности, поэтому разбираем сразу несколько важных новостей из ЕС:
Евросовет подписал Директиву об ответственности за качество продукции (Product Liability Directive, PLD). Ждем текст в официальном источнике, а пока финальный его вариант можно прочитать тут. Ранее я делал подробный обзор документа, поэтому сейчас не будем на нем подробно останавливаться. Скажу лишь, что она крайне важна для нас, так как прямо относит ПО (включая ИИ) и робототехнику к продуктам, распространяя на них ответственность за продукцию ненадлежащего качества.
В 2022 году была опубликована Директива об ответственности в сфере ИИ (AI Liability Directive, AILD), которая направлена на то, чтобы найти баланс между технологическим развитием и защитой интересов пользователей за счет сочетания виновной и строгой ответственности для поставщиков систем ИИ повышенного риска. То есть, с одной стороны, ответственность не всегда по умолчанию возлагалась бы на поставщиков систем ИИ повышенного риска, а с другой — у пользователей был бы более простой способ доказать причинно-следственную связь между выходными результатами работы системы ИИ и общественно опасными последствиями.
Однако после принятия Регламента ЕС об ИИ текст директивы, который сильно завязан на его положения, был отправлен на доработку. Поскольку концепция документа вызвала неоднозначную реакцию у экспертов и бизнеса, Комитет по правовым вопросам Европарламента (JURI) запросил провести дополнительную оценку воздействия. Документ был составлен известным специалистом по ИИ-регулированию Филиппом Хакером, который ранее опубликовал ряд материалов на тему ответственности.
Какие выводы содержатся в документе? (не все однозначные, если честно
Директиву следует значительно расширить за счет включения в ее сферу действия всего ПО, а не только ИИ, а также превратить ее в регламент (другой вид акта, который применяется напрямую во всех государствах-членах).
Концептуально документ должен быть аналогичен PLD, но распространяться на те сферы, которые находятся за ее границами (подробнее на скриншоте).
Ввести новую группу систем ИИ, оказывающих значительное воздействие (high-impact AI systems), в которую должны входить системы повышенного риска, системы/модели ИИ общего назначения, все системы, которые интегрированы в продукты из раздела B приложения I (в понимании Регламента ЕС об ИИ), а также автономный транспорт и страховые приложения.
Ввести строгую (безвиновную) ответственность в случае причинения вреда из-за создания системы ИИ из списка запрещенных Регламентом ЕС об ИИ.
Рассмотреть в ходу широкого общественного обсуждения возможность использования строгой ответственности для поставщиков систем ИИ повышенного риска (кстати, аналогичное предложение мы с коллегой озвучивали в статье тут).
Распределять ответственность внутри цепочки поставки систем ИИ на основе гибкого сочетания следующих принципов: равенства сторон, поддержки малого бизнеса и защиты нижестоящих поставщиков и эксплуатантов.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥7
Опубликован первый вариант текста Кодекса лучших практик для моделей ИИ общего назначения
Сегодня на сайте Еврокомиссии был опубликован первый вариант текста Кодекса практик для ИИ общего назначения (General-Purpose AI Code of Practice). Кратко о том, что из себя представляет кодекс, я писал здесь.
Документ находится на очень ранней стадии подготовки. По сути, он представляет собой изложение положений Регламента ЕС об ИИ (в части систем и моделей ИИ общего назначения), а также подробный перечень конкретных мер по их реализации, сформулированный руководителями каждой рабочей группы на основе отзывов стейкхолдеров. Также в документе выделены проблемные вопросы и ключевые развилки, ответы на которые будут найдены в ходе последующих стадий подготовки и обсуждения. Таким образом, текст, вероятно, ожидают еще неоднократные изменения.
На следующей неделе в каждой из четырех рабочих групп пройдут заседания с участием широкой группы экспертов для обсуждения предложенного текста. Как уже отмечал ранее, я планирую их посетить, так как вхожу в число этих экспертов. По итогам обсудим наиболее интересные моменты и разберем соответствующие части кодекса🤩 .
Сегодня на сайте Еврокомиссии был опубликован первый вариант текста Кодекса практик для ИИ общего назначения (General-Purpose AI Code of Practice). Кратко о том, что из себя представляет кодекс, я писал здесь.
Документ находится на очень ранней стадии подготовки. По сути, он представляет собой изложение положений Регламента ЕС об ИИ (в части систем и моделей ИИ общего назначения), а также подробный перечень конкретных мер по их реализации, сформулированный руководителями каждой рабочей группы на основе отзывов стейкхолдеров. Также в документе выделены проблемные вопросы и ключевые развилки, ответы на которые будут найдены в ходе последующих стадий подготовки и обсуждения. Таким образом, текст, вероятно, ожидают еще неоднократные изменения.
На следующей неделе в каждой из четырех рабочих групп пройдут заседания с участием широкой группы экспертов для обсуждения предложенного текста. Как уже отмечал ранее, я планирую их посетить, так как вхожу в число этих экспертов. По итогам обсудим наиболее интересные моменты и разберем соответствующие части кодекса
Please open Telegram to view this post
VIEW IN TELEGRAM
Shaping Europe’s digital future
First Draft of the General-Purpose AI Code of Practice published, written by independent experts
Independent experts present the first draft of the General-Purpose AI Code of Practice, which will be discussed with around 1000 stakeholders next week. The AI Office is facilitating relevant AI Act understanding with dedicated questions and answers for stakeholders.
❤4🔥4
Разбираем Европейский Кодекс практик для ИИ общего назначения: часть 1
На прошлой неделе прошли заседания рабочих групп по подготовке Кодекса практик для ИИ общего назначения (General-Purpose AI Code of Practice). Как и обещал, возвращаюсь к вам с его разбором в нескольких частях.
Для чего нужен этот кодекс?
В Регламенте ЕС об ИИ есть Глава 5: Требования для поставщиков моделей ИИ общего назначения, которая начнёт применяться 2 августа 2025 года. Как можно понять из названия, она устанавливает требования для провайдеров (в том числе разработчиков) фундаментальных моделей ИИ (на основе которых, например, работают всеми любимые сервисы генеративного ИИ). Также отдельно регламент выделяет группу моделей ИИ общего назначения, представляющих системные риски, на провайдеров которых будут накладываться более строгие требования. К ним будут относиться продвинутые модели, на создание которых было затрачено не менее 10^25 FLOPs, или те, которые отнесены к данной группе Еврокомиссией на основе других признаков.
Так как Регламент концептуально является частью законодательства о качестве продукции, его реализация в значительной степени опирается на гармонизированные стандарты, которые постепенно начинают разрабатываться на уровне ЕС. Иными словами, стандарты позволяют интерпретировать местами абстрактные нормативные требования в понятные практические шаги. Однако в отношении моделей ИИ общего назначения работа над стандартами ещё не началась, и из-за бурного развития технологий она может затянуться ещё как минимум на несколько лет. Поэтому до вступления в силу гармонизованных стандартов провайдеры для выполнения требований закона могут опираться на данный кодекс.
Таким образом, кодекс важен, так как:
- он начнёт применяться на практике уже совсем скоро;
- определит векторы для дальнейшей разработки стандартов;
- за счёт широкого участия ИИ-разработчиков со всего мира, по сути, определит лучшие практики не только для того, чтобы соответствовать законодательству ЕС, но и для регулирования на уровне других стран и международных организаций.
Из чего он состоит?
Документ состоит из трёх основных частей, которые в целом корреспондируют рабочим группам:
1. требования для поставщиков моделей ИИ общего назначения (прозрачность и копирайт);
2. таксономия системных рисков;
3. требования для поставщиков моделей ИИ общего назначения, представляющих системные риски (меры по управлению рисками, а также по их оценке и снижению).
Что по итогам обсуждений?
Сейчас эксперты дали обратную связь по поводу первого проекта документа (текст тут). Предложений довольно много, но если резюмировать в двух словах, то:
- необходимо убрать любые разночтения кодекса с Регламентом, так как сейчас некоторые положения кажутся более широкими, что ожидаемо вызывает разночтения между бизнесом и гражданским обществом;
- необходимо сильнее конкретизировать нормативные требования, чтобы с юридической, технической и организационной сторон не оставалось вопросов относительно достаточности принятых мер для исполнения законодательства.
Что дальше?
Новый раунд обсуждений и вариант текста мы увидим в январе. Финальный текст кодекса будет готов к 1 мая 2025 года.
А мы с вами далее разберём отдельно каждую из частей документа в последующих постах🐱 .
На прошлой неделе прошли заседания рабочих групп по подготовке Кодекса практик для ИИ общего назначения (General-Purpose AI Code of Practice). Как и обещал, возвращаюсь к вам с его разбором в нескольких частях.
Для чего нужен этот кодекс?
В Регламенте ЕС об ИИ есть Глава 5: Требования для поставщиков моделей ИИ общего назначения, которая начнёт применяться 2 августа 2025 года. Как можно понять из названия, она устанавливает требования для провайдеров (в том числе разработчиков) фундаментальных моделей ИИ (на основе которых, например, работают всеми любимые сервисы генеративного ИИ). Также отдельно регламент выделяет группу моделей ИИ общего назначения, представляющих системные риски, на провайдеров которых будут накладываться более строгие требования. К ним будут относиться продвинутые модели, на создание которых было затрачено не менее 10^25 FLOPs, или те, которые отнесены к данной группе Еврокомиссией на основе других признаков.
Так как Регламент концептуально является частью законодательства о качестве продукции, его реализация в значительной степени опирается на гармонизированные стандарты, которые постепенно начинают разрабатываться на уровне ЕС. Иными словами, стандарты позволяют интерпретировать местами абстрактные нормативные требования в понятные практические шаги. Однако в отношении моделей ИИ общего назначения работа над стандартами ещё не началась, и из-за бурного развития технологий она может затянуться ещё как минимум на несколько лет. Поэтому до вступления в силу гармонизованных стандартов провайдеры для выполнения требований закона могут опираться на данный кодекс.
Таким образом, кодекс важен, так как:
- он начнёт применяться на практике уже совсем скоро;
- определит векторы для дальнейшей разработки стандартов;
- за счёт широкого участия ИИ-разработчиков со всего мира, по сути, определит лучшие практики не только для того, чтобы соответствовать законодательству ЕС, но и для регулирования на уровне других стран и международных организаций.
Из чего он состоит?
Документ состоит из трёх основных частей, которые в целом корреспондируют рабочим группам:
1. требования для поставщиков моделей ИИ общего назначения (прозрачность и копирайт);
2. таксономия системных рисков;
3. требования для поставщиков моделей ИИ общего назначения, представляющих системные риски (меры по управлению рисками, а также по их оценке и снижению).
Что по итогам обсуждений?
Сейчас эксперты дали обратную связь по поводу первого проекта документа (текст тут). Предложений довольно много, но если резюмировать в двух словах, то:
- необходимо убрать любые разночтения кодекса с Регламентом, так как сейчас некоторые положения кажутся более широкими, что ожидаемо вызывает разночтения между бизнесом и гражданским обществом;
- необходимо сильнее конкретизировать нормативные требования, чтобы с юридической, технической и организационной сторон не оставалось вопросов относительно достаточности принятых мер для исполнения законодательства.
Что дальше?
Новый раунд обсуждений и вариант текста мы увидим в январе. Финальный текст кодекса будет готов к 1 мая 2025 года.
А мы с вами далее разберём отдельно каждую из частей документа в последующих постах
Please open Telegram to view this post
VIEW IN TELEGRAM
EURACTIV
The Code of Practice for general-purpose AI offers a unique opportunity for the EU
The EU’s Code of Practice for general-purpose AI can help innovation whilst setting a global standard for AI safety, write Yoshua Bengio and Nuria Oliver.
🔥6❤2
Разбираем Европейский Кодекс практик для ИИ общего назначения: часть 2
Продолжаем анализировать проект Кодекса практик для ИИ общего назначения (General-Purpose AI Code of Practice). Сегодня на очереди прозрачность и авторские права. Напоминаю, что это не финальная версия документа, поэтому с высокой вероятностью мы увидим корректировку отдельных положений. Тем не менее уже понятен вектор, в котором будут соблюдаться требования Регламента ЕС об ИИ.
Прозрачность
Регламент ЕС об ИИ в статьях 53(1)(a) и 53(1)(b) со ссылками на Приложения XI и XII устанавливает обязанность для поставщиков моделей ИИ общего назначения разрабатывать, регулярно обновлять и предоставлять документацию как AI Office, так и последующим поставщикам, которые планируют интегрировать модель ИИ в свои продукты.
- Кодекс более подробно раскрывает требования к этой документации. Не буду останавливаться на деталях, лучше приложу скриншоты из документа. Отмечу, что необходимо обращать внимание на столбцы справа, поскольку часть данных должна раскрываться только AI Office, а другая — также последующим поставщикам. Например, число параметров модели должно раскрываться обеим группам, а детальная информация об архитектуре и слоях модели ИИ — только AI Office.
- Политика допустимого использования. В кодексе содержится перечень того, что должна включать данная политика, которая должна быть разработана поставщиками моделей ИИ. Кратко: разрешённые виды использования моделей ИИ (включая высокорисковые, если применимо), описание мер и протоколов безопасности, которым должны следовать последующие поставщики, а также ситуации, при которых доступ к моделям может быть ограничен разработчиками. Прим.: данные политики уже и так достаточно популярны среди ИИ-разработчиков. Однако все они достаточно разные по содержанию. В кодексе предпринята попытка сделать унифицированный шаблон документа.
Авторские права
Регламент в статье 53(1)(c) требует от поставщиков моделей ИИ общего назначения соблюдать законодательство ЕС об авторском праве. Кодекс более конкретно определяет шаги, которые необходимо предпринять для достижения соблюдения законодательства.
- Должна быть разработана политика защиты авторских прав (copyright policy), охватывающая все этапы жизненного цикла модели ИИ (включая возможные модификации и дообучение, если это будет предусмотрено последующими рекомендациями AI Office).
- Поставщики обязаны проявлять должную осмотрительность перед использованием наборов данных, предоставленных третьими сторонами по договору. Например, необходимо запрашивать подтверждение того, что набор данных создан в соответствии с законодательством ЕС о защите авторских прав. Для крупного бизнеса также предусмотрена обязанность снижать риски нарушения авторских прав при интеграции моделей ИИ в свои продукты последующими поставщиками.
- При сборе данных для создания наборов данных для машинного обучения необходимо удостоверяться, что контент не защищён авторским правом в рамках законодательства ЕС. Для этого, как минимум, нужно следовать файлу robots.txt (запрет на сбор данных с сайтов), не дискриминировать такие сайты в поисковой выдаче (если модель используется как поисковая система) и не собирать данные из пиратских источников (имеется соответствующий список). Поставщики моделей ИИ обязуются следить за лучшими практиками в сфере защиты авторских прав (например, новыми технологиями машинного отказа от майнинга). Крупный бизнес также должен обсуждать существующие проблемы с правообладателями при посредничестве Еврокомиссии.
- Поставщики обязаны размещать на своих сайтах информацию о мерах, принимаемых для соблюдения требований отказа от сбора данных. Например, следует указывать информацию об используемых краулерах и их соответствии файлу robots.txt. Также необходимо создать единый контактный центр для взаимодействия с правообладателями.
- По запросу AI Office поставщики должны предоставлять детальную информацию об источниках данных в наборах данных, чтобы обеспечить проверку выполнения политики защиты авторских прав.
Продолжаем анализировать проект Кодекса практик для ИИ общего назначения (General-Purpose AI Code of Practice). Сегодня на очереди прозрачность и авторские права. Напоминаю, что это не финальная версия документа, поэтому с высокой вероятностью мы увидим корректировку отдельных положений. Тем не менее уже понятен вектор, в котором будут соблюдаться требования Регламента ЕС об ИИ.
Прозрачность
Регламент ЕС об ИИ в статьях 53(1)(a) и 53(1)(b) со ссылками на Приложения XI и XII устанавливает обязанность для поставщиков моделей ИИ общего назначения разрабатывать, регулярно обновлять и предоставлять документацию как AI Office, так и последующим поставщикам, которые планируют интегрировать модель ИИ в свои продукты.
- Кодекс более подробно раскрывает требования к этой документации. Не буду останавливаться на деталях, лучше приложу скриншоты из документа. Отмечу, что необходимо обращать внимание на столбцы справа, поскольку часть данных должна раскрываться только AI Office, а другая — также последующим поставщикам. Например, число параметров модели должно раскрываться обеим группам, а детальная информация об архитектуре и слоях модели ИИ — только AI Office.
- Политика допустимого использования. В кодексе содержится перечень того, что должна включать данная политика, которая должна быть разработана поставщиками моделей ИИ. Кратко: разрешённые виды использования моделей ИИ (включая высокорисковые, если применимо), описание мер и протоколов безопасности, которым должны следовать последующие поставщики, а также ситуации, при которых доступ к моделям может быть ограничен разработчиками. Прим.: данные политики уже и так достаточно популярны среди ИИ-разработчиков. Однако все они достаточно разные по содержанию. В кодексе предпринята попытка сделать унифицированный шаблон документа.
Авторские права
Регламент в статье 53(1)(c) требует от поставщиков моделей ИИ общего назначения соблюдать законодательство ЕС об авторском праве. Кодекс более конкретно определяет шаги, которые необходимо предпринять для достижения соблюдения законодательства.
- Должна быть разработана политика защиты авторских прав (copyright policy), охватывающая все этапы жизненного цикла модели ИИ (включая возможные модификации и дообучение, если это будет предусмотрено последующими рекомендациями AI Office).
- Поставщики обязаны проявлять должную осмотрительность перед использованием наборов данных, предоставленных третьими сторонами по договору. Например, необходимо запрашивать подтверждение того, что набор данных создан в соответствии с законодательством ЕС о защите авторских прав. Для крупного бизнеса также предусмотрена обязанность снижать риски нарушения авторских прав при интеграции моделей ИИ в свои продукты последующими поставщиками.
- При сборе данных для создания наборов данных для машинного обучения необходимо удостоверяться, что контент не защищён авторским правом в рамках законодательства ЕС. Для этого, как минимум, нужно следовать файлу robots.txt (запрет на сбор данных с сайтов), не дискриминировать такие сайты в поисковой выдаче (если модель используется как поисковая система) и не собирать данные из пиратских источников (имеется соответствующий список). Поставщики моделей ИИ обязуются следить за лучшими практиками в сфере защиты авторских прав (например, новыми технологиями машинного отказа от майнинга). Крупный бизнес также должен обсуждать существующие проблемы с правообладателями при посредничестве Еврокомиссии.
- Поставщики обязаны размещать на своих сайтах информацию о мерах, принимаемых для соблюдения требований отказа от сбора данных. Например, следует указывать информацию об используемых краулерах и их соответствии файлу robots.txt. Также необходимо создать единый контактный центр для взаимодействия с правообладателями.
- По запросу AI Office поставщики должны предоставлять детальную информацию об источниках данных в наборах данных, чтобы обеспечить проверку выполнения политики защиты авторских прав.
2🔥8❤2