Подписан скандально известный закон о порядке обработки обезличенных персональных данных

Несколько дней назад Президентом РФ был подписан закон, который вносит изменения в несколько актов и определяет особенности обработки обезличенных персональных данных. Ранее этот законопроект бурно обсуждался не один год и изначально в качестве своих целей предполагал упрощение доступа бизнеса к данным для развития ИИ.

Давайте кратко пробежимся по основным идеям:

1. Изменения в ФЗ № 152-ФЗ «О персональных данных»

Теперь Минцифры сможет потребовать у операторов самостоятельно обезличивать обрабатываемые ими персональные данные (кроме статьи 10 за исключением части 2.1 и статьи 11) и предоставить их в специально созданную для этого государственную информационную систему. Далее орган формирует составы данных, сгруппированные по определенному признаку, при условии, что последующая обработка этих данных не позволит определить их принадлежность конкретному субъекту ПД.

Интересно, что само определение обезличенных ПД в законе предполагает возможность установления их принадлежности конкретному субъекту за счет обогащения данных. Будем надеяться, что данные из этой ГИС не станут достоянием даркнета и не будут сопоставлены с огромным числом уже утекших ранее баз данных. Также лица, чьи персональные данные были обработаны операторами, никаким образом не смогут влиять на их передачу в ГИС, что, конечно же, очень сомнительно с точки зрения прав человека.

Доступ и обработка данных будет осуществляться только с использованием ГИС для определенного круга субъектов (установлен ряд требований). Порядок доступа установит Правительство РФ, что предполагает гибкость в изменении правил игры и не создает стабильности для бизнеса.

2. Изменения в ФЗ № 123-ФЗ «О проведении эксперимента с ИИ в Москве»

В Москве по решению правительства города будут создаваться региональные составы данных. Региональные операторы будут предоставлять данные в региональную информационную систему. Однако бремя обезличивания уже лежит на компетентном органе. Передача изображения лица человека, полученного с помощью фотовидеоустройств, и записи голоса человека, полученной с помощью звукозаписывающих устройств, и их последующая обработка в региональной ИС могут осуществляться без получения согласия субъекта ПД. Однако последнему дается время на отказ от передачи его данных в систему.

Доступ также осуществляется с использованием ИС для определенного перечня субъектов в соответствии с правилами.

Таким образом, как я уже отмечал в посте зимой, мода на создание ГИС во всех сферах фактически приводит к государственной монополии на данные. Более того новеллы отлично суммируются с вакуумом нормативного регулирования в сфере разработку и применение ИИ госорганами, о чем я неоднократно писал.

А есть ли альтернативы складывания всех яиц в госкорзину?

Да, например, в ЕС в соответствии со вступившем с силу в прошлом году Data Governance Act (DGA) были созданы посредники в передаче данных (data intermediaries), которые на основе жестких законодательных требований должны выступать в качестве независимых субъектов, обеспечивающих обмен данными между органами власти, бизнесом и гражданами. Вот их реестр. Если будет интересно, могу сделать отдельный разбор акта 🤩.

Новый Grok даровал невиданную по современным меркам свободу генерации контента

Компания xAI выпустила в бета-версии две новые модели – Grok-2 и Grok-2 mini. Для генерации изображений используется другая модель – FLUX.1 от Black Forest Labs.

Новый Grok будет глубокого интегрирован в X. Например, сейчас для премиальных пользователей уже доступна генерация картинок.

И первые отзывы заставляют поулыбаться. Например, The Verge пишут, что выходные результаты модели значительно менее ограничены, чем у аналогичных продуктов. Модель, во-первых, генерирует изображения, схожие с лицами политиков и известных людей, а во-вторых, генерирует изображения по запросам, на которые ChatGPT отказывается отвечать.

Картинки можете посмотреть по ссылке выше. Хоть они и не супер реалистичные, все равно не хочу распространять дезинформацию. Но, например, люди сгенерировали изображение с беременной Камалой Харрис, которая обнимается с Дональдом Трампом (и многое другое).

Интересно, что пользовательское соглашение продукта запрещает его использовать любым способом или в любых целях, которые (i) нарушают или способствуют нарушению любого Применимого законодательства, договорных обязательств или прав любого лица, включая, но не ограничиваясь, правами на интеллектуальную собственность (как определено ниже), правами на частную жизнь и/или правами личности, (ii) являются мошенническим, ложным, обманчивым или клеветническим, (iii) пропагандируют ненависть, насилие или вред в отношении любого лица или группы лиц, или (iv) иным образом может быть вредным или нежелательным (по нашему усмотрению) для нас или наших провайдеров, наших поставщиков, Пользователей или любой другой третьей стороны.

И вот еще: мы можем, уведомив вас в любое время, ограничить использование вами выходных данных или потребовать от вас прекратить их использование (и удалить любые их копии), если мы считаем, что использование вами выходных данных может нарушить права любой третьей стороны.

Если помните, то буквально на прошлой неделе я разбирал отчет Американского Copyright Office, который рекомендовал законодателям разработать запрет на генерацию правдоподобных дипфейков с изображением реальных людей без разрешения. Последние деньки Дикого Запада? 🤩

Может ли ИИ быть мэром города?

С таким вопросом ко мне обратились журналисты из Санкт-Петербургского издания Sobaka.ru (да простят меня котики).

Спойлер: пока точно нет 🤩.

Но это не лишает нас возможности поразмышлять и подискутировать. Тем более что периодически энтузиасты предрекают нам конец государства то за счет блокчейчна и DAO, то за счет ИИ.

Материал в развернутом виде можно почитать по ссылке. Он небольшой и написан в легкой научно-популярной форме, поэтому смело можно заглянуть в него и в пятницу вечером.

Немного новостей из Центробанка о регулировании в сфере применения ИИ на финансовом рынке

В конце пришлой недели выступал на мероприятии Центробанка, где обсуждались возможности и потенциальные риски защиты прав потребителей при использовании ИИ. Рассказал про подходы к регулированию в сфере ИИ, а также про фундаментальные модели и опенсорс.

Узнал для себя и новые вещи. Рассказываю вам.

В ноябре 2023 года Центробанк опубликовал доклад о применении ИИ на финансовом рынке, в котором поставил вопросы для дальнейшего общественного обсуждения.

По их итогу в 2024 году был выпущен отчет с основными выводами.

Всего поступило 33 заключения, из которых 15 – от кредитных организаций, 6 – от страховщиков и 12 – от объединений участников рынка, высших учебных заведений, инфраструктурных организаций, ведущих разработчиков ИИ.

Остановимся на нескольких интересных моментах:

Респонденты выделили наиболее важные вопросы с точки зрения ИИ-регулирования:

- регулирование оборота обезличенных данных (это мы уже увидели, но пока все не очень хорошо. Подробно писал тут);

- обеспечение возможности использования сторонней инфраструктуры оборота данных разработчиками ИИ (с компьютом-то реально беда, и она будет только расти);

- формирование подходов к распределению ответственности за вред, причиненный применением ИИ, между организацией-разработчиком и организацией-пользователем (кстати, про это можно почитать мою статью тут);

- определение правового режима выходных данных и моделей ИИ (отдельно выделили синтетический контент).

Также интересно, что некоторые респонденты предложили рассмотреть условия для работы доверенных платформ по обмену данными между организациями. Вот вам и имплементация опыта ЕС о посредниках в передаче данных (data intermediaries), созданных недавним Data Governance Act (DGA) (я помню, что обещал его разобрать, все будет🤩).

Большинство респондентов не видят сейчас необходимости в жестком регулировании. Пока достаточно рекомендательных актов, стандартов и рекомендаций. Также отмечена целесообразность разработки отдельного кодекса этики ИИ для участников финансового рынка.

Почти поровну разделились мнения респондентов относительно необходимости создания внутри финансовой организации отдельного органа, ответственного за контроль над внедрением и применением ИИ в бизнес-процессах. При этом была отмечена именно добровольность в создании такого органа в зависимости от нужд конкретной организации. В качестве альтернативы специализированному органу предложено на текущем этапе развития технологий ограничиться риск-менеджментом (надеюсь, он уже реализуется, а не только планируется).

В каких сферах может потребоваться адаптация действующего законодательства или принятие новых НПА?

- снижения рисков использования дипфейков, которые могут применяться мошенниками для введения потребителя в заблуждение, а также для манипулирования рынком (СМИ пишут, что в ГД собираются наконец взяться за дипфейки, скоро узнаем);

- обязанности объяснения клиентам оснований для принятия решений, если такие решения были приняты с использованием ИИ.

Еще один вечер дипфейков: смотрим на новые законопроекты в российском парламенте

Обычно я редко пишу про законопроекты, так как далеко не все из них становятся в конечном итоге законами. А даже если и становятся, то не всегда в первоначальном виде.

Однако с учетом того, что мы вчера разбирали китайский опыт маркировки синтетического контента, сегодня решил продолжить тему и обратить ваше внимание на несколько вчерашних законопроектов, внесенных в российский парламент.

Охрана голоса

Предлагается внести в ГК РФ новую статью: 152.3. Охрана голоса гражданина.

Она почти слово в слово повторяет уже существующую статью 152.1., которая направлена на охрану изображения.

Обнародование и дальнейшее использование голоса гражданина (в том числе записи, в которой он содержится, или записи, в которой содержится воссозданный с помощью специальных технологий голос гражданина) допускаются только с согласия этого гражданина. После смерти — с согласия членов семьи, за исключением случаев, когда имеется публичный интерес или запись производилась за плату.
Судя по пояснительной записке, документ был разработан Альянсом в сфере ИИ и Национальной Федерацией Музыкальной Индустрии.

Уголовная ответственность за дипфейки

Предлагается внести в ряд статей УК РФ квалифицирующий признак — совершение преступления с использованием изображения или голоса (в том числе фальсифицированных или искусственно созданных) и (или) биометрических данных гражданина.

Во время прочтения у меня сразу возникло внутреннее негодование. Однако отзывы Правительства и Верховного суда его несколько уменьшили:

1) дипфейки никак не урегулированы законодательно, так что их еще рано запрещать;

2) нет оснований полагать, что общественной опасности именно такого рода деяний достаточно, чтобы вводить более строгое наказание;

3) формулировка “фальсифицированные или искусственно созданные” — слишком расплывчатая.

Так что вряд ли документ будет принят в таком виде.

Оффтоп

В последнее время я довольно часто использую ChatGPT в голосовом режиме с моделькой GPT-4o. Например, мне с ней интересно поболтать во время приготовления еды или мытья посуды. Сегодня я случайно обнаружил забавный для юриста факт. Система правильно ставит ударение в слове договОр, но ошибается в других падежах. В моем случае она говорила договорАми вместо ударения на нужный слог — договОрами. Конечно, я дал фидбэк и сразу вспомнил времена учебы и преподавания на юрфаке 🐱.

Каким образом в США будет применяться внедоговорная ответственность к ИИ-разработчикам, допустившим причинение существенного вреда третьим лицам?

Для ответа на этот вопрос обратимся к отчёту, который опубликовал американский аналитический центр RAND. В документе рассматривается, с одной стороны, насколько применимы существующие правовые механизмы, а с другой — оцениваются возможные дальнейшие меры законодателей.

Начнём по порядку:

1. Исследователи видят существенные риски привлечения разработчиков к ответственности в рамках действующего правового поля. Обязанность проявлять разумную осторожность, чтобы не причинить вред личности или имуществу, по умолчанию распространяется на разработчиков ИИ, даже если законодателями не будут внесены какие-либо изменения.

2. В США внедоговорная ответственность в основном относится к общему праву, а значит, в будущем возможна неопределённость в том, каким образом суды будут использовать существующую практику применительно к спорам, возникшим вокруг ИИ-разработчиков. Более того, в разных штатах существуют свои устоявшиеся подходы и судебная практика, которые могут существенно различаться между собой. Например, исследователи отмечают, что штаты по-разному подходят к ответственности производителей за причинение вреда из-за существенной доработки товара третьими лицами. Также неясно, распространяются ли на ПО (ИИ в частности), которое не интегрировано в физические объекты (роботы, автомобили), требования законодательства о безопасности продукции (относятся ли системы и модели ИИ к продуктам). Таким образом, если по какой-либо причине будет нанесён существенный вред, который коснётся людей в нескольких штатах, разработчики столкнутся с необходимостью учитывать особенности разных юрисдикций. И это мы ещё не касаемся возможности причинения вреда одновременно в нескольких странах.

3. Разработчики, которые не используют принятые в отрасли передовые методы обеспечения безопасности, могут существенно повысить риски привлечения к ответственности. Судебная практика показывает, что в схожих случаях соблюдение ответчиком отраслевых стандартов и лучших практик имеет важное значение в исходе дела.

4. Разработчики могут быть привлечены к ответственности за вред, причинённый третьими лицами в результате неправомерного использования систем и моделей ИИ. Однако, как правило, суды штатов определяют, была ли у ответчика возможность разумно предвидеть наступление подобных последствий. В понимании того, какие конкретные действия разработчиков в этом случае могут считаться достаточными, судебная практика будет разниться. Особенно подобные сложности могут возникать вокруг открытых моделей ИИ.

5. Государство, бизнес и гражданское общество могут способствовать повышению безопасности и, как следствие, уменьшению рисков привлечения разработчиков к ответственности за счёт разработки стандартов, лучших практик и протоколов безопасности. На использование последних в дальнейшем могут обращать внимание суды при разрешении споров.

6. Принимая во внимания рассмотренные различия, авторы считают, что законодателям стоило бы подумать над изданием новых актов, которые бы внесли ясность и сформулировали единый подход по привлечению к ответственности ИИ-разработчиков. Более того, повысить ИИ-безопасность можно не только с помощью института юридической ответственности. Например, законодательно можно установить и другие меры, такие как минимальный уровень мер безопасности, необходимость тестирования и оценки ИИ-продуктов в наиболее опасных областях.

7. С точки зрения федерального законодательства исследователи обратили внимание на вопросы, которые уже стали американской классикой: распространяется ли Первая поправка (свобода слова и печати) на ПО (ИИ в частности), а также нужно ли использовать раздел 230 USC, снимающий ответственность с держателей цифровых платформ за размещённый пользователями контент при условии осуществления модерации, для разработчиков ИИ-продуктов.

В целом, отчёт получился интересным и изобилующим деталями. Если вы интересуетесь темой ответственности или американским правом, то советую ознакомиться 🤩.

Европейский AI Office начал разработку кодекса лучших практик для моделей ИИ общего назначения. Я стал членом рабочей группы, рассказываю первые подробности

Вчера я принял участие в первом пленарном заседании, на котором был дан старт разработке кодекса лучших практик для моделей ИИ общего назначения. Для его создания Европейским AI Office были отобраны около тысячи ИИ-экспертов от бизнеса, академии и гражданского общества. Друзья, я тоже попал в их число. Буду рассказывать вам интересные подробности изнутри и делиться впечатлениями 🐱.

Что уже известно о кодексе?

Создание кодекса будет происходить в четырех рабочих группах, каждая из которых отвечает за отдельную часть документа:

- прозрачность и требования к соблюдению авторских прав для поставщиков моделей ИИ общего назначения;

- меры по выявлению и оценке системных рисков. Напомню, что Регламент ЕС об ИИ предусмотрел отдельную группу моделей ИИ общего назначения — модели ИИ общего назначения, представляющие системные риски (если кратко, то это наиболее мощные и продвинутые модели). К их поставщикам предъявляются более жесткие требования;

- технические меры по снижению системных рисков;

- внутреннее (корпоративное) управление рисками и руководство для поставщиков моделей ИИ общего назначения.

Есть еще и пятая рабочая группа, но в ней будут собираться представители поставщиков моделей ИИ общего назначения.

Руководят рабочими группами известные исследователи и технические специалисты. Не буду перечислять, а приложу вам скриншот. Мне в глаза бросилось еще то, что сразу три человека представляют Стэнфордский университет (хоть и они из разных стран). А еще сразу три человека — Германию.

Какую юридическую силу будет иметь документ?

Документ является рекомендательным. Его главная суть — разъяснять на практике положения Регламента ЕС об ИИ. Однако прямо отмечается, что компании могут не присоединяться к кодексу и выбрать другой способ соответствия законодательным требованиям.

Есть ли сейчас какой-то консенсус по содержанию кодекса?

Трудно сказать. Но с июля по сентябрь AI Office проводил опрос среди стейкхолдеров. По некоторым вопросам в индустрии на первый взгляд имеется консенсус:

- документация должна включать описание допустимых сценариев использования моделей с указанием на то, в какие системы ИИ они могут быть в дальнейшем интегрированы;

- к наиболее серьезным рискам относят: автономность моделей, возможность преодолевать ограничения, наборы данных;

- среди методик уменьшения рисков ожидаемо лидирует предварительная, текущая и последующая оценка рисков, а не аудит. С технической стороны — управление данными и регулярные обновления моделей.

- среди корпоративных практик лидируют риск-менеджмент, карточки систем и моделей ИИ, обучение персонала, защита информаторов, а также средства физической и информационной безопасности.

Когда документ будет готов?

Работа над проектом кодекса должна завершиться к апрелю 2025 года.

Как лучше определять продвинутый ИИ с юридической точки зрения?

Друзья, на прошлой неделе я дал себе небольшой тайм-аут поболеть и восстановиться. Но уже снова в строю, продолжаем 🐱.

Американский аналитический центр Law & AI опубликовал статью, в которой авторы рассматривают существующие в законодательстве определения продвинутого ИИ и дают свои рекомендации.

Пробежимся по основным частям документа:

1. Авторы сравнивают три определения из нормативных актов:

- Определение фундаментальной модели ИИ двойного назначения из прошлогоднего Указа Президента США (разбирал его тут).

- Определение модели ИИ из Калифорнийского законопроекта SB 1047 «О безопасных и надежных инновациях для передового ИИ». Кстати, он был одобрен парламентом, но губернатор штата наложил на него вето из-за чрезмерно узкого фокуса регулирования. По мнению губернатора, законопроект направлен на продвинутый ИИ, но при этом игнорирует модели меньшего размера, которые также могут представлять существенные риски. Ждем новый текст.

- Определение модели ИИ общего назначения, представляющей системные риски, из Регламента ЕС об ИИ.

2. На основе анализа определений авторы выявили ряд признаков:

- Технические характеристики, такие как объем вычислительных мощностей, число параметров и размер наборов данных. Сейчас, за некоторыми исключениями, объем вычислительных мощностей, затраченных на обучение моделей ИИ, привязан к верхним границам существующих передовых моделей: 10^25 — 10^26 FLOPS (равно или превышает уровень GPT-4). Авторы отмечают, что с одной стороны, установление четких числовых характеристик поможет сделать нормативные требования более определенными, а с другой — любое изменение технологических реалий неизбежно повлечет необходимость пересмотра существующих критериев. Например, несложно представить, что в будущем небольшие модели могут обладать существенными характеристиками. Поэтому наиболее удачным вариантом будет установление пороговых технических характеристик органами исполнительной власти на основе широкого законодательного определения (схожий подход уже используется в Регламенте ЕС об ИИ).

- Возможности моделей. С одной стороны, возможности моделей могут быть использованы как более стабильное отражение технических характеристик, не привязанное к конкретным числовым значениям, но с другой — разработка бенчмарков для передовых моделей также является нетривиальной задачей.

- Уровень риска. Риски, которые представляют передовые модели, могут быть слабо изучены. Поэтому будет проблематично такие модели каким-то образом ранжировать. Как правило, само отнесение модели ИИ к передовой уже предполагает повышенные риски ее разработки и применения.

- Неизвестные возможности моделей. Такой признак позволил бы выделить отдельную группу продвинутых моделей ИИ и исключать их по мере изучения. Однако выявление подобных возможностей также является сложной задачей.

- Контекст последующего внедрения. Особенности и широта использования моделей повышают потенциальные риски. Например, Регламент ЕС об ИИ уже учитывает число пользователей (людей и бизнесов) при отнесении модели ИИ к группе, представляющей системные риски.

3. В завершающей части статьи авторы анализируют, каким образом оптимально будет закрепить определение передовых моделей ИИ в американском федеральном законодательстве. По большому счету, дискуссия ведется о том, должно ли оно быть исчерпывающе сформулировано Конгрессом на уровне закона или законодатели должны определить рамки для последующего уточнения органами исполнительной власти.

Советую обратить внимание, если интересуетесь американским правом. Тут авторы затронули более широкую тему соотношения компетенций разных ветвей власти в сфере правотворчества, ставшей в стране снова актуальной после недавней отмены Верховным судом (дело Loper Bright Enterprises v. Raimondo) доктрины, сформулированной в деле Chevron U.S.A. v. Natural Resources Defense Council.