Рекомендации CNIL по соблюдению GDPR и чек-лист для проверки
CNIL (Французский орган по защите данных) опубликовал рекомендации по применению GDPR при разработке систем ИИ. Пока оригинал на французском языке, официальную англоязычную версию обещают в сентябре, но есть же DeepL и т.п.
1️⃣Простым языком прописаны шаги и приведены практические примеры.
2️⃣ Предоставлен тул PIA с открытым исходным кодом для проведения и формализации оценок воздействия на защиту данных (DPIA) в соответствии с требованиями GDPR, его можно адаптировать к существующей ИТ-системе компании и интегрировать с другими инструментами, используемыми внутри компании.
DPIA необходимо проводить при разработке вашей системы ИИ, особенно при соблюдении двух из следующих критериев:
▪️собираются чувствительные данные;
▪️персональные данные собираются в больших масштабах;
▪️собираются данные об уязвимых лицах (несовершеннолетних, людях с ограниченными возможностями и т. д.);
▪️наборы данных пересекаются или объединяются;
▪️внедряются новые технологические решения или осуществляется инновационное использование.
DPIA необходимо провести, если существуют значительные риски (например: неправомерное использование данных, утечка данных или дискриминация), даже если не выполнены два из предыдущих критериев.
3️⃣ Также запущен проект PANAME, в течение 18 месяцев планируется разработать библиотеку ПО, полностью или частично в открытом исходном коде, призванную унифицировать способы проверки конфиденциальности моделей.
#LawAndDisorder #AIShelf #AITools
————
@pattern_ai

Планы Китая и США по ИИ: один - про безопасность, другой - про скорость

На днях США (America’s AI Action Plan) и Китай (Action Plan for Global Governance of AI) представили свои планы, задающие вектор глобального регулирования ИИ. Мы видим, что философия, приоритеты и амбиции у двух стран совершенно разные.

Сначала общие черты:
🔹 США и Китай признают ИИ ключевой технологией 21 века. Обе страны делают ставку на активное внедрение ИИ во все сферы — от промышленности до госуслуг.

🔹Обе стратегии подчеркивают важность масштабных инвестиций в дата-центры, вычислительные мощности, устойчивые энергосистемы и доступ к качественным данным.

🔹Обе страны делают ставку на развитие ИИ-компетенций у граждан и формирование нового поколения специалистов, способных создавать и использовать ИИ этично и эффективно.

👀А теперь их контрастное виденье на регулирование ИИ.
Как неудивительно, Китай продвигает создание глобальной системы управления ИИ, основанной на участии всех сторон (государств, бизнеса, ученых) и системе глобальных стандартов совместно с ISO, IEC, ITU.
США же говорят о национальном лидерстве, защите демократии, экономике и ценностях, а международное сотрудничество в первую очередь с "единомышленниками".

Смотрим детальнее на план Китая:
🔹 Полноценная система управления рисками ИИ (уровни угроз, протоколы реагирования,механизмы экстренного реагирования), международные соглашения.Подход "сначала безопасность", т.е. риски должны выявляться заранее, а не по факту.
🔹 Делает акцент на прозрачность, интерпретируемость моделей, отслеживаемость ИИ-систем, защиту персональных данных. Баланс инноваций, этики и предотвращения дискриминации.
🔹 Идея глобальной платформы по безопасности ИИ под эгидой ООН, создание совместных центров компетенций.
🔹 Инфраструктура для всего мира: центры обработки данных, стандарты вычислений, дешёвые мощности (особенно для развивающихся стран), open-source модели, доступ к качественным данным.


План США:
🔹Устранение "бюрократических проволочек и обременительных правил" для ускорения инноваций и внедрения ИИ, возглавляемых частным сектором. Делают ставку на федеральные институты безопасности (например, AI Safety Institute). Акцент на оценке рисков высокоуровневых моделей, защите от злоупотреблений, национальной безопасности. Риски регулируются точечно, т.е. там, где есть реальная угроза для страны.
🔹Локальная производственная база (например, полупроводники). Поддержка open-source решений с оговорками в вопросах безопасности и конкурентоспособности. Экспорт решений союзникам и партнерам.
🔹Защита частной жизни, свободы слова, защита труда, в основе собственный "AI Bill of Rights"
🔹Правительство планирует демонстрировать "образцовое внедрение" ИИ в каждом ведомстве, госзакупки, открытые API.
🔹Внутреннее развитие кадров (переобучение, STEM-образование, поддержка пострадавших от автоматизации отраслей).

Что это значит?
Китай предлагает структурированный, государственно-ведомый путь, где всё чётко, шаг за шагом и под контролем.

США делают ставку на скорость, конкуренцию и технологическое лидерство, иногда в ущерб долгосрочной устойчивости.

Если вы создаете международный ИИ-продукт, то вам придётся лавировать между этими двумя экосистемами. А возможно, даже адаптироваться под обе.
#LawAndDisorder
————
@pattern_ai

Шаблоны AI-политик, которые можно забрать в работу

🔹 AI Usage Policy Template | TrustCloud, ориентирована на стартапы и SaaS, что можно / нельзя, как обеспечивается прозрачность;
🔹 AI Policy Template | NFPS.AI, цели, роли, процессы, оценка рисков, подходит для НКО и социальных проектов;
🔹 Artificial Intelligence Acceptable Use Standard | SANS, безопасное использование, недопустимые сценарии, контроль доступа, часто используется как основной стандарт;
🔹 Safeguard Validation Management Policy | SANS, процедуры проверки защитных механизмов, для compliance и security-команд;
🔹 AI tool usage policy | Workable, ориентирована на HR и рекрутмент, описывает использование AI-инструментов для найма;
🔹 AI Policy Template | RAI Institute, комплексный шаблон, согласованный с NIST AI RMF и ISO 42001, подходит для организаций, которые выстраивают полный цикл AI Governance.
🔹Generative AI Use Policy | Data.org, ориентирована на гуманитарные и образовательные проекты, с фокусом на GenAI.

📌 При разработке AI-политики важно не просто адаптировать шаблон, а встроить его в реальные процессы вашей команды. Вовлекайте специалистов при создании и обновлении политики (безопасников, юристов, dpo). Обязательно учтите следующие элементы:
▪️human-in-the-loop (определите, в каких задачах и когда участие человека обязательно);
▪️запрещённые сценарии (чётко зафиксируйте, что недопустимо (н-р, генерация контента без раскрытия, принятие решений без верификации и т.п.));
▪️реагирование на инциденты и аудит (пропишите, как фиксируются инциденты, кто проводит проверку и как принимаются корректирующие меры);
▪️актуализация (пересматривайте политику не реже чем раз в 6–12 месяцев, особенно при появлении новых инструментов или регуляторных требований);
▪️обучение команды ( не просто внедрите политику, а обучите сотрудников тому, как она работает и зачем она нужна).

Главное, чтобы AI-политика "работала" на вас, а не просто лежала очередным документом в папке.
#AIShelf
————
@pattern_ai

"Красота по алгоритму" или как кейс Vogue запустил новую волну дебатов в индустрии моды

В пятницу хочется поговорить о моде, тем более, что Vogue представил первую AI-модель в рекламе.
В свежем номере журнал показал «идеальную» модель, которая оказалась вовсе не человеком, а творением нейросети. Об этом упомянули мелким шрифтом, и читатели заметили. Потребители обвинили как Vogue, так и Guess в продвижении «недостижимых стандартов красоты» и выразили разочарование, называя подход «бездушным» и «дешёвым», что привело к массовым отменам подписок. Этот инцидент акцентирует внимание на необходимости прозрачности и ответственного использования AI в маркетинговых коммуникациях.

👀Индустрия моды старается интегрировать ИИ и использует разные стратегии.
▪️H&M оцифровала 30 реальных моделей (например, Mathilda Gvarliani), создала их «digital twins» и использует их в маркетинге. Модели сохраняют права на свои копии и могут продавать использование другим брендам. H&M признаётся, что реакция будет разной, но это способ вовлечь модели и отнестись честно к индустрии.
▪️Соц.сети заполонены цифровыми моделями. Например, Shudu Gram (одна из первых цифровых моделей и виртуальных инфлюенсеров).Ее создателя критиковали за культурную апроприацию.

Анализ этих кейсов выявляет несколько ключевых выводов относительно пользовательского опыта и проектирования UX-дизайна:
🔹AI‑генерация быстрее, дешевле и масштабируемее, но часто теряется эмоциональная связь, индивидуальность и культурная значимость визуала;
🔹Цифровые модели требуют грамотной модели владения, монетизации, контроля;
🔹AI склонен к клише и узким стандартам, может усилить культурные стереотипы или исключения;
🔹Мелкая ссылка «AI‑generated» показала неуважение к пользователям, они чувствуют обман.

Перед индустрией моды встала стратегическая дилемма: с одной стороны, ИИ предлагает беспрецедентные возможности для масштабирования, скорости и персонализации контента и процессов. С другой стороны, его стремительное внедрение порождает серьёзные этические, правовые и социальные дилеммы, в том числе фундаментальный вопрос о подлинности визуального контента.
Теперь выбор стоит между приоритетом операционной эффективности за счёт ИИ и сохранением акцента на человечности, инклюзивности и уникальности, которые исторически были движущей силой моды.

#UXWatch
————
@pattern_ai

AI Model Clauses: универсальные шаблоны для госструктур и частных компаний

AI Model Clauses - это стандартные договорные положения, которые регулируют разработку, закупку и использование систем ИИ. Их цель: минимизировать правовые, этические и операционные риски, установить чёткие правила взаимодействия между сторонами.

👀Посмотрим, какие есть сейчас:

1. Updated EU AI model contractual clauses, предназначены для использования гос. организациями, которые закупают системы ИИ, разработанные внешними поставщиками.

MCC-AI-High-Risk предназначен для закупок систем ИИ, классифицируемых как «высокорисковые» в соответствии с EU AI Act и основан на требованиях и обязательствах, изложенных в Главе 3.
MCC-AI-Light предназначен для закупок систем ИИ, которые не относятся к категории высокого риска, но всё же могут представлять угрозу здоровью, безопасности или основным правам, также требования Главы 3.

Частные компании, особенно те, что работают с регулируемыми секторами или поставляют ИИ в гос. структуры, также могут использовать эти clauses как стандарт и ориентир по лучшим практикам.

📌Для интереса, кейсы использования ИИ гос. органами на Public Sector Tech Watch

2. EU AI Act Contractual Clauses |Society for Computers & Law AI Group, UK,  в виде таблицы представлен гибкий набор положений, которые можно адаптировать под различные сценарии, также акцент на управление рисками, этические аспекты.

3. Australia’s AI Model Clauses предназначены для использования в контрактах между гос. органами и поставщиками. Покупателям необходимо выбирать положения, исходя из конкретного способа использования ИИ в рамках договора и учитывая конкретные риски, связанные с таким использованием. Основное внимание уделяется принципам использования ИИ: справедливость, конфиденциальность, подотчетность, безопасность, объяснимость.

Например, положения для модели ИИ, помогающей в подготовке отчётов или анализа и обобщения информации, включают требования к продавцу:
- получить одобрение Покупателя на использование ИИ при предоставлении услуг;
- проводить проверки качества для подтверждения точности и надежности результатов ИИ
вести подробный учет использования ИИ;
- указывать запрещенные системы ИИ, которые Продавец не должен использовать при предоставлении услуг (например, DeepSeek и Kaspersky).

Примеры того, что должно быть включено в Тех.задание:
- в какой среде будет развернута система ИИ (например, локально, в публичном облаке, в частном облаке или в их комбинации);
- какая методология обучения и тестирования (включая виды обучения), продолжительность и процесс утверждения будут использоваться;
- каким образом сообщается о проблемах, как решаются, а уровень поддержки;
- как будут соблюдаться стандарты прозрачности и объяснимости (например, с помощью регулярных отчетов).

Пример того, как покупатель может потребовать от продавца предоставления системы управления рисками:
- короткий пункт, который требует соответствия стандарту ISO/IEC 42001:2023
- подробный пункт, который позволяет Покупателю указать, что должна охватывать система управления рисками ИИ Продавца.

Частные компании могут адаптировать отдельные положения для защиты интересов при взаимодействии с подрядчиками или разработчиками ИИ.

#AIShelf
————
@pattern_ai