Как провести аудит системы ИИ

Аудит системы ИИ - это «итеративный процесс взаимодействия между аудитором/ами и командой/ами разработчиков» для сбора и оценки информации, которая поможет компании определить, подходит ли система ИИ для интеграции в их бизнес и соответствует ли она применимому законодательству (например, EU AI Act, GDPR).

Ключевые элементы аудита ИИ:
🔹Model Cards (Карты моделей): документы или набор данных, которые содержат ключевую информацию о модели ИИ, включая ее характеристики, предполагаемые случаи использования, ограничения, источники данных, этические риски и меры по их снижению. Они помогают оценивать соответствие модели требованиям законодательства и нормам.
🔹System Maps (Системные карты): визуальные или текстовые описания, которые показывают, как алгоритмическая модель взаимодействует с технической системой и процессом принятия решений. Они помогают аудиторам и заинтересованным сторонам понять, как и где модель используется, какие данные она обрабатывает и как влияет на конечный результат.

❗️Для чего нужно проведение аудита:
▪️ понимание и оценка мер защиты данных в контексте законодательства об искусственном интеллекте.
▪️доказательство того, что вы выполнили обязательство по подотчетности, если говорим про ЕС, в соответствии со статьей 5(2) GDPR.
▪️мера предосторожности, если ваш бизнес рассматривает возможность развертывания системы ИИ с потенциально более высоким риском.

Чек - лист для аудита (руководство EDPB):

✔️ Идентификация и прозрачность компонента на основе ИИ ( документация источников данных, используемых для обучения модели, надзор за защитой данных, связанный с разработкой компонента ИИ, например, привлечение DPO, информация о параметрах, используемых при обучении системы ИИ);

✔️ Цель компонента на основе ИИ (информация об основных видах использования и возможных вторичных видах использования компонента ИИ, законность любой обработки данных, связанной с компонентом ИИ, информация о необходимости и пропорциональности обработки, получателях субъектов данных или любых мерах по ограничению хранения, в том числе связанных с датой, которую ввел разработчик);

✔️ Основы компонента ИИ ( информация об основной базовой разработке модели, была ли создана документация о методах выбора, сбора и подготовки обучающих данных компонента ИИ, были ли разработаны метрики для измерения поведения модели);

Карта системы особенно важна для органов надзора за защитой данных, поскольку она предоставляет подробный контрольный список, охватывающий такие аспекты, как идентификация и прозрачность компонента ИИ, его цель, управление данными и меры безопасности. Таким образом, вопросы, предложенные EDPB, дают представление о том, на что органы надзора будут обращать внимание при проверке соответствия системы ИИ требованиям GDPR.

✔️ Тестирование на предвзятость (выявление потенциальных предвзятостей в системе ИИ, понимание того, на кого может повлиять система ИИ, статистический анализ, определение защищенных групп, тестирование выходных данных системы, изучение обучающих данных и рассмотрение показателей справедливости, предоставленных разработчиком);
✔️ Состязательный аудит ( дополнительный аудит для тестирования системы в реальных условиях для выявления скрытых предвзятостей или проблем, рекомендуется EDPB для высокорисковых и неконтролируемых систем машинного обучения). Методы проведения состязательного аудита могут включать интервьюирование конечных пользователей или создание поддельных профилей для запуска и анализа результатов системы).
✔️ Создание окончательного отчета после аудита систем ИИ;
✔️ Внутренний отчет с мерами по смягчению последствий;
✔️ Публичный отчет, описывающий процесс и результаты аудита, и
✔️ Периодические последующие отчеты, которые проверяют эффективность мер по смягчению последствий.
#LawAndDisorder #AIShelf
————
@pattern_ai

AI Audit Checklist | Certified Trainers and Consultants
Удобный табличный формат, который можно взять за пример.
Как провести аудит смотри пост.

#AIShelf
————
@pattern_ai