Европа не может определиться как регулировать ИИ
Больше года в Европарламенте идет обсуждение законопроекта о регулировании ИИ. Однако до сих пор европарламентеры не могут договориться по поводу того, каким будет новый закон. Больше тысячи поправок поступило с разных сторон. Ожесточенные споры возникли и вокруг терминологии ИИ, а также вокруг биометрической идентификации. Так, «Зеленые» предлагают запретить биометрическую категоризацию, распознавание эмоций и любой автоматизированный мониторинг человеческого поведения. К ним относится рекомендательное ПО, определяющее дезинформацию и незаконный контент, используемое для правоохранительных органов, миграции, работы и образования.
Пока не ясно, каким станет итоговый документы, но либералы, социал-демократы и зеленые уже обьединились вокруг идеи полностью запретить распознавание лиц, не соглашаясь даже с такими исключениями, включенными в первоначальный вариант законопроекта, как предотвращение террористических атак или идентификация пропавших без вести.
Касательно того, как оценивать риски, «консерваторы» считают, что поставщикам ИИ следует разрешить самостоятельно оценивать, представляют ли их программы значительные риски для здоровья, безопасности и основных прав человека. Обязательства для приложений с высоким риском должны быть частично или полностью сняты, если программисты снижают риск с помощью контрмер или встроенных функций. В то же время «зеленые» полагают правильным расширить категорию высокого риска до программного обеспечения для рекомендаций СМИ, алгоритмов, используемых в процессах медицинского страхования, платежей и взыскания долгов.
Рекламное ПО также вызывает споры. Поправка, поддержанная «Коалицией по отслеживанию бесплатной рекламы», хочет включить системы ИИ, предоставляющие онлайн-рекламу, в список систем с высоким риском. А «зеленые» добавили абзац прозрачности для противодействия обманным методам, называемым «темными паттернами» (методы манипуляции, психологических уловок и обмана с целью вынудить пользователя нажать какие-то кнопки/баннеры, на которые при обычных условиях пользователь бы не кликнул).
Нет до сих пор единого мнения и вокруг размеров штрафов, и относительно единого надзорного органа ЕС, который будет контролировать и координировать правоприменение.
Блок «либералов» также представил проекты нормы, включающей в сферу регулирования метавселенные и блокчейн-компании. Они хотят, чтобы правила имели транснациональный характер и при определенных обстоятельствах применялись в том числе и к провайдерам, не находящимся или не работающим в ЕС.
Очевидно, что ЕС создает тренды для глобального регулирования отрасли. От этого закона будет зависить, куда пойдет норматворчество и правоприменение в части работы AI во всех цивилизованных странах, а также в странах, мимикрирующих под цивилизованные.
#распознавание_лиц #ИИ #регулирование_ИИ
➡️ https://cepa.org/europes-artificial-intelligence-debate-heats-up/
Больше года в Европарламенте идет обсуждение законопроекта о регулировании ИИ. Однако до сих пор европарламентеры не могут договориться по поводу того, каким будет новый закон. Больше тысячи поправок поступило с разных сторон. Ожесточенные споры возникли и вокруг терминологии ИИ, а также вокруг биометрической идентификации. Так, «Зеленые» предлагают запретить биометрическую категоризацию, распознавание эмоций и любой автоматизированный мониторинг человеческого поведения. К ним относится рекомендательное ПО, определяющее дезинформацию и незаконный контент, используемое для правоохранительных органов, миграции, работы и образования.
Пока не ясно, каким станет итоговый документы, но либералы, социал-демократы и зеленые уже обьединились вокруг идеи полностью запретить распознавание лиц, не соглашаясь даже с такими исключениями, включенными в первоначальный вариант законопроекта, как предотвращение террористических атак или идентификация пропавших без вести.
Касательно того, как оценивать риски, «консерваторы» считают, что поставщикам ИИ следует разрешить самостоятельно оценивать, представляют ли их программы значительные риски для здоровья, безопасности и основных прав человека. Обязательства для приложений с высоким риском должны быть частично или полностью сняты, если программисты снижают риск с помощью контрмер или встроенных функций. В то же время «зеленые» полагают правильным расширить категорию высокого риска до программного обеспечения для рекомендаций СМИ, алгоритмов, используемых в процессах медицинского страхования, платежей и взыскания долгов.
Рекламное ПО также вызывает споры. Поправка, поддержанная «Коалицией по отслеживанию бесплатной рекламы», хочет включить системы ИИ, предоставляющие онлайн-рекламу, в список систем с высоким риском. А «зеленые» добавили абзац прозрачности для противодействия обманным методам, называемым «темными паттернами» (методы манипуляции, психологических уловок и обмана с целью вынудить пользователя нажать какие-то кнопки/баннеры, на которые при обычных условиях пользователь бы не кликнул).
Нет до сих пор единого мнения и вокруг размеров штрафов, и относительно единого надзорного органа ЕС, который будет контролировать и координировать правоприменение.
Блок «либералов» также представил проекты нормы, включающей в сферу регулирования метавселенные и блокчейн-компании. Они хотят, чтобы правила имели транснациональный характер и при определенных обстоятельствах применялись в том числе и к провайдерам, не находящимся или не работающим в ЕС.
Очевидно, что ЕС создает тренды для глобального регулирования отрасли. От этого закона будет зависить, куда пойдет норматворчество и правоприменение в части работы AI во всех цивилизованных странах, а также в странах, мимикрирующих под цивилизованные.
#распознавание_лиц #ИИ #регулирование_ИИ
➡️ https://cepa.org/europes-artificial-intelligence-debate-heats-up/
CEPA
Europe’s Artificial Intelligence Debate Heats Up
Europeans agree that they want to regulate AI. But they are divided on issues ranging from facial recognition and social scoring to the definition of AI.