В среду депутаты Европарламента большинством голосов одобрили закон о регулировании искусственного интеллекта (ИИ). За принятие документа проголосовали 499 депутатов, против — 28, воздержались 93 парламентария. Теперь окончательную редакцию закона парламент обсудит с Советом ЕС.
Документ выделяет четыре категории систем ИИ: с ограниченным, неприемлемым и высоким риском, а также генерирующие системы (нейросети).
К высокорисковым закон отнес системы, которые причиняют ущерб здоровью, безопасности и основным правам человека, а также вредят окружающей среде.
Также в эту категорию включили системы, оказывающие влияние на мнение избирателей в политкампаниях, и рекомендательные алгоритмы, используемые соцсетями с более чем 45 млн пользователей.
Новым законом будет запрещено распознавать лица людей в общественных местах в режиме реального времени. Единственное исключение — это расследование тяжких преступлений, и в этом случае правоохранители будут обязаны запрашивать доступ к данным у суда.
Системы распознавания эмоций нельзя будет использовать правоохранительным органам (включая погранконтроль), а также работодателям и учебным заведениям.
Специально оговорен в документе запрет т.н. «прогностических систем полиции» — так называется механизм, который использует ИИ для анализа big data и выявления на их основе потенциальных преступников (или же, напротив, их жертв).
Отдельный раздел документа посвящен нейросетям — таким, например, как ChatGPT. Созданный ими контент обязательно должен быть промаркирован. Любые нейросети не должны допускать в своей работе генерацию нелегального контента.
Кроме того, закон обяжет такие сети, как, например Midjourney или Stable Diffusion, сообщать о материалах, которые они используют для своего обучения и повышения «насмотренности». А обладатели авторских прав на такие материалы могут подать судебный иск, если выяснят, что разработчик незаконно обучал нейросеть на основе их контента.
#новости_oт_DRCQ #Европарламент #AI_Act #искусственный_интеллект #новые_законы
Документ выделяет четыре категории систем ИИ: с ограниченным, неприемлемым и высоким риском, а также генерирующие системы (нейросети).
К высокорисковым закон отнес системы, которые причиняют ущерб здоровью, безопасности и основным правам человека, а также вредят окружающей среде.
Также в эту категорию включили системы, оказывающие влияние на мнение избирателей в политкампаниях, и рекомендательные алгоритмы, используемые соцсетями с более чем 45 млн пользователей.
Новым законом будет запрещено распознавать лица людей в общественных местах в режиме реального времени. Единственное исключение — это расследование тяжких преступлений, и в этом случае правоохранители будут обязаны запрашивать доступ к данным у суда.
Системы распознавания эмоций нельзя будет использовать правоохранительным органам (включая погранконтроль), а также работодателям и учебным заведениям.
Специально оговорен в документе запрет т.н. «прогностических систем полиции» — так называется механизм, который использует ИИ для анализа big data и выявления на их основе потенциальных преступников (или же, напротив, их жертв).
Отдельный раздел документа посвящен нейросетям — таким, например, как ChatGPT. Созданный ими контент обязательно должен быть промаркирован. Любые нейросети не должны допускать в своей работе генерацию нелегального контента.
Кроме того, закон обяжет такие сети, как, например Midjourney или Stable Diffusion, сообщать о материалах, которые они используют для своего обучения и повышения «насмотренности». А обладатели авторских прав на такие материалы могут подать судебный иск, если выяснят, что разработчик незаконно обучал нейросеть на основе их контента.
#новости_oт_DRCQ #Европарламент #AI_Act #искусственный_интеллект #новые_законы
12 октября на форуме Digital Bridge 2023 президент Казахстана Касым-Жомарт Токаев выступил с большой речью, в которой обрисовал контуры будущего развития в республике технологий искусственного интеллекта
«Это передовая международная практика, такой шаг позволит нам задать устойчивый вектор технологического прогресса страны.. Нам следует ускорить разработку современной правовой регуляторной базы, которая будет отвечать лучшей мировой практике, учитывать и потребности рынка, и интересы граждан», - отметил президент.
По его словам, прежде всего нужно сосредоточиться на внедрении технологий ИИ в таких значимых для нашей экономики отраслях, как нефтегазовый сектор, энергетика, сельское хозяйство, транспорт, логистика и оказание госуслуг.
С помощью этого, уверен глава государства, города Казахстана могут полноценно трансформироваться в «настоящие SmartCity, пригодные для проживания и работы»
Будущие учителя, врачи, агрономы, юристы, отраслевые специалисты в обязательном порядке должны обладать базовыми знаниями в области искусственного интеллекта.
При этом, по словам Токаева, не стоит бояться того, что ИИ повсеместно заменит человеческий труд. Вместо этого вместо этого он трансформируется и будет требовать совершенно других навыков, поэтому новые компетенции надо начинать формировать ещё в школе.
Тем не менее, считает глава Казахстана, уже в ближайшие пару десятков лет мы, скорее всего, вплотную подойдем к моменту, когда машина окажется сильнее и мощнее, нежели человеческий разум.
«В научных кругах нет единого мнения, к чему это приведет: к процветанию человечества или угрозе его уничтожения. Поэтому особенно важен разумный контроль над искусственным интеллектом <…> В целом, [перед нами] стоит непростая задача интегрировать инструменты искусственного интеллекта в повседневную жизнь людей, не нарушая их права и свободы», - подытожил президент Казахстана.
#digitalbridge2023 #Токаев #Казахстан #искусственный_интеллект #ИИ #новости_от_DRC
«Это передовая международная практика, такой шаг позволит нам задать устойчивый вектор технологического прогресса страны.. Нам следует ускорить разработку современной правовой регуляторной базы, которая будет отвечать лучшей мировой практике, учитывать и потребности рынка, и интересы граждан», - отметил президент.
По его словам, прежде всего нужно сосредоточиться на внедрении технологий ИИ в таких значимых для нашей экономики отраслях, как нефтегазовый сектор, энергетика, сельское хозяйство, транспорт, логистика и оказание госуслуг.
С помощью этого, уверен глава государства, города Казахстана могут полноценно трансформироваться в «настоящие SmartCity, пригодные для проживания и работы»
Будущие учителя, врачи, агрономы, юристы, отраслевые специалисты в обязательном порядке должны обладать базовыми знаниями в области искусственного интеллекта.
При этом, по словам Токаева, не стоит бояться того, что ИИ повсеместно заменит человеческий труд. Вместо этого вместо этого он трансформируется и будет требовать совершенно других навыков, поэтому новые компетенции надо начинать формировать ещё в школе.
Тем не менее, считает глава Казахстана, уже в ближайшие пару десятков лет мы, скорее всего, вплотную подойдем к моменту, когда машина окажется сильнее и мощнее, нежели человеческий разум.
«В научных кругах нет единого мнения, к чему это приведет: к процветанию человечества или угрозе его уничтожения. Поэтому особенно важен разумный контроль над искусственным интеллектом <…> В целом, [перед нами] стоит непростая задача интегрировать инструменты искусственного интеллекта в повседневную жизнь людей, не нарушая их права и свободы», - подытожил президент Казахстана.
#digitalbridge2023 #Токаев #Казахстан #искусственный_интеллект #ИИ #новости_от_DRC
10 ноября в Алматы состоялся очередной Центрально-Азиатский форум по управлению Интернетом (CA IGF). Он является субрегиональной инициативой глобального Форума по управлению интернетом (IGF), созываемого Генеральным секретарем ООН, с участием многих заинтересованных сторон для диалога по вопросам цифрового развития.
Основная цель Форума — создание общественной платформы для обсуждения вопросов управления Интернетом в регионе Центральной Азии и выработке рекомендаций по решению проблем новой цифровой эпохи в Казахстане, Узбекистане, Таджикистане, Кыргызстане.
Главной целью для CA IGF 2023 было заявлено «обсуждение цифрового будущего Центральной Азии, вызовов и возможностей цифровой эры, разработка рекомендаций по обеспечению доступности для всех преимуществ от использования цифровых технологий»
Одной из выступающих на форуме была заместитель директора Высшей школы права Maqsut Narikbayev University, директор DRCQ в МФЦА Дана Утеген, выступившая с докладом на тему «Кибербезопасность и система защиты прав человека в эпоху ИИ».
Основными темами доклада стали:
✔️Значение безопасности данных и кибербезопасности для обеспечения приватности и конфиденциальности информации;
✔️ Угрозы, связанные с использованием ИИ, включая атаки на персональные данные и дискриминацию на основе данных;
✔️Этические вопросы и правовые аспекты внедрения ИИ и автоматизированных систем оружия летального действия (
✔️ Наконец, роль правовых норм и международных соглашений в обеспечении безопасности и прав человека в эпоху ИИ, а также необходимость постоянного обновления стратегий и нормативных актов в этой области.
Говоря об АСОЛД и их применении эксперт особо отметила тот факт, что «использование АСОЛД затрагивает правовые, этические и моральные вопросы, которые вызывают озабоченность не только у экспертов и правительств, но и у всего международного сообщества. <…> Будь то на поле боя или на протесте, машины не могут сделать сложный этический выбор, не могут понять ценность человеческой жизни.
Тем самым можно сделать вывод, что автономная система может нарушить принцип разграничения из-за непонимания контекста и/или последствий. Понимание — это человеческая способность, и без этого понимания теряется сущность моральной ответственности и подрываются существующие правовые нормы», - подчеркнула она.
Коснулась Дана Утеген и зарубежного передового опыта по развитию правового регулирования в сфере распознавания физических лиц на основе биометрии (Европейский союз, Соединенные Штаты Америки, Соединенное Королевство Великобритании), который может быть использован для дальнейшего совершенствования национального законодательства в целях создания наиболее эффективных механизмов правовой защиты персональных данных, включая биометрическую информацию.
#новости_oт_DRCQ #форумы #Казахстан #кибербезопасность #асолд #эксперты_DRCQ #искусственный_интеллект #ca_igf_2023
Основная цель Форума — создание общественной платформы для обсуждения вопросов управления Интернетом в регионе Центральной Азии и выработке рекомендаций по решению проблем новой цифровой эпохи в Казахстане, Узбекистане, Таджикистане, Кыргызстане.
Главной целью для CA IGF 2023 было заявлено «обсуждение цифрового будущего Центральной Азии, вызовов и возможностей цифровой эры, разработка рекомендаций по обеспечению доступности для всех преимуществ от использования цифровых технологий»
Одной из выступающих на форуме была заместитель директора Высшей школы права Maqsut Narikbayev University, директор DRCQ в МФЦА Дана Утеген, выступившая с докладом на тему «Кибербезопасность и система защиты прав человека в эпоху ИИ».
Основными темами доклада стали:
✔️Значение безопасности данных и кибербезопасности для обеспечения приватности и конфиденциальности информации;
✔️ Угрозы, связанные с использованием ИИ, включая атаки на персональные данные и дискриминацию на основе данных;
✔️Этические вопросы и правовые аспекты внедрения ИИ и автоматизированных систем оружия летального действия (
✔️ Наконец, роль правовых норм и международных соглашений в обеспечении безопасности и прав человека в эпоху ИИ, а также необходимость постоянного обновления стратегий и нормативных актов в этой области.
Говоря об АСОЛД и их применении эксперт особо отметила тот факт, что «использование АСОЛД затрагивает правовые, этические и моральные вопросы, которые вызывают озабоченность не только у экспертов и правительств, но и у всего международного сообщества. <…> Будь то на поле боя или на протесте, машины не могут сделать сложный этический выбор, не могут понять ценность человеческой жизни.
Тем самым можно сделать вывод, что автономная система может нарушить принцип разграничения из-за непонимания контекста и/или последствий. Понимание — это человеческая способность, и без этого понимания теряется сущность моральной ответственности и подрываются существующие правовые нормы», - подчеркнула она.
Коснулась Дана Утеген и зарубежного передового опыта по развитию правового регулирования в сфере распознавания физических лиц на основе биометрии (Европейский союз, Соединенные Штаты Америки, Соединенное Королевство Великобритании), который может быть использован для дальнейшего совершенствования национального законодательства в целях создания наиболее эффективных механизмов правовой защиты персональных данных, включая биометрическую информацию.
#новости_oт_DRCQ #форумы #Казахстан #кибербезопасность #асолд #эксперты_DRCQ #искусственный_интеллект #ca_igf_2023
Искусственный интеллект — это свойство технических или программных систем выполнять функции, которые обычно делает человек. При этом важно учитывать, что в оригинальном значении словосочетание «artificial intelligence» не имеет антропоморфной окраски, и напрямую с человеком не связано.
Стремительное развитие технологий привело к созданию мощных алгоритмов и систем, способных выполнять сложные задачи — систем, которые раньше казались невозможными. Такой быстрый прогресс создает множество рисков, а также провоцирует тревогу в обществе. Граждан многих стран беспокоят этические аспекты использования ИИ, возможная потеря рабочих мест и риски, связанные с безопасностью и конфиденциальностью данных.
Как отмечает Елжан Кабышев, эксперт юридической фирмы Digital Rights Center Qazaqstan и менеджер правозащитных проектов в сфере цифровых прав, в Казахстане пока нет специальных законов, регулирующих создание и использование искусственного интеллекта.
О том, как регулируется развитие ИИ в современном мире, и как оно должно регулироваться в Казахстане, Елжан поговорил с изданием Masa Media.
#Казахстан #ИИ #AI #экспертиза_DRCQ #новости_DRCQ #искусственный_интеллект
Стремительное развитие технологий привело к созданию мощных алгоритмов и систем, способных выполнять сложные задачи — систем, которые раньше казались невозможными. Такой быстрый прогресс создает множество рисков, а также провоцирует тревогу в обществе. Граждан многих стран беспокоят этические аспекты использования ИИ, возможная потеря рабочих мест и риски, связанные с безопасностью и конфиденциальностью данных.
Как отмечает Елжан Кабышев, эксперт юридической фирмы Digital Rights Center Qazaqstan и менеджер правозащитных проектов в сфере цифровых прав, в Казахстане пока нет специальных законов, регулирующих создание и использование искусственного интеллекта.
О том, как регулируется развитие ИИ в современном мире, и как оно должно регулироваться в Казахстане, Елжан поговорил с изданием Masa Media.
#Казахстан #ИИ #AI #экспертиза_DRCQ #новости_DRCQ #искусственный_интеллект
DRC Qazaqstan
Photo
Европарламент большинством голосов одобрил закон об искусственном интеллекте, который вводит четыре «категории риска» (низкая, средняя, высокая и неприемлемая) для систем, основанных на AI, и запрещает использование практик, нарушающих права граждан.
Еврокомиссар по вопросам внутреннего рынка Тьерри Бретон назвал положения закона «первыми в мире всеобъемлющими правилами» искусственного интеллекта, назвав Старый Свет мировым разработчиком стандартов в этой сфере.
В частности, закон запрещает системы биометрической идентификации, которые используют изображения лиц из интернета и записи камер видеонаблюдения для создания баз данных.
Также запрещаются системы распознавания лиц в режиме реального времени, распознавание эмоций на рабочих местах и в школах, системы «социального рейтинга» и профилирования, а также системы, которые «манипулируют поведением человека» или используют его уязвимости.
Правоохранительные органы более не смогут использовать системы биометрической идентификации, за исключением особо оговоренных ситуаций (например, поиск пропавшего человека или террористическая угроза).
Для других систем на основе искусственного интеллекта с высоким уровнем риска в законе прописаны четкие правила — они должны быть прозрачными и обеспечивать человеческий контроль. Такие системы используются, например, в критически важной инфраструктуре, образовании, здравоохранении.
Системы искусственного интеллекта общего назначения должны соответствовать определенным требованиям прозрачности и соблюдать закон ЕС об авторском праве. Кроме того, искусственные или обработанные изображения должны быть четко промаркированы.
Особое внимание уделяется генеративным системам ИИ, таким как ChatGPT, которые должны раскрывать информацию о том, что контент был создан с помощью искусственного интеллекта либо нейросети. Законодательство также устанавливает обязательства для поставщиков и пользователей ИИ в зависимости от уровня риска, создаваемого ими.
Решение о регуляции искусственного интеллекта было принято на континенте еще в 2021 году. В мае 2023 года профильные комитеты Европарламента поддержали документ под названием AI Act, в июне за него проголосовали депутаты, а в декабре были согласованы главные положения будущего закона.
Сейчас в поддержку законопроекта проголосовали 523 депутата ЕП, в то время как против — всего 46, и ещё 49 человек воздержались. Теперь он должен пройти окончательную юридическо-лингвистическую проверку, а затем его одобрит Совет Европы.
AI Act вступит в силу через 20 дней после его опубликования в официальном журнале Евросоюза. Но до полного вступления его в действие останется ещё два года - этот переходный период нужен, чтобы избежать ненужных «шероховатостей».
#Европарламент #AI #законы #искусственный_интеллект #AI_Act #новости_от_DRCQ
Еврокомиссар по вопросам внутреннего рынка Тьерри Бретон назвал положения закона «первыми в мире всеобъемлющими правилами» искусственного интеллекта, назвав Старый Свет мировым разработчиком стандартов в этой сфере.
В частности, закон запрещает системы биометрической идентификации, которые используют изображения лиц из интернета и записи камер видеонаблюдения для создания баз данных.
Также запрещаются системы распознавания лиц в режиме реального времени, распознавание эмоций на рабочих местах и в школах, системы «социального рейтинга» и профилирования, а также системы, которые «манипулируют поведением человека» или используют его уязвимости.
Правоохранительные органы более не смогут использовать системы биометрической идентификации, за исключением особо оговоренных ситуаций (например, поиск пропавшего человека или террористическая угроза).
Для других систем на основе искусственного интеллекта с высоким уровнем риска в законе прописаны четкие правила — они должны быть прозрачными и обеспечивать человеческий контроль. Такие системы используются, например, в критически важной инфраструктуре, образовании, здравоохранении.
Системы искусственного интеллекта общего назначения должны соответствовать определенным требованиям прозрачности и соблюдать закон ЕС об авторском праве. Кроме того, искусственные или обработанные изображения должны быть четко промаркированы.
Особое внимание уделяется генеративным системам ИИ, таким как ChatGPT, которые должны раскрывать информацию о том, что контент был создан с помощью искусственного интеллекта либо нейросети. Законодательство также устанавливает обязательства для поставщиков и пользователей ИИ в зависимости от уровня риска, создаваемого ими.
Решение о регуляции искусственного интеллекта было принято на континенте еще в 2021 году. В мае 2023 года профильные комитеты Европарламента поддержали документ под названием AI Act, в июне за него проголосовали депутаты, а в декабре были согласованы главные положения будущего закона.
Сейчас в поддержку законопроекта проголосовали 523 депутата ЕП, в то время как против — всего 46, и ещё 49 человек воздержались. Теперь он должен пройти окончательную юридическо-лингвистическую проверку, а затем его одобрит Совет Европы.
AI Act вступит в силу через 20 дней после его опубликования в официальном журнале Евросоюза. Но до полного вступления его в действие останется ещё два года - этот переходный период нужен, чтобы избежать ненужных «шероховатостей».
#Европарламент #AI #законы #искусственный_интеллект #AI_Act #новости_от_DRCQ
DRC Qazaqstan
Photo
17 апреля 2024 на форуме «Technowoman Central Asia: AI Future» выступила директор филиала юридической фирмы DRCQ в Международном финансовом центре «Астана» (МФЦА) и заместитель директора Высшей школы права “Maqsut Narikbayev University” Дана Утеген.
Выступление Даны называлось «Необходимость усиления защиты персональных данных в условиях растущих
рисков с развитием ИИ» и прошло в рамках круглого стола «Искусственный интеллект: позитивные возможности и потенциальные риски».
По словам нашего эксперта, в целях недопущения любых нарушений неприкосновенности частной жизни, дискриминации, ограничений прав и свобод со стороны правительства или частных организаций, необходимо на основе проанализированного опыта государств, реализовавших национальные проекты по регулированию биометрических данных выявить гарантии и повышение степени государственно-правовой защиты.
«Анализ опыта государств продемонстрировала то, что принятие соответствующих законов, регулирующих защиту биометрических данных неизбежно, поскольку действующее законодательство недостаточно отвечает критериям безопасного использования технологии распознавания лиц правительственными и частными организациями», - подчеркнула Дана Утеген.
Специалист дала следующие важные рекомендации для дальнейшего совершенствования законодательства в Казахстане:
✓ дополнить действующее законодательство путем определения допустимых критериев использования технологии распознавания лиц;
✓ внести запрет массовой и неизбирательной слежки с помощью систем видеонаблюдения;
✓ запретить использование изображений казахстанцев, взятых из общедоступных источников в целях пополнения баз биометрических данных;
✓ разработать категоризацию биометрических систем с высоким и низким уровнем риска на примере опыта регулирования искусственного интеллекта в ЕС;
✓ установить запрет на использование системы биометрической идентификации в реальном времени любыми пользователями, кроме правоохранительных органов;
✓ кроме того, при применении систем распознавания лиц на практике государственным органам следует способствовать соблюдению принципов прозрачности, законности и необходимости, а также сформировать политики обработки третьих лиц.
#эксперты_DRCQ #рекомендации_DRCQ #Казахстан #биометрия #идентификация #искусственный_интеллект #новости_от_DRCQ
Выступление Даны называлось «Необходимость усиления защиты персональных данных в условиях растущих
рисков с развитием ИИ» и прошло в рамках круглого стола «Искусственный интеллект: позитивные возможности и потенциальные риски».
По словам нашего эксперта, в целях недопущения любых нарушений неприкосновенности частной жизни, дискриминации, ограничений прав и свобод со стороны правительства или частных организаций, необходимо на основе проанализированного опыта государств, реализовавших национальные проекты по регулированию биометрических данных выявить гарантии и повышение степени государственно-правовой защиты.
«Анализ опыта государств продемонстрировала то, что принятие соответствующих законов, регулирующих защиту биометрических данных неизбежно, поскольку действующее законодательство недостаточно отвечает критериям безопасного использования технологии распознавания лиц правительственными и частными организациями», - подчеркнула Дана Утеген.
Специалист дала следующие важные рекомендации для дальнейшего совершенствования законодательства в Казахстане:
✓ дополнить действующее законодательство путем определения допустимых критериев использования технологии распознавания лиц;
✓ внести запрет массовой и неизбирательной слежки с помощью систем видеонаблюдения;
✓ запретить использование изображений казахстанцев, взятых из общедоступных источников в целях пополнения баз биометрических данных;
✓ разработать категоризацию биометрических систем с высоким и низким уровнем риска на примере опыта регулирования искусственного интеллекта в ЕС;
✓ установить запрет на использование системы биометрической идентификации в реальном времени любыми пользователями, кроме правоохранительных органов;
✓ кроме того, при применении систем распознавания лиц на практике государственным органам следует способствовать соблюдению принципов прозрачности, законности и необходимости, а также сформировать политики обработки третьих лиц.
#эксперты_DRCQ #рекомендации_DRCQ #Казахстан #биометрия #идентификация #искусственный_интеллект #новости_от_DRCQ
DRC Qazaqstan
Photo
Please open Telegram to view this post
VIEW IN TELEGRAM
Международная организация по стандартизации (ISO) сделала общедоступным и бесплатным один из своих ключевых стандартов — ISO/IEC 22989. Он охватывает широкий спектр тем, связанных с управлением ИИ, и предоставляет ценные рекомендации для ответственной разработки и внедрения технологий искусственного интеллекта.
Таким образом, ISO cпособствует широкому внедрению ответственных практик в области ИИ, обеспечивая, чтобы системы искусственного интеллекта были надежными, устойчивыми, точными, безопасными и приватными.
Документ предназначен для широкой аудитории, включая как экспертов, так и непрофессионалов, предлагая понимание междисциплинарного характера ИИ, который охватывает компьютерные науки, науки о данных, естественные, гуманитарные и социальные науки.
Кроме того, данный стандарт является отличным материалом при подготовке к сертификации AI Governance Professional от IAPP.
С текстом ISO/IEC 22989 и других стандартов в этой области можно ознакомиться здесь.
#новости_от_DRCQ #искусственный_интеллект #ИИ #ISO #стандарты #AI
Таким образом, ISO cпособствует широкому внедрению ответственных практик в области ИИ, обеспечивая, чтобы системы искусственного интеллекта были надежными, устойчивыми, точными, безопасными и приватными.
Документ предназначен для широкой аудитории, включая как экспертов, так и непрофессионалов, предлагая понимание междисциплинарного характера ИИ, который охватывает компьютерные науки, науки о данных, естественные, гуманитарные и социальные науки.
Кроме того, данный стандарт является отличным материалом при подготовке к сертификации AI Governance Professional от IAPP.
С текстом ISO/IEC 22989 и других стандартов в этой области можно ознакомиться здесь.
#новости_от_DRCQ #искусственный_интеллект #ИИ #ISO #стандарты #AI