Оценка и аудит алгоритмических систем
Обсерватория политики в отношении ИИ ОЭСР опубликовала обзор методов оценки и аудита алгоритмических систем.
В документе выделены 4 направления оценки / аудита, а также их взаимосвязь с жизненным циклом алгоритмических систем и уровнями их рисков
#ИИ #AI #ОЭСР #OECD #TechnologyAssessment
Обсерватория политики в отношении ИИ ОЭСР опубликовала обзор методов оценки и аудита алгоритмических систем.
В документе выделены 4 направления оценки / аудита, а также их взаимосвязь с жизненным циклом алгоритмических систем и уровнями их рисков
#ИИ #AI #ОЭСР #OECD #TechnologyAssessment
oecd.ai
Familiar methods can help to ensure trustworthy AI as the algorithm auditing industry grows
This is a first step towards defining the key components of algorithm auditing.
Депутаты ГосДумы @Hinshtein и @petr_tolstoy активно обсуждают возможность передачи персональных данных по сути в коммерческий оборот.
При этом действительно стоит вспомнить, что достаточно серьезные именения их правового режима предусматриваются в рамках экспериментальных правовых режимов, в том числе "московского эксперимента" по искусственному интеллекту. Возможно, стоит сначала оценить результативность указанных экспериментов, прежде чем вводить общее регулирование?
#PersonalData #ЭПР #ИИ
При этом действительно стоит вспомнить, что достаточно серьезные именения их правового режима предусматриваются в рамках экспериментальных правовых режимов, в том числе "московского эксперимента" по искусственному интеллекту. Возможно, стоит сначала оценить результативность указанных экспериментов, прежде чем вводить общее регулирование?
#PersonalData #ЭПР #ИИ
Telegram
Александр Хинштейн
https://t.iss.one/petr_tolstoy/1174
Это не первая попытка вовлечь персональные данные абонентов в коммерческий оборот, что по мнению IT-комитета Госдумы нарушает тайну связи.
Весной правительство уже вносило большой пакет поправок, в связи со вступлением в…
Это не первая попытка вовлечь персональные данные абонентов в коммерческий оборот, что по мнению IT-комитета Госдумы нарушает тайну связи.
Весной правительство уже вносило большой пакет поправок, в связи со вступлением в…
Как пишет @protivrakaru - готовится к старту один из трех медицинских проектов в рамках нового закона об экспериментальных правовых режимах (ЭПР): компания «Дата МАТРИКС» получила право на оцифровку рутинной клинической практики применения лекарственных средств в РФ.
Исследования рутинной клинической практики планируется проводить с использованием технологий искусственного интеллекта. Согласно заявке, данные будут передаваться оператору в обезличенном виде от медицинской организации по защищенному каналу, а для их обезличивания оператор будет предоставлять специально разработанную программу. На основании результатов исследований субъект ЭПР будет создавать аналитические отчеты о сравнительной эффективности и безопасности лекарственной терапии, а также о тяжести протекания заболеваний. Полученные таким образом аналитические документы могут быть предоставлены на возмездной основе медицинским, фармацевтическим, контрактным исследовательским организациям или физическим лицам, заинтересованным в результатах исследований по конкретному заболеванию.
#эпр #медицина #ИИ
Исследования рутинной клинической практики планируется проводить с использованием технологий искусственного интеллекта. Согласно заявке, данные будут передаваться оператору в обезличенном виде от медицинской организации по защищенному каналу, а для их обезличивания оператор будет предоставлять специально разработанную программу. На основании результатов исследований субъект ЭПР будет создавать аналитические отчеты о сравнительной эффективности и безопасности лекарственной терапии, а также о тяжести протекания заболеваний. Полученные таким образом аналитические документы могут быть предоставлены на возмездной основе медицинским, фармацевтическим, контрактным исследовательским организациям или физическим лицам, заинтересованным в результатах исследований по конкретному заболеванию.
#эпр #медицина #ИИ
Telegram
Вместе против рака
Готовится к старту один из трех утвержденных Госдумой медицинских проектов в рамках нового закона об экспериментальных правовых режимах (ЭПР), единственный в области Real World Evidence (RWE): компания «Дата МАТРИКС» получила право на оцифровку рутинной клинической…
Опубликован AI Index Report 2022 Стэнфордского университета.
В документе отмечается развитие регулирования искусственного интеллекта, в том числе рост числа законопроектов в данной сфере в 25 странах - с одного в 2016 году до уже восемнадцати в 2021 году.
#ИИ #AI
В документе отмечается развитие регулирования искусственного интеллекта, в том числе рост числа законопроектов в данной сфере в 25 странах - с одного в 2016 году до уже восемнадцати в 2021 году.
#ИИ #AI
Новая статья про регулирование искусственного интеллекта в Евросоюзе (доступна через open access format журнала Policy Sciences):
The Politics of Artificial Intelligence regulation and governance reform in the European Union.
#EU #AI #ИИ
https://link.springer.com/article/10.1007/s11077-022-09452-8
The Politics of Artificial Intelligence regulation and governance reform in the European Union.
#EU #AI #ИИ
https://link.springer.com/article/10.1007/s11077-022-09452-8
SpringerLink
The politics of Artificial Intelligence regulation and governance reform in the European Union
Policy Sciences - This paper explores political drivers and policy process of the reform of the framework for Artificial Intelligence regulation and governance in the European Union (EU). Since...
В госкорпорации «Росатом» разработан прототип модуля «Интеллектуальный анализ проектной документации», который предполагает применение технологий искусственного интеллекта и машинного обучения для распознавания требований в нормативной документации.
#ИИ #AI #Росатом
#ИИ #AI #Росатом
Forwarded from bitkogan
🗣 CEO OpenAI Сэм Альтман выступил на днях в сенате США
В основном на заседании шла речь о регуляции новых масштабных ИИ-моделей, которые могут появиться в ближайшем будущем.
🔹Альтман просит сенат создать ИИ-агентство, своеобразный аналог МАГАТЭ в США, которое бы регулировало такие ИИ-модели и процедуры.
🔹Также обсуждали риски искусственного интеллекта и проблему защиты персональных данных. Отчасти потому, что в США все еще нет федерального закона по обработке персональных данных пользователей.
💡Интересный момент, в сенате понимают, что жесткое регулирование может навредить ИИ-энтузиастам и замедлить индустрию ИИ в стране.
В то же время этого совершенно не боятся в Европе.
📑 11 мая был предложен черновой вариант Европейского AI Act, согласно которому теперь каждая ИИ-модель будет требовать лицензирования для использования в Европе.
По сути акт поставит вне закона open source решения, так как разработчики не будут тратить время и деньги на лицензирование.
Так что со своим желанием зарегулировать всё на корню европейцы «стреляют себе в ногу».
Необходима ли регуляция ИИ?
Я считаю, что она жизненно важна, т. к. крупные корпорации, способные натренировать такие модели несут ответственность перед обществом в любой стране.
Безусловно, искусственный интеллект – это будущее, но в то же время неизвестно какие опасности и риски он в себе таит.
Исторически обычно было так, что правила безопасности писались кровью.
Появлялась новая технология ➡️ она приводила к гибели множества людей ➡️ затем уже формировались правила.
Так было
📍и с различными производствами,
📍и с ядерной энергетикой,
📍и даже с ремнями безопасности в автомобилях.
В случае же с AI, риски слишком высоки чтобы вновь разрабатывать правила эмпирическим путём, только после того, как вскроются проблемы и от них пострадают люди.
⚖️ Но важен баланс, слишком строгие правила ограничат развитие технологии.
Посмотрим, о чем договорятся в итоге в США, ведь этот момент войдет в историю человечества.
#ИИ #регулирование
@bitkogan
В основном на заседании шла речь о регуляции новых масштабных ИИ-моделей, которые могут появиться в ближайшем будущем.
🔹Альтман просит сенат создать ИИ-агентство, своеобразный аналог МАГАТЭ в США, которое бы регулировало такие ИИ-модели и процедуры.
🔹Также обсуждали риски искусственного интеллекта и проблему защиты персональных данных. Отчасти потому, что в США все еще нет федерального закона по обработке персональных данных пользователей.
💡Интересный момент, в сенате понимают, что жесткое регулирование может навредить ИИ-энтузиастам и замедлить индустрию ИИ в стране.
В то же время этого совершенно не боятся в Европе.
📑 11 мая был предложен черновой вариант Европейского AI Act, согласно которому теперь каждая ИИ-модель будет требовать лицензирования для использования в Европе.
По сути акт поставит вне закона open source решения, так как разработчики не будут тратить время и деньги на лицензирование.
Так что со своим желанием зарегулировать всё на корню европейцы «стреляют себе в ногу».
Необходима ли регуляция ИИ?
Я считаю, что она жизненно важна, т. к. крупные корпорации, способные натренировать такие модели несут ответственность перед обществом в любой стране.
Безусловно, искусственный интеллект – это будущее, но в то же время неизвестно какие опасности и риски он в себе таит.
Исторически обычно было так, что правила безопасности писались кровью.
Появлялась новая технология ➡️ она приводила к гибели множества людей ➡️ затем уже формировались правила.
Так было
📍и с различными производствами,
📍и с ядерной энергетикой,
📍и даже с ремнями безопасности в автомобилях.
В случае же с AI, риски слишком высоки чтобы вновь разрабатывать правила эмпирическим путём, только после того, как вскроются проблемы и от них пострадают люди.
⚖️ Но важен баланс, слишком строгие правила ограничат развитие технологии.
Посмотрим, о чем договорятся в итоге в США, ведь этот момент войдет в историю человечества.
#ИИ #регулирование
@bitkogan
Forwarded from Info Law MSAL (Alexey Yefremov)
Искусственный интеллект заменит врачей?
🔶️ Недавно в статье Today была рассказана история Алекса, который с четырех лет испытывал хроническую боль, трудности с ходьбой и неконтролируемые перепады настроения. Мать ребенка три года пыталась выяснить причину болезни — за это время они посетили 17 врачей от педиатра до стоматолога. В итоге женщина обратилась к искусственному интеллекту. Всемизвестный Chat GPT поставил мальчику редкий диагноз — расщепление позвоночника и порок развития спинного мозга. Алексу провели операцию, которая помогла избавиться от болезни.
❓ Сможет ли искусственный интеллект заменить врачей?
❗ Отвечает профессор кафедры информационного права и цифровых технологий Университета имени О.Е. Кутафина (МГЮА) Алексей Ефремов:
«Применение цифровых технологий, в том числе технологий обработки больших данных и искусственного интеллекта - уже достаточно распространенное явление. Огромную помощь московских врачам во время пандемии COVID-19 оказали технологии анализа снимков легких больных. Вместе с тем, помощь цифровых технологий при постановке диагноза - это именно помощь, а решение должно оставаться за живым человеком - врачом».
🔶️ Вопросы же юридической ответственности за решения, принятые системами ИИ, пока остаются предметом дискуссии, существуют различные подходы к определению ее субъекта.
«Я поддерживаю ту точку зрения, что само принятие решения должно оставаться за человеком, даже на основе рекомендаций систем ИИ, и он должен оставаться субъектом юридической ответственности. Тем более, что практика такой ответственности очень сложная в настоящее время» — отмечает Алексей Ефремов
#МГЮА #ИИ #AI #телемедицина
🔶️ Недавно в статье Today была рассказана история Алекса, который с четырех лет испытывал хроническую боль, трудности с ходьбой и неконтролируемые перепады настроения. Мать ребенка три года пыталась выяснить причину болезни — за это время они посетили 17 врачей от педиатра до стоматолога. В итоге женщина обратилась к искусственному интеллекту. Всемизвестный Chat GPT поставил мальчику редкий диагноз — расщепление позвоночника и порок развития спинного мозга. Алексу провели операцию, которая помогла избавиться от болезни.
❓ Сможет ли искусственный интеллект заменить врачей?
❗ Отвечает профессор кафедры информационного права и цифровых технологий Университета имени О.Е. Кутафина (МГЮА) Алексей Ефремов:
«Применение цифровых технологий, в том числе технологий обработки больших данных и искусственного интеллекта - уже достаточно распространенное явление. Огромную помощь московских врачам во время пандемии COVID-19 оказали технологии анализа снимков легких больных. Вместе с тем, помощь цифровых технологий при постановке диагноза - это именно помощь, а решение должно оставаться за живым человеком - врачом».
🔶️ Вопросы же юридической ответственности за решения, принятые системами ИИ, пока остаются предметом дискуссии, существуют различные подходы к определению ее субъекта.
«Я поддерживаю ту точку зрения, что само принятие решения должно оставаться за человеком, даже на основе рекомендаций систем ИИ, и он должен оставаться субъектом юридической ответственности. Тем более, что практика такой ответственности очень сложная в настоящее время» — отмечает Алексей Ефремов
#МГЮА #ИИ #AI #телемедицина
Дзен | Блогерская платформа
🧠 Искусственный интеллект заменит врачей? Отвечает юрист!
Статья автора «МГЮА» в Дзене ✍: Недавно в статье Today была рассказана история Алекса, который с четырех лет испытывал хроническую боль, трудности с ходьбой и неконтролируемые перепады настроения.
Новый дивный мир - с встроенной самоцензурой ИИ.
«При этом теперь модель теряет в креативности генерации, признал Греф: «Мы последние полгода модель не могли выставить, потому что мы закручивали настройки безопасности. При этом модель в общем доступе потеряла 12% в креативности и точности. Нам придется пройти через этот период. Нужна помощь государства в снисхождении и понимании, что мы как дети пока здесь, — нас сильно не судить. Потому что когда разработчиков и нас пригласили в прокуратуру… Хорошо, что прокурор такой современный попался, с чувством юмора, — он все изучил, и, слава богу, нас никуда не привлекли. Он сказал: ребята, давайте идите работайте, но будьте поаккуратнее. Могло бы быть иначе».
#ИИ #прокуратура #сбербанк
https://www.rbc.ru/finances/08/11/2023/654b54359a79471eee235b36
«При этом теперь модель теряет в креативности генерации, признал Греф: «Мы последние полгода модель не могли выставить, потому что мы закручивали настройки безопасности. При этом модель в общем доступе потеряла 12% в креативности и точности. Нам придется пройти через этот период. Нужна помощь государства в снисхождении и понимании, что мы как дети пока здесь, — нас сильно не судить. Потому что когда разработчиков и нас пригласили в прокуратуру… Хорошо, что прокурор такой современный попался, с чувством юмора, — он все изучил, и, слава богу, нас никуда не привлекли. Он сказал: ребята, давайте идите работайте, но будьте поаккуратнее. Могло бы быть иначе».
#ИИ #прокуратура #сбербанк
https://www.rbc.ru/finances/08/11/2023/654b54359a79471eee235b36
РБК
Греф рассказал о вызове разработчиков «Сбера» в прокуратуру из-за ИИ
Сотрудников Сбербанка вызывали в прокуратуру из-за того, что депутаты были недовольны изображениями от нейросети Kandinsky, рассказал Герман Греф. Алгоритм пришлось редактировать, и модель потеряла в
Мы не раз ранее обращались к теме обеспечения расчетов МСИ верифицированными данными (в таких расчетах нет ничего суперсложного, но сложен исходный шаг - создать базы данных по затратам и затем поддерживать их в актуальном состоянии).
Обратимся к Стратегии в области данных, разработанной Еврокомиссией ещё в 2020 году.
«Создание единого пространства данных частного и государственного секторов ради их использования на благо всего общества» - так можно сформулировать основную цель этой Стратегии.
Неперсональные данные, генерируемые агентами экономических отношений, несут в себе большой потенциал для инновационного развития территорий. Граждане и органы власти должны иметь доступ к ним, ведь это откроет для них возможности доказательного (data-driven) принятия решений, для чего и понадобится межсекторальный фреймворк данных.
К настоящему времени уже вступили в силу четыре ключевых документа, регулирующих аспекты управления данными на территории ЕС (+ на стадии разработки находится проект по регулированию ИИ). Главный из них – «The Data Act» - начнет исполняться с 2025. В нём прописана нормативная база шеринга данными, которая существенно расширяет возможности доступа к ним как потребителей/бизнеса, так и органов власти. Закреплены такие важнейшие понятия, как «Интернет вещей» и «связанные товары» (connected products).
Отдельно подчеркивается обязанность бизнеса предоставлять имеющиеся данные государству, когда это необходимо, например, в чрезвычайных ситуациях или когда иные способы доступа к данных не позволили их получить (для срочных задач управления/регулирования). Предполагается компенсация бизнесу со стороны государства за понесенные издержки по предоставлению информации.
#МСИ #IoT #Еврокомиссия #данные #data #DataDriven #ИИ #AI
Обратимся к Стратегии в области данных, разработанной Еврокомиссией ещё в 2020 году.
«Создание единого пространства данных частного и государственного секторов ради их использования на благо всего общества» - так можно сформулировать основную цель этой Стратегии.
Неперсональные данные, генерируемые агентами экономических отношений, несут в себе большой потенциал для инновационного развития территорий. Граждане и органы власти должны иметь доступ к ним, ведь это откроет для них возможности доказательного (data-driven) принятия решений, для чего и понадобится межсекторальный фреймворк данных.
К настоящему времени уже вступили в силу четыре ключевых документа, регулирующих аспекты управления данными на территории ЕС (+ на стадии разработки находится проект по регулированию ИИ). Главный из них – «The Data Act» - начнет исполняться с 2025. В нём прописана нормативная база шеринга данными, которая существенно расширяет возможности доступа к ним как потребителей/бизнеса, так и органов власти. Закреплены такие важнейшие понятия, как «Интернет вещей» и «связанные товары» (connected products).
Отдельно подчеркивается обязанность бизнеса предоставлять имеющиеся данные государству, когда это необходимо, например, в чрезвычайных ситуациях или когда иные способы доступа к данных не позволили их получить (для срочных задач управления/регулирования). Предполагается компенсация бизнесу со стороны государства за понесенные издержки по предоставлению информации.
#МСИ #IoT #Еврокомиссия #данные #data #DataDriven #ИИ #AI
Forwarded from HCAI // Регулирование ИИ
Please open Telegram to view this post
VIEW IN TELEGRAM