Robocounsel
1.91K subscribers
250 photos
17 videos
79 files
635 links
О регулировании и социальных аспектах применения ИИ и данных, преимущественно в ЕС. Публикации отражают сугубо личное мнение автора.

Контакт, вопросы: используйте кнопку 💬 в левом нижнем углу.

Шрифт в логотипе - Alex Murphy Solid от Goatmeal
Download Telegram
Robocounsel
Получил сертификат CIPP/E Сегодня сдал экзамен IAPP по регулированию защиты персональных данных в Европе. Если вечером вы бы хотели поучаствовать в прямом эфире и задать вопросы по тому, зачем этот экзамен нужен, как готовиться и сдавать — ставьте сердечко.
Если вас интересует подготовка к CIPP/E

Во время эфира обозначился спрос на более детальные советы и помощь по подготовке к этому экзамену.

Когда я готовился, я сделал для себя базу знаний в Ноушен, где обобщил советы коллег и найденную мною самим информацию для успешной сдачи экзамена, в том числе:
- где брать информацию,
- какие нормативные акты и что именно в них читать,
- какие учебные пособия и чем хороши и плохи,
- какие разделы официального пособия и других источников отвечают на какие именно вопросы, указанные в IAPP exam blueprint (это не всегда очевидно),
- методика усвоения материала,
- чего ожидать на самом экзамене.

Мне для сдачи хватило 2 недель упорной подготовки, с учётом уже имеющихся знаний.

Задумываетесь о сдаче, нужны советы? Оставляйте заявку через @robocounsel_bot.
👍10
Media is too big
VIEW IN TELEGRAM
Из салона сберовского беспилотника

Делюсь интересным видео, которое наш коллега Денис Садовников снял для нас с вами вчера. Ниже приведу его комментарии.
👍4
Robocounsel
Из салона сберовского беспилотника Делюсь интересным видео, которое наш коллега Денис Садовников снял для нас с вами вчера. Ниже приведу его комментарии.
Комментарий Дениса Садовникова к предыдущему посту

«Сегодня представился замечательный случай, который я не мог упустить.

Проект автопилота для автомобилей Сберавтотех разрабатывает около 2 лет. И в этом году машины с такой системой вышли в город.

Снаружи автомобиль со всех сторон оснащён датчиками и выглядит весьма футуристично. А вот внутри в глаза бросаются только два дисплея управления, один из которых установлен на приборной доске, а второй — перед задними сиденьями. Соответственно, давать команды автопилоту можно не только с передних сидений но и с задних.

На дисплее отображается автомобиль и окружающая его обстановка, включая другие машины, пешеходов, здания, дорожную обстановку и т.д. характерно, что приборы «видят» эти предметы на довольно большом расстоянии — несколько сотен метров.

Автопилот определяет скорость и траекторию движения предметов, рассчитывает, на каком расстоянии от них держаться, по какой траектории двигаться, чтобы избежать столкновения. Машина безошибочно реагирует на сигналы светофора, уступает дорогу, когда положено, пропускает пешеходов, выбирает оптимальную скорость.

Примечательно, что для тестирования используются сложные маршруты с узкими проездами, многочисленными поворотами, светофорами и дорожными знаками, на ряде участков идёт ремонт дороги и присутствует дорожная техника. Всё это чётко определяется алгоритмами.

Интересное наблюдение: машины, припаркованные в местах, где парковка не разрешена, система воспринимает как пробку, и, вместо того, чтобы объехать, ждёт пока они тронуться.

Алгоритмы, управляющие автомобилем и детектирующие внешние объекты (могу предположить, что в последнем случае это нейросети, обученные методом reinforcement learning) ещё находятся в процессе дообучения.

Будет интересно взглянуть на прогресс через пару месяцев. В целом, впечатление очень спокойного, опытного и уверенного в себе водителя».
Pegasus: три экспертных отчёта по шпионскому ПО

Тема с Pegasus и аналогичным шпионским ПО продолжает будоражить умы. Особенно, конечно, всех беспокоят риски так называемых zero-click атак, когда ваш телефон становится, например, объектом прослушки без каких-либо активных необдуманных действий с вашей стороны.

Так было, например, когда в результате уязвимости в Ватсапе в 2019 году для установки шпионского ПО Pegasus на телефон жертвы было достаточно просто позвонить на него. В тот раз были компрометированы телефоны 1400 пользователей, включая госслужащих и правозащитников.

Тематика использования Pegasus в частности и шпионского ПО в целом спецслужбами получила новый импульс для обсуждения в 2021 году, когда проект "Pegasus" опубликовал данные о том, что объектами слежки сомнительной законности со стороны оказались порядка 50 тыс. человек.

И вот, только за последние полгода уже три европейских органа опубликовали свои отчёты и заключения по этой теме.

В частности, Европейский инспектор по защите данных (EDPS) в феврале 2022 отметил, что использование подобного ПО вряд ли может подпадать под исключение, когда слежка допускается на основе принципов необходимости и пропорциональности, и предложил запретить разработку и использование такого ПО.

В мае 2022 г. своё слово сказал отдел по конституционной политике и гражданским правам Европарламента, и вот сейчас, в июне 2022 г., также высказался и Совет Европы.

Все три отчёта — в приложении.
Джонатан Хайдт: о соцсетях в подкасте у Лекса Фридмана

Всегда интересно послушать двух умных людей. За Хайдтом, блестящим социальным психологом, я слежу давно, прочитал и его Righteous Mind, и The Coddling of American Mind. Эти книги обязательны к прочтению для всех, кто хочет понимать, как биологически обусловлены мораль и социальные нормы, почему мы все всегда будем ссориться по чувствительным вопросам типа религии и политики и как культура отмены и "безопасные пространства" способствуют ухудшению психического здоровья населения.

В недавнем подкасте с Лексом Фридманом Джонатан Хайдт приводит свои данные в поддержку того, что многие социальные сети при текущей их бизнес-модели и дизайне наносят огромный урон психическому здоровью детей, в особенности девочек препубертатного возраста.

Фридман предлагает подумать над тем, возможно ли изменить бизнес-модель и дизайн соцсетей так, чтобы они прекратили стимулировать зависимость от них и постоянное переключение внимания.

Обсуждают также вклад соцсетей и их алгоритмов и механик в ухудшающуюся политическую поляризацию общества, и, при этом, положительные эффекты соцсетей.
👍6
Опубликован стандарт ИСО/МЭК 23053:2022 об основах систем ИИ с машинным обучением

Документ устанавливает общие подходы к описанию систем искусственного интеллекта, использующих технологию машинного обучения, вводит единую терминологию, общий набор понятий.

Описываются компоненты систем и их функции в экосистеме ИИ.

Ожидается, что новый стандарт поможет более чётко объяснять устройство таких систем и излагать различные соображения по поводу их разработки и использования.
👍4
Испания открывает первую в ЕС регуляторную песочницу для стартапов с высокорисковым ИИ

Компании смогут представить свои предложения по системам искусственного интеллекта высокого риска на публичном конкурсе проектов. Запуск конкурса ожидается к концу 2022 года.

Отобранные проектные команды смогут участвовать в песочнице и примерно в течение 3 месяцев совместно с компетентными органами тестировать различные решения на соответствие будущему европейскому регламенту по ИИ.

Вчера состоялось анонсирующее мероприятие, выступления с которого можно посмотреть здесь.

Также смотрите:
программу мероприятия;
описание концепции регуляторной ИИ-песочницы;
анонс мероприятия.
👍4
Сегодня в 20:00 МСК: юристы о самом актуальном в интернете вещей, ИИ и роботехнике

Глубоко уважаемый мною Стивен Ву и другие коллеги из научно-технологической секции Американской ассоциации юристов проводят сегодня вебинар-дискуссию по этим темам.

Спикеры:

- Теодор Клейпул, партнёр Womble Bond Dickinson LLP
- Кристофер Суарез, юрист, Steptoe & Johnson LLP
- Люси Томпсон, учредитель и юрист, Livingston PLLC
- Стивен Ву, акционер и юрист, Silicon Valley Law Group

Модератор:
- Руфь Бро, юрист в области приватности и кибербезопасности
2👍2
Стивен Талер продолжает бессмысленные попытки признать программу для ЭВМ субъектом права

Ранее данный господин предсказуемо безуспешно пытался оспорить отказ в признании за своей программы для ЭВМ автором изображения.

Теперь он также пытается оспорить аналогичный отказ USPTO в признании программы для ЭВМ автором патентоспособного изобретения. Ранее в этом месяце состоялись прения сторон по данному делу, находящемуся на рассмотрении в апелляционной инстанции. Недавно Fed Circuit Blog опубликовал конспект основных аргументов из прений. Есть и аудио, а также история дела.

Господа, не тратьте зря время и деньги на подачу заведомо абсурдных заявлений, не будьте такими, как Талер.

Описывайте личный творческий вклад людей, своим умением выделивших из общей массы нагенерированного машиной мусора полезные и практически применимые результаты, и закрепляйте права за собой (своей компанией).

Программа для ЭВМ — это ваш инструмент. Психически здоровые люди не указывают свои инструменты в качестве авторов своих произведений или изобретений.

Будьте здоровы!
4👍4
Говорим — SCC, подразумеваем — ЕС? Теперь не всегда!

Управление по вопросам киберпространства Китая разместило для публичного обсуждения до 29 июля проект стандартных договорных условий (SCC) для трансграничной передачи (экспорта) персональных данных, а также проект правил по их применению.

До введения CSCC в действие (назовём так, чтобы разграничить с EU SCC) такая трансграничная передача согласно ст. 38 Закона КНР о защите персональных данных допускается только на основании (1) оценки безопасности, проводимой совместно с уполномоченным госорганом, (2) сертификации или (3) в иных случаях, предусмотренных нормативными актами. На практике сейчас скорее применимо только первое основание.

При этом CSCC не применимы (и, соответственно требуется одно из трёх описанных выше иных оснований), если экспортёр относится к любой из следующих категорий:
1) является оператором критической информационной инфраструктуры,
2) обрабатывает персональные данные 1 млн. или более субъектов,
3) экспортировал в истекшем году персональные данные, принадлежащие 100 тысяч и более субъектов,
4) экспортировал в истекшем году специальные категории персональных данных, принадлежащие 10 тысячам и более субъектов.

Каждый договор между экспортёром и импортёром персональных данных, включающий CSCC, должен быть подан в провинциальный отдел по кибербезопасности и информатизации вместе с отчётом об оценке воздействия.

Ниже — текст проектируемых CSCC и их машинный перевод на английский.
👍2
Forwarded from Ivan Begtin (Ivan Begtin)
Вокруг ИИ помощника по написанию кода Github Copilot разгораются нешуточные баталии [1], НКО Software Freedom Conservancy призывают всех разработчиков покинуть Github [2].

Причём корень проблемы в том что открытый код не делает ограничений на его использование автоматизированными системами, а ко всему ещё и при разработке Copilot не учли все нюансы повторного использования кода и смешения лицензий в итоге. Эту проблему частично пытается решить Amazon с похожим продуктом CodeWhisperer [3], может быть комбинация факторов конкурирующего продукта и волнений разработчиков повлияет на Copilot и продукт будет серьёзно обновлён.

А я на фоне Copilot и тому подобных продуктов не могу не выразить личное мнение что возможна ситуация когда написание простого кода не потребует полноценного интеллекта и следующие шаги в индустрии будут уже не в создании умных помощников, а в полноценных алгоритмах со разработчиках. Уже есть эксперименты продуктов умеющих делать продукты в no-code и low-code системах из текстового или голосового описания.

Вопрос, когда появятся умные оптимизаторы кода способные переписывать его существенные части и находить существенные ошибки и исправлять их?

А самое главное как будут меняться профессиональные и общественные отношения в связи с этими изменениями. Например, появятся ли лицензии кода запрещающие любое его использование ИИ и автоматизированными системами? Но и этого может оказаться недостаточно.

Ссылки:
[1] https://techcrunch.com/2022/07/01/open-source-developers-urged-to-ditch-github-following-copilot-launch/
[2] https://sfconservancy.org/blog/2022/jun/30/give-up-github-launch/
[3] https://techcrunch.com/2022/06/23/amazon-launches-codewhisperer-its-ai-pair-programming-tool/

#opensource
👍1
Приватность в общественном месте

Почему защита неприкосновенности частной жизни в людном общественном месте — не оксюморон, а важное общественное благо? Почему, в связи с этим, одним из самых спорных применений технологий остаётся именно биометрическое распознавание лиц в общественных местах по живому видеопотоку?

Иногда для лучшего понимания неплохо перечитать классиков. Например, «Приватность и свободу» Алана Вестина.*

Как социальное явление, приватность по Вестину — это «добровольное временное исключение себя из широкого общества, достигаемое при помощи физических или психологических средств, с нахождением в одиночестве, в небольшой и близкой компании, либо в больших коллективах на условиях анонимности или незаметности».

При этом с политико-правовой стороны он определяет приватность как «принадлежащее отдельным лицам, группам или учреждениям право самостоятельно определять, когда, как и в каких пределах информация о них может быть сообщена другим лицам».

Соответственно, с этих позиций биометрическое распознавание конкретного человека в до этого безликой толпе представляет собой значительное вмешательство в его частную жизнь. Которая да, продолжает существовать даже в общественных местах. Именно за счёт эффекта растворения, покуда и если он не будет преодолён технологически.

* Westin A.F. Privacy and freedom. New York: Atheneum, 1967. 487 с., С. 7
👍92🔥1
Британия не будет защищать изобретения и произведения, созданные компьютером

Правительство Великобритании подвело итоги общественных консультаций по данному вопросу и озвучило свои политико-правовые решения.

Объекты авторского права, созданные компьютером

Правительство не нашло достаточной доказательной базы для того, чтобы в данный момент предоставить дополнительную защиту произведениям, созданным ЭВМ без участия человека*. Адекватная политико-правовая оценка перспективных вариантов законодательства, по мнению правительства, пока невозможна, и любые изменения могут иметь непредвиденные последствия.

Изобретения, созданные компьютером

Великобритания не будет предоставлять патентную защиту избретениям, созданным ИИ без участия человека. По мнению большинства респондентов консультации системы ИИ еще недостаточно развиты, чтобы считать их деятельность изобретательской без вмешательства человека.

Интеллектуальный парсинг (датамайнинг)

Правительство планирует ввести новое исключение из режима защиты прав авторов произведений и смежных прав составителей базы данных. Исключение разрешит третьим лицам интеллектуальный анализ текста и данных (text and data mining) для любых целей. Вместе с тем правообладатели сохранят гарантии защиты принадлежащих им прав, включая требование о наличии у датамайнера законного основания для доступа к базе данных.


* Статья 9(3) Copyright, Designs and Patents Act 1988 говорит о защите произведений, созданных компьютером, но не без участия человека. Применительно к таковым авторское право признаётся за лицом, совершившим на компьютере приготовления, необходимые для появления работы на свет:

"In the case of a literary, dramatic, musical or artistic work which is computer-generated, the author shall be taken to be the person by whom the arrangements necessary for the creation of the work are undertaken".
👍7
MHC HSE Tiulkanov rev.2.pdf
745.3 KB
Перспективный ИИ и реальный человеческий контроль

Сегодня по любезному приглашению коллег выступил по этой теме на летней школе Вышки.

Что это за реальный человеческий контроль такой, зачем он нужен, и с чем его едят (пытаются есть) — вкратце описал в презентации во вложении.

Там же есть полезная литература по теме для интересующихся дальнейшими подробностями.

Enjoy!
🔥12
GOV.UK_Sandbox_Report.pdf
5.4 MB
Трансграничные регуляторные песочницы данных

Департамент (по-нашему — министерство) цифрового развития, культуры, СМИ и спорта Великобритании недавно опубликовало исследование о построении трансграничных песочниц данных.

Отчёт описывает типологию регуляторных песочниц данных и формирующийся опыт их построения в трансграничном формате.

Обозначаются ситуации и технологии, для которых могут быть полезны такие песочницы, а также основные проблемы при их создании.

Предлагается типовой план построения и развития песочницы, включая определение критериев для выбора участников.
👍5
Стандартное соглашение об обработке персональных данных

Специалисты по прайваси насмотрелись на OneNDA и создали OneDPA — на тех же принципах краудсорсинга и стандартизации — но для регулирования обработки персональных данных.

Основные зачинщики проекта — PWC и ContractPodAI. Также на сайте указаны и иные участники, в числе которых целый ряд всем известных организаций.

Скачать и почитать подробнее можно здесь.

Инструмент годится для тех, на кого распространяется GDPR или его британская версия.

Коллеги, давайте смотреть и высказываться в комментариях. Оно нам (применяющим GDPR) нравится, не нравится, и почему...

Также, пожалуйста, делитесь, если вам известны другие аналогичные краудсорс-инициативы по стандартизации документов об условиях обработки персональных данных — в Европе или в других регионах.
👍9