Ответственность AI за плохие советы

Ранее, я уже рассматривал ряд вопросов связанных с тем, что создатели AI-моделей находятся под ударом со стороны владельцев IP. Однако существует дополнительный пласт юридических проблем, связанных с выдачей результата работы модели. Ряд исследователей ставят вопрос: “Ответственны ли разработчики AI-моделей за вредные и опасные советы, которые выдает продукт на ее базе?”

Речь идет, прежде всего, о гражданско-правовой ответственности, то есть выеткающей из частного интереса (про государственный поговоримо отдельно). Хитрый кулинарный рецепт, приведший в пищевому отравлению; некорректные юридические и финансовые советы; опасные медицинские рекомендации - все эти кейсы могут стать основанием для исков униженных и оскорбленных, особенно в США. Ситуация ненова. Ранее американские суды рассматривали иски против YouTube и против Twitter в части ответственности платформ за создание рекомендательных алгоритмов контента якобы способствовавших рекрутингу впечатлительных пользователей в ИГИЛ. Иски провалились не выдержав тест CDA S. 230. Но раз кому-то пришло в голову судиться в инфопосредниками и дойти до Верхновного Суда, то и в случае с AI-продуктами это возможно. AI-провайдеры это понимают и пытаются прикрыться осторожными стандартными формулировками “As a language model …” и дисклеймерами о неточности выдаваемой информации.

Предлагаю к изучению пару статей из США на эту тему ответственности провайдеров AI-моделей (раз, два).

Ключевые тезисы:
1️⃣Основной стратегией защиты AI-продуктов в США станет первая поправка (free speech). Если системы не являются actionable и просто выдают осторожные текстовые советы либо графические изображения, то шансы на привлечение к ответственности - крайне низки.
2️⃣ AI-продукты, которые обращаются за данными в сеть Интернет могут быть защищены все той же CDA S. 230, ведь на цифровых заборах написано “йух”, а AI-модель просто повторяет.

Думается, что в Европе эти ваши фри спичи не прокатят. В Европе царят более жесткие диффамационные законы, а также установлены более высокие требования к инфопосредникам. Не за горами первые иски от незадачливых пользователей.
__________
@mooreslaws

Красная жара технофеодализма

Пока я функционирую, территория этого канала будет свободна от всяких марксизьмов. Однако нельзя отрицать очевидного: логика развития современного дата-капитализма нашла новые “железные дороги”, на которых ряд олигополистов генерируют сверхприбыли.

Яннис Варуфакис, написал очередную книгу о технофедализме (его Another Now вполне себе можно читать без отвращения) и дал интервью на эту же тему. Интервьюер, Аарон Бастани, благо не Дудь знал что спрашивать.

Ключевые собственные мысли по итогам интервью таковы:
1️⃣ Технофеодалы Китая и США поделят мир. Остальные останутся неудел.
2️⃣ Данные - это даже не нефть. Это новая форма земельного ресурса как в средневековье, где все остальные источники благ произрастали из земли (леса; мастбища; пахотные земли). На их базе произрастают другие продукты. Цифровая земля, если хотите.
3️⃣ Но сейчас ситуация иная. Если нарратив “земля - крестьянам” был невозможен тысячу лет назад в силу парадигмальных установок, исходящих от церкви/правителей, то сейчас каждый Пользователь Безземельный “право имеет”. Данные изначально принадлежат пользователю и это является консенсусом среди широких масс и элит. Обратное является маргинальной позицией.
4️⃣ Европа не решит свои проблемы исключительно через антимонопольное законодательство. Важно научиться создавать, а не только финансировать и писать программы до 3150 года.
__________
@mooreslaws

Запись стрима с игрой Evolution of Trust

Много говорили о применимости теории игр в регуляторной политике. В этот раз обошлись без чигаской школы, а только чистыми ментальными моделями. Видео стартует с таймкода, на котором с игровой механикой покончено и сразу переходим к выводам. А выводы такие:

1️⃣ Если институты экстрактивные, а власть захватили злоумышленники, то никакое доверие вас не спасет. Решения принимаются без учета мнения стейкхолдеров.
2️⃣ Если институты экстрактивные по причине некомпетентности и стечения обстоятельств, то восстановление доверия должно помочь.
3️⃣ Доверие появляется при условиях: повышение награды за приемлемое поведение; обеспечение максимальных убытков за необросовестное поведение; неизбежность убытков и наград за соотвествующее поведение (наказать невиновных и наградить непрчастных); увеличение числа социальных интеракций чтобы выявить и исключить злоумышленников (дружите и расширяйте круг общения); снижения вероятности ошибки (уменьшение транзакционных издержек).
4️⃣ Ну и самое главное: умение прощать ошибки и просто хорошее настроение по жизни!😁
__________
@mooreslaws

Вчера в рамках курса How To Cyberlaw мы с Виталием Болатаевым рассказали про связь фреймворка JTBD (Job to be done) и законодательства о защите прав потребителей.

В огороде бузина, а в Киеве дядька? На самом деле связь самая прямая.

Следите за руками:

1️⃣ JTBD-фреймворк направлен на выявление того, какое продуктовое решение "нанимается" на конкретную “работу” по изменению эмоционального состояния пользователя. Например когда вы чувствуете печаль из-за потери котика, вы хотите посмотреть какое-то кино, чтобы отвлечься и не чувствовать себя грустно, чтобы быть в порядке на рабочем месте завтра. Мозг в моментальном аукционе “нанимает” Netflix на решение задачи по улучшению эмоционального фона. Вся конкуренция продуктов и их борьба направлена на занятие более выгодного места в этом аукционе.
2️⃣ Это означает, что пользователи пользуются любыми продуктами, что изменить свой общий эмоциональный фон и чувствовать себя по другому (не обязательно хорошо).
3️⃣ Обращали ли вы внимание, что если вы сталкиваетесь с несправедливостью, то вы чувствуете как ярость накатывает на вас и кулаки сжимаются в гневе?
4️⃣ Все потому, что право, в широком смысле, это не только писанные законы, но и ваше внутреннее ощущение справедливости. Моральный компасс/барометр, если хотите. Петражицкий, Фуллер, Дворкин, Роулз и другие много писали о психологическом и нормативном поиске справедливости. Находя справедливость - вы получаете положительный гормональный сигнал, как и при удовлетворении продуктовых потребностей.

Вот так нейропсихология связала правовые вопросы с практиками продуктового дизайна. Проектируя понятные и честные продукты продуктовые менеджеры перестанут генерировать накопленную фрустрацию и недоверие.

Возникает вопрос: почему это важно?

Это важно для целого пласта законодательства о защите прав потребителей, которое связано с темными паттернами интерфейсов, информированием клиентов о товарах услугах, раскрытием информации о работе умных алгоритмов и др. Продуктовые менеджеры при проектировании продуктов обязаны не только гнаться за своими vanity-метриками, но и учитывать большой пласт рекомендаций, которые выработаны регуляторами с целью улучшения пользовательского опыта и повышения доверия к услугам.

Выиграют все. Проиграют недобросовестные участники, которым придется адаптироваться или уйти.
__________
@mooreslaws

How To Cyberlaw возвращается с новым потоком!

Дебют Законов Мура на коммерческом поле получился довольно неплохим. 30 слушателей, 15 лекций и много сотен единиц изученных материалов. Пробу пера оценим на 3.6 рентген в час: было и очень хорошо, но были и просадки.

Тем не менее, подавляющее большинство отзывов на лекции - положительные. Некоторые храбрецы досиживали онлайн-выступления в моем исполнении аж до полодиннадцатого ночи:)

Мы сделали выводы и второй поток предложит новым слушателям следующее УТП:
➖ короткие live-лекции по 60 минут в более раннее время;
➖предзаписанные вебинары в хоршем качестве с базовым ликбезом для входа в тему;
➖доступ к Библиотеке Мура на год, которая представляет собой тематическую базу знаний по вопросам IT-права со ссылками и пояснениями, обновляемую на ежедневной основе;
➖параллельное движение по самостоятельным модулям. Не будет необходимости ждать 4 недели своей любимой темы;
➖повысить надои количество практических чек-листов и рекомендаций, отвечающих не только на вопросы "Кто виноват?", но и "Что делать?".

Темы, как и всегда, самые важные: IP; антимонополка; Web3; AI; темные паттерны в интерфейсах; онлайн-маркетплейсы и работа с ними; вопросы приватности и управления данными. Все это, разумеется, приправлено нашей оригинальной точкой зрений "от жизни" и "от денюх", что означает не просто констатацию норм, а их оценку и целесообразность для больших и маленьких проектов.

Заполните форму участника до наступления 01.01.2024 и получите скидку 33%.
Программу и условия участия можно посмотреть по ссылке.
__________
@mooreslaws

Скрытая революция в цифровом маркетинге ЕС. Чего ждать в 2024 году? Часть 1

У цифрового бизнеса есть два врага: человек-активист и человек-бюрократ.

Первый занимается абсолютизацией своей единой и уникальной цели, которая может быть признана обществом как полезная. Любые отклонения от нормы при учете интересов активистов предлагается решать через стейкхолдерский процесс, в котором учитываются мнения разных уровней общества.

Но вот на пути стейкхолдерского процесса становится человек-бюрократ, который обладает ПОЛНОМОЧИЯМИ в рамках своей важной но очень узкой миссии. Его отклонения в поведении также предлагается регулировать некоторой коллективной процедурой будь-то демократический процесс или ручное управление по вертикали. Однако в реальности мы сталкиваемся с явлением mission creeping, когда изначальный мандат госоргана раздувается, что приводит к аргументам "да, я готов влиять на смежные сектора экономики, поскольку это необходимо для решения моих задач".

Именно это сейчас происходит в ЕС и странах ЕЕА. Следите за руками:

1️⃣ Cуд ЕС в своем решении, которое касалось злоупотребления доминантным положением Meta в части сбора согласий на использование данных, установил, что Meta не имеет права связывать несколько решений о способах использования персональных данных в единое согласие, а также осторожно высказался о возможности использования платных подписок, как альтернативных бизнес-моделей (para 150).
2️⃣ Норвегия, как мы отмечали ранее, ввела срочный бан любой таргетированной рекламы не дожидаясь решения EDPB.
3️⃣ EDPB, как европейский "парламент для DPO" принудительно объяснил ирладнскому офису, что Meta не может использовать contractual necessity и legitimate interest для сбора пользовательских данных от третьих лиц для таргетинга рекламы. То есть европейский регулятор поставил вообще под сомнение актуальную бизнес-модель практически любой социальной сети, которая зарабатывает на рекламе.
4️⃣ Meta почуяла, что пахнет жареным и перешла на модель pay-or-okay, которая предлагает переход на подписку в 10 евро/мес без использования данных со стороны внешних поставщиков либо согласиться со сбором таких данных. При этом даже в платной версии сохраняется тартетинг на основе интересов пользователей внутри самого сервиса.
5️⃣ NYOB, который в лице Макса Шремса уже дважды уронил сделку ЕС-США о транграничной передаче данных, уже объявил войну и собирается оспаривать как факт введения данной модели, так и ее ценообразование.
6️⃣ Норвегия подмахивает NYOB и намекает, что вообще было бы неплохо перевести любые рекомендательные системы на режим согласия, в том числе те, которые базируются сборе данных из самого сервиса.

Таким образом, чиновники и активисты, которые преследовали изначально благую цель транспарентности управления данными пользователей, собираемых Meta из других сервисов, завели компанию в такую ситуацию, где она должна компенсировать просадку бизнес-результатов довольно жесткими моделями с сомнительной законностью. Куда это все приведет - обсудим в следующей части.
__________
@mooreslaws

Верховный Суд ФРГ не поддержал иск Axel Springer о запрете работы AdBlocker

Крупный издательский холдинг Alex Springer особенно любит воевать с блокировщиками рекламы в виде браузерных расширений, предполагая, что бесплатный контент предполагает некий социальный контракт: мы тебе бесплатный контент, а ты смотри и кликай на наши баннеры.

Еще в 2018 году началась юридическая баталия между паблишером и разработчиком AdBlocker - Eyeo. Alex Springer утвержали, что Eyeo целенаправленно применяет разрушительные бизнес-практики и ограничивает свободу печати (че?).

Суд постановил, что пользователи имеют право не только на доступ к информации, но и право отказаться от получения ненужной информации. В частности речь шла именно о навязчивой рекламе.

Alex Springer не остановились и в лучших традициях канала Законы Мура объявили свой веб-сайт компьютерной программой, к которой AdBlocker имеет несанкционированный доступ (запрещено ToU сайта издателя). Суд не согласился в этим доводом, поскольку AdBlocker не изменял HTML-код (в отличие например от многих браузеров с настройками-темами) и работал только в внешними командами.

Дело примечательно в отношении двух пунктов:
1️⃣ Станет ли оно прецедентным в Германии в отношении прямого скрэппинга данных, которые находятся в памяти браузера? Если следовать такому подходу, то на многих сайтах-уклонистах от скрэппинга мы будем видеть стартовый пейволл с уведомлением перестать трогать данные, размещенные на сайте. Возможно даже проверка "человечности" как это уже делается Cloudflare.
2️⃣ Не так давно EDPB разъяснила применение статьи 5(3) ePrivacy директивы, которая требует получение предварительного согласия на доступ к данным пользователя. Предлагается трактовать норму расширительно и вести речь вообще о любых данных. Возникает вопрос: как сайты Axel Springer узнают о наличии AdBlocker еще до получения согласия на обработку данных? Вряд ли можно было использовать данных аргумент в отзыве на иск, однако позиция Axel Springer была заведомо проигрышной.
__________
@mooreslaws