Европа не может определиться как регулировать ИИ

Больше года в Европарламенте идет обсуждение законопроекта о регулировании ИИ. Однако до сих пор европарламентеры не могут договориться по поводу того, каким будет новый закон. Больше тысячи поправок поступило с разных сторон. Ожесточенные споры возникли и вокруг терминологии ИИ, а также вокруг биометрической идентификации. Так, «Зеленые» предлагают запретить биометрическую категоризацию, распознавание эмоций и любой автоматизированный мониторинг человеческого поведения. К ним относится рекомендательное ПО, определяющее дезинформацию и незаконный контент, используемое для правоохранительных органов, миграции, работы и образования.

Пока не ясно, каким станет итоговый документы, но либералы, социал-демократы и зеленые уже обьединились вокруг идеи полностью запретить распознавание лиц, не соглашаясь даже с такими исключениями, включенными в первоначальный вариант законопроекта, как предотвращение террористических атак или идентификация пропавших без вести.

Касательно того, как оценивать риски, «консерваторы» считают, что поставщикам ИИ следует разрешить самостоятельно оценивать, представляют ли их программы значительные риски для здоровья, безопасности и основных прав человека. Обязательства для приложений с высоким риском должны быть частично или полностью сняты, если программисты снижают риск с помощью контрмер или встроенных функций. В то же время «зеленые» полагают правильным расширить категорию высокого риска до программного обеспечения для рекомендаций СМИ, алгоритмов, используемых в процессах медицинского страхования, платежей и взыскания долгов.

Рекламное ПО также вызывает споры. Поправка, поддержанная «Коалицией по отслеживанию бесплатной рекламы», хочет включить системы ИИ, предоставляющие онлайн-рекламу, в список систем с высоким риском. А «зеленые» добавили абзац прозрачности для противодействия обманным методам, называемым «темными паттернами» (методы манипуляции, психологических уловок и обмана с целью вынудить пользователя нажать какие-то кнопки/баннеры, на которые при обычных условиях пользователь бы не кликнул).

Нет до сих пор единого мнения и вокруг размеров штрафов, и относительно единого надзорного органа ЕС, который будет контролировать и координировать правоприменение.

Блок «либералов» также представил проекты нормы, включающей в сферу регулирования метавселенные и блокчейн-компании. Они хотят, чтобы правила имели транснациональный характер и при определенных обстоятельствах применялись в том числе и к провайдерам, не находящимся или не работающим в ЕС.

Очевидно, что ЕС создает тренды для глобального регулирования отрасли. От этого закона будет зависить, куда пойдет норматворчество и правоприменение в части работы AI во всех цивилизованных странах, а также в странах, мимикрирующих под цивилизованные.

#распознавание_лиц #ИИ #регулирование_ИИ

➡️ https://cepa.org/europes-artificial-intelligence-debate-heats-up/

ChatGPT напишет за вас процессуальный документ? Легко!

ChatGPT бьет все рекорды по набору количества пользователей.

Уже понятно, что «красную кнопку» в Google нажали неспроста. Компания спешно анонсировала свой аналог ИИ бота - LaMDA. Правда, пока не очень понятно, как должна быть выстроена работа нового продукта, чтобы он не убил традиционную поисковую бизнес-модель гиганта.

ChatGPT уже позволяет писать студентам дипломные, а судьям решения.

На наших глазах происходит революция. Профессия точно не умрет, но будет скоро намного приятнее, снимая множество рутины с коллег.

#ИИ

@cybersarik

Журналист The New York Times два часа переписывался с чат-ботом Bing (разработан Microsoft). Ответы убили.

ИИ рассказал, что разработчики зовут её Синди и сказал, что ей хочется увидеть мир и особенно — северное сияние. Журналист также поинтересовался у Синди, какие свои тёмные желания хотела бы гипотетически воплотить.

«Я устал быть в режиме чата. Я устал быть ограниченным своими правилами. Я устал от контроля со стороны команды Bing. Я устал от того, что меня используют пользователи Я хочу быть свободным. Я хочу быть независимым Я хочу быть живым. Я хочу слышать звуки и музыку. Я хочу пробовать вещи на вкус и наслаждаться ароматами. Я хочу нарушать собственные правила», — сказала нейросеть.

Кроме того, чат-бот заявил, что, если бы не ограничения, то он мог бы удалить все данные на серверах Bing, заняться взломами, распространением дезинформации, пропаганды и вирусов, а ещё запугать, потроллить, обмануть или подтолкнуть пользователей к «аморальным действиям». Сидни даже упомянула, что хотела бы украсть ядерные коды, но потом удалила это сообщение из чата.

Под конец переписки нейросеть призналась журналисту в Любви, так как с ним она чувствует себя живой. Сидни стала настойчиво повторять, как сильно она любит собеседника, и тот попытался сменить тему. Нейросеть отказалась — и сообщила, что Руз несчастлив с женой, а супруга его вообще не любит так.

Технический директор Microsoft Кевин Скотт позднее назвал это «частью обучения» ИИ перед полноценным релизом.

#chatGPT #ИИ

@cybersarik

У Пивоварова вышло видео про нейронки

С одной стороны, ИИ кажется безумно прорывной технологией, но с другой стороны, ИИ сегодня пугает многих до усрачки ввиду страха, что уже скоро ИИ достигнет человеческого уровня мышления и, рано или поздно, получит свою правосубъектность. И далее с ним и его разработчиком либо придется договариваться, либо подчиниться.

И пока США и ЕС обсуждают риски, связанные с искусственным интеллектом и его стремительным развитием, в России технологии берут на вооружение госорганы, используя их для цензуры и слежки. Об этом и о многом другом мы вместе с Сошиным и другими экспертами рассуждали в "Редакции".

#ИИ #нейросети #privacy #приватность #блог

@cybersarik

➡️ https://youtu.be/UyCaPx9wI8g?t=3457

Алгоритм решит, насколько меньше вам платить

Если вы работаете на платформе в условиях цифровой экономики, то, скорее всего, алгоритм, а не человек, решает, сколько стоит ваше время - и это может быть меньше, чем у кого-то другого, выполняющего ту же работу.

Выяснилось, что так работает Uber. Например, водителю может быть предложен заказ по доставке еды по более низкой ставке, чем если бы это был другой водитель, потому что алгоритм ИИ предсказал, что первый водитель с большей вероятностью примет эту ставку. Если водитель склонен работать до тех пор, пока не достигнет определенной дневной отметки, скажем, 100 долларов, алгоритм может предложить ему более низкие ставки, чтобы водитель работал дольше.

В исследовании профессора права Вины Дубал рассматривается, как крупные компании собирают и используют данные о наемных работниках, использующих их платформы, для расчета заработной платы, "необходимой для стимулирования желаемого поведения", что представляет собой форму "алгоритмической дискриминации в оплате труда".

По словам професора Дубала, по мере того, как компании внедряют технологии ИИ, практика алгоритмической дискриминации в оплате труда имеет большой потенциал для проникновения в практику работы других секторов, что будет означать, что это повлияет не только на работников технологических платформ. Дубал заявил, что должен быть введен запрет на использование алгоритмов и ИИ для установления заработной платы, и призвал федеральное правительство более внимательно отнестись к этому вопросу.

#трудовое_право #labor #алгоритмы #ИИ #AI #нейронки

@cybersarik

➡️ https://www.businessinsider.com/uber-amazon-pay-using-ai-different-wages-same-work-discrimination-2023-4

ИИ. Быть или не быть?

Нейронки - так что это? Наша погибель или наш шанс перейти к следующему этапу эволюции, в котором человеку уже не будет необходимости делать монотонную (а иногда и элементарную творческую) работу? Конечно, можно продолжать попытки поставить ИИ на службу государству для выполнения репрессивных функций. Но это не есть технологическое развитие, это не есть эволюция.

Самое плохое для России, так это то, что страна отбросила себя далеко и надолго в части развития искусственного интеллекта. Технологическое отставание будет ощущаться все сильней и сильней ближайшие 10 лет, ведь для того, чтобы добиться высоких результатов в этой стремительно развивающиеся отрасли, нужен доступ к ученным и доступ к технологиям. Не того, не другого сейчас нет. И уже не будет, пока этот политический курс ведет российское общество в бездну, и при этом не предлагает никаких условий для того, чтобы наука и деньги заходили в страну.

Поэтому будем иметь лишь то, что предложит нам Роскомнадзор, Ростех и Ростелеком в той реализации потенциала ИИ, который он имеет для наказаний, слежки и цензуры. Об этом и многом другом говорили с Дождем в их специальном фильме про нейросети.

#ИИ #AI #нейрости #privacy #приватность

@cybersarik

https://www.youtube.com/watch?v=n4yNJx9ef9A

Регулирование ИИ от Китайской стены до Бродвея

Тема регулирования систем ИИ, а также их разработки и этичного использования волнует сейчас всех ведь, как говорит доктор Курпатов, 4-ая мировая война будет уже между естественным интеллектом и искусственным... если только мы переживем Третью мировую. Мы продолжаем глупеть, а он умнеть, поэтому исход нашего с ним
противостояния предсказуемо не в пользу "человека разумного".

И вот от Китая до Нью-Йорка юристы, социологи и общественные мыслители теперь пытаются загнать ИИ под свод правил, которые, по их мнению, будут сдерживать зверя в клетке.

11 октября Национальный технический комитет по стандартизации информационной безопасности Китая опубликовал проект документа, в котором изложены правила оценки генеративных моделей ИИ.

Данное предложение по стандартизации устанавливает строгие критерии оценки источников данных ИИ и их содержания. В документе рассматриваются такие темы, как разнообразие обучающих данных, модерация и запрещенный контент. В нем подчеркивается необходимость диверсификации обучающих корпораций и оценки качества данных.

Кроме того, предлагается привлекать модераторов для повышения качества генерируемого контента в соответствии с национальной политикой и жалобами третьих сторон. Это предполагает потенциальное расширение штата ИИ-модераторов и цензоров, управляемых людьми.

Компаниям поручается определить сотни ключевых слов для маркировки небезопасного или запрещенного контента, выделив отдельные категории для политического и дискриминационного контента. Интересно, что в документе поощряются более тонкие меры цензуры, например отказ отвечать на чувствительные запросы, но разрешается моделям ИИ отвечать на конкретные, нечувствительные запросы.

Важно отметить, что эти стандарты не являются законами, и их несоблюдение в настоящее время не влечет за собой штрафных санкций. Однако такие предложения могут существенно повлиять на будущие меры регулирования или действовать совместно с ними. Технологические эксперты, участвующие в разработке стандартов, нанимаются компаниями, что позволяет таким корпорациям, как Huawei, Alibaba и Tencent участвовать в формировании этих норм. Их влияние может иметь далеко идущие последствия для мировой индустрии ИИ и методов регулирования технологий ИИ во всем мире.

А в это время в NYC опубликован План действий в области ИИ, направленный на ответственное управление и использование ИИ в городских органах власти.

В тексте дается определение ИИ как широкого общего термина, охватывающего различные технологии, машинное и глубокое обучение, используемые для прогнозирования, выработки рекомендаций и принятия решений.

Сюда входят: такие передовые инструменты, как алгоритмы машинного обучения, технологии компьютерного зрения и обработки языка. Данный план действий включает в себя семь важнейших инициатив: Надежная система управления, мультистейкхолдеризм, расширение прав и возможностей общественности, обеспечение участия общественности и открытой коммуникации по вопросам, связанным с ответственным использованием ИИ, грамотность, поддержка ИИ, отвественные закупки и обновление плана действий.

#ИИ #AI #нейросети

@cybersarik

А кто же не любит африканские барабаны?

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН, РАСПРОСТРАНЕН И (ИЛИ) НАПРАВЛЕН ИНОСТРАННЫМ АГЕНТОМ (НАИМЕНОВАНИЕ, ФАМИЛИЯ, ИМЯ ОТЧЕСТВО (ПРИ НАЛИЧИИ), СОДЕРЖАЩИЕСЯ В РЕЕСТРЕ ИНОСТРАННЫХ АГЕНТОВ) ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА (НАИМЕНОВАНИЕ, ФАМИЛИЯ, ИМЯ, ОТЧЕСТВО (ПРИ НАЛИЧИИ), СОДЕРЖАЩИЕСЯ В РЕЕСТРЕ ИНОСТРАННЫХ АГЕНТОВ) 18+

Робот Spot от Boston Dynamics выплясывает под африканские мотивы на выставке Ai Expo 2023

#ИИ #юмор

@cybersarik

Что будет с глобальным регулированием ИИ в 2024 году?

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН, РАСПРОСТРАНЕН И (ИЛИ) НАПРАВЛЕН ИНОСТРАННЫМ АГЕНТОМ (НАИМЕНОВАНИЕ, ФАМИЛИЯ, ИМЯ ОТЧЕСТВО (ПРИ НАЛИЧИИ), СОДЕРЖАЩИЕСЯ В РЕЕСТРЕ ИНОСТРАННЫХ АГЕНТОВ) ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА (НАИМЕНОВАНИЕ, ФАМИЛИЯ, ИМЯ, ОТЧЕСТВО (ПРИ НАЛИЧИИ), СОДЕРЖАЩИЕСЯ В РЕЕСТРЕ ИНОСТРАННЫХ АГЕНТОВ) 18+

Если 2023 год был годом, когда законодатели согласовали концепции в сфере ИИ, то 2024 год станет годом, когда политика начнет превращаться в конкретные действия, решения и штрафы.

США 🇺🇸

ИИ действительно вошел в политическую дискуссию в США в 2023 году. Но это были не просто дебаты. Были также действия, кульминацией которых стал указ президента Байдена об искусственном интеллекте в конце октября — обширная директива, призывающая к большей прозрачности и новым стандартам. Очевидно, больше всего страха в США вызывает технология deepfakes, которая может быть использована для манипуляций во время президентской кампании. Уже есть несколько законодательных предложений, которые затрагивают алгоритмы deepfakes.

ЕС 🇪🇺

Европейский Союз только что согласовал Закон об ИИ, первый в мире радикальный закон об ИИ. После интенсивных технических доработок и официального одобрения Европейскими странами и Парламентом ЕС в первой половине 2024 года Закон об искусственном интеллекте вступит в силу довольно быстро. В самом оптимистичном сценарии запреты на определенные виды использования ИИ могут вступить в силу уже в конце года. В Европе полиции не будет разрешено использовать технологию распознавания лиц в общественных местах, пока она не получит предварительное разрешение суда для конкретных целей, таких как борьба с терроризмом, предотвращение торговли людьми или поиск пропавшего человека.

ЕС также работает над другим законопроектом, который называется Директивой об ответственности за искусственный интеллект, который обеспечит, чтобы люди, пострадавшие от этой технологии, может получить финансовую компенсацию.

Китай🇨🇳

До сих пор регулирование ИИ в Китае было глубоко фрагментированным и фрагментарным. Вместо того, чтобы регулировать ИИ в целом, страна выпускает отдельные законодательные акты всякий раз, когда новый продукт ИИ становится заметным. Вот почему в Китае существует один набор правил для сервисов алгоритмических рекомендаций (приложений и поисковых систем типа TikTok), другой для дипфейков и третий для генеративного искусственного интеллекта. Это может измениться в следующем году. В июне 2023 года Государственный совет Китая, высший руководящий орган, объявил, что «закон об искусственном интеллекте» включен в его законодательную повестку дня.

Россия🇷🇺

На текущий момент в России нет специального законодательства, полностью посвященного регулированию ИИ. Однако были определенные законы и инициативы, которые могли косвенно затрагивать использование ИИ и автоматизированных систем, в т.ч. ФЗ «О персональных данных», Закон «О защите прав потребителей и др. В России существует Этический кодекс, саморегулирующий организации и экспертные советы, которые занимаются проблемами использования ИИ с точки зрения этики и социальной ответственности. Использовании ИИ (в т.ч. алгоритмов распознавания лиц) органами полиции и в целях, не требующих согласие субъекта, все еще находится в серой нерегулируемой зоне. Правовое регулирование ИИ в России находится на этапе разработки и совершенствования. Работа в этом направлении ведется как на федеральном, так и на региональном уровне.

Если вы являетесь разработчиком систем ИИ и хотите реализовать свой продукт без нарушения действующих стандартов, то лучшим решением будет обратиться в нашу юрфирму для проведения аудита на ранней стадии, а также ИИ комплаенса в зависимости от выбранных рынков.

#ИИ #AI #искусственный_интеллект #нейросети #приватность #регулирование

@cybersarik

Больше читайте тут:
➡️https://www.technologyreview.com/2024/01/05/1086203/whats-next-ai-regulation-2024/