У Пивоварова вышло видео про нейронки

С одной стороны, ИИ кажется безумно прорывной технологией, но с другой стороны, ИИ сегодня пугает многих до усрачки ввиду страха, что уже скоро ИИ достигнет человеческого уровня мышления и, рано или поздно, получит свою правосубъектность. И далее с ним и его разработчиком либо придется договариваться, либо подчиниться.

И пока США и ЕС обсуждают риски, связанные с искусственным интеллектом и его стремительным развитием, в России технологии берут на вооружение госорганы, используя их для цензуры и слежки. Об этом и о многом другом мы вместе с Сошиным и другими экспертами рассуждали в "Редакции".

#ИИ #нейросети #privacy #приватность #блог

@cybersarik

➡️ https://youtu.be/UyCaPx9wI8g?t=3457

Регулирование ИИ от Китайской стены до Бродвея

Тема регулирования систем ИИ, а также их разработки и этичного использования волнует сейчас всех ведь, как говорит доктор Курпатов, 4-ая мировая война будет уже между естественным интеллектом и искусственным... если только мы переживем Третью мировую. Мы продолжаем глупеть, а он умнеть, поэтому исход нашего с ним
противостояния предсказуемо не в пользу "человека разумного".

И вот от Китая до Нью-Йорка юристы, социологи и общественные мыслители теперь пытаются загнать ИИ под свод правил, которые, по их мнению, будут сдерживать зверя в клетке.

11 октября Национальный технический комитет по стандартизации информационной безопасности Китая опубликовал проект документа, в котором изложены правила оценки генеративных моделей ИИ.

Данное предложение по стандартизации устанавливает строгие критерии оценки источников данных ИИ и их содержания. В документе рассматриваются такие темы, как разнообразие обучающих данных, модерация и запрещенный контент. В нем подчеркивается необходимость диверсификации обучающих корпораций и оценки качества данных.

Кроме того, предлагается привлекать модераторов для повышения качества генерируемого контента в соответствии с национальной политикой и жалобами третьих сторон. Это предполагает потенциальное расширение штата ИИ-модераторов и цензоров, управляемых людьми.

Компаниям поручается определить сотни ключевых слов для маркировки небезопасного или запрещенного контента, выделив отдельные категории для политического и дискриминационного контента. Интересно, что в документе поощряются более тонкие меры цензуры, например отказ отвечать на чувствительные запросы, но разрешается моделям ИИ отвечать на конкретные, нечувствительные запросы.

Важно отметить, что эти стандарты не являются законами, и их несоблюдение в настоящее время не влечет за собой штрафных санкций. Однако такие предложения могут существенно повлиять на будущие меры регулирования или действовать совместно с ними. Технологические эксперты, участвующие в разработке стандартов, нанимаются компаниями, что позволяет таким корпорациям, как Huawei, Alibaba и Tencent участвовать в формировании этих норм. Их влияние может иметь далеко идущие последствия для мировой индустрии ИИ и методов регулирования технологий ИИ во всем мире.

А в это время в NYC опубликован План действий в области ИИ, направленный на ответственное управление и использование ИИ в городских органах власти.

В тексте дается определение ИИ как широкого общего термина, охватывающего различные технологии, машинное и глубокое обучение, используемые для прогнозирования, выработки рекомендаций и принятия решений.

Сюда входят: такие передовые инструменты, как алгоритмы машинного обучения, технологии компьютерного зрения и обработки языка. Данный план действий включает в себя семь важнейших инициатив: Надежная система управления, мультистейкхолдеризм, расширение прав и возможностей общественности, обеспечение участия общественности и открытой коммуникации по вопросам, связанным с ответственным использованием ИИ, грамотность, поддержка ИИ, отвественные закупки и обновление плана действий.

#ИИ #AI #нейросети

@cybersarik

Что будет с глобальным регулированием ИИ в 2024 году?

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН, РАСПРОСТРАНЕН И (ИЛИ) НАПРАВЛЕН ИНОСТРАННЫМ АГЕНТОМ (НАИМЕНОВАНИЕ, ФАМИЛИЯ, ИМЯ ОТЧЕСТВО (ПРИ НАЛИЧИИ), СОДЕРЖАЩИЕСЯ В РЕЕСТРЕ ИНОСТРАННЫХ АГЕНТОВ) ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА (НАИМЕНОВАНИЕ, ФАМИЛИЯ, ИМЯ, ОТЧЕСТВО (ПРИ НАЛИЧИИ), СОДЕРЖАЩИЕСЯ В РЕЕСТРЕ ИНОСТРАННЫХ АГЕНТОВ) 18+

Если 2023 год был годом, когда законодатели согласовали концепции в сфере ИИ, то 2024 год станет годом, когда политика начнет превращаться в конкретные действия, решения и штрафы.

США 🇺🇸

ИИ действительно вошел в политическую дискуссию в США в 2023 году. Но это были не просто дебаты. Были также действия, кульминацией которых стал указ президента Байдена об искусственном интеллекте в конце октября — обширная директива, призывающая к большей прозрачности и новым стандартам. Очевидно, больше всего страха в США вызывает технология deepfakes, которая может быть использована для манипуляций во время президентской кампании. Уже есть несколько законодательных предложений, которые затрагивают алгоритмы deepfakes.

ЕС 🇪🇺

Европейский Союз только что согласовал Закон об ИИ, первый в мире радикальный закон об ИИ. После интенсивных технических доработок и официального одобрения Европейскими странами и Парламентом ЕС в первой половине 2024 года Закон об искусственном интеллекте вступит в силу довольно быстро. В самом оптимистичном сценарии запреты на определенные виды использования ИИ могут вступить в силу уже в конце года. В Европе полиции не будет разрешено использовать технологию распознавания лиц в общественных местах, пока она не получит предварительное разрешение суда для конкретных целей, таких как борьба с терроризмом, предотвращение торговли людьми или поиск пропавшего человека.

ЕС также работает над другим законопроектом, который называется Директивой об ответственности за искусственный интеллект, который обеспечит, чтобы люди, пострадавшие от этой технологии, может получить финансовую компенсацию.

Китай🇨🇳

До сих пор регулирование ИИ в Китае было глубоко фрагментированным и фрагментарным. Вместо того, чтобы регулировать ИИ в целом, страна выпускает отдельные законодательные акты всякий раз, когда новый продукт ИИ становится заметным. Вот почему в Китае существует один набор правил для сервисов алгоритмических рекомендаций (приложений и поисковых систем типа TikTok), другой для дипфейков и третий для генеративного искусственного интеллекта. Это может измениться в следующем году. В июне 2023 года Государственный совет Китая, высший руководящий орган, объявил, что «закон об искусственном интеллекте» включен в его законодательную повестку дня.

Россия🇷🇺

На текущий момент в России нет специального законодательства, полностью посвященного регулированию ИИ. Однако были определенные законы и инициативы, которые могли косвенно затрагивать использование ИИ и автоматизированных систем, в т.ч. ФЗ «О персональных данных», Закон «О защите прав потребителей и др. В России существует Этический кодекс, саморегулирующий организации и экспертные советы, которые занимаются проблемами использования ИИ с точки зрения этики и социальной ответственности. Использовании ИИ (в т.ч. алгоритмов распознавания лиц) органами полиции и в целях, не требующих согласие субъекта, все еще находится в серой нерегулируемой зоне. Правовое регулирование ИИ в России находится на этапе разработки и совершенствования. Работа в этом направлении ведется как на федеральном, так и на региональном уровне.

Если вы являетесь разработчиком систем ИИ и хотите реализовать свой продукт без нарушения действующих стандартов, то лучшим решением будет обратиться в нашу юрфирму для проведения аудита на ранней стадии, а также ИИ комплаенса в зависимости от выбранных рынков.

#ИИ #AI #искусственный_интеллект #нейросети #приватность #регулирование

@cybersarik

Больше читайте тут:
➡️https://www.technologyreview.com/2024/01/05/1086203/whats-next-ai-regulation-2024/