Удивительно, но в мире все еще нет общего мнения о том, что следует понимать под термином «искусственный интеллект».

Между тем выбранный той или иной юрисдикцией подход предопределит границы предмета регулирования. Это повлияет на то, какие именно программные продукты, функционирующие на основе ИИ, будут подпадать под различные новые требования законодательства. Чем шире будет определение, тем большее количество продуктов должны будут соответствовать нормативным актам. И наоборот. Такая определенность крайне важна для развития технологического бизнеса.

Мы делимся с вами нашим обзором определений термина «искусственный интеллект» в документах международных организаций, в нормативных правовых актах разных стран и регионов, а также в научной доктрине.

Скрытые таланты систем ИИ

Поговорим про эмерджентные способности больших языковых моделей (системы ИИ). Сперва объясним, что эмерджентность, это когда у частей системы нет качеств, которые есть у системы в целом.
Важной характеристикой больших языковых моделей является то, что эти модели умеют делать то, что не умеют их аналоги с меньшим количеством параметров. Например, GPT-3 с 13 миллиардами параметров может выполнять 2 вида заданий, а GPT-3 со 175 миллиардами уже способен выполнять 15 разных задач. Вот и получается, что происходит переход количества в качество. Еще это сопроваждается тем, что разработчики не всегда знают какие именно способности приобретет система по мере увеличения модели. Между тем для регулирования важно понимать, что система технически сможет сделать, а что нет. Иначе невозможно определить, представляет ли она опасность и какое нужно регулирование. В связи с этим сейчас появляется все больше материалов, из которых можно узнать насколько системы ИИ могут приобретать новые способности, изначально не заложенные в них разработчиками. Подробнее о том, какие способности могут появиться у систем ИИ, о которых разработчики не догадывались, можно почитать в The Unpredictable Abilities Emerging From Large AI Models.

ИИ лоббизм Бигтэков

Мы сделали обзор доклада о влиянии американских Бигтэков на процесс принятия Регламента ЕС “Об искусственном интеллекте” (Artificial Intellegence Act). Из материала узнаете, какие цели преследуют технологические компании и как они их достигают.

https://telegra.ph/AI-lobbying-04-10

Bing ведет себя плохо?

Делимся с вами интересным видео с канала Computerphile, в котором обсуждается плохое поведение нового чат-бота Bing, интегрированого в одноименный поисковик Microsoft.
Bing стал громкой премьерой, так как в нем используется нейросеть GPT-4 компании OpenAI. Выход первого поисковика с такими возможностями претендует на революцию в интернет-поиске и даже смещение Google с ее трона.

Однако с первой версией продукта все оказалось не так радужно. В ролике Роб Майлз на примерах показывает, что Bing местами может вести себя грубо и не очень адекватно. Для того, чтобы нивелировать возможный негатив в продукт встроена другая нейронка, которая оперативно удаляет неудачный ответ.

Интересны и причины таких недоработок. Авторы ролика предполагают, что всему виной жесткие дедлайны, перед которыми была поставлена команда разработки из-за конкуренции технологических компаний за первенство на рынке. Спешка не позволила провести необходимое дообучение модели и контроль качества выходного результата.

Такая ситуация наглядно демонстрирует необходимость наличия законодательных и этических требований по разработке и допуску ИИ-продуктов на рынок, систем риск-менеджмента и независимого внутреннего и внешнего контроля. Компаниям тоже ничего не мешает соблюдать правила, которые пока еще не обрели силу жесткого законодательства (например, добровольно начать исполнять проект Регламента ЕС об ИИ).

Именно поэтому открытое письмо о приостановлении разработок систем ИИ на самом деле является попыткой воздействия на OpenAI со стороны конкурентов, а не реальным решением проблемы. В этой связи инициатива экспертного сообщества ForHumanity о добровольном присоединении OpenAI к регуляторной песочнице в ЕС представляется куда более рациональным шагом.

Любимое сочетание из научной фантастики: искусственный интеллект и космос

К дню космонавтики подготовили для вас обзор статьи Нормативные вызовы в связи с использованием искусственного интеллекта в космическом пространстве: право, этика и пересмотр земных стандартов. Работа выполнена итальянскими учеными из университета Турина.

В статье говорится про потенциальные вызовы, стоящие перед космическим правом в связи с внедрением систем ИИ. Авторы пытались скорее сделать акцент на постановке проблем, а не на их решении. Местами не обошлось и без примеров из научной фантастики.

Автоматизация давно, если не в первую очередь, затронула покорение внеземного пространства. Львиная доля всех исследований ведется за счет использования приборов разной степени автономности, отправленных на изучение небесных тел и космических далей.

В грядущей эпохе массовых коммерческих полетов в космос, очевидно, системам ИИ будет отведена значительная роль в помощи человеку и обеспечению полностью автономных миссий и колоний.

В работе выделяются четыре группы юридических проблем.

Разрешение вопросов о соотношении международного и национального права для формулирования стандартов использования систем ИИ в космосе. Например, выработка общих подходов к составам правонарушений, установлению субъекта юридической ответственности и т.п.

Особенности правовой регламентации использования новых технологий частными компаниями в космическом пространстве.

Классические проблемы систем ИИ (предвзятость, неподотчетность, данные, ответственность и т.п.) сквозь призму космического права.

Взаимодействие астронавтов с автономными ассистентами (привет, Тарс и Бишоп), которые будут сопровождать человека в неземном быту, помогать в ремонте и исследованиях. Проблемы безопаности и защиты данных с учетом большей эмоциональной привязанности людей к ним в условиях межпланетных перелетов или долгих миссий, по мнению авторов, будет более чувствительна, чем на земле.

Пройдемте, товарищ ChatGPT

Во вторник Государственная канцелярия интернет-информации КНР (Cyberspace Administration of China) опубликовала для обсуждения проект документа о регулировании разработки и использования систем генеративного ИИ.

Такие системы ИИ способны создавать разнообразный контент: текст, аудио, видео, изображения, программный код и т.п. Многие из этих систем сейчас широко известны, например, ChatGPT, Stable Diffusion 2.0, MidJourney.

Разрабатывают системы генеративного ИИ и китайские Бигтэки. Например, в прошлом месяце Baidu запустила тестирование чат-бота Эрни.

В отличие от Европы Китай пока воздерживается от принятия сквозных актов об ИИ, регулируя данную сферу общими законами о защите данных и кибербезопасности, а также точечными решениями, такими как акты о рекомендательных алгоритмах и о маркировке контента, сгенерированного системами ИИ. Таким образом, рассматриваемый проект является продолжением намеченной китайскими властями политики.

Обращаем ваше внимание на ряд интересных деталей из опубликованного документа:

Контент, созданный системами генеративного ИИ, должен отражать основные социалистические ценности, не может быть направлен против публичного порядка (терроризм, экстремизим, свержение гос. власти и т.п.) и содержать дискриминирующую информацию.

Контент должен быть правдивым и точным, надлежит принять меры по предотвращению создания ложной информации.

Необходимо уважать права интеллектуальной собственности и защищать конкуренцию.

Компании и физ. лица, использующие такие системы ИИ (поставщики), несут все обязанности производителей контента и должны соответствовать требованиям о защите персональных данных.

Перед использованием систем генеративного ИИ для предоставления услуг населению необходимо провести оценку безопасности в гос. органе.

Поставщики несут ответственность за законность данных, используемых для обучения и функционирования таких систем ИИ (а также отсутствия в них ПД).

Продукт должен соответствовать требованиям нацональных законов о кибербезопасности.

Поставщики должны информировать пользователей о принципах работы систем генеративного ИИ и принимать меры для предотвращения чрезмерной зависимости или привыкания пользователей.

Вчера китайский регулятор также предложил усилить регулирование и контроль за использованием алгоритмов в разных сферах.

США могут пересмотреть свой подход к регулированию применения искусственного интеллекта

Сенатор от демократической партии, лидер Большинства в Сенате Чарльз Шумер вот уже несколько месяцев распространяет и обсуждает с экспертами новый рамочный подход к регулированию применения искусственного интеллекта в США.

Новость интересна тем, что в США сейчас отсутствует сквозное федеральное регулирование сферы ИИ. Часто на соответствующие общественные отношения распространяются положения различных антидискриминационных федеральных законов.

Одновременно с этим на уровне некоторых штатов существует опережающее регулирование. Например, в Нью-Йорке принят акт, регулирующий применение автоматизированных систем принятия решений о приеме на работу (A Local Law to amend the administrative code of the city of New York, in relation to automated employment decision tools).

А в Колорадо существует закон штата, обязывающий страховые компании иметь систему управления рисками, защищающую граждан от дискриминации (Concerning protecting consumers from unfair discrimination in insurance practices).

До последнего времени США планировали регулировать эту сферу через мягкое право. В частности, Национальным институтом стандартов и технологий при Министерстве торговли США недавно принята система стандартов по риск-менеджменту ИИ (Artificial Intelligence Risk Management Framework). Документ оказывает важное регулирующее воздействие на индустрию, но в то же время его положения носят рекомендательный характер.

В новом подходе речь может идти про императивное регулирование на уровне федерации, затрагивающее применение ИИ в разных сферах общественных отношений. Сообщается, что предлагаемый подход достаточно широкий и гибкий, но при этом обеспечит безопасность, подотчетность и прозрачность технологии.

Сенатор планирует доработать свои предложения совместно с заинтересованными лицами из академической сферы, правозащитных организаций, промышленности и правительства.

Будут предприняты усилия по разработке комплексного нормативного правового акта. Возможно, предложения сенатора в ближайшее время обретут форму законодательной инициативы.

В то же время необходимо учитывать, что Бигтэки много лет последовательно выступают против комплексного законодательного регулирования.

Генеративный искусственный интеллект - верхушка айсберга

За последний год все мы стали свидетелями (и даже немного устали от новостей) вторжения в нашу жизнь больших языковых моделей и иных генеративных систем искусственного интеллекта.

Они рисуют изображения, пишут музыку и тексты, создают видео, распознают образы.

Все эти продукты охватываются более широким термином - системы ИИ общего назначения. Их масштабное использование ставит новые вызовы перед законодателями.

В нашем лонгриде мы рассматриваем особенности регулирования таких систем проектом Регламента ЕС об ИИ, а также критику его отдельных положений экспертным сообществом.

Полный текст доступен по ссылке ниже.

https://telegra.ph/general-purpose-AI-systems-04-16

В мире за 2022 год принято рекордное количество законов, связанных с искусственным интеллектом

По данным исследования Artificial Intelligence Index Report 2023 (Stanford Institute for Human-Centered AI), за 2016–2022 гг. в мире (127 стран) принято 123 закона с упоминанием термина “искусственный интеллект”. За этот период больше всего актов приняли в США – 22 закона. Обратим также внимание на Россию, в которой принято 9 законов.

В статистике законотворчества любопытным является не количество принятых актов, а их постоянное увеличение от года к году. В 2022 году было принято 37 законов, в то время как за весь 2016 год всего 1.

Принятые в 2022 году акты регулируют самые разные сферы общественных отношений, связанные с искусственным интеллектом. Несколько примеров из документа, иллюстрирующих широту областей регулирования:

Латвия (Поправки в Закон о национальной безопасности) – устанавливаются ограничения на деятельность коммерческих компаний, ассоциаций и фондов, важных для национальной безопасности, включая компании, занимающиеся разработкой искусственного интеллекта;

Испания (Право на равное обращение и недискриминацию) – устанавливается, что алгоритмы искусственного интеллекта, задействованные в принятии решений государственными органами, должны учитывать критерии минимизации предвзятости, прозрачности и подотчетности в случаях, когда это технически возможно;

Филиппины (Закон о второй комиссии Конгресса по образованию) – акт содержит призыв к проведению реформ в сфере образования с учетом стремительного развития искусственного интеллекта. Предусматривается создание комиссии Конгресса для изучения филиппинского образования и выработки рекомендаций по проведению реформ;

США (Закон об обучении в сфере ИИ) – предписывает Административно-бюджетному управлению (входит в администрацию Президента США) обеспечить реализацию программы обучения по ИИ для сотрудников исполнительных органов, отвечающих за закупки (с некоторыми исключениями). Целью программы является приобретение персоналам знаний о возможностях и рисках, связанных с применением ИИ.

Очевидно, что с каждым годом законодательство все более детально и многогранно будет регулировать разные сферы общественной жизни, которые соприкасаются с системами ИИ. Рост количества (надеемся и качества) нормативных правовых актов приведет к увеличению различного рода требований ко всем участникам общественных отношений.

Юрфирмы и генеративные системы ИИ

На днях Институт Томсон Рейтер опубликовал отчет ChatGPT и генеративный ИИ в юридических фирмах. Отчет сформирован на основе опроса более 440 юристов из средних и крупных юридических фирм США, Великобритании и Канады.

В документе много интересных цифр. Однако хотим обратить ваше внимание на вторую половину отчета, она посвящена потенциальным рискам использования подобных систем ИИ.

Несмотря на то, что полезный потенциал их использования крайне велик, многие респонденты отметили проблемы относительно точности и безопасности функционирования таких систем, а также защищенности конфиденциальной информации (особенно применительно к таким публично доступным продуктам, как ChatGPT).

Даже те юрфирмы, которые выразили готовность использовать системы ИИ в своей деятельности, высказались за необходимость установления границ и правил их применения.