Обновленная версия Российской Национальной стратегии развития искусственного интеллекта до 2030 года

Давненько ничего не писал про Россию. Новость не самая свежая, но требует внимания. 15 февраля вступил в силу указ Президента РФ, который внес поправки в его же Указ от 10 октября 2019 г. N 490 «О развитии искусственного интеллекта в Российской Федерации».

Исходя из содержания, документ призван осовременить первоначальную версию указа от 2019 года, которая уже значительно устарела. Хотя и раньше к ней была масса вопросов.

Во-первых, истекает жизненный цикл у нацпроекта «Цифровая экономика», поэтому поручается до 1 июля 2024 г. обеспечить включение ФП «Искусственный интеллект» в новый нацпроект «Экономика данных», который должен быть разработан в этом году.

Во-вторых, незначительно изменилось определение ИИ.

Теперь это комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые с результатами интеллектуальной деятельности человека или превосходящие их. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений.

Жирным выделил места, которые изменились. С самого начала это определение мне казалось несколько странным, так как оно: а) отсылает к способностям и когнитивным функциям человека, а не дает нам конкретные признаки ИИ; б) не является технологически нейтральным (что очень важно для нормативного регулирования), но при этом и не определяет перечень ИИ-технологий, а только вскользь упоминает ML; в) если речь идет про конкретные задачи, то получается, тут мы говорим только о «слабом ИИ»? (дальше будет понятно, к чему этот вопрос). Понятно, что определение взято из техстандарта, но терминология ОЭСР и ISO/IEC вызывает значительно меньше вопросов.

Незначительно поменялись и другие термины.

В-третьих, появился целый спектр новых терминов, например:

Сильный искусственный интеллект – тип искусственного интеллекта, который способен выполнять различные задачи, взаимодействовать с человеком и самостоятельно (без участия человека) адаптироваться к изменяющимся условиям.

Друзья, поздравляю, если дословно читать указ, то AGI уже тут!

Но если отбросить шутки, то не очень понятно, зачем такое теоретическое и размытое определение включать в НПА. Даже в науке нет устоявшегося подхода. Кто-то определяет AGI через наличие сознания, а кто-то – через возможность выполнять любые (не различные) задачи на одном уровне со средним человеком.
Есть сомнения, что к AGI можно отнести систему, которая может выполнять, допустим, две-три-пять задач на одном уровне с человеком, взаимодействовать с ним (например, общаться через какой-либо интерфейс) и адаптироваться (например, в ходе общения и перемещения в пространстве).

На мой взгляд, лучше доработать определение ИИ (систем ИИ), чтобы оно позволяло четко понимать предмет регулирования, чем вводить раньше времени еще более широкие термины.

Чтобы соответствовать духу времени были также включены определения модели ИИ, параметров модели ИИ, большой генеративной модели и большой фундаментальной модели.

Большие фундаментальные модели отличаются тем, что они могут: а) быть основой для создания и доработки различных видов программного обеспечения; б) содержать не менее 1 млрд. параметров (например, в GPT-2 - 1,5 млрд.); в) применяться для выполнения различных задач.

Интересно, что в Указе дается определение сильного ИИ, но при этом отсутствует какая-либо классификация фундаментальных моделей. Хотя, например, наиболее продвинутые модели уже выделяются и в проекте Регламента ЕС об ИИ и в последнем указе Президента США. Писал про это многократно на канале. Например, тут.

В тексте Указа также содержится много иной информации о современных трендах развития ИИ, а также о достигнутых результатах и планах на будущее. Хочется про них написать, но в посте уже лимит 🤩.

Этика на рубеже создания продвинутых ИИ-помощников

Обычно я не фанат разговоров об этике, когда ею пытаются заменить комплексное правовое регулирование. Однако в тех областях, в которых технологии придут в нашу жизнь не завтра, а послезавтра, исследования философов помогают подсветить для юристов проблемы и развилки, потребующие будущих законодательных решений. В этой связи с интересом прочитал статью Google Deepmind на тему, которая давно волновала мой юридический мозг: Этика продвинутых ИИ-помощников. Исследование достаточно объемное (268 страниц), но и писало его около полсотни авторов из авторитетных организаций. Тем не менее бояться не стоит. Одна библиография, как это обычно бывает, занимает почти 50 страниц.

Во-первых, авторы прочат, что такие ассистенты окажут фундаментальное влияние на общество, так как будут использоваться не только во всех сфера экономической жизни в качестве универсальных помощников, но станут выступать в роли личных советников, партнеров, компаньонов и даже наставников (и наставников наставников)🤩. В итоге это повлияет и на самих людей, и на то, каким образом они коммуницируют и выстраивают отношения. А нас, юристов, очень сильно заботит ситуация, когда общественные отношения видоизменяются. Как правило, это приводит к трансформации существующих правовых институтов и возникновению новых (работы будет много).

Во-вторых, резко возрастет уровень автономности таких систем ИИ. Это нужно для того, чтобы они могли самостоятельно выбирать варианты решения задач на основе верхнеуровневых целей, поставленных пользователем. Очевидно, это может вызвать массу негативных последствий: от мисандерстендинга между пользователем и системой до злонамеренного противоправного использования. Для решения этих проблем авторы предлагают свой подход к элайнменту (выравниванию целей и задач между человеком и системой ИИ). Кстати, все еще ждем решение этой проблемы от OpenAI. Они обещали решить ее за четыре года (уже осталось три). Возросший уровень автономности, очевидно, снова оголит классические проблемные аспекты нормативного регулирования вроде информационной безопасности, оборота данных, ответственности, прозрачности и непредвзятости. Однако будут и новые вызовы. Например, вопрос юридических рамок работы таких систем и возможности делегирования им принятия юридически значимых решений. Потребуются и новые подходы и к оценке таких систем и моделей. Например, по влиянию на человека и общество в целом.

В-третьих, это приведет к еще большей антропоморфизации ИИ-ассистентов. С юридической стороны потребуется установление норм, которые будут призваны сохранить здоровые отношения между человеком и технологическими решениями. В том числе путем ограничения манипулятивных практик со стороны бизнеса и злоумышленников. Также даже страшно представлять, каким количеством чувствительной информации о человеке такой ассистент будет обладать. Помимо этого, снова станут актуальными обсуждения этической стороны вопроса в плане жестокого отношения к системам ИИ и иных «прав роботов». Ведь для многих людей такие системы с раннего детства фактически станут друзьями и воспитателями.

К сожалению, в фантастических произведениях не всегда рассматривается роль юриспруденции в высокотехнологичном будущем. Очевидно, что в реальной жизни нормативное регулирование будет отчасти влиять на то, чтобы вы в конечном счете оказались в комнате с Джарвисом, а не HAL 9000.