Набор демиурга (или 😈?): социальные сети, репутационные системы и искусственный интеллект.

Продолжаем пугать #ИИ. Антон Колонин рассказывает о новых угрозах и возможностях в области управления общественными процессами с применением современных сетевых технологий, концепции текучей дипломатии и систем искусственного интеллекта.

Сейчас всего несколько глобальных информационных сетей объединяют не менее половины всего человечества, где каждый индивидуум оказывается одновременно и живым сенсором, непрерывно передающим в сеть информацию о своем состоянии, и актором, способным воздействовать на окружающую среду в соответствии с теми мотивациями, которые он получает из сети. Формируется ситуация, в которой отдельно взятый человек оказывается не в состоянии контролировать и даже осознавать смысл и значимость всех информационных потоков и процессов, в которые он оказывается вовлечен.

Примечательно, что возможность фактического контроля за прохождением сигналов и анализа смыслов этих сигналов, выявления исполняемых программ, а также формирования подобных программ потенциально сохраняется у ограниченного контингента людей, контролирующих сами системы обработки информации, будь то бизнес-структуры в случае сетей в юрисдикции США или государственные структуры в КНР.

В этом смысле чрезвычайно интересен опыт КНР с ее тотально контролируемой государством социальной сетью и выстраиваемой на её основе репутационной системы «социального кредита», заслуживающей пока противоречивые комментарии. Долгосрочные итоги этого эксперимента можно будет проводить не раньше, чем через одну смену поколений, однако имеющиеся оценки указывают как на рост безопасности и социальной стабильности, так и на возможные пагубные последствия тоталитаризации жизни общества при сохранении возможности манипуляции самой системой и низовыми участниками, и контролирующими её структурами.

Сложность ситуации усугубляется появлением новых сил, ранее неизвестных человечеству — систем искусственного интеллекта (ИИ). Системы машинного обучения при всем их несовершенстве способны выполнять простейшие интеллектуальные задачи вроде распознавания известных объектов или навигации по предопределенным маршрутам гораздо быстрее и надежнее человека. Уже сейчас есть примеры успешного предсказания действий человека, которые успешно применяются при прогнозировании спроса в бизнесе и могут использоваться для предотвращения нарушений в правоохранительной сфере. Однако возможность предсказания поведения дает и возможность управлять им, что также уже используется и в бизнесе.

Учитывая экспоненциальный рост возможностей вычислительных систем и ресурсов, вкладываемых ведущими корпорациями (Amazon, Google, Baidu, Tencent, Alibaba, Apple, Microsoft) и государствами (США, Китай) в совершенствование систем искусственного интеллекта, их управляющая роль в жизни и развитии общества будет неуклонно расти. В лучшем случае в краткосрочной перспективе бенефициарами этого процесса станут бизнес-предприятия, управляющие соответствующими сетевыми платформами, их руководители и акционеры, а также государства, с которыми эти предприятия аффилированы. В худшем случае в долгосрочной перспективе выход интеллектуальных систем управления из-под контроля социума может представлять угрозу существования человеческому обществу в том виде, в котором мы видим его сейчас.

Эксперт предлагает несколько направлений для обеспечения безопасности сетевых систем с ИИ:
1. Полная деанонимизация систем искусственного интеллекта
2. Открытость кода ИИ-систем и протоколов их взаимодействий
3. Доступность ИИ-систем для массового конечного пользователя (а не только для крупных корпораций и государств).

Кто знает, возможно, после окончательного демонтажа комплекса соглашений о ядерном разоружении, именно обозначенные выше вопросы лягут в основу нового подхода к стратегической стабильности.

https://russiancouncil.ru/analytics-and-comments/analytics/kollektivnyy-intellekt-budushchee-chelovechestva-ili-gibel-lichnosti/

🤖🌐 Международным и социальным последствиям использования технологий искусственного интеллекта (#ИИ) посвящена новая рабочая тетрадь РСМД

В центре анализа настоящей работы — возможное влияние ИИ и смежных с ним технологий (машинное обучение, автономные аппараты) на международные отношения и различные сферы общественной жизни. В публикациях также рассматриваются этико-юридические аспекты применения технологий ИИ. Издание включает в себя аналитические материалы, подготовленные специалистами в сферах искусственного интеллекта, машинного обучения, автономных систем, а также юристов и социологов. Авторы: Сергей Карелов, Максим Карлюк, Антон Колонин, Николай Маркоткин и Дмитрий Шефтелович.

Электронная версия издания https://russiancouncil.ru/paper44

Сегодня же в РСМД состоялась одноименная конференция, в которой приняли участие ведущие эксперты в области ИИ и смежных дисциплин, международной безопасности, философы, юристы и социологи. Видео всех сессий конференции https://www.youtube.com/watch?v=jG1IS6G7uTo&feature=youtu.be&t=138&list=PLVsJ4XAR8N3dnw37VbxAi8kRdE_DpH3pB

У @russiancouncil сегодня было людно, весело и интересно, @vatfor подтверждает. Единственное, очень уж про разное говорили докладчики зачастую - ну да искусственный интеллект тема такая, широкая и не очень оформленная.

Чуть позже выскажемся и поподробнее.

https://t.iss.one/russiancouncil/1838

Рады были видеть на конференции по #ИИ двух авторов @vatfor! То, что тема дискуссии была широка - бесспорно. Но проблема даже не в широте темы, а в различиях в подходах и используемой терминологии. Надеемся, что публикации РСМД позволят систематизировать подходы в изучении проблемы ИИ в международных отношениях. В следующем году планируем сосредоточиться на более точечных аспектах.

Автор Ватфора выступал на конференции РСМД по международным социально-политическим последствиям внедрения технологий искусственного интеллекта, и делится впечатлениями от собственно конференции. Тематика ИИ охватывает широкий спектр тем, и, соответственно, докладчики тоже старались рассказать о, с их точки зрения, наиболее интересных аспектах этой темы. Кроме философских рассуждений о сути интеллекта и боевых роботах, многое было сказано о перспективах развития ИИ-технологий в мире в целом и в России в частности.

К сожалению, широкий спектр конференции поспособствовал широте, но не глубине дискуссии. Хотелось бы обсудить многие из поднявшихся тем глубже, посмотреть на обсуждение мер по поддержке малого ИТ-бизнеса, обсудить замещение рабочих мест, освобождаемых автоматизацией, детально взвесить «за» и «против» автономных боевых систем вместе с собственно собирающимися их применять военными. Но, скорее всего, это потребовало бы расширения конференции во времени; поэтому со своей стороны понадеемся, что РСМД продолжит проект и рассмотрит наиболее интересные вопросы детально.

Из дискуссии, удалось почерпнуть кое-что новое и познавательное. Из запомнившихся тезисов и выступлений можно упомянуть рассуждения о том, что машинное обучение это ответ на огромные масштабы данных, краткую историю индийского киберкомаднования, поучительную историю о том, как пользователи Твиттера научили чат-робота от Microsoft плохому (и вывод, что качество данных на входе зачастую критически важно для классификации на выходе, что было видно на недавнем примере с Amazon), вопрос о необходимости принятия национальной стратегии развития ИИ-технологий, варианты помощи российскому ИТ-бизнесу и вопрос о предпочтительном формате (открытый либо закрытый) разработки ИИ. Риски ИИ участники видели не только в труднообъяснимости принимаемых решений, но и в собственно технологии, позволяющей фабриковать фото и видео и создать «виртуальное пространство дезинформации», и в гонке ИИ-вооружений. Звучали и скептические голоса: в первую очередь, коллеги со стажем вспоминали, что под «искусственным интеллектом» последние 40 лет понимались технологии на горизонте ИИ, которые на следующий день становились рутинной задачей статистики или дискретной математики; а в общем контексте цифровизации вспоминали опыт последних тридцати лет, когда цифровизация требовала достаточно масштабной реорганизации бизнес-процессов. Несмотря на ограниченный формат, нашлось место и жёстким дискуссиям по существу, и даже мерянием формами допуска.

Со своей стороны в копилку дискуссии Ватфор хочет добавить один тезис: тот факт, что машинное обучение требует огромные массивы данных и необходимость эти данные собирать и обрабатывать, поднимает вопрос о добровольности их сбора, и, собственно, защите пользовательских данных, анонимизации и контроля за утечками информации. Даже в рамках человеческого общения наличие тайны и отказ обсуждать определённые темы позволяет сделать выводы, чего уже говорить о выводах, которые можно сделать из «больших данных».

https://t.iss.one/russiancouncil/1838

🇷🇺 ➿ #Россия способна найти свою нишу в #ИИ-технологиях, но эта ниша интегрирована в глобальный ландшафт.

Вице-президент ВШЭ Игорь Агамирзян рассказал о роли технологий искусственного интеллекта в технологическом развитии человечества, возможностях и ограничениях международного регулирования информационных технологий и российской позиции в гонке технологий.

"...отличие цифрового мира от мира индустриального заключается в том, что здесь невозможно догоняющее развитие. Если в период индустриализации можно было построить завод, купив техническую документацию и затратить на это меньшее время и ресурсы меньшие, чем если бы конструирование и создание этого завода происходило с нуля, то в современной цифровой экономике такой вариант не сработает. Сейчас объект и его чертеж — это, по сути, одно и то же. Для того, чтобы реализовать собственную разработку некоего объекта с нуля, потребуются время и ресурсы такие же, как были когда-то использованы, чтобы создать прототип.
Соответственно, чтобы сократить существующее технологическое отставание, потребуются те же самые 50 лет, на протяжении которых это технологическое отставание росло.

Рассчитывать на то, что мы сможем полностью, как у нас говорят, «импортозаместить» информационные технологии — это наивно. Но мы можем, базируясь на существующей международной и достаточно хорошо стандартизованной платформе (в том числе микроэлектроники, систем хранения данных, коммуникационного оборудования, соответствующего программного обеспечения) строить новое и интегрировать те технологии и те, условно говоря, общественно-доступные знания, которые в мире существуют.

Россия может найти свою нишу в ИИ-технологиях. Но эта ниша интегрирована в глобальный ландшафт. Однако в эту нишу в условиях, так сказать, ограничений на развитие глобальной экономики, вход найти очень трудно."

https://russiancouncil.ru/analytics-and-comments/interview/igor-agamirzyan-iskusstvennyy-intellekt-obektivnaya-zakonomernost-razvitiya-chelovechestva/

🤖 Эйнштейн однажды остроумно заметил, что в мире есть две бесконечные вещи — Вселенная и человеческая глупость, хотя в первом он не вполне уверен.

Раз уж глупость бесконечна, то интеллект, уровнем развития которого она является, пусть и искусственный, можно обсуждать так же бесконечно долго.

Новый текст "про #ИИ" посвящен проблеме недостижимости сильного ИИ. Оговоримся правда, недостижимость авторами фиксируется на существующей аппаратной базе и в алгоритмизированном пространстве.

В мультидисциплинарном (айти, физика, философия, психология, биология и, конечно же, математика) лонгриде Роман Дурнев, Кирилл Крюков и Андрей Титов разбираются в терминологии ИИ, объясняют, почему создание «сильного ИИ» в виде программы на ЭВМ в принципе невозможно, подробно описывают математические ограничения в создании ИИ человеческого уровня и рисуют удивительные перспективы настоящего биохакинга, основанного на развитии биокибернетических систем.

Вперед к экзокортексу и брейнету! 🤓

https://russiancouncil.ru/analytics-and-comments/analytics/v-pogone-za-sovershennym-intellektom/

Эксперт РСМД и автор @vatfor Дмитрий Шефтелович подготовил обзор стратегии #ИИ МО США, опубликованной 12 февраля 2019 г.

Судя по всему, в Пентагоне сформировалось мнение, что для внедрения ИИ-технологий не хватает ни ресурсов, ни организационных структур. Поэтому стратегия предусматривает, кроме собственно внедрения технологий, дополнительное активное финансирование, привлечение кадров из гражданского и научного сектора, а также создание специализированного внутреннего ведомства по ИИ, которое должно управлять внедрением технологий и отчасти преобразовать не только процесс внедрения, но и сам Пентагон, увеличивая его эффективность не только за счёт технических инноваций, но и за счёт применения современных управленческих практик.

С точки зрения Пентагона, ИИ-технологии способны радикально преобразовать военное дело. Интересно, что как в России и Китае, так и в США, главные аргументы для включения в гонку ИИ, это позиции "конкурентов". В случае США, это Китай и Россия, которые, по мнению авторов документа, уже разрабатывают и внедряют ИИ-технологии с далеко идущими геополитическими целями, противоречащими ценностям США и их союзников.

https://russiancouncil.ru/analytics-and-comments/analytics/obzor-strategii-ii-mo-ssha/

🇨🇳🏃‍♂🇺🇸 #Китай  обогнал #США по 2м из 4х ключевых показателей развития ИИ.

Китай уже сейчас №1 по числу научных публикаций и патентов, а США  пока лидирует  по числу специалистов и компаний.

Но предопределенности лидерства Китая в мировом развитии ИИ нет. Чтобы переломить ход мировой ИИ гонки, США требуется сделать примерно то же, что они уже не раз делали в прошлом, осознав свое технологическое отставание в стратегической для национальной безопасности сфере.

Так было с Манхеттенским проектом в 1942–1946, когда США решили во что бы то не стало выиграть гонку по созданию атомной бомбы, несмотря на то, что немцы, начав свой проект на 3 года раньше, значительно ушли вперед. Похожим образом складывалась история программы «Аполлон»,  целью которой было догнать и перегнать ушедший вперед в своей космической программе СССР.

Подробнее о гонке #ИИ в лонгриде Сергея Карелова, автора
@theworldisnoteasy https://goo.gl/pnmxeJ

🤖🇷🇺 #Робототехника и #ИИ в России: разработки есть, а законодательства — нет (пока)

2019 год должен стать переломным для российских высоких технологий — готовятся к выходу национальные стратегии по развитию робототехники и искусственного интеллекта, также ожидается, что будут приняты законы, регулирующие эти отрасли. Мы побеседовали с руководителем Исследовательского центра «Робоправо» Андреем Незнамовым о содержании национального законодательства в сфере ИИ и робототехники и перспективах международного регулирования смертоносных автономных систем.

О законе об использовании роботов

Ключевая идея нового закона будет заключаться в том, чтобы минимально навредить интересам индустрии и наоборот поддержать ее развитие. При этом одновременно необходимо соблюсти баланс с обеспечением интересов общества и государства, в первую очередь с точки зрения безопасности. Мы стараемся любыми способами донести до законодателей мысль, что 90% нормативных актов в этой сфере в других странах направлены на поддержку отрасли, а не на то, чтобы ее регулировать.

О робототехнике в России

Существует распространенное заблуждение, что в России нет ни роботов, ни искусственного интеллекта, и нам незачем писать законы на эту тему. Не все знают, что в стране есть компании, которым удается не просто производить роботов, но и экспортировать их в те страны, куда, казалось бы, это делать невозможно — например, в Японию. Такие ростки, безусловно, нужно поддерживать. Лучше всего ситуация с военной робототехникой. Из гражданских — это, в первую очередь, сервисная робототехника. В сфере медицины постепенно появляется целый ряд разработок. Промышленная робототехника у нас, к сожалению, пока развита достаточно слабо.

О законодательстве в области беспилотных транспортных средств

Уже сейчас в десятках стран мира есть законодательство, разрешающее тестирование полностью беспилотных машин, а мы разрешили только один вид. Более того, у нас не разрешено тестирование машин, которые изначально созданы как беспилотные, в которых даже руля нет. Такие разработки в России есть, а законодательства — нет. Это, конечно, большая проблема. Я надеюсь, что в 2019 г. мы сможем это поправить.

О регулировании и/или запрещении использования военных дронов

Несмотря на возмущение общественности и кампании вроде «Stop Killer Robots», факты говорят в том, что во многих странах такие разработки ведутся, а у целого ряда стран такие разработки есть. Правда заключается в том, что использовать такие боевые системы выгодно как с экономической, так и с гуманитарной точки зрения. Умирает робот, а не человек. В вопросах регулирования военных беспилотников государствам очень тяжело будет найти какой-то консенсус.

https://russiancouncil.ru/analytics-and-comments/interview/robototekhnika-i-ii-v-rossii-razrabotki-est-a-zakonodatelstva-poka-net/

​​Россия на карте мира ИИ.
Место и перспектива трёх стран в мировой ИИ-гонке.
Еще пару лет назад был смысл в применении разнообразных рейтингов для оценки положения стран в мировой ИИ-гонке (см. (1)). Теперь это уже не так. Практические успехи глубокого обучения (основное направление развития современных ИИ-систем) привели к тому, что на это направлении развития ИИ теперь приходятся 95%+ всех денег и талантов. А это значит, что как минимум на ближайшую декаду, лидеры глубокого обучения будут лидерами мировой ИИ-гонки.

А в глубоком обучении, - как в беге. Выигрывает тот, у кого лучше физическая подготовка. Конечно, есть и другие факторы (спортивный дух, настрой, воля к победе, техника …). Но без исключительно хорошей физической подготовки в гонке не выиграть.

Эквивалентом физической подготовки в современном глубоком обучении является вычислительная мощность компьютера, на котором обучаются модели со все большим числом параметров. В крупнейшей на сегодня языковой модели transformer от Microsoft число параметров составляет 530 млрд. Насколько круто возросли требования к вычислительной мощности для таких моделей видно из этого графика (2).

В результате вычислительная мощность стала главным показателем потенциала роста величины и сложности новых все более совершенных моделей глубокого обучения. И это относится как к бизнесу компаний БигТеха, так и к академическим исследовательским центрам, а также к каждой стране в целом.

Для оценки вычислительной мощности для такого рода задач обучения сверхбольших моделей создан специальный тест HPL-AI (3). Но по этому тесту пока что оценена производительность лишь 19 высокопроизводительных вычислительных комплексов мира. Поэтому для более широкого и полного сравнения самых высокопроизводительных систем для ИИ пока продолжают использовать показатель скорости вычислений с плавающей точкой (Flop/s), как это принято в рейтинге ТОР500 (4).

И по этой оценке карта мира ИИ выглядит так, как на приложенном к посту рисунке.
Совокупная вычислительная мощность каждой из стран соответствует площади прямоугольников, в свою очередь разделенных на более мелкие прямоугольники, соответствующие вычислительной мощности отдельных высокопроизводительных систем.
• Россия обведена красным пунктиром (7 систем, самая мощная из них у Яндекса – 21,5 петафлопс (10^15 Flop/s)
• Китай обведен синим пунктиром (173 системы, самая мощная – 93 петафлопс – на 26% превышает производительность всех российских систем в ТОР500).
• США обведены желтым пунктиром (149 систем, самая мощная – 149 петафлопс –в 2 раза превышает производительность всех российских систем в ТОР500).

Таково сегодняшнее место России на карте мира ИИ.

А теперь о перспективе.
На этом рисунке (5) вычислительная мощность трёх новых суперкомпьютерных систем соответствует площади трёх прямоугольников:
• Желтый – это Китай: 25 января с.г. SenseTime запустил Artificial Intelligence Data Centre (AIDC) нового поколения SenseCore; его вычислительная мощность 3740 петафлопс (в 51 раз превышает производительность всех российских систем в ТОР500)
• Синий – это США: к 2023 году Facebook (Meta) доведет вычислительную мощность своего AI supercomputer RSC до 4900 петафлопс (в 67 раз превышает производительность всех российских систем в ТОР500)
• Красный – это Россия: к 2026 планируется создать суперкомпьютер на разрабатываемых сейчас отечественных процессорах «Эльбрус-32С» производительностью в 100 петафлопс.

#ИИ #HPC #Россия #Китай #США
1 2 3 4 5