Идея этого канала пришла уже давно, но я долго не мог понять с чего начать и как сформулировать цель этого канала.
В то время как я про это думал, мировая ИИ-повестка сама начала подкидывать инфоповоды, которые не находят должного осмысления.
Конечно, мы много говорим про то, что ИИ изменит все вокруг, но на таких высоких материях рассуждения часто и заканчиваются. Мне бы хотелось углубиться в суть разных трендов и в рамках этого канала попробовать объяснить что они означают.

P.s. Мои интересы очень сильно сосредоточены на глобальной политике и все что связано с ней, поэтому и первый пост будет про неё. Хотя надеюсь, что этот канал не ограничится ею.

Upd. В качестве эксперимента, некоторые картинки к постам будут сгенерированы нейросетями

Один из лучших журналов про международную политику выкатил спецвыпуск про ИИ. Яркий символ смены вех и появления новой экспертной специализации
https://foreignpolicy.com/2023/06/19/the-scramble-for-ai/

Я уже долгое время говорю, что экспертам по международной политике нужно внимательней читать новости про ИИ.
Западная экспертная мысль в этом отношении значительно обогнала нас. Самый простой пример: США пару лет назад приняли стратегические документы, которые рассматривают международное продвижение собственного ИИ как один из ключевых элементов обеспечения национальных интересов. В итоге американцы через свои международные каналы продвигают свой взгляд на то, каким должен быть ИИ (конечно же с американской пропиской).

В России же подобный документ так и не был принят. В мире наш ИИ все чаще называют "плохим" и прямо запрещают его использование. Возможно, это связано как раз с усилиями Штатов

Картинка хорошо отражает текущий момент. Барт пишет: "i will not deploy on AI system without an impact assessment".

Внедряя ИИ мы не всегда можем знать, как он может быть применен. Есть уже классический пример, когда американский гигант Amazon пытался использовать ИИ для оценки кандидатов на ту или иную вакансию. Оказалось, что искусственный разум априори занижал оценку кандидатурам женщин, предлагал им более низкую зарплату и автоматически блокировал резюме афроамериканцев.

В итоге эксперимент был свернут, а аналитики начали разбираться, почему же ИИ делал такие выводы. Если очень просто - разработчики не учли, что алгоритму была поставлена задача подбирать лучших кандидатов, основываясь на статистических данных США. Статистика же говорит, что афроамериканцы чаще других совершают правонарушения, женщины уходят в декрет, а работодатели традиционно оценивают их труд дешевле мужского.

На основе этого алгоритм решил, что максимально эффективно будет не пытаться дать шанс условной афроженщине, а изначально её забраковывать, потому что это позволит эффективнее выполнять поставленную перед ИИ задачу.

Это хороший пример наличия bias (предвзятости) в выборке данных, на которых обучается ИИ и который пока сложно предусмотреть при внедрении

Текущая волна хайпа вокруг ИИ заключается не в том, что появились какие-то совершенно революционные технологии, а потому что они стали доступны обычному человеку.

Условно говоря, технологии генерации изображений или текста уже давно существуют. Однако для широких масс они стали известны только после выпуска языковой модели ChatGPT и генератора изображений MidJourney. Эти нейросети показали, что инструменты ИИ могут быть легкими в обращении и, самое главное, доступными каждому желающему. (Картинку к посту я сгенерировал в пару кликов в MidJourney)

Еще недавно создание компьютерной графики или даже ретуширование фотографии считалось задачей узкого специалиста. Сейчас же достаточно найти подходящую нейросеть и за пару кликов сделать то, что ранее специалист делал бы часами.

Сейчас на просторах сети появились целые сайты, которые помогают найти нейронку под любой вкус. К примеру тут https://library.phygital.plus можно по фильтрам сформировать свой запрос и сайт покажет все доступные нейронки под поставленную задачу.

Фактически, любая технология ценна не сама по себе, а тем, насколько она удобна в применении. Но не станет ли повышение удобства использование ИИ угрозой для целых профессий человека? Ответ неоднозначный

P.s. добавил функцию комментариев

Я подписан на множество страниц экспертов и организаций в LinkedIn. Именно там можно отследить новые темы и зарождающиеся тренды в сфере ИИ.

Это крайне примечательный факт — ИИ-повестка формируется именно в рамках англоязычного экспертного сообщества. Российская отраслевая повестка отстает от мировой, что приводит к типичной для нас роли догоняющего.

К сожалению, мы не просто не успеваем за западной мыслью (с этим мы как-то смирились уже), но и не находимся в общем русле со странами, которые воспринимаются близкими нам. Фактически, мы мало понимаем, что думают про развитие ИИ в Индии, Китае, Индонезии и др.

Эта невстроенность в международную повестку не позволяет нам использовать достаточно понятную возможность выстраивания технологических партнерств "по интересам".

Как-то участвовал в организации экспертного диалога по теме значения ИИ в мировой политике. Мы смогли собрать там представителей Индии, Китая, России и Сингапура. И каково было моё удивление, что позиция всех экспертов очень близки, даже Сингапура. Последний вообще был откровенен и говорил, что каналы общения его страны с Россией почти оборвались, а тема ИИ даёт ему редкий шанс пообщаться с российскими коллегами и услышать схожие позиции.

Любой создатель публичного блога сталкивается с необходимостью генерирования контента с определенной периодичностью. Еще и качество этих "плановых" мыслей должно быть на хорошем уровне, чтобы не только удерживать подписчиков, но и привлекать новых.

Это очень наглядно проявляется в мире кинематографа. Мы часто сталкиваемся с ситуацией, когда наш любимый сериал встает на рельсы конвейера и каждый новый сезон снижает планку качества сюжета.

Объяснение подобному, как правило, простое - сценаристы не успевают за производственным процессом. В рамках этого канала нам интересно решение проблемы через ИИ.

Самый простой вариант - использовать тот же ChatGPT, который способен выдать простенький скрипт под любой жанр кино или сериала. Дальше пошел разработчик DeepMind AI, представив ИИ-инструмент Dramatron, который способен создавать полноценный черновик сценария фильма. Лидер рынка медиаразвлечений - Дисней уже создал отдел по внедрению ИИ в процессы создания контента.

На фоне этих надвигающихся перемен в индустрии проходит забастовка сценаристов Голливуда. Одно из требований "властителей сюжета" заключается в предоставлении гарантий того, что никакие сценарии или даже отдельные сцены не будут писаться или переписываться чат-ботами. Вместе со сценаристами и актеры опасаются перемен, ведь лица можно оцифровать и ИИ сыграет любую роль. Видео к посту показывает эмоции по этому поводу у звезды сериала "Во все тяжкие".

В то время как Голливуд выясняет отношения с ИИ, российские создатели наоборот активно экспериментируют с новыми технологиями. Start обещает использовать ИИ как помощника сценаристов популярного сериала Черная весна https://t.iss.one/start_team21/455 , а СТС вовсю анонсирует первый в стране сериал по написанному нейросетью сценарию https://lenta.ru/news/2023/03/06/serialllchikk/.

Это я еще не пишу про дипфейк сериал о переезде Киану Ривза в Россию. www.kinopoisk.ru/series/5129356/.
На тему ИИ-замены реальных актеров будет отдельный пост

Полилог собрал подборку статей про роль ИИ в политике. Хороший способ посоветовать почитать как мои тексты, так и другие статьи из подборки.

На видео случай на шоу дронов в китайском городе Дунгуане. Внезапно отключилась нейросеть, управляющая более сотней беспилотников и они все попадали.

Пока что эти машинки не способны самоорганизовываться при потери связующего центра. Но что будет, когда потеря связи не станет для них критической?

Не так давно в поле внимания СМИ попала одна история, которая так и не была окончательно подтверждена или опровергнута. Разбор тут: https://habr.com/ru/companies/ruvds/articles/741116/

На военном саммите в Лондоне полковник ВВС США Такер Гамильтон описал испытания ударного дрона с ИИ. БПЛА полагалось атаковать системы ПВО условного противника. ИИ решил, что оператор, имеющий возможность отозвать удар, является помехой для выполнения задания (это было в режиме симуляции, оператор не пострадал).

Далее разработчики ИИ прописали, что убивать собственного оператора не положено. Из этого дрон сделал собственные выводы и предложил уничтожить вышку связи, дабы всё равно исключить возможность отмены атаки и обеспечить себе более высокие шансы на выполнение задачи.

Хорошо, что это была симуляция. Или это первые признаки утраты контроля?

В этом году для студентов-международников в Иркутске буду вести курс по ИИ в мировой политике. Для меня эксперимент в чистом виде, а для России почти уникальный курс. Разве что Павел Шариков ведёт что-то такое в МГУ https://lk.msu.ru/course/view?id=2378 (повезло им!). Я же попробую распространить это знание в Сибири.

Так вот, моя студенческая аудитория мало знает про ИИ, как и многие в этом канале. Поэтому, просьба. Накидайте в комментарии темы и какие-то ситуации, которые вам самим хотелось бы рассмотреть и узнать ответы. К примеру, может ли ИИ стать руководителем в организации или какая взаимосвязь между развитием нейронок и глобальным потеплением?

Это поможет мне сформировать некоторые темы для студентов, так и для постов сюда

На видео пример того, как работает компьютерное зрение. Сотни дронов парят в небе, в режиме реально времени отправляя данные о всем вокруг.

На практическом уровне подобная система видеонаблюдения находит свое применение в разных сферах. На слуху истории про умные камеры для обеспечения безопасности в городе и быстрого поиска преступников. Но этим все не ограничивается.

К примеру, дроны уже давно применяются на стройке (там они следят за соблюдением техники безопасности или же отслеживают недочеты в конструкции здания уже в процессе постройки). Китайские товарищи как обычно идут впереди и уже доверили ИИ самостоятельно руководить сооружением дамбы. https://hi-news.ru/technology/kak-iskusstvennyj-intellekt-postroit-plotinu-v-kitae.html

Очевидно, такой большой объем данных, собираемых для ИИ должен где-то храниться и обрабатываться. Пока что текущие возможности этого весьма ограничены, что делает тотальное внедрение ИИ невозможным.

Однако, все меняется буквально на наших глазах. Мне вот нравится такая новость: бостонскому стартапу Catalog Technologies удалось записать отрывок в 17 000 слов из «Гамлета» Шекспира на искусственную ДНК-молекулу. Главное достоинство необычной технологии — плотность хранения данных. Информация в ДНК-молекуле «утрамбована» как минимум в 1009 раз более плотно, чем на самом компактном жестком диске. https://habr.com/ru/companies/onlinepatent/articles/727664/

Данные с дронов, которые в реальном времени записываются и удаляются с клеток ДНК и обеспечивают тотальный контроль. Как вам такой киберпанк?

Этот канал новый и его подписчики, в основном лично знакомые автору, поэтому тему для поста я решил подобрать на основании своего дня рождения сегодня.

Празднование очередного года, прожитого человеком означает, что он непременно стареет на год (становится взрослее/опытнее/вставьте свой вариант). Однако может ли стареть ИИ, раз мы часто проводим для него параллели с человеком?

С одной стороны, ответ очевиден - ИИ не стареет в традиционном или биологическом смысле слова. В отличие от живых организмов, ИИ не подвергается физическому старению, так как это просто набор алгоритмов, используемых для выполнения задач.

Однако, ИИ может "устареть" в смысле ухудшения его эффективности или устаревания. Такое старение происходит, когда алгоритмика ИИ или данные, на которых он был обучен, становятся менее эффективными или релевантными.

Примером может служить модель машинного обучения, обученная на данных, которые с течением времени стали устаревшими . Так, модель беспилотного транспорта, обученная на правилах дорожного движения 20-летней давности, будет нарушать текущие правила на дороге.

Есть и другой вариант старения ИИ. Исследователи из Стэнфордского университета в Беркли опубликовали работу, которая демонстрирует, что языковая модель GPT-4 за три месяца после релиза стала хуже справляться с задачами генерации кода. https://habr.com/ru/articles/750882/
Причина этого кроется в возможности модели дообучаться на основания опыта взаимодействия с ней пользователя.

Фактически, чем больше информации получается в ходе работы модели (для человека мы назвали бы это опытом и мудростью лет), тем сложнее корректно её обработать, что приводит к появлению ошибок. Этакое горе от ума для КиберУма.

Что абсолютно точно отличает человека от ИИ, так это то, что "старение" компьютерного мозга можно обратить путем обновления алгоритмов или переписания кода. А к человеку такая магия не применима.