Картинка хорошо отражает текущий момент. Барт пишет: "i will not deploy on AI system without an impact assessment".

Внедряя ИИ мы не всегда можем знать, как он может быть применен. Есть уже классический пример, когда американский гигант Amazon пытался использовать ИИ для оценки кандидатов на ту или иную вакансию. Оказалось, что искусственный разум априори занижал оценку кандидатурам женщин, предлагал им более низкую зарплату и автоматически блокировал резюме афроамериканцев.

В итоге эксперимент был свернут, а аналитики начали разбираться, почему же ИИ делал такие выводы. Если очень просто - разработчики не учли, что алгоритму была поставлена задача подбирать лучших кандидатов, основываясь на статистических данных США. Статистика же говорит, что афроамериканцы чаще других совершают правонарушения, женщины уходят в декрет, а работодатели традиционно оценивают их труд дешевле мужского.

На основе этого алгоритм решил, что максимально эффективно будет не пытаться дать шанс условной афроженщине, а изначально её забраковывать, потому что это позволит эффективнее выполнять поставленную перед ИИ задачу.

Это хороший пример наличия bias (предвзятости) в выборке данных, на которых обучается ИИ и который пока сложно предусмотреть при внедрении

Текущая волна хайпа вокруг ИИ заключается не в том, что появились какие-то совершенно революционные технологии, а потому что они стали доступны обычному человеку.

Условно говоря, технологии генерации изображений или текста уже давно существуют. Однако для широких масс они стали известны только после выпуска языковой модели ChatGPT и генератора изображений MidJourney. Эти нейросети показали, что инструменты ИИ могут быть легкими в обращении и, самое главное, доступными каждому желающему. (Картинку к посту я сгенерировал в пару кликов в MidJourney)

Еще недавно создание компьютерной графики или даже ретуширование фотографии считалось задачей узкого специалиста. Сейчас же достаточно найти подходящую нейросеть и за пару кликов сделать то, что ранее специалист делал бы часами.

Сейчас на просторах сети появились целые сайты, которые помогают найти нейронку под любой вкус. К примеру тут https://library.phygital.plus можно по фильтрам сформировать свой запрос и сайт покажет все доступные нейронки под поставленную задачу.

Фактически, любая технология ценна не сама по себе, а тем, насколько она удобна в применении. Но не станет ли повышение удобства использование ИИ угрозой для целых профессий человека? Ответ неоднозначный

P.s. добавил функцию комментариев

Я подписан на множество страниц экспертов и организаций в LinkedIn. Именно там можно отследить новые темы и зарождающиеся тренды в сфере ИИ.

Это крайне примечательный факт — ИИ-повестка формируется именно в рамках англоязычного экспертного сообщества. Российская отраслевая повестка отстает от мировой, что приводит к типичной для нас роли догоняющего.

К сожалению, мы не просто не успеваем за западной мыслью (с этим мы как-то смирились уже), но и не находимся в общем русле со странами, которые воспринимаются близкими нам. Фактически, мы мало понимаем, что думают про развитие ИИ в Индии, Китае, Индонезии и др.

Эта невстроенность в международную повестку не позволяет нам использовать достаточно понятную возможность выстраивания технологических партнерств "по интересам".

Как-то участвовал в организации экспертного диалога по теме значения ИИ в мировой политике. Мы смогли собрать там представителей Индии, Китая, России и Сингапура. И каково было моё удивление, что позиция всех экспертов очень близки, даже Сингапура. Последний вообще был откровенен и говорил, что каналы общения его страны с Россией почти оборвались, а тема ИИ даёт ему редкий шанс пообщаться с российскими коллегами и услышать схожие позиции.

Любой создатель публичного блога сталкивается с необходимостью генерирования контента с определенной периодичностью. Еще и качество этих "плановых" мыслей должно быть на хорошем уровне, чтобы не только удерживать подписчиков, но и привлекать новых.

Это очень наглядно проявляется в мире кинематографа. Мы часто сталкиваемся с ситуацией, когда наш любимый сериал встает на рельсы конвейера и каждый новый сезон снижает планку качества сюжета.

Объяснение подобному, как правило, простое - сценаристы не успевают за производственным процессом. В рамках этого канала нам интересно решение проблемы через ИИ.

Самый простой вариант - использовать тот же ChatGPT, который способен выдать простенький скрипт под любой жанр кино или сериала. Дальше пошел разработчик DeepMind AI, представив ИИ-инструмент Dramatron, который способен создавать полноценный черновик сценария фильма. Лидер рынка медиаразвлечений - Дисней уже создал отдел по внедрению ИИ в процессы создания контента.

На фоне этих надвигающихся перемен в индустрии проходит забастовка сценаристов Голливуда. Одно из требований "властителей сюжета" заключается в предоставлении гарантий того, что никакие сценарии или даже отдельные сцены не будут писаться или переписываться чат-ботами. Вместе со сценаристами и актеры опасаются перемен, ведь лица можно оцифровать и ИИ сыграет любую роль. Видео к посту показывает эмоции по этому поводу у звезды сериала "Во все тяжкие".

В то время как Голливуд выясняет отношения с ИИ, российские создатели наоборот активно экспериментируют с новыми технологиями. Start обещает использовать ИИ как помощника сценаристов популярного сериала Черная весна https://t.iss.one/start_team21/455 , а СТС вовсю анонсирует первый в стране сериал по написанному нейросетью сценарию https://lenta.ru/news/2023/03/06/serialllchikk/.

Это я еще не пишу про дипфейк сериал о переезде Киану Ривза в Россию. www.kinopoisk.ru/series/5129356/.
На тему ИИ-замены реальных актеров будет отдельный пост

Полилог собрал подборку статей про роль ИИ в политике. Хороший способ посоветовать почитать как мои тексты, так и другие статьи из подборки.

На видео случай на шоу дронов в китайском городе Дунгуане. Внезапно отключилась нейросеть, управляющая более сотней беспилотников и они все попадали.

Пока что эти машинки не способны самоорганизовываться при потери связующего центра. Но что будет, когда потеря связи не станет для них критической?

Не так давно в поле внимания СМИ попала одна история, которая так и не была окончательно подтверждена или опровергнута. Разбор тут: https://habr.com/ru/companies/ruvds/articles/741116/

На военном саммите в Лондоне полковник ВВС США Такер Гамильтон описал испытания ударного дрона с ИИ. БПЛА полагалось атаковать системы ПВО условного противника. ИИ решил, что оператор, имеющий возможность отозвать удар, является помехой для выполнения задания (это было в режиме симуляции, оператор не пострадал).

Далее разработчики ИИ прописали, что убивать собственного оператора не положено. Из этого дрон сделал собственные выводы и предложил уничтожить вышку связи, дабы всё равно исключить возможность отмены атаки и обеспечить себе более высокие шансы на выполнение задачи.

Хорошо, что это была симуляция. Или это первые признаки утраты контроля?

В этом году для студентов-международников в Иркутске буду вести курс по ИИ в мировой политике. Для меня эксперимент в чистом виде, а для России почти уникальный курс. Разве что Павел Шариков ведёт что-то такое в МГУ https://lk.msu.ru/course/view?id=2378 (повезло им!). Я же попробую распространить это знание в Сибири.

Так вот, моя студенческая аудитория мало знает про ИИ, как и многие в этом канале. Поэтому, просьба. Накидайте в комментарии темы и какие-то ситуации, которые вам самим хотелось бы рассмотреть и узнать ответы. К примеру, может ли ИИ стать руководителем в организации или какая взаимосвязь между развитием нейронок и глобальным потеплением?

Это поможет мне сформировать некоторые темы для студентов, так и для постов сюда

На видео пример того, как работает компьютерное зрение. Сотни дронов парят в небе, в режиме реально времени отправляя данные о всем вокруг.

На практическом уровне подобная система видеонаблюдения находит свое применение в разных сферах. На слуху истории про умные камеры для обеспечения безопасности в городе и быстрого поиска преступников. Но этим все не ограничивается.

К примеру, дроны уже давно применяются на стройке (там они следят за соблюдением техники безопасности или же отслеживают недочеты в конструкции здания уже в процессе постройки). Китайские товарищи как обычно идут впереди и уже доверили ИИ самостоятельно руководить сооружением дамбы. https://hi-news.ru/technology/kak-iskusstvennyj-intellekt-postroit-plotinu-v-kitae.html

Очевидно, такой большой объем данных, собираемых для ИИ должен где-то храниться и обрабатываться. Пока что текущие возможности этого весьма ограничены, что делает тотальное внедрение ИИ невозможным.

Однако, все меняется буквально на наших глазах. Мне вот нравится такая новость: бостонскому стартапу Catalog Technologies удалось записать отрывок в 17 000 слов из «Гамлета» Шекспира на искусственную ДНК-молекулу. Главное достоинство необычной технологии — плотность хранения данных. Информация в ДНК-молекуле «утрамбована» как минимум в 1009 раз более плотно, чем на самом компактном жестком диске. https://habr.com/ru/companies/onlinepatent/articles/727664/

Данные с дронов, которые в реальном времени записываются и удаляются с клеток ДНК и обеспечивают тотальный контроль. Как вам такой киберпанк?

Этот канал новый и его подписчики, в основном лично знакомые автору, поэтому тему для поста я решил подобрать на основании своего дня рождения сегодня.

Празднование очередного года, прожитого человеком означает, что он непременно стареет на год (становится взрослее/опытнее/вставьте свой вариант). Однако может ли стареть ИИ, раз мы часто проводим для него параллели с человеком?

С одной стороны, ответ очевиден - ИИ не стареет в традиционном или биологическом смысле слова. В отличие от живых организмов, ИИ не подвергается физическому старению, так как это просто набор алгоритмов, используемых для выполнения задач.

Однако, ИИ может "устареть" в смысле ухудшения его эффективности или устаревания. Такое старение происходит, когда алгоритмика ИИ или данные, на которых он был обучен, становятся менее эффективными или релевантными.

Примером может служить модель машинного обучения, обученная на данных, которые с течением времени стали устаревшими . Так, модель беспилотного транспорта, обученная на правилах дорожного движения 20-летней давности, будет нарушать текущие правила на дороге.

Есть и другой вариант старения ИИ. Исследователи из Стэнфордского университета в Беркли опубликовали работу, которая демонстрирует, что языковая модель GPT-4 за три месяца после релиза стала хуже справляться с задачами генерации кода. https://habr.com/ru/articles/750882/
Причина этого кроется в возможности модели дообучаться на основания опыта взаимодействия с ней пользователя.

Фактически, чем больше информации получается в ходе работы модели (для человека мы назвали бы это опытом и мудростью лет), тем сложнее корректно её обработать, что приводит к появлению ошибок. Этакое горе от ума для КиберУма.

Что абсолютно точно отличает человека от ИИ, так это то, что "старение" компьютерного мозга можно обратить путем обновления алгоритмов или переписания кода. А к человеку такая магия не применима.

Пришла идея на выходных делать пост с рекомендацией книг или фильмов по тематике, завязанной на цифровизацию и ИИ. Внесу вклад в техно-просвещение своей аудитории, надеюсь, вам будет интересно.
Все подобные посты получат свой тег #aitime

Начнем с одного из самых известных фильмов по теме:
Она
"Теодор - одинокий писатель, покупает новую техническую разработку - операционную систему, призванную исполнять любое желание пользователя. К удивлению Теодора, вскоре между ним и операционной системой возникает роман."
https://www.kinopoisk.ru/film/577488/

В 2014 году эта лента с Хоакином Фениксом в главной роли была номирована на множество оскаровских наград и в итоге выиграла в номинации Лучший сценарий.

"Она" запомнилась мне интересной аллюзией. Раз уж мы принимаем, что ИИ может заменить человека, то мы должны смириться и с тем, что искусственный разум точно так же способен расти (переосмысливать самого себя) в отношениях с людьми.

Это фильм не просто интересное размышление о том, что будет если мы получим возможность заменить реальных людей на ИИ в своём общении, но и пример отличной работы художника-постановщика.

Просто посмотрите, как тут подобрана цветовая гамма. Изменения цвета рубашек Теодора и окружения вокруг ненавязчиво показывают нам как развитие персонажа, так и состояние его внутреннего мира без единого слова.

Текущий хайп вокруг ИИ стал возможен благодаря появлению доступных и легких в применении для обычного пользователя, нейросетей (ChatGPT, MidJourney).

По своему типу подобные хайповые нейронки относятся к генеративным моделям. Суть их заключается в возможности именно что сгенерировать ответ на запрос пользователя. Это может быть относительно связные: текст, речь, изображение, видео, музыка.

Эти модели предварительно обучаются на огромных объемах данных, тем самым в них закладывается та самая база генерирования, из которой потом собираются как кирпичики ответы на наши запросы.

Сам процесс генерирования очень просто объясняет, что ИИ - не человек. Он не мыслит, а всего лишь в некоторой степени воспроизводит то, на чем он обучен. Не стоит ждать от ИИ откровений и смены параригмы, он не способен на это.

Как часто описывают это в западных сми - ИИ не способен на insight, что можно перевести как неспособность понимания/осмысления чего-либо, так и отсутствие возможности получить озарение, которое как раз и является ключевой чертой человека, позволяющего ему придумать что-то кардинально новое, не имеющее аналогов в мире ранее.

Именно поэтому, на текущем этапе, ИИ не способен представить нам что-то прорывное сродни Черного квадрата Малевича.

Изображение к этому посту было сгенерировано по запросу - "что будет в искусстве после Черного квадрата Малевича"

#aitime
Продолжаем нашу идею знакомства с ИИ через кино.

В поиске новой рекомендации я пришел к одному наблюдению. Тематика ИИ традиционно получала развитие через тему угрозы (вспомните ключевую завязку сюжета серии Терминатор, где Скайнет абсолютное зло, которое стремится уничтожить человечество), или же ИИ раскрывался через философское рассуждение, базирующееся вокруг вечных вопросов: что значит быть человеком? может ли разум и тело восприниматься как разделимые сущности?

Последний вопрос разворачивает "Призрак в доспехах" (Ghost in the Shell) от японского автора Масамунэ Сиро, который размышляет на тему — что если от тела человека остался один лишь мозг, а технологии позволяют перенести этот мозг в кибероболочку?

Самое интересное, а что если и мозг можно оцифровать и от человека в искусственной оболочке (shell) останется только самосознание себя как человека (ghost)? К примеру - оболочку смогут взломать и взять контроль над этим самым сознанием (как по мне, перекликается с практиками НЛП или гипноза).

Сиро не задаёт банальный вопрос «может ли машина мыслить», он идёт дальше. Он пытается изобразить мотивацию и способ существования искусственного разума как системы, которая стремится к развитию и выживанию.

Автор приводит нас к интересному размышлению - что может отделять нас от ИИ, если он тоже станет способен осознать себя и выйти за рамки машины. Может быть он станет более человечным, чем мы сами? Ведь человечность это не про человека, а про подход к окружающему миру.

Надеюсь, у меня получилось заинтересовать вас, поэтому открою страшную тайну, Призрак в доспехах - это аниме. Есть и голливудская экранизация, которая взяла некоторые моменты из оригинала, но крайне поверхностно https://www.kinopoisk.ru/film/843789/

Но все же советую дать шанс оригиналу и всему жанру аниме https://vk.com/video-39523535_456239017
Если первая часть понравится, то вторая поднимает размышления на абсолютно новый уровень и без нее никак https://vk.com/video-130045726_456240540

Ps. обратите внимание на заглавную муз.тему

Бурное развитие ИИ стало возможно благодаря накоплению огромных массивов данных, на которых и обучаются различные нейросети, по типу ChatGPT или YandexGPT. И это при том, что текущие технические возможности ограничивают размеры хранилищ данных, так и скорость доступа к ним. Вот тут писал, как эти ограничения пробуют преодолеть
https://t.iss.one/aipolitics/22

Однако чтобы обработать данные, их нужно как-то получить. С одной стороны эпоха оцифровывания всего и вся сама по себе генерирует бесконечное число данных. С другой стороны, эти данные могут носить конфиденциальный характер.

Не секрет, что многие технологические компании собирают данные для своих целей. Мы уже привыкли, что после одного поискового запроса какого-то товара нас начинают преследовать рекламные баннеры.

Но что если наши персональные данные будут использованы для обучения ИИ? К примеру, Google объявила, что собирается обучать ИИ на любых общедоступных данных пользователей, т.е. на всем, что каждый из нас оставит в сети, пусть это будет пост с философскими мыслями или же фото.

Гугловская языковая модель Bard теперь имеет доступ к Gmail, Drive и YouTube. Как заверяет компания, чат-бот будет искать в сервисах Google ответы на вопросы с разрешения пользователя, которое при желании можно отозвать. Данные обещают не использовать для обучения ИИ.

Однако, я бы не стал сильно верить в такие заверения. Разработчики ChatGPT тоже заверяли, что обучали свою модель только на публичных данных, что не спасло их от исков за использование чужих данных.

Бывший Твиттер, став сетью X объявил, что начнет собирать информацию о работе, образовании и иных данных пользователей, не скрывает, что эти данные будут использованы для обучения ИИ.

Интересное время — информация о человеке становится более ценной, чем сам человек.

#aitime
Решил расширить рубрику за рамки кино. В этот раз будет подкаст Российской экономической школы "Как бизнес учится жить с искусственным интеллектом" https://guru.nes.ru/kak-biznes-uchitsya-zhit-s-iskusstvennyim-intellektom.html

Участники подкаста уделяют внимание экономическому влиянию и практическим эффектам от развития ИИ. Они описывают примеры использования новых технологий, рассуждают о том, какие индустрии выиграют, а какие могут исчезнуть. Обсуждают стратегии, которые предприниматели выбирают для преодоления новой технологической неопределенности.

От себя скажу, что подобные обсуждения показывают разность взглядов на вещи у людей из разных сфер. Там где одни размышляют о том, что ИИ отберет у людей работу, то другие люди вполне могут начать обсуждать - может ли ИИ самостоятельно вести бизнес? И самое интересное, что аргументы всех участников подобных дискуссий имеют право быть.

В этом подкасте ведущая спрашивает у участников: "Нужен ли в школах предмет язык искусственного интеллекта"? на что получает отрицательный ответ. Хотя мне кажется, что аргументов "за" было мало озвучено. Я вот всё еще трачу много времени, чтобы сгенерировать картинки к своим постам.

А вы как думаете, нужно ли в школе (университете и др.) начать учить как общаться с ИИ?

Пришла пора поста про то, а что мы тут обсуждаем.

Серьезный разговор про ИИ невозможен, если не понимать, что означает этот термин. Можно часто встретить распространенное мнение, что роботы это и есть ИИ (а это не так!). Робототехника - это про разработку автоматизированных технических систем. Роботы разного уровня развития существуют уже очень давно, что не означает, что в них есть ИИ. ИИ это скорее "мозг", который может иметь механизированную оболочку. А может и не иметь.

Но что больше осложняет ситуацию - мир так и не пришел к единому мнение, а что такое ИИ. Из-за этого каждая страна может трактовать этот термин как считает нужным, а на международном уровне эксперты просто тонут в переговорах, лишь бы согласовать какой-то документ, связанный с ИИ.

Самым явным примером подобных разночтений является машинное обучение (ML - не прямое решение задачи, а обучение специальной программы решениям множества сходных задач, на основании которых будет выработан механизм решения всех задач подобного типа). Этот подход относят к классу методов ИИ, но при этом западная литература часто упоминает ML как самостоятельное явление, наравне с ИИ. А в русскоязычной литературе ИИ это общее определение ряда технологий и методов.

У нас официально закреплено такое определение: ИИ – комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе, в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений.

Таким образом, когда мы говорим про генеративные нейросети, компьютерное зрение, языковые помощники, чат-ботов и подобное (смотрите картинку к посту) - мы говорим про ИИ.

#aihow