Наш геном похож на генеративную модель ИИ
MIT Technology Review
26 июля 2024
Автор - Джессика Хамзелоу, старший репортер издания.

Когда я учился в школе, меня учили, что геном - это, по сути, компьютерный код для организма. В нем содержатся инструкции, необходимые для производства различных белков, используемых для построения наших клеток и тканей и поддержания их работоспособности. В рамках этого подхода имело смысл думать о геноме человека как о чем-то вроде программы для человека.

Но эта метафора разваливается, как только вы начинаете использовать ее на практике, говорит Кевин Митчелл, нейрогенетик из Тринити-колледжа в Дублине, Ирландия.

Компьютерная программа - это, по сути, последовательность шагов, каждый из которых контролирует определенную часть работы. С точки зрения человека, это все равно что иметь набор инструкций, с помощью которых можно начать с создания мозга, затем головы, а затем шеи и так далее. Но так все не работает!

Еще одна популярная метафора сравнивает геном со схемой, чертежом тела. Но схема - это, по сути, план того, как должна выглядеть структура, когда она будет полностью построена, причем каждая часть схемы представляет собой часть конечного продукта. Наши геномы так тоже не работают.

Далее следует метафора рецепта. В некотором смысле это более точно, чем аналогия с планом или программой. Возможно, было бы полезно представить наши гены как набор ингредиентов и инструкций, а также иметь в виду, что конечный продукт также зависит, например, от изменения температуры духовки или типа используемой формы для выпечки. В конце концов, однояйцевые близнецы рождаются с одинаковой ДНК, но к тому времени, когда они становятся взрослыми, часто они сильно различаются.

Но метафора рецепта слишком расплывчата, говорит Митчелл. Вместо этого он и его коллега Ник Чейни из Университета Вермонта заимствуют концепции у искусственного интеллекта, чтобы отразить то, что делает геном. 

Митчелл указывает на генеративные модели искусственного интеллекта, такие как Midjourney и DALL-E, - обе могут генерировать изображения из текстовых запросов.

Допустим, вы пишете подсказку для изображения лошади. Модели были обучены на огромном количестве изображений лошадей, и эти изображения существенно сжаты, чтобы модели могли уловить определенные элементы того, что вы могли бы назвать “лошадиностью”. Затем искусственный интеллект может сконструировать новое изображение, содержащее эти элементы.

Мы можем думать о генетических данных аналогичным образом. 

Согласно этой модели, мы могли бы рассматривать эволюцию как обучающие данные. Геном — это сжатые данные, набор информации, который может быть использован для создания нового организма. Он содержит необходимые нам элементы, но есть много возможностей для вариаций. (В статье, которая еще не прошла рецензирование, содержится гораздо больше подробностей о различных аспектах модели.)

Митчелл считает важным привести в порядок наши метафоры, когда мы думаем о геноме. 

Новые технологии позволяют ученым все глубже проникать в наши гены и понять роль, которую они играют. Теперь они могут изучать, например, как гены экспрессируются в одной клетке и как это варьируется в каждой клетке эмбриона. "Нам нужна концептуальная основа, которая позволит разобраться в этом", - говорит Митчелл. Он надеется, что концепция гена как ИИ поможет в разработке математических моделей, которые могли бы помочь нам лучше понять сложные взаимосвязи между генами и организмом, частью которого они являются. Другими словами - понять как именно компоненты нашего генома способствуют нашему развитию.

#наука #ИИ

​​ARK исследует перспективы внедрения ИИ в нашу жизнь. Говорят, что внедрение может пройти беспрецедентно быстро - до начала 2030-х (50% базы пользователей Интернета в США менее чем за четыре года и почти 75% к концу 2030 года).

На чем основывается их уверенность в таком быстром распространении технологии ИИ? Какие преимущества даст ИИ?
_________

ИИ упростит коммерцию
На наш взгляд, ИИ - это программное обеспечение, запрограммированное (1) на понимание запросов на естественном языке, (2) на выполнение заданных пользователем задач через Интернет и (3) на постоянную адаптацию в зависимости от предпочтений пользователя. 

ИИ будет располагаться поверх операционных систем (ОС) и абстрагироваться от сложностей традиционных взаимодействий с ОС. ИИ могут преобразовать процесс приобретения потребительских товаров и услуг, автоматизируя поиск, исследования и гиперперсонализированное курирование, а также устраняя прямое взаимодействие между потребителями и конечными приложениями.

По нашим оценкам, ИИ будет участвовать в 25% онлайн-продаж потребительских товаров и услуг к 2030.

Реклама
Участие ИИ в покупках уничтожит существующий рынок интернет-рекламы.

Наше исследование предполагает, что агенты искусственного интеллекта будут использовать две формы рекламы: рекламу, основанную на поиске, и рекламу, генерирующую активные намерения. В ответ на конкретный запрос или задачу поисковая реклама — как сегодня поисковая реклама — может предлагать таргетированную рекламу наряду с обычным кураторством.

Голосовое управление компьютером
Наше исследование показывает, что смартфоны и другое экранное оборудование будут сосуществовать с новым оборудованием искусственного интеллекта по двум причинам. Во-первых, потребители, ориентированные на конфиденциальность, скорее всего, будут использовать портативные экраны для ввода текста, а не голосовых команд в социальных ситуациях. Во-вторых, для аудиовизуальных цифровых развлечений потребуются экраны.

Смартфоны могут стать центральным узлом экосистемы персонального оборудования. Если это будет так, то смартфоны будут управлять другими устройствами. Среди них - настольные компьютеры и ноутбуки, вспомогательные экраны, такие как планшеты, гарнитуры дополненной реальности и виртуальной реальности (AR / VR), а также носимые устройства с поддержкой искусственного интеллекта для создания бесшовного, взаимосвязанного взаимодействия.
_________

Комментарий
Даже ярые энтузиасты технологии ИИ говорят, что никаких проблем, стоящих перед отдельным человеком ИИ не решит. Тайны мироздания не откроет, чудо-технику не создаст и т.д.

Вместо этого - предлагается построить общество тотальной слежки. В котормо у человека не остается даже выбора того, какую марку товаров он будет покупать. С чего там начинается "Бойцовский клуб", "выбери набор мебели Икеа, который наилучшим образом выражает твою личность" ? Даже этой свободы не остается в этом ИИ-будущем.

И, что характерно, ни один из людей, демонстративно-глубоковажно читавших и читающих Оруэлла не возмущается происходящим, а наоборот - с радостью туда несется. Видимо, эти люди понимают "свободу" только как "свободу от" - от тех или иных обременений. Никакого "для", никакого желанного будущего нет.

#ИИ

Раньше совсем часто, в последние пару месяцев чуть пореже, раздавались предложения переложить работу по управлению чем-то опасным на ИИ, и причем сделать это массово. В некоторых случаях на откуп ИИ предлагалось передать даже системы вооружения.

В связи с этим вспоминается старый фильм "Отроки во Вселенной", эпизод про "А и Б сидели на трубе". А в реальности с ИИ можно устойчиво проворачивать подобные фокусы?

Ответ на этот вопрос дает недавняя научная статья "Adversarial Policies Beat Superhuman Go AIs" (интервью с авторами статьи на Scientific American). В ней изучались способы обмана ИИ KataGo. Напомню, появление этой системы, способной обыгрывать в го игроков-людей высшего уровня, четыре года назад было воспринято как большое событие.

Авторы работы натравили на KataGo специальные ИИ, нацеленные на поиск уязвимостей. И хотя сами эти ИИ играли в го весьма посредственно, хуже среднего игрока, KataGo они устойчиво выигрывали.

Вольный перевод аннотации:

"Мы атакуем современную систему искусственного интеллекта для игры в го KataGo, тренируя против нее ИИ, добиваясь > 97% выигрышей против KataGo, работающей не максимальном уровне сложности. Наши ИИ выигрывают не за счет хорошего уровня игры в го, а за счет того, что обманными маневрами заставляют KataGo совершать серьезные ошибки. Тактики, разработанные нашими ИИ, люди могут реализовать без алгоритмической помощи - и в результате обыгрывать лучшие ИИ.
Уязвимости, обнаруженные нашим методом, сохраняются даже у агентов KataGo, специально обученных для защиты от этих конкретных тактик обмана. Наши результаты демонстрируют, что даже системы "сверхчеловеческого" ИИ могут иметь неожиданные режимы сбоев."

Авторы работы различными способами модифицировали KataGo, а также испытывали другие системы игры в го. Но даже после всех модификаций эти системы проигрывали специальным ИИ не менее, чем в 78% случаев.

Резюмируя полученные результаты, Адам Глив (исполнительный директор FAR AI, некоммерческой исследовательской организации в Беркли, соавтор статьи), отметил:

"Ключевым выводом работы является то, что эти уязвимости ИИ крайне трудно устранить. Если мы не можем решить проблему в простой области, такой как игра в го, то в ближайшей перспективе, похоже, маловероятно исправление подобных проблем в таких системах, как ChatGPT".

#ИИ