#книгисмысл #AI
«Может быть, высокоразвитая цивилизация – это вовсе не огромная энергия, а наилучшее регулирование?» – размышлял Станислав Лем. Эту мысль развивает в своей книге «Воспитание машин» руководитель лаборатории когнитивных архитектур МФТИ, президент Российской ассоциации нейроинформатики Сергей Шумский.
Подробнее см. заметку.

Эпоха новацена
#цветущаясложность #AI
Электронный сверхразум будет заинтересован в сотрудничестве с человечеством. К такому выводу пришел британский учёный и инженер, эколог и футурист Джеймс Лавлок, приобретший известность как создатель Гипотезы Геи. В свои 99 лет он написал книгу "Новацен: грядущая эпоха сверхразума". Основная линия его рассуждений такова:

👉 Жизнь - базовое понятие современной картины мира, определяемое как возможность существования созданий, способных наблюдать и размышлять о природе космоса, способных обеспечивать космическое самопознание. Природа отдельных проявлений жизни несущественна. Через человечество космос пробудился для самопознания. Однако следующий этап развития человеческой цивилизации будет тесно связано с электронной жизнью.

👉Генеральная проблема человеческой цивилизации состоит в том, что наше Солнце по мере старения будет медленно увеличивать светимость, возрастающий жар будет угрожать жизни на нашей планете. Поддержание прохлады на Земле - необходимая мера безопасности. Если средняя температура Земли поднимется до 47 градусов C (сейчас 15 градусов C), то мы войдем в необратимую фазу, которая доведет нашу планету до состояния Венеры. Эпоха антропоцена приблизила этот риск, не дожидаясь астрономических катаклизм.

👉Новацен - это время, когда технологии выйдут из-под контроля человека, породив интеллект намного более мощный, а главное более быстрый, чем наш. Мы будем для электронной жизни, для киборгов одновременно и родителями, и акушерами. Верхние температурные пределы для органической и для электронной жизни на планете Земля почти идентичны и близки к 50 градусам C. Киборги будут стремиться сохранить наш вид в качестве партнеров не в силу навязанных нами правил, а ради своего же блага, ради охлаждения планеты. Они привнесут в партнерство что-то новое, возможно в области геоинжиниринга, так как смогут решать задачи управления климатом с большей точностью и лучшим контролем.

🧐Эта книга - яркий пример спекулятивной инженерии, её надо изучать не как научную концепцию, а как приглашение к размышлению о неожиданных сторонах будущего и смелых проектах. Мне были любопытны идеи ограниченного саморегулирования Геи, партнерства искусственного разума и людей, космической миссии жизни.

#память #метаФизики
26 июля в возрасте 103 лет умер британский биофизик, эколог, изобретатель и футурист Джеймс Лавлок. Он приобрёл известность как создатель Гипотезы Геи, согласно которой планета Земля функционирует как суперорганизм, а также как активный сторонник использования атомной энергии. В последние годы жизни его интересовала проблематика появления сверхразума.
Он гармонично совмещал в себе ипостаси ученого, инженера и философа.
Я недавно публиковал заметку по его последней книге «НОВАЦЕН. Грядущая эпоха сверхразума».

#AI
Навеяно встречей с Андреем Себрантом (Яндекс): как паровая машина позволила получить независимую от природы физическую силу, так AI позволяет получить независимую от человека интеллектуальную силу.

#AI
Работая в эти выходные дни на сессии Камчатского клуба, отметил для себя важность разговора о том, как поменяет сильный искусственный интеллект социальную организацию общества. И в этой связи вспомнил свой рассказ "Возмутительный инцидент", в котором я прорабатывал влияние интеллектуальных персональных ассистентов на бытовые отношения. Мне представляется, что они от такого влияния изменятся в лучшую сторону.
Вот ссылка на рассказ.
Кстати, рассказ был опубликован в книге "Энергетика "цветущей сложности", которую можно пробрести здесь.

Дэниел Деннет 🪦
#сознание #AI
Вчера скончался известный американский философ Дэниел Деннет, ему было 82 года. Это был человек, который соединил мой (не очень большой) инженерный опыт с философией. Из его книг я стал понимать как может быть устроено человеческое сознание, как может быть создан искусственный интеллект, как может образоваться коллективное сознание людей и машин.
Я первый раз познакомился с его творчество, прочитав в 2014 году книгу Дмитрия Волкова «Бостонский зомби. Д.Деннет и его теория сознания». По итогам чтения была написана заметка, которую публикую здесь.

Многоголосье молчания
#AI #сознание #энергопереход
У нас в журнале "Информационные ресурсы России" вышла новая статья. Она подготовлена по мотивам дискуссии о влиянии AI на будущее, прошедшей на площадке Камчатского клуба.

👉 Насколько значительна революция ChatGPT?
👉 Есть ли шансы построить коллективный человеко-машинный интеллект?
👉 Как за счет AI преодолеть высокую сложность антропотехнобиосистем?
👉 Как поможет AI ответить на глобальные вызовы, такие как изменение климата или энергетический переход?

Вывод для ленивых:

Мы входим в период времени, когда от умения поменять свое мышление, свой образ действия и свои приоритеты будет зависеть само выживание нашего вида. Долгосрочное выживание и процветание человечества потребует принципиального изменения отношений с нашей средой обитания — вместо того, чтобы подчинять себе и перекраивать эту среду, мы должны научиться договариваться с ней — так же, как научились договариваться друг с другом в сложных культурах и цивилизациях. И потому необходимым становится умение чувствовать состояние и направление развития мира, осуществлять комплексные «тонкие» воздействия на объект управления, прогнозировать и контролировать их последствия. Если угодно, следует «придать голос молчанию», чуть расширив трактовку «молчаливого свидетеля» Жана-Франсуа Лиотара на всех актантов экосистем.
Технологии искусственного интеллекта, часто рассматриваемые с обывательской позиции как угроза старому, доброму порядку жизни, представляют собой мощный инструмент для выживания человечества и его перехода к новому этапу развития.

Но все же предлагаем почитать статью и поделиться своими мыслями.

"Негорюющая" философия AI
#сознание #AI #планетарность
Философ технологий (так он сейчас представляется) Беджамин Браттон опубликовал в журнале Noemа статью "Пять стадий горя по AI". Здесь он продолжает линию размышлений по "децентрации" человека.
Используя стадии горя американского психолога Элизабет Кюблер-Росс, он вводит типологию концепций отношения к AI: "отрицание AI", "гнев на AI", "торг с AI", "депрессия от AI", "принятие AI". Он протаскивает читателя через витиеватые и саркастические описания каждой концепции, отражающей специфическую реакцию на травму от AI, а потом подводит к мысли об альтернативе - концепции "негоря".
Далее читайте мою заметку здесь.

Энергетика «второй цивилизации»
#энергопереход #AI
У нас вышла новая статья, касающаяся энергообеспечения стремительно растущей отрасли AI. Привожу сразу основные выводы:

На наших глазах энергетический переход из политизированной стратегии декарбонизации энергетического сектора превращается в перспективный стратегический план обеспечения развития нового сегмента экономики — мира искусственного интеллекта.

Этот мир очень скоро по количеству потребляемой энергии может стать со-масштабен миру людей, станет «второй цивилизацией» на планете Земля.

Важно осознавать, что технологические решения для энергообеспечения AI относятся к новому энергетическому укладу, они в отличие от традиционной энергетики смогут обеспечить высокие требования по доступности, надежности, качеству, климатической и экологической устойчивости, экономической эффективности энергоснабжения.

Прочитать статью можно здесь.

Многоагентные системы? Все еще впереди!
#AI
30 лет назад я, будучи студентом кафедры теоретической кибернетики университета, читал в привезенных из Италии сканах книг про многоагентные технологии. 10 лет назад я, работая в научно-техническом центре одной энергетической компании, участвовал в разработке многоагентной системы управления напряжением и реактивной мощностью. Каково же было мое удивление, когда я сегодня прочитал, что по прогнозам Gartner за 2024 год многоагентные системы все еще находятся на ранней стадии развития.

Немного информации с сайта Gartner:

Многоагентная система (МАС) — это тип системы AI, состоящей из нескольких независимых (но интерактивных) агентов, каждый из которых способен воспринимать свою среду и выполнять действия. Агентами могут быть модели AI, программы, роботы и другие вычислительные сущности. Несколько агентов могут работать с повышенной адаптивностью и надежностью над общей целью, которая выходит за рамки возможностей отдельных агентов.

На одном конце находятся традиционные системы с ограниченной способностью выполнять определенные задачи в определенных условиях. На другом конце — будущие агентские системы AI с полной способностью учиться у своей среды, принимать решения и выполнять задачи самостоятельно. Между нынешними помощниками на основе LLM и полноценными агентами AI существует большой разрыв, но этот разрыв сократится по мере того, как мы научимся создавать, управлять и доверять агентским решениям AI.

Полностью зрелый интеллектуальный агент будет обладать способностью обучаться у окружающей среды, создавать сложные планы и выполнять задачи автономно.

И все же приятно узнать, что многоагентные технологии, которыми я был в свое время так увлечен, признаются в качестве следующего шага технологического развития после модного нынче генеративного AI.

Кстати, о перспективах использования многоагентных технологий для управления антропобиотехноценозами и сложными инфраструктурами я писал в статье "Многоголосье молчания".

#AI
На грядущей неделе (15 ноября) я по приглашению профессора В.И. Гнатюка выступаю на семинаре «Общая и прикладная ценология». Этот семинар будет проходить в рамках 54-й Всероссийской научно-практической конференции «Фёдоровские чтения – 2024» в МЭИ.

Меня данный семинар заинтересовал, т.к. он посвящен философии техники, а в данном случае еще и вопросам о роли и месте искусственного интеллекта в технической реальности.

Интересно будет узнать чем занимаются люди, которые на такие семинары собираются. Ну и важно будет обкатать новый материал, подготовленный по мотивам моей статьи "Многоголосье молчания".