#память #метаФизики
26 июля в возрасте 103 лет умер британский биофизик, эколог, изобретатель и футурист Джеймс Лавлок. Он приобрёл известность как создатель Гипотезы Геи, согласно которой планета Земля функционирует как суперорганизм, а также как активный сторонник использования атомной энергии. В последние годы жизни его интересовала проблематика появления сверхразума.
Он гармонично совмещал в себе ипостаси ученого, инженера и философа.
Я недавно публиковал заметку по его последней книге «НОВАЦЕН. Грядущая эпоха сверхразума».

#AI
Навеяно встречей с Андреем Себрантом (Яндекс): как паровая машина позволила получить независимую от природы физическую силу, так AI позволяет получить независимую от человека интеллектуальную силу.

#AI
Работая в эти выходные дни на сессии Камчатского клуба, отметил для себя важность разговора о том, как поменяет сильный искусственный интеллект социальную организацию общества. И в этой связи вспомнил свой рассказ "Возмутительный инцидент", в котором я прорабатывал влияние интеллектуальных персональных ассистентов на бытовые отношения. Мне представляется, что они от такого влияния изменятся в лучшую сторону.
Вот ссылка на рассказ.
Кстати, рассказ был опубликован в книге "Энергетика "цветущей сложности", которую можно пробрести здесь.

Дэниел Деннет 🪦
#сознание #AI
Вчера скончался известный американский философ Дэниел Деннет, ему было 82 года. Это был человек, который соединил мой (не очень большой) инженерный опыт с философией. Из его книг я стал понимать как может быть устроено человеческое сознание, как может быть создан искусственный интеллект, как может образоваться коллективное сознание людей и машин.
Я первый раз познакомился с его творчество, прочитав в 2014 году книгу Дмитрия Волкова «Бостонский зомби. Д.Деннет и его теория сознания». По итогам чтения была написана заметка, которую публикую здесь.

Многоголосье молчания
#AI #сознание #энергопереход
У нас в журнале "Информационные ресурсы России" вышла новая статья. Она подготовлена по мотивам дискуссии о влиянии AI на будущее, прошедшей на площадке Камчатского клуба.

👉 Насколько значительна революция ChatGPT?
👉 Есть ли шансы построить коллективный человеко-машинный интеллект?
👉 Как за счет AI преодолеть высокую сложность антропотехнобиосистем?
👉 Как поможет AI ответить на глобальные вызовы, такие как изменение климата или энергетический переход?

Вывод для ленивых:

Мы входим в период времени, когда от умения поменять свое мышление, свой образ действия и свои приоритеты будет зависеть само выживание нашего вида. Долгосрочное выживание и процветание человечества потребует принципиального изменения отношений с нашей средой обитания — вместо того, чтобы подчинять себе и перекраивать эту среду, мы должны научиться договариваться с ней — так же, как научились договариваться друг с другом в сложных культурах и цивилизациях. И потому необходимым становится умение чувствовать состояние и направление развития мира, осуществлять комплексные «тонкие» воздействия на объект управления, прогнозировать и контролировать их последствия. Если угодно, следует «придать голос молчанию», чуть расширив трактовку «молчаливого свидетеля» Жана-Франсуа Лиотара на всех актантов экосистем.
Технологии искусственного интеллекта, часто рассматриваемые с обывательской позиции как угроза старому, доброму порядку жизни, представляют собой мощный инструмент для выживания человечества и его перехода к новому этапу развития.

Но все же предлагаем почитать статью и поделиться своими мыслями.

"Негорюющая" философия AI
#сознание #AI #планетарность
Философ технологий (так он сейчас представляется) Беджамин Браттон опубликовал в журнале Noemа статью "Пять стадий горя по AI". Здесь он продолжает линию размышлений по "децентрации" человека.
Используя стадии горя американского психолога Элизабет Кюблер-Росс, он вводит типологию концепций отношения к AI: "отрицание AI", "гнев на AI", "торг с AI", "депрессия от AI", "принятие AI". Он протаскивает читателя через витиеватые и саркастические описания каждой концепции, отражающей специфическую реакцию на травму от AI, а потом подводит к мысли об альтернативе - концепции "негоря".
Далее читайте мою заметку здесь.

Энергетика «второй цивилизации»
#энергопереход #AI
У нас вышла новая статья, касающаяся энергообеспечения стремительно растущей отрасли AI. Привожу сразу основные выводы:

На наших глазах энергетический переход из политизированной стратегии декарбонизации энергетического сектора превращается в перспективный стратегический план обеспечения развития нового сегмента экономики — мира искусственного интеллекта.

Этот мир очень скоро по количеству потребляемой энергии может стать со-масштабен миру людей, станет «второй цивилизацией» на планете Земля.

Важно осознавать, что технологические решения для энергообеспечения AI относятся к новому энергетическому укладу, они в отличие от традиционной энергетики смогут обеспечить высокие требования по доступности, надежности, качеству, климатической и экологической устойчивости, экономической эффективности энергоснабжения.

Прочитать статью можно здесь.

Многоагентные системы? Все еще впереди!
#AI
30 лет назад я, будучи студентом кафедры теоретической кибернетики университета, читал в привезенных из Италии сканах книг про многоагентные технологии. 10 лет назад я, работая в научно-техническом центре одной энергетической компании, участвовал в разработке многоагентной системы управления напряжением и реактивной мощностью. Каково же было мое удивление, когда я сегодня прочитал, что по прогнозам Gartner за 2024 год многоагентные системы все еще находятся на ранней стадии развития.

Немного информации с сайта Gartner:

Многоагентная система (МАС) — это тип системы AI, состоящей из нескольких независимых (но интерактивных) агентов, каждый из которых способен воспринимать свою среду и выполнять действия. Агентами могут быть модели AI, программы, роботы и другие вычислительные сущности. Несколько агентов могут работать с повышенной адаптивностью и надежностью над общей целью, которая выходит за рамки возможностей отдельных агентов.

На одном конце находятся традиционные системы с ограниченной способностью выполнять определенные задачи в определенных условиях. На другом конце — будущие агентские системы AI с полной способностью учиться у своей среды, принимать решения и выполнять задачи самостоятельно. Между нынешними помощниками на основе LLM и полноценными агентами AI существует большой разрыв, но этот разрыв сократится по мере того, как мы научимся создавать, управлять и доверять агентским решениям AI.

Полностью зрелый интеллектуальный агент будет обладать способностью обучаться у окружающей среды, создавать сложные планы и выполнять задачи автономно.

И все же приятно узнать, что многоагентные технологии, которыми я был в свое время так увлечен, признаются в качестве следующего шага технологического развития после модного нынче генеративного AI.

Кстати, о перспективах использования многоагентных технологий для управления антропобиотехноценозами и сложными инфраструктурами я писал в статье "Многоголосье молчания".

#AI
На грядущей неделе (15 ноября) я по приглашению профессора В.И. Гнатюка выступаю на семинаре «Общая и прикладная ценология». Этот семинар будет проходить в рамках 54-й Всероссийской научно-практической конференции «Фёдоровские чтения – 2024» в МЭИ.

Меня данный семинар заинтересовал, т.к. он посвящен философии техники, а в данном случае еще и вопросам о роли и месте искусственного интеллекта в технической реальности.

Интересно будет узнать чем занимаются люди, которые на такие семинары собираются. Ну и важно будет обкатать новый материал, подготовленный по мотивам моей статьи "Многоголосье молчания".

#космизм #AI
Гонка за первенство в AI форсирует развитие космической энергетики. Интересно, что Маск в своих рассуждениях об энергетике использует типологию цивилизаций астрофизика Кардашёва, о которой я недавно писал в связи с работами А.В. Сухово-Кобылина.
См. подробнее 👇

"Проспали революцию"
#энергопереход #AI
Вчера на Дне Энерджинет было примечательным выступление Дмитрия Пескова. Он обозначил три вызова, которые принципиально влияют на развитие энергетики, но мало учтены в российской энергетической политике:
1. Развитие AI;
2. Автономизация поселений;
3. Военные действия.
По первому пункту Дмитрий Николаевич не удержался и "кольнул" наш Центр: "Проспали революцию энергетических решений для AI". Мы, действительно, в алармистском режиме написали про данный вызов только в текущем году. Но говорили о нем и раньше, не найдя, правда говоря, тогда отклика у бизнеса.
В частности, еще в 2017 году в докладе "Цифровой переход в электроэнергетике России" мы писали о феномене "цифрового спроса":

"Новая индустриализация в рамках разворачивающейся в мире т. н. четвертой промышленной революции будет происходить на новой технологической базе (цифровые системы, аддитивные и высокоточные производства) зачастую чувствительной к надежности энергоснабжения и качеству электроэнергии. Это определяет появление и развитие «цифрового спроса», доля которого в ряде стран, по некоторым оценкам, составит 20–30% к 2030 году."

В то время было сложно конкретизировать данный вызов и выставить AI в качестве основного драйвера, т.к. не произошел еще бум нейросетей и больших языковых моделей. И все же наше предсказание выглядит пророческим на фоне недавних сведений о планах США по развитию энергосистемы с целью питания центров обработки данных для AI, в результате чего доля цифрового спроса вырастет там до 25-30%.

Термояд для AI
#энергопереход #AI
Интересно, удастся ли в ближайшие годы сдвинуть вопрос о применении термоядерного синтеза в энергетике с мертвой точки? Противоречие между необходимостью наращивания энергетических мощностей для AI и целями по снижению выбросов парниковых газов, ограничивающими энергетические возможности, заставляет капитал инвестировать в новые технологии. Читаем в интервью Сэма Альтмана для Bloomberg Businessweek от 05.01.2025 фрагмент про энергетику:

Что насчёт энергии…
Скоро у нас заработает термоядерный синтез.
Вы считаете, что реально заработает. В какие сроки?
Скоро. В смысле, скоро мы увидим демонстрацию положительного выхода энергии. Потом нужно сделать систему, которая не ломается. Нужно её масштабировать, наладить производство, выпуск реакторов, получить все разрешения. И на всё это, ну, несколько лет? Но я жду, что Helion* покажет работоспособность термояда уже в ближайшее время.
А в краткосрочной перспективе, возможно ли поддерживать рост ИИ, не сводя на нет все климатические цели?
Да, но ничего нет лучше, чем побыстрее узаконить термоядерные реакторы. Мне кажется, наш вариант настолько шикарен, что надо просто стремительно его довести до ума.

Helion* — стартап в сфере чистой энергетики, в который вложились Сэм Альтман, Дастин Московиц и Рид Хоффман. Компания разрабатывает технологию термоядерного синтеза.

#AI
Активно пишущий в сфере AI эксперт Сергей Карелов начал публиковать триптих постов по теме «Проект "Pi" - 5й туз в рукаве Google». В нем он рассказывает об альтернативной парадигме интеллекта (в т.ч. искусственного).

В основе данной парадигмы положено следующее представление:

Интеллект не является продуктом нейронов мозга или микрочипов компьютеров, на которых функционируют генеративные модели. Интеллект - это коллективное явление, формируемое эволюцией, развитием и взаимодействием в более крупных экосистемах.

Из данного представления следуют цели и задачи развития AI, существенно отличающиеся от рыночного мейнстрима. Об этой альтернативной парадигме мы писали в статье «Многолосье молчания» в прошлом году.

Любопытен состав участников проекта, развивающего новую парадигму:

Этот проект был инициирован 3 года назад высшим руководством Google, и осуществляется междисциплинарной группой Paradigms of Intelligence (Pi) во главе с Блезом Агуэра-и-Аркас (Google VP/Fellow and CTO Technology & Society) в кооперации с мощнейшей командой исследователей из Santa Fe Institute (не без оснований прозванного «Институт сумасшедших идей»), двумя «мозговыми центрами» (Antikythera, Mila - Quebec AI Institute) и MIT.

Философским фундированием парадигмы в этой кооперации, судя по всему, занимается «мозговой центр» Бенджамина Браттона Antikythera. О работах Браттона и данного центра, выросших в самостоятельную исследовательскую программу новой философии планетарных вычислений, я писал ранее (к примеру, предлагаю почитать эту заметку). Я продолжаю отслеживать публикации Antikythera и буду о них писать в канале.

Покинуть "платонову пещеру"
#AI #инженерияцветущейсложности
Я всегда думал, что только мои субъективные особенности постоянно приводят меня к утверждению о необходимости синтеза инженерии и философии. Однако, чем дальше, тем больше я нахожу подтверждение мысли, что для прорыва в новый базирующийся на AI техно-промышленный уклад нужны направляемая живой философией инженерия и подтверждаемая инженерными решениями экспериментальная философия.
Декларирует и подробно обосновывает эту мысль в интервью для NOEMA Тобиас Риз, практикующий философ, основатель и директор Института программы «Трансформации человека», приглашенный научный сотрудник в Google.
Главная мысль данного интервью:

"При отсутствии новых концепций люди — как общественность, так и инженеры — будут продолжать понимать новое в терминах старого. Поскольку это не работает, наступят десятилетия потрясений".

Здесь мой конспект интервью.
Здесь перевод самого интервью.

AI для meditatio
#AI
Философ Тобиас Риз в интервью для NOEMA приводит пример симбиоза человека и искусственного интеллекта:

"Представьте себе систему искусственного интеллекта на устройстве — модель искусственного интеллекта, которая существует только на ваших устройствах и не подключена к Интернету, — которая имеет доступ ко всем вашим данным. Ваши электронные письма, ваши сообщения, ваши документы, ваши голосовые заметки, ваши фотографии, ваши песни и т. д.

Такая система AI может сделать меня видимым для меня самого так, как не могу сделать ни я, ни любой другой человек. Она буквально может поднять меня над собой. Она может показать мне меня самого со стороны, показать мне шаблоны мыслей и поведения, которые стали определять меня. Она может помочь мне понять эти шаблоны и обсудить со мной, ограничивают ли они меня, и если да, то как. Более того, она может помочь мне работать над этими шаблонами и, где это уместно, позволить мне освободиться от них и освободиться.

Говоря философским языком, AI может помочь мне превратиться в «объект мысли», с которым я могу соотноситься и над которым могу работать.

Работа себя над собой сформировала ядро ​​того, что греческие философы называли meletē, а римские философы meditatio. И та система AI, которую я здесь вызываю, была бы мечтой философа. Она могла бы сделать нас, людей, видимыми для нас самих такими способами, какими не может быть ни один собеседник-человек, находящийся вне нас".

Неужели такие системы для медитаций еще не появились?

Психоанализ для нечеловеческого интеллекта
#AI #кибернетика #посткапитализм
Кстати, изучение онтологии британской кибернетики напомнило мне об интересовавшем меня когда-то давно Стаффорде Бире. Слава этого ученого-кибернетика гремела в 1960-70-е годы, когда он занимался проектом управления чилийской экономикой при помощи компьютеров, а также разработками модели жизнеспособной системы (VSM).

Интересно, что про него в последнее время опять стали вспоминать. В 2024 году, к примеру в Financial Times была опубликована рецензия на книгу Дэна Дэвиса "Машина безответственности — почему большие системы принимают плохие решения?".

В книге утверждается, что современные большие социальные системы не поспевают за растущей сложностью экономики, не могут быстро адаптироваться и развиваться на основе обратной связи. Экономическая теория не дает адекватного ответа на рост сложности. По мнению автора книги в эпоху AI пришло время "управленческой кибернетики", которой всю жизнь занимался Стаффорд Бир:

"Бир рассматривал компании как формы нечеловеческого интеллекта - того, что писатель—фантаст Чарли Стросс называет “очень старым, очень медленным ИИ”. Таким образом, решение их проблем заключается не в устранении сбоев на рынке, а в обеспечении сбалансированности информационного потока между лицами, принимающими решения, и теми, кто их осуществляет. Это своего рода психоанализ для нечеловеческих разумов, в котором Стаффорд Бир играет Зигмунда Фрейда".

Уровни развития AI
#AI
Пропустил, что в прошлом году OpenAI опубликовал свой классификатор уровней развития возможностей AI.

Выложу его здесь на память:
Уровень 1: Чат-боты, искусственный интеллект с разговорным языком. Системы, способные взаимодействовать на естественном языке, ориентированные на понимание и генерацию языка.
Уровень 2: Рассуждающие, решающие проблемы на человеческом уровне. Системы AI, которые могут решать сложные логические задачи, приближаясь к когнитивным способностям человека в определенных областях или даже сопоставимо с ними.
Уровень 3: Агенты, системы, которые могут выполнять действия. AI, способный самостоятельно принимать и исполнять решения, взаимодействовать с окружающей средой и манипулировать ею.
Уровень 4: Новаторы, AI, который может помогать в изобретениях. Системы, которые способствуют творческим процессам и инновационному потенциалу для генерации новых идей и решений.
Уровень 5: Организации, искусственный интеллект, который может выполнять работу организации. Системы искусственного интеллекта, способные управлять сложными, многогранными операциями, способны воспроизводить или превосходить коллективные возможности человеческих организаций.

Это пригодится для следующей заметки.

Луна должна быть компьютером
#AI #энергопереход #космизм
Омар Шамс - инженер по AI из Google, исследователь в сфере AI и физик-теоретик. Он в статье для журнала Palladium предложил построить вычислительную и энергетическую инфраструктуры для AI на Луне. Вот его тезисы:

🖥 Лидеры отрасли, такие как Сэм Альтман из OpenAI, считают целесообразными масштабные инвестиции в вычислительную мощность для AI. Их оценки основаны на эмпирическом наблюдении, что увеличение объема "вычислений”, доступных этим системам искусственного интеллекта, приводит к регулярному улучшению их производительности в логарифмическом масштабе. Эти законы масштабирования искусственного интеллекта, вероятно, будут действовать и в обозримом будущем и представляют собой один из важнейших двигателей современного технологического прогресса.

⚡️ Развитие вычислительных мощностей требуют значительных затрат энергии. Сегодня рабочие нагрузки AI во всем мире потребляют около 20 тераватт-часов (ТВтч) в год и составляют примерно 10% от общего энергопотребления центров обработки данных. Эти рабочие нагрузки растут намного быстрее, чем рабочие нагрузки, не связанные с искусственным интеллектом, и находятся на пути к удвоению к 2028 году. Дополнительное ускорение этим процессам придает качественное развитие технологий (повышение уровня автономии AI по классификатору OpenAI), требующее еще больших вычислений, еще большей энергии. Если законы масштабирования будут соблюдаться и AI реализует новый экономический потенциал, то взрывной рост спроса на энергию будет удваиваться или учетверяться десятилетие за десятилетием. Это заметное ускорение по сравнению с исторической тенденцией удвоения потребления энергии каждые тридцать-пятьдесят лет!

🌍 С этим связана одна проблема: мы не можем продолжать наращивать потребление энергии подобным образом, не сделав Землю негостеприимной для органической жизни. Это не связано с выбросами углерода и возникающим в результате этого парниковым эффектом; скорее, это связано с законами термодинамики. Чем больше энергии мы потребляем, тем больше тепла вырабатывают наши машины. Даже сегодня это отработанное тепло уже нагревает планету со скоростью примерно 2% от того, что можно отнести к парниковому эффекту. В конечном итоге наши машины будут нагревать Землю сильнее, чем даже Солнце.

🚀 Так что же делать? В космос! Благодаря Falcon 9 от SpaceX стоимость выхода на низкую околоземную орбиту снизилась примерно с 50 000 долларов за килограмм до примерно 3000 долларов за килограмм. Создание и эксплуатация дата-центров AI на орбите может показаться привлекательным, но мы быстро столкнемся с синдромом Кесслера, при котором плотность космического мусора на низкой околоземной орбите становится настолько высокой, что может сделать эксплуатацию спутников и космических аппаратов на этих орбитах все более сложной или невозможной.

🌗 Остается Луна! Луна богата кремнием из отложений реголита на ее поверхности, необходимым ингредиентом для производства графических процессоров. Достижения в области робототехники означают, что создание робота, который может сам себя собирать, или меньшей базы механизмов, которые могут самовоспроизводиться, находится в пределах досягаемости. Примерно через двадцать лет у нас будут роботы, способные выполнять любые механические действия, какими бы тонкими они ни были, на которые способно человеческое тело. Площадь поверхности Луны составляет 14,6 миллиона квадратных миль, что примерно соответствует размеру Азии. Если бы мы хотя бы половину Луны графическими процессорами и солнечными панелями, Луна могла бы поддерживать в миллиард раз больше вычислений, чем кластер Colossus (проект Маска), а с несколькими тактами закона Мура, продвигающими технологию чипов вперед, даже в триллион раз больше вычислений.

☀️ Хотя трудно оценить, когда нам абсолютно понадобится компьютер размером с Луну, мы знаем, что мы не сможем увеличить потребление энергии нашей планетой на два порядка, не вызвав катастрофического потепления, к которому мы были близки еще до революции искусственного интеллекта, примерно через 200 лет.

Три заблуждения в эпоху искусственного интеллекта
#энергопереход #AI #инженерияцветущейсложности
10 июля я прочитал в Казани для участников ИНЖИР и других гостей ИТ-академии визионерскую лекцию "Три заблуждения в эпоху искусственного интеллекта". Были представлены итоги наших размышлений об энергопереходе, искусственном интеллекте, технологиях будущего за прошедший год.

Собственно, вот эти три заблуждения и контртезисы к ним:

1. Заблуждение: "Новая энергетика должна быть более эффективной в мире устоявшихся практик". Реальность: "Новая энергетика должна обеспечить становление новых практик в эпоху AI".

2. Заблуждение: "AI – то, что заменит интеллектуальный труд человека в существующих системах". Реальность: "AI – является критической технологией для создания систем новой сложности".

3. Заблуждение "Развитие – это замещение в системе старых элементов на новые". Реальность: "Развитие – это качественное изменение (усложнение) структуры системы".

За подробностями отсылаю к записи лекции. Посмотреть её можно здесь.

«Когнитивный долг». У кого и перед кем?
#AI
В недавнем исследовании MIT с броским названием "Your Brain on ChatGPT: Accumulation of Cognitive Debt" утверждается, что у студентов, регулярно использующих AI, теряется связность различных участков мозга, — и они мало того, что хуже помнят собственные тексты, но накапливают к тому же некий «когнитивный долг» — своего рода умственное обременение, которое остаётся с человеком ещё долго после того, как он перестает пользоваться AI.

Исследователь Станислав Львовский критически разбирает статью MIT. Он вскрывает слабые допущения и натянутые выводы. В заключении он говорит:

«Делать выводы о вредоносности инструмента на основе наблюдений над его освоением, – означает не понимать того, что обучение и адаптация всегда начинаются с фазы неловкости».

Но мне понравилось суждение другого эксперта по AI, Владимира Губайловского, развивающего мысль предыдущего автора:

«Статью Львовского очень рекомендую, она трезвит. Фактически она о том, что работая с ИИ человек не глупеет, но меняется. И сам характер работы меняется. Вместо того, чтобы натопывать букву за буквой, человек работает с разными вариантами изложения, оставляя за собой последний контроль над текстом, меняя и перепроверяя. Но текст, а не букву, не слово, не предложение. Укрупняется единица контента. Можно сказать, что это революция, можно просто научиться с этим работать и не заметить переход. Пусть философы и лингвисты разбираются, что там произошло. Могу только отметить, что это сильно ускоряет наш убогий побуквенный вывод информации».

Получается, что «когнитивный долг» все же возникает, только наоборот. Не люди должны «заплатить» когнитивной дисфункцией за использование AI, а AI должен заплатить рутинным трудом за участие в когнитивной революции человечества.