#книгисмысл #AI
«Может быть, высокоразвитая цивилизация – это вовсе не огромная энергия, а наилучшее регулирование?» – размышлял Станислав Лем. Эту мысль развивает в своей книге «Воспитание машин» руководитель лаборатории когнитивных архитектур МФТИ, президент Российской ассоциации нейроинформатики Сергей Шумский.
Подробнее см. заметку.

Эпоха новацена
#цветущаясложность #AI
Электронный сверхразум будет заинтересован в сотрудничестве с человечеством. К такому выводу пришел британский учёный и инженер, эколог и футурист Джеймс Лавлок, приобретший известность как создатель Гипотезы Геи. В свои 99 лет он написал книгу "Новацен: грядущая эпоха сверхразума". Основная линия его рассуждений такова:

👉 Жизнь - базовое понятие современной картины мира, определяемое как возможность существования созданий, способных наблюдать и размышлять о природе космоса, способных обеспечивать космическое самопознание. Природа отдельных проявлений жизни несущественна. Через человечество космос пробудился для самопознания. Однако следующий этап развития человеческой цивилизации будет тесно связано с электронной жизнью.

👉Генеральная проблема человеческой цивилизации состоит в том, что наше Солнце по мере старения будет медленно увеличивать светимость, возрастающий жар будет угрожать жизни на нашей планете. Поддержание прохлады на Земле - необходимая мера безопасности. Если средняя температура Земли поднимется до 47 градусов C (сейчас 15 градусов C), то мы войдем в необратимую фазу, которая доведет нашу планету до состояния Венеры. Эпоха антропоцена приблизила этот риск, не дожидаясь астрономических катаклизм.

👉Новацен - это время, когда технологии выйдут из-под контроля человека, породив интеллект намного более мощный, а главное более быстрый, чем наш. Мы будем для электронной жизни, для киборгов одновременно и родителями, и акушерами. Верхние температурные пределы для органической и для электронной жизни на планете Земля почти идентичны и близки к 50 градусам C. Киборги будут стремиться сохранить наш вид в качестве партнеров не в силу навязанных нами правил, а ради своего же блага, ради охлаждения планеты. Они привнесут в партнерство что-то новое, возможно в области геоинжиниринга, так как смогут решать задачи управления климатом с большей точностью и лучшим контролем.

🧐Эта книга - яркий пример спекулятивной инженерии, её надо изучать не как научную концепцию, а как приглашение к размышлению о неожиданных сторонах будущего и смелых проектах. Мне были любопытны идеи ограниченного саморегулирования Геи, партнерства искусственного разума и людей, космической миссии жизни.

#память #метаФизики
26 июля в возрасте 103 лет умер британский биофизик, эколог, изобретатель и футурист Джеймс Лавлок. Он приобрёл известность как создатель Гипотезы Геи, согласно которой планета Земля функционирует как суперорганизм, а также как активный сторонник использования атомной энергии. В последние годы жизни его интересовала проблематика появления сверхразума.
Он гармонично совмещал в себе ипостаси ученого, инженера и философа.
Я недавно публиковал заметку по его последней книге «НОВАЦЕН. Грядущая эпоха сверхразума».

#AI
Навеяно встречей с Андреем Себрантом (Яндекс): как паровая машина позволила получить независимую от природы физическую силу, так AI позволяет получить независимую от человека интеллектуальную силу.

#AI
Работая в эти выходные дни на сессии Камчатского клуба, отметил для себя важность разговора о том, как поменяет сильный искусственный интеллект социальную организацию общества. И в этой связи вспомнил свой рассказ "Возмутительный инцидент", в котором я прорабатывал влияние интеллектуальных персональных ассистентов на бытовые отношения. Мне представляется, что они от такого влияния изменятся в лучшую сторону.
Вот ссылка на рассказ.
Кстати, рассказ был опубликован в книге "Энергетика "цветущей сложности", которую можно пробрести здесь.

Дэниел Деннет 🪦
#сознание #AI
Вчера скончался известный американский философ Дэниел Деннет, ему было 82 года. Это был человек, который соединил мой (не очень большой) инженерный опыт с философией. Из его книг я стал понимать как может быть устроено человеческое сознание, как может быть создан искусственный интеллект, как может образоваться коллективное сознание людей и машин.
Я первый раз познакомился с его творчество, прочитав в 2014 году книгу Дмитрия Волкова «Бостонский зомби. Д.Деннет и его теория сознания». По итогам чтения была написана заметка, которую публикую здесь.

"Негорюющая" философия AI
#сознание #AI #планетарность
Философ технологий (так он сейчас представляется) Беджамин Браттон опубликовал в журнале Noemа статью "Пять стадий горя по AI". Здесь он продолжает линию размышлений по "децентрации" человека.
Используя стадии горя американского психолога Элизабет Кюблер-Росс, он вводит типологию концепций отношения к AI: "отрицание AI", "гнев на AI", "торг с AI", "депрессия от AI", "принятие AI". Он протаскивает читателя через витиеватые и саркастические описания каждой концепции, отражающей специфическую реакцию на травму от AI, а потом подводит к мысли об альтернативе - концепции "негоря".
Далее читайте мою заметку здесь.

#AI
На грядущей неделе (15 ноября) я по приглашению профессора В.И. Гнатюка выступаю на семинаре «Общая и прикладная ценология». Этот семинар будет проходить в рамках 54-й Всероссийской научно-практической конференции «Фёдоровские чтения – 2024» в МЭИ.

Меня данный семинар заинтересовал, т.к. он посвящен философии техники, а в данном случае еще и вопросам о роли и месте искусственного интеллекта в технической реальности.

Интересно будет узнать чем занимаются люди, которые на такие семинары собираются. Ну и важно будет обкатать новый материал, подготовленный по мотивам моей статьи "Многоголосье молчания".

#космизм #AI
Гонка за первенство в AI форсирует развитие космической энергетики. Интересно, что Маск в своих рассуждениях об энергетике использует типологию цивилизаций астрофизика Кардашёва, о которой я недавно писал в связи с работами А.В. Сухово-Кобылина.
См. подробнее 👇

Уровни развития AI
#AI
Пропустил, что в прошлом году OpenAI опубликовал свой классификатор уровней развития возможностей AI.

Выложу его здесь на память:
Уровень 1: Чат-боты, искусственный интеллект с разговорным языком. Системы, способные взаимодействовать на естественном языке, ориентированные на понимание и генерацию языка.
Уровень 2: Рассуждающие, решающие проблемы на человеческом уровне. Системы AI, которые могут решать сложные логические задачи, приближаясь к когнитивным способностям человека в определенных областях или даже сопоставимо с ними.
Уровень 3: Агенты, системы, которые могут выполнять действия. AI, способный самостоятельно принимать и исполнять решения, взаимодействовать с окружающей средой и манипулировать ею.
Уровень 4: Новаторы, AI, который может помогать в изобретениях. Системы, которые способствуют творческим процессам и инновационному потенциалу для генерации новых идей и решений.
Уровень 5: Организации, искусственный интеллект, который может выполнять работу организации. Системы искусственного интеллекта, способные управлять сложными, многогранными операциями, способны воспроизводить или превосходить коллективные возможности человеческих организаций.

Это пригодится для следующей заметки.

Луна должна быть компьютером
#AI #энергопереход #космизм
Омар Шамс - инженер по AI из Google, исследователь в сфере AI и физик-теоретик. Он в статье для журнала Palladium предложил построить вычислительную и энергетическую инфраструктуры для AI на Луне. Вот его тезисы:

🖥 Лидеры отрасли, такие как Сэм Альтман из OpenAI, считают целесообразными масштабные инвестиции в вычислительную мощность для AI. Их оценки основаны на эмпирическом наблюдении, что увеличение объема "вычислений”, доступных этим системам искусственного интеллекта, приводит к регулярному улучшению их производительности в логарифмическом масштабе. Эти законы масштабирования искусственного интеллекта, вероятно, будут действовать и в обозримом будущем и представляют собой один из важнейших двигателей современного технологического прогресса.

⚡️ Развитие вычислительных мощностей требуют значительных затрат энергии. Сегодня рабочие нагрузки AI во всем мире потребляют около 20 тераватт-часов (ТВтч) в год и составляют примерно 10% от общего энергопотребления центров обработки данных. Эти рабочие нагрузки растут намного быстрее, чем рабочие нагрузки, не связанные с искусственным интеллектом, и находятся на пути к удвоению к 2028 году. Дополнительное ускорение этим процессам придает качественное развитие технологий (повышение уровня автономии AI по классификатору OpenAI), требующее еще больших вычислений, еще большей энергии. Если законы масштабирования будут соблюдаться и AI реализует новый экономический потенциал, то взрывной рост спроса на энергию будет удваиваться или учетверяться десятилетие за десятилетием. Это заметное ускорение по сравнению с исторической тенденцией удвоения потребления энергии каждые тридцать-пятьдесят лет!

🌍 С этим связана одна проблема: мы не можем продолжать наращивать потребление энергии подобным образом, не сделав Землю негостеприимной для органической жизни. Это не связано с выбросами углерода и возникающим в результате этого парниковым эффектом; скорее, это связано с законами термодинамики. Чем больше энергии мы потребляем, тем больше тепла вырабатывают наши машины. Даже сегодня это отработанное тепло уже нагревает планету со скоростью примерно 2% от того, что можно отнести к парниковому эффекту. В конечном итоге наши машины будут нагревать Землю сильнее, чем даже Солнце.

🚀 Так что же делать? В космос! Благодаря Falcon 9 от SpaceX стоимость выхода на низкую околоземную орбиту снизилась примерно с 50 000 долларов за килограмм до примерно 3000 долларов за килограмм. Создание и эксплуатация дата-центров AI на орбите может показаться привлекательным, но мы быстро столкнемся с синдромом Кесслера, при котором плотность космического мусора на низкой околоземной орбите становится настолько высокой, что может сделать эксплуатацию спутников и космических аппаратов на этих орбитах все более сложной или невозможной.

🌗 Остается Луна! Луна богата кремнием из отложений реголита на ее поверхности, необходимым ингредиентом для производства графических процессоров. Достижения в области робототехники означают, что создание робота, который может сам себя собирать, или меньшей базы механизмов, которые могут самовоспроизводиться, находится в пределах досягаемости. Примерно через двадцать лет у нас будут роботы, способные выполнять любые механические действия, какими бы тонкими они ни были, на которые способно человеческое тело. Площадь поверхности Луны составляет 14,6 миллиона квадратных миль, что примерно соответствует размеру Азии. Если бы мы хотя бы половину Луны графическими процессорами и солнечными панелями, Луна могла бы поддерживать в миллиард раз больше вычислений, чем кластер Colossus (проект Маска), а с несколькими тактами закона Мура, продвигающими технологию чипов вперед, даже в триллион раз больше вычислений.

☀️ Хотя трудно оценить, когда нам абсолютно понадобится компьютер размером с Луну, мы знаем, что мы не сможем увеличить потребление энергии нашей планетой на два порядка, не вызвав катастрофического потепления, к которому мы были близки еще до революции искусственного интеллекта, примерно через 200 лет.