«Даже если механизм сверхэкспоненциального роста удастся когда-либо запустить, он не сможет действовать бесконечно из-за фундаментальных физических ограничений. Пусть благодаря ИИ мы сможем наилучшим образом использовать физические ресурсы для производства продукции, но если количество таких ресурсов фиксировано, то дальнейшее увеличение выпуска станет невозможно. Достигнув этой точки, мы утратим возможность реинвестировать часть выпуска в прирост производственных факторов для получения с их помощью ещё большего выпуска: петля положительной обратной связи «больше выпуск → больше накапливаемых ресурсов → больше выпуск» окажется разорвана.

Говоря иначе, ограничения роста могут задаваться не только и столько пределами познания (то есть возможностями человеческого интеллекта, которые предположительно сможет преодолеть сверхразумный ИИ), сколько фундаментальными законами природы — скорость света, закон сохранения энергии, второй закон термодинамики и т.д.

Все физические процессы требуют энергии, но её запас не беспределен. В числе других количественно ограниченных ресурсов — пресная вода, кислород, земля, редкие минералы и т.д. Такие ресурсы могут быть не менее важны, чем станки и компьютеры, но в отличие от них не могут накапливаться в большем количестве с помощью более совершенных технологий. Современная экономика пока ещё очень далека от того, чтобы приблизиться к этим физическим границам, но при сверхвысоких темпах роста она рано или поздно на них натолкнётся.

Взрывной рост потребует шумпетерианского «созидательного разрушения» невиданных масштабов. При удвоении производительности каждые 2,5 года гигантские объёмы физического и человеческого капитала будут практически мгновенно устаревать и отправляться «в утиль». Ежегодно придется коренным образом перестраивать инфраструктуру, демонтировать огромную часть прежнего оборудования и устанавливать на его месте новое, переобучать многочисленный контингент рабочей силы. Скорее всего, такое радикальное обновление физического и человеческого капитала за кратчайшие сроки окажется недостижимым из-за естественных пределов, с которыми оно будет сталкиваться.

Существуют достаточно жёсткие физические границы, с какой скоростью можно менять старые машины на новые, старые навыки на новые. В реальном мире эти процессы неизбежно оказываются растянутыми во времени и поэтому маловероятно, чтобы они позволили экономике приблизиться к взрывным темпам роста около 20–30%.

Кроме того, при столь стремительном устаревании физического и человеческого капитала стимулы к инновациям, скорее всего, резко ослабнут, потому что у инноваторов будет оставаться слишком мало времени на то, чтобы их вложения успевали окупиться. Парадоксально, но негативное влияние ИИ на стимулы к инновациям может иметь результатом не ускорение, а замедление темпов технологического прогресса.

Согласно шумпетерианскому подходу, стимулы к инновациям связаны с возможностью извлечения ренты от временной монополии, которой пользуются инноваторы, защищая свои нововведения с помощью патентов, коммерческой тайны и т.д. Если ИИ облегчит копирование инноваций, от этого выиграют конкуренты инноваторов, но станут проигрывать они сами, потому что период получения ренты от разработанных ими новых технологий сократится — возможно, даже до нуля. В подобных условиях мало кто будет заинтересован в производстве новых идей. При столь резком ослаблении склонности к инновациям экономический рост может замедлиться или вообще остановиться. Конечно, это не приведёт к падению уровня душевого ВВП, но вполне может привести к его фактической стагнации».