2/2. Продолжение. Начало тут


🧠 А что насчёт мозга и нейросетей?
Тут как раз интересно. В 90-х Сигельманн с коллегами показали, что:

Любая Тьюринговая машина — это частный случай рекуррентной нейросети.

Сеть с рациональными весами (всего 886 нейронов!) может вычислить все частично-рекурсивные функции 👉 ссылки на публикации тут

А если веса вещественные — вычислительная мощность может выйти за пределы Тьюринга (и при этом в модели не требуется бесконечная точность, достаточно линейной. Hо тут есть нюанс! Mожет быть обсудим на одном из следующих стримов).

📐 Ключевая идея:

непрерывность (вещественные числа и аналоговые процессы) может не просто приближать реальность, а давать качественно новые вычислительные возможности. Хотя на практике мы не можем задать числа с бесконечной точностью, сама природа, как кажется, оперирует реальными значениями (π, G, массы планет и т.д.) независимо от нашей способности их измерить.

📊 Исследования даже показали, что между рациональными и вещественными весами в нейросетях лежит целая иерархия вычислительных классов. Суть в информационной сложности чисел, которая измеряется через ресурсно-ограниченную колмогоровскую сложность.

📌 Вывод: Мы не знаем, вычислима ли физика. Возможно, вся Вселенная — гигантский алгоритм. А может, где-то в её глубинах живёт настоящая невычислимость, просто мы её ещё не нашли.

Так что, по состоянию на сейчас:
Физический мир может быть вполне вычислим. А может и нет. ¯\_(ツ)_/¯

Если найдут настоящий физический феномен, где вычисление результата принципиально невозможно — это будет просто бомба. А пока… можно только моделировать невычислимость внутри математики, но не в лаборатории.

#Decidability #Computability #Turing #Physics #Brain #Philosophy

продолжение. начало тут.

Что показал Кристофер Мур:
— Система с тремя степенями свободы (например, частица в 3D-потенциале) может эмулировать Тьюринг-машину.
— Даже если начальные условия известны точно, всё равно невозможно ответить на многие вопросы о будущем поведения системы.
— Это не просто хаос (чувствительность к начальным данным), а глубинная невычислимость — фундаментальное ограничение, заложенное в математике.

🤯 Другими словами: можно построить закон движения, в котором "спрятана" неразрешимая задача, т.е. проблема остановки.

Формально — это уже физика, но физика, искусственно усложнённая до машины Тьюринга.

🌀 Теперь главный философский вопрос:

А если физика и вычислима, но вычисления займут больше времени, чем возраст Вселенной?

С практической точки зрения — это почти то же самое, что невозможность вообще. Модель может быть "вычислимой", но если тебе надо 10⁸⁰ шагов, чтобы узнать будет ли частица тут или там — на что тебе это знание?

То есть граница вычислимости — это не только "можно/нельзя", но и "успеть/не успеть".

📎 Вывод:

Физическая невычислимость пока строго доказана только в моделях, соответствие которых с физической реальностью очень спорно. Но даже если всё в природе формально вычислимо, это не значит, что мы когда-либо узнаем её будущее.

Возможно, законы Вселенной написаны на языке, который мы теоретически понимаем — но читать на нём практически невозможно.

#Decidability #Computability #Turing #Physics #Brain #Philosophy

Вежливость — новая роскошь 🤔

Сэм Альтман недавно жаловался: «спасибо» и «пожалуйста» в запросах к ChatGPT — это десятки миллионов долларов расходов. 💸

На Hugging Face появился ChatUI-energy — чат, который не только отвечает, но и показывает, сколько электричества вы спалили на очередную глупость в запросе (на примере модели Qwen2.5-VL-7B-Instruct). 🔥

Например, доказать теорему Пифагора стоит чуть больше 1 Вт/ч. 👆


Это вообще сколько?

🔋 ~5,5% батареи среднестатистического современного смартфона
🔋 ~50 секунд работы ноутбука
🔋 ~4 секунды работы чайника

И это только один запрос. А теперь представьте миллиард таких «доказательств».

Другое дело, что в алгоритмах для языковых моделей (и трансформеров в частности) всё ещё полно неэффективности — и огромное поле для оптимизации. Работы здесь — непочатый край. 🚀

#AI #Energy #Economics #Physics

2/2 Продолжение. Начало тут

Но, как выяснилось, одним из «авторов» оказался кот по кличке Честер. 😺

Дело в том, что Хезерингтон написал статью от первого лица множественного числа — «мы», «наш». Когда же редактор напомнил, что он числится как единственный автор, Джек, будучи человеком практичным, не стал перепечатывать весь текст. Ведь это были 70-е, а на печатных машинках не существовало волшебной функции «найти и заменить». Вместо этого он просто приписал в соавторы своего кота. Причём под изящным псевдонимом: F.D.C. Willard — от Felis domesticus Chester Willard. Шах и мат, грамматика.

Когда научное сообщество узнало об этом пушистом физике, кота даже пригласили «присоединиться» к кафедре на full time. К счастью, он не возражал. Главное — не трогайте его лазерную указку.

#Physics #Cats #НастроениеСреды

@easy_about_complex

2/2. продолжение. начало тут.

🤔 В чём суть и сложность?
На рубеже XIX–XX веков у физиков были три уровня описания жидкостей и газов:

⚙️ Ньютоновская механика — точные уравнения движения для каждой молекулы.

🎲 Кинетическая теория Больцмана — вероятностные распределения частиц по скоростям.

🌊 Уравнения Эйлера / Навье–Стокса — конкретные значения плотности, давления, скорости в каждой точке.

Но вот проблема: описывать каждую молекулу по Ньютону — невозможно (их триллионы 😵). Больцман предложил статистический подход: описывать поведение газа не через каждую частицу, а через вероятностную плотность. Но и это приближение. В реальных инженерных задачах мы ещё сильнее упрощаем — используем уравнения Эйлера или Навье-Стокса, чтобы напрямую считать плотность, давление, скорость.

📉 Проблема в том, что все эти переходы — от микромира к макромиру — до недавнего времени оставались на уровне физической интуиции. Мы как бы «выводим» макроуравнения Эйлера и Навье-Стокса из Больцмана, а Больцмана из Ньютона — но без строгих математических гарантий.

🧩 Чтобы сделать всё по-настоящему строго, нужно:
-оценить погрешность между моделями,
-доказать существование решений на каждом уровне,
-и показать, что они действительно сходятся при предельных переходах.

📚 В этом и суть 6-й проблемы: построить строгий математический мост между механикой Ньютона, статистикой Больцмана и гидродинамикой Эйлера - от микроскопического молекулярного уровня к макроскопическому поведению жидкостей и газов в реальном мире.

💥 И вот, спустя 125 лет, в работе Yu Deng, Zaher Hani и Xiao Ma (2025) arXiv:2503.01800
эта программа, кажется, частично(!) реализована строго математически.

Однако, это лишь препринт! Работа находится в проверке!

P.S. вот тут тоже можно почитать.

#Physics #Math #Hilbert #Hilbert6 #Gasdynamics #Euler #NavierStokes #Newton #Boltsman

@easy_about_complex

2/3. Начало тут 👆

Важно: функция BB(n) невычислима, то есть не существует алгоритма, который мог бы точно вычислить её значение для всех n. Доказывается это через проблему остановки. Чтобы вычислить BB(n) для машин с n состояниями нам по-любому надо определить какие машины не останавливаются. Это, увы, не вычислимо.

📈 Более того, BB(n) растёт быстрее, чем любая вычислимая функция.

🔍 Как это доказывается?

Представим, что у нас есть вычислимая функция f(n), которая, предположим, растёт быстрее, чем BB(n). То есть:
f(n) > BB(n) начиная с какого-то n, и при этом разница f(n) − BB(n) стремится к бесконечности при n → ∞.

Но тогда мы можем использовать f(n), чтобы вычислить BB(n):

- Сгенерировать все машины Тьюринга с n состояниями (их конечное число).

- Симулировать каждую не более чем f(n) шагов (по нашему предположению этого достаточно, чтобы все, кто должны остановиться, уже остановились по определению BB(n)).

- Из всех остановившихся выбрать ту, которая делала максимум шагов — и получить BB(n).

👉 Но это противоречит тому, что BB(n) невычислима. Следовательно, никакая вычислимая функция не может расти так быстро как BB(n).

🌌 А теперь — самое интересное:

Если предположить, что всё в физическом мире алгоритмизуемо (то есть, физический тезис Чёрча–Тьюринга верен и вселенная — это в каком-то смысле алгоритм) тогда из доказательства выше следуют 8 новых физических принципов, о которых мы расскажем завтра.

Пока кратко: усердный бобр и BB(n) ограничиваeт, как быстро или насколько медленно может расти или сходиться любая измеримая физическая величина.

💥 Эти принципы не следуют из известных физических принципов или законов.

Вот pабота про это:
🔗 Bounds on the rates of growth and convergence of
all physical processes

💬 Если тезис Чёрча–Тьюринга верен ∧ за физическими процессами скрываются алгоритмы в том или ином виде, то физические процессы вдруг оказываются ограниченными не только симметриями, энергиями и скоростями, но и границами вычислимости и из них следуют новые физические принципы, которые не так уж и очевидны.

Как по мне, то глубокая связь между информатикой и естественными науками.

Продолжение 👇

#Computability #Turing #Physics #Beauty

Продолжение. Предыдущая часть тут 👆

Дело в том, что легко показать: все функции растущие быстрее функции бобра - тоже невычислимы ⚠️

Если бы физические процессы протекали с этими скоростями - мы могли бы вычислять невычислимые функции просто производя измерения физических величин.

📌 Из этого вытекают целых восемь физических принципов, которые не следуют из известных законов природы. Они возникают только из логики — из тезиса Чёрча–Тьюринга и невычислимости BB(n).

Тоби Орд вводит ещё трёх персонажей, дополняющих нашего замечательного бобра. Итак, у нас есть:

1. Усердный Бобр (Busy Beaver, BB(t))
→ максимальное число шагов останавливающейся машины Тьюринга с t состояниями. Это верхняя граница роста: если тезис Чёрча–Тьюринга верен, ничто во Вселенной не может расти быстрее. Ни расширение вселенной после большого взрыва, ни искривление пространства-времени при приближении к сингулярности в центре чёрной дыры. Ничего вообще.

2. Сонный Ленивец (Sleepy Sloth, SS(t) = BB⁻¹(t))
→ обратная функция к BB(t). Если BB(t) растёт невероятно быстро, то SS(t) — невероятно медленно. Нижняя граница роста 🐌. Если бы период колебаний системы увеличивался так катастрофически быстро, что его частота (то есть 1/период) уменьшалась бы медленнее SS(x) - такого не может быть в природе, это запрещено.

3. Асимптотический Ахиллес (Asymptoting Achilles, AA(t) = 1 / BB(t))
→ стремится к нулю очень быстро. Это верхняя граница скорости сходимости: никакой процесс не может приближаться к пределу быстрее, чем AA(t) 🏃‍♂️💨. Если вы сжимаете газ, его объём не может уменьшаться к нулю быстрее, чем AA(x), даже при бесконечном давлении. Скорость любого процесса, приближающегося к стабильному состоянию, имеет верхний предел.

4. Медлительный Мечтатель (Dawdling Daydreamer, DD(t) = 1 / SS(t))
→ стремиться к нулю очень медленно. Нижняя граница скорости сходимости: даже самые медленные приближения к равновесию не могут быть медленнее, чем DD(t) 🐢. Процесс химической реакции не может "замирать" на долгое время, оставаясь вдали от равновесия. Должен быть минимальный темп приближения.

5-8: Принципы 5, 6, 7 и 8 я пока что опущу, но если вы напишете в комментариях, что хотите, то можем и их разобрать либо в комментариях к этому посту письменно, либо на нашем традиционном онлайн-стриме.

✨ Кстати, напомню, следующий онлайн-стрим с очень крутыми гостями как раз из физики - 23-го июля вечером! Официальный анонс следует!

🧠 💪 А пока предлагаю всем читателям доказать в качестве простого упражнения:

- любая функция, которая растёт быстрее BB(n) - невычислима
- функции BB⁻¹(n), 1/BB(n) и 1/BB⁻¹(n) - невычислимы


Анализ и выводы из этой темы следуют скоро 👇

@easy_about_complex

#Computability #Physics #Logic #Philosophy #Turing #LiveStream