Помните, мы писали про забавную историю из мира AI-стартапов? Вот еще в копилку 👇👇👇

🎥 Природа Гравитации / Чёрные Дыры и Квантовая Механика на пальцах
Хорошее видео, чтобы посмотреть перед сном и началом новой рабочей недели:
https://www.youtube.com/watch?v=VuvsC2gJsao

В этом выпуске — Михаил Коробко, старший научный сотрудник Института квантовой механики Университета Гамбурга.

И уже скоро Михаил примет участие в одном из наших традиционных лайв-стримов!

Следующий стрим планируется во второй половине июля — точную дату и время объявим отдельно. Не пропустите 🔔

А пока — подписывайтесь на канал Михаила → 📡 Гомеостатическая вселенная

Телеграм канал моего друга @RuslanSenatorov – Вся математика для Машинного обучения и Data Science.

Уникальный формат автора, где он выкладывает видео с его студентами по математике и программированию для Data Science. В формате реальных уроков он разбирает ключевые темы по математике для Data Science. Увидите, как проходят занятия, и сможете повторять вместе с ним. Самое главное "математика без страха", он проводит уроке с юмором и позитивом, открывая мир математики с уникальной стороны.

На канале вы найдёте:
- Видео со студентами
- Пошаговый план обучения.
- Рекомендации по литературе и PDF книги
- Прикладной Python для Data Science без не нужной воды, которая нужна программистам.

Канал создан,для популяризации математики и программирования, подписывайтесь и начните прокачивать свои навыки в Data Science уже сегодня! 🚀

И хотя следующие пару наших открытых лайв-подкастов будут скорее про современную физику понятным для всех языком, даже для не-физиков, и, внимание, через один подкаст - про медицину и здравохранение! Но в итоге мы всё равно вернёмся к математике, машинному обучению и дата сайнс! Так что подписывайтесь на канал Руслана!

1/2
📌 Кейс из практики: как криптомиллиардер хотел построить "честный" Facebook

Последние 17 лет я работал с крупными компаниями: медицинская техника 🏥, финтех 💳, машиностроение ⚙️ — всё строго, по-взрослому.

Но был один необычный проект. Клиент — частное лицо. Но не абы кто, а криптомиллиардер 🚀 с мечтой сделать мир лучше с помощью математики. Ну и с бюджетом как у Цукерберга🧃.

Он пришёл ко мне с идеей:

«Слушай, Facebook, к примеру, зарабатывает на пользовательских данных — продаёт их. А я хочу соцсеть, где всё честно. Все данные пользователей хранятся в зашифрованном виде. Даже мы, как владельцы платформы, не можем к ним получить доступ и ничего продать. Только друзья пользователя смогут видеть их данные — так, как в обычной соцсети. Вот давай такое сделаем. Это возможно?»

В основе идеи — гомоморфное шифрование🔐.

Это когда сервер может выполнять вычисления над зашифрованными данными.

Реальные данные расшифровываются в фронтенде тех, кому пользователь сам дал к ним доступ. 💡

Продолжение 👇

2/2. продолжение. начало тут

🔐 Гомоморфное шифрование: вычисления без раскрытия данных

Гомоморфное шифрование (Homomorphic Encryption, HE) — это криптографический метод, позволяющий производить вычисления непосредственно над зашифрованными данными. При расшифровке результата вы получите тот же ответ, как если бы вычисляли над исходными данными.

📘 Что это значит на практике?


Пример 1: Защищённая аналитика
-У больницы есть зашифрованные данные о пациентах.
- Исследователь хочет посчитать средний возраст пациентов с диабетом.
- Он выполняет вычисления над зашифрованными данными, не получая доступ к реальным возрастам.
- Результат после расшифровки — корректный, но приватность не нарушена.

Пример 2: Облачные вычисления
-Компания шифрует свои бизнес-данные и отправляет их в облако.
-Облачный сервис считает оптимальный маршрут доставки, не зная, что именно обрабатывает.
-Компания получает готовое решение, не жертвуя конфиденциальностью.

🔣 Типы гомоморфного шифрования
PHE (частичное): поддерживает одно арифметическое действие (например, схема RSA — умножение, Paillier — сложение).
SHE (ограниченное): ограниченное число операций.
FHE (полное): любые арифметические операции и неограниченное их количество — теоретически мощно, практически сложно.

⚙️ Сложность и ограничения
Полностью гомоморфные схемы (например, BGV, BFV, CKKS) используют сложные математические конструкции, основанные на задачах на решётках (например, Ring-LWE). Они считаются устойчивыми даже к квантовым атакам.
Но:

Один шаг умножения может быть в 1000 раз медленнее, чем над открытыми данными.
Размеры зашифрованных данных могут вырасти в десятки мегабайт даже при обработке маленьких чисел!

Пример 3:
Сравнение времени:
Обычное сложение: ~100 наносекунд
Гомоморфное сложение: ~10–100 микросекунд
Гомоморфное умножение: ~1–10 миллисекунд


Но что, если таких операций — сотни миллионов, как в настоящих аналитических запросах?

🧠 Реальный сценарий, SQL запрос к базе данных:

SELECT AVG(salary) FROM employees WHERE department_id IN (10, 12, 15);

В открытом виде:
-Выполняется за десятки миллисекунд.
- Сложения и фильтрация — почти бесплатные.

В гомоморфной форме (FHE):
- Фильтрация = миллионы сравнений.
- Суммирование и деление — над зашифрованными значениями.- всё дорого.

🔢 Оценка масштабов:
Если один шаг FHE-умножения ≈ 1–10 миллисекунд, а запрос требует 100 млн арифметических операций,
то:

100,000,000×1 мс=1,000,000  секунд≈11.5 дней

🤯 И это — только один запрос.

Да, можно параллелить, батчить, использовать SIMD, но даже с 1000-ядерным распределением это всё ещё часы на простейший аналитический запрос.

🔍 Почему так медленно?
🚫 Невозможно адресовать конкретные данные напрямую: всё обрабатывается последовательно, от начала до конца.
➕ Даже простая фильтрация превращается в арифметическую маску (массив умножений).
🔐 Все операции идут по "защищённому пути": нет читов, нет оптимизаций из классических DB.

🛠️ Что делают?
⚙️ Используют batching (один шифротекст содержит десятки/сотни значений).
⏱️ Переписывают запросы на арифметику, минимизируя глубину схем.
💡 Комбинируют FHE с другими подходами: MPC, TEE, дифференцированным шифрованием.

📌 Вывод:
Гомоморфные вычисления не подходят для произвольных SQL-запросов по большим базам — пока или вообще никогда?

#RealWorldProblems #Crpyptography
#HomomorphicEncryption
#DataPrivacy #Algorithms #Complexity

🧠 К важной теме интерпретируемости — как искусственных, так и биологических нейросетей — вышла сильная работа. Пока не успел нормально вчитаться, но оставляю здесь как напоминание самому себе (и, возможно, вам тоже) разобраться подробнее:

📄 Mixture of Cognitive Reasoners: Modular Reasoning with Brain-Like Specialization
👥 Badr AlKhamissi, C. Nicolò De Sabbata, Zeming Chen, Martin Schrimpf, Antoine Bosselut
📚 arXiv | 💻 Code & demos

Краткий разбор уже появился у Григория Сапунова:
🔗 https://t.iss.one/gonzo_ML/3728

⸻

TL;DR

Что сделали?
Предложили архитектуру MICRO — модульную языковую модель, вдохновлённую функциональной специализацией мозга. Вместо одного трансформера:
• 🗣 Language (язык)
• 🔍 Logic (логика)
• 🧠 Social (социальное мышление)
• 🌍 World (знания о мире)

Каждый соответствует отдельной когнитивной сети мозга. Модули обучаются в три этапа: сначала индивидуально на «своих» данных, потом совместно — и это прививает специализацию и улучшает интерпретируемость.

Зачем это всё?
MICRO — это попытка сделать reasoning более управляемым и прозрачным. Модель:
• объяснима на уровне маршрутизации запросов между модулями;
• допускает прямое вмешательство в инференс (можно отключить, например, социального эксперта);
• и при этом работает лучше сопоставимых LLM на задачах рассуждения.

⸻

Если успею прочитать внимательно — потом поделюсь заметками.
Если кто уже вникал — буду рад обсуждению 👇

#Interpretability #Explainability #DevInterp #MechInterp #TODO@easy_about_complex

Дорогие друзья, специально для вас! Желаем вам отличных выходных и, как сказано в этом видео, таки следующий шикарный физмат-лайв-стрим с супер-крутыми гостями 23-го июля.

Официальный анонс


#LiveStream #НастроениеСубботы #Culture

@easy_about_complex

В копилку, что стоит почитать когда будет время. А пока работать. Эх. 👇

#TODO@easy_about_complex

1/3
🔸 Прочитал сверх-интересный пост про серьёзный математический вопрос, который носит забавное название - проблема Усердного Бобра(Busy Beaver). Я получил большое удовольствие от прочтения! ❤️

Я бы тут хотел обратить внимание на несколько другие аспекты этой темы, чем те, на которых фокусируется автор поста — на невычислимость Усердного Бобра и одно интересное следствие из этого.

🧠 Что такое усердный бобр?

Усердный бобр с n состояниями — это такая машина Тьюринга, которая среди всех машин Тьюринга с n состояниями делает максимальное количество шагов до остановки стартуя, скажем, с пустой входной ленты(при условии, что она вообще останавливается — неостанавливающиеся машины не учитываются).

Функция BB(n) (от Busy Beaver) — это максимальное число шагов, которое может выполнить любая останавливающаяся машина Тьюринга с n состояниями, прежде чем завершить работу.

Важно: функция BB(n) невычислима, то есть не существует алгоритма, который мог бы точно вычислить её значение для всех n.
Продолжение👇

2/3. Начало тут 👆

Важно: функция BB(n) невычислима, то есть не существует алгоритма, который мог бы точно вычислить её значение для всех n. Доказывается это через проблему остановки. Чтобы вычислить BB(n) для машин с n состояниями нам по-любому надо определить какие машины не останавливаются. Это, увы, не вычислимо.

📈 Более того, BB(n) растёт быстрее, чем любая вычислимая функция.

🔍 Как это доказывается?

Представим, что у нас есть вычислимая функция f(n), которая, предположим, растёт быстрее, чем BB(n). То есть:
f(n) > BB(n) начиная с какого-то n, и при этом разница f(n) − BB(n) стремится к бесконечности при n → ∞.

Но тогда мы можем использовать f(n), чтобы вычислить BB(n):

- Сгенерировать все машины Тьюринга с n состояниями (их конечное число).

- Симулировать каждую не более чем f(n) шагов (по нашему предположению этого достаточно, чтобы все, кто должны остановиться, уже остановились по определению BB(n)).

- Из всех остановившихся выбрать ту, которая делала максимум шагов — и получить BB(n).

👉 Но это противоречит тому, что BB(n) невычислима. Следовательно, никакая вычислимая функция не может расти так быстро как BB(n).

🌌 А теперь — самое интересное:

Если предположить, что всё в физическом мире алгоритмизуемо (то есть, физический тезис Чёрча–Тьюринга верен и вселенная — это в каком-то смысле алгоритм) тогда из доказательства выше следуют 8 новых физических принципов, о которых мы расскажем завтра.

Пока кратко: усердный бобр и BB(n) ограничиваeт, как быстро или насколько медленно может расти или сходиться любая измеримая физическая величина.

💥 Эти принципы не следуют из известных физических принципов или законов.

Вот pабота про это:
🔗 Bounds on the rates of growth and convergence of
all physical processes

💬 Если тезис Чёрча–Тьюринга верен ∧ за физическими процессами скрываются алгоритмы в том или ином виде, то физические процессы вдруг оказываются ограниченными не только симметриями, энергиями и скоростями, но и границами вычислимости и из них следуют новые физические принципы, которые не так уж и очевидны.

Как по мне, то глубокая связь между информатикой и естественными науками.

Продолжение 👇

#Computability #Turing #Physics #Beauty

Продолжаем тему усердного бобра. Начало👆

Придётся немного подумать: идея кажется простой, но на самом деле хитрая 🤔.

В статье «Bounds on the Rates of Growth and Convergence of All Physical Processes» Тоби Орд рассматривает любые измеряемые физические величины и показывает, что скорость их роста или убывания обязана находиться в определённых пределах ⏳.

Помните невычислимую функцию бобра BB(n)? Если бы физический процесс протекал с такой же скоростью, как функция бобра, мы могли бы вычислить BB(n) просто измеряя физические величины 📏. Но это невозможно, если принять физический тезис Чёрча–Тьюринга: любой физически реализуемый процесс можно смоделировать на машине Тьюринга 🤖.

Pаз машина Тьюринга не может вычислить BB(n), то и физический процесс не может вычислить BB(n) — то есть не может протекать
со скоростью BB(n) (см. доказательство тут).

Вы спросите: а почему бы физическим процессам не протекать быстрее функции бобра?

Продолжение 👇

Продолжение. Предыдущая часть тут 👆

Дело в том, что легко показать: все функции растущие быстрее функции бобра - тоже невычислимы ⚠️

Если бы физические процессы протекали с этими скоростями - мы могли бы вычислять невычислимые функции просто производя измерения физических величин.

📌 Из этого вытекают целых восемь физических принципов, которые не следуют из известных законов природы. Они возникают только из логики — из тезиса Чёрча–Тьюринга и невычислимости BB(n).

Тоби Орд вводит ещё трёх персонажей, дополняющих нашего замечательного бобра. Итак, у нас есть:

1. Усердный Бобр (Busy Beaver, BB(t))
→ максимальное число шагов останавливающейся машины Тьюринга с t состояниями. Это верхняя граница роста: если тезис Чёрча–Тьюринга верен, ничто во Вселенной не может расти быстрее. Ни расширение вселенной после большого взрыва, ни искривление пространства-времени при приближении к сингулярности в центре чёрной дыры. Ничего вообще.

2. Сонный Ленивец (Sleepy Sloth, SS(t) = BB⁻¹(t))
→ обратная функция к BB(t). Если BB(t) растёт невероятно быстро, то SS(t) — невероятно медленно. Нижняя граница роста 🐌. Если бы период колебаний системы увеличивался так катастрофически быстро, что его частота (то есть 1/период) уменьшалась бы медленнее SS(x) - такого не может быть в природе, это запрещено.

3. Асимптотический Ахиллес (Asymptoting Achilles, AA(t) = 1 / BB(t))
→ стремится к нулю очень быстро. Это верхняя граница скорости сходимости: никакой процесс не может приближаться к пределу быстрее, чем AA(t) 🏃‍♂️💨. Если вы сжимаете газ, его объём не может уменьшаться к нулю быстрее, чем AA(x), даже при бесконечном давлении. Скорость любого процесса, приближающегося к стабильному состоянию, имеет верхний предел.

4. Медлительный Мечтатель (Dawdling Daydreamer, DD(t) = 1 / SS(t))
→ стремиться к нулю очень медленно. Нижняя граница скорости сходимости: даже самые медленные приближения к равновесию не могут быть медленнее, чем DD(t) 🐢. Процесс химической реакции не может "замирать" на долгое время, оставаясь вдали от равновесия. Должен быть минимальный темп приближения.

5-8: Принципы 5, 6, 7 и 8 я пока что опущу, но если вы напишете в комментариях, что хотите, то можем и их разобрать либо в комментариях к этому посту письменно, либо на нашем традиционном онлайн-стриме.

✨ Кстати, напомню, следующий онлайн-стрим с очень крутыми гостями как раз из физики - 23-го июля вечером! Официальный анонс следует!

🧠 💪 А пока предлагаю всем читателям доказать в качестве простого упражнения:

- любая функция, которая растёт быстрее BB(n) - невычислима
- функции BB⁻¹(n), 1/BB(n) и 1/BB⁻¹(n) - невычислимы


Анализ и выводы из этой темы следуют скоро 👇

@easy_about_complex

#Computability #Physics #Logic #Philosophy #Turing #LiveStream

Сегодня в 19:00 по немецкому времени, в 20:00 по Киеву/Москве можем поговорить про усердного бобра 👆Вдруг кому случайно будет нечего делать в воскресенье вечером )

Вверху будет кнопочка «присоединиться к стриму»