—Холмс, Вы наверняка знаете, как отличить физика от математика?
— Элементарно, Ватсон! Нужно задать вопрос: «Какой антоним слова "параллельно"?» Математик ответит "перпендикулярно", физик — "последовательно".
— Как всегда элементарно и гениально, Холмс...

Китайская компания DeepSeek в этом году представила чат-бота R1, который моментально привлёк внимание всего AI-сообщества. Причина — не в громком бренде, а в заявлении: якобы R1 показывает уровень OpenAI, но при этом требует в разы меньше вычислительных мощностей. Рынок отреагировал мгновенно: акции крупных западных компаний резко пошли вниз, а Nvidia потеряла за день больше капитализации, чем любая компания в истории.

Вокруг DeepSeek тут же появились обвинения. По неподтверждённым данным, команда использовала знания из закрытой модели OpenAI, применив технику, известную как дистилляция. СМИ подхватили волну: будто бы DeepSeek открыла принципиально новый способ «облегчённой» сборки ИИ.

Но в действительности дистилляция — не ноу-хау, а вполне устоявшийся метод в компьютерных науках. Её суть — в обучении меньшей модели («ученика») на основе сигналов от большой модели («учителя»), включая так называемые «мягкие» ответы, которые показывают не только правильный результат, но и вероятностную близость между вариантами. Это позволяет маленькой модели быстрее понять, где, условно говоря, «лиса ближе к собаке, чем к пицце».

Метод появился ещё в 2015 году благодаря исследователям из Google, включая самого Джеффри Хинтона. Тогда они пытались упростить тяжеловесные ансамбли моделей и заметили, что даже «неправильные» ответы могут нести информацию. Это и назвали «тёмным знанием» — отсылая к идее тёмной материи: вроде бы невидимо, но определяет многое.

Сначала идея не зашла — её даже не приняли на конференцию. Но вскоре стало ясно, что дистилляция позволяет значительно удешевить работу ИИ без потери точности. Так, из модели BERT в Google позже сделали компактную DistilBERT — и она прижилась в бизнесе. Сегодня дистилляция — это стандартный инструмент в арсенале OpenAI, Google, Amazon и многих других.

Важно понимать: нельзя «тайно» провести дистилляцию с чужой закрытой модели без доступа к её внутренним параметрам. Но можно задавать много вопросов и учиться на ответах — нечто вроде софистического диалога между учителем и учеником. Такой подход тоже работает.

И работает неожиданно хорошо. В январе в Беркли собрали модель цепного мышления за $450 — и она показала уровень моделей в десятки раз дороже. Всё благодаря дистилляции.


https://www.quantamagazine.org/how-distillation-makes-ai-models-smaller-and-cheaper-20250718/

📘 Что такое симплициальные гомологии — простыми словами

В топологии важно уметь отличать пространства друг от друга не по внешнему виду, а по их устройству «внутри» — например, по наличию дыр, замкнутых поверхностей, пустот. Чтобы перевести это в строгую математику, вводятся симплициальные гомологии.

Сначала мы разбиваем пространство на простые фигуры: точки, отрезки, треугольники, тетраэдры. Они называются симплексами, и из них можно собрать любую форму. Важный момент: у каждого симплекса фиксируется порядок его вершин — это называется ориентацией.

Далее вводится понятие границы симплекса. Например, граница треугольника — это "сумма" его трёх рёбер, с учётом направления. Граница отрезка — это его две конечные точки (с минусом и плюсом). Это записывается специальной формулой, где каждое подмножество вершин симплекса берётся с нужным знаком.

Главное свойство: граница от границы всегда равна нулю. Если вы возьмёте треугольник, затем его рёбра, а потом — границы этих рёбер, всё сократится.

После этого мы можем различать два типа цепочек:
– Те, у которых границы нет (называются циклами).
– Те, которые сами являются границей чего-то большего (границы).

И наконец, гомологии — это способ отделить первые от вторых. Мы смотрим, какие циклы не являются границей. Именно они и указывают на наличие «дырок» в пространстве.

Соединение 3-х фазного двигателя треугольником

В институте путей сообщения сделали красивую подборку материалов о Ламе. В частности, там картинка о искривлении Александровской колонны из книжки. Стоило больших трудов (денежных и административных) 4 года назад картинку добыть: сканирование чертежей XIX века размером со стол из спецхрана ...

Ницше, на выход!

Что значит, что два цикла гомологичны?

Мы уже знаем, что в симплициальной теории мы различаем цепи, у которых нет границы (циклы), и те, которые сами являются границами чего-то большего. Но чтобы получить настоящую гомологию, нужно сделать ещё один шаг — ввести отношение эквивалентности между циклами.

Два цикла считаются гомологичными, если их разность равна границе. То есть если один цикл можно «сдвинуть» в другой с помощью заполнения промежутка между ними симплексами более высокой размерности. Формально, если 𝑐 и 𝑐′ — два цикла, и 𝑐−𝑐′=∂𝑑 для некоторой цепи 𝑑, то 𝑐∼𝑐′.

Это отношение позволяет сгруппировать все циклы в классы. В каждом классе — все циклы, которые отличаются друг от друга «на границу». Именно эти классы и составляют группу гомологий 𝐻𝑘(𝐾), где 𝑘 — размерность.

Грубо говоря, гомологические циклы — это разные способы «обхода дыр» в пространстве, которые по сути говорят об одном и том же: дыра есть, и она вот здесь. Всё, что отличается от этого обхода на границу, считается тем же самым с точки зрения топологии.

На картинке ниже — гомологичные органы: передние конечности позвоночных. У летучей мыши — крыло, у крота — лопата, у человека — рука. Разные функции, формы, длины — но один и тот же план. Та же структура костей, та же логика построения. Эволюция просто «перераспределила» части в зависимости от задачи.

#теориягомологий

Эта ситуация раскрывает глубокий конфликт между двумя способами мыслить о добре и ответственности — между утилитаристским и деонтологическим подходом.

Если смотреть с утилитаристской позиции, внимание сосредоточено не на самом действии, а на его последствиях. Человека рассматривают как элемент в системе, и вес каждого поступка измеряется итоговой суммой спасённых жизней. В этом логическом пространстве решение — толкнуть — не потому, что это "правильно", а потому что оно уменьшает количество смертей. Не эмоционально, не этически, а арифметически.

Деонтологический взгляд отказывается рассматривать человека как ресурс. Здесь граница проходит не по числу жертв, а по самому акту действия. Если ты вынужден лично вмешаться и использовать другого как средство, ты выходишь за пределы дозволенного — вне зависимости от того, чего удалось достичь. Нарушение принципа здесь важнее результата. Речь идёт не о том, сколько жизней ты сохранил, а о том, кем ты стал, совершив этот поступок.

Эйнштейн, Доплер и сердцебиение в космосе

Один из самых красивых эффектов релятивистской физики — это релятивистский эффект Доплера. Он описывает, как искажается восприятие времени, если источник сигнала и приёмник движутся друг от друга или навстречу на скорости, близкой к световой.

Представим, что источник посылает сигналы с интервалом 𝑇𝑠 , но движется прочь со скоростью 𝑉. Приёмник видит эти сигналы с удлинённым периодом 𝑇r , который рассчитывается по формуле (рис. 1).

А теперь — "Парадокс Близнецов" на пальцах

Представим, что один из близнецов отправляется в космос со скоростью 3/5 скорости света. Он удаляется от Земли в течение 25 минут, а затем возвращается назад с той же скоростью, затратив ещё 25 минут. В общей сложности на Земле проходит 50 минут — казалось бы, ситуация симметрична. Но это только на первый взгляд.

Брат, оставшийся на Земле, спокойно считает удары сердца: 3000 ударов, по одному в секунду. А вот путешественник воспринимает происходящее иначе. Пока он удаляется, сигналы с Земли достигают его в два раза реже — раз в две секунды.

За это время он получает всего 600 сигналов от брата. Когда же он летит обратно, сигналы, наоборот, приходят в два раза чаще — раз в полсекунды, и за 25 минут обратного пути он принимает уже 2400 сигналов.

Его собственные часы при этом идут без искажений, и он ощущает 2400 своих сердцебиений за весь полёт.

Именно в этом и проявляется суть. Здесь важно не просто замедление времени, а асимметрия восприятия сигнала: на удалении он редеет, на сближении — уплотняется. Даже если ты движешься равномерно туда и обратно, ощущение времени уже необратимо меняется.

Как сделать бесконечный цикл с помощью лейки?

Жаль, что фейк)