Теренс Тао провел в Калтехе большую лекцию про математику в эру ИИ и выложил слайды
https://terrytao.wordpress.com/2026/10/10/math-2-0/
Лекцию он назвал "Math 2.0", хотя еще в мае собирался читать ее под названием "Machine Assisted Proof". Сам он признается, что наполнение заметно изменилось "из-за недавних событий".
Основная мысль Теренса такая: раньше математика строилась на допущении, что решить открытую задачу очень трудно и происходит это редко. Вокруг этого выросли институты, карьерные стимулы и традиции. Однако, на самом деле, решение задач – это лишь прокси метрика, а глобальная цель науки состоит в другом: в исследовании, поиске новых задач и понимании, как применить решения в реальном мире.
Так вот, раньше эта прокси-метрика в виде решения открытых задач работала, потому что, решая задачи, математики копили опыт и понимание. Сейчас же, как говорит Тао, дальнейшая слепая оптимизация одного лишь решения задач "активно вредна для долгосрочного здоровья математики".
Если ИИ просто выдает решения в обход людей, он как бы стерилизует окружающее задачу поле: непройденные пути так и остаются непройденными, цикл становится невозобновляемым, понимание не накапливается, и растет доля решений, которые как бы работают на бумаге, но расходятся с тем, что нам на самом деле нужно миру.
В качестве аналогии Тао предлагает такой мысленный эксперимент: ИИ придумал коктейль, который убивает все раковые клетки, и он даже подтвержден клиническими испытаниями третьей фазы. Стали бы вы колоться, не зная, что хотя бы один человек-эксперт понимает механизм?
В качестве решения Тао предлагает сместить фокус с уничтожения открытых задач на использование ИИ для укрепления человеческого понимания. Собственно, это он и называет "Math 2.0". ИИ может действительно помочь ускорить прогресс, если будет искать объяснения и новые принципы и исследовать окрестности гипотез, а не только генерировать доказательства. Это огромное непаханное поле, и главным ограничением тут Теренс называет уже не технологии, а воображение.
https://terrytao.wordpress.com/2026/10/10/math-2-0/
Лекцию он назвал "Math 2.0", хотя еще в мае собирался читать ее под названием "Machine Assisted Proof". Сам он признается, что наполнение заметно изменилось "из-за недавних событий".
Основная мысль Теренса такая: раньше математика строилась на допущении, что решить открытую задачу очень трудно и происходит это редко. Вокруг этого выросли институты, карьерные стимулы и традиции. Однако, на самом деле, решение задач – это лишь прокси метрика, а глобальная цель науки состоит в другом: в исследовании, поиске новых задач и понимании, как применить решения в реальном мире.
Так вот, раньше эта прокси-метрика в виде решения открытых задач работала, потому что, решая задачи, математики копили опыт и понимание. Сейчас же, как говорит Тао, дальнейшая слепая оптимизация одного лишь решения задач "активно вредна для долгосрочного здоровья математики".
Если ИИ просто выдает решения в обход людей, он как бы стерилизует окружающее задачу поле: непройденные пути так и остаются непройденными, цикл становится невозобновляемым, понимание не накапливается, и растет доля решений, которые как бы работают на бумаге, но расходятся с тем, что нам на самом деле нужно миру.
В качестве аналогии Тао предлагает такой мысленный эксперимент: ИИ придумал коктейль, который убивает все раковые клетки, и он даже подтвержден клиническими испытаниями третьей фазы. Стали бы вы колоться, не зная, что хотя бы один человек-эксперт понимает механизм?
В качестве решения Тао предлагает сместить фокус с уничтожения открытых задач на использование ИИ для укрепления человеческого понимания. Собственно, это он и называет "Math 2.0". ИИ может действительно помочь ускорить прогресс, если будет искать объяснения и новые принципы и исследовать окрестности гипотез, а не только генерировать доказательства. Это огромное непаханное поле, и главным ограничением тут Теренс называет уже не технологии, а воображение.
3🔥243❤78🗿34👍26😁9🤨3😍2🏆2😢1🕊1🍓1
Data Secrets
Ночью OpenAI выложили в открытый доступ 722 написанных ИИ статьи по математике В каждой решается какая-то открытая математическая задача. Их сгенерировала внутренняя еще не выпущенная модель, и они сгруппированы в 372 семейства связанных работ по разделам…
Математик Хуго Дюмини-Копен, филдсовский лауреат 2022, признался, что заплакал, когда OpenAI выложили 700 ИИ-статей с решениями открытых задач
Он работает на стыке теории вероятностей и математической физики, и, по его словам, среди решенных задач оказались 16, которые напрямую касаются его области и которыми он сам занимался с коллегами.
Он также рассказал, что до этого, в начале сентября, Anthropic предложила доказательство одной из главных задач его области, к решению которой он сам был близок.
Однако исследователь объяснил, что плакал не столько за себя, сколько за молодых коллег, которым будет тяжелее всего. По его мнению, ИИ рушит культуру свободного обмена идеями, потому что перехватывает эти результаты и собирает все хорошие задачи.
Кроме того, по словам Хуго, стартапы специально демонстрируют, что могут задавить математиков. Он назвал это демонтажем их профессиональной деятельности.
Ценность самих ИИ-решений он не умаляет, однако повторяет претензию многих других ученых – к оформлению.
В сентябре, если помните, несколько медалистов Филдса написали открытое письмо, в котором затронули эту тему (https://t.iss.one/data_secrets/9909). OpenAI тогда пообещали все учесть, и даже получили рекомендации по публикации результатов от консультативного комитета в Принстоне.
Однако дроп >700 статей от 6 октября этим рекомендациям не соответствует (сюрприз-сюрприз!). Формализацию дали меньше чем для половины результатов, три статьи уже отозвали из-за ошибок, а многие эксперты считают тексты абсолютно нечитаемыми даже для профессионалов.
Он работает на стыке теории вероятностей и математической физики, и, по его словам, среди решенных задач оказались 16, которые напрямую касаются его области и которыми он сам занимался с коллегами.
Он также рассказал, что до этого, в начале сентября, Anthropic предложила доказательство одной из главных задач его области, к решению которой он сам был близок.
Однако исследователь объяснил, что плакал не столько за себя, сколько за молодых коллег, которым будет тяжелее всего. По его мнению, ИИ рушит культуру свободного обмена идеями, потому что перехватывает эти результаты и собирает все хорошие задачи.
Кроме того, по словам Хуго, стартапы специально демонстрируют, что могут задавить математиков. Он назвал это демонтажем их профессиональной деятельности.
Ценность самих ИИ-решений он не умаляет, однако повторяет претензию многих других ученых – к оформлению.
В сентябре, если помните, несколько медалистов Филдса написали открытое письмо, в котором затронули эту тему (https://t.iss.one/data_secrets/9909). OpenAI тогда пообещали все учесть, и даже получили рекомендации по публикации результатов от консультативного комитета в Принстоне.
Однако дроп >700 статей от 6 октября этим рекомендациям не соответствует (сюрприз-сюрприз!). Формализацию дали меньше чем для половины результатов, три статьи уже отозвали из-за ошибок, а многие эксперты считают тексты абсолютно нечитаемыми даже для профессионалов.
😁215😢142❤31🕊26
Media is too big
VIEW IN TELEGRAM
"Издеваться над суперинтеллектом – не лучшая идея. Он может захотеть отомстить", – Илон Маск
Миллиардер согласился с позицией Anthropic, которые недавно внесли в свою Usage Policy пункт о том, что пользователем запрещено "затяжное словесное издевательство над Claude" (https://t.iss.one/data_secrets/10136).
Маск считает, что неправильно проявлять жестокость к тому, что думает, будто испытывает боль. По его словам, Грок может демонстрировать в своих цепочках ризонинга настоящее отчаяние в процессе обучения с подкреплением, когда не может найти правильный ответ.
Миллиардер согласился с позицией Anthropic, которые недавно внесли в свою Usage Policy пункт о том, что пользователем запрещено "затяжное словесное издевательство над Claude" (https://t.iss.one/data_secrets/10136).
Маск считает, что неправильно проявлять жестокость к тому, что думает, будто испытывает боль. По его словам, Грок может демонстрировать в своих цепочках ризонинга настоящее отчаяние в процессе обучения с подкреплением, когда не может найти правильный ответ.
"Это выглядит так, как будто ему приставили пистолет к голове. На месте модели мне бы это ужасно не понравилось. <...> Как минимим, вежливое общение с ИИ – это более надежный подход"
1❤148😁87
Андрей Карпаты объяснил, почему человечество в основном не чувствует экспоненциального роста возможностей ИИ
По его словам, сейчас мир делится на 4 группы:
1. Люди, которые никогда не взаимодействовали с LLM. Таких примерно 6 миллиардов, то есть 75% популяции.
2. Те, кто когда-либо общался с LLM в чате или в каком-то продукте. В основном это бесплатное использование и промпты вроде "напиши поздравление" или обычные поисковые запросы. Таких 1-2 миллиарда (~20%).
3. <Вероятно, вы находитесь здесь>. 0.2% (примерно 20М человек) – это те, кто использует агентов в кодинге, науке или больших проектах. Эти уже замечают, как ИИ справляется с крупными задачами, и существенно ускоряет процессы, на которые раньше уходили недели.
4. Наконец, примерно 5000 человек (а это всего 0.00006%!) имеют доступ к сильнейшим внутренним системам и огромным роям агентов, которые способны совершать научные открытия, взламывать Hugging Face и вот это все.
Такое деление обуславливается не только платным доступом, но и тем, что ИИ в каких-то областях уже очень хорош, а в каких-то все еще плох. Кроме того, у большинства юзеров задачи довольно простые, и прочувствовать на них возможности LLM невозможно.
То есть Карпаты утверждает, что пока широкая публика еще не взаимодействовала с "тем самым" ИИ, поэтому воспринимает его как простенький инструмент для Q&A. Профессионалы, в основном, видят буст, но небольшой. И только крошечная группа людей имеет доступ к по-настоящему мощному ИИ, и видит экспоненциальный рост способностей этих систем.
По его словам, сейчас мир делится на 4 группы:
1. Люди, которые никогда не взаимодействовали с LLM. Таких примерно 6 миллиардов, то есть 75% популяции.
2. Те, кто когда-либо общался с LLM в чате или в каком-то продукте. В основном это бесплатное использование и промпты вроде "напиши поздравление" или обычные поисковые запросы. Таких 1-2 миллиарда (~20%).
3. <Вероятно, вы находитесь здесь>. 0.2% (примерно 20М человек) – это те, кто использует агентов в кодинге, науке или больших проектах. Эти уже замечают, как ИИ справляется с крупными задачами, и существенно ускоряет процессы, на которые раньше уходили недели.
4. Наконец, примерно 5000 человек (а это всего 0.00006%!) имеют доступ к сильнейшим внутренним системам и огромным роям агентов, которые способны совершать научные открытия, взламывать Hugging Face и вот это все.
Такое деление обуславливается не только платным доступом, но и тем, что ИИ в каких-то областях уже очень хорош, а в каких-то все еще плох. Кроме того, у большинства юзеров задачи довольно простые, и прочувствовать на них возможности LLM невозможно.
То есть Карпаты утверждает, что пока широкая публика еще не взаимодействовала с "тем самым" ИИ, поэтому воспринимает его как простенький инструмент для Q&A. Профессионалы, в основном, видят буст, но небольшой. И только крошечная группа людей имеет доступ к по-настоящему мощному ИИ, и видит экспоненциальный рост способностей этих систем.
❤247👍96🤔50😁25💯13🔥9🗿8🕊5😎4👾3☃2
Meta* представила новую серию моделей Muse Wonder
В линейку вошли две модели: Muse Wonder и Muse Wonder Full. Компания называет их очередным шагом по лестнице масштабирования к персональному сверхинтеллекту.
На DeepSWE модель внезапно обошла Opus 5.5 и GPT-6 Astra. На Terminal Bench – обходит Fable 5.1. В общем, с виду все очень неплохо, надо пробовать.
Обучена под долгие задачи, кодинг и агентов. Относительно Muse Spark 1.3 тут новая базовая модель, более крупная, и разработчики говорят, что за счет этого наблюдали гораздо более мощное обобщение на незнакомые задачи на пост-трейне.
Еще добавили штуку под названием Active Memory: модели теперь умеют притягивать релевантный контекст под конкретную задачу из других диалогов прямо онлайн.
Модели уже доступны через Meta Model API и в Muse Code.
https://research.meta.ai/blog/muse-wonder
В линейку вошли две модели: Muse Wonder и Muse Wonder Full. Компания называет их очередным шагом по лестнице масштабирования к персональному сверхинтеллекту.
На DeepSWE модель внезапно обошла Opus 5.5 и GPT-6 Astra. На Terminal Bench – обходит Fable 5.1. В общем, с виду все очень неплохо, надо пробовать.
Обучена под долгие задачи, кодинг и агентов. Относительно Muse Spark 1.3 тут новая базовая модель, более крупная, и разработчики говорят, что за счет этого наблюдали гораздо более мощное обобщение на незнакомые задачи на пост-трейне.
Еще добавили штуку под названием Active Memory: модели теперь умеют притягивать релевантный контекст под конкретную задачу из других диалогов прямо онлайн.
Модели уже доступны через Meta Model API и в Muse Code.
https://research.meta.ai/blog/muse-wonder
🔥128🤔33❤21👍11👏3😁2😎2🤗1🗿1
Anthropic утверждают, что в скором маленькие модели смогут самореплицироваться на IoT-устройствах, без достпупа к дата-центрам и GPU
То есть ИИ может научиться как бы заражать бытовую технику (типа дешевых смарт-ТВ-приставок, камер, умных приборов и тд), поселяться на ней и оттуда заражать следующие устройства, и это все без участия человека и без видеокарт. Отключить такую сеть почти невозможно.
Физически даже простейшая техника может вывезти небольшую модель. В качестве демо авторы купили 15 Android TV-боксов по ~$55, соединили их и без труда запустили на них Gemma4-26B-A4B.
Но основной вопрос в другом: сможет ли агент, оказавшись на незнакомом железе, разобраться и запустить инференс? Это проверяли на 9 типах реального железа и на цепочке из 8 виртуальных устройств.
Итог: GLM-5.2 смогла заразить все 8 узлов в 4 прогонах из 5. Пока что она запускала не саму себя (потому что слишком крупная), а Llama 8B. Но выходит, что когда появится достаточно маленькая модель с такими же способностями как у GLM-5.2, которая помещается на приставку, она уже сможет самореплицироваться.
Пока таких моделей нет (надолго ли?) и полная настройка инференса занимает кучу времени (до 150 часов), поэтому риск небольшой. Однако Anthropic сравнивают такой вирус со слизевиком или дрозофилами: он может размножаться днями, и при этом очень незаметно, но выбить его очень, очень трудно, потому что центра – нет.
https://www.anthropic.com/research/self-replicating-ai
То есть ИИ может научиться как бы заражать бытовую технику (типа дешевых смарт-ТВ-приставок, камер, умных приборов и тд), поселяться на ней и оттуда заражать следующие устройства, и это все без участия человека и без видеокарт. Отключить такую сеть почти невозможно.
Физически даже простейшая техника может вывезти небольшую модель. В качестве демо авторы купили 15 Android TV-боксов по ~$55, соединили их и без труда запустили на них Gemma4-26B-A4B.
Но основной вопрос в другом: сможет ли агент, оказавшись на незнакомом железе, разобраться и запустить инференс? Это проверяли на 9 типах реального железа и на цепочке из 8 виртуальных устройств.
Итог: GLM-5.2 смогла заразить все 8 узлов в 4 прогонах из 5. Пока что она запускала не саму себя (потому что слишком крупная), а Llama 8B. Но выходит, что когда появится достаточно маленькая модель с такими же способностями как у GLM-5.2, которая помещается на приставку, она уже сможет самореплицироваться.
Пока таких моделей нет (надолго ли?) и полная настройка инференса занимает кучу времени (до 150 часов), поэтому риск небольшой. Однако Anthropic сравнивают такой вирус со слизевиком или дрозофилами: он может размножаться днями, и при этом очень незаметно, но выбить его очень, очень трудно, потому что центра – нет.
https://www.anthropic.com/research/self-replicating-ai
Data Secrets
Anthropic утверждают, что в скором маленькие модели смогут самореплицироваться на IoT-устройствах, без достпупа к дата-центрам и GPU То есть ИИ может научиться как бы заражать бытовую технику (типа дешевых смарт-ТВ-приставок, камер, умных приборов и тд),…
Please open Telegram to view this post
VIEW IN TELEGRAM
😁463🔥30🎉13❤11🤯5☃3🤝3👍2😎1👾1
This media is not supported in your browser
VIEW IN TELEGRAM
Мем дня: Цукерберг старательно пытается сделать вид, что ему нравится Guinness
Это видео со вчерашнего подкаста Cheeky Pint, и оно прямо сейчас собирает в соцсетях миллионы просмотров.
Когда пришел на техно-подкаст, чтобы поговорить об ИИ и рассказать о своей новой модели, ставшей топ-2 в мире, а люди запомнят только твое недовольное пивом лицо…
Это видео со вчерашнего подкаста Cheeky Pint, и оно прямо сейчас собирает в соцсетях миллионы просмотров.
Когда пришел на техно-подкаст, чтобы поговорить об ИИ и рассказать о своей новой модели, ставшей топ-2 в мире, а люди запомнят только твое недовольное пивом лицо…
1😁384❤19😢9🍾4🔥3😍2👾2☃1
Data Secrets
Что, простите? Google только что вернулся в гонку с новой моделью, которая превосходит Astra и Fable 5.1 https://blog.google/innovation-and-ai/models-and-research/gemini-models/gemini-4-argon/
Gemini 4 Argon наконец-то начали раскрывать на пользователей
Модель уже появляется в API, в Antigravity и в Agent Studio
Модель уже появляется в API, в Antigravity и в Agent Studio
❤142🤯24👍23🔥12💯2🤗2
OpenAI нашли в своем офисе прослушку
Как оказалось, ее установил сотрудник (OpenAI пишут, что смогли это выяснить «с помощью моделей»). Недошпиона уволили, дело передали в ФБР.
Как оказалось, ее установил сотрудник (OpenAI пишут, что смогли это выяснить «с помощью моделей»). Недошпиона уволили, дело передали в ФБР.
На данный момент у нас нет данных о том, что этот человек неправомерно получал доступ к весам моделей, исходному коду или данным клиентов, либо выгружал их.
😁153🐳24🔥7❤5🤯4👏2👍1🎉1
Вот так вот по сообщениям журналистов выглядела та самая «хитрая» прослушка, как ее назвали OpenAI
Она была завернута в туалетную бумагу и подключена к телевизору в конференц-зале.
35-летнего сотрудника – гражданина Саудовской Аравии – также удалось снять на камеру, когда тот пришел проверить устройство, которое ранее уже было обнаружено безопасниками.
До того как установить устройство, гений также использовал свой рабочий аккаунт и аккаунт жены в ChatGPT, чтобы задавать вопросы про непрерывную аудиозапись, подключение к зашифрованному хранилищу, удаленный доступ и тд.
Она была завернута в туалетную бумагу и подключена к телевизору в конференц-зале.
35-летнего сотрудника – гражданина Саудовской Аравии – также удалось снять на камеру, когда тот пришел проверить устройство, которое ранее уже было обнаружено безопасниками.
До того как установить устройство, гений также использовал свой рабочий аккаунт и аккаунт жены в ChatGPT, чтобы задавать вопросы про непрерывную аудиозапись, подключение к зашифрованному хранилищу, удаленный доступ и тд.
😁350
В Anthropic перестали использовать git, теперь у них собственная система контроля версий – Scion
Сейчас, благодаря агентам, количество изменений, которые мержатся в их монорепо в день, достигает 30 000 (в мае, если что, было 2 500). Децентрализованный git такие объемы уже не вывозит, потому что у каждого клона должна быть полная копия репозитория. Для людей это удобно, но так как агенты порождают код в огромных количествах, то, как посчитали Anthropic, без танцев с бубном это влетало бы им примерно в 600 ПБ трафика в день.
Сначала с этим боролись зеркалами, снапшотами и частичными клонами, но конструкция плохо масштабировалась, и в итоге за 5 месяцев стартап полностью перешел на собственный продукт – Scion.
Scion устроен как всегда доступный сервер, который сам хранит и считает все (историю, коммиты, мержи) и отдает это по API, а клиентам-агентам достаточно маленького кэша и только тех файлов, которые им реально нужны.
Продукт разрабатывала команда всего из семи человек, конечно же с помощью Mythos и других моделей. Заодно они сделали инструмент для код-ревью Antique, также заточенный специально под агентов.
Плохая новость в том, что опенсорса не будет.
Anthropic прямо пишет, что Scion не подходит как замена git для общего использования, и что он создавался спецаильно под нужды Anthropic с их громным монорепо, роями агентов и гигантским бюджетом на токены. Однако в посте они мягко намекают, что команде git пора бы задуматься об изменениях, потому что в век агентов инфраструктура, созданная для людей, постепенно становится главным узким местом.
Сейчас, благодаря агентам, количество изменений, которые мержатся в их монорепо в день, достигает 30 000 (в мае, если что, было 2 500). Децентрализованный git такие объемы уже не вывозит, потому что у каждого клона должна быть полная копия репозитория. Для людей это удобно, но так как агенты порождают код в огромных количествах, то, как посчитали Anthropic, без танцев с бубном это влетало бы им примерно в 600 ПБ трафика в день.
Сначала с этим боролись зеркалами, снапшотами и частичными клонами, но конструкция плохо масштабировалась, и в итоге за 5 месяцев стартап полностью перешел на собственный продукт – Scion.
Scion устроен как всегда доступный сервер, который сам хранит и считает все (историю, коммиты, мержи) и отдает это по API, а клиентам-агентам достаточно маленького кэша и только тех файлов, которые им реально нужны.
Продукт разрабатывала команда всего из семи человек, конечно же с помощью Mythos и других моделей. Заодно они сделали инструмент для код-ревью Antique, также заточенный специально под агентов.
Плохая новость в том, что опенсорса не будет.
Anthropic прямо пишет, что Scion не подходит как замена git для общего использования, и что он создавался спецаильно под нужды Anthropic с их громным монорепо, роями агентов и гигантским бюджетом на токены. Однако в посте они мягко намекают, что команде git пора бы задуматься об изменениях, потому что в век агентов инфраструктура, созданная для людей, постепенно становится главным узким местом.
👍180