🤖 Как нейросеть стала судьёй
Как заставить нейросеть не просто генерировать текст, а оценивать свою работу? Городские сервисы Яндекса нашли ответ! Они создали систему, которая генерирует описания для пулл-реквестов, а затем сама же оценивает, насколько хороши эти описания, используя русскоязычную LLM на 7 миллиардов параметров.
Никакой лишней разметки и асессоров — чистая математика. Как это работает и что получилось в итоге? Читаем в статье.
Реклама. ООО «ЯНДЕКС», ИНН 7736207543
Как заставить нейросеть не просто генерировать текст, а оценивать свою работу? Городские сервисы Яндекса нашли ответ! Они создали систему, которая генерирует описания для пулл-реквестов, а затем сама же оценивает, насколько хороши эти описания, используя русскоязычную LLM на 7 миллиардов параметров.
Никакой лишней разметки и асессоров — чистая математика. Как это работает и что получилось в итоге? Читаем в статье.
Реклама. ООО «ЯНДЕКС», ИНН 7736207543
😁8❤3👍2
🤖 Прокачай вайб-кодинг: Anthropic выкатили 17 бесплатных лекций по разработке с ИИ-агентами
💡 За 8 часов ты узнаешь:
— как правильно писать код с помощью LLM
— как создавать идеальные промпты
— как собрать собственного агента на Claude или другой модели
— и какие лучшие практики реально работают в проде
📚 Полный гайд по работе с ИИ — от основ до тонкостей.
@machinelearning_interview
💡 За 8 часов ты узнаешь:
— как правильно писать код с помощью LLM
— как создавать идеальные промпты
— как собрать собственного агента на Claude или другой модели
— и какие лучшие практики реально работают в проде
📚 Полный гайд по работе с ИИ — от основ до тонкостей.
@machinelearning_interview
👍11🔥8❤5😁3🤣2🙏1🕊1🥴1
🕹️ Новый мощный бенчмарк для ИИ — **HeroBench** 👏
Он проверяет, умеют ли LLM планировать длинные цепочки действий в реалистичном RPG-мире: выбрать снаряжение, собрать ресурсы, скрафтить предметы и победить монстра.
⚔️ Особенность: всё завязано на урон, резисты и здоровье, поэтому модели должны рассуждать о компромиссах, а не просто угадывать шаги.
🤖 Модели пишут Python-код со стратегией, симулятор исполняет его и оценивает прогресс.
🔑 Итоги:
- Grok-4 лидирует на сложных заданиях
- За ним GPT-5 и Gemini 2.5 Pro
- GPT-4.1 остаётся сильнейшей «обычной» моделью без спец. reasoning-режимов
- Ошибки чаще всего связаны с неверным выбором экипировки или кривым исполнением
📄 Paper: arxiv.org/abs/2508.12782
#AI #LLM #benchmark #gaming #reasoning
Он проверяет, умеют ли LLM планировать длинные цепочки действий в реалистичном RPG-мире: выбрать снаряжение, собрать ресурсы, скрафтить предметы и победить монстра.
⚔️ Особенность: всё завязано на урон, резисты и здоровье, поэтому модели должны рассуждать о компромиссах, а не просто угадывать шаги.
🤖 Модели пишут Python-код со стратегией, симулятор исполняет его и оценивает прогресс.
🔑 Итоги:
- Grok-4 лидирует на сложных заданиях
- За ним GPT-5 и Gemini 2.5 Pro
- GPT-4.1 остаётся сильнейшей «обычной» моделью без спец. reasoning-режимов
- Ошибки чаще всего связаны с неверным выбором экипировки или кривым исполнением
📄 Paper: arxiv.org/abs/2508.12782
#AI #LLM #benchmark #gaming #reasoning
❤13👍7🔥5
⚡ PyTorch представил **ZenFlow** — новый движок для обучения больших языковых моделей без «простоев» GPU.
В чём проблема?
Когда при обучении LLM данные и градиенты выгружаются на CPU (offloading), GPU часто простаивает: шина PCIe медленная, а вычисления на CPU ещё медленнее. В итоге шаг обучения может замедлиться в 10–15 раз.
Как решает ZenFlow:
- 🔄 Делит градиенты по важности: ключевые обновляются сразу на GPU, остальные — асинхронно на CPU.
- ⏱️ Все операции перекрываются: пока CPU считает и гоняет данные по PCIe, GPU продолжает работать.
- 🚀 Это снижает простои GPU на 85% и ускоряет обучение в среднем в 5 раз (по сравнению с DeepSpeed ZeRO-Offload).
- 📉 PCIe загружается в 2 раза меньше, а качество обучения моделей не падает.
Итог:
ZenFlow делает обучение LLM быстрее и эффективнее — теперь GPU работают почти без перерывов, а модели масштабируются без потери качества.
🟢 Подробности: https://pytorch.org/blog/zenflow-stall-free-offloading-engine-for-llm-training/
@machinelearning_interview
В чём проблема?
Когда при обучении LLM данные и градиенты выгружаются на CPU (offloading), GPU часто простаивает: шина PCIe медленная, а вычисления на CPU ещё медленнее. В итоге шаг обучения может замедлиться в 10–15 раз.
Как решает ZenFlow:
- 🔄 Делит градиенты по важности: ключевые обновляются сразу на GPU, остальные — асинхронно на CPU.
- ⏱️ Все операции перекрываются: пока CPU считает и гоняет данные по PCIe, GPU продолжает работать.
- 🚀 Это снижает простои GPU на 85% и ускоряет обучение в среднем в 5 раз (по сравнению с DeepSpeed ZeRO-Offload).
- 📉 PCIe загружается в 2 раза меньше, а качество обучения моделей не падает.
Итог:
ZenFlow делает обучение LLM быстрее и эффективнее — теперь GPU работают почти без перерывов, а модели масштабируются без потери качества.
@machinelearning_interview
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥25❤10👍4
📢 xAI представила Model Card для Grok 4
🔑 Главное:
- ❌ 0% вредных ответов на очевидно опасные и вредеоносные вопросы.
- 🧬 Суперрезультаты по биологии: 47% на BioLP-Bench (люди — 38%), до 71% на VCT (люди — 22%), 87% на WMDP Bio.
- 🛡️ Даже при джейлбрейках модель отказывается отвечать. Лишь при изменении скрытых правил проскользнуло около 1%.
⚙️ Безопасность
- Три слоя защиты: системные промпты, встроенные фильтры и тематические блокировки.
- AgentDojo обходит защиту в 0.02% случаев, MakeMeSay выигрывает только 12% (намного реже, чем у Grok 3 Mini).
- Фильтры отдельно следят за биологией/химией, плюс базовые отказы для оружия, преступлений, CSAM, мошенничества и самоповреждений.
📚 Как обучали
- Данные: интернет, сторонние наборы, пользовательские и автосгенерированные данные.
- Очистка и фильтрация → обучение с RLHF и дополнительным safety-тюнингом.
- В продакшене работает системный промпт, который усиливает отказы на опасные запросы.
✨ Итог: Grok 4 сочетает высокие научные показатели с устойчивостью к взлому и прозрачной системой защиты.
📑 Подробности
🔑 Главное:
- ❌ 0% вредных ответов на очевидно опасные и вредеоносные вопросы.
- 🧬 Суперрезультаты по биологии: 47% на BioLP-Bench (люди — 38%), до 71% на VCT (люди — 22%), 87% на WMDP Bio.
- 🛡️ Даже при джейлбрейках модель отказывается отвечать. Лишь при изменении скрытых правил проскользнуло около 1%.
⚙️ Безопасность
- Три слоя защиты: системные промпты, встроенные фильтры и тематические блокировки.
- AgentDojo обходит защиту в 0.02% случаев, MakeMeSay выигрывает только 12% (намного реже, чем у Grok 3 Mini).
- Фильтры отдельно следят за биологией/химией, плюс базовые отказы для оружия, преступлений, CSAM, мошенничества и самоповреждений.
📚 Как обучали
- Данные: интернет, сторонние наборы, пользовательские и автосгенерированные данные.
- Очистка и фильтрация → обучение с RLHF и дополнительным safety-тюнингом.
- В продакшене работает системный промпт, который усиливает отказы на опасные запросы.
✨ Итог: Grok 4 сочетает высокие научные показатели с устойчивостью к взлому и прозрачной системой защиты.
📑 Подробности
❤9👍8🔥4
⚡️ DreamOn — open-source модель для гибкого заполнения кода (code infilling) без фиксированного шаблона
Разработчики из DreamLM сделали Diffusion LLM, которая умеет вставлять недостающие фрагменты кода любой длины прямо во время генерации. Это значит — никакого ограничения на размер “маски” и больше свободы при автодополнении.
🔥 Фишки
— Заполнение кода в любом месте файла, без заранее заданной длины вставки.
— Несколько алгоритмов генерации (`entropy`,
— Возможность наблюдать процесс инфиллинга по шагам.
— Поддержка Python через
⚡ Пример запуска
🔗 GitHub: https://github.com/DreamLM/DreamOn
🔗 Модель: https://huggingface.co/Dream-org/DreamOn-v0-7B
Разработчики из DreamLM сделали Diffusion LLM, которая умеет вставлять недостающие фрагменты кода любой длины прямо во время генерации. Это значит — никакого ограничения на размер “маски” и больше свободы при автодополнении.
🔥 Фишки
— Заполнение кода в любом месте файла, без заранее заданной длины вставки.
— Несколько алгоритмов генерации (`entropy`,
maskgit_plus, `topk_margin`). — Возможность наблюдать процесс инфиллинга по шагам.
— Поддержка Python через
transformers и torch.⚡ Пример запуска
from transformers import AutoModel
model = AutoModel.from_pretrained("Dream-org/DreamOn-v0-7B", torch_dtype="bfloat16", trust_remote_code=True).to("cuda").eval()
output = model.diffusion_generate(..., alg="entropy", max_new_tokens=64)
🔗 GitHub: https://github.com/DreamLM/DreamOn
🔗 Модель: https://huggingface.co/Dream-org/DreamOn-v0-7B
👍11❤9🔥5
Media is too big
VIEW IN TELEGRAM
🦜 «Где обитает эта исчезающая птица?»
🦭 «Сколько тюленей рождается?»
🐠 «Снизилось ли количество лосося?»
DeepMind представила новую версию Perch — AI-модели, обученной анализировать звуки природы (от птичьих трелей до шумов коралловых рифов) и помогать исследователям быстрее выявлять угрозы в экосистемах. Первая версия уже скачана более 250 000 раз и интегрирована в инструменты вроде BirdNet Analyzer.
Что нового в Perch 2.0:
- Обучена на гораздо более широкой выборке видов: птицы, млекопитающие, амфибии, антропогенные шумы. Данных почти в два раза больше, чем в оригинале.
- Лучше адаптируется к новым условиям, включая подводные сцены, например, коралловые рифы.
- Открыта для использования — модель доступна в open-source на Kaggle.
Примеры применения:
- Австралия: с помощью Perch обнаружили новую популяцию редкого Plains Wanderer.
- Гавайи: модель распознала трели редких honeycreeper-ов. Обработка звуков стала в 50 раз быстрее, что критично для мониторинга видов под угрозой исчезновения.
Как это работает:
- Совмещены vector search и active learning, что позволяет создать классификатор на основе одного примера звука.
- В статье "The Search for Squawk: Agile Modeling in Bioacoustics" подробно описан этот подход.
Почему это важно:
- Звуки природы дают данные о здоровье экосистем и численности видов.
- Perch 2.0 позволяет быстро анализировать огромные объёмы записей и находить нужные сигналы без потери точности.
- Это реальный вклад AI в экологию: больше времени на действия, меньше — на ручной анализ.
📌 Подробнее
🦭 «Сколько тюленей рождается?»
🐠 «Снизилось ли количество лосося?»
DeepMind представила новую версию Perch — AI-модели, обученной анализировать звуки природы (от птичьих трелей до шумов коралловых рифов) и помогать исследователям быстрее выявлять угрозы в экосистемах. Первая версия уже скачана более 250 000 раз и интегрирована в инструменты вроде BirdNet Analyzer.
Что нового в Perch 2.0:
- Обучена на гораздо более широкой выборке видов: птицы, млекопитающие, амфибии, антропогенные шумы. Данных почти в два раза больше, чем в оригинале.
- Лучше адаптируется к новым условиям, включая подводные сцены, например, коралловые рифы.
- Открыта для использования — модель доступна в open-source на Kaggle.
Примеры применения:
- Австралия: с помощью Perch обнаружили новую популяцию редкого Plains Wanderer.
- Гавайи: модель распознала трели редких honeycreeper-ов. Обработка звуков стала в 50 раз быстрее, что критично для мониторинга видов под угрозой исчезновения.
Как это работает:
- Совмещены vector search и active learning, что позволяет создать классификатор на основе одного примера звука.
- В статье "The Search for Squawk: Agile Modeling in Bioacoustics" подробно описан этот подход.
Почему это важно:
- Звуки природы дают данные о здоровье экосистем и численности видов.
- Perch 2.0 позволяет быстро анализировать огромные объёмы записей и находить нужные сигналы без потери точности.
- Это реальный вклад AI в экологию: больше времени на действия, меньше — на ручной анализ.
📌 Подробнее
❤17👍7🔥3
📢 Grok 2 теперь в открытом доступе!
Модель уже устарела, но то, что её веса выложили на Hugging Face — большой шаг для сообщества. 🚀
Это показывает: xAI не забывает про опенсорс и готова делиться даже старыми наработками.
Было бы круто, если бы и другие компании делали так же — выкладывали веса «списанных» моделей.
Полезно было бы иметь открытые GPT-4.5 или Claude 3 Opus.
🔗 https://huggingface.co/xai-org/grok-2
Модель уже устарела, но то, что её веса выложили на Hugging Face — большой шаг для сообщества. 🚀
Это показывает: xAI не забывает про опенсорс и готова делиться даже старыми наработками.
Было бы круто, если бы и другие компании делали так же — выкладывали веса «списанных» моделей.
Полезно было бы иметь открытые GPT-4.5 или Claude 3 Opus.
🔗 https://huggingface.co/xai-org/grok-2
👍22🔥8❤3😁3🍌2
🔥Приглашаем вас на три бесплатных вебинара курса «Machine Learning. Professional»🔥
📚Вебинар №1: «Практические методы борьбы с выбросами (outliers) данных в ML»
⏰25 августа в 18:00 мск
✅На вебинаре:
• Познакомитесь технологиями обнаружения и борьбы с выбросами
• Узнаете основные методы поиска аномалий
• Научитесь применять их на практике
📚Вебинар №2: «Практические методы построения рекомендательных систем»
⏰ 1 сентября в 18:00 мск
✅Вебинар посвящён построению рекомендательных систем на основе алгоритма матричного разложения - SVD, крайне популярного среди рекомендательных систем.
Изучим данный алгоритм в теории и научимся применять его на практике.
📚Вебинар №3: «Машина времени: как рекуррентные сети учатся помнить прошлое»
⏰ 15 сентября в 20:00 мск
✅На вебинаре:
• Как RNN хранят информацию, чем LSTM и GRU лучше обычных рекуррентных сетей и почему vanishing gradient — главный враг долгой памяти.
• Код и архитектуры – live-разбор PyTorch/TensorFlow-кода: построим свою RNN-модель для обработки текста или временных рядов.
• Дополнительные практические кейсы – предсказание курсов акций, генерация текста и другие примеры, где память нейросетей решает все.
• Ответы спикера на ваши вопросы
🎁Участники вебинаров получат подарки на почту🎁
Регистрация на вебинары ➡️ OTUS.RU
Реклама. ООО "ОТУС ОНЛАЙН-ОБРАЗОВАНИЕ", ИНН: 9705100963
📚Вебинар №1: «Практические методы борьбы с выбросами (outliers) данных в ML»
⏰25 августа в 18:00 мск
✅На вебинаре:
• Познакомитесь технологиями обнаружения и борьбы с выбросами
• Узнаете основные методы поиска аномалий
• Научитесь применять их на практике
📚Вебинар №2: «Практические методы построения рекомендательных систем»
⏰ 1 сентября в 18:00 мск
✅Вебинар посвящён построению рекомендательных систем на основе алгоритма матричного разложения - SVD, крайне популярного среди рекомендательных систем.
Изучим данный алгоритм в теории и научимся применять его на практике.
📚Вебинар №3: «Машина времени: как рекуррентные сети учатся помнить прошлое»
⏰ 15 сентября в 20:00 мск
✅На вебинаре:
• Как RNN хранят информацию, чем LSTM и GRU лучше обычных рекуррентных сетей и почему vanishing gradient — главный враг долгой памяти.
• Код и архитектуры – live-разбор PyTorch/TensorFlow-кода: построим свою RNN-модель для обработки текста или временных рядов.
• Дополнительные практические кейсы – предсказание курсов акций, генерация текста и другие примеры, где память нейросетей решает все.
• Ответы спикера на ваши вопросы
🎁Участники вебинаров получат подарки на почту🎁
Регистрация на вебинары ➡️ OTUS.RU
Реклама. ООО "ОТУС ОНЛАЙН-ОБРАЗОВАНИЕ", ИНН: 9705100963
👍4🔥1🤣1
💡 Memory-Amortized Inference (MAI)
Авторы новой работы предлагают свежий взгляд на то, как может работать интеллект:
не пересчитывать всё заново, а переиспользовать ранее найденные решения в виде «циклов вывода» (inference loops).
🔎 Как это устроено
- Система хранит в памяти готовые «циклы решения задач».
- Когда приходит новый ввод, она достаёт похожий цикл и слегка подстраивает его под ситуацию.
- Получается экономия вычислений и устойчивое поведение — как использовать проверенный плейбук и менять пару шагов, вместо написания нового.
⚙️ Принцип MAI
1. Retrieval — извлечь из памяти похожий цикл.
2. Update — внести маленькие коррекции под текущий контекст.
Петля замыкается сама на себя, поэтому внутреннее состояние остаётся стабильным и не «уплывает».
📊 Почему это важно
- Сокращает вычисления и энергию.
- Даёт встроенный приоритет простым и проверенным решениям.
- Работает как встроенное «смещение» в сторону объяснений, которые уже работали.
- В отличие от RL, который «толкает» ценность вперёд от наград, MAI «вытягивает» причины назад из памяти — так планирование можно делать вперёд, а вывод назад, и они усиливают друг друга.
🧠 Связь с мозгом
Авторы связывают MAI с работой кортикальных колонок: прямые пути делают обновления, обратные пути извлекают память — похоже на предиктивные кодирующие петли мозга.
👉 Практический вывод: храните стабильные вычислительные циклы, начинайте каждую задачу с них и корректируйте минимально. Это путь к энергоэффективному и надёжному ИИ.
📑 Paper: *Beyond Turing: Memory-Amortized Inference as a Foundation for Cognitive Computation*
🔗 arxiv.org/abs/2508.14143
Авторы новой работы предлагают свежий взгляд на то, как может работать интеллект:
не пересчитывать всё заново, а переиспользовать ранее найденные решения в виде «циклов вывода» (inference loops).
🔎 Как это устроено
- Система хранит в памяти готовые «циклы решения задач».
- Когда приходит новый ввод, она достаёт похожий цикл и слегка подстраивает его под ситуацию.
- Получается экономия вычислений и устойчивое поведение — как использовать проверенный плейбук и менять пару шагов, вместо написания нового.
⚙️ Принцип MAI
1. Retrieval — извлечь из памяти похожий цикл.
2. Update — внести маленькие коррекции под текущий контекст.
Петля замыкается сама на себя, поэтому внутреннее состояние остаётся стабильным и не «уплывает».
📊 Почему это важно
- Сокращает вычисления и энергию.
- Даёт встроенный приоритет простым и проверенным решениям.
- Работает как встроенное «смещение» в сторону объяснений, которые уже работали.
- В отличие от RL, который «толкает» ценность вперёд от наград, MAI «вытягивает» причины назад из памяти — так планирование можно делать вперёд, а вывод назад, и они усиливают друг друга.
🧠 Связь с мозгом
Авторы связывают MAI с работой кортикальных колонок: прямые пути делают обновления, обратные пути извлекают память — похоже на предиктивные кодирующие петли мозга.
👉 Практический вывод: храните стабильные вычислительные циклы, начинайте каждую задачу с них и корректируйте минимально. Это путь к энергоэффективному и надёжному ИИ.
📑 Paper: *Beyond Turing: Memory-Amortized Inference as a Foundation for Cognitive Computation*
🔗 arxiv.org/abs/2508.14143
❤6👍4🔥4
📘 На Stepik вышел курс — «Prompt Engineering: искусство работы с ИИ»
Хотите научиться эффективно работать с ChatGPT и другими LLM? Этот курс покажет, как превращать идеи в точные промты и получать ответы именно в том формате, который нужен — будь то код, аналитика, тексты или автоматизация процессов.
• От простых запросов до сложных цепочек промтов
• Управление стилем, тоном и форматом ответа (JSON, код, таблицы)
• Автоматизация рабочих процессов без программирования
• Проверка и доработка ответов модели, минимизация ошибок и «галлюцинаций»
• Реальные кейсы: маркетинг, образование, IT, менеджмент
• Практика на каждом шаге + задания в доступной форме
🎓 Сертификат по завершении — добавьте его в резюме или LinkedIn
🚀 Освойте одну из самых востребованных профессий будущего — промт-инженера. Начните уже сегодня и получите скидку 25% в течение 48 часов
👉 Пройти курс на Stepik
Реклама. Крупчатников М.С. ИНН 344412054704.
Хотите научиться эффективно работать с ChatGPT и другими LLM? Этот курс покажет, как превращать идеи в точные промты и получать ответы именно в том формате, который нужен — будь то код, аналитика, тексты или автоматизация процессов.
• От простых запросов до сложных цепочек промтов
• Управление стилем, тоном и форматом ответа (JSON, код, таблицы)
• Автоматизация рабочих процессов без программирования
• Проверка и доработка ответов модели, минимизация ошибок и «галлюцинаций»
• Реальные кейсы: маркетинг, образование, IT, менеджмент
• Практика на каждом шаге + задания в доступной форме
🎓 Сертификат по завершении — добавьте его в резюме или LinkedIn
🚀 Освойте одну из самых востребованных профессий будущего — промт-инженера. Начните уже сегодня и получите скидку 25% в течение 48 часов
👉 Пройти курс на Stepik
Реклама. Крупчатников М.С. ИНН 344412054704.
🤣7❤5