🗂Что интересного почитать на архиве?

Собрали свежие статьи про AI и LLM, которые точно будут полезны для DS-ов и не только:

1️⃣JustGRPO is an ICML 2026 Outstanding Paper (The Flexibility Trap: Rethinking the Value of Arbitrary Order in Diffusion Language Models) by Tsinghua-LeapLab that applies standard Group Relative Policy Optimization (GRPO) to diffusion large language models (dLLMs) using strict left-to-right autoregressive (AR) ordering during training

Это одна из самых обсуждаемых работ в области dLLM за последние месяцы. Получение Outstanding Paper на ICML автоматически обеспечивает высокое цитирование и внимание сообщества.

2️⃣World Action Models: The Next Frontier in Embodied AI 

Обзорная работа, которая вводит и систематизирует понятие World Action Models (WAM). Это «карта» нового направления. Она объясняет, почему WAM считаются следующим шагом для embodied AI.

3️⃣SAGE: Mitigating Long-Horizon Reasoning Biases via Topological Guidance 

Работа от исследователей предлагает метод для объяснения и исправления отклонений в длинных цепочках рассуждений LLM. Вообще, тема длинных рассуждений крайне актуальна. Принятие на NeurIPS 2026 гарантирует внимание, а метод обещает значительное улучшение прохождения сложных задач.

📌Подборка полезных материалов про ML System Design - ч.1

Недавно наш Data Scientist Владимир Фуфаев выступил с лекцией для студентов НИУ ВШЭ. Рассказал об этапах разработки ML-проектов (ML System Design) с фокусом на работу с данными.

Интересный факт — продвинутые модели могут улавливать и усиливать ошибки в данных. Однако при грамотном подходе модели могут сами помогать компенсировать недостатки данных.

Собрали книги, которые помогут глубже разобраться в ML System Design.

Сохраняй себе и делись с коллегами:

🔹Чип Хьюэн — «Проектирование систем машинного обучения»

Книга — мост между академическим ML и реальной разработкой. Она дает представление о полном жизненном цикле ML-системы: от формирования данных и выбора метрик до деплоя — и подтверждает теорию примерами из индустрии.

🔹Али Аминиан, Алекс Сюй — «System Design. Машинное обучение. Подготовка к сложному интервью»

Практичный тренажёр по проектированию систем машинного обучения, построенный вокруг 11 отобранных кейсов. Авторы методично проводят читателя по ключевым этапам, таким как подготовка данных, проектирование архитектуры, выбор метрик — в итоге складывается прочный структурированный каркас системного мышления.

🔹 Валерий Бабушкин, Арсений Кравченко — «Машинное обучение. Проектирование систем от идеи до реализации»

По духу это скорее наставничество, чем учебник. Книга ориентирована на читателей, уже обладающих некоторым опытом в программировании и ML и отличается высоким уровнем абстракции. Цель авторов — показать, как довести проект до реализации, передать опыт стратегического планирования и защиты проектов.

А в следующем посте поделимся подборкой свежих исследований по неожиданному поведению моделей и влиянию данных на итоговый результат.

📌Подборка полезных материалов про ML System Design - ч.2

Во второй части подборки собрали актуальные статьи, которые иллюстрируют неожиданное поведение моделей и влияние данных на итоговый результат:

🔹 2021 Nature — AI for radiographic COVID-19 detection selects shortcuts over signal

Эталонная работа о том, как ML-модель может «выглядеть умной», не решая задачу. Анализируя системы детекции COVID-19, авторы показали: модели научились делать выводы на основе побочных закономерностей датасетов — в каком госпитале сделан снимок, на каком аппарате, как сильно обработано изображение.

🔹 2025 ArXiv — Weird Generalization and Inductive Backdoors: New Ways to Corrupt LLMs

Авторы демонстрируют «странное обобщение»: дообучение на узком, внешне безобидном датасете меняет поведение модели в широких, никак не связанных с ним контекстах. Более того — модель может выучить и триггер, и вредоносное поведение, ни разу не встретив ни того, ни другого в данных.

🔹 2026 ArXiv — AI Finds A Way

Модели регулярно находят неожиданные решения и обходят правила игры. Авторы собирают базу кейсов и предлагают рабочий критерий: граница между «креативным суперчеловеческим решением» и «патологическим reward hacking» зависит от невысказанного замысла исследователя — одно и то же поведение постфактум становится эксплойтом или открытием. Главная практическая мысль для разработчиков: непредсказуемое поведение — не редкий сбой, а штатное свойство достаточно мощной системы, и проектировать надо с расчётом на него, а не на идеальное следование здравому смыслу и спецификации.

⚡Кстати, в следующем посте тебя ждет розыгрыш книги Валерия Бабушкина «Машинное обучение. Проектирование систем от идеи до реализации» — не пропусти!