Understanding Machine Learning: From Theory to Algorithms — фундаментальная книга по математическим основам машинного обучения.

Внутри:

empirical risk minimization и переобучение
PAC learning и uniform convergence
VC dimension и No-Free-Lunch theorem
bias–complexity tradeoff
линейные модели, boosting и AdaBoost
выбор модели и валидация
выпуклая оптимизация, регуляризация и устойчивость

Книга вышла в Cambridge University Press и подойдёт тем, кто хочет разобраться в ML глубже уровня библиотек и готовых API.

Авторы разрешают скачать копию для личного использования, но просят не распространять прямую ссылку на PDF. На официальной странице кнопка Download находится в боковом меню:

http://cs.huji.ac.il/~shais/UnderstandingMachineLearning

Updated 2204-page PDF Mathematics ebook:

"Algebra, Topology, Differential Calculus, and Optimization Theory For Computer Science and Machine Learning"

Find it here: https://cis.upenn.edu/~jean/gbooks/geomath.html

Andrej Karpathy just dropped 12-page PDF on "Graph Engineering" for multi-agentic systems

the shift: Karpathy's loop runs 700 experiments and forgets all of them. A graph remembers forever

here's the full system:

step 1 → build one loop: generate, critique, revise. 630 lines, 700 experiments in 48 hours

step 2 → go parallel: agents in separate worktrees, same repo, different branches, no conflicts

step 3 → add a knowledge graph: extract entities, resolve aliases, assemble typed edges, query through subgraphs

step 4 → ground your evaluator: it checks claims against graph edges, not vibes

step 5 → plug the graph as shared memory. workers write to it. evaluators fact-check against it. Loops persist overnight

step 6 → the agent forgets. the graph does not. stop rebuilding context from scratch every session

Karpathy ran 1 agent in 1 direction. Anthropic's graph runs 1,000 with shared memory - same model, it's the architecture

https://drive.google.com/file/d/1-GOg0kxcp8tx1BMUECMj2yJq6JYGmfhb/view

"Patterns, Predictions, and Actions: A Story About Machine Learning"

📓 Read

@datascienceiot

Google gave AI consciousness and it aligned with human beliefs across every domain they tested. They took consciousness away and the model rejected them.

📓 Read

@datascienceiot

Today's AI systems learn mostly by passively absorbing data, but the brain builds intelligence in the reverse order.

Grounded world models in biological organisms and future embodied AI


📓 Read

@datascienceiot

Kimi Delta Attention.

— a minimal implementation of the Kimi K3 architecture.
http://k-a.in/KDA.html

From Worm to Human:
Scaling Brain Emulation


📓 Read

@datascienceiot

Title: "A Year in LLM Serving: Workload Evolution, Caching and Load-Balancing"

arxiv. org/abs/2608.13573

Бесплатная книга по performance engineering

В Algorithmica хорошо разобрали, почему классическая оценка сложности всё хуже отражает реальную производительность на современном железе.

Раньше модель была довольно логичной: процессор выполняет инструкции почти последовательно, у каждой есть своя стоимость, а значит можно примерно оценить время работы алгоритма количеством операций.

Потом всё упростили до асимптотики. Например, вместо точного количества операций в умножении матриц мы просто говорим O(n³) и игнорируем константы. Для сравнения алгоритмов на больших данных это удобно.

Но современные CPU устроены намного сложнее: кэши, конвейеры, параллельное выполнение инструкций, SIMD, prefetching, память с разной задержкой.

Поэтому два алгоритма с одинаковым O(n) могут отличаться по скорости в разы.

А иногда алгоритм с формально «хуже» сложностью на реальных размерах данных оказывается быстрее.

Хорошая серия для тех, кто хочет перейти от «у этого O(n), значит быстро» к пониманию того, как код реально выполняется процессором.

en.algorithmica.org/hpc/complexity/

@machinelearning_books

What Does Context Compression Cost an Agent? Interaction Costs Unrevealed by Task-Completion Metrics

5× context compression did surprisingly little to GPT-5.5’s final task result.

📓 Read

@datascienceiot

10 бесплатных книг по программированию, которые можно читать прямо с GitHub

1. The Rust Programming Language
https://github.com/rust-lang/book

2. Rust by Example
https://github.com/rust-lang/rust-by-example

3. The Little Book of Rust Books
https://github.com/lborb/book

4. Python Data Science Handbook
https://github.com/jakevdp/PythonDataScienceHandbook

5. Dive Into Deep Learning
https://github.com/d2l-ai/d2l-en

6. Probabilistic Machine Learning
https://github.com/probml/pml-book

7. Algorithms for Decision Making
https://github.com/algorithmsbooks/algforopt-notebooks

8. Operating Systems: Three Easy Pieces
https://github.com/remzi-arpacidusseau/ostep-homework

9. Crafting Interpreters
https://github.com/munificent/craftinginterpreters

10. Free Programming Books — огромная библиотека бесплатных книг по Python, Java, C++, Go, AI, SQL, Linux и десяткам других тем
https://github.com/EbookFoundation/free-programming-books

Последний репозиторий особенно полезен: там собрана огромная регулярно обновляемая база легально доступных книг и учебных материалов по программированию.

Mathematical Theory of Deep Learning:

333-page PDF.

📓 Read

@datascienceiot

Towards an AI-Augmented Textbook:


📓 Read

@datascienceiot

📚 Бесплатная книга по выпуклой оптимизации - 130 страниц

"Convex Optimization: Algorithms and Complexity" - хорошее введение в алгоритмы выпуклой оптимизации и их вычислительную сложность.

Внутри:

* градиентные методы
* ускоренные методы
* субградиентная оптимизация
* проксимальные алгоритмы
* first-order methods
* оценки скорости сходимости
* сложность оптимизационных алгоритмов

Полезно для ML, математики и тех, кто хочет глубже понять, что стоит за обучением моделей.

PDF:
https://arxiv.org/abs/1405.4980

Инженеры AI VK отказались от бустинга в финальном ранжировании рекомендаций и перешла на многозадачный нейроранкер DCDN.

Что изменилось:
• вместо одного score модель отдельно предсказывает лайк, дизлайк и Watch Time
• Learning to Rank объединяет эти сигналы в финальную оценку
• CTR и другие отношения сеть учит напрямую из сырых счётчиков - деление встроено в архитектуру
• ручного Feature Engineering стало заметно меньше

Read