🤔 Разметка данных: строить свою команду или отдать на аутсорс?

Когда проект переходит от MVP к реальному масштабированию, встаёт классический вопрос из data-ада:

Как организовать разметку данных — собрать собственную команду или поручить всё внешним подрядчикам?

🏠 In-house команда разметки

Плюсы:
— Полный контроль над качеством и процессами.
— Можно адаптировать под особенности продукта и задачи.
— Гибкая коммуникация между разметчиками и ML-командой.

Минусы:
— Найм, обучение, менеджмент — отдельный мини-отдел.
— Медленный запуск.
— Отвлечение от основного фокуса команды.
— Требуются ресурсы и процессы, которых может не быть.

🌍 Аутсорс/вендоры

Плюсы:
— Быстрый старт.
— Нет нужды тратить время на найм и операционку.
— Масштабирование по требованию.

Минусы:
— Почти нет контроля над качеством.
— Слепая зона: сложно понять, что именно и как размечается.
— Часто дорого — особенно при специфичных или нестандартных данных.
— Есть риск получить датасет, который придётся потом переделывать вручную.

💬 Классический холивар: контроль и кастомизация против скорости и удобства. Что на практике оказалось менее болезненным?

👀 Интересны кейсы, где удалось построить гибридную модель или обойтись без выгорания всей команды.

Библиотека дата-сайентиста #междусобойчик

🆕 Свежие новости для дата‑сайентистов

🧠 AI-бизнес
— Windsurf распадается, топы уходят в Google — Google DeepMind наняла CEO Windsurf Варуна Мохана и ключевых инженеров после провала сделки OpenAI на $3 млрд.
— Apple серьёзно рассматривает покупку Mistral —покупка укрепит позиции Apple в генеративном ИИ.
— Mira Murati (экс-CTO OpenAI) привлекла $2B для Thinking Machines.

📈 Модели и исследования
— Kimi-K2 от Moonshot AI — триллион параметров, архитектура MoE, открытый код — и обгон GPT-4 в ключевых задачах.
— Gemini 2.5 – полный отчёт — новое поколение от Google: лучшее кодирование, мультимодальность, long-context reasoning.
— Gemini Embedding теперь в Vertex AI и Gemini API — единая модель эмбеддингов, превосходящая предыдущие версии.
— Voxtral от Mistral — открытые модели для распознавания и понимания речи.
— Marin от Stanford — первая полностью открытая модель, обученная на JAX.

🛠 Инфраструктура и инструменты
— NVIDIA cuda.cccl — упрощает создание быстрых GPU-алгоритмов в PyTorch.
— Veo 3 теперь доступен в Gemini API — генерация видео с озвучкой, музыкой и сценарием — по одному промпту.
— ChatGPT Agent — следующий шаг от OpenAI — виртуальный ассистент, выполняющий сложные задачи.

📚 Статьи и исследования
— LLM Daydreaming — почему LLM не «мечтают».
— Grok 4 от xAI: умный, но небезопасный.
— Context Rot — почему производительность LLM падает на длинных входах.
— Power Attention — новая реализация внимания.

👍 Опыт других
— Matrix Reloaded: зачем дата-сайентисту линейная алгебра.
— Деградация предсказаний модели: причины и методы анализа.
— MCP для новичков — про Model Context Protocol.
— Few-shot learning: основы и применения.
— BI: 5 трендов в сфере ИИ.
— ИИ на edge-устройствах — как уместить большие модели на малом железе.

Библиотека дата-сайентиста #свежак

🔥 Новый уровень CUDA в Python: знакомьтесь с `cuda.cccl`

Теперь не нужно писать кастомные CUDA-ядра или лезть в C++ — cuda.cccl позволяет собирать мощные алгоритмы на Python, используя CUB и Thrust под капотом.

Библиотека делится на:
✅ parallel — высокоуровневые, компонуемые алгоритмы над массивами и итераторами.
✅ cooperative — блок/варп-ориентированные примитивы для numba.cuda.

Почему быстрее:
✅ Никакой лишней памяти — итераторы вместо массивов.
✅ Один фьюзнутый kernel вместо четырёх.
✅ Минимум overhead'а от Python.

Кому пригодится:
✅ Тем, кто пишет кастомные алгоритмы над PyTorch или CuPy.
✅ Тем, кто хочет тонкий контроль над CUDA без C++.
✅ Тем, кто расширяет существующие библиотеки или разрабатывает свои.

Установка:

pip install cuda-cccl

👉 Подробнее: https://clc.to/4qFCRQ

Библиотека дата-сайентиста #свежак

👨‍💻 Топ-вакансий для дата-сайентистов за неделю

Senior ML Engineer (Voice Products) —‍ от 6 000 до 8 000 $, удалёнка

Data Scientist (Middle) —‍ до 180 000 ₽, удалёнка

Senior Data Engineer (FinTech) —‍ до 440 000 ₽, удалёнка

Senior Data Scientist, гибрид (Сербия)

Data Scientist (Data Monetization) —‍ от 350 000 ₽, удалёнка

Специалист поддержки ML —‍ от 250 000 до 320 000 ₽, удалёнка

➡️ Еще больше топовых вакансий — в нашем канале Data jobs

Библиотека дата-сайентиста

⚫️ 3 стратегии, которые реально улучшают детекцию аномалий

Многие алгоритмы обнаружения аномалий предполагают, что у вас нет разметки. Но в реальной жизни это не так — почти всегда есть хотя бы несколько размеченных примеров. Например, из прошлых расследований, или эксперт отметил вручную.

🔎 И вот в чём парадокс: большинство методик игнорируют эти ценные метки. А ведь даже пара штук — это уже ресурс.

В этом посте — три практические стратегии:

1️⃣ Настройка порога (threshold tuning)

Идея простая: если у вас есть хотя бы несколько размеченных аномалий — порог можно настраивать не на глаз, а по данным.

Для этого:
1. Обучите модель на обычных (нормальных) данных.
2. Выберите порог:
🔎 Если есть только нормальные примеры → возьмите максимум из них.
🔎 Если нет разметки → используйте 95-й или 99-й персентиль.
3. Посчитайте метрики на размеченных аномалиях:
🔎 Recall
🔎 Precision
🔎 Recall\@k (если смотрите только топ-k тревог)

Лайфхак:

Если у вас мало размеченных аномалий, метрики могут быть нестабильны. Используйте бутстрап, чтобы получить доверительный интервал и понять, насколько метрике можно доверять.

2️⃣ Выбор модели (model selection)

А как выбрать алгоритм, который вообще лучше работает с вашими аномалиями?

Используйте разметку для объективного сравнения моделей:
1. Обучите модель без аномалий.
2. Посчитайте персентиль каждого размеченного примера по скору. Если аномалия на 99-м персентиле — отлично.
3. Возьмите среднее значение всех таких персентилей. Чем выше — тем лучше модель видит ваши реальные аномалии.

Лайфхак:

Можно сравнивать не только алгоритмы (Isolation Forest vs GMM), но и гиперпараметры внутри одного метода.
А ещё — использовать это для построения ансамбля, выбрав в него только те модели, которые реально ловят ваши аномалии.

3️⃣ Супервизорный ансамбль (supervised ensembling)

Это уже активное использование разметки: вы строите мета-классификатор на основе выходов нескольких детекторов.

Для этого:
1. Обучаем разные детекторы (например, Isolation Forest, GMM, PCA).
2. Для каждого объекта собираем вектор из скоров этих моделей:

X_i = [iForest_score, GMM_score, PCA_score]

3. Используем размеченные аномалии как метки и обучаем классификатор (например, XGBoost).

На выходе получаем мета-модель, которая учится, как ведут себя аномалии в разных детекторах. Она совмещает их сильные стороны и делает вывод: аномалия это или нет.

Библиотека дата-сайентиста #буст

🔎 Kaggle запускает Benchmarks — открытую платформу для оценки AI-моделей

Сегодня Kaggle представил Kaggle Benchmarks — новую платформу, где можно тестировать AI-модели на ведущих академических бенчмарках бесплатно и без сложной настройки.

✅ Kaggle собрал более 70 академических бенчмарков от ведущих исследовательских лабораторий, включая код, данные и методики оценки, чтобы воспроизводить результаты независимо и прозрачно.

✅ Появилась возможность (пока в превью) создавать собственные бенчмарки и автоматически запускать их на популярных LLM-моделях. То есть можно тестировать свои модели или сравнивать чужие в один клик.

Вместе с релизом вышли два крупных бенчмарка:
— Meta Multiloko — масштабный мультиязычный бенчмарк от Meta.
— ICML 2025 Experts Benchmark — crowdsourced-набор задач от участников ICML, отражающий реальные вызовы, с которыми сталкиваются ML-исследователи.

🔗 Подробнее: https://clc.to/YpUQkA

Библиотека дата-сайентиста #свежак

✅ Declarative Data Infrastructure для мультимодальных AI-приложений

😩 Создание и поддержка продакшн AI-приложений, особенно мультимодальных, остаётся сложной задачей.

Нужно объединить множество инструментов:
— ETL-пайплайны для загрузки и преобразования данных
— Векторные базы для семантического поиска
— Feature store для ML-моделей
— Оркестраторы для планирования задач
— Инфраструктуру для запуска моделей
— Отдельные системы для параллелизации, кэширования, версионирования и отслеживания данных

Pixeltable — единственный Python-фреймворк, который обеспечивает инкрементальное хранение, трансформацию, индексацию и оркестрацию ваших мультимодальных данных.

Установка:

pip install pixeltable  

Pixeltable позволяет описать весь ваш data pipeline и AI workflow декларативно — через вычисляемые колонки в таблицах.

Движок автоматически обрабатывает:
✔️ Загрузку и хранение данных (файлы изображений, видео, аудио, документы)
✔️ Трансформации и обработку с помощью Python-функций и встроенных операций
✔️ Интеграцию AI-моделей (эмбеддинги, детекция объектов, LLM)
✔️ Индексацию и поиск — в том числе векторный семантический поиск
✔️ Инкрементальные вычисления: пересчитываются только изменённые части
✔️ Версионирование и отслеживание изменений для воспроизводимости

✅ Ссылка на документацию: https://clc.to/919J-A

Библиотека дата-сайентиста #буст