DevOps MemOps
5.81K subscribers
2.61K photos
467 videos
15 files
4.13K links
Всё о DevOps

Для связи - @raz_raz
Заказать рекламу через биржу: https://telega.in/c/devops_memops
Download Telegram
Построение CI/CD-фреймворка MLOps уровня Enterprise (MLflow + Kubeflow)

Разработка MLOps-фреймворка в масштабах предприятия — непростая задача. Она требует интеграции множества компонентов: обработки данных, экспериментов, мониторинга и CI/CD. В этом посте рассказывается, как объединить MLflow, Kubeflow, Seldon Core, GitHub Actions и другие инструменты для построения полноценного MLOps-пайплайна.

Архитектура

Архитектура построена на:

- MLflow — для логирования и управления экспериментами
- Kubeflow Pipelines — для оркестрации пайплайнов
- Seldon Core — для деплоя моделей в Kubernetes
- MinIO — объектное хранилище для артефактов
- GitHub Actions — для CI/CD
- Prometheus + Grafana — мониторинг моделей

Компоненты развернуты в Kubernetes-кластере с использованием Helm.

Поток разработки

1. Подготовка данных — скрипты ETL обрабатывают сырые данные и сохраняют в MinIO.
2. Обучение модели — тренинг происходит в Kubeflow, результаты логируются в MLflow.
3. Тестирование и валидация — автоматизированные проверки модели.
4. CI/CD — GitHub Actions запускает пайплайны при изменении кода или модели.
5. Деплой — модель деплоится через Seldon Core, становится доступной по REST/gRPC.
6. Мониторинг — метрики поступают в Prometheus и отображаются в Grafana.

Преимущества подхода

- Реплицируемость и трассировка экспериментов
- Централизованное хранилище артефактов
- Автоматизация развёртывания моделей
- Мониторинг производительности и дрифта

Заключение

Такой фреймворк обеспечивает устойчивую MLOps-инфраструктуру, подходящую как для небольших команд, так и для крупных корпораций. Он позволяет быстрее и безопаснее доставлять ML-модели в продакшен.


📌 Подробнее: https://rkmaven.medium.com/building-an-enterprise-level-mlops-ci-cd-framework-mlflow-kubeflow-fb1cdd1f74fc

MemOps 🤨
Please open Telegram to view this post
VIEW IN TELEGRAM
👍2
MemOps 😃
Please open Telegram to view this post
VIEW IN TELEGRAM
😁20
🛡 Прод под защитой или вы просто везунчики?

Проверь DevSecOps-зрелость вашей команды.
Многие команды уверены, что внедрили безопасность, если у них в пайплайне «крутится какой-то сканер». Но DevSecOps — это не набор инструментов, а работающий процесс, который не дает уязвимостям доползти до продакшена.

На каком уровне ваша команда на самом деле?
Пройди короткий тест из 5 вопросов в нашем боте.

🔥 Что ты получишь после теста: В награду за инвестицию твоих 2 минут мы пришлем два артефакта, которые помогут «сложить картинку в голове»:

🟣 DevSecOps: Базовый чек-лист для команды — чтобы провести внутренний аудит и найти «дыры».
🟣Карту зрелости DevSecOps — инструмент глубокой диагностики, чтобы понять, какие зоны нужно усилить в первую очередь и как обосновать это бизнесу.

Узнайте свой реальный грейд и заберите пошаговый план защиты инфраструктуры.

▶️ Пройти тест и забрать подарки
🐳 Docker Hardened Images (DHI) теперь бесплатны

Docker объявил о бесплатном доступе к более 1000 образов, включая Alpine, Debian, базы данных и среды выполнения.

Это снижает линию безопасности: ниже этой линии уязвимости управляются Docker, выше — вашей командой. Когда сканер находит проблему в слое DHI, это не требует действий от вас. Всё, что выше базового образа, остаётся вашей зоной ответственности.

DHI защищает не только от CVE. Community-образы несут риски компрометации учётных записей, вредоносных инъекций через перезапись тегов. DHI создаются из контролируемого namespace с процессами проверки, что изолирует от целого класса атак.


📌 Подробнее: https://www.docker.com/blog/hardened-images-free-now-what/

MemOps 🤨
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3
MemOps 😃
Please open Telegram to view this post
VIEW IN TELEGRAM
💯18😁9
helm-unittest

Модульное тестирование Helm-чартов в YAML для обеспечения единообразия и надежности чартов


📌 Подробнее: https://github.com/helm-unittest/helm-unittest

MemOps 🤨
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
😁3
You probably don't need Oh My Zsh

Oh My Zsh по-прежнему часто рекомендуют. Основная проблема Oh My Zsh в том, что он добавляет много ненужного кода, что влияет на время запуска оболочки. Поскольку Oh My Zsh написан на языке shell-скриптов, каждый раз, когда вы открываете новую вкладку в терминале, ему приходится интерпретировать все эти скрипты. Скорее всего, Oh My Zsh вам вообще не нужен.


📌 Подробнее: https://rushter.com/blog/zsh-shell

MemOps 🤨
Please open Telegram to view this post
VIEW IN TELEGRAM
MemOps 😃
Please open Telegram to view this post
VIEW IN TELEGRAM
😁9