This media is not supported in your browser
VIEW IN TELEGRAM
Не знаю как вы, но я просто обожаю подобные анимированные изображения — в этот раз у нас шпаргалка по популярным сетевым протоколам.
Тот случай, когда сохраняешь себе не только потому, что полезно, а и потому, что КРАСИВО
@sysadmin1
Тот случай, когда сохраняешь себе не только потому, что полезно, а и потому, что КРАСИВО
@sysadmin1
👍7🎉4❤3
DevOps-инструмент недели: HAMi
Обычно Kubernetes-кластер выделяет целый GPU под одну рабочую нагрузку.
В результате часть ресурсов GPU простаивает.
HAMi решает эту проблему.
Это опенсорс middleware для Kubernetes, которое позволяет распределять, изолировать и планировать GPU и другие AI-ускорители между Pod’ами без изменений в коде приложения.
Что умеет HAMi:
- Делит один GPU на несколько частей по объёму памяти, количеству ядер или числу устройств
- Задаёт жёсткие лимиты памяти и вычислительных ресурсов для каждой рабочей нагрузки, чтобы один Pod не мог занять ресурсы другого
- Оптимально распределяет задачи по GPU: уплотняет их для экономии ресурсов или разносит по разным устройствам, чтобы избежать снижения производительности
- Управляет NVIDIA GPU, NPU, DCU, MLU и другими типами ускорителей через единый механизм планирования
- Позволяет запускать мультитенантные задачи обучения, инференса и среды с ноутбуками в общем пуле GPU
GitHub: https://github.com/Project-HAMi/HAMi
@sysadmin1
Обычно Kubernetes-кластер выделяет целый GPU под одну рабочую нагрузку.
В результате часть ресурсов GPU простаивает.
HAMi решает эту проблему.
Это опенсорс middleware для Kubernetes, которое позволяет распределять, изолировать и планировать GPU и другие AI-ускорители между Pod’ами без изменений в коде приложения.
Что умеет HAMi:
- Делит один GPU на несколько частей по объёму памяти, количеству ядер или числу устройств
- Задаёт жёсткие лимиты памяти и вычислительных ресурсов для каждой рабочей нагрузки, чтобы один Pod не мог занять ресурсы другого
- Оптимально распределяет задачи по GPU: уплотняет их для экономии ресурсов или разносит по разным устройствам, чтобы избежать снижения производительности
- Управляет NVIDIA GPU, NPU, DCU, MLU и другими типами ускорителей через единый механизм планирования
- Позволяет запускать мультитенантные задачи обучения, инференса и среды с ноутбуками в общем пуле GPU
GitHub: https://github.com/Project-HAMi/HAMi
@sysadmin1
🔥2🎉1