Genv: GPU-кластеризация для ИИ-разработки

Наткнулся на интересное решение от Run.ai,- Genv - открытую систему управления GPU-средами и кластерами.
Позволяет контролировать, настраивать и отслеживать ресурсы GPU на отдельных машинах или в кластерах.

Сделан по образцу pyenv и Conda и упрощает разворачивание multi-GPU систем.

Интересна тем, что позволяет на каждой железке в кластере поднять однотипный докер и дальше этот докер пробросить в свой оркестратор.
И, по-сути, вообще все-равно что у вас за зоопарк, - они все будет в этой системе вместе работать

Есть интеграция с Ollama, планируется интеграция с PyCharm.

Пробуем, штош.

#Genv #GPU #clustering
-------
@tsingular