Рубрика - управление железом.
Давным-давно, во времена Doom2 и DOS пользовались мы RAMdrive утилитами, размещая игру в диске в оперативке, чтобы, значит, загружалась она не 3 минуты, а 30 секунд.
И тут прям флэшбэк:
В общем, представьте, что у вас есть 1 видеокарта и 2-3 модели ИИ (текст, картинка и звук, допустим) и вам их нужно быстро переключать.
Решение "в лоб", - это загрузка с диска, но даже самый быстрый SSD вам даст, скажем, 10гигов в секунду на чтение, а модели у вас 20гигов (да, мало, но видеокарта, допустим больше не поместит за раз)
Получается, что на смену "обоймы" вам нужно около 3х секунд, что невероятно долго для пользователя.
Решение - разместить модели на виртуальном диске в оперативке.
Она-то явно быстрее, чем любой ССД.
Так вот, - Клод за 10 минут накидал 250 строк скрипта, который создаёт такой диск и сразу сервис под него, который пересоздает его при перезагрузке.
Оставлю в комментариях.
#RAMdrive #devops #linux
———
#tsingular
Давным-давно, во времена Doom2 и DOS пользовались мы RAMdrive утилитами, размещая игру в диске в оперативке, чтобы, значит, загружалась она не 3 минуты, а 30 секунд.
И тут прям флэшбэк:
В общем, представьте, что у вас есть 1 видеокарта и 2-3 модели ИИ (текст, картинка и звук, допустим) и вам их нужно быстро переключать.
Решение "в лоб", - это загрузка с диска, но даже самый быстрый SSD вам даст, скажем, 10гигов в секунду на чтение, а модели у вас 20гигов (да, мало, но видеокарта, допустим больше не поместит за раз)
Получается, что на смену "обоймы" вам нужно около 3х секунд, что невероятно долго для пользователя.
Решение - разместить модели на виртуальном диске в оперативке.
Она-то явно быстрее, чем любой ССД.
Так вот, - Клод за 10 минут накидал 250 строк скрипта, который создаёт такой диск и сразу сервис под него, который пересоздает его при перезагрузке.
Оставлю в комментариях.
#RAMdrive #devops #linux
———
#tsingular
👏11👍1🔥1
Amazon Q Developer научился генерировать и тестировать код в реальном времени
AWS запустила крупное обновление Amazon Q Developer.
Сервис получил систему автоматического тестирования генерируемого программного кода в защищенной среде.
Функционал включает выявление ошибок, синхронизацию с проектом и до трех попыток автоматического исправления.
Devfile настраивает изолированную песочницу для безопасного исполнения.
Система анализирует существующую кодовую базу и предлагает улучшения на основе результатов тестов.
Среда выполнения контролируется через конфигурацию без доступа к закрытым ресурсам.
Сегодня день релизов :)
#Amazon #AWS #DevOps
-------
@tsingular
AWS запустила крупное обновление Amazon Q Developer.
Сервис получил систему автоматического тестирования генерируемого программного кода в защищенной среде.
Функционал включает выявление ошибок, синхронизацию с проектом и до трех попыток автоматического исправления.
Devfile настраивает изолированную песочницу для безопасного исполнения.
Система анализирует существующую кодовую базу и предлагает улучшения на основе результатов тестов.
Среда выполнения контролируется через конфигурацию без доступа к закрытым ресурсам.
Сегодня день релизов :)
#Amazon #AWS #DevOps
-------
@tsingular
👏5🔥3
Amazon Q Developer и MCP автоматизируют создание Deep Learning контейнеров
AWS представил интеграцию Amazon Q Developer с Model Context Protocol для упрощения работы с Deep Learning Containers.
Теперь создание и кастомизация контейнеров происходит через естественный диалог вместо сложных команд. Разработчики могут просто сказать "запусти PyTorch контейнер для обучения" — и система автоматически подберёт образ, настроит окружение и запустит тестирование.
В демо примере разобрана интеграция NeMo toolkit и DeepSeek модели через диалоговый интерфейс за минуты через MCP сервер с 6ю тулами для управления контейнерами.
AWS пишет об экономии времени по управлению инфраструктурой на 40% при использовании ИИ-инструментов.
DevOps-инженеры теперь могут поболтать с контейнерами как с коллегой.
#AmazonQ #MCP #DevOps #примеры #AWS #обучение
------
@tsingular
AWS представил интеграцию Amazon Q Developer с Model Context Protocol для упрощения работы с Deep Learning Containers.
Теперь создание и кастомизация контейнеров происходит через естественный диалог вместо сложных команд. Разработчики могут просто сказать "запусти PyTorch контейнер для обучения" — и система автоматически подберёт образ, настроит окружение и запустит тестирование.
В демо примере разобрана интеграция NeMo toolkit и DeepSeek модели через диалоговый интерфейс за минуты через MCP сервер с 6ю тулами для управления контейнерами.
AWS пишет об экономии времени по управлению инфраструктурой на 40% при использовании ИИ-инструментов.
DevOps-инженеры теперь могут поболтать с контейнерами как с коллегой.
#AmazonQ #MCP #DevOps #примеры #AWS #обучение
------
@tsingular
✍2⚡1