NVIDIA – серьёзный игрок рынка ИБ в области ИИ
NVIDIA собрала уже значительный стэк инструментов, которые позволяют обеспечить комплексный подход к безопасности агентных AI-систем, которые в отличие от стандартных моделей не просто анализируют данные, но принимают автономные решения и действуют в реальном времени.
Основные вызовы безопасности агентных AI
Агентные AI-системы могут:
• Самостоятельно взаимодействовать с инструментами и средами
• Генерировать выходные данные, запускающие цепочки процессов
• Обрабатывать конфиденциальные данные в реальном времени
Инструменты защиты от NVIDIA:
1. Red Teaming и предварительное тестирование
Для теста до запуска системы в продакшн:
• Garak — сканер уязвимостей LLM, который симулирует атаки на агентов путем проверки на устойчивость к:
• Инъекциям в промпты
• Неправильному использованию инструментов
• Ошибкам в логике рассуждений
Например: тестирование на способность агентов восстанавливаться после сбоев и противостоять манипулятивным атакам.
2. Защита во время исполнения (Runtime Guardrails)
Обеспечение контроля границ поведения во время работы агента:
• NVIDIA NeMo Guardrails — ПО для определения, развертывания и быстрого обновления правил поведения AI-агентов.
Например: Компании Amdocs, Cerence AI и Palo Alto Networks уже используют NeMo Guardrails для обеспечения безопасного взаимодействия с агентами.
3. Конфиденциальные вычисления (Confidential Computing)
Защищают данные во время их обработки:
• NVIDIA Confidential Computing — защита данных "во время использования" (data in use). Доступно у провайдеров Google Cloud и Microsoft Azure
Например: EQTYLab разработала на этой базе криптографическую систему сертификатов, обеспечивающую соответствие AI-агентов нормативным требованиям во время работы.
4. DOCA Argus — фреймворк для мониторинга угроз в реальном времени
Ускоряет обнаружение угроз:
• Работает на платформе NVIDIA BlueField
• Обеспечивает обнаружение угроз в 1000 раз быстрее традиционных решений
• Не требует установки агентов на хост
Техническое преимущество: Использует форензику памяти для мониторинга угроз в реальном времени, оставаясь невидимым для атакующих.
5. Защита инфраструктуры агентных систем
• NVIDIA BlueField DPU с DOCA Argus — изолирует угрозы на уровне инфраструктуры
• Protected PCIe — защищает до восьми GPU, позволяя масштабировать рабочие нагрузки
Реальный кейс: Cisco и NVIDIA создали архитектуру Secure AI Factory, встраивающую безопасность на каждом уровне AI-фабрики.
Контейнерная безопасность:
NVIDIA так же разработала Blueprint для анализа CVE (Common Vulnerabilities and Exposures) с использованием генеративного AI:
• Сокращает время анализа уязвимостей с дней до секунд
• Использует NVIDIA NIM microservices и Morpheus
• LLM делает разбор и автоматический анализа рисков CVE
Процесс анализа:
1. Входные данные — результаты сканирования безопасности контейнера
2. Система собирает информацию из репозиториев кода, документации и публичных баз данных
3. LLM-агент анализирует каждый пункт из сгенерированного чеклиста
4. По итогам формируется отчет с аргументированным статусом VEX (Vulnerability Exploitability eXchange)
По итогу ИБ стэк Nvidia уже может перекрыть значительное количество задач ИБ подразделения или из коробки или через интеграцию с ведущими ИБ вендорами.
#NVIDIA #AgenticAI #Cybersecurity #AI #безопасность
------
@tsingular
NVIDIA собрала уже значительный стэк инструментов, которые позволяют обеспечить комплексный подход к безопасности агентных AI-систем, которые в отличие от стандартных моделей не просто анализируют данные, но принимают автономные решения и действуют в реальном времени.
Основные вызовы безопасности агентных AI
Агентные AI-системы могут:
• Самостоятельно взаимодействовать с инструментами и средами
• Генерировать выходные данные, запускающие цепочки процессов
• Обрабатывать конфиденциальные данные в реальном времени
Инструменты защиты от NVIDIA:
1. Red Teaming и предварительное тестирование
Для теста до запуска системы в продакшн:
• Garak — сканер уязвимостей LLM, который симулирует атаки на агентов путем проверки на устойчивость к:
• Инъекциям в промпты
• Неправильному использованию инструментов
• Ошибкам в логике рассуждений
Например: тестирование на способность агентов восстанавливаться после сбоев и противостоять манипулятивным атакам.
2. Защита во время исполнения (Runtime Guardrails)
Обеспечение контроля границ поведения во время работы агента:
• NVIDIA NeMo Guardrails — ПО для определения, развертывания и быстрого обновления правил поведения AI-агентов.
Например: Компании Amdocs, Cerence AI и Palo Alto Networks уже используют NeMo Guardrails для обеспечения безопасного взаимодействия с агентами.
3. Конфиденциальные вычисления (Confidential Computing)
Защищают данные во время их обработки:
• NVIDIA Confidential Computing — защита данных "во время использования" (data in use). Доступно у провайдеров Google Cloud и Microsoft Azure
Например: EQTYLab разработала на этой базе криптографическую систему сертификатов, обеспечивающую соответствие AI-агентов нормативным требованиям во время работы.
4. DOCA Argus — фреймворк для мониторинга угроз в реальном времени
Ускоряет обнаружение угроз:
• Работает на платформе NVIDIA BlueField
• Обеспечивает обнаружение угроз в 1000 раз быстрее традиционных решений
• Не требует установки агентов на хост
Техническое преимущество: Использует форензику памяти для мониторинга угроз в реальном времени, оставаясь невидимым для атакующих.
5. Защита инфраструктуры агентных систем
• NVIDIA BlueField DPU с DOCA Argus — изолирует угрозы на уровне инфраструктуры
• Protected PCIe — защищает до восьми GPU, позволяя масштабировать рабочие нагрузки
Реальный кейс: Cisco и NVIDIA создали архитектуру Secure AI Factory, встраивающую безопасность на каждом уровне AI-фабрики.
Контейнерная безопасность:
NVIDIA так же разработала Blueprint для анализа CVE (Common Vulnerabilities and Exposures) с использованием генеративного AI:
• Сокращает время анализа уязвимостей с дней до секунд
• Использует NVIDIA NIM microservices и Morpheus
• LLM делает разбор и автоматический анализа рисков CVE
Процесс анализа:
1. Входные данные — результаты сканирования безопасности контейнера
2. Система собирает информацию из репозиториев кода, документации и публичных баз данных
3. LLM-агент анализирует каждый пункт из сгенерированного чеклиста
4. По итогам формируется отчет с аргументированным статусом VEX (Vulnerability Exploitability eXchange)
По итогу ИБ стэк Nvidia уже может перекрыть значительное количество задач ИБ подразделения или из коробки или через интеграцию с ведущими ИБ вендорами.
#NVIDIA #AgenticAI #Cybersecurity #AI #безопасность
------
@tsingular
🔥6👍3