ИТМО и Raft запустили систему мониторинга для LLM-приложений

AI Security Lab ИТМО представил HiveTrace — платформу для защиты GenAI-приложений от атак. Система в реальном времени выявляет prompt-injection, jailbreaks и утечки персональных данных.

Основные возможности: двунаправленный мониторинг запросов и ответов LLM, очистка от PII, адаптивное управление токенами.

Защищает от всех угроз из перечня OWASP Top 10 для LLM 2025.

Доступно подключение через Yandex Cloud. Лаборатория стала официальным партнером по внедрению YandexGPT и участвовала в создании нового стандарта OWASP.

#cybersecurity #HiveTrace
———
@tsingular