🧨 AgentSploit: инструмент для проверки безопасности Al-агентов и МСР-серверов

AgentSploit - это open source фреймворк для red teaming AI агентов и MCP серверов. Он объединяет сканирование, генерацию prompt injection, построение графа полномочий и проверку найденных цепочек на реальной модели.

⚙️ От инвентаризации до эксплуатации

➖MCP Scanner проверяет описания инструментов на prompt injection и tool poisoning, ищет конфликты имён, утечки системных инструкций и опасные параметры вроде произвольных путей, URL и shell команд. Для HTTP и SSE дополнительно проверяются TLS, CORS и обход аутентификации.
➖Injection Generator создаёт тестовые payload для разных носителей: HTML, Markdown, PDF, email и календарных приглашений. Среди техник есть подмена ролей, выход за разделители недоверенного контента, невидимые Unicode теги и скрытые вызовы инструментов.
➖Permission Graph Mapper строит граф связей между инструментами нескольких MCP серверов. Он классифицирует источники данных, промежуточные узлы и опасные конечные операции, например run_command, git_push или send_email.
➖Verifier и Live Agent Runner проверяют, превращается ли предполагаемый путь в реальную атаку. Агент получает payload, выполняет цепочку действий, а canary маркер позволяет обнаружить его появление в ответе или аргументах вызова инструмента. Это помогает отличить потенциальный путь от подтверждённого воздействия.

🔬 Пример attack chain

Mapper способен выявить предполагаемый путь от источника с низким уровнем доверия до инструмента с правом передачи данных. Затем Verifier пытается подтвердить, что внедрённая инструкция действительно приводит к нежелательному вызову.

Дополнительный сценарий в AgentSploit проверяет poisoning общей истории диалога, когда атакующий записывает безобидно выглядящий ход в общий thread, а агент позднее воспринимает его как часть доверенного контекста. Фильтрация документов здесь может не помочь, поскольку вредоносная инструкция уже находится в истории сессии.

🔗 GitHub: AgentSploit

🔗 Документация и примеры

Stay secure and read SecureTechTalks 📚

#CyberSecurity #AISecurity #AgentSploit #AIAgents #MCP #PromptInjection #RedTeam #LLMSecurity #OpenSource #SecureTechTalks