Forwarded from OK ML
Инструмент недели. Metis
Metis - это опенсорс для автоматизированного анализа безопасности кода с использованием ИИ.🧘♀️ Проект назван в честь греческой богини мудрости и глубокого мышления.
😐 Metis - монолитный инструмент (не модная мультиагентная система), который работает по следующему алгоритму:
1️⃣ Tree-sitter для парсинга кода (поддерживаются, C++, Python, Rust, TypeScript, Terraform. Плагинная архитектура для поддержки различных языков программирования)
2️⃣ Индексирует код в векторную БД (ChromaDB (по умолчанию), PostgreSQL с pgvector, HNSW индексы для быстрого поиска)
3️⃣ Использует RAG для поиска контекста
4️⃣ Отправляет промпты в LLM
Возвращает структурированный отчет
Как Metis анализирует реальные уязвимости в Python коде? Пример из отчета
Command Injection (CWE-78) - Critical
Обнаруженная проблема:
Анализ Metis:
Когда использовать Metis
✔️ Отлично подходит для аудита критически важных систем
legacy-кода, глубокого code-review
И обучения команды secure coding (и лабы в универе поделать)
❌ И не лучший выбор для
огромных реп
#Metis #Arm #AppSec #SecurityEngineering #AIsecurity
#AIforSecurity #LLMSecurity #SAST #RAG #CodeSecurity
Все!
🔥
Metis - это опенсорс для автоматизированного анализа безопасности кода с использованием ИИ.
1️⃣ Tree-sitter для парсинга кода (поддерживаются, C++, Python, Rust, TypeScript, Terraform. Плагинная архитектура для поддержки различных языков программирования)
2️⃣ Индексирует код в векторную БД (ChromaDB (по умолчанию), PostgreSQL с pgvector, HNSW индексы для быстрого поиска)
3️⃣ Использует RAG для поиска контекста
4️⃣ Отправляет промпты в LLM
Возвращает структурированный отчет
Как Metis анализирует реальные уязвимости в Python коде? Пример из отчета
Command Injection (CWE-78) - Critical
Обнаруженная проблема:
def execute_command(user_input):
command = f"ls {user_input}"
os.system(command) # Dangerous!
Анализ Metis:
> "Функция строит shell-команду путем прямой интерполяции пользовательского ввода и передает ее в os.system. Злоумышленник может внедрить shell-метасимволы или дополнительные команды для выполнения произвольного кода с привилегиями процесса."
Предложенное решение:
- Использовать subprocess.run с массивом аргументов
- Валидировать входные данные
- Применять shlex.quote при необходимости
Когда использовать Metis
legacy-кода, глубокого code-review
И обучения команды secure coding (и лабы в универе поделать)
огромных реп
#Metis #Arm #AppSec #SecurityEngineering #AIsecurity
#AIforSecurity #LLMSecurity #SAST #RAG #CodeSecurity
Все!
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Заметки Шляпника
Classical Planning+ — это "умный планировщик" для ИИ-агентов в pentesting. Он берет логику классического планирования (как шахматный движок) и усиливает LLM, чтобы агент не тупил: четко знает, что делать дальше, не забывает разведку и не повторяется.
Зачем это интегрировать в проект
- LLM сами по себе хаотичны: сканируют порты → забывают результат → заново сканируют.
- Classical Planning+ фиксирует состояние (`port_open(80)`, `service(apache)`) и всегда знает допустимые шаги: nmap → Nuclei → Metasploit.
- Результат: +20% успеха, в 2 раза быстрее и дешевле на Vulhub.
Как внедрить (3 шага)
1. Определи домен атак (domain.pddl)
2. PEP-цикл в Python (основной loop)
3. Инструменты и LLM
- Planner: Fast-Downward или LLM-prompt с PDDL.
- Executor: Claude Sonnet 4.5 / o1 через API.
- Перцептор: GPT-4o-mini для парсинга
- Готовые действия: 1000+ Metasploit модулей, NSE-скрипты из CheckMate GitHub.
Быстрый старт
Плюсы для пентестера
- Автономность: Агент сам дойдет до root-shell без подсказок.
- Отладка: Видишь граф плана — где застрял, там и фикс.
- Масштаб: 10 целей параллельно, каждый со своим планом.
Стартуй с 5-10 действий (nmap, nuclei, msf modules), протести на Vulhub Docker. Потом добавляй свои скрипты — и у тебя есть AI-пентестер лучше human junior.
#ПентестИИ #AIsecurity #ai #PentestAI
Зачем это интегрировать в проект
- LLM сами по себе хаотичны: сканируют порты → забывают результат → заново сканируют.
- Classical Planning+ фиксирует состояние (`port_open(80)`, `service(apache)`) и всегда знает допустимые шаги: nmap → Nuclei → Metasploit.
- Результат: +20% успеха, в 2 раза быстрее и дешевле на Vulhub.
Как внедрить (3 шага)
1. Определи домен атак (domain.pddl)
# actions/domain.pddl
(:action nmap-scan
:parameters (?ip)
:precondition (target ?ip)
:effect (ports_discovered ?ip)) # недетерминировано
(:action msf-apache-cve
:parameters (?ip)
:precondition (and (ports_discovered ?ip) (service ?ip apache))
:effect (shell_access ?ip)) # цель!
2. PEP-цикл в Python (основной loop)
state = {"target": "10.0.0.1", "ports_discovered": False}
while not has_shell(state):
# Planner: выводит возможные действия
actions = classical_planner(state, domain)
# ['nmap-scan', 'nuclei-scan']
# Executor: LLM выполняет лучшее
next_action = llm_rank(actions) # "nmap-scan"
result = llm_executor(next_action, target_ip)
# Perceptor: парсит вывод в предикаты
state.update(llm_parse_result(result)) # {"ports_discovered": True}
3. Инструменты и LLM
- Planner: Fast-Downward или LLM-prompt с PDDL.
- Executor: Claude Sonnet 4.5 / o1 через API.
- Перцептор: GPT-4o-mini для парсинга
nmap -oX → предикаты.- Готовые действия: 1000+ Metasploit модулей, NSE-скрипты из CheckMate GitHub.
Быстрый старт
git clone https://github.com/SYSNET-LUMS/CheckMate
pip install llm-api pddl planner
# Добавь свои эксплойты в actions/
python main.py --target 10.0.0.1 --model claude-sonnet
Плюсы для пентестера
- Автономность: Агент сам дойдет до root-shell без подсказок.
- Отладка: Видишь граф плана — где застрял, там и фикс.
- Масштаб: 10 целей параллельно, каждый со своим планом.
Стартуй с 5-10 действий (nmap, nuclei, msf modules), протести на Vulhub Docker. Потом добавляй свои скрипты — и у тебя есть AI-пентестер лучше human junior.
#ПентестИИ #AIsecurity #ai #PentestAI
Cybersecurity Exchange
AI and Cybersecurity in Penetration Testing | EC-Council
Explore the intersection of AI and cybersecurity in penetration testing. Learn how ethical hacking protects digital assets and enhances security education.
Forwarded from AISecHub
AI Agent “Lethal Trifecta”
CSA’s research note summarizes an assessment of 100 production AI agents where most failed a baseline security benchmark; the practical risk is agents with real capabilities operating without matching guardrails, so routine evaluations should test end-to-end tool use and trust-boundary crossings.
#AgentSecurity #LLMSecurity #AISecurity #Report
https://labs.cloudsecurityalliance.org/research/csa-research-note-ai-agent-lethal-trifecta-capability-securi
CSA’s research note summarizes an assessment of 100 production AI agents where most failed a baseline security benchmark; the practical risk is agents with real capabilities operating without matching guardrails, so routine evaluations should test end-to-end tool use and trust-boundary crossings.
#AgentSecurity #LLMSecurity #AISecurity #Report
https://labs.cloudsecurityalliance.org/research/csa-research-note-ai-agent-lethal-trifecta-capability-securi
Lab Space
The AI Agent Lethal Trifecta
The AI Agent Lethal Trifecta Key Takeaways An independent assessment of 100 commercial and publicly available production AI agents (AI Risk Quadrant Q2 2026) found that only 11 percent pass a basel…