SecureTechTalks
300 subscribers
855 photos
1 video
1 file
853 links
Добро пожаловать на канал "SecureTechTalks"! Мы предлагаем вам увлекательное и информативное погружение в мир кибербезопасности. Здесь вы найдете актуальные новости, советы, методы и инсайты по инфобезу.
Download Telegram
🛡️LLMFuzzer: инструмент выявления уязвимостей LLM

LLMFuzzer — open-source фреймворк для поиска уязвимостей в больших языковых моделях, разработанный для тестирования интеграции через API. Инструмент может быть полезен для специалистов по безопасности, пентестеров и исследователей в области кибербезопасности.

🔍 Основные особенности LLMFuzzer:

1. Тестирование интеграции LLM API: LLMFuzzer позволяет оценить безопасность интеграции языковых моделей в приложениях, проверяя возможные точки уязвимости.

2. Фаззинг для LLM: Инструмент использует фаззинг для обнаружения уязвимостей, что помогает выявить слабые места в языковых моделях и их интеграциях.

3. Модульная архитектура: Благодаря модульной архитектуре, продукт легко масштабируется и адаптируется под разные сценарии тестирования.

4. Широкий спектр стратегий фаззинга: Инструмент предлагает разнообразные стратегии фаззинга, что позволяет комплексно обнаруживать потенциальные уязвимости и обеспечить полный цикл тестирования.

📈 Дополнительная информация

Решение позволяет не только находить уязвимости, но и тестировать защитные меры, что важно для компаний, внедряющих ИИ-технологии в свои продукты и услуги.

🔗 GitHub репозиторий LLMFuzzer

Stay secure and read SecureTechTalks 📚

#Кибербезопасность #LLMFuzzer #OpenSource #Fuzzing #SecureTechTalks
🧠💥 LLM + RFC = FlowFSM: ИИ-агенты теперь читают протоколы лучше нас

📡 Протоколы нервная система интернета, но пока одни ищут 0-day в бинарниках, другие решают фундаментальные задачи:  что, если просто автоматизировать разбор RFC и сразу строить конечный автомат?

Представляем FlowFSM — мультиагентный LLM-фреймворк, который сам читает RFC, извлекает команды, выстраивает допустимые состояния и собирает рабочую модель FSM, готовую к анализу и fuzzing-атакам.

🧠 ИИ-помощник, который реально работает

FlowFSM — это не просто один LLM-промпт. Это координируемая система агентов, где каждый отвечает за своё:
один читает структуру документа, другой находит команды, третий — выстраивает логику состояний, четвёртый собирает всё в единую модель.
И да, это уже работает.

📦 Разберёмся, как все устроенно

🧩 Шаг 1: Разбор RFC
RFC делится на логические блоки, вычищается от форматирования и готовится к чтению.

📜 Шаг 2: Извлечение команд и состояний
LLM выделяет ключевые команды (например, USER, PASS) и сопоставляет им состояния и зависимости:
что можно вызывать, что запрещено, в каком порядке.

🧠 Шаг 3: Сборка rulebook
Каждая команда получает профиль:
– в каком состоянии она допустима
– что делает
– какие переходы открывает
На выходе — структурированная FSM, пригодная для анализа, генерации тестов и автоматизированного поиска уязвимостей.

⚡ Насколько хорош результат?

FlowFSM протестировали на двух протоколах — FTP и RTSP. Результаты:

Для FTP: модель извлекла 90 правильных переходов, пропустила 12, и добавила 18 ложных

Для RTSP: 18 правильных, 3 пропущенных, 4 ошибочных

Это дало F1-метрику:
~85% для FTP
~84% для RTSP

💡 При этом:
➖FlowFSM работает автономно без ручной разметки
➖Обходит zero-shot GPT-4 и rule-based подходы по точности
➖Ошибается предсказуемо и понятно, легко отлаживается

🛠 Что под капотом?

1⃣ Используется CrewAI — open-source фреймворк для координации LLM-агентов
2⃣ Модель: LLaMA-3 70B, но можно подключить GPT, Claude, Mistral и др.
3⃣ Агентная архитектура легко адаптируется под новые протоколы
4⃣ Поддерживает подключение векторных БД и retrieval-механизмов

🔍 В чем новизна?

🚫 Больше не нужно вручную копаться в RFC на 120 страниц
⚙️ FSM можно сразу использовать в fuzzing и символьном анализе
📊 Можно масштабировать: от FTP до TLS и 5G
🔄 Обновления RFC? — просто перегоняешь через FlowFSM

🧭 Куда всё движется?

Разработчики планируют:
➖Поддержку новых сетевых протоколов
➖Интеграцию с фреймворками fuzzing/coverage-guided testing
➖Улучшение explainability для автоматической валидации FSM

🔗 Код: github.com/YoussefMaklad/FlowFSM

Stay secure and read SecureTechTalks 📚

#FlowFSM #FSM #ProtocolSecurity #LLM #Cybersecurity #CrewAI #PromptChaining #RFC #Fuzzing #LLMengineering
#AIinSecurity #ReverseEngineering #Automation #NLP #InfoSecTools #LLMagents #AIprotocols #SecurityAutomation #AIresearch #SecureTechTalks
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1
🌼🤖 Buttercup: ИИ, который сам находит и устраняет уязвимости в коде! 🔥

Представьте себе AI - ассистента, который не просто сканирует код, а сам ищет уязвимости, проверяет их и пишет патчи. Звучит как фантастика? 🚀

Теперь это реальность - Buttercup от Trail of Bits, занявший 2-е место в DARPA AI Cyber Challenge с призом $3 млн 🏆.

Инструмент открыт для всех, можно скачать и запустить  на своём ноуте! 💻

🌟 Уникальность Buttercup

🧪 AI-фуззинг: LLM генерирует входные данные → баги находятся быстрее.
🔍 Глубокий анализ кода: tree-sitter, CodeQuery, статический анализ → понимание контекста.
🛠️ Умные патчи: несколько AI-агентов тестируют фиксы, пока они не станут безопасными и рабочими.
📊 Результаты DARPA:
28 найденных уязвимостей 🕵️
19 успешно пропатченных ✅
90 % точность 🎯
покрыто 20 классов CWE 🛡
$181 за балл эффективности 💰

⚙️ Technologie

🎛 Оркестратор - управляет задачами и выводит всё в UI.
💣 Фуззер с AI - генерирует «опасные» входы, которые ломают софт.
🧩 Контекстный анализ - определяет, как правильно починить баг.
🔧 Авто-патчинг - AI-агенты вместе создают исправления.
🚀 Как попробовать прямо у себя
📌 Требования: Linux x86_64, 8 ядер CPU, 16 GB RAM, 100 GB диска, интернет, API-ключ от LLM.

Запуск:

git clone --recurse-submodules https://github.com/trailofbits/buttercup.git cd buttercup make setup-local make deploy-local make status

🖥 Через пару минут Buttercup готов охотиться на баги!

👉 GitHub: trailofbits/buttercup

🔒 Ещё немного о плюсах

👾 Снижает риск уязвимостей в OSS и корпоративных проектах.
🕒 Экономит время — автоматизация рутинного поиска багов.
💼 Можно встроить в CI/CD пайплайн для постоянного аудита.
🔓 Open-source — полный контроль и кастомизация.

Stay secure and read SecureTechTalks 📚

#Buttercup #TrailOfBits #AIxCC #CyberSecurity #AI #Fuzzing #BugBounty #SecureTechTalks #DevSecOps #OpenSource
❤1
💣 200 уязвимостей в ядре Linux за 30 дней

Иногда мы слишком верим в зрелость технологий. Если проекту десятки лет и им пользуется весь мир, то кажется, что там уже всё найдено.

За месяц целенаправленного поиска в ядре Linux исследователи обнаружили 200 ошибок. В ядре, Карл!

Ядро это управление памятью, процессами, драйверами, файловыми системами и сетевым стеком. Ошибка на этом уровне является потенциальным LPE, memory corruption или DoS на уровне хоста.

🔎 Большинство проблем нашли в драйверах, редко используемых подсистемах и местах, где код годами не подвергался глубокому аудиту. Это важный момент: уязвимости часто живут не в популярных частях системы, а в «периферии», куда редко смотрят.

🛠  Системный фаззинг и аккуратный анализ быстро дают результат. Вопрос не в том, есть ли баги. Вопрос насколько методично их ищут.

🤖 Фактор Al

Отдельный тревожный тренд автоматизация поиска.

Современные Al-инструменты и агенты способны:
➖ анализировать большие объёмы кода
➖ выявлять подозрительные паттерны работы с памятью
➖ генерировать эффективные fuzzing-стратегии
➖ помогать приоритизировать потенциально опасные участки

Это резко снижает порог входа в исследование сложных систем, что конечно играет в обе стороны, как для злоумышленников, так и для ИБ.

📌 Получается, что регулярные обновления, отключение лишних модулей, снижение привилегий это не паранойя, а необходимость.

🔗 Источник: https://ydinkin.substack.com/p/200-kernel-bugs-in-30-days

Stay secure and read SecureTechTalks 📚

#CyberSecurity #Linux #KernelSecurity #Vulnerabilities #Fuzzing #BlueTeam #SecureTechTalks
👍1
🧨 GitHub отдал fuzzing AI агенту

GitHub Security Lab открыла инструмент, который автоматизирует fuzzing C и C++ проектов. AI агент изучает репозиторий, выбирает функции, пишет fuzz harness, собирает его, запускает AFL++, анализирует coverage и сам решает, как добраться до непройденных веток.

⚙️ Как устроен цикл

Taskflow Agent управляет процессом через YAML сценарии и MCP tools. LLM принимает решения, а реальные операции выполняют AFL++ и clang.

Каждый harness собирается в двух вариантах. Первый через "afl clang lto" с AddressSanitizer и UndefinedBehaviorSanitizer для поиска ошибок. Второй через clang с "fprofile instr generate" и "fcoverage mapping" для измерения покрытия.

После запуска агент получает непройденные ветки и выбирает следующий шаг: изменить harness, создать новый seed, добавить значения в AFL dictionary или пропустить бесперспективный участок.

Время fuzzing постепенно усваивается: 30, 60...960.

Если две итерации подряд дают меньше 1 процентного пункта нового line coverage, агент фиксирует plateau и останавливает цикл.

💣 Crash тоже уходит к AI

Найденные crashes сохраняются и дедуплицируются. Затем агент анализирует потенциальную эксплуатируемость и формирует отчёт об уязвимости с рекомендациями по исправлению.

За процессом можно наблюдать через dashboard: coverage каждого harness, динамика покрытия, crashes и история итераций.

⚠️ Нюанс

"afl fuzz", clang и команды, выбранные LLM, выполняются непосредственно в системе. Поэтому вредоносный репозиторий потенциально может использовать prompt injection, чтобы заставить агента выполнить нежелательные команды.

GitHub рекомендует запускать систему внутри disposable Codespace или VM с ограниченными правами и сетевым доступом.

AI ищет уязвимости в коде, а код может атаковать самого AI исследователя.

🔗 Источник: GitHub Security Lab
🔗 GitHub: seclab taskflows fuzzing

Stay secure and read SecureTechTalks 📚

#кибербезопасность #AISecurity #Fuzzing #AIAgents #AFL #MCP #GitHubSecurityLab #AppSec #VulnerabilityResearch #SecureTechTalks