🔥 Multi-Agent Reinforcement Learning — вот будущее кибербезопасности! 🤖🛡️
Современные кибератаки — это не просто одиночные взломы. Это координированные, динамичные атаки, которые требуют не менее умной защиты. Multi-Agent Reinforcement Learning (MARL) — обучаемый коллектив ИИ-агентов, который способен отбиваться от самых продвинутых угроз!
📈 MARL — коротко о главном
🌐 Децентрализация: вместо единого центра принятия решений, множество агентов взаимодействуют между собой, что делает защиту гибкой и масштабируемой.
🧠 Самообучение: MARL позволяет агентам обучаться на собственном опыте, адаптируясь к новым стратегиям атакующих без вмешательства человека.
🤝 Командная работа: агенты могут координировать действия, совместно обнаруживать и блокировать угрозы.
⚙️ Применение в реальном мире: MARL уже тестируется в таких сферах, как Intrusion Detection System (IDS), предотвращение lateral movement, а также в симуляционных средах (Cyber Gyms) для тренировки агентов.
🔥 Как работает MARL?
📡 Обнаружение вторжений: агенты обучаются выявлять подозрительную активность даже при слабых сигналах.
🎯 Локализация атак: распределённые агенты позволяют быстрее идентифицировать источник угрозы.
🏋️ Тренировка в "киберспортзалах": симуляционные платформы вроде CyberBattleSim или CybORG++ помогают агентам "набивать руку", тестируя их в сложных сценариях с атакующими и защитниками.
🤼 Красные и синие команды: MARL позволяет моделировать взаимодействие атакующих и защитников для улучшения стратегий обеих сторон.
🚨 В чём вызовы?
📉 Масштабируемость: обучение MARL в больших сетях требует серьёзных вычислительных ресурсов.
🎭 Устойчивость к обману: ИИ-агенты могут быть подвержены adversarial-атакам, если их не учить этому заранее.
🌐 Реалистичность: симуляции пока не всегда отражают сложность реальных инфраструктур, но прогресс неумолим.
🚀 Будущее уже здесь!
MARL не просто решает старые задачи кибербезопасности, а создаёт новые стандарты. В эпоху продвинутых угроз (APT, zero-day, сложных lateral movement) MARL предлагает адаптивные, распределённые и масштабируемые решения.
🔗 Более подробно про MARL читайте в исследовании.
Stay secure and read SecureTechTalks 📚
#SecureTechTalks #MARL #CyberSecurity #AIinSecurity #CyberDefense #ReinforcementLearning #CyberGyms #AICA #AdaptiveSecurity #NextGenSecurity
Современные кибератаки — это не просто одиночные взломы. Это координированные, динамичные атаки, которые требуют не менее умной защиты. Multi-Agent Reinforcement Learning (MARL) — обучаемый коллектив ИИ-агентов, который способен отбиваться от самых продвинутых угроз!
📈 MARL — коротко о главном
🌐 Децентрализация: вместо единого центра принятия решений, множество агентов взаимодействуют между собой, что делает защиту гибкой и масштабируемой.
🧠 Самообучение: MARL позволяет агентам обучаться на собственном опыте, адаптируясь к новым стратегиям атакующих без вмешательства человека.
🤝 Командная работа: агенты могут координировать действия, совместно обнаруживать и блокировать угрозы.
⚙️ Применение в реальном мире: MARL уже тестируется в таких сферах, как Intrusion Detection System (IDS), предотвращение lateral movement, а также в симуляционных средах (Cyber Gyms) для тренировки агентов.
🔥 Как работает MARL?
📡 Обнаружение вторжений: агенты обучаются выявлять подозрительную активность даже при слабых сигналах.
🎯 Локализация атак: распределённые агенты позволяют быстрее идентифицировать источник угрозы.
🏋️ Тренировка в "киберспортзалах": симуляционные платформы вроде CyberBattleSim или CybORG++ помогают агентам "набивать руку", тестируя их в сложных сценариях с атакующими и защитниками.
🤼 Красные и синие команды: MARL позволяет моделировать взаимодействие атакующих и защитников для улучшения стратегий обеих сторон.
🚨 В чём вызовы?
📉 Масштабируемость: обучение MARL в больших сетях требует серьёзных вычислительных ресурсов.
🎭 Устойчивость к обману: ИИ-агенты могут быть подвержены adversarial-атакам, если их не учить этому заранее.
🌐 Реалистичность: симуляции пока не всегда отражают сложность реальных инфраструктур, но прогресс неумолим.
🚀 Будущее уже здесь!
MARL не просто решает старые задачи кибербезопасности, а создаёт новые стандарты. В эпоху продвинутых угроз (APT, zero-day, сложных lateral movement) MARL предлагает адаптивные, распределённые и масштабируемые решения.
🔗 Более подробно про MARL читайте в исследовании.
Stay secure and read SecureTechTalks 📚
#SecureTechTalks #MARL #CyberSecurity #AIinSecurity #CyberDefense #ReinforcementLearning #CyberGyms #AICA #AdaptiveSecurity #NextGenSecurity
🧠💥 LLM + RFC = FlowFSM: ИИ-агенты теперь читают протоколы лучше нас
📡 Протоколы нервная система интернета, но пока одни ищут 0-day в бинарниках, другие решают фундаментальные задачи: что, если просто автоматизировать разбор RFC и сразу строить конечный автомат?
Представляем FlowFSM — мультиагентный LLM-фреймворк, который сам читает RFC, извлекает команды, выстраивает допустимые состояния и собирает рабочую модель FSM, готовую к анализу и fuzzing-атакам.
🧠 ИИ-помощник, который реально работает
FlowFSM — это не просто один LLM-промпт. Это координируемая система агентов, где каждый отвечает за своё:
один читает структуру документа, другой находит команды, третий — выстраивает логику состояний, четвёртый собирает всё в единую модель.
И да, это уже работает.
📦 Разберёмся, как все устроенно
🧩 Шаг 1: Разбор RFC
RFC делится на логические блоки, вычищается от форматирования и готовится к чтению.
📜 Шаг 2: Извлечение команд и состояний
LLM выделяет ключевые команды (например, USER, PASS) и сопоставляет им состояния и зависимости:
что можно вызывать, что запрещено, в каком порядке.
🧠 Шаг 3: Сборка rulebook
Каждая команда получает профиль:
– в каком состоянии она допустима
– что делает
– какие переходы открывает
На выходе — структурированная FSM, пригодная для анализа, генерации тестов и автоматизированного поиска уязвимостей.
⚡ Насколько хорош результат?
FlowFSM протестировали на двух протоколах — FTP и RTSP. Результаты:
Для FTP: модель извлекла 90 правильных переходов, пропустила 12, и добавила 18 ложных
Для RTSP: 18 правильных, 3 пропущенных, 4 ошибочных
Это дало F1-метрику:
~85% для FTP
~84% для RTSP
💡 При этом:
➖ FlowFSM работает автономно без ручной разметки
➖ Обходит zero-shot GPT-4 и rule-based подходы по точности
➖ Ошибается предсказуемо и понятно, легко отлаживается
🛠 Что под капотом?
1⃣ Используется CrewAI — open-source фреймворк для координации LLM-агентов
2⃣ Модель: LLaMA-3 70B, но можно подключить GPT, Claude, Mistral и др.
3⃣ Агентная архитектура легко адаптируется под новые протоколы
4⃣ Поддерживает подключение векторных БД и retrieval-механизмов
🔍 В чем новизна?
🚫 Больше не нужно вручную копаться в RFC на 120 страниц
⚙️ FSM можно сразу использовать в fuzzing и символьном анализе
📊 Можно масштабировать: от FTP до TLS и 5G
🔄 Обновления RFC? — просто перегоняешь через FlowFSM
🧭 Куда всё движется?
Разработчики планируют:
➖ Поддержку новых сетевых протоколов
➖ Интеграцию с фреймворками fuzzing/coverage-guided testing
➖ Улучшение explainability для автоматической валидации FSM
🔗 Код: github.com/YoussefMaklad/FlowFSM
Stay secure and read SecureTechTalks 📚
#FlowFSM #FSM #ProtocolSecurity #LLM #Cybersecurity #CrewAI #PromptChaining #RFC #Fuzzing #LLMengineering
#AIinSecurity #ReverseEngineering #Automation #NLP #InfoSecTools #LLMagents #AIprotocols #SecurityAutomation #AIresearch #SecureTechTalks
📡 Протоколы нервная система интернета, но пока одни ищут 0-day в бинарниках, другие решают фундаментальные задачи: что, если просто автоматизировать разбор RFC и сразу строить конечный автомат?
Представляем FlowFSM — мультиагентный LLM-фреймворк, который сам читает RFC, извлекает команды, выстраивает допустимые состояния и собирает рабочую модель FSM, готовую к анализу и fuzzing-атакам.
🧠 ИИ-помощник, который реально работает
FlowFSM — это не просто один LLM-промпт. Это координируемая система агентов, где каждый отвечает за своё:
один читает структуру документа, другой находит команды, третий — выстраивает логику состояний, четвёртый собирает всё в единую модель.
И да, это уже работает.
📦 Разберёмся, как все устроенно
🧩 Шаг 1: Разбор RFC
RFC делится на логические блоки, вычищается от форматирования и готовится к чтению.
📜 Шаг 2: Извлечение команд и состояний
LLM выделяет ключевые команды (например, USER, PASS) и сопоставляет им состояния и зависимости:
что можно вызывать, что запрещено, в каком порядке.
🧠 Шаг 3: Сборка rulebook
Каждая команда получает профиль:
– в каком состоянии она допустима
– что делает
– какие переходы открывает
На выходе — структурированная FSM, пригодная для анализа, генерации тестов и автоматизированного поиска уязвимостей.
⚡ Насколько хорош результат?
FlowFSM протестировали на двух протоколах — FTP и RTSP. Результаты:
Для FTP: модель извлекла 90 правильных переходов, пропустила 12, и добавила 18 ложных
Для RTSP: 18 правильных, 3 пропущенных, 4 ошибочных
Это дало F1-метрику:
~85% для FTP
~84% для RTSP
💡 При этом:
🛠 Что под капотом?
1⃣ Используется CrewAI — open-source фреймворк для координации LLM-агентов
2⃣ Модель: LLaMA-3 70B, но можно подключить GPT, Claude, Mistral и др.
3⃣ Агентная архитектура легко адаптируется под новые протоколы
4⃣ Поддерживает подключение векторных БД и retrieval-механизмов
🔍 В чем новизна?
🚫 Больше не нужно вручную копаться в RFC на 120 страниц
⚙️ FSM можно сразу использовать в fuzzing и символьном анализе
📊 Можно масштабировать: от FTP до TLS и 5G
🔄 Обновления RFC? — просто перегоняешь через FlowFSM
🧭 Куда всё движется?
Разработчики планируют:
🔗 Код: github.com/YoussefMaklad/FlowFSM
Stay secure and read SecureTechTalks 📚
#FlowFSM #FSM #ProtocolSecurity #LLM #Cybersecurity #CrewAI #PromptChaining #RFC #Fuzzing #LLMengineering
#AIinSecurity #ReverseEngineering #Automation #NLP #InfoSecTools #LLMagents #AIprotocols #SecurityAutomation #AIresearch #SecureTechTalks
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1
🧠🛡️ LLM помогает находить баги в смарт-контрактах
Смарт-контракты одна из самых сложных и рискованных частей Web3-экосистем. Их ошибки это не просто «падение системы», а потерянные миллионы долларов для пользователей.
🎯 Обычные статические анализаторы вроде Slither не справляются: они генерируют массу ложных срабатываний или пропускают «нестандартные» уязвимости, когда логика контракта уходит от шаблонов.
Исследователи из Georgia Tech предложили интересную альтернативу: систему LLMBugScanner, в которой не одна LLM, а группа LLM, работают в связке и голосует за результаты.
🧪 Одиночные модели не панацея
Если запустить одну модель (даже fine-tuned), она может сработать на одни типы ошибок, но провалиться на других:
🔹 Модели хорошо находят наборные, стандартные баги вроде integer overflow, но «слепнут» на контекст логики.
🔹 Результаты могут отличаться от прогона к прогону, потому что модель непоследовательна.
🔹 Fine-tuning помогает на одних данных, но портит результаты на других.
Это типичная проблема: LLM понимают шаблоны, но не логику, семантику и нюансы исполнения кода.
🧩 LLMBugScanner
Чтобы устранить вышеупомянутые ограничения, реализована архитектура LLMBugScanner, которая делает две вещи:
1) 🎯 Адаптация к контексту смарт-контрактов
Модели проходят двухступенчатое fine-tuning-обучение:
На большом датасете Solidity-контрактов с отмеченными типами уязвимостей, чтобы понять общий «язык» и паттерны Ethereum-кода.
На маленьком датасете с CVE-контрактами, чтобы научиться опознавать конкретные баги и описывать их.
📌 В результате модели перестают постоянно неправильно классифицировать ошибки (например, путать проблемы доступа с арифметическими).
2) 🤝 Коллективное голосование моделей
Вместо того чтобы полагаться на одну «умную» сеть, LLMBugScanner запускает пять разных моделей, каждая анализирует контракт, а затем результаты объединяются через систему голосования:
🔹 Weighted Voting: сильные модели «весомее»
🔹 Priority Voting: решает конфликты по приоритету моделей
Итог: система ловит больше багов и с меньшим шумом, чем любая модель по отдельности.
📊 Тестирование
Команда проанализировала 108 реальных смарт-контрактов с известными уязвимостями из базы CVE. Результаты:
🔥 Ensemble-подход поднял точность обнаружения до ~60 % в топ-5 выводов, что на ~19 % выше, чем у одной лучшей модели.
🧠 Преимущества и ограничения
✅ Групповой разум работает лучше, чем одиночные модели.
✅ Снижается влияние случайных ошибок и индивидуальных слабостей моделей.
✅ Лучше охватываются разные типы уязвимостей.
Ограничения:
⚠️ Некоторые редкие классы ошибок (например, сложные ошибки доступа или логической структуры) всё ещё остаются трудными для обнаружения даже в ансамбле.
⚠️ Около 10 % выводов моделей всё ещё могут содержать «галлюцинации».
📌 Ссылка на исследование
🔗 https://arxiv.org/abs/2512.02069
Stay secure and read SecureTechTalks 📚
#CyberSec #Web3Security #SmartContractAudit #LLM #AIinSecurity #DeFi #Blockchain #SecureTechTalks #BugBounty
Смарт-контракты одна из самых сложных и рискованных частей Web3-экосистем. Их ошибки это не просто «падение системы», а потерянные миллионы долларов для пользователей.
🎯 Обычные статические анализаторы вроде Slither не справляются: они генерируют массу ложных срабатываний или пропускают «нестандартные» уязвимости, когда логика контракта уходит от шаблонов.
Исследователи из Georgia Tech предложили интересную альтернативу: систему LLMBugScanner, в которой не одна LLM, а группа LLM, работают в связке и голосует за результаты.
🧪 Одиночные модели не панацея
Если запустить одну модель (даже fine-tuned), она может сработать на одни типы ошибок, но провалиться на других:
🔹 Модели хорошо находят наборные, стандартные баги вроде integer overflow, но «слепнут» на контекст логики.
🔹 Результаты могут отличаться от прогона к прогону, потому что модель непоследовательна.
🔹 Fine-tuning помогает на одних данных, но портит результаты на других.
Это типичная проблема: LLM понимают шаблоны, но не логику, семантику и нюансы исполнения кода.
🧩 LLMBugScanner
Чтобы устранить вышеупомянутые ограничения, реализована архитектура LLMBugScanner, которая делает две вещи:
1) 🎯 Адаптация к контексту смарт-контрактов
Модели проходят двухступенчатое fine-tuning-обучение:
На большом датасете Solidity-контрактов с отмеченными типами уязвимостей, чтобы понять общий «язык» и паттерны Ethereum-кода.
На маленьком датасете с CVE-контрактами, чтобы научиться опознавать конкретные баги и описывать их.
📌 В результате модели перестают постоянно неправильно классифицировать ошибки (например, путать проблемы доступа с арифметическими).
2) 🤝 Коллективное голосование моделей
Вместо того чтобы полагаться на одну «умную» сеть, LLMBugScanner запускает пять разных моделей, каждая анализирует контракт, а затем результаты объединяются через систему голосования:
🔹 Weighted Voting: сильные модели «весомее»
🔹 Priority Voting: решает конфликты по приоритету моделей
Итог: система ловит больше багов и с меньшим шумом, чем любая модель по отдельности.
📊 Тестирование
Команда проанализировала 108 реальных смарт-контрактов с известными уязвимостями из базы CVE. Результаты:
🔥 Ensemble-подход поднял точность обнаружения до ~60 % в топ-5 выводов, что на ~19 % выше, чем у одной лучшей модели.
🧠 Преимущества и ограничения
✅ Групповой разум работает лучше, чем одиночные модели.
✅ Снижается влияние случайных ошибок и индивидуальных слабостей моделей.
✅ Лучше охватываются разные типы уязвимостей.
Ограничения:
⚠️ Некоторые редкие классы ошибок (например, сложные ошибки доступа или логической структуры) всё ещё остаются трудными для обнаружения даже в ансамбле.
⚠️ Около 10 % выводов моделей всё ещё могут содержать «галлюцинации».
📌 Ссылка на исследование
🔗 https://arxiv.org/abs/2512.02069
Stay secure and read SecureTechTalks 📚
#CyberSec #Web3Security #SmartContractAudit #LLM #AIinSecurity #DeFi #Blockchain #SecureTechTalks #BugBounty
👍1
🚨 GPT проигрывает классическим подходам ИБ
Разметка MITRE ATT&CK показала пределы LLM
🧠 Автоматическая разметка текстов по MITRE
ATT&CK давно остаётся одной из самых востребованных задач в кибербезопасности. Каждый день аналитики читают отчёты, threat intelligence, сценарии атак и описания уязвимостей, связывая их с тактиками и техниками противника. Это монотонная, дорогая и плохо масштабируемая работа. Не удивительно, что попытки её автоматизировать ведутся уже больше десяти лет.
📄 В январе 2026 года команда JPMorgan Chase опубликовала техническую работу, которая пытаеся решить проблему в новом ключе. Авторы напрямую сравнили GPT-4o и классический машинный подход, SGD-классификатор на TF-IDF.
👉 Arxiv
⚙️ Эксперимент был предельно прагматичным. Моделям давали отдельные предложения из threat intelligence и просили определить соответствующую тактику MITRE ATT&CK.
Классическая модель показала около 82% точности, GPT-4o остановился примерно на 59%. Разница особенно заметна в редких тактиках и в ситуациях, где требуется строгое соответствие идентификаторам и терминологии ATT&CK.
🧩 Как авторы посмотрели на задачу.
«Разметка MITRE» не один шаг, а целый спектр задач разной сложности. В реальности один текст может соответствовать сразу нескольким тактикам, а каждая тактика нескольким техникам, связанным иерархически. Такая структура зачастую теряется в автоматизации.
🏗️ Решение JPMorgan построено снизу вверх и повторяет логику мышления аналитика. Текст разбивается на предложения, каждое предложение превращается в TF-IDF-вектор, после чего на первом уровне модель предсказывает несколько наиболее вероятных тактик. На втором уровне для каждой тактики используются отдельные модели, определяющие подходящие техники. В результате получается иерархическая мульти-лейбл разметка вида «тактика → техника», а не плоский список тегов.
📊 Этот подход даёт ощутимый прирост качества. При выборе трёх наиболее вероятных тактик точность на уровне тактик достигает около 94%, а при иерархической классификации техник примерно 82%. Важно и то, что система не допускает логических ошибок, когда техника предсказана без соответствующей ей тактики.
🔐 Отдельного внимания заслуживает инженерная деталь: авторы добавили хеширование признаков на этапе векторизации. Это позволяет защищать чувствительные данные и почти не влияет на качество модели. Благодаря этому решения можно безопасно распространять.
🧭 В итоге работа формулирует спокойный, но важный вывод. Ограничения автоматизации MITRE ATT&CK связаны не с тем, насколько «умна» модель, а с тем, насколько точно мы формализуем задачу. Иерархия, мульти-лейблы, строгие таксономии и объяснимость здесь важнее универсальной генерации текста.
Stay secure and read SecureTechTalks 📚
#SecureTechTalks #CyberSecurity #MITREATTACK #ThreatIntelligence #MachineLearning #LLM #SOC #AIinSecurity #BlueTeam #InfoSec
Разметка MITRE ATT&CK показала пределы LLM
🧠 Автоматическая разметка текстов по MITRE
ATT&CK давно остаётся одной из самых востребованных задач в кибербезопасности. Каждый день аналитики читают отчёты, threat intelligence, сценарии атак и описания уязвимостей, связывая их с тактиками и техниками противника. Это монотонная, дорогая и плохо масштабируемая работа. Не удивительно, что попытки её автоматизировать ведутся уже больше десяти лет.
📄 В январе 2026 года команда JPMorgan Chase опубликовала техническую работу, которая пытаеся решить проблему в новом ключе. Авторы напрямую сравнили GPT-4o и классический машинный подход, SGD-классификатор на TF-IDF.
⚙️ Эксперимент был предельно прагматичным. Моделям давали отдельные предложения из threat intelligence и просили определить соответствующую тактику MITRE ATT&CK.
Классическая модель показала около 82% точности, GPT-4o остановился примерно на 59%. Разница особенно заметна в редких тактиках и в ситуациях, где требуется строгое соответствие идентификаторам и терминологии ATT&CK.
🧩 Как авторы посмотрели на задачу.
«Разметка MITRE» не один шаг, а целый спектр задач разной сложности. В реальности один текст может соответствовать сразу нескольким тактикам, а каждая тактика нескольким техникам, связанным иерархически. Такая структура зачастую теряется в автоматизации.
🏗️ Решение JPMorgan построено снизу вверх и повторяет логику мышления аналитика. Текст разбивается на предложения, каждое предложение превращается в TF-IDF-вектор, после чего на первом уровне модель предсказывает несколько наиболее вероятных тактик. На втором уровне для каждой тактики используются отдельные модели, определяющие подходящие техники. В результате получается иерархическая мульти-лейбл разметка вида «тактика → техника», а не плоский список тегов.
📊 Этот подход даёт ощутимый прирост качества. При выборе трёх наиболее вероятных тактик точность на уровне тактик достигает около 94%, а при иерархической классификации техник примерно 82%. Важно и то, что система не допускает логических ошибок, когда техника предсказана без соответствующей ей тактики.
🔐 Отдельного внимания заслуживает инженерная деталь: авторы добавили хеширование признаков на этапе векторизации. Это позволяет защищать чувствительные данные и почти не влияет на качество модели. Благодаря этому решения можно безопасно распространять.
🧭 В итоге работа формулирует спокойный, но важный вывод. Ограничения автоматизации MITRE ATT&CK связаны не с тем, насколько «умна» модель, а с тем, насколько точно мы формализуем задачу. Иерархия, мульти-лейблы, строгие таксономии и объяснимость здесь важнее универсальной генерации текста.
Stay secure and read SecureTechTalks 📚
#SecureTechTalks #CyberSecurity #MITREATTACK #ThreatIntelligence #MachineLearning #LLM #SOC #AIinSecurity #BlueTeam #InfoSec
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3
🧠💣 LLM для кибербезопасности, который пытается рассуждать
Reasoning-модель на 8B параметров оказалась умнее гигантов
В последние два года LLM в кибербезопасности стали почти обязательным элементом стека. Они помогают разбирать отчёты, классифицировать CVE, сопоставлять индикаторы с MITRE ATT&CK, писать черновики рекомендаций.
Однако все модели в лучшем случае угадывают, а в худшем уверенно галлюцинируют 🤷♂️
Даже когда ответ формально правильный, логика рассуждений часто либо отсутствует, либо не соответствует факт-чекингу. Для ИБ это критично:
важно не просто «что», а почему именно так.
На этом фоне работа Cisco Foundation AI выглядит нетипично здравой. Ребята не стали делать ещё один instruction-tuned security-бот, а попробовали решить более фундаментальную задачу, научить модель рассуждать в контексте кибербезопасности 🛡️
Так появилась Foundation-Sec-8B-Reasoning, open-source LLM, которая сначала думает, а уже потом отвечает.
🤖 Обычные LLM плохо подходят для ИБ
Большинство security-моделей сегодня — это базовые LLM с дообучением на CVE / MITRE.
Они отлично справляются с вопросами вида:
Но начинают спотыкаться, когда требуется:
🧩 многошаговый анализ
🔗 причинно-следственные связи
🧠 восстановление цепочки атаки
📌 аргументация выбора техник и контрмер
Модель может дать правильный ответ, но прийти к нему неправильным путём. К сожалению, для аналитика рассуждения выглядит убедительно и в этом скрывается опасность.
🧪 В чем отличие этой модели?
Ключевая идея Foundation-Sec-8B-Reasoning в рассуждении. Это обязательный этап мышления.
Обучение шло в два этапа.
🏗 Этап 1. SFT учим модель думать вслух
≈ 2 млн обучающих примеров, где:
- reasoning обязателен
- структура рассуждения строго задана
- ответ без логики считается ошибкой
Состав данных:
🔐 ~27% кибербезопасность (CVE, CWE, ATT&CK)
➗ математика
💻 код
📜 инструкции и safety
Если модель не умеет рассуждать в целом, доменные данные её не спасут.
🎯 Этап 2. RL война с фейковым reasoning
Самая интересная часть статьи - reinforcement learning.
Типичная проблема reasoning-LLM:
- модель быстро учится имитировать рассуждение
- ответ правильный, но
reasoning пустой или формальный
Чтобы это сломать этот патерн, авторы добавили:
⚠️ штрафы за пустые и повторяющиеся рассуждения
📏 контроль длины reasoning
🧱 защиту от деградации формата
Отдельно разбирается проблема длинных, но бессмысленных рассуждений. Редкий случай, когда RL описан честно, без преукрашиваний.
📊 Что получилось на выходе
Модель на скромные 8B параметров:
🚀 обгоняет Llama-3.3-70B на CTIBench-RCM
🚀 обгоняет GPT-OSS-120B на CVE → CWE
📈 стабильно лучше instruction-версий на reasoning-задачах
Кроме того модель действительно учится думать, а не воспроизводит стандартные шаблоны.
🔐 А что с безопасностью?
❌ без system-prompt есть проблемы
✅ с корректным промптом ~93% pass rate на HarmBench
🛡️ с гардрейлами ~98%
Пока такую Reasoning-модель рано пускать в прод без защитного контура. Но при дальнейшем развитии есть перспективы полной автоматизации.
📄 Статья: arXiv: 2601.21051
🤗 Модель (HF): https://huggingface.co/fdtn-ai/Foundation-Sec-8B-Reasoning
Stay secure and read SecureTechTalks 📚
#SecureTechTalks #CyberSecurity #AIinSecurity #LLM #ReasoningAI #ThreatIntelligence #SOC #AppSec #CTI #ExplainableAI
Reasoning-модель на 8B параметров оказалась умнее гигантов
В последние два года LLM в кибербезопасности стали почти обязательным элементом стека. Они помогают разбирать отчёты, классифицировать CVE, сопоставлять индикаторы с MITRE ATT&CK, писать черновики рекомендаций.
Однако все модели в лучшем случае угадывают, а в худшем уверенно галлюцинируют 🤷♂️
Даже когда ответ формально правильный, логика рассуждений часто либо отсутствует, либо не соответствует факт-чекингу. Для ИБ это критично:
важно не просто «что», а почему именно так.
На этом фоне работа Cisco Foundation AI выглядит нетипично здравой. Ребята не стали делать ещё один instruction-tuned security-бот, а попробовали решить более фундаментальную задачу, научить модель рассуждать в контексте кибербезопасности 🛡️
Так появилась Foundation-Sec-8B-Reasoning, open-source LLM, которая сначала думает, а уже потом отвечает.
🤖 Обычные LLM плохо подходят для ИБ
Большинство security-моделей сегодня — это базовые LLM с дообучением на CVE / MITRE.
Они отлично справляются с вопросами вида:
«К какому CWE относится CVE-2023-XXXX?»
Но начинают спотыкаться, когда требуется:
🧩 многошаговый анализ
🔗 причинно-следственные связи
🧠 восстановление цепочки атаки
📌 аргументация выбора техник и контрмер
Модель может дать правильный ответ, но прийти к нему неправильным путём. К сожалению, для аналитика рассуждения выглядит убедительно и в этом скрывается опасность.
🧪 В чем отличие этой модели?
Ключевая идея Foundation-Sec-8B-Reasoning в рассуждении. Это обязательный этап мышления.
🧠 рассуждение → вывод
Обучение шло в два этапа.
🏗 Этап 1. SFT учим модель думать вслух
≈ 2 млн обучающих примеров, где:
- reasoning обязателен
- структура рассуждения строго задана
- ответ без логики считается ошибкой
Состав данных:
🔐 ~27% кибербезопасность (CVE, CWE, ATT&CK)
➗ математика
💻 код
📜 инструкции и safety
Если модель не умеет рассуждать в целом, доменные данные её не спасут.
🎯 Этап 2. RL война с фейковым reasoning
Самая интересная часть статьи - reinforcement learning.
Типичная проблема reasoning-LLM:
- модель быстро учится имитировать рассуждение
- ответ правильный, но
reasoning пустой или формальный
Чтобы это сломать этот патерн, авторы добавили:
⚠️ штрафы за пустые и повторяющиеся рассуждения
📏 контроль длины reasoning
🧱 защиту от деградации формата
Отдельно разбирается проблема длинных, но бессмысленных рассуждений. Редкий случай, когда RL описан честно, без преукрашиваний.
📊 Что получилось на выходе
Модель на скромные 8B параметров:
🚀 обгоняет Llama-3.3-70B на CTIBench-RCM
🚀 обгоняет GPT-OSS-120B на CVE → CWE
📈 стабильно лучше instruction-версий на reasoning-задачах
Кроме того модель действительно учится думать, а не воспроизводит стандартные шаблоны.
🔐 А что с безопасностью?
❌ без system-prompt есть проблемы
✅ с корректным промптом ~93% pass rate на HarmBench
🛡️ с гардрейлами ~98%
Пока такую Reasoning-модель рано пускать в прод без защитного контура. Но при дальнейшем развитии есть перспективы полной автоматизации.
📄 Статья: arXiv: 2601.21051
🤗 Модель (HF): https://huggingface.co/fdtn-ai/Foundation-Sec-8B-Reasoning
Stay secure and read SecureTechTalks 📚
#SecureTechTalks #CyberSecurity #AIinSecurity #LLM #ReasoningAI #ThreatIntelligence #SOC #AppSec #CTI #ExplainableAI
👍3
🔍 Федеративный RCA без доступа к данным: как найти источник сбоя в распределённой промышленной системе
Вышел интересный препринт на arXiv “Learning Unknown Interdependencies for Decentralized Root Cause Analysis in Nonlinear Dynamical Systems” (arXiv:2602.21928v1).
Исследователи предлагают способ находить первопричину инцидента в распределённой промышленной системе… не имея доступа к сырым данным.
Звучит как невозможное?
Разберёмся. 👇
🏭 В чём суть проблемы
Представьте несколько заводских установок, которые связаны между собой. Если одна «ломается», сбой может распространиться на остальные. ⚡
Но как понять, где настоящая причина, а где просто следствие?
Сложность в том, что:
🚫 данные нельзя собирать в один центр,
🔒 модели часто закрытые (от OEM),
📡 у каждого узла свои датчики и логика работы.
Классические методы анализа причин здесь не работают: им нужен полный доступ к данным.
🧠 Что придумали авторы
Они построили федеративную систему, где:
🏢 каждый клиент оставляет свою модель как есть,
➕ к ней добавляется небольшая ML-надстройка,
🌐 центральный сервер учится понимать связи между узлами,
🚫📂 но сырые данные никуда не передаются.
Передаются:
📊 состояния моделей,
🚨 во время инцидента - бинарные флаги «есть аномалия / нет аномалии».
Дополнительно применяется differential privacy, т.е. данные и градиенты зашумляются. 🔐
🚨 Как определяется источник сбоя
У каждого клиента есть два индикатора:
🔎 аномалия в базовой модели,
🌍 аномалия в расширенной модели (которая учитывает влияние других).
Если обе сигналят, то это кандидат в источник. 🎯
Если только базовая, то скорее всего это «эхо» чужой проблемы. 🔁
Сервер смотрит на картину в целом и определяет root cause без сырых данных.
🧪 Проверка на практике
Метод протестировали:
🧩 на синтетических системах,
🏭 и на индустриальном датасете HAI (Hardware-In-the-Loop ICS).
Качество близко к централизованной модели, у которой есть полный доступ ко всем данным. 📈
📎 Ссылка: https://arxiv.org/abs/2602.21928v1
Start secure and read SecureTechTalks 📚
#кибербезопасность #ICS #OTSecurity #RootCauseAnalysis #FederatedLearning #IndustrialSecurity #CriticalInfrastructure #AIinSecurity #DataPrivacy #SecureTechTalks
Вышел интересный препринт на arXiv “Learning Unknown Interdependencies for Decentralized Root Cause Analysis in Nonlinear Dynamical Systems” (arXiv:2602.21928v1).
Исследователи предлагают способ находить первопричину инцидента в распределённой промышленной системе… не имея доступа к сырым данным.
Звучит как невозможное?
Разберёмся. 👇
🏭 В чём суть проблемы
Представьте несколько заводских установок, которые связаны между собой. Если одна «ломается», сбой может распространиться на остальные. ⚡
Но как понять, где настоящая причина, а где просто следствие?
Сложность в том, что:
🚫 данные нельзя собирать в один центр,
🔒 модели часто закрытые (от OEM),
📡 у каждого узла свои датчики и логика работы.
Классические методы анализа причин здесь не работают: им нужен полный доступ к данным.
🧠 Что придумали авторы
Они построили федеративную систему, где:
🏢 каждый клиент оставляет свою модель как есть,
➕ к ней добавляется небольшая ML-надстройка,
🌐 центральный сервер учится понимать связи между узлами,
🚫📂 но сырые данные никуда не передаются.
Передаются:
📊 состояния моделей,
🚨 во время инцидента - бинарные флаги «есть аномалия / нет аномалии».
Дополнительно применяется differential privacy, т.е. данные и градиенты зашумляются. 🔐
🚨 Как определяется источник сбоя
У каждого клиента есть два индикатора:
🔎 аномалия в базовой модели,
🌍 аномалия в расширенной модели (которая учитывает влияние других).
Если обе сигналят, то это кандидат в источник. 🎯
Если только базовая, то скорее всего это «эхо» чужой проблемы. 🔁
Сервер смотрит на картину в целом и определяет root cause без сырых данных.
🧪 Проверка на практике
Метод протестировали:
🧩 на синтетических системах,
🏭 и на индустриальном датасете HAI (Hardware-In-the-Loop ICS).
Качество близко к централизованной модели, у которой есть полный доступ ко всем данным. 📈
📎 Ссылка: https://arxiv.org/abs/2602.21928v1
Start secure and read SecureTechTalks 📚
#кибербезопасность #ICS #OTSecurity #RootCauseAnalysis #FederatedLearning #IndustrialSecurity #CriticalInfrastructure #AIinSecurity #DataPrivacy #SecureTechTalks
👍1
🕸️ Как вытащить кибербезопасность из 468 ТБ веб-данных и не разориться
На arXiv вышла работа " Cybersecurity Data Extraction from Common Crawl".
Авторы решают практичную задачу: как собрать специализированный pretraining-датасет по кибербезопасности, не прогоняя через классификатор весь интернет.
🚨 В чём проблема
Современные LLM обучаются на гигантских массивах данных вроде:
➖ Common Crawl
➖ The Pile
➖ C4
➖ FineWeb
Это огромные сборники текстов из интернета на самые разные темы.
Они отлично подходят для «общего интеллекта», но если вам нужна модель, которая глубоко понимает:
🔐 криптографические протоколы
💣 уязвимости вроде buffer overflow
🧱 модели контроля доступа
🌐 сетевую безопасность
То таких данных часто недостаточно.
До недавнего времени фактически единственным публичным security-pretraining-датасетом был PRIMUS.
Он строился через контентную фильтрацию. То есть, классификатор определял, относится ли текст к cybersecurity.
🧠 Новый подход: фильтруем не текст, а домены
У Common Crawl есть не только тексты, но и web-граф:
📌 более 100 млн доменов
🔗 более 1.8 млрд ссылок
Если сайты часто ссылаются друг на друга, то они, скорее всего, тематически связаны.
Логика авторов:
1️⃣ Берём список seed-доменов по security.
2️⃣ Запускаем поиск сообщества в графе.
3️⃣ Получаем кластер доменов, связанных с кибербезопасностью.
4️⃣ Уже из них собираем тексты.
Для поиска использовался Leiden algorithm, современный алгоритм обнаружения сообществ в больших графах.
Это структурная фильтрация. Сначала находим «security-комьюнити» в интернете, а потом работаем только с ним.
⚙️ Немного инженерной реальности
Работа с графом такого масштаба это отдельный челлендж:
➖ edge list вместо adjacency list
➖ сотни миллионов узлов
➖ миллиарды рёбер
Авторы использовали memory-mapped sparse matrix (CSR), задействовали GPU-библиотеки, разбивали граф на части через split.
Отдельная боль, как вы уже догадались, скачивание данных: 70 млн URL из S3 при лимите ~30 запросов в секунду →
⏳ 30–36 дней только на загрузку.
Поэтому они пошли рациональным путём:
не скачивать всё, а отфильтровать FineWeb-Edu по найденным URL и уложились примерно в 8 часов.
📦 Что получилось
Датасет Alpha-Root:
📎 2.8 млн URL
📚 ~3 млрд токенов
🌍 15 240 доменов
Для сравнения:
PRIMUS-FineWeb содержит около 2.57 млрд токенов,
Alpha-Root около 3 млрд токенов.
Интересный момент:
9250 доменов пересекаются с PRIMUS. Это означает, что графовый метод находит те же релевантные источники, но без анализа содержимого каждой страницы.
🧪 Обучение и проверка
В качестве базы использовалась модель SmolLM-1.7B, дообученная через LoRA с 4-битной квантизацией.
📊 Результат:
Alpha-Root показывает метрики на уровне PRIMUS, а
в ряде сценариев немного лучше. При этом сбор датасета требует меньше вычислительных ресурсов
Stay secure and read SecureTechTalks 📚
#CyberSecurity #LLM #CommonCrawl #GraphAnalytics #AIinSecurity
#DataEngineering #MMLU #DomainLLM #ThreatIntel
На arXiv вышла работа " Cybersecurity Data Extraction from Common Crawl".
Авторы решают практичную задачу: как собрать специализированный pretraining-датасет по кибербезопасности, не прогоняя через классификатор весь интернет.
🚨 В чём проблема
Современные LLM обучаются на гигантских массивах данных вроде:
Это огромные сборники текстов из интернета на самые разные темы.
Они отлично подходят для «общего интеллекта», но если вам нужна модель, которая глубоко понимает:
🔐 криптографические протоколы
💣 уязвимости вроде buffer overflow
🧱 модели контроля доступа
🌐 сетевую безопасность
То таких данных часто недостаточно.
До недавнего времени фактически единственным публичным security-pretraining-датасетом был PRIMUS.
Он строился через контентную фильтрацию. То есть, классификатор определял, относится ли текст к cybersecurity.
🧠 Новый подход: фильтруем не текст, а домены
У Common Crawl есть не только тексты, но и web-граф:
📌 более 100 млн доменов
🔗 более 1.8 млрд ссылок
Если сайты часто ссылаются друг на друга, то они, скорее всего, тематически связаны.
Логика авторов:
1️⃣ Берём список seed-доменов по security.
2️⃣ Запускаем поиск сообщества в графе.
3️⃣ Получаем кластер доменов, связанных с кибербезопасностью.
4️⃣ Уже из них собираем тексты.
Для поиска использовался Leiden algorithm, современный алгоритм обнаружения сообществ в больших графах.
Это структурная фильтрация. Сначала находим «security-комьюнити» в интернете, а потом работаем только с ним.
⚙️ Немного инженерной реальности
Работа с графом такого масштаба это отдельный челлендж:
Авторы использовали memory-mapped sparse matrix (CSR), задействовали GPU-библиотеки, разбивали граф на части через split.
Отдельная боль, как вы уже догадались, скачивание данных: 70 млн URL из S3 при лимите ~30 запросов в секунду →
⏳ 30–36 дней только на загрузку.
Поэтому они пошли рациональным путём:
не скачивать всё, а отфильтровать FineWeb-Edu по найденным URL и уложились примерно в 8 часов.
📦 Что получилось
Датасет Alpha-Root:
📎 2.8 млн URL
📚 ~3 млрд токенов
🌍 15 240 доменов
Для сравнения:
PRIMUS-FineWeb содержит около 2.57 млрд токенов,
Alpha-Root около 3 млрд токенов.
Интересный момент:
9250 доменов пересекаются с PRIMUS. Это означает, что графовый метод находит те же релевантные источники, но без анализа содержимого каждой страницы.
🧪 Обучение и проверка
В качестве базы использовалась модель SmolLM-1.7B, дообученная через LoRA с 4-битной квантизацией.
📊 Результат:
Alpha-Root показывает метрики на уровне PRIMUS, а
в ряде сценариев немного лучше. При этом сбор датасета требует меньше вычислительных ресурсов
Stay secure and read SecureTechTalks 📚
#CyberSecurity #LLM #CommonCrawl #GraphAnalytics #AIinSecurity
#DataEngineering #MMLU #DomainLLM #ThreatIntel
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1