🛡️ Применение глубокого обучения для защиты от APT-угроз
🔍 В новом исследовании, представленном Лондонским университетом, изучается использование глубокого обучения с подкреплением (DRL) для атрибуции атак типа Advanced Persistent Threat (APT). Такие угрозы отличаются сложностью и длительным нахождением в системе, что делает их выявление критически важным для кибербезопасности.
💻 Исследователи использовали 3,500 образцов вредоносного ПО от 12 различных APT-групп, чтобы обучить модель распознавать их поведение. Важную роль в анализе сыграли инструменты Cuckoo Sandbox и VirusTotal, предоставляющие подробные отчеты о действиях вредоносного ПО в системе.
🚀 Точность модели DRL достигла 89,27%, что превосходит результаты традиционных методов, таких как Stochastic Gradient Descent (SGD) и Support Vector Classifier (SVC). Модель смогла эффективно выявлять скрытые угрозы, адаптируясь к новым типам атак.
🔧 В будущем планируется усовершенствование модели и ее интеграция с большими языковыми моделями (LLM) для дальнейшей оптимизации процессов анализа и обучения.
🔗 Подробнее можно прочитать в тексте исследования.
Stay secure and read SecureTechTalks 📚
#кибербезопасность #SecureTechTalks #APT #DeepLearning #DRL #AI #информационнаябезопасность
🔍 В новом исследовании, представленном Лондонским университетом, изучается использование глубокого обучения с подкреплением (DRL) для атрибуции атак типа Advanced Persistent Threat (APT). Такие угрозы отличаются сложностью и длительным нахождением в системе, что делает их выявление критически важным для кибербезопасности.
💻 Исследователи использовали 3,500 образцов вредоносного ПО от 12 различных APT-групп, чтобы обучить модель распознавать их поведение. Важную роль в анализе сыграли инструменты Cuckoo Sandbox и VirusTotal, предоставляющие подробные отчеты о действиях вредоносного ПО в системе.
🚀 Точность модели DRL достигла 89,27%, что превосходит результаты традиционных методов, таких как Stochastic Gradient Descent (SGD) и Support Vector Classifier (SVC). Модель смогла эффективно выявлять скрытые угрозы, адаптируясь к новым типам атак.
🔧 В будущем планируется усовершенствование модели и ее интеграция с большими языковыми моделями (LLM) для дальнейшей оптимизации процессов анализа и обучения.
🔗 Подробнее можно прочитать в тексте исследования.
Stay secure and read SecureTechTalks 📚
#кибербезопасность #SecureTechTalks #APT #DeepLearning #DRL #AI #информационнаябезопасность
🔥 DDoS больше не внезапный шторм: исследователи научились предсказывать атаки с помощью нейросетей ⚡
Distributed Denial-of-Service (DDoS) - одна из самых разрушительных киберугроз. 🌐 Когда ботнет из сотен тысяч устройств обрушивает лавину трафика на ваш сервер, у вас остаются секунды для реакции. Но что если атаки можно не только фиксировать, когда всё уже горит, а предсказывать заранее?
📑 Исследователи из Universiti Malaya и Universiti Teknikal Malaysia Melaka опубликовали работу, где применили методы глубокого обучения для прогнозирования DDoS. Суть: анализ исторических данных + модель LSTM (Long Short-Term Memory) = система, которая умеет заранее улавливать признаки готовящейся атаки.
📊 Что сделали учёные?
1⃣ Проанализировали 192 525 DDoS-атак за 2019-2021 годы.
2⃣ Отдельно рассмотрели период COVID-19, когда переход бизнеса в онлайн вызвал взрыв атак:
- количество нападений >1 Тбит/с выросло на 94% всего за год.
- В выборке - данные более чем от 330 интернет-провайдеров, Digital Attack Map и публичных отчётов ISP.
3⃣ Обучили LSTM-модель, способную ловить паттерны во временных рядах, чтобы предугадывать моменты, когда вероятность DDoS особенно высока.
🚨 Результаты
✔️ Модель научилась предсказывать временные пики атак - пусть и не всегда точно указывая объём и длительность.
✔️ Даёт защитникам фору по времени: можно заранее поднять ресурсы, включить фильтрацию или распределить нагрузку.
✔️ Подтвердила, что чем больше данных в истории, тем выше точность прогнозов.
❌ Но есть и слабые места:
➖ Ошибки в оценке масштаба атаки.
➖ Ложные тревоги: иногда система "перебдит".
➖ Новые мультивекторные атаки всё ещё сложно предсказать.
🌍 Кому это нужно?
➖ CDN и облачные провайдеры смогут заранее готовить мощности и маршруты.
➖ Хостинги - переключать трафик на фильтрующие узлы до пика атаки.
➖ SOC-команды - заранее активировать агрессивные правила, а не включать их в панике.
💡 Если классическая защита DDoS похожа на пожарную команду, то этот подход ближе к метеослужбе: прогноз погоды не всегда точен, но он позволяет подготовиться.
🔧 Куда двигаться дальше?
➖ Добавлять новые типы данных: IoT-ботнеты, арендуемые DDoS-for-hire сервисы.
➖ Использовать ансамбли моделей: LSTM + трансформеры для точности.
➖ Работать над снижением ложных тревог, чтобы SOC-аналитики не игнорировали предупреждения.
📌 Немного фактов
Чтобы понять масштаб угрозы, вспомним последние громкие атаки:
🌐 Google (2023): крупнейшая DDoS-атака зафиксирована на уровне 398 млн запросов в секунду (RPS).
☁️ Cloudflare (2023): волна атак достигала 71 млн RPS.
🛡️ AWS (2020): DDoS на 2,3 Тбит/с стал одной из крупнейших атак того времени.
➡️ DDoS всегда был атакой-внезапностью. Но исследование показывает: будущее киберзащиты - в прогнозах и проактивных мерах. Даже неполное предсказание способно спасти миллионы долларов и сохранить uptime критических сервисов.
🔗 Полный текст исследования: arXiv:2509.02076
Stay secure and read SecureTechTalks 📚
#DDoS #DeepLearning #CyberSecurity #LSTM #ThreatIntelligence #SecureTechTalks #ML #DataScience #ThreatIntelligence
Distributed Denial-of-Service (DDoS) - одна из самых разрушительных киберугроз. 🌐 Когда ботнет из сотен тысяч устройств обрушивает лавину трафика на ваш сервер, у вас остаются секунды для реакции. Но что если атаки можно не только фиксировать, когда всё уже горит, а предсказывать заранее?
📑 Исследователи из Universiti Malaya и Universiti Teknikal Malaysia Melaka опубликовали работу, где применили методы глубокого обучения для прогнозирования DDoS. Суть: анализ исторических данных + модель LSTM (Long Short-Term Memory) = система, которая умеет заранее улавливать признаки готовящейся атаки.
📊 Что сделали учёные?
1⃣ Проанализировали 192 525 DDoS-атак за 2019-2021 годы.
2⃣ Отдельно рассмотрели период COVID-19, когда переход бизнеса в онлайн вызвал взрыв атак:
- количество нападений >1 Тбит/с выросло на 94% всего за год.
- В выборке - данные более чем от 330 интернет-провайдеров, Digital Attack Map и публичных отчётов ISP.
3⃣ Обучили LSTM-модель, способную ловить паттерны во временных рядах, чтобы предугадывать моменты, когда вероятность DDoS особенно высока.
🚨 Результаты
✔️ Модель научилась предсказывать временные пики атак - пусть и не всегда точно указывая объём и длительность.
✔️ Даёт защитникам фору по времени: можно заранее поднять ресурсы, включить фильтрацию или распределить нагрузку.
✔️ Подтвердила, что чем больше данных в истории, тем выше точность прогнозов.
❌ Но есть и слабые места:
🌍 Кому это нужно?
💡 Если классическая защита DDoS похожа на пожарную команду, то этот подход ближе к метеослужбе: прогноз погоды не всегда точен, но он позволяет подготовиться.
🔧 Куда двигаться дальше?
📌 Немного фактов
Чтобы понять масштаб угрозы, вспомним последние громкие атаки:
🌐 Google (2023): крупнейшая DDoS-атака зафиксирована на уровне 398 млн запросов в секунду (RPS).
☁️ Cloudflare (2023): волна атак достигала 71 млн RPS.
🛡️ AWS (2020): DDoS на 2,3 Тбит/с стал одной из крупнейших атак того времени.
➡️ DDoS всегда был атакой-внезапностью. Но исследование показывает: будущее киберзащиты - в прогнозах и проактивных мерах. Даже неполное предсказание способно спасти миллионы долларов и сохранить uptime критических сервисов.
🔗 Полный текст исследования: arXiv:2509.02076
Stay secure and read SecureTechTalks 📚
#DDoS #DeepLearning #CyberSecurity #LSTM #ThreatIntelligence #SecureTechTalks #ML #DataScience #ThreatIntelligence
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1
🔥 Ваша ML-модель может выдавать приватные данные
Исследователи предложили метод наблюдательного аудита, который позволяет проверить, насколько обученная ML-модель невольно «запоминает» исходные данные и может ли она сливать информацию о метках (labels). Главное преимущество, что метод не требует изменения тестового пайплайна и не использует фиктивные записи.
🔗 Исследование: https://arxiv.org/abs/2411.18644
Чтобы провести аудит, после завершения обучения модели создают набор меток, представляющий собой смесь из:
• реальных меток, действительно использованных при обучении,
• прокси-меток, сгенерированных другой моделью или более ранним чекпоинтом той же модели.
Далее «атакующая» сторона получает задачу отличить настоящие метки от искусственно сгенерированных. Логика проста:
Если модель выдаёт слишком много подсказок о настоящих метках, это означает, что она их запомнила и значит, существует риск утечек.
То есть, чем менее различимы настоящие и прокси-метки, тем лучше модель защищена.
📊 Глубже в эксперимент
Исследователи протестировали метод на двух типах данных:
• небольшом визуальном датасете с изображениями;
• крупном кликовом датасете (click data), который лучше отражает реальные промышленные условия.
🔍 Результаты:
➖ при жёстких параметрах приватности модель переставала «выдавать» настоящие метки. Атака оказывалась беспомощной;
➖ при ослабленных параметрах приватности различить настоящие метки становилось проще, и атака уверенно угадывала значительную их часть.
По факту результаты совпадают с классическими тестами на канарейках. Это значит, что новый метод действительно способен обнаруживать утечки, но при этом не требует изменения структуры данных или вмешательства в процесс обучения.
🧩 В чем профит?
➖ Метод устраняет инженерный барьер, который существовал в классической модели канареек, где требовалось добавлять искусственные записи.
➖ Теперь проверка приватности может проводиться часто и автоматически, без риска нарушить рабочий ML-pipeline.
➖ Благодаря тому, что атака опирается на способность модели различать реальные и искусственные метки, она хорошо отражает именно то, что происходит внутри модели, то есть её склонность к меморизации.
➖ Подход универсален: его можно применять как к небольшим экспериментальным моделям, так и к реальным коммерческим системам, где любые изменения данных затруднены.
Stay secure and read SecureTechTalks 📚
#cybersecurity #mlsecurity #privacy #machinelearning #infosec #deeplearning #dataleakage #AIprivacy #securityresearch #SecureTechTalks
Исследователи предложили метод наблюдательного аудита, который позволяет проверить, насколько обученная ML-модель невольно «запоминает» исходные данные и может ли она сливать информацию о метках (labels). Главное преимущество, что метод не требует изменения тестового пайплайна и не использует фиктивные записи.
🔗 Исследование: https://arxiv.org/abs/2411.18644
Чтобы провести аудит, после завершения обучения модели создают набор меток, представляющий собой смесь из:
• реальных меток, действительно использованных при обучении,
• прокси-меток, сгенерированных другой моделью или более ранним чекпоинтом той же модели.
Далее «атакующая» сторона получает задачу отличить настоящие метки от искусственно сгенерированных. Логика проста:
Если модель выдаёт слишком много подсказок о настоящих метках, это означает, что она их запомнила и значит, существует риск утечек.
То есть, чем менее различимы настоящие и прокси-метки, тем лучше модель защищена.
📊 Глубже в эксперимент
Исследователи протестировали метод на двух типах данных:
• небольшом визуальном датасете с изображениями;
• крупном кликовом датасете (click data), который лучше отражает реальные промышленные условия.
🔍 Результаты:
По факту результаты совпадают с классическими тестами на канарейках. Это значит, что новый метод действительно способен обнаруживать утечки, но при этом не требует изменения структуры данных или вмешательства в процесс обучения.
🧩 В чем профит?
Stay secure and read SecureTechTalks 📚
#cybersecurity #mlsecurity #privacy #machinelearning #infosec #deeplearning #dataleakage #AIprivacy #securityresearch #SecureTechTalks
Please open Telegram to view this post
VIEW IN TELEGRAM
📖 Почему нейросети помнят то, что должны были забыть
Разбор феномена сублиминального обучения
Вы уже знаете, что если «дообучить» ИИ на новую задачу, то информация о старой все еще будет в "памяти" модели.
На днях вышла статья на Хабр, которая хорошо раскрывает эту тему. Авторы докопались до того, почему модели действительно «помнят» скрытую информацию, даже когда мы её вроде бы удалили.
🧠 Вспомнить всё
Когда мы дообучаем (fine-tune) нейросеть, чтобы адаптировать её к новой задаче, то это выглядит примерно так:
📌 есть модель, которая уже чему-то научилась →
📌 мы хотим «забыть» старое и научить новое →
📌 применяем регуляризацию, оптимизацию и уверены, что прошлое исчезло.
Вреальности оказывается, что информация от прошлой задачи остаётся в структуре весов модели, даже если она не участвует прямо в новой оптимизационной задаче.
🧩 Опыт, как элемент памяти
Оказывается, "забывание" это не просто удаление данных, а удаление следов в ландшафте весов модели, чего в реальности не происходит.
📌 Даже при агрессивной регуляризации сеть всё равно сохраняет прошлую информацию в скрытой структуре весов.
Это называется структурный импринтинг,
когда форма оптимального решения новой задачи строится на топологии, сформированной предыдущим обучением. Такая топология действует как «архитектурная память».
🔍 Эксперимент
Чтобы доказать этот эффект, авторы провели серию экспериментов на небольших сетях:
📌 Модель училась первой задаче А
📌 Затем переходила к задаче B с попыткой забыть А
📌 После этого третья нейросеть пыталась на основе выходов восстановить то, что модель уже должна была забыть
Результат:
🔹 структура прошлого знания сохранялась настолько, что третья модель могла восстановить секретную информацию с точностью до ~98 %, даже когда её не должно было быть видно.
🧠 К чему это всё?
👉 Если ваша модель обучалась на чувствительных данных (например, PII, BERT-подобные embedding-механизмы с секретными маркерами),
👉 а затем вы переобучили её на другую задачу,
то старые «печатные следы» всё равно остаются в весах. Это не баг оптимизатора, это свойство Loss Landscape: локации весов.
🟢 Итого, если вы работаете с моделями, где конфиденциальность или безопасность критична, просто переобучение недостаточно.
Нужно:
🔹 понимать свойства Loss Landscape,
🔹 проектировать безопасность данных на уровне архитектуры, а не тренировки,
🔹 смотреть на проблему privacy-by-design, а не hope-by-regularization.
📌 О том, как сделать так, чтобы модель все-таки "забыла" данные мы писали ранее тут и тут.
Stay secure and read SecureTechTalks 📚
#SecureTechTalks #ИИ #машиннообучение #безопасностьML #privacy #нейросети #информационнаябезопасность #MLsecurity #deepLearning
Разбор феномена сублиминального обучения
Вы уже знаете, что если «дообучить» ИИ на новую задачу, то информация о старой все еще будет в "памяти" модели.
На днях вышла статья на Хабр, которая хорошо раскрывает эту тему. Авторы докопались до того, почему модели действительно «помнят» скрытую информацию, даже когда мы её вроде бы удалили.
🧠 Вспомнить всё
Когда мы дообучаем (fine-tune) нейросеть, чтобы адаптировать её к новой задаче, то это выглядит примерно так:
📌 есть модель, которая уже чему-то научилась →
📌 мы хотим «забыть» старое и научить новое →
📌 применяем регуляризацию, оптимизацию и уверены, что прошлое исчезло.
Вреальности оказывается, что информация от прошлой задачи остаётся в структуре весов модели, даже если она не участвует прямо в новой оптимизационной задаче.
🧩 Опыт, как элемент памяти
Оказывается, "забывание" это не просто удаление данных, а удаление следов в ландшафте весов модели, чего в реальности не происходит.
📌 Даже при агрессивной регуляризации сеть всё равно сохраняет прошлую информацию в скрытой структуре весов.
Это называется структурный импринтинг,
когда форма оптимального решения новой задачи строится на топологии, сформированной предыдущим обучением. Такая топология действует как «архитектурная память».
🔍 Эксперимент
Чтобы доказать этот эффект, авторы провели серию экспериментов на небольших сетях:
📌 Модель училась первой задаче А
📌 Затем переходила к задаче B с попыткой забыть А
📌 После этого третья нейросеть пыталась на основе выходов восстановить то, что модель уже должна была забыть
Результат:
🔹 структура прошлого знания сохранялась настолько, что третья модель могла восстановить секретную информацию с точностью до ~98 %, даже когда её не должно было быть видно.
🧠 К чему это всё?
👉 Если ваша модель обучалась на чувствительных данных (например, PII, BERT-подобные embedding-механизмы с секретными маркерами),
👉 а затем вы переобучили её на другую задачу,
то старые «печатные следы» всё равно остаются в весах. Это не баг оптимизатора, это свойство Loss Landscape: локации весов.
🟢 Итого, если вы работаете с моделями, где конфиденциальность или безопасность критична, просто переобучение недостаточно.
Нужно:
🔹 понимать свойства Loss Landscape,
🔹 проектировать безопасность данных на уровне архитектуры, а не тренировки,
🔹 смотреть на проблему privacy-by-design, а не hope-by-regularization.
📌 О том, как сделать так, чтобы модель все-таки "забыла" данные мы писали ранее тут и тут.
Stay secure and read SecureTechTalks 📚
#SecureTechTalks #ИИ #машиннообучение #безопасностьML #privacy #нейросети #информационнаябезопасность #MLsecurity #deepLearning
👍3