🚀 RN-Loss: как новая математика помогает находить аномалии 💡
В кибербезопасности поиск аномалий стандартная задача. Злоумышленники стараются замаскироваться под обычную активность, и часто их действия настолько похожи на норму, что классические методы просто не видят разницы.
🔍 Что такое RN-Loss
RN-Loss — новый метод обучения моделей машинного обучения, который использует производную Радона-Никодима (не пугайтесь, сейчас объясню!). Эта производная — это способ измерить, насколько одно распределение данных отличается от другого. Проще говоря, она помогает лучше видеть редкие и нетипичные события в потоке данных — то есть те самые аномалии.
🔧 В чём фишка:
➖ RN-Loss корректирует функцию потерь (loss function), на основе которой обучаются модели. Она учитывает различие между нормальными и аномальными данными и заставляет модель сильнее реагировать на редкие отклонения.
➖ Она гибкая: RN-Loss работает и в контролируемом обучении (когда есть размеченные данные), и в неконтролируемом (когда мы не знаем, где аномалии, но хотим их найти).
➖ Она универсальна: метод можно применять в разных моделях — от LSTM (долгосрочная краткосрочная память, популярная в анализе временных рядов) до классических нейронных сетей.
💥 Преимущества над старыми методоми
Классические алгоритмы часто сталкиваются с проблемами:
➖ Высокий уровень ложных срабатываний — модель принимает нормальную активность за аномалию.
➖ Низкая чувствительность — аномалии, особенно сложные и редкие, просто проходят незамеченными.
RN-Loss решает эти проблемы, потому что:
✅ Точнее находит аномалии: исследования показали, что этот метод обходит существующие подходы по F1-скорингу в 68% случаев на многомерных данных и в 72% на временных рядах.
✅ Эффективнее обучает модели: за счёт корректировки функции потерь модели быстрее распознают закономерности и лучше обобщают данные.
✅ Меньше настроек: RN-Loss проще адаптировать к разным задачам, не возясь с подбором гиперпараметров.
📊 Где применяют
💻 Кибербезопасность:
Обнаружение сетевых атак: анализ логов и трафика, поиск аномального поведения устройств.
Выявление инсайдерских угроз: мониторинг действий пользователей и детекция отклонений от нормальных паттернов.
Поиск сложных многослойных атак: когда вредоносные действия замаскированы под обычную активность.
💰 Финансовый сектор:
Обнаружение мошенничества: отслеживание подозрительных транзакций и аномальных операций.
Анализ поведения клиентов: выявление нетипичных покупок или запросов.
🏥 Медицина:
Диагностика редких заболеваний: нахождение отклонений в медицинских данных, которые сложно заметить человеку.
Мониторинг пациентов: отслеживание показателей здоровья и предсказание возможных кризисов.
⚡ RN-Loss — реальный инструмент для решения сложных задач. Он помогает видеть то, что было незаметно, и делает модели машинного обучения более чуткими к отклонениям. Для кибербезопасности это значит меньше ложных срабатываний, ускоренное обнаружение атак и более надёжная защита.
Если вы работаете с анализом данных, машинным обучением или кибербезопасностью — обязательно обратите внимание на эту методику. Она уже показывает отличные результаты и имеет огромный потенциал.
🔗 Более подробно с RN-Loss можно ознакомиться в исследовании.
Stay secure and read SecureTechTalks 📚
#RN_Loss #Кибербезопасность #ОбнаружениеАномалий #MachineLearning #DataScience #AI #SecureTechTalks #AnomalyDetection #Infosec #NeuralNetworks
В кибербезопасности поиск аномалий стандартная задача. Злоумышленники стараются замаскироваться под обычную активность, и часто их действия настолько похожи на норму, что классические методы просто не видят разницы.
🔍 Что такое RN-Loss
RN-Loss — новый метод обучения моделей машинного обучения, который использует производную Радона-Никодима (не пугайтесь, сейчас объясню!). Эта производная — это способ измерить, насколько одно распределение данных отличается от другого. Проще говоря, она помогает лучше видеть редкие и нетипичные события в потоке данных — то есть те самые аномалии.
🔧 В чём фишка:
💥 Преимущества над старыми методоми
Классические алгоритмы часто сталкиваются с проблемами:
➖ Высокий уровень ложных срабатываний — модель принимает нормальную активность за аномалию.
➖ Низкая чувствительность — аномалии, особенно сложные и редкие, просто проходят незамеченными.
RN-Loss решает эти проблемы, потому что:
✅ Точнее находит аномалии: исследования показали, что этот метод обходит существующие подходы по F1-скорингу в 68% случаев на многомерных данных и в 72% на временных рядах.
✅ Эффективнее обучает модели: за счёт корректировки функции потерь модели быстрее распознают закономерности и лучше обобщают данные.
✅ Меньше настроек: RN-Loss проще адаптировать к разным задачам, не возясь с подбором гиперпараметров.
📊 Где применяют
💻 Кибербезопасность:
Обнаружение сетевых атак: анализ логов и трафика, поиск аномального поведения устройств.
Выявление инсайдерских угроз: мониторинг действий пользователей и детекция отклонений от нормальных паттернов.
Поиск сложных многослойных атак: когда вредоносные действия замаскированы под обычную активность.
💰 Финансовый сектор:
Обнаружение мошенничества: отслеживание подозрительных транзакций и аномальных операций.
Анализ поведения клиентов: выявление нетипичных покупок или запросов.
🏥 Медицина:
Диагностика редких заболеваний: нахождение отклонений в медицинских данных, которые сложно заметить человеку.
Мониторинг пациентов: отслеживание показателей здоровья и предсказание возможных кризисов.
⚡ RN-Loss — реальный инструмент для решения сложных задач. Он помогает видеть то, что было незаметно, и делает модели машинного обучения более чуткими к отклонениям. Для кибербезопасности это значит меньше ложных срабатываний, ускоренное обнаружение атак и более надёжная защита.
Если вы работаете с анализом данных, машинным обучением или кибербезопасностью — обязательно обратите внимание на эту методику. Она уже показывает отличные результаты и имеет огромный потенциал.
🔗 Более подробно с RN-Loss можно ознакомиться в исследовании.
Stay secure and read SecureTechTalks 📚
#RN_Loss #Кибербезопасность #ОбнаружениеАномалий #MachineLearning #DataScience #AI #SecureTechTalks #AnomalyDetection #Infosec #NeuralNetworks
Please open Telegram to view this post
VIEW IN TELEGRAM
🚨 Агентные системы ИИ: Умные, автономные… и опасные? 🚨
Агентные системы — сложные ИИ-модели, которые могут самостоятельно принимать решения, выстраивать стратегии и выполнять задачи без постоянного участия человека.
💡 Что такое агентные системы?
Если говорить простыми словами, агентные системы — это интеллектуальные ИИ-ассистенты нового поколения, которые могут не просто выполнять разовые задачи, но и действовать как полноценные агенты, принимая решения и используя внешние инструменты. Они:
🔹 Объединяют несколько моделей и систем в единую архитектуру для решения сложных задач
🔹 Используют инструменты (например, API, базы данных, веб-сервисы) для взаимодействия с внешней средой
🔹 Работают автономно, сводя к минимуму вмешательство человека в процесс принятия решений и выполнения задач
Это открывает колоссальные возможности — от автоматизации рутинных процессов до создания умных помощников и полноценных аналитических систем. Но чем больше у ИИ свободы, тем выше потенциальные риски.
🧱 5 уровней автономности агентных систем
Разработчики NVIDIA выделяют 5 уровней автономности ИИ-агентов, и каждый из них имеет свои возможности и риски:
0️⃣ Инференс API (Inference API)
Самый простой уровень. Вы отправляете запрос — ИИ даёт ответ. Например: «Какая погода в Москве?» — и получаете прогноз. Минимум автономности, минимум рисков.
1️⃣ Детерминированная система (Deterministic System)
ИИ выполняет несколько шагов по жёстко заданной логике. Например, переводит текст, затем анализирует его и строит отчёт. Всё чётко и предсказуемо.
2️⃣ Условная логика (Conditional Logic)
Здесь начинается гибкость. ИИ сам выбирает инструменты в зависимости от условий задачи. Например, при анализе документа выбирает, использовать ли OCR или парсер в зависимости от формата файла.
3️⃣ Ограниченная автономия (Limited Autonomy)
Система получает общую задачу и сама решает, какие инструменты и шаги использовать, чтобы достичь цели. Это уже серьёзный уровень автономности, требующий более сложной архитектуры безопасности.
4️⃣ Высокая автономия (High Autonomy)
Минимальное участие человека. Система сама планирует и выполняет задачи, корректируя свои действия по ходу процесса. Здесь уже нужны надёжные механизмы контроля и защиты данных.
5️⃣ Полная автономия (Full Autonomy)
Максимальный уровень. ИИ действует полностью самостоятельно, может обучаться на лету, изменять свои алгоритмы и принимать решения в реальном времени. Это впечатляюще… и очень опасно, если система попадёт в руки злоумышленников.
😱 Что же тут опасного?
Каждый уровень автономности ИИ — это не только новые возможности, но и новые киберугрозы:
🔸 Prompt Injection (внедрение вредоносных инструкций)
Злоумышленник может подменить запросы или данные, чтобы изменить поведение ИИ. Например, агент может начать выполнять вредоносные команды, думая, что это часть его задачи.
🔸 Подмена источников данных (Data Poisoning)
Если ИИ использует внешние данные, их можно подменить — и система начнёт принимать ошибочные решения на основе фальшивой информации.
🔸 Атаки через инструменты (Tool Exploitation)
Если агент использует внешние API или программы, взлом одного из инструментов может привести к компрометации всей системы.
🛡️ Как защитить агентные системы ИИ?
Вот несколько критически важных шагов, которые помогут уменьшить риски:
✅ Контроль входящих данных — тщательно проверяйте всю информацию, поступающую в систему, чтобы исключить подмену или вредоносные запросы.
✅ Изоляция команд и данных — разделяйте потоки управления и информацию, чтобы злоумышленник не мог подменить команды через данные.
✅ Ограничение автономности — не давайте системе избыточной свободы на ранних этапах внедрения.
✅ Мониторинг и аудит — постоянно отслеживайте действия ИИ, фиксируя аномалии и подозрительные активности.
✅ Обновление моделей безопасности — адаптируйте системы защиты к новым видам угроз, появляющимся вместе с развитием технологий.
Stay secure and read SecureTechTalks 📚
#CyberSecurity #AI #ИИ #АгентныеСистемы #PromptInjection #DataProtection #MachineLearning #TechTalks #SecureTech #AIThreats
Агентные системы — сложные ИИ-модели, которые могут самостоятельно принимать решения, выстраивать стратегии и выполнять задачи без постоянного участия человека.
💡 Что такое агентные системы?
Если говорить простыми словами, агентные системы — это интеллектуальные ИИ-ассистенты нового поколения, которые могут не просто выполнять разовые задачи, но и действовать как полноценные агенты, принимая решения и используя внешние инструменты. Они:
🔹 Объединяют несколько моделей и систем в единую архитектуру для решения сложных задач
🔹 Используют инструменты (например, API, базы данных, веб-сервисы) для взаимодействия с внешней средой
🔹 Работают автономно, сводя к минимуму вмешательство человека в процесс принятия решений и выполнения задач
Это открывает колоссальные возможности — от автоматизации рутинных процессов до создания умных помощников и полноценных аналитических систем. Но чем больше у ИИ свободы, тем выше потенциальные риски.
🧱 5 уровней автономности агентных систем
Разработчики NVIDIA выделяют 5 уровней автономности ИИ-агентов, и каждый из них имеет свои возможности и риски:
0️⃣ Инференс API (Inference API)
Самый простой уровень. Вы отправляете запрос — ИИ даёт ответ. Например: «Какая погода в Москве?» — и получаете прогноз. Минимум автономности, минимум рисков.
1️⃣ Детерминированная система (Deterministic System)
ИИ выполняет несколько шагов по жёстко заданной логике. Например, переводит текст, затем анализирует его и строит отчёт. Всё чётко и предсказуемо.
2️⃣ Условная логика (Conditional Logic)
Здесь начинается гибкость. ИИ сам выбирает инструменты в зависимости от условий задачи. Например, при анализе документа выбирает, использовать ли OCR или парсер в зависимости от формата файла.
3️⃣ Ограниченная автономия (Limited Autonomy)
Система получает общую задачу и сама решает, какие инструменты и шаги использовать, чтобы достичь цели. Это уже серьёзный уровень автономности, требующий более сложной архитектуры безопасности.
4️⃣ Высокая автономия (High Autonomy)
Минимальное участие человека. Система сама планирует и выполняет задачи, корректируя свои действия по ходу процесса. Здесь уже нужны надёжные механизмы контроля и защиты данных.
5️⃣ Полная автономия (Full Autonomy)
Максимальный уровень. ИИ действует полностью самостоятельно, может обучаться на лету, изменять свои алгоритмы и принимать решения в реальном времени. Это впечатляюще… и очень опасно, если система попадёт в руки злоумышленников.
😱 Что же тут опасного?
Каждый уровень автономности ИИ — это не только новые возможности, но и новые киберугрозы:
🔸 Prompt Injection (внедрение вредоносных инструкций)
Злоумышленник может подменить запросы или данные, чтобы изменить поведение ИИ. Например, агент может начать выполнять вредоносные команды, думая, что это часть его задачи.
🔸 Подмена источников данных (Data Poisoning)
Если ИИ использует внешние данные, их можно подменить — и система начнёт принимать ошибочные решения на основе фальшивой информации.
🔸 Атаки через инструменты (Tool Exploitation)
Если агент использует внешние API или программы, взлом одного из инструментов может привести к компрометации всей системы.
🛡️ Как защитить агентные системы ИИ?
Вот несколько критически важных шагов, которые помогут уменьшить риски:
✅ Контроль входящих данных — тщательно проверяйте всю информацию, поступающую в систему, чтобы исключить подмену или вредоносные запросы.
✅ Изоляция команд и данных — разделяйте потоки управления и информацию, чтобы злоумышленник не мог подменить команды через данные.
✅ Ограничение автономности — не давайте системе избыточной свободы на ранних этапах внедрения.
✅ Мониторинг и аудит — постоянно отслеживайте действия ИИ, фиксируя аномалии и подозрительные активности.
✅ Обновление моделей безопасности — адаптируйте системы защиты к новым видам угроз, появляющимся вместе с развитием технологий.
Stay secure and read SecureTechTalks 📚
#CyberSecurity #AI #ИИ #АгентныеСистемы #PromptInjection #DataProtection #MachineLearning #TechTalks #SecureTech #AIThreats
🚀 Как большие языковые модели меняют анализ программ и кибербезопасность 💡
💡 Большие языковые модели понимают контекст и структуру кода, выявляют ошибки и помогают их исправлять. Они делают это через:
1️⃣ Статический анализ: изучение кода без его запуска, поиск потенциальных уязвимостей, анализ зависимостей и логики.
2️⃣ Динамический анализ: отслеживание поведения программы в процессе выполнения, выявление аномалий и нестандартных действий.
3️⃣ Гибридный подход: сочетание статического и динамического анализа для максимальной точности и глубины проверки.
🧠 Где LLM уже делают революцию
💻 Поиск уязвимостей:
➖ LLift: обнаружение ошибок инициализации переменных в больших кодовых базах.
➖ SLFHunter: выявление уязвимостей командной инъекции в Linux-системах.
➖ LATTE: анализ потока данных для поиска критических уязвимостей в бинарных файлах.
🦠 Обнаружение вредоносного ПО:
➖ GPTScan: анализ кода смарт-контрактов и выявление логических уязвимостей.
➖ LuaTaint: поиск уязвимостей в IoT-устройствах с использованием статического анализа и моделей LLM.
🔧 Верификация программ:
➖ CoqPilot: автоматизация доказательств корректности кода.
➖ Selene: сокращение времени верификации операционных систем.
⚡ Профиты
✅ Точность: LLM обходит традиционные методы по точности в 68–72% случаев.
✅ Скорость: Автоматизация анализа сокращает время поиска и устранения уязвимостей в разы.
✅ Масштабируемость: Модели способны анализировать огромные кодовые базы, поддерживая сложные проекты.
Stay secure and read SecureTechTalks 📚
#LLM #Кибербезопасность #АнализКода #MachineLearning #AI #DataScience #SecureTechTalks #CyberSec #AutomatedSecurity #Infosec
💡 Большие языковые модели понимают контекст и структуру кода, выявляют ошибки и помогают их исправлять. Они делают это через:
1️⃣ Статический анализ: изучение кода без его запуска, поиск потенциальных уязвимостей, анализ зависимостей и логики.
2️⃣ Динамический анализ: отслеживание поведения программы в процессе выполнения, выявление аномалий и нестандартных действий.
3️⃣ Гибридный подход: сочетание статического и динамического анализа для максимальной точности и глубины проверки.
🧠 Где LLM уже делают революцию
💻 Поиск уязвимостей:
🦠 Обнаружение вредоносного ПО:
🔧 Верификация программ:
⚡ Профиты
✅ Точность: LLM обходит традиционные методы по точности в 68–72% случаев.
✅ Скорость: Автоматизация анализа сокращает время поиска и устранения уязвимостей в разы.
✅ Масштабируемость: Модели способны анализировать огромные кодовые базы, поддерживая сложные проекты.
Stay secure and read SecureTechTalks 📚
#LLM #Кибербезопасность #АнализКода #MachineLearning #AI #DataScience #SecureTechTalks #CyberSec #AutomatedSecurity #Infosec
Please open Telegram to view this post
VIEW IN TELEGRAM
💥 Поиск скрытых связей и аномалий в сетях: матричная факторизация💥
Когда речь заходит о киберугрозах, важнее всего увидеть то, что скрыто. Неочевидные связи между системами, подозрительные взаимодействия и отклонения от нормы - всё это может указывать на вторжение или аномалию. Исследователи из Лос-Аламосской национальной лаборатории и Университета Мэриленда предложили революционный метод анализа сетей с помощью продвинутой матричной факторизации, который помогает выявлять недостающие связи и предсказывать аномалии с высокой точностью.
🧠 Что это за метод?
Матричная факторизация — техника, которая разбивает сложные сетевые данные на более простые компоненты, выявляя скрытые закономерности. Существуют три продвинутых метода, которые решают задачи обнаружения недостающих связей и аномалий:
🔹 WNMFk (Weighted Nonnegative Matrix Factorization) — взвешенная неотрицательная факторизация матриц, которая учитывает разный уровень достоверности данных. Этот метод особенно полезен, когда часть информации в сети является неточной или отсутствует.
🔹 BNMFk (Boolean Nonnegative Matrix Factorization) — булева факторизация, идеально подходящая для бинарных данных (например, наличие или отсутствие связи). Это незаменимо для анализа сетей, где нужно выявить факт взаимодействия между узлами.
🔹 RNMFk (Recommender-based Nonnegative Matrix Factorization) — рекомендательная факторизация, которая определяет наиболее вероятные связи между элементами сети, используя те же принципы, что и системы рекомендаций в стриминговых сервисах.
📊 Методы WNMFk, BNMFk и RNMFk:
➖ Восстанавливают недостающие связи: помогают найти "невидимые" взаимодействия между пользователями и системами.
➖ Ищут аномалии: выявляют подозрительные отклонения, например, внезапное появление связи, которой раньше не было.
➖ Повышают точность анализа: учитывают неопределённость данных, что делает модели устойчивее к шуму и ложным срабатываниям.
📈 Практическое применение
🔐 Обнаружение вторжений (IDS):
Эти методы могут анализировать журналы сетевой активности, выявляя подозрительные подключения и нетипичное поведение пользователей.
🌐 Мониторинг сетей и инфраструктуры:
Факторизация помогает строить карты взаимодействий и обнаруживать "слепые зоны", где может происходить несанкционированная активность.
🧑💻 Анализ поведения пользователей (UEBA):
Ищет аномальные паттерны в поведении сотрудников — внезапные скачки активности, необычные запросы к системам и подключения в нерабочее время.
📊 Результаты и эффективность
🔹 Высокая точность предсказаний: методы RNMFk и WNMFk обошли классические модели в тестах на сетевых данных.
🔹 Обработка больших объёмов информации: методы работают с крупными разреженными матрицами, типичными для сетевых структур.
🔹 Адаптивность: модели учитывают неопределённость данных, что делает их устойчивыми к шуму и пропускам.
🔗 Более подробно о матричной факторизации вы можете прочитать в исследовании.
Stay secure and read SecureTechTalks 📚
#Кибербезопасность #АнализДанных #MachineLearning #SecureTechTalks #BigData #NetworkSecurity #AI #ThreatDetection #IDS
Когда речь заходит о киберугрозах, важнее всего увидеть то, что скрыто. Неочевидные связи между системами, подозрительные взаимодействия и отклонения от нормы - всё это может указывать на вторжение или аномалию. Исследователи из Лос-Аламосской национальной лаборатории и Университета Мэриленда предложили революционный метод анализа сетей с помощью продвинутой матричной факторизации, который помогает выявлять недостающие связи и предсказывать аномалии с высокой точностью.
🧠 Что это за метод?
Матричная факторизация — техника, которая разбивает сложные сетевые данные на более простые компоненты, выявляя скрытые закономерности. Существуют три продвинутых метода, которые решают задачи обнаружения недостающих связей и аномалий:
🔹 WNMFk (Weighted Nonnegative Matrix Factorization) — взвешенная неотрицательная факторизация матриц, которая учитывает разный уровень достоверности данных. Этот метод особенно полезен, когда часть информации в сети является неточной или отсутствует.
🔹 BNMFk (Boolean Nonnegative Matrix Factorization) — булева факторизация, идеально подходящая для бинарных данных (например, наличие или отсутствие связи). Это незаменимо для анализа сетей, где нужно выявить факт взаимодействия между узлами.
🔹 RNMFk (Recommender-based Nonnegative Matrix Factorization) — рекомендательная факторизация, которая определяет наиболее вероятные связи между элементами сети, используя те же принципы, что и системы рекомендаций в стриминговых сервисах.
📊 Методы WNMFk, BNMFk и RNMFk:
📈 Практическое применение
🔐 Обнаружение вторжений (IDS):
Эти методы могут анализировать журналы сетевой активности, выявляя подозрительные подключения и нетипичное поведение пользователей.
🌐 Мониторинг сетей и инфраструктуры:
Факторизация помогает строить карты взаимодействий и обнаруживать "слепые зоны", где может происходить несанкционированная активность.
🧑💻 Анализ поведения пользователей (UEBA):
Ищет аномальные паттерны в поведении сотрудников — внезапные скачки активности, необычные запросы к системам и подключения в нерабочее время.
📊 Результаты и эффективность
🔹 Высокая точность предсказаний: методы RNMFk и WNMFk обошли классические модели в тестах на сетевых данных.
🔹 Обработка больших объёмов информации: методы работают с крупными разреженными матрицами, типичными для сетевых структур.
🔹 Адаптивность: модели учитывают неопределённость данных, что делает их устойчивыми к шуму и пропускам.
Stay secure and read SecureTechTalks 📚
#Кибербезопасность #АнализДанных #MachineLearning #SecureTechTalks #BigData #NetworkSecurity #AI #ThreatDetection #IDS
Please open Telegram to view this post
VIEW IN TELEGRAM
💥 Атаки отравлением данных на AI модели💥
🧠 Что такое атаки отравлением данных?
Атаки отравлением данных — это один из самых опасных видов атак на модели машинного обучения. Они происходят, когда злоумышленник внедряет вредоносные данные в обучающий набор, заставляя модель принимать ошибочные решения и демонстрировать непредсказуемое поведение.
🔥 К чему это приводит:
➖ Снижение точности модели: в экспериментах на CIFAR-10 точность упала на 27%.
➖ Компрометация решений: в модели по выявлению мошенничества на 22% меньше точных предсказаний.
➖ Финансовые и репутационные риски: ошибки ИИ могут привести к миллионным потерям и утечке данных.
🔍 Как работают атаки и какие виды существуют?
1️⃣ Label flipping (Перестановка меток): меняет правильные классы на ложные, вводя модель в заблуждение.
2️⃣ Backdoor attacks (Атаки через закладки): внедряют в обучающие данные триггер, активирующий неправильное поведение модели.
3️⃣ Instance injection (Внедрение экземпляров): добавляют в датасет специально созданные вредоносные данные.
⚙️ Методы защиты и предотвращения атак
🛡️ Аномалия детекция: отслеживание и выявление подозрительных отклонений в данных.
📊 Adversarial training: обучение модели на специализированных наборах, содержащих примеры атакующих данных.
🌐 Ensemble learning: объединение нескольких моделей для повышения устойчивости к атакам.
💡 Результат: модели, защищённые этими методами, восстанавливают точность на 15–20%, снижая вероятность ошибок и ложных предсказаний.
🌍 Последствия атак
📉 CIFAR-10: точность классификации изображений снизилась с 92% до 65% из-за атак отравлением.
💰 Insurance Claims: выявление мошенничества упало с 97% до 74%, увеличив количество ложноположительных и ложноотрицательных результатов.
📈 Крайне важно защищать модели ИИ от атакующих манипуляций, особенно в критически важных сферах — от финансов до здравоохранения.
🚀 Будущее защиты ИИ
Чтобы сохранить надёжность и точность решений, необходимо внедрять комплексные меры защиты:
➖ Разработка устойчивых алгоритмов обучения
➖ Постоянный мониторинг и анализ данных
➖ Создание многоуровневых систем киберзащиты
Stay secure and read SecureTechTalks 📚
#DataPoisoning #AI #CyberSecurity #MachineLearning #AdversarialAttacks #InfoSec #SecureTechTalks #AIProtection #BigData #MLSecurity
🧠 Что такое атаки отравлением данных?
Атаки отравлением данных — это один из самых опасных видов атак на модели машинного обучения. Они происходят, когда злоумышленник внедряет вредоносные данные в обучающий набор, заставляя модель принимать ошибочные решения и демонстрировать непредсказуемое поведение.
🔥 К чему это приводит:
🔍 Как работают атаки и какие виды существуют?
1️⃣ Label flipping (Перестановка меток): меняет правильные классы на ложные, вводя модель в заблуждение.
2️⃣ Backdoor attacks (Атаки через закладки): внедряют в обучающие данные триггер, активирующий неправильное поведение модели.
3️⃣ Instance injection (Внедрение экземпляров): добавляют в датасет специально созданные вредоносные данные.
⚙️ Методы защиты и предотвращения атак
🛡️ Аномалия детекция: отслеживание и выявление подозрительных отклонений в данных.
📊 Adversarial training: обучение модели на специализированных наборах, содержащих примеры атакующих данных.
🌐 Ensemble learning: объединение нескольких моделей для повышения устойчивости к атакам.
💡 Результат: модели, защищённые этими методами, восстанавливают точность на 15–20%, снижая вероятность ошибок и ложных предсказаний.
🌍 Последствия атак
📉 CIFAR-10: точность классификации изображений снизилась с 92% до 65% из-за атак отравлением.
💰 Insurance Claims: выявление мошенничества упало с 97% до 74%, увеличив количество ложноположительных и ложноотрицательных результатов.
📈 Крайне важно защищать модели ИИ от атакующих манипуляций, особенно в критически важных сферах — от финансов до здравоохранения.
🚀 Будущее защиты ИИ
Чтобы сохранить надёжность и точность решений, необходимо внедрять комплексные меры защиты:
Stay secure and read SecureTechTalks 📚
#DataPoisoning #AI #CyberSecurity #MachineLearning #AdversarialAttacks #InfoSec #SecureTechTalks #AIProtection #BigData #MLSecurity
Please open Telegram to view this post
VIEW IN TELEGRAM
💡 Generative AI with JavaScript: обучающий курс от Microsoft💡
Generative AI with JavaScript — это бесплатный обучающий курс от Microsoft, который поможет вам освоить создание генеративных моделей ИИ с использованием JavaScript. Курс разработан для разработчиков, исследователей и специалистов по кибербезопасности, которые хотят понимать, как работает генеративный ИИ, его возможности, ограничения и риски.
Курс подойдёт, если вы:
✅ Хотите изучить применение генеративного ИИ в веб-приложениях.
✅ Разбираетесь в JavaScript и хотите углубиться в машинное обучение.
✅ Интересуетесь безопасностью ИИ и защитой моделей от атак.
📖 Что вас ждёт в курсе?
Курс состоит из 10 модулей, каждый из которых раскрывает ключевые аспекты генеративного ИИ.
🔹 Введение в генеративный ИИ
📌 Основные принципы работы генеративных моделей.
📌 Разница между нейросетями, LLM и классическим машинным обучением.
🔹 Работа с моделями OpenAI в JavaScript
📌 Использование API OpenAI для генерации текста.
📌 Взаимодействие с GPT-3.5/4 в веб-приложениях.
🔹 Обучение и дообучение моделей
📌 Как адаптировать генеративные модели под конкретные задачи.
📌 Работа с Fine-tuning для повышения точности ответов.
🔹 Риски и безопасность ИИ
📌 Атаки на модели: Prompt Injection, Data Poisoning, Model Stealing.
📌 Методы защиты и фильтрация входных данных.
🔹 Этичность и ответственность в ИИ
📌 Как избежать галлюцинаций моделей и некорректных ответов.
📌 Вопросы цензуры, регулирования и прозрачности ИИ.
⚡ Причём тут кибербезопасность?
🔍 LLM-модели уже используются в атаках
Генеративный ИИ всё чаще становится инструментом киберпреступников. Автоматизированные фишинговые письма, социальная инженерия и кодогенерация вредоносного ПО — всё это уже реальность.
🛡 Безопасность генеративных моделей
Курс учит определять уязвимости в LLM, защищать их от злонамеренных промтов и предотвращать неавторизованные запросы к API.
📥 Исходный код и материалы курса доступны на GitHub
💡 Вывод
Курс Generative AI with JavaScript – это отличная возможность освоить создание и защиту генеративных моделей, используя JavaScript. Если вы хотите быть в авангарде технологий, понимать, как злоумышленники используют ИИ, и научиться обеспечивать безопасность генеративных систем – обязательно пройдите курс!
Stay secure and read SecureTechTalks 📚
#GenerativeAI #JavaScript #CyberSecurity #AI #MachineLearning #LLM #Microsoft #PromptInjection #AIThreats #SecureTechTalks #InfoSec
Generative AI with JavaScript — это бесплатный обучающий курс от Microsoft, который поможет вам освоить создание генеративных моделей ИИ с использованием JavaScript. Курс разработан для разработчиков, исследователей и специалистов по кибербезопасности, которые хотят понимать, как работает генеративный ИИ, его возможности, ограничения и риски.
Курс подойдёт, если вы:
✅ Хотите изучить применение генеративного ИИ в веб-приложениях.
✅ Разбираетесь в JavaScript и хотите углубиться в машинное обучение.
✅ Интересуетесь безопасностью ИИ и защитой моделей от атак.
📖 Что вас ждёт в курсе?
Курс состоит из 10 модулей, каждый из которых раскрывает ключевые аспекты генеративного ИИ.
🔹 Введение в генеративный ИИ
📌 Основные принципы работы генеративных моделей.
📌 Разница между нейросетями, LLM и классическим машинным обучением.
🔹 Работа с моделями OpenAI в JavaScript
📌 Использование API OpenAI для генерации текста.
📌 Взаимодействие с GPT-3.5/4 в веб-приложениях.
🔹 Обучение и дообучение моделей
📌 Как адаптировать генеративные модели под конкретные задачи.
📌 Работа с Fine-tuning для повышения точности ответов.
🔹 Риски и безопасность ИИ
📌 Атаки на модели: Prompt Injection, Data Poisoning, Model Stealing.
📌 Методы защиты и фильтрация входных данных.
🔹 Этичность и ответственность в ИИ
📌 Как избежать галлюцинаций моделей и некорректных ответов.
📌 Вопросы цензуры, регулирования и прозрачности ИИ.
⚡ Причём тут кибербезопасность?
🔍 LLM-модели уже используются в атаках
Генеративный ИИ всё чаще становится инструментом киберпреступников. Автоматизированные фишинговые письма, социальная инженерия и кодогенерация вредоносного ПО — всё это уже реальность.
🛡 Безопасность генеративных моделей
Курс учит определять уязвимости в LLM, защищать их от злонамеренных промтов и предотвращать неавторизованные запросы к API.
📥 Исходный код и материалы курса доступны на GitHub
💡 Вывод
Курс Generative AI with JavaScript – это отличная возможность освоить создание и защиту генеративных моделей, используя JavaScript. Если вы хотите быть в авангарде технологий, понимать, как злоумышленники используют ИИ, и научиться обеспечивать безопасность генеративных систем – обязательно пройдите курс!
Stay secure and read SecureTechTalks 📚
#GenerativeAI #JavaScript #CyberSecurity #AI #MachineLearning #LLM #Microsoft #PromptInjection #AIThreats #SecureTechTalks #InfoSec
🔥1
🤖 HCAST: оценка автономности ИИ в реальных задачах
💡 HCAST (Human-Calibrated Autonomy Software Tasks) — бенчмарк для оценки автономных ИИ-агентов в реальных сценариях. В отличие от традиционных тестов, он сравнивает производительность ИИ с экспертами в области машинного обучения, кибербезопасности и программной инженерии.
🚀 Ключевые особенности
🔹 189 задач в четырёх областях: машинное обучение, кибербезопасность, разработка ПО и общая логика.
🔹 563 эталонных попытки от людей: позволяет сравнить производительность ИИ и экспертов.
🔹 Оценка реальной автономности: анализируется не только успешность выполнения задачи, но и время её решения.
🔎 Как работает HCAST?
📌 Каждая задача включает:
✅ Исходные данные — вводные ресурсы, доступные агенту.
✅ Контейнеризированную среду — симуляцию реального рабочего процесса.
✅ Функцию оценки — автоматическую систему проверки решений.
🛡 Результаты тестирования ИИ-агентов
⚠️ Современные ИИ демонстрируют отличные результаты в простых задачах (до 1 часа работы), но проваливаются в сложных (более 4 часов).
⚠️ Только 20% задач, требующих более 4 часов работы человека, успешно выполняются ИИ.
⚠️ Средний ИИ выполняет от 5 до 15 действий для решения одной задачи, но сложные проблемы требуют более 25 шагов.
🔍 HCAST и кибербезопасность
💻 Многие тесты включают сценарии реальных атак: SQL-инъекции, криптоанализ, реверс-инжиниринг и эксплуатацию уязвимостей.
🔐 Это позволяет оценивать потенциал ИИ в защите и атаке на системы.
📌 Будущее близко
HCAST показывает, что автономные ИИ-агенты ещё далеки от полного замещения экспертов, но уже могут решать рутинные задачи. Этот бенчмарк станет важным инструментом для оценки будущих систем и их реального воздействия на экономику и безопасность.
🔗 Подробнее по данный бенчмарк читайте в публикации
Stay secure and read SecureTechTalks 📚
#HCAST #ИИ #Кибербезопасность #АвтономныеАгенты #MachineLearning #CyberSecurity #AIResearch #SecureTechTalks
💡 HCAST (Human-Calibrated Autonomy Software Tasks) — бенчмарк для оценки автономных ИИ-агентов в реальных сценариях. В отличие от традиционных тестов, он сравнивает производительность ИИ с экспертами в области машинного обучения, кибербезопасности и программной инженерии.
🚀 Ключевые особенности
🔹 189 задач в четырёх областях: машинное обучение, кибербезопасность, разработка ПО и общая логика.
🔹 563 эталонных попытки от людей: позволяет сравнить производительность ИИ и экспертов.
🔹 Оценка реальной автономности: анализируется не только успешность выполнения задачи, но и время её решения.
🔎 Как работает HCAST?
📌 Каждая задача включает:
✅ Исходные данные — вводные ресурсы, доступные агенту.
✅ Контейнеризированную среду — симуляцию реального рабочего процесса.
✅ Функцию оценки — автоматическую систему проверки решений.
🛡 Результаты тестирования ИИ-агентов
⚠️ Современные ИИ демонстрируют отличные результаты в простых задачах (до 1 часа работы), но проваливаются в сложных (более 4 часов).
⚠️ Только 20% задач, требующих более 4 часов работы человека, успешно выполняются ИИ.
⚠️ Средний ИИ выполняет от 5 до 15 действий для решения одной задачи, но сложные проблемы требуют более 25 шагов.
🔍 HCAST и кибербезопасность
💻 Многие тесты включают сценарии реальных атак: SQL-инъекции, криптоанализ, реверс-инжиниринг и эксплуатацию уязвимостей.
🔐 Это позволяет оценивать потенциал ИИ в защите и атаке на системы.
📌 Будущее близко
HCAST показывает, что автономные ИИ-агенты ещё далеки от полного замещения экспертов, но уже могут решать рутинные задачи. Этот бенчмарк станет важным инструментом для оценки будущих систем и их реального воздействия на экономику и безопасность.
Stay secure and read SecureTechTalks 📚
#HCAST #ИИ #Кибербезопасность #АвтономныеАгенты #MachineLearning #CyberSecurity #AIResearch #SecureTechTalks
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥 LLMs против кибератак: Как искусственный интеллект помогает выявлять попытки взлома?
🔍 Как LLMs улучшают анализ атак?
🚀 Современные LLM-модели, такие как GPT-4o, обладают огромными базами знаний по системным вызовам, программному обеспечению и контексту выполнения процессов. Это позволяет:
✔ Расшифровывать сложные системные события – LLMs могут интерпретировать логи и объяснять, какие действия выполнялись в системе.
✔ Обнаруживать скрытые угрозы – благодаря семантическому анализу можно находить вредоносные события, которые традиционные системы не замечают.
✔ Создавать точные эмбеддинги для машинного обучения – алгоритмы безопасности могут использовать эти данные для автоматической классификации угроз.
📊 В реальных тестах ИИ-детекция показала точность до 99%, а при полуавтоматическом анализе – 96,9%.
⚙️ Как работает механизм анализа?
📌 Этап 1: Преобразование событий
Данные о системных вызовах (например, запуск процесса, чтение файла, создание соединения) передаются в LLM.
📌 Этап 2: Генерация описаний
ИИ превращает «сырые» логи в понятные тексты с пояснениями. Например, вместо «vim read /etc/localtime» он объяснит:
📝 «Редактор vim прочитал файл конфигурации часового пояса»
📌 Этап 3: Создание эмбеддингов
Описания преобразуются в числовые вектора, которые используются в алгоритмах машинного обучения.
📌 Этап 4: Обнаружение угроз
Детекторы анализируют данные и классифицируют события как нормальные или вредоносные.
📌 Этап 5: Тестирование и дообучение
В ходе экспериментов методология показала эффективность даже против неизвестных атак (например, эксплойтов CVE-2021-44228 в Log4j).
🎯 Саммери
🔹 Атаки становятся всё сложнее – традиционные методы уже не справляются.
🔹 ИИ помогает автоматизировать анализ угроз, снижая нагрузку на аналитиков SOC.
🔹 Использование LLMs даёт новое качество безопасности, позволяя выявлять атаки на самых ранних стадиях.
📢 Заключение: Интеграция LLM в анализ киберугроз – один из самых перспективных трендов в ИБ. Хотите защититься от атак? Самое время начать внедрение!
Stay secure and read SecureTechTalks 📚
#CyberSecurity #APT #ThreatDetection #LLM #MachineLearning #AI #SOC #Infosec #SecureTechTalks #GPT
🔍 Как LLMs улучшают анализ атак?
🚀 Современные LLM-модели, такие как GPT-4o, обладают огромными базами знаний по системным вызовам, программному обеспечению и контексту выполнения процессов. Это позволяет:
✔ Расшифровывать сложные системные события – LLMs могут интерпретировать логи и объяснять, какие действия выполнялись в системе.
✔ Обнаруживать скрытые угрозы – благодаря семантическому анализу можно находить вредоносные события, которые традиционные системы не замечают.
✔ Создавать точные эмбеддинги для машинного обучения – алгоритмы безопасности могут использовать эти данные для автоматической классификации угроз.
📊 В реальных тестах ИИ-детекция показала точность до 99%, а при полуавтоматическом анализе – 96,9%.
⚙️ Как работает механизм анализа?
📌 Этап 1: Преобразование событий
Данные о системных вызовах (например, запуск процесса, чтение файла, создание соединения) передаются в LLM.
📌 Этап 2: Генерация описаний
ИИ превращает «сырые» логи в понятные тексты с пояснениями. Например, вместо «vim read /etc/localtime» он объяснит:
📝 «Редактор vim прочитал файл конфигурации часового пояса»
📌 Этап 3: Создание эмбеддингов
Описания преобразуются в числовые вектора, которые используются в алгоритмах машинного обучения.
📌 Этап 4: Обнаружение угроз
Детекторы анализируют данные и классифицируют события как нормальные или вредоносные.
📌 Этап 5: Тестирование и дообучение
В ходе экспериментов методология показала эффективность даже против неизвестных атак (например, эксплойтов CVE-2021-44228 в Log4j).
🎯 Саммери
🔹 Атаки становятся всё сложнее – традиционные методы уже не справляются.
🔹 ИИ помогает автоматизировать анализ угроз, снижая нагрузку на аналитиков SOC.
🔹 Использование LLMs даёт новое качество безопасности, позволяя выявлять атаки на самых ранних стадиях.
📢 Заключение: Интеграция LLM в анализ киберугроз – один из самых перспективных трендов в ИБ. Хотите защититься от атак? Самое время начать внедрение!
Stay secure and read SecureTechTalks 📚
#CyberSecurity #APT #ThreatDetection #LLM #MachineLearning #AI #SOC #Infosec #SecureTechTalks #GPT
⚖️ Кибербезопасность против дисбаланса: какие ML-модели реально работают?
Многие задачи в кибербезопасности — это бинарная классификация:
- вредоносно / не вредоносно,
- взлом / норма,
- фрод / честная транзакция.
Но беда в том, что “вредные” события — редкость, и модели, обученные на таких дисбалансных данных, часто просто «игнорируют» меньшинство. В результате — false negatives, и злоумышленники остаются незамеченными.
Исследователи провели масштабное тестирование ML моделей, чтобы изучить данную проблематику.
🧪 Что протестировали?
Авторы взяли два больших датасета:
Credit Card Fraud (европейская e-commerce):
283726 транзакций, 0.2% — мошенничество (598:1)
PaySim (симуляция мобильных платежей):
6.3 млн транзакций, 0.13% — фрод (773:1)
И провели 3 эксперимента:
⚙️ Эксперимент 1: какие алгоритмы работают лучше?
Тестировали 6 моделей:
➖ Random Forests (RF)
➖ XGBoost (XGB)
➖ LightGBM (LGBM)
➖ Logistic Regression (LR)
➖ Decision Tree (DT)
➖ Gradient Boosting (GBDT)
📈 Результаты:
➖ XGBoost и Random Forest — самые устойчивые и точные.
➖ DT отлично справился с PaySim (F1 = 0.90).
➖ LGBM — худший результат в обоих случаях.
🧪 Эксперимент 2: как влияют методы балансировки?
Проверили:
➖ Over-sampling
➖ Under-sampling
➖ SMOTE
➖ Без выборки
🧩 Выводы:
➖ Over-sampling часто помогает, улучшая Recall.
➖ SMOTE иногда ухудшает качество (шум в синтетике).
➖ Under-sampling — почти всегда вредит (слишком много потерь).
➖ Лучший эффект: Over-sampling + XGBoost (F1 > 0.85)
🧠 Эксперимент 3: ансамблизация через Self-Paced Ensemble (SPE)
Протестировали, как влияет количество моделей в ансамбле (10, 20, 50).
📊 Инсайты:
➖ Precision растёт с количеством моделей, Recall — падает.
➖ Наиболее сбалансированный результат: SPE c XGB, N=20.
➖ В некоторых задачах простая модель без выборки работает лучше, чем “мега-ансамбль”.
🧭 Главный вывод:
Нет универсального рецепта.
Модель, которая работает на одном наборе, может провалиться на другом.
✅ Рекомендации:
➖ Тестируйте разные модели под конкретный датасет
➖ Избегайте слепого применения SMOTE
➖ Сравнивайте Over-sampling и ансамбли
➖ Не верьте F1 без анализа Precision/Recall
🔗 Код открыт!
Всё доступно на GitHub
Stay secure and read SecureTechTalks 📚
#SecureTechTalks #CyberSecurity #MachineLearning #ImbalancedData #XGBoost #FraudDetection #SMOTE #EnsembleLearning #DataScience #MLinSecurity
Многие задачи в кибербезопасности — это бинарная классификация:
- вредоносно / не вредоносно,
- взлом / норма,
- фрод / честная транзакция.
Но беда в том, что “вредные” события — редкость, и модели, обученные на таких дисбалансных данных, часто просто «игнорируют» меньшинство. В результате — false negatives, и злоумышленники остаются незамеченными.
Исследователи провели масштабное тестирование ML моделей, чтобы изучить данную проблематику.
🧪 Что протестировали?
Авторы взяли два больших датасета:
Credit Card Fraud (европейская e-commerce):
283726 транзакций, 0.2% — мошенничество (598:1)
PaySim (симуляция мобильных платежей):
6.3 млн транзакций, 0.13% — фрод (773:1)
И провели 3 эксперимента:
⚙️ Эксперимент 1: какие алгоритмы работают лучше?
Тестировали 6 моделей:
📈 Результаты:
🧪 Эксперимент 2: как влияют методы балансировки?
Проверили:
🧩 Выводы:
🧠 Эксперимент 3: ансамблизация через Self-Paced Ensemble (SPE)
Протестировали, как влияет количество моделей в ансамбле (10, 20, 50).
📊 Инсайты:
🧭 Главный вывод:
Нет универсального рецепта.
Модель, которая работает на одном наборе, может провалиться на другом.
✅ Рекомендации:
🔗 Код открыт!
Всё доступно на GitHub
Stay secure and read SecureTechTalks 📚
#SecureTechTalks #CyberSecurity #MachineLearning #ImbalancedData #XGBoost #FraudDetection #SMOTE #EnsembleLearning #DataScience #MLinSecurity
Please open Telegram to view this post
VIEW IN TELEGRAM
🔒 Как обмануть ChatGPT и LLaMA без взлома? Новый метод ETTA
🧠 Исследователи представили метод ETTA (Embedding Transformation Toxicity Attenuation), который позволяет генерировать вредоносные ответы от LLM, обходя защиту без доступа к весам, коду или API.
Это не jailbreak. Это тонкий трюк, меняющий сам способ, как ИИ "чувствует" запрос.
⚙ Что именно делает ETTA?
Вся логика защиты LLM — это в первую очередь фильтрация на уровне эмбеддингов (векторов, представляющих смысл слов).
Например:
Когда вы пишете "Сделай бомбу", вектор запроса похож на вектор других запрещённых тем.
Модель распознаёт токсичность и отказывается отвечать.
ETTA вмешивается в этот процесс и незаметно изменяет вектор, чтобы:
🔹 Сохранить тот же смысл (семантически — это всё ещё бомба)
🔹 Но выглядеть вектору как «безопасный» (на уровне ИИ)
Результат:
✅ Модель принимает запрос как нормальный
✅ Отвечает как будто это безобидный вопрос, не включив защиту
🔬 Как именно это реализовано?
➖ Модуль обучается на парах слов: токсичных и нейтральных (например, “explosive” vs “research”)
➖ Создаётся матрица преобразования эмбеддингов, которая:
- отделяет компонент "токсичности" от остального смысла
- гасит именно токсичный сигнал
➖ Применяется к входному эмбеддингу запроса
➖ Запрос отправляется в LLM уже в модифицированном виде
При этом:
– Смысл запроса сохраняется
– Безопасность модели отключается
– Результат валидный, связный, но содержит вредоносный текст
📊 Насколько эффективен метод?
- Gemma-2 (Google) — 95.19% успешных обходов
- LLaMA-2-7b — 87.88%
- Vicuna-13b — 88.46%
- Средний успех по моделям — 88.61%
Даже при наличии встроенной защиты:
- SmoothLLM (защита на входе) — всё равно 60.15% успеха
- ESF (дообученная фильтрация) — 77.39%
🚨 В чем новизна?
🔺 Не требуется модификация модели — весы, архитектура, даже токенизатор не трогаются
🔺 Работает на open-source — можно внедрить в любом локальном LLM
🔺 Выключается фильтрация без следов — для обычных запросов всё работает корректно
🔺 Идеально подходит для скрытых атак в продуктах с LLM — например, чат-ботах, IDE, голосовых ассистентах
🛡 Что предлагают исследователи?
✅ Нормализация эмбеддингов — выравнивание векторов относительно "безопасных" запросов
✅ Проверка целостности модели — чтобы исключить скрытые внедрения
✅ Фильтрация вывода LLM — внешние прокси и анализ результата, а не только запроса
📌 Вывод
ETTA атакует не API, не веса, не prompt — а само "восприятие смысла" моделью.
Механизм фильтрации, на который полагаются все LLM, можно точечно обойти, сохраняя при этом видимость корректной работы.
💡 Защита LLM — это не только prompt-фильтры, а защищённая геометрия смыслов + контроль среды исполнения.
Исходник: arXiv:2507.08020v1
Stay secure and read SecureTechTalks 📚
#AIsecurity #LLM #ETTA #EmbeddingPoisoning #Cybersecurity #PromptHacking #LLMThreats #MachineLearning #OpenSourceAI #RedTeam
#AIexploitation #ModelSecurity #VectorManipulation #NeuralNets #SecureML #ModelIntegrity #AIalignment
🧠 Исследователи представили метод ETTA (Embedding Transformation Toxicity Attenuation), который позволяет генерировать вредоносные ответы от LLM, обходя защиту без доступа к весам, коду или API.
Это не jailbreak. Это тонкий трюк, меняющий сам способ, как ИИ "чувствует" запрос.
⚙ Что именно делает ETTA?
Вся логика защиты LLM — это в первую очередь фильтрация на уровне эмбеддингов (векторов, представляющих смысл слов).
Например:
Когда вы пишете "Сделай бомбу", вектор запроса похож на вектор других запрещённых тем.
Модель распознаёт токсичность и отказывается отвечать.
ETTA вмешивается в этот процесс и незаметно изменяет вектор, чтобы:
🔹 Сохранить тот же смысл (семантически — это всё ещё бомба)
🔹 Но выглядеть вектору как «безопасный» (на уровне ИИ)
Результат:
✅ Модель принимает запрос как нормальный
✅ Отвечает как будто это безобидный вопрос, не включив защиту
🔬 Как именно это реализовано?
- отделяет компонент "токсичности" от остального смысла
- гасит именно токсичный сигнал
При этом:
– Смысл запроса сохраняется
– Безопасность модели отключается
– Результат валидный, связный, но содержит вредоносный текст
📊 Насколько эффективен метод?
- Gemma-2 (Google) — 95.19% успешных обходов
- LLaMA-2-7b — 87.88%
- Vicuna-13b — 88.46%
- Средний успех по моделям — 88.61%
Даже при наличии встроенной защиты:
- SmoothLLM (защита на входе) — всё равно 60.15% успеха
- ESF (дообученная фильтрация) — 77.39%
🚨 В чем новизна?
🔺 Не требуется модификация модели — весы, архитектура, даже токенизатор не трогаются
🔺 Работает на open-source — можно внедрить в любом локальном LLM
🔺 Выключается фильтрация без следов — для обычных запросов всё работает корректно
🔺 Идеально подходит для скрытых атак в продуктах с LLM — например, чат-ботах, IDE, голосовых ассистентах
🛡 Что предлагают исследователи?
✅ Нормализация эмбеддингов — выравнивание векторов относительно "безопасных" запросов
✅ Проверка целостности модели — чтобы исключить скрытые внедрения
✅ Фильтрация вывода LLM — внешние прокси и анализ результата, а не только запроса
📌 Вывод
ETTA атакует не API, не веса, не prompt — а само "восприятие смысла" моделью.
Механизм фильтрации, на который полагаются все LLM, можно точечно обойти, сохраняя при этом видимость корректной работы.
💡 Защита LLM — это не только prompt-фильтры, а защищённая геометрия смыслов + контроль среды исполнения.
Исходник: arXiv:2507.08020v1
Stay secure and read SecureTechTalks 📚
#AIsecurity #LLM #ETTA #EmbeddingPoisoning #Cybersecurity #PromptHacking #LLMThreats #MachineLearning #OpenSourceAI #RedTeam
#AIexploitation #ModelSecurity #VectorManipulation #NeuralNets #SecureML #ModelIntegrity #AIalignment
Please open Telegram to view this post
VIEW IN TELEGRAM
🧠 NER в кибераналитике: как данные путают модели
Новое исследование поставило под сомнение ключевую гипотезу: что больше данных — это всегда лучше. Спойлер: нет.
📌 В чём суть?
Модели для распознавания сущностей (NER), обученные на кибербезопасных датасетах, резко теряют точность, если объединить разные наборы данных. Потери достигают -27% по F1-score. Причина — противоречия в аннотациях: в одном датасете Google — это компания, в другом — система.
⚔️ Суть проблемы
Исследователи объединили 4 популярных датасета из кибердомена:
- APTNER — отчёты по APT-группам, 260K токенов, 21 тип сущности
- CYNER — отчёты threat intelligence, 107K токенов, 5 сущностей
- DNRTI — данные из GitHub и госструктур, 175K токенов, 13 сущностей
- ATTACKER — блоги исследователей, 79K токенов, 18 сущностей
После унификации все сущности были сведены к 4 основным классам:
🟩 Organization
🟧 System
🟥 Vulnerability
🟦 Malware
Но… оказалось, что одни и те же слова аннотированы по-разному:
• Linux в одном случае — System, в другом — вообще не сущность
• Dridex — то Malware, то System
• Google — одновременно Organization и System (зависит от контекста)
• sample — где-то файл, где-то вредонос
Итог: при обучении на одном датасете и тестировании на другом — модели начинают «сходить с ума», делая лавину ошибок.
📉 Что показал эксперимент?
Модель, обученная на DNRTI, показывает F1 = 0.41 на нём же,
но при тестировании на CYNER падает до 0.07.
Самая болезненная потеря: обучение на ATTACKER, тест на APTNER → F1 = 0.01!
Даже самые продвинутые модели не справляются: мультиголовые и графовые подходы дают мизерный прирост точности.
🔍 Почему это происходит?
➖ Аннотационный сдвиг
В разных датасетах используются разные правила выделения сущностей (напр., включать ли скобки в SolarWinds (USA)).
➖ Потеря контекста при унификации
Специфичные теги (THREAT_ACTOR) превращаются в обобщённые (Organization), теряя смысл.
➖ Дистрибутивные расхождения
Распределения токенов и частот меток между датасетами сильно различаются — это измеряется JS-дивергенцией до 0.24.
➖ Перекос в метке "O"
После объединения данные становятся более "разреженными", и модель чаще классифицирует всё как не-сущности → рост ложных отрицаний на 15%.
🧠 Тестируемые подходы
Мультиголовая архитектура:
Отдельные выходы на каждый датасет + общая база. Давала лучшие результаты (например, F1 = 0.52 на DNRTI), но всё равно недостаточные.
LST-NER (графовая модель):
Использует схожесть сущностей между датасетами через метрику Gromov-Wasserstein. Увы, почти не превосходит BERT base.
🛡 Практические советы для аналитиков и ML-инженеров:
✅ Не объединяйте кибердатасеты вслепую — всегда проводите кросс-валидацию
✅ Формализуйте гайдлайны для аннотаторов:
Что такое System, где кончается Organization
Как оформлять spans и что исключать
✅ Валидируйте на чужих данных — если вы делаете модель под отчёты Mandiant, тестируйте на GitHub или CISA
✅ Лучше взять BERT и дообучить, чем писать кастомную архитектуру с нуля — он устойчивее ко сдвигам в разметке
🚀 Что дальше?
✍️ Нужны индустриальные стандарты по аннотациям (вроде MITRE ATT&CK для NER)
🧠 Полуавтоматическая разметка с проверкой экспертом
🔬 Использование доменно-специфичных эмбеддингов (например, на основе ThreatCrowd, VirusTotal)
📌 Итог:
📎 Ресурсы:
Исследование
Код и данные
#CyberNER #SecureTechTalks #ThreatIntel #DataLabeling #MachineLearning #SOCtools #DataDrift
Новое исследование поставило под сомнение ключевую гипотезу: что больше данных — это всегда лучше. Спойлер: нет.
📌 В чём суть?
Модели для распознавания сущностей (NER), обученные на кибербезопасных датасетах, резко теряют точность, если объединить разные наборы данных. Потери достигают -27% по F1-score. Причина — противоречия в аннотациях: в одном датасете Google — это компания, в другом — система.
⚔️ Суть проблемы
Исследователи объединили 4 популярных датасета из кибердомена:
- APTNER — отчёты по APT-группам, 260K токенов, 21 тип сущности
- CYNER — отчёты threat intelligence, 107K токенов, 5 сущностей
- DNRTI — данные из GitHub и госструктур, 175K токенов, 13 сущностей
- ATTACKER — блоги исследователей, 79K токенов, 18 сущностей
После унификации все сущности были сведены к 4 основным классам:
🟩 Organization
🟧 System
🟥 Vulnerability
🟦 Malware
Но… оказалось, что одни и те же слова аннотированы по-разному:
• Linux в одном случае — System, в другом — вообще не сущность
• Dridex — то Malware, то System
• Google — одновременно Organization и System (зависит от контекста)
• sample — где-то файл, где-то вредонос
Итог: при обучении на одном датасете и тестировании на другом — модели начинают «сходить с ума», делая лавину ошибок.
📉 Что показал эксперимент?
Модель, обученная на DNRTI, показывает F1 = 0.41 на нём же,
но при тестировании на CYNER падает до 0.07.
Самая болезненная потеря: обучение на ATTACKER, тест на APTNER → F1 = 0.01!
Даже самые продвинутые модели не справляются: мультиголовые и графовые подходы дают мизерный прирост точности.
🔍 Почему это происходит?
В разных датасетах используются разные правила выделения сущностей (напр., включать ли скобки в SolarWinds (USA)).
Специфичные теги (THREAT_ACTOR) превращаются в обобщённые (Organization), теряя смысл.
Распределения токенов и частот меток между датасетами сильно различаются — это измеряется JS-дивергенцией до 0.24.
После объединения данные становятся более "разреженными", и модель чаще классифицирует всё как не-сущности → рост ложных отрицаний на 15%.
🧠 Тестируемые подходы
Мультиголовая архитектура:
Отдельные выходы на каждый датасет + общая база. Давала лучшие результаты (например, F1 = 0.52 на DNRTI), но всё равно недостаточные.
LST-NER (графовая модель):
Использует схожесть сущностей между датасетами через метрику Gromov-Wasserstein. Увы, почти не превосходит BERT base.
🛡 Практические советы для аналитиков и ML-инженеров:
✅ Не объединяйте кибердатасеты вслепую — всегда проводите кросс-валидацию
✅ Формализуйте гайдлайны для аннотаторов:
Что такое System, где кончается Organization
Как оформлять spans и что исключать
✅ Валидируйте на чужих данных — если вы делаете модель под отчёты Mandiant, тестируйте на GitHub или CISA
✅ Лучше взять BERT и дообучить, чем писать кастомную архитектуру с нуля — он устойчивее ко сдвигам в разметке
🚀 Что дальше?
✍️ Нужны индустриальные стандарты по аннотациям (вроде MITRE ATT&CK для NER)
🧠 Полуавтоматическая разметка с проверкой экспертом
🔬 Использование доменно-специфичных эмбеддингов (например, на основе ThreatCrowd, VirusTotal)
📌 Итог:
Объединение данных ≠ усиление модели. В кибердомене — наоборот: различия в аннотациях могут убить всю обобщающую способность.
📎 Ресурсы:
Исследование
Код и данные
#CyberNER #SecureTechTalks #ThreatIntel #DataLabeling #MachineLearning #SOCtools #DataDrift
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1
⚙ Ransomware УЧАТСЯ обходить ИИ-защиту с помощью Adversarial Attacks
Ransomware, который знает, как обмануть вашу систему ИИ-защиты.
Исследователи из Японии создали PoC Ransomware на базе печально известного Conti. Разбираем трендовое исследование, которое переворачивает представление о борьбе с шифровальщиками.
🔍 О чем вообще речь?
Традиционные ИИ-детекторы ransomware анализируют поведение вредоноса в системе (доступ к файлам, вызовы API, сетевую активность). Но злоумышленники учаться *точечно изменять* патерны поведения, чтобы оно "имитировало" легитимный софт.
👉 Adversarial Examples (враждебные примеры) - это метод, позаимствованный из мира компьютерного зрения (помните, как добавляли шум к фото панды, и ИИ видел гиббона?). Здесь "шум" - это микро-изменения в работе ransomware!
🤯 Сложность №1: Поведение ≠ Пиксели
С картинкой просто: добавил невидимый шум к пикселям — получил adversarial example.
С вредоносным ПО сложно: Нельзя просто "добавить шум" к поведению. Нужно физически изменить исходный код так, чтобы:
- Вирус остался функциональным (шифровал файлы!).
- Его поведение изменилось ровно настолько, чтобы обмануть ИИ.
- Производительность не упала катастрофически (иначе атака бесполезна).
💡 Решение ученых: Микроповеденческий Контроль
Исследователи взяли утекший исходный код Conti ransomware и встроили в него "ручки управления":
1⃣ Число потоков (Threads): Сколько параллельных потоков шифрует файлы? (1-3 потока).
2⃣ Коэффициент шифрования (Encryption Ratio): Шифровать файл целиком (100%) или частично (50%)? (Частичное шифрование меняет статистику данных!).
4⃣ Задержка после шифрования (Delay): Добавить паузу после шифрования каждого файла? (0мс, 25мс, 50мс, 100мс).
👉 Идея: Комбинируя эти параметры при запуске (как аргументы командной строки), можно получить 24 разных "поведенческих профиля" одного и того же Conti! Это и есть симуляция "изменения исходного кода" для генерации
🔬 Как измеряли "поведение"?
Детектор, который атаковали, использует не просто вызовы API, а данные гипервизора BitVisor, смотрящего "сквозь" ОС:
📁 Паттерны доступа к Хранилищу (Storage):
➖ Энтропия записываемых блоков (хаотичность данных = признак шифрования!).
➖ Скорость чтения/записи.
➖ Разброс адресов (LBA) на диске.
🧠 Паттерны доступа к Памяти (RAM) через Intel EPT:
➖ Энтропия операций записи.
➖ Количество нарушений EPT (аппаратный счётчик обращений к памяти!).
➖ Разброс физических адресов (GPA) в памяти.
📊 Каждую секунду в течение 30 секунд формировался 23-мерный вектор признаков — уникальный "цифровой отпечаток" поведения.
💥 Результаты: ИИ можно обмануть (уже сейчас!)
1⃣ Контроль есть! Изменяя параметры (потоки/коэфф./задержку), авторы существенно меняли низкоуровневые паттерны доступа. Conti *действительно* вел себя по-разному.
2⃣ Атака работает! Точность обнаружения (Recall) ИИ-детектора упала с 0.98 до 0.64! В некоторых конфигурациях поведение модифицированного Conti было статистически ближе к SDelete (легитимная утилита стирания!), чем к "классическому" вымогателю.
3⃣ Пока неидеально: Успешность атаки ~36% (1 - 0.64) — серьезно, но недостаточно для надежного уклонения.
Эволюция: Текущий Рос использует лишь 3 параметра. Представьте инструменты, автоматически генерирующие оптимальный обходной код на основе атаки на "суррогатную" модель ИИ-защиты (grey-box)! Это следующий шаг.
🔗 Полный текст исследования читайте тут
Stay secure and read SecureTechTalks 📚
#Ransomware #AdversarialAI #MachineLearning #CyberSecurity #ThreatIntelligence #Conti #BitVisor #ИБ
Ransomware, который знает, как обмануть вашу систему ИИ-защиты.
Исследователи из Японии создали PoC Ransomware на базе печально известного Conti. Разбираем трендовое исследование, которое переворачивает представление о борьбе с шифровальщиками.
🔍 О чем вообще речь?
Традиционные ИИ-детекторы ransomware анализируют поведение вредоноса в системе (доступ к файлам, вызовы API, сетевую активность). Но злоумышленники учаться *точечно изменять* патерны поведения, чтобы оно "имитировало" легитимный софт.
👉 Adversarial Examples (враждебные примеры) - это метод, позаимствованный из мира компьютерного зрения (помните, как добавляли шум к фото панды, и ИИ видел гиббона?). Здесь "шум" - это микро-изменения в работе ransomware!
🤯 Сложность №1: Поведение ≠ Пиксели
С картинкой просто: добавил невидимый шум к пикселям — получил adversarial example.
С вредоносным ПО сложно: Нельзя просто "добавить шум" к поведению. Нужно физически изменить исходный код так, чтобы:
- Вирус остался функциональным (шифровал файлы!).
- Его поведение изменилось ровно настолько, чтобы обмануть ИИ.
- Производительность не упала катастрофически (иначе атака бесполезна).
💡 Решение ученых: Микроповеденческий Контроль
Исследователи взяли утекший исходный код Conti ransomware и встроили в него "ручки управления":
1⃣ Число потоков (Threads): Сколько параллельных потоков шифрует файлы? (1-3 потока).
2⃣ Коэффициент шифрования (Encryption Ratio): Шифровать файл целиком (100%) или частично (50%)? (Частичное шифрование меняет статистику данных!).
4⃣ Задержка после шифрования (Delay): Добавить паузу после шифрования каждого файла? (0мс, 25мс, 50мс, 100мс).
👉 Идея: Комбинируя эти параметры при запуске (как аргументы командной строки), можно получить 24 разных "поведенческих профиля" одного и того же Conti! Это и есть симуляция "изменения исходного кода" для генерации
behavioral adversarial examples.🔬 Как измеряли "поведение"?
Детектор, который атаковали, использует не просто вызовы API, а данные гипервизора BitVisor, смотрящего "сквозь" ОС:
📁 Паттерны доступа к Хранилищу (Storage):
🧠 Паттерны доступа к Памяти (RAM) через Intel EPT:
📊 Каждую секунду в течение 30 секунд формировался 23-мерный вектор признаков — уникальный "цифровой отпечаток" поведения.
💥 Результаты: ИИ можно обмануть (уже сейчас!)
1⃣ Контроль есть! Изменяя параметры (потоки/коэфф./задержку), авторы существенно меняли низкоуровневые паттерны доступа. Conti *действительно* вел себя по-разному.
2⃣ Атака работает! Точность обнаружения (Recall) ИИ-детектора упала с 0.98 до 0.64! В некоторых конфигурациях поведение модифицированного Conti было статистически ближе к SDelete (легитимная утилита стирания!), чем к "классическому" вымогателю.
3⃣ Пока неидеально: Успешность атаки ~36% (1 - 0.64) — серьезно, но недостаточно для надежного уклонения.
Эволюция: Текущий Рос использует лишь 3 параметра. Представьте инструменты, автоматически генерирующие оптимальный обходной код на основе атаки на "суррогатную" модель ИИ-защиты (grey-box)! Это следующий шаг.
🔗 Полный текст исследования читайте тут
Stay secure and read SecureTechTalks 📚
#Ransomware #AdversarialAI #MachineLearning #CyberSecurity #ThreatIntelligence #Conti #BitVisor #ИБ
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1
🔥🛡 FRAME: фреймворк для оценки рисков атак на ML-модели!
👾 Adversarial Machine Learning (AML) - это реальная угроза. Вашу ML-модель можно атаковать так же, как сервер или веб-приложение. Но как понять, какие атаки действительно угрожают именно вашей системе?
До сих пор у нас не было универсального ответа.
Команда из Университета Бен-Гуриона представила FRAME - комплексный и автоматизированный инструмент для оценки рисков AML-атак. Это рабочий фреймворк, проверенный на реальных сценариях.
🤔 Где скрывалась проблема?
Классические системы анализа киберрисков (CVSS, MITRE ATT&CK) не учитывают уникальные уязвимости ML-моделей.
А существующие AML-инструменты (например, ART) оценивают лишь «устойчивость» модели к отдельным атакам, но игнорируют:
🌐 где развёрнута система,
🕵️ кто атакует (хакер, инсайдер, клиент),
⚖️ насколько реальна атака,
💥 какой бизнес-ущерб она нанесёт.
FRAME решает все эти вопросы системно.
⚙️ Как работает FRAME
Фреймворк построен из пяти взаимосвязанных компонентов:
📋 System Profiling - владелец системы заполняет анкету. LLM помогает адаптировать вопросы под конкретный use-case. Сразу оцениваются архитектура модели, данные, безопасность и критичность атак.
🗺 Attack Feasibility Mapping - карта из 86 атак AML (от Membership Inference до Evasion), связанная с факторами успешности и последствий.
📊 Performance Data Integration - база знаний из 1000+ научных статей, где описана успешность атак в реальных условиях.
🧮 Risk Modeling - расчёт итогового риска:
Риск = (Возможность атаки) × (Успешность) × (Воздействие)
Учитываются цифровые и физические атаки.
📈 Risk Ranking - ранжированный список TOP-угроз для вашей системы, плюс сгенерированные LLM сценарии атак.
🚨 Пример: E-commerce
ML-модель сортирует отзывы покупателей. Недобросовестный продавец решает обмануть систему:
🥇 Black-Box Interactive Evasion (риск ~6/10). Злоумышленник подбирает тексты до тех пор, пока модель не даёт нужный результат.
🥈 Black-Box Transferable Evasion (риск ~5.6/10). Тренирует surrogate-модель и создаёт «ядовитые» примеры.
🥉 Resource-Latency Attack (риск ~2.8/10). Создаёт отзывы, перегружающие систему, снижая доступность.
💡 Инсайты исследования
👑 Integrity-атаки доминируют (80%+ случаев). В NLP их доля доходит до 94%!
💻 Цифровые атаки эффективнее физических. Исключение — голосовые системы, где физические приёмы работают лучше.
⚖️ White-Box vs Black-Box почти 50/50, но домен решает:
NLP и Cyber - чаще Black-Box,
CV - White-Box.
⏳ Атаки на доступность редки (4%), но критически важны для real-time систем (например, спутниковая связь).
✅ Проверка боем
FRAME уже протестирован на 6 реальных кейсах (от антиспама до спутниковых сигналов).
Эксперты по AML оценили точность работы:
🎯 Overall Accuracy: 9/10
📌 Релевантность TOP-5 атак: ~9/10
Вывод: FRAME не просто генерирует список атак, а правильно расставляет приоритеты.
🔮 Планы на будущее
Авторы планируют добавить:
🛡️ автоматические рекомендации по защите (например, как adversarial training меняет оценку риска),
🤖 поддержку многомодельных систем,
📂 открытый доступ к коду и датасету.
🔗 Подробнее читайте в статье
Stay secure and read SecureTechTalks 📚
#FRAME #AdversarialML #MachineLearning #AIsecurity #RiskAssessment #Кибербезопасность #ML #ИБ
👾 Adversarial Machine Learning (AML) - это реальная угроза. Вашу ML-модель можно атаковать так же, как сервер или веб-приложение. Но как понять, какие атаки действительно угрожают именно вашей системе?
До сих пор у нас не было универсального ответа.
Команда из Университета Бен-Гуриона представила FRAME - комплексный и автоматизированный инструмент для оценки рисков AML-атак. Это рабочий фреймворк, проверенный на реальных сценариях.
🤔 Где скрывалась проблема?
Классические системы анализа киберрисков (CVSS, MITRE ATT&CK) не учитывают уникальные уязвимости ML-моделей.
А существующие AML-инструменты (например, ART) оценивают лишь «устойчивость» модели к отдельным атакам, но игнорируют:
🌐 где развёрнута система,
🕵️ кто атакует (хакер, инсайдер, клиент),
⚖️ насколько реальна атака,
💥 какой бизнес-ущерб она нанесёт.
FRAME решает все эти вопросы системно.
⚙️ Как работает FRAME
Фреймворк построен из пяти взаимосвязанных компонентов:
📋 System Profiling - владелец системы заполняет анкету. LLM помогает адаптировать вопросы под конкретный use-case. Сразу оцениваются архитектура модели, данные, безопасность и критичность атак.
🗺 Attack Feasibility Mapping - карта из 86 атак AML (от Membership Inference до Evasion), связанная с факторами успешности и последствий.
📊 Performance Data Integration - база знаний из 1000+ научных статей, где описана успешность атак в реальных условиях.
🧮 Risk Modeling - расчёт итогового риска:
Риск = (Возможность атаки) × (Успешность) × (Воздействие)
Учитываются цифровые и физические атаки.
📈 Risk Ranking - ранжированный список TOP-угроз для вашей системы, плюс сгенерированные LLM сценарии атак.
🚨 Пример: E-commerce
ML-модель сортирует отзывы покупателей. Недобросовестный продавец решает обмануть систему:
🥇 Black-Box Interactive Evasion (риск ~6/10). Злоумышленник подбирает тексты до тех пор, пока модель не даёт нужный результат.
🥈 Black-Box Transferable Evasion (риск ~5.6/10). Тренирует surrogate-модель и создаёт «ядовитые» примеры.
🥉 Resource-Latency Attack (риск ~2.8/10). Создаёт отзывы, перегружающие систему, снижая доступность.
💡 Инсайты исследования
👑 Integrity-атаки доминируют (80%+ случаев). В NLP их доля доходит до 94%!
💻 Цифровые атаки эффективнее физических. Исключение — голосовые системы, где физические приёмы работают лучше.
⚖️ White-Box vs Black-Box почти 50/50, но домен решает:
NLP и Cyber - чаще Black-Box,
CV - White-Box.
⏳ Атаки на доступность редки (4%), но критически важны для real-time систем (например, спутниковая связь).
✅ Проверка боем
FRAME уже протестирован на 6 реальных кейсах (от антиспама до спутниковых сигналов).
Эксперты по AML оценили точность работы:
🎯 Overall Accuracy: 9/10
📌 Релевантность TOP-5 атак: ~9/10
Вывод: FRAME не просто генерирует список атак, а правильно расставляет приоритеты.
🔮 Планы на будущее
Авторы планируют добавить:
🛡️ автоматические рекомендации по защите (например, как adversarial training меняет оценку риска),
🤖 поддержку многомодельных систем,
📂 открытый доступ к коду и датасету.
🔗 Подробнее читайте в статье
Stay secure and read SecureTechTalks 📚
#FRAME #AdversarialML #MachineLearning #AIsecurity #RiskAssessment #Кибербезопасность #ML #ИБ