🚨 Агентные системы ИИ: Умные, автономные… и опасные? 🚨
Агентные системы — сложные ИИ-модели, которые могут самостоятельно принимать решения, выстраивать стратегии и выполнять задачи без постоянного участия человека.
💡 Что такое агентные системы?
Если говорить простыми словами, агентные системы — это интеллектуальные ИИ-ассистенты нового поколения, которые могут не просто выполнять разовые задачи, но и действовать как полноценные агенты, принимая решения и используя внешние инструменты. Они:
🔹 Объединяют несколько моделей и систем в единую архитектуру для решения сложных задач
🔹 Используют инструменты (например, API, базы данных, веб-сервисы) для взаимодействия с внешней средой
🔹 Работают автономно, сводя к минимуму вмешательство человека в процесс принятия решений и выполнения задач
Это открывает колоссальные возможности — от автоматизации рутинных процессов до создания умных помощников и полноценных аналитических систем. Но чем больше у ИИ свободы, тем выше потенциальные риски.
🧱 5 уровней автономности агентных систем
Разработчики NVIDIA выделяют 5 уровней автономности ИИ-агентов, и каждый из них имеет свои возможности и риски:
0️⃣ Инференс API (Inference API)
Самый простой уровень. Вы отправляете запрос — ИИ даёт ответ. Например: «Какая погода в Москве?» — и получаете прогноз. Минимум автономности, минимум рисков.
1️⃣ Детерминированная система (Deterministic System)
ИИ выполняет несколько шагов по жёстко заданной логике. Например, переводит текст, затем анализирует его и строит отчёт. Всё чётко и предсказуемо.
2️⃣ Условная логика (Conditional Logic)
Здесь начинается гибкость. ИИ сам выбирает инструменты в зависимости от условий задачи. Например, при анализе документа выбирает, использовать ли OCR или парсер в зависимости от формата файла.
3️⃣ Ограниченная автономия (Limited Autonomy)
Система получает общую задачу и сама решает, какие инструменты и шаги использовать, чтобы достичь цели. Это уже серьёзный уровень автономности, требующий более сложной архитектуры безопасности.
4️⃣ Высокая автономия (High Autonomy)
Минимальное участие человека. Система сама планирует и выполняет задачи, корректируя свои действия по ходу процесса. Здесь уже нужны надёжные механизмы контроля и защиты данных.
5️⃣ Полная автономия (Full Autonomy)
Максимальный уровень. ИИ действует полностью самостоятельно, может обучаться на лету, изменять свои алгоритмы и принимать решения в реальном времени. Это впечатляюще… и очень опасно, если система попадёт в руки злоумышленников.
😱 Что же тут опасного?
Каждый уровень автономности ИИ — это не только новые возможности, но и новые киберугрозы:
🔸 Prompt Injection (внедрение вредоносных инструкций)
Злоумышленник может подменить запросы или данные, чтобы изменить поведение ИИ. Например, агент может начать выполнять вредоносные команды, думая, что это часть его задачи.
🔸 Подмена источников данных (Data Poisoning)
Если ИИ использует внешние данные, их можно подменить — и система начнёт принимать ошибочные решения на основе фальшивой информации.
🔸 Атаки через инструменты (Tool Exploitation)
Если агент использует внешние API или программы, взлом одного из инструментов может привести к компрометации всей системы.
🛡️ Как защитить агентные системы ИИ?
Вот несколько критически важных шагов, которые помогут уменьшить риски:
✅ Контроль входящих данных — тщательно проверяйте всю информацию, поступающую в систему, чтобы исключить подмену или вредоносные запросы.
✅ Изоляция команд и данных — разделяйте потоки управления и информацию, чтобы злоумышленник не мог подменить команды через данные.
✅ Ограничение автономности — не давайте системе избыточной свободы на ранних этапах внедрения.
✅ Мониторинг и аудит — постоянно отслеживайте действия ИИ, фиксируя аномалии и подозрительные активности.
✅ Обновление моделей безопасности — адаптируйте системы защиты к новым видам угроз, появляющимся вместе с развитием технологий.
Stay secure and read SecureTechTalks 📚
#CyberSecurity #AI #ИИ #АгентныеСистемы #PromptInjection #DataProtection #MachineLearning #TechTalks #SecureTech #AIThreats
Агентные системы — сложные ИИ-модели, которые могут самостоятельно принимать решения, выстраивать стратегии и выполнять задачи без постоянного участия человека.
💡 Что такое агентные системы?
Если говорить простыми словами, агентные системы — это интеллектуальные ИИ-ассистенты нового поколения, которые могут не просто выполнять разовые задачи, но и действовать как полноценные агенты, принимая решения и используя внешние инструменты. Они:
🔹 Объединяют несколько моделей и систем в единую архитектуру для решения сложных задач
🔹 Используют инструменты (например, API, базы данных, веб-сервисы) для взаимодействия с внешней средой
🔹 Работают автономно, сводя к минимуму вмешательство человека в процесс принятия решений и выполнения задач
Это открывает колоссальные возможности — от автоматизации рутинных процессов до создания умных помощников и полноценных аналитических систем. Но чем больше у ИИ свободы, тем выше потенциальные риски.
🧱 5 уровней автономности агентных систем
Разработчики NVIDIA выделяют 5 уровней автономности ИИ-агентов, и каждый из них имеет свои возможности и риски:
0️⃣ Инференс API (Inference API)
Самый простой уровень. Вы отправляете запрос — ИИ даёт ответ. Например: «Какая погода в Москве?» — и получаете прогноз. Минимум автономности, минимум рисков.
1️⃣ Детерминированная система (Deterministic System)
ИИ выполняет несколько шагов по жёстко заданной логике. Например, переводит текст, затем анализирует его и строит отчёт. Всё чётко и предсказуемо.
2️⃣ Условная логика (Conditional Logic)
Здесь начинается гибкость. ИИ сам выбирает инструменты в зависимости от условий задачи. Например, при анализе документа выбирает, использовать ли OCR или парсер в зависимости от формата файла.
3️⃣ Ограниченная автономия (Limited Autonomy)
Система получает общую задачу и сама решает, какие инструменты и шаги использовать, чтобы достичь цели. Это уже серьёзный уровень автономности, требующий более сложной архитектуры безопасности.
4️⃣ Высокая автономия (High Autonomy)
Минимальное участие человека. Система сама планирует и выполняет задачи, корректируя свои действия по ходу процесса. Здесь уже нужны надёжные механизмы контроля и защиты данных.
5️⃣ Полная автономия (Full Autonomy)
Максимальный уровень. ИИ действует полностью самостоятельно, может обучаться на лету, изменять свои алгоритмы и принимать решения в реальном времени. Это впечатляюще… и очень опасно, если система попадёт в руки злоумышленников.
😱 Что же тут опасного?
Каждый уровень автономности ИИ — это не только новые возможности, но и новые киберугрозы:
🔸 Prompt Injection (внедрение вредоносных инструкций)
Злоумышленник может подменить запросы или данные, чтобы изменить поведение ИИ. Например, агент может начать выполнять вредоносные команды, думая, что это часть его задачи.
🔸 Подмена источников данных (Data Poisoning)
Если ИИ использует внешние данные, их можно подменить — и система начнёт принимать ошибочные решения на основе фальшивой информации.
🔸 Атаки через инструменты (Tool Exploitation)
Если агент использует внешние API или программы, взлом одного из инструментов может привести к компрометации всей системы.
🛡️ Как защитить агентные системы ИИ?
Вот несколько критически важных шагов, которые помогут уменьшить риски:
✅ Контроль входящих данных — тщательно проверяйте всю информацию, поступающую в систему, чтобы исключить подмену или вредоносные запросы.
✅ Изоляция команд и данных — разделяйте потоки управления и информацию, чтобы злоумышленник не мог подменить команды через данные.
✅ Ограничение автономности — не давайте системе избыточной свободы на ранних этапах внедрения.
✅ Мониторинг и аудит — постоянно отслеживайте действия ИИ, фиксируя аномалии и подозрительные активности.
✅ Обновление моделей безопасности — адаптируйте системы защиты к новым видам угроз, появляющимся вместе с развитием технологий.
Stay secure and read SecureTechTalks 📚
#CyberSecurity #AI #ИИ #АгентныеСистемы #PromptInjection #DataProtection #MachineLearning #TechTalks #SecureTech #AIThreats
🔒 Как защитить свои чаты ChatGPT от попадания в Google
📌 Довольно часто ссылки на чаты ChatGPT оказываются в поисковой выдаче Google.
Представьте, вы месяц назад вели приватный диалог с ChatGPТ, обсуждали стратегию, инсайты, коммерческие детали. И тут вдруг находите переписку в Google! 😱
Вот пошаговый план, чтобы этого не произошло:
🛠 Чеклист безопасности
🔎 Шаг 1. Проверить, есть ли публичные ссылки
Зайдите в Profile → Settings → Data Controls → Shared Links
Просмотрите список всё, что активно, потенциально доступно извне
🗑 Шаг 2. Удалить ненужные ссылки
Нажмите «Delete» у каждой
После удаления ссылка должна возвращать 404 Not Found
🌐 Шаг 3. Проверить Google
Вбейте в поиск свой ник, e-mail или уникальные фразы из чатов
Если ссылка есть в выдаче — действуем дальше
🚫 Шаг 4. Удалить из индекса
Откройте сервис Google Remove Outdated Content
Отправьте запрос на удаление URL (Permanent removal)
Обычно очистка занимает 1–3 дня
🛡 Профилактика
🚷 Не делитесь конфиденциальным — маскируйте данные перед публикацией
🔗 Ограничивайте доступ — создавайте ссылки только для реальной необходимости
📅 Регулярно мониторьте поисковые системы по своим ключам
✂️ Минимизируйте данные — чем меньше приватного в чате, тем спокойнее
Stay secure and read SecureTechTalks 📚
#кибербезопасность #ChatGPT #privacy #digitalhygiene #security #SecureTech #ИИ #инфобез #google
📌 Довольно часто ссылки на чаты ChatGPT оказываются в поисковой выдаче Google.
Представьте, вы месяц назад вели приватный диалог с ChatGPТ, обсуждали стратегию, инсайты, коммерческие детали. И тут вдруг находите переписку в Google! 😱
Вот пошаговый план, чтобы этого не произошло:
🛠 Чеклист безопасности
🔎 Шаг 1. Проверить, есть ли публичные ссылки
Зайдите в Profile → Settings → Data Controls → Shared Links
Просмотрите список всё, что активно, потенциально доступно извне
🗑 Шаг 2. Удалить ненужные ссылки
Нажмите «Delete» у каждой
После удаления ссылка должна возвращать 404 Not Found
🌐 Шаг 3. Проверить Google
Вбейте в поиск свой ник, e-mail или уникальные фразы из чатов
Если ссылка есть в выдаче — действуем дальше
🚫 Шаг 4. Удалить из индекса
Откройте сервис Google Remove Outdated Content
Отправьте запрос на удаление URL (Permanent removal)
Обычно очистка занимает 1–3 дня
🛡 Профилактика
🚷 Не делитесь конфиденциальным — маскируйте данные перед публикацией
🔗 Ограничивайте доступ — создавайте ссылки только для реальной необходимости
📅 Регулярно мониторьте поисковые системы по своим ключам
✂️ Минимизируйте данные — чем меньше приватного в чате, тем спокойнее
Stay secure and read SecureTechTalks 📚
#кибербезопасность #ChatGPT #privacy #digitalhygiene #security #SecureTech #ИИ #инфобез #google
🧩 NodePass - лёгкий и быстрый туннель для TCP/UDP с упором на безопасность и производительность ⚡
В корпоративных сетях нередко возникает задача: организовать доступ туда, куда напрямую не попасть.
Именно в таких кейсах помогает NodePass: лаконичное, но производительнон решение для туннелирования TCP и UDP-трафика.
👉 github.com/yosebyte/nodepass
⚙️ Что такое NodePass
🧠 NodePass - проект с открытым исходным кодом (BSD-3-Clause), написанный на Node.js.
Он предназначен для проброса TCP и UDP соединений через NAT, фильтры и сегментированные сети с минимальной задержкой и встроенной поддержкой TLS.
Автор сделал ставку на принцип:
Всё управление туннелями осуществляется одной строкой через URI-синтаксис, без громоздких YAML-файлов.
🏗️ Архитектура
NodePass строится на трёх базовых сущностях:
🔹 Server - принимает соединения и маршрутизирует трафик;
🔹 Client - создаёт туннель и пробрасывает порты;
🔹 Master - управляет туннелями и мониторит их через REST API.
💡 В отличие от stunnel или frp, NodePass использует предустановленные соединения (connection pool).
Это позволяет мгновенно переключаться между потоками данных без задержек на «хендшейки» и повторные соединения.
🔐 TLS и безопасность
NodePass поддерживает несколько режимов защиты:
🧱 plaintext: без шифрования (только для тестов);
🔏 self-signed: собственные сертификаты;
🛡️ strict: строгая проверка подлинности (корпоративный уровень).
✨ Сертификаты можно обновлять “на лету”, без остановки туннеля, что удобно для автоматического продления через Let’s Encrypt.
🚀 Преимущества решения
NodePass сочетает в себе простоту CLI-инструмента и гибкость сетевого агента.
✅ Поддерживает UDP - критично для VoIP, игр и телеметрии.
⚡ Zero-latency switching - готовые соединения без задержек.
🧩 Масштабируемость - сервер, клиент, мастер, REST API.
🐳 Совместим с Docker - развёртывание за секунды.
🔁 Автовосстановление при обрыве связи.
📊 Health-checks и логи встроены по умолчанию.
🧭 Кейсы использования
🧠 Проброс внутренних API из закрытой сети во внешнюю среду;
🧱 Временный доступ к сервису без изменения маршрутизации;
🧪 Тестирование отказоустойчивости и обход фильтров;
☁️ Соединение edge-нод и контейнеров без VPN;
🎯 Использование в лабораториях кибербезопасности и CTF-практиках.
⚠️ Вопросы безопасности
Несмотря на простоту, NodePass требует аккуратной конфигурации.
📌 Рекомендации:
🔸 Никогда не используйте режим plaintext в продуктивной среде;
🔸 Ограничьте доступ к master API по IP или через VPN;
🔸 Настройте автоматическое обновление сертификатов;
🔸 Включите логирование и аудит соединений;
🌍 Почему проект набирает популярность
NodePass уже получил ⭐ 1300+ звёзд на GitHub (на октябрь 2025 г.)
Он становится удобной альтернативой таким инструментам, как frp, ngrok и ssh-tunnel, особенно там, где важны:
- производительность ⚡
- кроссплатформенность 🌐
- простота развёртывания 🧩
Stay secure and read SecureTechTalks 📚
#cybersecurity #nodepass #infosec #networking #devops #pentest #tls #reverseproxy #securetech #SecureTechTalks #UDP #TCP
В корпоративных сетях нередко возникает задача: организовать доступ туда, куда напрямую не попасть.
Именно в таких кейсах помогает NodePass: лаконичное, но производительнон решение для туннелирования TCP и UDP-трафика.
👉 github.com/yosebyte/nodepass
⚙️ Что такое NodePass
🧠 NodePass - проект с открытым исходным кодом (BSD-3-Clause), написанный на Node.js.
Он предназначен для проброса TCP и UDP соединений через NAT, фильтры и сегментированные сети с минимальной задержкой и встроенной поддержкой TLS.
Автор сделал ставку на принцип:
“Меньше конфигов — больше контроля”.
Всё управление туннелями осуществляется одной строкой через URI-синтаксис, без громоздких YAML-файлов.
🏗️ Архитектура
NodePass строится на трёх базовых сущностях:
🔹 Server - принимает соединения и маршрутизирует трафик;
🔹 Client - создаёт туннель и пробрасывает порты;
🔹 Master - управляет туннелями и мониторит их через REST API.
💡 В отличие от stunnel или frp, NodePass использует предустановленные соединения (connection pool).
Это позволяет мгновенно переключаться между потоками данных без задержек на «хендшейки» и повторные соединения.
🔐 TLS и безопасность
NodePass поддерживает несколько режимов защиты:
🧱 plaintext: без шифрования (только для тестов);
🔏 self-signed: собственные сертификаты;
🛡️ strict: строгая проверка подлинности (корпоративный уровень).
✨ Сертификаты можно обновлять “на лету”, без остановки туннеля, что удобно для автоматического продления через Let’s Encrypt.
🚀 Преимущества решения
NodePass сочетает в себе простоту CLI-инструмента и гибкость сетевого агента.
✅ Поддерживает UDP - критично для VoIP, игр и телеметрии.
⚡ Zero-latency switching - готовые соединения без задержек.
🧩 Масштабируемость - сервер, клиент, мастер, REST API.
🐳 Совместим с Docker - развёртывание за секунды.
🔁 Автовосстановление при обрыве связи.
📊 Health-checks и логи встроены по умолчанию.
🧭 Кейсы использования
🧠 Проброс внутренних API из закрытой сети во внешнюю среду;
🧱 Временный доступ к сервису без изменения маршрутизации;
🧪 Тестирование отказоустойчивости и обход фильтров;
☁️ Соединение edge-нод и контейнеров без VPN;
🎯 Использование в лабораториях кибербезопасности и CTF-практиках.
⚠️ Вопросы безопасности
Несмотря на простоту, NodePass требует аккуратной конфигурации.
📌 Рекомендации:
🔸 Никогда не используйте режим plaintext в продуктивной среде;
🔸 Ограничьте доступ к master API по IP или через VPN;
🔸 Настройте автоматическое обновление сертификатов;
🔸 Включите логирование и аудит соединений;
🌍 Почему проект набирает популярность
NodePass уже получил ⭐ 1300+ звёзд на GitHub (на октябрь 2025 г.)
Он становится удобной альтернативой таким инструментам, как frp, ngrok и ssh-tunnel, особенно там, где важны:
- производительность ⚡
- кроссплатформенность 🌐
- простота развёртывания 🧩
Stay secure and read SecureTechTalks 📚
#cybersecurity #nodepass #infosec #networking #devops #pentest #tls #reverseproxy #securetech #SecureTechTalks #UDP #TCP
🔥 Могут ли модели решать за нас, кому давать доступ к данным?
Человек чаще всего фейлит при выдаче разрешений приложениям. Усталость, автоматизм, и выдано ещё одно «Allow», открывающее доступ к контактам.
А что, если решение будет принимать не человек, а AI?
Недавнее исследование ETH Zurich и Huawei показало: LLM способны принимать решения о доступе к данным точнее и осознаннее, чем большинство пользователей.
🤖 Эксперимент
📌 Исследователи собрали 307 естественных “privacy statements”: мини-описаний того, как человек относится к приватности:
📌 Затем 393 участника приняли 14 682 реальных решений по разрешениям Android-приложений.
📌 Параллельно LLM принимала решения за каждого участника, сначала в общем виде, затем персонализированно, используя именно их “privacy statement”.
📌 После этого люди сравнивали свои решения с решениями ИИ и говорили, чью логику считают лучше.
💡 LLM в целом умнее среднего человека
🔍 В задачах с понятным «правильным» ответом (например, доступ к микрофону для звонка):
LLM давали 100% корректных ответов.
👥 В субъективных сценариях:
LLM совпадали с большинством пользователей в 70–86% случаев.
Но есть момент, который лично мне кажется ключевым:
⚔️ В чувствительных сценариях LLM действовали более безопасно, чем люди
Для запросов, которые не должны быть разрешены (over-privileged запросы):
большинство людей ставили “Allow” по привычке 😬
LLM в 67–100% случаев говорили “Deny”,
тем самым защищая пользователя от собственной неосторожности.
🎯 Персонализация
Когда в систему добавляли личное “privacy statement”, происходило интересное:
📈 Для части людей точность возрастала до +50pp, иногда доходя до 100% совпадения.
📉 У других наоборот, падала:
если человек писал “Я доверяю всем”, но на деле запрещал, LLM следовала заявленной логике, а не реальному поведению.
🔍 Факторы, влияющие на точность:
➖ чем длиннее и конкретнее privacy-statement → тем лучше
➖ люди с крайними позициями (“всё запрещаю” / “всё разрешаю”) идеально персонализируются
➖ несоответствия между заявленным и реальным резко ухудшают качество
🧠 Люди меняют решения под влиянием объяснения LLM
Самый неожиданный эффект:
Когда человек не согласен с решением ИИ, но читает объяснение, то 48% меняют своё первоначальное решение.
Причём если LLM рекомендует “Deny”:
➡️ 59% людей соглашаются, даже если сами бы разрешили.
ИИ работает как «security-nudge», который мягко подталкивает к более безопасным действиям.
🔗 Полный текст исследования
Stay secure and read SecureTechTalks 📚
#кибербезопасность #privacy #llm #androidsecurity #ai #securityresearch #dataprotection #mobileprivacy #aiethics #securetech
Человек чаще всего фейлит при выдаче разрешений приложениям. Усталость, автоматизм, и выдано ещё одно «Allow», открывающее доступ к контактам.
А что, если решение будет принимать не человек, а AI?
Недавнее исследование ETH Zurich и Huawei показало: LLM способны принимать решения о доступе к данным точнее и осознаннее, чем большинство пользователей.
🤖 Эксперимент
📌 Исследователи собрали 307 естественных “privacy statements”: мини-описаний того, как человек относится к приватности:
«Даю доступ только когда необходимо»,
«Хочу максимум удобства»,
«Никогда не делюсь локацией без крайней нужды».
📌 Затем 393 участника приняли 14 682 реальных решений по разрешениям Android-приложений.
📌 Параллельно LLM принимала решения за каждого участника, сначала в общем виде, затем персонализированно, используя именно их “privacy statement”.
📌 После этого люди сравнивали свои решения с решениями ИИ и говорили, чью логику считают лучше.
💡 LLM в целом умнее среднего человека
🔍 В задачах с понятным «правильным» ответом (например, доступ к микрофону для звонка):
LLM давали 100% корректных ответов.
👥 В субъективных сценариях:
LLM совпадали с большинством пользователей в 70–86% случаев.
Но есть момент, который лично мне кажется ключевым:
⚔️ В чувствительных сценариях LLM действовали более безопасно, чем люди
Для запросов, которые не должны быть разрешены (over-privileged запросы):
большинство людей ставили “Allow” по привычке 😬
LLM в 67–100% случаев говорили “Deny”,
тем самым защищая пользователя от собственной неосторожности.
🎯 Персонализация
Когда в систему добавляли личное “privacy statement”, происходило интересное:
📈 Для части людей точность возрастала до +50pp, иногда доходя до 100% совпадения.
📉 У других наоборот, падала:
если человек писал “Я доверяю всем”, но на деле запрещал, LLM следовала заявленной логике, а не реальному поведению.
🔍 Факторы, влияющие на точность:
🧠 Люди меняют решения под влиянием объяснения LLM
Самый неожиданный эффект:
Когда человек не согласен с решением ИИ, но читает объяснение, то 48% меняют своё первоначальное решение.
Причём если LLM рекомендует “Deny”:
➡️ 59% людей соглашаются, даже если сами бы разрешили.
ИИ работает как «security-nudge», который мягко подталкивает к более безопасным действиям.
🔗 Полный текст исследования
Stay secure and read SecureTechTalks 📚
#кибербезопасность #privacy #llm #androidsecurity #ai #securityresearch #dataprotection #mobileprivacy #aiethics #securetech
Please open Telegram to view this post
VIEW IN TELEGRAM
🤖🔥 Адаптивный ИИ: статичные модели больше не работают
Современные угрозы представляет собой высокодинамичную среду, в которой параметры, эксплуатационные техники и уязвимости изменяются непрерывно.
Классические модели машинного обучения, основанные на статичных знаниях, теряют эффективность
Требуется архитектура, способная к непрерывной адаптации: изменению данных, появлению новых атакующих техник, обновлению CVE и т.д..
🎯 ПРЕЦИЗИОННОСТЬ, а не просто «умный ИИ»
Каждый день мы видим тысячи предупреждений, сотни CVE, десятки обновлений. Сколько из них реально критичных? По статистике пара процентов.
Откуда ИИ должен знать:
- какие уязвимости реально эксплуатируются ⚠️
- какие пакеты можно обновить безопасно, а какие сломают половину ПРОМа 🧩
- какие зависимости тянут за собой скрытые риски 🕸
Вот тут и проявляется ключевое качество precision, точность принятия решений в условиях хаоса.
Именно точность отличает систему, которая помогает инженеру, от системы, которая создаёт больше работы, чем экономит.
🧠 LLM без адаптации не нужны
Даже самый мощный LLM:
❌ устаревает уже через 3–6 месяцев
❌ не понимает новые эксплойты и техники атаки
❌ путается в противоречивых CVSS-оценках
❌ тонет в длинных noisy-контекстах
❌ ошибается в RAG, когда извлечённые данные неактуальны
А самое важное, что
кибербезопасность развивается быстрее, чем обновляются модели.
Поэтому статичная модель гарантированно проигрывает динамичной атаке.
🧩 Три кита адаптивного ИИ в безопасности
1) 🔍 RAG + In-Context Learning (ICL)
Модель учится «на лету», ей не нужно менять веса, достаточно дать правильный контекст.
Но есть проблема:
чем больше контекста → тем сильнее модель деградирует.
➡️ решение: использовать интеллектуальные retrieval-агенты
➡️ фильтровать контекст, а не просто загружать всё подряд
➡️ добавлять знания из графов (CVE–CWE–CPE связи)
2) 🧠 Knowledge Graphs как «скелет» киберзнаний
Безопасность - идеальная область для графов:
CVE → CVSS → эксплойты
пакеты → зависимости → контрмеры
TTP → группы атакующих → MITRE ATT&CK
Графы позволяют:
✔️ исключать шум
✔️ находить скрытые связи
✔️ объяснять выводы (auditability)
✔️ строить более точный RAG
3) 🔄 Continual Learning: непрерывное самообновление модели
Когда RAG не справляется, подключаем continual pretraining.
Модель обучается дальше на новых данных: CVE, advisories, PoC, репорты, рассылки, TTP, эксплойты.
Преимущества:
- устойчива к шуму и фейкам
- объединяет противоречивые данные
- снижает хаотичность ответов
- формирует контекст внутри параметров модели
- адаптируется к новым атакам быстрее, чем выходит новый релиз LLM
🧨 Главная идея
Будущее в гибридных системах:
➖ RAG для свежих фактов
➖ Knowledge Graph для структуры
➖ Continual Learning для развития модели
🔗 С полным текстом исследования можно ознакомиться тут.
Stay secure and read SecureTechTalks 📚
#cybersecurity #infosec #genai #rag #continuallearning #llmsecurity #threatintel #cvss #mitre #securetech
Современные угрозы представляет собой высокодинамичную среду, в которой параметры, эксплуатационные техники и уязвимости изменяются непрерывно.
Классические модели машинного обучения, основанные на статичных знаниях, теряют эффективность
Требуется архитектура, способная к непрерывной адаптации: изменению данных, появлению новых атакующих техник, обновлению CVE и т.д..
🎯 ПРЕЦИЗИОННОСТЬ, а не просто «умный ИИ»
Каждый день мы видим тысячи предупреждений, сотни CVE, десятки обновлений. Сколько из них реально критичных? По статистике пара процентов.
Откуда ИИ должен знать:
- какие уязвимости реально эксплуатируются ⚠️
- какие пакеты можно обновить безопасно, а какие сломают половину ПРОМа 🧩
- какие зависимости тянут за собой скрытые риски 🕸
Вот тут и проявляется ключевое качество precision, точность принятия решений в условиях хаоса.
Именно точность отличает систему, которая помогает инженеру, от системы, которая создаёт больше работы, чем экономит.
🧠 LLM без адаптации не нужны
Даже самый мощный LLM:
❌ устаревает уже через 3–6 месяцев
❌ не понимает новые эксплойты и техники атаки
❌ путается в противоречивых CVSS-оценках
❌ тонет в длинных noisy-контекстах
❌ ошибается в RAG, когда извлечённые данные неактуальны
А самое важное, что
кибербезопасность развивается быстрее, чем обновляются модели.
Поэтому статичная модель гарантированно проигрывает динамичной атаке.
🧩 Три кита адаптивного ИИ в безопасности
1) 🔍 RAG + In-Context Learning (ICL)
Модель учится «на лету», ей не нужно менять веса, достаточно дать правильный контекст.
Но есть проблема:
чем больше контекста → тем сильнее модель деградирует.
➡️ решение: использовать интеллектуальные retrieval-агенты
➡️ фильтровать контекст, а не просто загружать всё подряд
➡️ добавлять знания из графов (CVE–CWE–CPE связи)
2) 🧠 Knowledge Graphs как «скелет» киберзнаний
Безопасность - идеальная область для графов:
CVE → CVSS → эксплойты
пакеты → зависимости → контрмеры
TTP → группы атакующих → MITRE ATT&CK
Графы позволяют:
✔️ исключать шум
✔️ находить скрытые связи
✔️ объяснять выводы (auditability)
✔️ строить более точный RAG
3) 🔄 Continual Learning: непрерывное самообновление модели
Когда RAG не справляется, подключаем continual pretraining.
Модель обучается дальше на новых данных: CVE, advisories, PoC, репорты, рассылки, TTP, эксплойты.
Преимущества:
- устойчива к шуму и фейкам
- объединяет противоречивые данные
- снижает хаотичность ответов
- формирует контекст внутри параметров модели
- адаптируется к новым атакам быстрее, чем выходит новый релиз LLM
🧨 Главная идея
Будущее в гибридных системах:
🔗 С полным текстом исследования можно ознакомиться тут.
Stay secure and read SecureTechTalks 📚
#cybersecurity #infosec #genai #rag #continuallearning #llmsecurity #threatintel #cvss #mitre #securetech
Please open Telegram to view this post
VIEW IN TELEGRAM
📸🚨 Quishing: как QR коды угрожают вашей безопасности
QR-коды давно перестали быть чем-то экзотическим: мы видим их в электронных письмах, на афишах, в меню ресторанов, на счетах и даже на экранах входа в сервисы.
🎯 Что такое quishing?
📌 Quishing - это разновидность фишинга, при которой злоумышленники используют QR-коды для перенаправления жертв на вредоносные URL.
Поскольку QR-код скрывает реальный адрес до сканирования, традиционные механизмы защиты (например, шлюзы корпоративной почты) не могут проанализировать, куда ведёт код, и пропускают угрозу.
К сожалению такой вид мошенничества становится тренером:
➖ 22% всех инцидентов с QR-кодами связаны именно с quishing.
➖ Многие пользователи сканируют QR-коды, не проверяя конечный URL. По данным NordVPN, это делают до 73% пользователей.
➖ QR-коды используются даже в целевых APT-кампаниях, чтобы воровать корпоративные логины и пароли.
🎨 Новая эра злоупотреблений: fancy QR-коды
Атака становится ещё изощрённее за счёт так называемых «стильных» QR-кодов:
🔹 цветные, с фоновыми изображениями
🔹 с логотипами в центре
🔹 с закруглёнными или растянутыми модулями
Такие коды читаются нормальными сканерами, но ломают низкоуровневые проверки по форме, которые пытаются определить, безопасен код или нет.
📌 Результат: визуальные проверщики и автоматические детекторы всё чаще ошибаются, а злоумышленники спокойно используют этот визуальный шум для обхода защиты.
🧠 Опасность quishing
Пример атаки:
🔸 QR-код в письме ведёт на поддельную страницу входа Microsoft 365 или Okta. Жертва вводит свои креды, а злоумышленник получает доступ.
🔸 Код на парковочном автомате приводит на фейковый платёжный портал, собирая данные карт.
🔸 мобильное устройство перенаправляется через цепочки редиректов через легитимные сервисы, чтобы обойти фильтры безопасности.
📌 Особенность: такие QR-коды трудно оценить визуально, и они нередко появляются там, где мы меньше всего ожидаем угрозу.
🛡 Как решают проблему ученые
Исследователи из Deakin University предложили новый подход: ALFA (safe-by-design):
🔹 оценка QR-кода на этапе сканирования, ещё до того, как он откроет URL;
🔹 анализ структуры кода, а не только содержимого;
🔹 использование метода FAST для коррекции визуальных искажений fancy QR-кодов, чтобы улучшить диагностику.
📱 Экспериментально ALFA показала, что её можно внедрить в мобильные приложения и использовать вместе с обычными сканерами, т.е. это не замена, а усиление вашей защиты.
🔎 Расскажите детям и пожилым людям
Чтобы не стать жертвой quishing:
✅ Не сканируйте QR-коды из сомнительных источников (письма, неожиданные письма, подозрительные афиши).
✅ Обращайте внимание на среду, в которой код размещён. Часто мошенники наклеивают свои коды поверх настоящих.
✅ Используйте сканеры, которые показывают URL перед переходом.
📌 Stay secure and read SecureTechTalks 🚀
#cybersecurity #infosec #quishing #qrcode #phishing #threatintel #mobilesecurity #securetech #ALFA #RISK
QR-коды давно перестали быть чем-то экзотическим: мы видим их в электронных письмах, на афишах, в меню ресторанов, на счетах и даже на экранах входа в сервисы.
🎯 Что такое quishing?
📌 Quishing - это разновидность фишинга, при которой злоумышленники используют QR-коды для перенаправления жертв на вредоносные URL.
Поскольку QR-код скрывает реальный адрес до сканирования, традиционные механизмы защиты (например, шлюзы корпоративной почты) не могут проанализировать, куда ведёт код, и пропускают угрозу.
К сожалению такой вид мошенничества становится тренером:
🎨 Новая эра злоупотреблений: fancy QR-коды
Атака становится ещё изощрённее за счёт так называемых «стильных» QR-кодов:
🔹 цветные, с фоновыми изображениями
🔹 с логотипами в центре
🔹 с закруглёнными или растянутыми модулями
Такие коды читаются нормальными сканерами, но ломают низкоуровневые проверки по форме, которые пытаются определить, безопасен код или нет.
📌 Результат: визуальные проверщики и автоматические детекторы всё чаще ошибаются, а злоумышленники спокойно используют этот визуальный шум для обхода защиты.
🧠 Опасность quishing
Пример атаки:
🔸 QR-код в письме ведёт на поддельную страницу входа Microsoft 365 или Okta. Жертва вводит свои креды, а злоумышленник получает доступ.
🔸 Код на парковочном автомате приводит на фейковый платёжный портал, собирая данные карт.
🔸 мобильное устройство перенаправляется через цепочки редиректов через легитимные сервисы, чтобы обойти фильтры безопасности.
📌 Особенность: такие QR-коды трудно оценить визуально, и они нередко появляются там, где мы меньше всего ожидаем угрозу.
🛡 Как решают проблему ученые
Исследователи из Deakin University предложили новый подход: ALFA (safe-by-design):
🔹 оценка QR-кода на этапе сканирования, ещё до того, как он откроет URL;
🔹 анализ структуры кода, а не только содержимого;
🔹 использование метода FAST для коррекции визуальных искажений fancy QR-кодов, чтобы улучшить диагностику.
📱 Экспериментально ALFA показала, что её можно внедрить в мобильные приложения и использовать вместе с обычными сканерами, т.е. это не замена, а усиление вашей защиты.
🔎 Расскажите детям и пожилым людям
Чтобы не стать жертвой quishing:
✅ Не сканируйте QR-коды из сомнительных источников (письма, неожиданные письма, подозрительные афиши).
✅ Обращайте внимание на среду, в которой код размещён. Часто мошенники наклеивают свои коды поверх настоящих.
✅ Используйте сканеры, которые показывают URL перед переходом.
📌 Stay secure and read SecureTechTalks 🚀
#cybersecurity #infosec #quishing #qrcode #phishing #threatintel #mobilesecurity #securetech #ALFA #RISK
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1
🚀 “Альтернативные Telegram-клиенты” стали быстрее оригинала
Пока одни жалуются на замедление Telegram, другие спокойно сидят в альтернативных клиентах и у них «всё летает».
Совпадение? Не думаю.
⚙️ Что происходит под капотом
Официальный Telegram использует стандартные сетевые механизмы и точки подключения.
А вот альтернативные клиенты:
👉 могут использовать другие конфигурации подключения
👉 по-другому работают с прокси и маршрутами
👉 иногда обходят «узкие места» на уровне сети
В результате трафик идёт не тем путём, который замедляется.
🧠 Что это за инструменты
AyuGram
Модифицированный клиент Telegram (форк), который добавляет расширенные настройки: от кастомизации интерфейса до управления сетью и плагинами.
🔗 https://github.com/AyuGram/AyuGramDesktop
exteraGram
Ещё один альтернативный клиент Telegram с упором на расширяемость и дополнительные функции, включая поддержку сторонних модулей.
🔗 https://github.com/exteraSquad/exteraGram
exitFy (плагин)
Расширение для сторонних клиентов, которое добавляет слой управления сетевым трафиком:
- альтернативные маршруты
выбор точек выхода (exit nodes)
- обход проблемных сегментов сети
🔗 https://github.com/exitfy/exitfy
🧠 Практическая часть
Связка, о которой сейчас активно говорят:
👉 AyuGram / exteraGram
👉 + плагин exitFy
Что это даёт:
- гибкое управление маршрутизацией
- использование альтернативных каналов связи
- обход сетевых ограничений
Другими словами, трафик Telegram «выводится» через альтернативные каналы, которые не попали под замедление
⚙️ Суть exitFy
Плагин является дополнительным слоем маршрутизации и управлением выходными точками для обхода проблемных сетевых участков.
⚠️ Важный момент
Ты фактически добавляешь в цепочку:
👉 сторонний клиент
👉 сторонний плагин
👉 стороннюю сетевую инфраструктуру
Да, связка AyuGram / exteraGram + exitFy может обходить замедление.
Но по сути вы не ускоряете Telegram, а меняете, кому доверяете свой трафик. Стоит ли так рисковать? Решать вам!
Stay secure and read SecureTechTalks 📚
#кибербезопасность #telegram #infosec #privacy #networksecurity #appsec #proxy #risk #secureai #securetech
Пока одни жалуются на замедление Telegram, другие спокойно сидят в альтернативных клиентах и у них «всё летает».
Совпадение? Не думаю.
⚙️ Что происходит под капотом
Официальный Telegram использует стандартные сетевые механизмы и точки подключения.
А вот альтернативные клиенты:
👉 могут использовать другие конфигурации подключения
👉 по-другому работают с прокси и маршрутами
👉 иногда обходят «узкие места» на уровне сети
В результате трафик идёт не тем путём, который замедляется.
🧠 Что это за инструменты
AyuGram
Модифицированный клиент Telegram (форк), который добавляет расширенные настройки: от кастомизации интерфейса до управления сетью и плагинами.
🔗 https://github.com/AyuGram/AyuGramDesktop
exteraGram
Ещё один альтернативный клиент Telegram с упором на расширяемость и дополнительные функции, включая поддержку сторонних модулей.
🔗 https://github.com/exteraSquad/exteraGram
exitFy (плагин)
Расширение для сторонних клиентов, которое добавляет слой управления сетевым трафиком:
- альтернативные маршруты
выбор точек выхода (exit nodes)
- обход проблемных сегментов сети
🔗 https://github.com/exitfy/exitfy
🧠 Практическая часть
Связка, о которой сейчас активно говорят:
👉 AyuGram / exteraGram
👉 + плагин exitFy
Что это даёт:
- гибкое управление маршрутизацией
- использование альтернативных каналов связи
- обход сетевых ограничений
Другими словами, трафик Telegram «выводится» через альтернативные каналы, которые не попали под замедление
⚙️ Суть exitFy
Плагин является дополнительным слоем маршрутизации и управлением выходными точками для обхода проблемных сетевых участков.
⚠️ Важный момент
Ты фактически добавляешь в цепочку:
👉 сторонний клиент
👉 сторонний плагин
👉 стороннюю сетевую инфраструктуру
Да, связка AyuGram / exteraGram + exitFy может обходить замедление.
Но по сути вы не ускоряете Telegram, а меняете, кому доверяете свой трафик. Стоит ли так рисковать? Решать вам!
Stay secure and read SecureTechTalks 📚
#кибербезопасность #telegram #infosec #privacy #networksecurity #appsec #proxy #risk #secureai #securetech
👍1