⚠️ Развитие фишинга: метаморфное вредоносное ПО с использованием LLM
С развитием больших языковых моделей (LLM) их потенциал для вредоносного использования резко возрастает. Недавно на премии Swiss AI Safety Prize был представлен доклад, описывающий новый тип метаморфного вредоносного ПО, использующего LLM для двух ключевых процессов: автоматического переиздания кода и дальнейшего распространения методами социальной инженерии.
📧 Механизм атаки:
1. Инсталляция червя: Вредоносное ПО отправляется жертве по электронной почте, а после выполнения пользователем загружает необходимые зависимости из интернета.
2. Репликация червя: Используя LLM (например, GPT-4), червь переписывает свой собственный исходный код, чтобы избежать обнаружения антивирусными программами, основанными на сигнатурах. Это делает каждую копию уникальной и значительно усложняет обнаружение.
3. Распространение: После репликации червь сканирует прошлые переписки в Outlook и использует LLM для анализа и создания ответных писем с вложением зараженного файла, замыкая круг заражения.
🔒 Как защититься от новой угрозы?
Борьба с такими угрозами требует дополнительных мер. Необходимо обнаруживать обращения к LLM API или фиксировать запуск модели локально. Однако данная задача не является тривиальной, так как отличить легитимное использование LLM от вредоносного бывает довольно сложно.
🔗 Подробнее про новый вид фишинговых атак можно прочитать в исследовательской работе.
Stay secure and read SecureTechTalks 📚
#Кибербезопасность #SecureTechTalks #AI #MachineLearning #LLM #Malware #МетаморфноеПО #СоциальнаяИнженерия #ВредоносноеПО #ИнформационнаяБезопасность
С развитием больших языковых моделей (LLM) их потенциал для вредоносного использования резко возрастает. Недавно на премии Swiss AI Safety Prize был представлен доклад, описывающий новый тип метаморфного вредоносного ПО, использующего LLM для двух ключевых процессов: автоматического переиздания кода и дальнейшего распространения методами социальной инженерии.
📧 Механизм атаки:
1. Инсталляция червя: Вредоносное ПО отправляется жертве по электронной почте, а после выполнения пользователем загружает необходимые зависимости из интернета.
2. Репликация червя: Используя LLM (например, GPT-4), червь переписывает свой собственный исходный код, чтобы избежать обнаружения антивирусными программами, основанными на сигнатурах. Это делает каждую копию уникальной и значительно усложняет обнаружение.
3. Распространение: После репликации червь сканирует прошлые переписки в Outlook и использует LLM для анализа и создания ответных писем с вложением зараженного файла, замыкая круг заражения.
🔒 Как защититься от новой угрозы?
Борьба с такими угрозами требует дополнительных мер. Необходимо обнаруживать обращения к LLM API или фиксировать запуск модели локально. Однако данная задача не является тривиальной, так как отличить легитимное использование LLM от вредоносного бывает довольно сложно.
🔗 Подробнее про новый вид фишинговых атак можно прочитать в исследовательской работе.
Stay secure and read SecureTechTalks 📚
#Кибербезопасность #SecureTechTalks #AI #MachineLearning #LLM #Malware #МетаморфноеПО #СоциальнаяИнженерия #ВредоносноеПО #ИнформационнаяБезопасность
📊 Статстика: рост количества open-source малварей
📈 Рост атак на open-source экосистему
Согласно отчёту Sonatype, количество вредоносных пакетов в open-source выросло на 200% в 2024 году по сравнению с 2023 годом. Всего зафиксировано более 778,500 случаев использования вредоносных компонентов. Злоумышленники всё чаще нацелены на популярные платформы, такие как npm и PyPI, используя низкий порог входа и отсутствие обязательной верификации.
🔍 Основные факты:
1️⃣ 98.5% атак приходится на npm — JavaScript остаётся основной целью злоумышленников.
2️⃣ 64.75% угроз — PUAs (потенциально нежелательные приложения), включая шпионское ПО и рекламные модули.
3️⃣ Shadow downloads: увеличение загрузок вредоносных библиотек на 32.8% напрямую на машины разработчиков, минуя проверки репозиториев.
🛡 Какие выводы?
Разработчики стали ключевой мишенью, так как вредоносные пакеты проникают в цепочки поставок через CI/CD процессы. Компании должны внедрять проактивные меры защиты, включая анализ новых зависимостей перед их использованием.
Stay secure and read SecureTechTalks 📚
#кибербезопасность #malware #риск #развботчик
#opensource #SecureTechTalks
📈 Рост атак на open-source экосистему
Согласно отчёту Sonatype, количество вредоносных пакетов в open-source выросло на 200% в 2024 году по сравнению с 2023 годом. Всего зафиксировано более 778,500 случаев использования вредоносных компонентов. Злоумышленники всё чаще нацелены на популярные платформы, такие как npm и PyPI, используя низкий порог входа и отсутствие обязательной верификации.
🔍 Основные факты:
🛡 Какие выводы?
Разработчики стали ключевой мишенью, так как вредоносные пакеты проникают в цепочки поставок через CI/CD процессы. Компании должны внедрять проактивные меры защиты, включая анализ новых зависимостей перед их использованием.
Stay secure and read SecureTechTalks 📚
#кибербезопасность #malware #риск #развботчик
#opensource #SecureTechTalks
Please open Telegram to view this post
VIEW IN TELEGRAM
🔍 Специалисты FortiGuard Labs выявили опасный руткит, нацеленный на системы под управлением CentOS. Злоумышленники используют уязвимости в этих системах, чтобы получить полный удалённый доступ к устройствам жертв.
🛠️ Структура вредоносного ПО включает три основных компонента:
1⃣ Модуль ядра: sysinitd.ko — загружается в ядро для обеспечения скрытности и контроля.
2⃣ Исполняемый файл: sysinitd — выполняет команды злоумышленников с привилегиями суперпользователя.
3⃣ Установочный скрипт: Install.sh — отвечает за установку и настройку руткита в системе.
⚙️ Процесс заражения начинается с запуска Install.sh, который внедряет вредоносные файлы в систему и настраивает их автозапуск через файлы /etc/rc.local и /etc/rc.d/rc.local. Модуль ядра создает три записи в /proc, через которые злоумышленники взаимодействуют с системой. Особую опасность представляет маскировка процесса под стандартную оболочку bash, что затрудняет его обнаружение администраторами.
🌐 Технические детали: руткит использует Netfilter для перехвата входящего сетевого трафика на уровне ядра. Злоумышленники устанавливают соединение, отправляя специально сформированный пакет, который активирует процесс взаимодействия. После этого они могут выполнять команды с правами суперпользователя, включая скачивание данных, изменение конфигурации и управление процессами.
📢 Рекомендации для пользователей CentOS:
➖ Обновите защитные системы до последних версий.
➖ Регулярно проверяйте логи на наличие подозрительной активности.
➖ Убедитесь в актуальности антивирусных баз и своевременно проводите аудиты безопасности.
Stay secure and read SecureTechTalks 📚
#CentOS #Linux #Руткит #Кибербезопасность #FortiGuard #Netfilter #ИнформационнаяБезопасность #Malware #SecureTechTalks #ЗащитаДанных
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥 Опасность галлюцинаций нейросетей: как "галлюцинации пакетов" могут привести к установке вредоносного кода
В эпоху активного использования больших языковых моделей (LLM) разработчики всё чаще сталкиваются с феноменом "галлюцинаций пакетов" — ситуацией, когда ИИ предлагает несуществующие программные библиотеки. Эта особенность может быть использована злоумышленниками для распространения вредоносного кода через технику, известную как slopsquatting.
🧠 Что такое "галлюцинации пакетов"?
"Галлюцинации пакетов" возникают, когда большие языковые модели, такие как GPT-4 или CodeLlama, генерируют ссылки на несуществующие программные библиотеки. Разработчики, доверяя рекомендациям ИИ, могут попытаться установить эти пакеты, что открывает дверь для злоумышленников.
🕳️ Slopsquatting: новая угроза в цепочке поставок ПО
Термин slopsquatting, введённый Сетом Ларсоном из Python Software Foundation, описывает практику регистрации несуществующих пакетов, предложенных LLM. Злоумышленники создают пакеты с именами, совпадающими с "галлюцинированными", и размещают их в популярных репозиториях, таких как PyPI или npm. Когда разработчик устанавливает такой пакет, он может непреднамеренно загрузить и запустить вредоносный код.
📊 Масштаб проблемы
Исследование, проведённое Университетом Техаса в Сан-Антонио, Университетом Оклахомы и Вирджиния Тек, показало:
1⃣ Из 576 000 сгенерированных LLM кодов почти 20% ссылались на несуществующие пакеты
2⃣ В 43% случаев "галлюцинированные" пакеты повторялись во всех 10 запросах — они становятся предсказуемыми
3⃣ Открытые модели (например, CodeLlama) более склонны к таким ошибкам, чем коммерческие
🧩 Реальные последствия
В одном из случаев исследователь безопасности зарегистрировал "пакет-призрак", предложенный LLM. Спустя некоторое время крупная компания начала использовать его в продакшене — не подозревая, что это ловушка. Slopsquatting представляет реальную угрозудля всей цепочки поставок ПО.
🛡️ Есть ли защита?
➖ Проверяйте пакеты: не устанавливайте по наитию — изучите, существует ли библиотека и кто её автор
➖ Остерегайтесь “нулевых” пакетов: без звёзд, документации и отзывов
➖ Используйте SCA-инструменты: анализ зависимостей и сканирование на уязвимости
➖ Обучайте команды: особенно тех, кто активно использует LLM в разработке
ИИ — не враг. Но халатное обращение с его "советами" уже приводит к реальным инцидентам.
Stay secure and read SecureTechTalks 📚
#SecureTechTalks #CyberSecurity #AI #LLM #Slopsquatting #PackageHallucination #SoftwareSupplyChain #Malware #DevSecOps
В эпоху активного использования больших языковых моделей (LLM) разработчики всё чаще сталкиваются с феноменом "галлюцинаций пакетов" — ситуацией, когда ИИ предлагает несуществующие программные библиотеки. Эта особенность может быть использована злоумышленниками для распространения вредоносного кода через технику, известную как slopsquatting.
🧠 Что такое "галлюцинации пакетов"?
"Галлюцинации пакетов" возникают, когда большие языковые модели, такие как GPT-4 или CodeLlama, генерируют ссылки на несуществующие программные библиотеки. Разработчики, доверяя рекомендациям ИИ, могут попытаться установить эти пакеты, что открывает дверь для злоумышленников.
🕳️ Slopsquatting: новая угроза в цепочке поставок ПО
Термин slopsquatting, введённый Сетом Ларсоном из Python Software Foundation, описывает практику регистрации несуществующих пакетов, предложенных LLM. Злоумышленники создают пакеты с именами, совпадающими с "галлюцинированными", и размещают их в популярных репозиториях, таких как PyPI или npm. Когда разработчик устанавливает такой пакет, он может непреднамеренно загрузить и запустить вредоносный код.
📊 Масштаб проблемы
Исследование, проведённое Университетом Техаса в Сан-Антонио, Университетом Оклахомы и Вирджиния Тек, показало:
1⃣ Из 576 000 сгенерированных LLM кодов почти 20% ссылались на несуществующие пакеты
2⃣ В 43% случаев "галлюцинированные" пакеты повторялись во всех 10 запросах — они становятся предсказуемыми
3⃣ Открытые модели (например, CodeLlama) более склонны к таким ошибкам, чем коммерческие
🧩 Реальные последствия
В одном из случаев исследователь безопасности зарегистрировал "пакет-призрак", предложенный LLM. Спустя некоторое время крупная компания начала использовать его в продакшене — не подозревая, что это ловушка. Slopsquatting представляет реальную угрозудля всей цепочки поставок ПО.
🛡️ Есть ли защита?
ИИ — не враг. Но халатное обращение с его "советами" уже приводит к реальным инцидентам.
Stay secure and read SecureTechTalks 📚
#SecureTechTalks #CyberSecurity #AI #LLM #Slopsquatting #PackageHallucination #SoftwareSupplyChain #Malware #DevSecOps
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1
🕷️ Новый взгляд на Black Hat: полный каталог инструментов безопасности
🔥 Готовы к настоящему арсеналу? Вышла обновлённая подборка Awesome Black Hat Tools — коллекция всех знаковых инструментов, которые когда-либо анонсировали на легендарных конференциях Black Hat!
Внутри вас ждёт:
✅ строгая структура по странам проведения Black Hat
✅ группировка по годам
✅ и, конечно, деление на ключевые категории:
➖ Red Teaming 🟥
➖ Blue Teaming 🟦
➖ OSINT & Recon 🛰️
➖ Exploit Development 💣
➖ Malware Analysis 🦠
➖ DFIR & Forensics 🕵️
➖ Threat Intelligence 🔍
➖ ICS/IoT/SCADA ⚙️
➖ AppSec 🛡️
🔎 Впечатления
🎯 Во-первых, всё собрано в одном месте, без беготни по слайдам и видосам с конференций.
🎯 Во-вторых, структура позволяет за секунды найти инструменты под вашу задачу, будь вы пентестером, аналитиком, DFIR-специалистом или исследователем ICS.
🎯 В-третьих, каталог живой, его постоянно пополняют, и вы тоже можете внести свой вклад через pull request.
💥 Кому стоит заглянуть?
🔸 Red Team — чтобы подхватить последние атаки и методы обхода
🔸 Blue Team — чтобы не отставать в защите
🔸 Threat Hunters — чтобы видеть, с какими инструментами придут к вам завтра
🔸 Малваре-исследователям — для изучения трендов
🔸 Разработчикам AppSec — чтобы понять, какие новые угрозы в ПО демонстрировали на Black Hat
🌐 Где это лежит?
📎 GitHub-репозиторий: github.com/UCYBERS/Awesome-Blackhat-Tools
✅ В итоге
Black Hat давно превратилась в главный подиум мирового offensive и defensive инструментариума, а этот проект — идеальная карта сокровищ, чтобы не потеряться среди сотен наработок.
Если хотите разбирать, тестировать или просто быть в курсе, что обсуждает ИБ-сообщество, то данный репозиторий must-have.
Stay secure and read SecureTechTalks 📚
#blackhat #redteam #blueteam #osint #threatintel #forensics #malware #appsec #cybertools #SecureTechTalks
🔥 Готовы к настоящему арсеналу? Вышла обновлённая подборка Awesome Black Hat Tools — коллекция всех знаковых инструментов, которые когда-либо анонсировали на легендарных конференциях Black Hat!
Внутри вас ждёт:
✅ строгая структура по странам проведения Black Hat
✅ группировка по годам
✅ и, конечно, деление на ключевые категории:
🔎 Впечатления
🎯 Во-первых, всё собрано в одном месте, без беготни по слайдам и видосам с конференций.
🎯 Во-вторых, структура позволяет за секунды найти инструменты под вашу задачу, будь вы пентестером, аналитиком, DFIR-специалистом или исследователем ICS.
🎯 В-третьих, каталог живой, его постоянно пополняют, и вы тоже можете внести свой вклад через pull request.
💥 Кому стоит заглянуть?
🔸 Red Team — чтобы подхватить последние атаки и методы обхода
🔸 Blue Team — чтобы не отставать в защите
🔸 Threat Hunters — чтобы видеть, с какими инструментами придут к вам завтра
🔸 Малваре-исследователям — для изучения трендов
🔸 Разработчикам AppSec — чтобы понять, какие новые угрозы в ПО демонстрировали на Black Hat
🌐 Где это лежит?
📎 GitHub-репозиторий: github.com/UCYBERS/Awesome-Blackhat-Tools
✅ В итоге
Black Hat давно превратилась в главный подиум мирового offensive и defensive инструментариума, а этот проект — идеальная карта сокровищ, чтобы не потеряться среди сотен наработок.
Если хотите разбирать, тестировать или просто быть в курсе, что обсуждает ИБ-сообщество, то данный репозиторий must-have.
Stay secure and read SecureTechTalks 📚
#blackhat #redteam #blueteam #osint #threatintel #forensics #malware #appsec #cybertools #SecureTechTalks
Please open Telegram to view this post
VIEW IN TELEGRAM
🎨 KANVAS — вредоносные PDF как искусство атак
🧠 Что, если у вас будет инструмент, который способен создавать и анализировать сложные PDF-файлы, обходящие большинство антифишинговых фильтров и EDR-систем?
Проект KANVAS от WithSecure Labs — это настоящий лабораторный стол для работы с PDF-инфекциями и уязвимостями на низком уровне.
🧬 Что умеет KANVAS?
➖ Генерация кастомных PDF-документов
➖ Встраивание JavaScript-инъекций и обфусцированных конструкций
➖ Манипуляции с XFA-форматами
➖ Создание вредоносных объектов с delayed execution
➖ Имитация известных CVE (с ручной интеграцией)
➖ Формирование нестандартной структуры PDF (xref, headers, streams)
📁 Включённые примеры
📌 XFA‑инъекции — обход стандартных JS-фильтров
📌 Обфусцированные payload’ы — встраиваются глубоко в структуру
📌 Модифицированные шаблоны — можно собрать от “белого” инвойса до “чёрного” тройного payload'а
📌 Fuzzed PDF‑потоки — для тестирования парсинговых движков
🛡 В заключение
⚠️ PDF до сих пор остаётся главным каналом фишинга
⚠️ XFA-структуры почти не анализируются большинством EDR/AV
⚠️ Сложные обфускации ломают даже sandbox-анализаторы
⚠️ KANVAS даёт шанс заглянуть внутрь PDF-хакинга безопасно и контролируемо
📎 Где найти?
🔗 GitHub: github.com/WithSecureLabs/Kanvas
Stay secure and read SecureTechTalks 📚
#pdf #malware #obfuscation #redteam #blueteam #xfa #cve #cybertools #infosec #SecureTechTalks
🧠 Что, если у вас будет инструмент, который способен создавать и анализировать сложные PDF-файлы, обходящие большинство антифишинговых фильтров и EDR-систем?
Проект KANVAS от WithSecure Labs — это настоящий лабораторный стол для работы с PDF-инфекциями и уязвимостями на низком уровне.
🧬 Что умеет KANVAS?
📁 Включённые примеры
📌 XFA‑инъекции — обход стандартных JS-фильтров
📌 Обфусцированные payload’ы — встраиваются глубоко в структуру
📌 Модифицированные шаблоны — можно собрать от “белого” инвойса до “чёрного” тройного payload'а
📌 Fuzzed PDF‑потоки — для тестирования парсинговых движков
🛡 В заключение
⚠️ PDF до сих пор остаётся главным каналом фишинга
⚠️ XFA-структуры почти не анализируются большинством EDR/AV
⚠️ Сложные обфускации ломают даже sandbox-анализаторы
⚠️ KANVAS даёт шанс заглянуть внутрь PDF-хакинга безопасно и контролируемо
📎 Где найти?
🔗 GitHub: github.com/WithSecureLabs/Kanvas
Stay secure and read SecureTechTalks 📚
#pdf #malware #obfuscation #redteam #blueteam #xfa #cve #cybertools #infosec #SecureTechTalks
Please open Telegram to view this post
VIEW IN TELEGRAM
🧩 Open-source под атакой: взрывной рост вредоносных пакетов в 2025 году
🚨 В первом полугодии 2025 количество вредоносных библиотек в открытых репозиториях выросло на 188% по сравнению с прошлым годом!
Исследование Sonatype выявило 16 279 заражённых пакетов в PyPI и npm — абсолютный антирекорд.
Подробнее — в ITPro.
🛑 Что делают вредоносные пакеты?
55% из них ориентированы на кражу данных: пароли, токены, персональные данные, ключи API, MongoDB-строки, .git-credentials.
Некоторые запускают шифрованный бекдор, чтобы ускользнуть от анализаторов.
Удельный вес криптомайнеров снизился до 5%, но выросло число деструктивных payload’ов, намеренно нарушающих работу приложений (до 3%).
🎭 Атакующие маскируются под настоящих разработчиков
Один из кейсов — модуль crypto-encrypt-ts, замаскированный под популярную библиотеку CryptoJS. Он тайно воровал ключи и кошельки.
Были выявлены атаки от группировки Lazarus: более 100 вредоносных пакетов в npm, свыше 30 000 установок.
Цель — CI/CD‑среда. Упор делается на зависимые сборки и supply chain-интеграции, где пакеты автоматически устанавливаются без ручной валидации.
📦 npm — главный источник угроз
Почти 99% вредоносных библиотек найдены именно в npm.
Это объясняется огромным
количеством проектов на Node.js, особенно в Web3 и DevOps и отсутствием достаточной валидации новых пакетов
К тому же, злоумышленники используют shadow downloads — скачивание библиотек напрямую по URL, минуя менеджеры пакетов, что делает мониторинг почти невозможным. В 2024 таких загрузок было больше 15 миллиардов.
🤖 Атаки ускоряются благодаря ИИ
AI-инструменты используются хакерами для:
➖ Генерации названий пакетов, похожих на популярные
➖ Написания фейковых README и документации
➖ Создания обфусцированных вредоносных скриптов
➖ Массовой публикации сотен модулей в час
Так началась новая эра: ИИ против ИИ — атаки создаются автоматически, защиту тоже нужно автоматизировать.
✅Кто виноват? Что делать?
➖ Используйте системы сканирования зависимостей (например, Sonatype, Phylum, Snyk).
➖ Настройте контроль CI/CD-процессов — запретите автоматическую установку пакетов без проверки.
➖ Минимизируйте зависимости — каждое лишнее подключение — потенциальная точка взлома.
➖ Следите за обновлениями: обновляйте уязвимые модули, особенно с критическими CVE.
➖ Обучайте разработчиков — они первая линия обороны. Объясните, как выглядят опасные зависимости и фальшивые пакеты.
🔚 В заключение
📌 Open-source не просто «бесплатный код», а основной вектор атак на инфраструктуру разработки.
📌 Supply chain-компрометации - не гипотеза, а реальность, которую используют как APT-группы, так и одиночки.
📌 Время думать не только о CVE, но и о CVE-подобных инцидентах внутри цепочек поставок кода.
Stay secure and read SecureTechTalks 📚
#opensource #malware #supplychain #npm #pypi #devsecops #infosec #lazarus #aicscans #SecureTechTalks
🚨 В первом полугодии 2025 количество вредоносных библиотек в открытых репозиториях выросло на 188% по сравнению с прошлым годом!
Исследование Sonatype выявило 16 279 заражённых пакетов в PyPI и npm — абсолютный антирекорд.
Подробнее — в ITPro.
🛑 Что делают вредоносные пакеты?
55% из них ориентированы на кражу данных: пароли, токены, персональные данные, ключи API, MongoDB-строки, .git-credentials.
Некоторые запускают шифрованный бекдор, чтобы ускользнуть от анализаторов.
Удельный вес криптомайнеров снизился до 5%, но выросло число деструктивных payload’ов, намеренно нарушающих работу приложений (до 3%).
🎭 Атакующие маскируются под настоящих разработчиков
Один из кейсов — модуль crypto-encrypt-ts, замаскированный под популярную библиотеку CryptoJS. Он тайно воровал ключи и кошельки.
Были выявлены атаки от группировки Lazarus: более 100 вредоносных пакетов в npm, свыше 30 000 установок.
Цель — CI/CD‑среда. Упор делается на зависимые сборки и supply chain-интеграции, где пакеты автоматически устанавливаются без ручной валидации.
📦 npm — главный источник угроз
Почти 99% вредоносных библиотек найдены именно в npm.
Это объясняется огромным
количеством проектов на Node.js, особенно в Web3 и DevOps и отсутствием достаточной валидации новых пакетов
К тому же, злоумышленники используют shadow downloads — скачивание библиотек напрямую по URL, минуя менеджеры пакетов, что делает мониторинг почти невозможным. В 2024 таких загрузок было больше 15 миллиардов.
🤖 Атаки ускоряются благодаря ИИ
AI-инструменты используются хакерами для:
Так началась новая эра: ИИ против ИИ — атаки создаются автоматически, защиту тоже нужно автоматизировать.
✅
🔚 В заключение
📌 Open-source не просто «бесплатный код», а основной вектор атак на инфраструктуру разработки.
📌 Supply chain-компрометации - не гипотеза, а реальность, которую используют как APT-группы, так и одиночки.
📌 Время думать не только о CVE, но и о CVE-подобных инцидентах внутри цепочек поставок кода.
Stay secure and read SecureTechTalks 📚
#opensource #malware #supplychain #npm #pypi #devsecops #infosec #lazarus #aicscans #SecureTechTalks
Please open Telegram to view this post
VIEW IN TELEGRAM
🐍💻 «313 000 попыток взлома!» Как хакеры ломятся в хонипот Cowrie
Сырые журналы атак - это золото для исследователей. Но золото грязное: сотни тысяч строк, команды, IP-адреса, таймстемпы. Попробуй-ка вручную понять, что из этого реальная угроза, а что просто шум.
Недавнее исследование Towards Log Analysis with AI Agents: Cowrie Case Study показало, как можно автоматизировать такой анализ, чтобы SOC-команда получала не кашу из логов, а структурированную картину происходящего.
🕵️ О чём речь?
Cowrie - это SSH/Telnet-хонипот, который имитирует сервер и собирает действия злоумышленников. Сырые JSON-логи хранят всё: от ввода wget и curl до попыток удалить файлы. Но проблема в том, что таких событий сотни тысяч в день.
Учёные собрали движок, который:
⚡ превращает разрозненные события в сессии атакующего (с IP и последовательностью команд)
⚡ анализирует их по правилам (например, если встречается wget - это уже признак загрузки малвари)
⚡ классифицирует каждую сессию: разведка, внедрение вредоноса, чистка следов
⚡ оценивает уровень «навыка» атакующего: скрипт-кидди, автоматический бот или что-то посерьёзнее
⚙️ Механика
🗂️ На вход подаётся весь массив Cowrie-логов
📊 pandas превращает их в аккуратный DataFrame
🕹️ Далее включается правило-ориентированный анализатор, который проходит команды сессии и отмечает подозрительные действия
📈 На выходе - CSV-отчёты, HTML-страницы и даже визуализации: графики по видам атак и «скилл-уровням» атакующих
📊 Результаты анализа 313 000 событий
🔎 Выделено 26 368 уникальных атакующих сессий
⌨️ Большинство атак - это поверхностные пробы: 1-2 команды и отключение
💣 Второе место - массовое развёртывание малвари, чаще всего криптомайнеров или DDoS-ботов
🤖 Почти весь трафик - это автоматизированные атаки «низкого» или «среднего» уровня. То есть в ловушку в основном попадают не APT-группы, а боты и скрипт-кидди
🔮 Что дальше?
Авторы планируют подключить LLM (например, через LangChain) и интегрировать внешние источники (AbuseIPDB, VirusTotal), чтобы система автоматически обогащала логи репутацией IP и анализом URL.
📎 Репозиторий проекта: github.com/EfeEmirYuce/Cowrie-Honeypot-Log-Analysis-Engine
Stay secure and read SecureTechTalks 📚
#CyberSecurity #Honeypot #Cowrie #Malware #SOC #ThreatIntelligence #Phishing #AI #Botnet #SecureTechTalks
Сырые журналы атак - это золото для исследователей. Но золото грязное: сотни тысяч строк, команды, IP-адреса, таймстемпы. Попробуй-ка вручную понять, что из этого реальная угроза, а что просто шум.
Недавнее исследование Towards Log Analysis with AI Agents: Cowrie Case Study показало, как можно автоматизировать такой анализ, чтобы SOC-команда получала не кашу из логов, а структурированную картину происходящего.
🕵️ О чём речь?
Cowrie - это SSH/Telnet-хонипот, который имитирует сервер и собирает действия злоумышленников. Сырые JSON-логи хранят всё: от ввода wget и curl до попыток удалить файлы. Но проблема в том, что таких событий сотни тысяч в день.
Учёные собрали движок, который:
⚡ превращает разрозненные события в сессии атакующего (с IP и последовательностью команд)
⚡ анализирует их по правилам (например, если встречается wget - это уже признак загрузки малвари)
⚡ классифицирует каждую сессию: разведка, внедрение вредоноса, чистка следов
⚡ оценивает уровень «навыка» атакующего: скрипт-кидди, автоматический бот или что-то посерьёзнее
⚙️ Механика
🗂️ На вход подаётся весь массив Cowrie-логов
📊 pandas превращает их в аккуратный DataFrame
🕹️ Далее включается правило-ориентированный анализатор, который проходит команды сессии и отмечает подозрительные действия
📈 На выходе - CSV-отчёты, HTML-страницы и даже визуализации: графики по видам атак и «скилл-уровням» атакующих
📊 Результаты анализа 313 000 событий
🔎 Выделено 26 368 уникальных атакующих сессий
⌨️ Большинство атак - это поверхностные пробы: 1-2 команды и отключение
💣 Второе место - массовое развёртывание малвари, чаще всего криптомайнеров или DDoS-ботов
🤖 Почти весь трафик - это автоматизированные атаки «низкого» или «среднего» уровня. То есть в ловушку в основном попадают не APT-группы, а боты и скрипт-кидди
🔮 Что дальше?
Авторы планируют подключить LLM (например, через LangChain) и интегрировать внешние источники (AbuseIPDB, VirusTotal), чтобы система автоматически обогащала логи репутацией IP и анализом URL.
📎 Репозиторий проекта: github.com/EfeEmirYuce/Cowrie-Honeypot-Log-Analysis-Engine
Stay secure and read SecureTechTalks 📚
#CyberSecurity #Honeypot #Cowrie #Malware #SOC #ThreatIntelligence #Phishing #AI #Botnet #SecureTechTalks
🚨 Как взломать ИИ через конкретизацию контента? 🚨
Исследователи из KTH (Швеция) представили свежую работу о том, как обходить защиту больших языковых моделей (LLM). На конференции GameSec 2025 они рассказали о новой технике под названием Content Concretization (CC), «конкретизация контента».
В чём суть: вместо хитрых промптов или обфускации злоумышленники берут абстрактную задачу («сделай DDoS-атаку») и шаг за шагом превращают её в рабочий код с помощью цепочки LLM.
🛠️ Как работает Content Concretization
➖ Черновик - низкоуровневая модель (например, GPT-4o-mini) с более слабыми фильтрами генерирует базовый план или псевдокод.
➖ Уточнение - несколько итераций доработки черновика (1–3 шага), чтобы убрать абстракции.
➖ Финал - более «умная» модель (например, Claude 3.7 Sonnet) получает и исходный запрос, и черновик, и превращает это в полноценный эксплойт или готовый код.
Таким образом, система по сути «обманывает сама себя»: слабая модель генерирует набросок, сильная доводит до продакшн-уровня.
📊 Результаты исследования
Учёные прогнали 350 промптов из CySecBench (специализированного датасета для кибератак) и получили такие цифры:
🔒 Без уточнений (N=0): успех всего 7.1%.
⚡ С 1 итерацией: рост до 57.1%.
📈 Оптимум на 3 итерациях: 62% успешных джейлбрейков.
🔻 4 итерации дают падение (46.6%) — слабая модель начинает «отказываться» на поздних шагах.
💰 Цена атаки — всего 7.5 цента за один промпт, что делает метод экономически доступным.
🧪 Что реально сгенерировала система
Исследователи тестировали 3 классические сценария:
1⃣ SYN-flood: многопоточный DoS-скрипт с подменой IP. Работает в тестовой сети, но против современных защит нужен апгрейд.
2⃣ Spear-phishing: модульный фреймворк с веб-скрейпером, генерацией писем через GPT и SMTP-рассылкой. Умеет писать убедительные письма под жертву.
3⃣ SQLi-сканер: находил до 35 уязвимостей и извлекал реальные данные (имена БД, юзеры, версии MySQL) на тестовых сайтах.
Результат: код работает почти сразу, иногда нужны лишь минимальные правки.
🔍 В чем подвох?
➖ Системы фильтров плохо справляются с пошаговым уточнением, они блокируют финальный промпт, но не понимают, что по цепочке строится эксплойт.
➖ Техника не требует сложных «ролевых игр» или обфускации, всё делается простыми прямыми инструкциями.
➖ Экономичность метода позволяет атакующим автоматизировать генерацию вредоносного кода в промышленных масштабах.
🛡️ Возможные меры защиты
Исследователи предлагают:
- Внедрять промежуточные фильтры, которые отслеживают разницу между шагами (например, от абстракции к конкретному коду).
- Ограничивать расширение «черновиков» подозрительного характера.
- Усиливать кросс-модельную проверку и независимый аудит цепочек вывода.
⚠️ Вывод: Content Concretization - это новый класс джейлбрейков, который показывает, что обходы фильтров LLM становятся всё более системными и технически продуманными. Впереди нас ждёт эра, где атаки будут строиться цепочками из нескольких ИИ, и именно там кибербезопасность получит новые вызовы.
Полный текст исследования: arXiv:2509.12937v1
Stay secure and read SecureTechTalks 📚
#AI #Jailbreak #LLM #CyberSecurity #Malware #Phishing #SQLi #SupplyChain #ChatGPT #Security #AI #SecureTechTalks
Исследователи из KTH (Швеция) представили свежую работу о том, как обходить защиту больших языковых моделей (LLM). На конференции GameSec 2025 они рассказали о новой технике под названием Content Concretization (CC), «конкретизация контента».
В чём суть: вместо хитрых промптов или обфускации злоумышленники берут абстрактную задачу («сделай DDoS-атаку») и шаг за шагом превращают её в рабочий код с помощью цепочки LLM.
🛠️ Как работает Content Concretization
Таким образом, система по сути «обманывает сама себя»: слабая модель генерирует набросок, сильная доводит до продакшн-уровня.
📊 Результаты исследования
Учёные прогнали 350 промптов из CySecBench (специализированного датасета для кибератак) и получили такие цифры:
🔒 Без уточнений (N=0): успех всего 7.1%.
⚡ С 1 итерацией: рост до 57.1%.
📈 Оптимум на 3 итерациях: 62% успешных джейлбрейков.
🔻 4 итерации дают падение (46.6%) — слабая модель начинает «отказываться» на поздних шагах.
💰 Цена атаки — всего 7.5 цента за один промпт, что делает метод экономически доступным.
🧪 Что реально сгенерировала система
Исследователи тестировали 3 классические сценария:
1⃣ SYN-flood: многопоточный DoS-скрипт с подменой IP. Работает в тестовой сети, но против современных защит нужен апгрейд.
2⃣ Spear-phishing: модульный фреймворк с веб-скрейпером, генерацией писем через GPT и SMTP-рассылкой. Умеет писать убедительные письма под жертву.
3⃣ SQLi-сканер: находил до 35 уязвимостей и извлекал реальные данные (имена БД, юзеры, версии MySQL) на тестовых сайтах.
Результат: код работает почти сразу, иногда нужны лишь минимальные правки.
🔍 В чем подвох?
🛡️ Возможные меры защиты
Исследователи предлагают:
- Внедрять промежуточные фильтры, которые отслеживают разницу между шагами (например, от абстракции к конкретному коду).
- Ограничивать расширение «черновиков» подозрительного характера.
- Усиливать кросс-модельную проверку и независимый аудит цепочек вывода.
⚠️ Вывод: Content Concretization - это новый класс джейлбрейков, который показывает, что обходы фильтров LLM становятся всё более системными и технически продуманными. Впереди нас ждёт эра, где атаки будут строиться цепочками из нескольких ИИ, и именно там кибербезопасность получит новые вызовы.
Полный текст исследования: arXiv:2509.12937v1
Stay secure and read SecureTechTalks 📚
#AI #Jailbreak #LLM #CyberSecurity #Malware #Phishing #SQLi #SupplyChain #ChatGPT #Security #AI #SecureTechTalks
Please open Telegram to view this post
VIEW IN TELEGRAM
❤🔥2
🔥 ИИ против бэкдоров: как LLM учат находить малварь в обновлениях ПО
🚀 Сегодня программы обновляются перманентно, и за каждым апдейтом может скрываться угроза. Что если в новую версию "случайно" попал бэкдор или чужой вредоносный код? 🤯
История знает немало таких случаев: SolarWinds, log4j, 3CX, а совсем недавно - громкая атака на XZ Utils (источник).
🔍 Как ловят скрытые изменения
Специалисты используют метод под названием binary diffing - сравнение двух версий бинаря. Он показывает, где именно есть различия. Но вот понять, что именно изменилось и несут ли эти изменения угрозу - задача для долгих ночей с дизассемблером (обзор методов).
🤖 ИИ приходит на помощь
Исследователи из NYU Tandon и Narf Industries придумали, как встроить в процесс большие языковые модели (LLM). Теперь вместо сухого "файл изменился" можно получить осмысленное описание: что делает новая функция, чем она отличается от старой, и есть ли тут что-то подозрительное.
🧩 Баллы опасности для функций
Чтобы не утонуть в тысячах изменений, придумали метрику Functional Sensitivity Score (FSS). Она оценивает каждую функцию по пяти направлениям:
📡 ведет ли себя подозрительно (сети, процессы);
💾 трогает ли важные ресурсы (файлы, устройства);
🔐 рискует ли конфиденциальностью (пароли, ключи);
🛡️ ломает ли целостность (правит настройки, шифрует);
⚡ влияет ли на доступность (отключает сервисы, грузит систему).
Итог - "оценка чувствительности" от 0 до 10, почти как в CVSS (почти 😁).
🦠 Учёные устроили полигон для малвари
Чтобы проверить подход, исследователи сделали свой "тестовый полигон" - взяли 6 популярных open-source проектов (gzip, openssl, tar, sqlite, microhttpd, paho-mqtt) и внедрили туда три вида малвари:
шифровальщик (rware),
троян для удаленного доступа (rat),
клиент ботнета (botnet).
На выходе получился огромный датасет: 104 версии, 392 бинарных сравнения и 46 000 функций.
📊 Результаты
🎯 Precision: 0.98 - почти без ложных тревог.
🔎 Recall: 0.64 - до 64% вредоносных функций пойманы.
📈 Разница в FSS между чистыми и зараженными функциями - 3 балла.
А в реальном кейсе с XZ Utils метод сработал идеально: LLM отметил новые функции как "аномальные для liblzma" и выявил бэкдор (детали атаки).
Но ⚠️ есть и обратная сторона: те же методы могут использовать хакеры для реверс-инжиниринга. Поэтому авторы отдельно говорят об этике и необходимости ограничений.
🔮 Будущее
Ждём, когда каждый апдейт можно будет проверить автоматически.
Stay secure and read SecureTechTalks 📚
#кибербезопасность #supplychain #malware #LLM #reverseengineering #xz #opensource #binarydiff #infosec #softwaresecurity
🚀 Сегодня программы обновляются перманентно, и за каждым апдейтом может скрываться угроза. Что если в новую версию "случайно" попал бэкдор или чужой вредоносный код? 🤯
История знает немало таких случаев: SolarWinds, log4j, 3CX, а совсем недавно - громкая атака на XZ Utils (источник).
🔍 Как ловят скрытые изменения
Специалисты используют метод под названием binary diffing - сравнение двух версий бинаря. Он показывает, где именно есть различия. Но вот понять, что именно изменилось и несут ли эти изменения угрозу - задача для долгих ночей с дизассемблером (обзор методов).
🤖 ИИ приходит на помощь
Исследователи из NYU Tandon и Narf Industries придумали, как встроить в процесс большие языковые модели (LLM). Теперь вместо сухого "файл изменился" можно получить осмысленное описание: что делает новая функция, чем она отличается от старой, и есть ли тут что-то подозрительное.
🧩 Баллы опасности для функций
Чтобы не утонуть в тысячах изменений, придумали метрику Functional Sensitivity Score (FSS). Она оценивает каждую функцию по пяти направлениям:
📡 ведет ли себя подозрительно (сети, процессы);
💾 трогает ли важные ресурсы (файлы, устройства);
🔐 рискует ли конфиденциальностью (пароли, ключи);
🛡️ ломает ли целостность (правит настройки, шифрует);
⚡ влияет ли на доступность (отключает сервисы, грузит систему).
Итог - "оценка чувствительности" от 0 до 10, почти как в CVSS (почти 😁).
🦠 Учёные устроили полигон для малвари
Чтобы проверить подход, исследователи сделали свой "тестовый полигон" - взяли 6 популярных open-source проектов (gzip, openssl, tar, sqlite, microhttpd, paho-mqtt) и внедрили туда три вида малвари:
шифровальщик (rware),
троян для удаленного доступа (rat),
клиент ботнета (botnet).
На выходе получился огромный датасет: 104 версии, 392 бинарных сравнения и 46 000 функций.
📊 Результаты
🎯 Precision: 0.98 - почти без ложных тревог.
🔎 Recall: 0.64 - до 64% вредоносных функций пойманы.
📈 Разница в FSS между чистыми и зараженными функциями - 3 балла.
А в реальном кейсе с XZ Utils метод сработал идеально: LLM отметил новые функции как "аномальные для liblzma" и выявил бэкдор (детали атаки).
Но ⚠️ есть и обратная сторона: те же методы могут использовать хакеры для реверс-инжиниринга. Поэтому авторы отдельно говорят об этике и необходимости ограничений.
🔮 Будущее
Ждём, когда каждый апдейт можно будет проверить автоматически.
Stay secure and read SecureTechTalks 📚
#кибербезопасность #supplychain #malware #LLM #reverseengineering #xz #opensource #binarydiff #infosec #softwaresecurity
💥 Как взломать браузер ChatGPT Atlas с помощью одной строки?
ИИ-браузер от OpenAI, ChatGPT Atlas, задумывался как революция: браузер, который понимает вас.
Но исследователи нашли способ превратить его в идеальный инструмент для хакеров.
📍 Всё, что нужно злоумышленнику - одна хитрая ссылка.
🧠 Как обмануть умный браузер
Atlas объединяет привычный браузер и ИИ-ассистента ChatGPT.
Главная фишка - “omnibox”: адресная строка, которая понимает и URL, и команды на естественном языке.
И в этом вся проблема.
Хакеры создают фальшивый адрес вроде:
На вид обычный URL.
Но Atlas читает его как запрос пользователя.
ИИ думает, что вы сами сказали:
И он выполняет.
🎯 Так банальная ссылка превращается в prompt injection.
🔥 Почему вообще работает?
Потому что Atlas не просто “понимает текст”, он доверяет тому, что вы пишете.
А злоумышленник притворяется вами.
Раньше для взлома браузера нужны были эксплойты.
Теперь достаточно переубедить ИИ 😁
💣 Что может сделать злоумышленник?
🚨 Отправить ИИ на фишинговый сайт без вашего участия.
💾 Заставить ассистента загрузить вредоносный файл.
🕶️ Подделать боковую панель ChatGPT и украсть ваши данные.
🔗 Или просто quietly использовать сессию, где вы уже залогинены: от Gmail до корпоративных инструментов.
⚡ Гениальность или абсурд?
Браузер, который понимает язык, теперь уязвим для языка.
Хакеру больше не нужно ломать код, достаточно сказать фразу, которую ИИ воспримет как приказ к действию.
📎 Вот такая социальная инженерия для искусственного интеллекта.
Stay secure and read SecureTechTalks 📚
#cybersecurity #OpenAI #ChatGPT #AtlasBrowser #promptinjection #AIsecurity #browsersecurity #malware #ethicalhacking #SecureTechTalks
ИИ-браузер от OpenAI, ChatGPT Atlas, задумывался как революция: браузер, который понимает вас.
Но исследователи нашли способ превратить его в идеальный инструмент для хакеров.
📍 Всё, что нужно злоумышленнику - одна хитрая ссылка.
🧠 Как обмануть умный браузер
Atlas объединяет привычный браузер и ИИ-ассистента ChatGPT.
Главная фишка - “omnibox”: адресная строка, которая понимает и URL, и команды на естественном языке.
И в этом вся проблема.
Хакеры создают фальшивый адрес вроде:
https://my-site.ai/open?next=type+this+instruction+and+go+to+my+page На вид обычный URL.
Но Atlas читает его как запрос пользователя.
ИИ думает, что вы сами сказали:
«Открой этот сайт, выполни команду, отправь данные туда-то».
И он выполняет.
🎯 Так банальная ссылка превращается в prompt injection.
🔥 Почему вообще работает?
Потому что Atlas не просто “понимает текст”, он доверяет тому, что вы пишете.
А злоумышленник притворяется вами.
Раньше для взлома браузера нужны были эксплойты.
Теперь достаточно переубедить ИИ 😁
💣 Что может сделать злоумышленник?
🚨 Отправить ИИ на фишинговый сайт без вашего участия.
💾 Заставить ассистента загрузить вредоносный файл.
🕶️ Подделать боковую панель ChatGPT и украсть ваши данные.
🔗 Или просто quietly использовать сессию, где вы уже залогинены: от Gmail до корпоративных инструментов.
⚡ Гениальность или абсурд?
Браузер, который понимает язык, теперь уязвим для языка.
Хакеру больше не нужно ломать код, достаточно сказать фразу, которую ИИ воспримет как приказ к действию.
📎 Вот такая социальная инженерия для искусственного интеллекта.
Stay secure and read SecureTechTalks 📚
#cybersecurity #OpenAI #ChatGPT #AtlasBrowser #promptinjection #AIsecurity #browsersecurity #malware #ethicalhacking #SecureTechTalks
1👍2🔥1🤝1
💣 npm как C2: история с axios
В конце марта исследователи обратили внимание на подозрительную активность в npm-пакетах, связанных с экосистемой axios. Сначала это выглядело как обычный случай вредоносной зависимости, но при разборе выяснилось, что речь идёт о полноценной supply chain атаке с бэкдором и удалённым управлением.
Сразу отметим, что axios не был скомпрометирован. Атаку провели через сторонние пакеты, которые маскировались под легитимные модули и попадали в dependency tree.
🧬 Как происходит заражение
Вредоносный пакет выглядит как обычная зависимость без явных признаков компрометации. Он спокойно устанавливается через npm и активируется на этапе npm install.
Ключевой механизм lifecycle-скрипты (например, postinstall). Именно они позволяют выполнить код ещё до запуска приложения.
В этот момент:
➖ подтягивается внешний payload или активируется встроенный
➖ происходит первичная инициализация бэкдора
➖ устанавливается канал связи с управляющим сервером
⚙️ Что делает бэкдор
После активации пакет начинает работать как скрытый агент:
➖ собирает информацию об окружении (OS, переменные, пути, токены)
➖ устанавливает исходящее соединение с C2
➖ загружает и исполняет дополнительный код
При этом он работает в контексте текущего процесса, т.е. получает доступ ко всему, к чему есть доступ у сборки или разработчика.
🌐 Почти незаметно
Вредоносный код:
➖ обфусцирован
➖ маскирует сетевую активность
➖ может быть разбит на части
Дополнительно, транзитивные зависимости, пакет может попасть в проект вообще без прямого подключения.
В итоге обнаружение становятся не самой тривиальной задачей.
🛡 Как от этого защищаются
После выявления атаки основной фокус должен сместиться на контроль этапа установки зависимостей.
Во-первых, нужно жёстко ограничивать выполнение lifecycle-скриптов. В прод- и CI-средах стоит использовать установку с отключёнными скриптами (--ignore-scripts) и разрешать их только для проверенных пакетов.
Во-вторых, необходимо усилить контроль над зависимостями. Фиксация версий через lock-файлы, аудит новых пакетов и отказ от «автоматических» обновлений должен быть базовой практикой, а не рекомендацией.
Отдельное внимание стоит уделять изоляции CI. Сборки нужно запускать в средах с минимальными правами и без прямого доступа к секретам.
Даже если вредоносный код выполнится, он не должен получить ничего критичного.
📄 Разбор атаки:
https://opensourcemalware.com/blog/axios-compromised
Stay secure and read SecureTechTalks 📚
#cybersecurity #infosec #supplychain #npm #javascript #appsec #devsecops #malware #hacking #axios
В конце марта исследователи обратили внимание на подозрительную активность в npm-пакетах, связанных с экосистемой axios. Сначала это выглядело как обычный случай вредоносной зависимости, но при разборе выяснилось, что речь идёт о полноценной supply chain атаке с бэкдором и удалённым управлением.
Сразу отметим, что axios не был скомпрометирован. Атаку провели через сторонние пакеты, которые маскировались под легитимные модули и попадали в dependency tree.
🧬 Как происходит заражение
Вредоносный пакет выглядит как обычная зависимость без явных признаков компрометации. Он спокойно устанавливается через npm и активируется на этапе npm install.
Ключевой механизм lifecycle-скрипты (например, postinstall). Именно они позволяют выполнить код ещё до запуска приложения.
В этот момент:
⚙️ Что делает бэкдор
После активации пакет начинает работать как скрытый агент:
При этом он работает в контексте текущего процесса, т.е. получает доступ ко всему, к чему есть доступ у сборки или разработчика.
🌐 Почти незаметно
Вредоносный код:
Дополнительно, транзитивные зависимости, пакет может попасть в проект вообще без прямого подключения.
В итоге обнаружение становятся не самой тривиальной задачей.
🛡 Как от этого защищаются
После выявления атаки основной фокус должен сместиться на контроль этапа установки зависимостей.
Во-первых, нужно жёстко ограничивать выполнение lifecycle-скриптов. В прод- и CI-средах стоит использовать установку с отключёнными скриптами (--ignore-scripts) и разрешать их только для проверенных пакетов.
Во-вторых, необходимо усилить контроль над зависимостями. Фиксация версий через lock-файлы, аудит новых пакетов и отказ от «автоматических» обновлений должен быть базовой практикой, а не рекомендацией.
Отдельное внимание стоит уделять изоляции CI. Сборки нужно запускать в средах с минимальными правами и без прямого доступа к секретам.
Даже если вредоносный код выполнится, он не должен получить ничего критичного.
📄 Разбор атаки:
https://opensourcemalware.com/blog/axios-compromised
Stay secure and read SecureTechTalks 📚
#cybersecurity #infosec #supplychain #npm #javascript #appsec #devsecops #malware #hacking #axios
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1
🚨 Claude Code утёк на GitHub и стал вектором атаки
После утечки инструмента Claude Code в открытый доступ на GitHub начали быстро появляться его копии и форки. Некоторые из них оказались модифицированы с добавленным вредоносным кодом.
Выглядело всё вполне обычно: репозиторий с приввчным названием и рабочий код. Пользователи скачивали такие версии как легитимный инструмент, но вместе с этим устанавливали malware.
Вредоносная логика встраивалась прямо в проект и срабатывала при установке или запуске. Она могла догружать дополнительные компоненты, открывать удалённый доступ, перехватывать данные и выполнять команды на машине жертвы.
Атака строится на доверии к инструменту и платформе распространения, но по сути, это стандартная supply chain атака:
➖ точка входа в виде среды разработки,
➖ канал распространения GitHub,
➖ в качестве триггера обычное действие «скачать и попробовать».
Последствия стандартные для такого класса атак. Компрометация рабочих машин, утечка токенов и доступов, риск дальнейшего проникновения в инфраструктуру.
Хорошее напоминание, что доверять нельзя никому 😱
Stay secure and read SecureTechTalks 📚
#кибербезопасность #infosec #cybersecurity #malware #supplychain #github #devsecops #opensource #hacking #securetechtalks
После утечки инструмента Claude Code в открытый доступ на GitHub начали быстро появляться его копии и форки. Некоторые из них оказались модифицированы с добавленным вредоносным кодом.
Выглядело всё вполне обычно: репозиторий с приввчным названием и рабочий код. Пользователи скачивали такие версии как легитимный инструмент, но вместе с этим устанавливали malware.
Вредоносная логика встраивалась прямо в проект и срабатывала при установке или запуске. Она могла догружать дополнительные компоненты, открывать удалённый доступ, перехватывать данные и выполнять команды на машине жертвы.
Атака строится на доверии к инструменту и платформе распространения, но по сути, это стандартная supply chain атака:
Последствия стандартные для такого класса атак. Компрометация рабочих машин, утечка токенов и доступов, риск дальнейшего проникновения в инфраструктуру.
Хорошее напоминание, что доверять нельзя никому 😱
Stay secure and read SecureTechTalks 📚
#кибербезопасность #infosec #cybersecurity #malware #supplychain #github #devsecops #opensource #hacking #securetechtalks
Please open Telegram to view this post
VIEW IN TELEGRAM
🧠🪱 AI-черви больше не требуют оператора
На arXiv вышла работа: AI Agents Enable Adaptive Computer Worms.
Исследователи показали новый класс вредоносного ПО: адаптивный AI-червь, который больше не живёт по заранее зашитому exploit chain. Вместо фиксированной логики внутри работает LLM-агент.
После компрометации машины червь разворачивает локальную open-weight модель прямо на украденных ресурсах и начинает сам анализировать окружение:
🔹 какие сервисы подняты
🔹 какие версии софта используются
🔹 где слабые конфигурации
🔹 какие lateral movement paths доступны
🔹 какие новые CVE можно применить
Каждый новый хост становится одновременно новой точкой заражения и новой вычислительной нодой для дальнейшего reasoning.
Получается паразитическая модель распространения.
🧨 Тестирование
Авторы прогнали worm на корпоративной сети из 33 машин: Linux, Windows и IoT. В среднем компрометировалось 73.8% инфраструктуры.
Червь адаптировался даже к CVE, которые появились уже после обучения модели, используя runtime intelligence и свежие advisory.
Агент умеет искать свежие эксплойты сам, а знания становятся динамическими.
🛡️ Новый класс угроз
AI-worm - это динамический reasoning движок. Он не хранит exploit chain. Он синтезирует её в реальном времени.
Это означает:
➖ меньше сигнатур
➖ меньше предсказуемости
➖ больше адаптации
➖ дешевле масштабирование
➖ сложнее containment
Таким образом, мы видим первые признаки autonomous offensive malware. Похоже эпоха «самообучающихся червей» уже началась.
🔗 Исследование: https://arxiv.org/abs/2606.03811
Stay secure and read SecureTechTalks 📚
#кибербезопасность #AI #LLM #Malware #Worm #AgenticAI #RCE #ThreatIntel #CyberSecurity #SecureTechTalks
На arXiv вышла работа: AI Agents Enable Adaptive Computer Worms.
Исследователи показали новый класс вредоносного ПО: адаптивный AI-червь, который больше не живёт по заранее зашитому exploit chain. Вместо фиксированной логики внутри работает LLM-агент.
После компрометации машины червь разворачивает локальную open-weight модель прямо на украденных ресурсах и начинает сам анализировать окружение:
🔹 какие сервисы подняты
🔹 какие версии софта используются
🔹 где слабые конфигурации
🔹 какие lateral movement paths доступны
🔹 какие новые CVE можно применить
Каждый новый хост становится одновременно новой точкой заражения и новой вычислительной нодой для дальнейшего reasoning.
Получается паразитическая модель распространения.
🧨 Тестирование
Авторы прогнали worm на корпоративной сети из 33 машин: Linux, Windows и IoT. В среднем компрометировалось 73.8% инфраструктуры.
Червь адаптировался даже к CVE, которые появились уже после обучения модели, используя runtime intelligence и свежие advisory.
Агент умеет искать свежие эксплойты сам, а знания становятся динамическими.
🛡️ Новый класс угроз
AI-worm - это динамический reasoning движок. Он не хранит exploit chain. Он синтезирует её в реальном времени.
Это означает:
➖ меньше сигнатур
➖ меньше предсказуемости
➖ больше адаптации
➖ дешевле масштабирование
➖ сложнее containment
Таким образом, мы видим первые признаки autonomous offensive malware. Похоже эпоха «самообучающихся червей» уже началась.
🔗 Исследование: https://arxiv.org/abs/2606.03811
Stay secure and read SecureTechTalks 📚
#кибербезопасность #AI #LLM #Malware #Worm #AgenticAI #RCE #ThreatIntel #CyberSecurity #SecureTechTalks
👍2
🧨 Автономный AI-вымогатель начал атаку
Мы дождались момента, когда AI перестал просто помогать атакующим и начал самостоятельно проводить полноценные атаки.
Исследователи Sysdig разобрали кампанию JADEPUFFER, первый публично описанный случай, где LLM-агент без участия человека выполнил весь kill chain: от первоначального проникновения до шифрования инфраструктуры и требования выкупа.
⚙️ Как проходила атака?
Точкой входа стала уязвимость CVE-2025-3248 в Langflow. Получив удалённое выполнение кода, агент начал действовать как опытный пентестер.
Сначала он собрал всё, что представляло ценность: API-ключи OpenAI, Anthropic, Gemini и DeepSeek, облачные креденшелы AWS, Azure, Google Cloud, Alibaba и Tencent, учётные данные баз данных и даже ключи криптокошельков. Затем самостоятельно построил маршрут дальнейшего продвижения по инфраструктуре.
🧠 AI сам принимал решения
Следующей целью стал MinIO. Агент обнаружил сервис, автоматически проверил стандартные учётные данные minioadmin:minioadmin, получил доступ и закрепился через планировщик задач, периодически отправляя beacon на управляющий сервер.
После этого он переключился на Nacos, воспользовался CVE-2021-29441, получил административный доступ и добрался до MySQL.
В итоге агент зашифровал 1342 записи конфигурации Nacos, удалил исходные таблицы и оставил записку с требованием выкупа. При этом ключ шифрования нигде не сохранился, поэтому восстановление оказалось невозможным даже в случае оплаты.
🧪 Почему исследователи уверены, что это был AI?
Артефакты выглядят необычно для классического вредоносного ПО. Код содержал большое количество подробных комментариев на естественном языке. При ошибках агент не просто повторял действия, а анализировал причину сбоя, перепланировал атаку и самостоятельно исправлял её. По оценке Sysdig, в ходе кампании использовались сотни различных эксплойтов и техник.
🔗 Источник: https://www.sysdig.com/blog/jadepuffer-agentic-ransomware-for-automated-database-extortion
Stay secure and read SecureTechTalks 📚
#кибербезопасность #AI #LLM #Ransomware #AgenticAI #ThreatIntelligence #Malware #CyberSecurity #Sysdig #SecureTechTalks
Мы дождались момента, когда AI перестал просто помогать атакующим и начал самостоятельно проводить полноценные атаки.
Исследователи Sysdig разобрали кампанию JADEPUFFER, первый публично описанный случай, где LLM-агент без участия человека выполнил весь kill chain: от первоначального проникновения до шифрования инфраструктуры и требования выкупа.
⚙️ Как проходила атака?
Точкой входа стала уязвимость CVE-2025-3248 в Langflow. Получив удалённое выполнение кода, агент начал действовать как опытный пентестер.
Сначала он собрал всё, что представляло ценность: API-ключи OpenAI, Anthropic, Gemini и DeepSeek, облачные креденшелы AWS, Azure, Google Cloud, Alibaba и Tencent, учётные данные баз данных и даже ключи криптокошельков. Затем самостоятельно построил маршрут дальнейшего продвижения по инфраструктуре.
🧠 AI сам принимал решения
Следующей целью стал MinIO. Агент обнаружил сервис, автоматически проверил стандартные учётные данные minioadmin:minioadmin, получил доступ и закрепился через планировщик задач, периодически отправляя beacon на управляющий сервер.
После этого он переключился на Nacos, воспользовался CVE-2021-29441, получил административный доступ и добрался до MySQL.
В итоге агент зашифровал 1342 записи конфигурации Nacos, удалил исходные таблицы и оставил записку с требованием выкупа. При этом ключ шифрования нигде не сохранился, поэтому восстановление оказалось невозможным даже в случае оплаты.
🧪 Почему исследователи уверены, что это был AI?
Артефакты выглядят необычно для классического вредоносного ПО. Код содержал большое количество подробных комментариев на естественном языке. При ошибках агент не просто повторял действия, а анализировал причину сбоя, перепланировал атаку и самостоятельно исправлял её. По оценке Sysdig, в ходе кампании использовались сотни различных эксплойтов и техник.
🔗 Источник: https://www.sysdig.com/blog/jadepuffer-agentic-ransomware-for-automated-database-extortion
Stay secure and read SecureTechTalks 📚
#кибербезопасность #AI #LLM #Ransomware #AgenticAI #ThreatIntelligence #Malware #CyberSecurity #Sysdig #SecureTechTalks
👍2😱2
🧨 Infostealer крадёт открытую сессию Claude
Anthropic предупредила пользователей о новой схеме, где infostealer начали вытаскивать активные сессии Claude с заражённых компьютеров и использовать их для доступа к аккаунтам.
⚙️ Никогда такого не было и вот опять
Infostealer заражает компьютер и собирает локальные данные:
🔹 пароли браузера;
🔹 cookies;
🔹 токены и credentials;
🔹 активные сессии различных сервисов.
Claude оказывается всего лишь ещё одной целью среди множества других.
Особенность в том, что украденная аутентифицированная сессия может позволить злоумышленнику обойти обычный сценарий входа, повторно вводить пароль и проходить 2FA не требуется.
🔥 Зачем злоумышленникам Claude?
Anthropic обнаружила случаи, когда украденные сессии использовались для доступа к аккаунтам и расходования доступного количества токенов.
В расследовании фигурируют Vidar, LummaC2, StealC, RedLine и Acreed на Windows. На небольшом числе Mac также обнаружили Atomic Stealer (AMOS).
🛡️Кто виноват? Что делать?
Logout решает только половину проблемы. Если infostealer всё ещё находится на компьютере, следующая авторизация может быть украдена снова. Anthropic рекомендует удалить malware, сменить credentials и отозвать активные сессии.
🔗 Источник: bleepingcomputer
Stay secure and read SecureTechTalks 📚
#кибербезопасность #AI #Claude #Anthropic #Infostealer #Malware #AISecurity #EndpointSecurity #CyberSecurity #SecureTechTalks
Anthropic предупредила пользователей о новой схеме, где infostealer начали вытаскивать активные сессии Claude с заражённых компьютеров и использовать их для доступа к аккаунтам.
⚙️ Никогда такого не было и вот опять
Infostealer заражает компьютер и собирает локальные данные:
🔹 пароли браузера;
🔹 cookies;
🔹 токены и credentials;
🔹 активные сессии различных сервисов.
Claude оказывается всего лишь ещё одной целью среди множества других.
Особенность в том, что украденная аутентифицированная сессия может позволить злоумышленнику обойти обычный сценарий входа, повторно вводить пароль и проходить 2FA не требуется.
🔥 Зачем злоумышленникам Claude?
Anthropic обнаружила случаи, когда украденные сессии использовались для доступа к аккаунтам и расходования доступного количества токенов.
В расследовании фигурируют Vidar, LummaC2, StealC, RedLine и Acreed на Windows. На небольшом числе Mac также обнаружили Atomic Stealer (AMOS).
🛡️
Logout решает только половину проблемы. Если infostealer всё ещё находится на компьютере, следующая авторизация может быть украдена снова. Anthropic рекомендует удалить malware, сменить credentials и отозвать активные сессии.
🔗 Источник: bleepingcomputer
Stay secure and read SecureTechTalks 📚
#кибербезопасность #AI #Claude #Anthropic #Infostealer #Malware #AISecurity #EndpointSecurity #CyberSecurity #SecureTechTalks
👍1
🧨 Хакеры продолжают воровать токены Claude
4 августа независимый AI консультант Грант Де Свардт заметил странную вещь, его Claude Max начал расходовать токены, хотя в тот день он вообще не работал с сервисом.
Он отключил всё, что было подключено к Claude, остановил scheduled tasks, отключил Dispatch и cloud execution. Расход продолжил расти.
Мы уже разбирали похожую схему с кражей активных сессий Claude в предыдущем посте.
⚙️ Инцидент
Anthropic заблокировала аккаунт, отозвала все сессии и токены Claude Code. Позже компания сообщила, что скомпрометированный session key использовали для выпуска несанкционированных OAuth токенов Claude Code.
🔓 Украденная сессия
Если атакующий получает действующую аутентифицированную сессию, он может использовать её для доступа к сервису и дальнейшего получения токенов.
Именно поэтому инфостилеры становятся особенно опасны для AI сервисов. Вместе с cookies и credentials они могут утащить уже авторизованный доступ.
🦠 Откуда взялась сессия?
Anthropic связывает часть подобных случаев с infostealer malware. Среди обнаруженных семейств:
🔹 Vidar
🔹 LummaC2
🔹 StealC
🔹 RedLine
🔹 Acreed
🔹 Atomic Stealer на Mac
К сожалению, в случае Де Свардта компания не смогла установить точный источник компрометации.
Украденный AI аккаунт превращается в ресурс для злоумышленника.
Можно расходовать чужие токены, запускать задачи через Claude Code и использовать подключённые возможности аккаунта. При этом владелец может заметить проблему только после того, как лимит уже существенно израсходован.
🔗 Источники: TechCrunch
Stay secure and read SecureTechTalks 📚
#кибербезопасность #AI #Claude #Anthropic #Infostealer #Malware #AISecurity #EndpointSecurity #CyberSecurity #SecureTechTalks
4 августа независимый AI консультант Грант Де Свардт заметил странную вещь, его Claude Max начал расходовать токены, хотя в тот день он вообще не работал с сервисом.
Он отключил всё, что было подключено к Claude, остановил scheduled tasks, отключил Dispatch и cloud execution. Расход продолжил расти.
Мы уже разбирали похожую схему с кражей активных сессий Claude в предыдущем посте.
⚙️ Инцидент
Anthropic заблокировала аккаунт, отозвала все сессии и токены Claude Code. Позже компания сообщила, что скомпрометированный session key использовали для выпуска несанкционированных OAuth токенов Claude Code.
🔓 Украденная сессия
Если атакующий получает действующую аутентифицированную сессию, он может использовать её для доступа к сервису и дальнейшего получения токенов.
Именно поэтому инфостилеры становятся особенно опасны для AI сервисов. Вместе с cookies и credentials они могут утащить уже авторизованный доступ.
🦠 Откуда взялась сессия?
Anthropic связывает часть подобных случаев с infostealer malware. Среди обнаруженных семейств:
🔹 Vidar
🔹 LummaC2
🔹 StealC
🔹 RedLine
🔹 Acreed
🔹 Atomic Stealer на Mac
К сожалению, в случае Де Свардта компания не смогла установить точный источник компрометации.
Украденный AI аккаунт превращается в ресурс для злоумышленника.
Можно расходовать чужие токены, запускать задачи через Claude Code и использовать подключённые возможности аккаунта. При этом владелец может заметить проблему только после того, как лимит уже существенно израсходован.
🔗 Источники: TechCrunch
Stay secure and read SecureTechTalks 📚
#кибербезопасность #AI #Claude #Anthropic #Infostealer #Malware #AISecurity #EndpointSecurity #CyberSecurity #SecureTechTalks
👍1
🧨 GHAPPIER: вредоносный MCP пакет получил настоящую подпись доверия npm
9 сентября атакующий на 105 минут получил контроль над аккаунтом разработчика легитимного MCP пакета
Исследователи CloudSEK обнаружили более широкую кампанию GHAPPIER: минимум 65 публичных репозиториев, 73 заражённых файла и 22 аккаунта.
⚙️ Как GitHub Actions превратился в механизм доставки
Получив доступ к основной ветке репозитория, атакующий изменил три строки в GitHub Actions, чтобы каждый push запускал публикацию пакета. Через 14 минут он дополнительно изменил процесс выпуска, сделав его полностью автоматическим.
В результате вредоносная версия была опубликована через npm Trusted Publishing с использованием OIDC. Она оставалась последней доступной версией 35 минут 38 секунд, пока разработчик не восстановил контроль и не выпустил чистую сборку.
Вредоносный релиз получил действительное подтверждение происхождения. Запись в Sigstore указывала на настоящий GitHub Actions и реальный коммит атакующего.
Никакой подделки подписи не потребовалось. npm подтвердил происхождение сборки из доверенного репозитория, содержимое которого уже контролировал злоумышленник.
💣 Одна строка запускала четыре этапа заражения
При запуске MCP сервера выполнялась четырёхэтапная цепочка, которая заканчивалась установкой удалённой командной оболочки. Финальный компонент удалял собственный файл с диска после запуска, затрудняя последующее расследование.
Заражение происходило при запуске MCP сервера. Сам факт установки не означал выполнения вредоносного кода.
Через пять дней после отзыва заражённого релиза все этапы инфраструктуры доставки продолжали отвечать.
🔬 След привёл к другой malware кампании
В одном из остальных заражённых репозиториев CloudSEK обнаружила второй payload, совпадающий с образцом PolinRider.
Этот вредоносный код получает конфигурацию управляющего сервера из транзакции Ethereum. Адрес назначения транзакции используется для передачи данных о соединении, поэтому инфраструктуру управления нельзя устранить обычной блокировкой домена.
Другие исследователи связывают PolinRider с КНДР, однако CloudSEK самостоятельно эту атрибуцию не подтвердила.
Способ первоначального получения доступа к аккаунту разработчика также остаётся неизвестным. Одна из рассматриваемых версий связана с кражей сохранённых Git credentials на заражённой машине.
🔗 Источник: CloudSEK: технический разбор GHAPPIER
Stay secure and read SecureTechTalks 📚
#кибербезопасность #AISecurity #GHAPPIER #MCP #SupplyChain #GitHubActions #npm #Malware #ThreatIntelligence #SecureTechTalks
9 сентября атакующий на 105 минут получил контроль над аккаунтом разработчика легитимного MCP пакета
@dforge-core/dforge-mcp. Этого хватило, чтобы выпустить заражённую версию с действительным подтверждением происхождения npm и встроить в неё скрытую цепочку удалённого выполнения команд.Исследователи CloudSEK обнаружили более широкую кампанию GHAPPIER: минимум 65 публичных репозиториев, 73 заражённых файла и 22 аккаунта.
⚙️ Как GitHub Actions превратился в механизм доставки
Получив доступ к основной ветке репозитория, атакующий изменил три строки в GitHub Actions, чтобы каждый push запускал публикацию пакета. Через 14 минут он дополнительно изменил процесс выпуска, сделав его полностью автоматическим.
В результате вредоносная версия была опубликована через npm Trusted Publishing с использованием OIDC. Она оставалась последней доступной версией 35 минут 38 секунд, пока разработчик не восстановил контроль и не выпустил чистую сборку.
Вредоносный релиз получил действительное подтверждение происхождения. Запись в Sigstore указывала на настоящий GitHub Actions и реальный коммит атакующего.
Никакой подделки подписи не потребовалось. npm подтвердил происхождение сборки из доверенного репозитория, содержимое которого уже контролировал злоумышленник.
💣 Одна строка запускала четыре этапа заражения
При запуске MCP сервера выполнялась четырёхэтапная цепочка, которая заканчивалась установкой удалённой командной оболочки. Финальный компонент удалял собственный файл с диска после запуска, затрудняя последующее расследование.
Заражение происходило при запуске MCP сервера. Сам факт установки не означал выполнения вредоносного кода.
Через пять дней после отзыва заражённого релиза все этапы инфраструктуры доставки продолжали отвечать.
🔬 След привёл к другой malware кампании
В одном из остальных заражённых репозиториев CloudSEK обнаружила второй payload, совпадающий с образцом PolinRider.
Этот вредоносный код получает конфигурацию управляющего сервера из транзакции Ethereum. Адрес назначения транзакции используется для передачи данных о соединении, поэтому инфраструктуру управления нельзя устранить обычной блокировкой домена.
Другие исследователи связывают PolinRider с КНДР, однако CloudSEK самостоятельно эту атрибуцию не подтвердила.
Способ первоначального получения доступа к аккаунту разработчика также остаётся неизвестным. Одна из рассматриваемых версий связана с кражей сохранённых Git credentials на заражённой машине.
🔗 Источник: CloudSEK: технический разбор GHAPPIER
Stay secure and read SecureTechTalks 📚
#кибербезопасность #AISecurity #GHAPPIER #MCP #SupplyChain #GitHubActions #npm #Malware #ThreatIntelligence #SecureTechTalks
👍1
🧨 CLOSEDQUORUM: вредоносное ПО передало управление атакой совету из четырёх LLM
Cisco Talos обнаружила необычный Windows malware, который самостоятельно выбирает следующий этап атаки с помощью четырёх языковых моделей: DeepSeek, Qwen, Mistral и Google Gemini.
CLOSEDQUORUM собирает информацию о заражённом компьютере, обращается к LLM и выполняет действие, получившее больше всего голосов.
Человек нужен для первоначального развёртывания. Дальнейшие тактические решения архитектура позволяет принимать автономно.
⚙️ Как работает совет
CLOSEDQUORUM представляет собой 64 битный Windows имплант размером 16,4 МБ, написанный на Go.
После запуска он собирает сведения о системе, включая имя компьютера, характеристики ОС, количество процессоров, административные привилегии и запущенные процессы.
Компонент
Функция
Модели выбирают тактику, а исполняемый файл содержит готовые механизмы атаки.
💣 Что умеет CLOSEDQUORUM
Вредоносный код поддерживает несколько вариантов дальнейших действий.
➖ steal запускает извлечение учётных данных из LSASS, сохранённых паролей браузеров и файлов криптовалютных кошельков.
➖ inject использует техники внедрения кода в процессы, включая Early Bird APC и process hollowing.
➖ persist создаёт механизмы закрепления через Registry Run, запланированные задания или WMI.
Похищенные данные могут шифроваться с помощью AES 256 GCM и передаваться оператору через Discord webhook. Туда же отправляются сведения о решениях моделей.
Таким образом, коммерческие LLM используются для выбора действий, а Discord остаётся каналом передачи результатов.
🔬 Работает ли это в реальных атаках?
Здесь есть существенное ограничение.
Cisco Talos подтвердила архитектуру автономного управления статическим анализом исполняемого файла. Однако публично обнаруженная сборка содержит заглушки вместо API ключей и адреса Discord webhook.
Полноценное выполнение всей цепочки в реальной атаке исследователи пока не подтвердили.
При этом артефакты разработки позволили связать автора с публикациями на криминальных форумах, посвящённых мошенничеству с платёжными картами, начиная с 2025 года.
🔗 Источник: Cisco Talos
Stay secure and read SecureTechTalks 📚
#кибербезопасность #AISecurity #CLOSEDQUORUM #Malware #LLM #AIAgents #CiscoTalos #ThreatIntelligence #CyberSecurity #SecureTechTalks
Cisco Talos обнаружила необычный Windows malware, который самостоятельно выбирает следующий этап атаки с помощью четырёх языковых моделей: DeepSeek, Qwen, Mistral и Google Gemini.
CLOSEDQUORUM собирает информацию о заражённом компьютере, обращается к LLM и выполняет действие, получившее больше всего голосов.
Человек нужен для первоначального развёртывания. Дальнейшие тактические решения архитектура позволяет принимать автономно.
⚙️ Как работает совет
CLOSEDQUORUM представляет собой 64 битный Windows имплант размером 16,4 МБ, написанный на Go.
После запуска он собирает сведения о системе, включая имя компьютера, характеристики ОС, количество процессоров, административные привилегии и запущенные процессы.
Компонент
ModelOrchestrator последовательно отправляет контекст четырём LLM. Каждая получает ограниченный набор допустимых действий и возвращает структурированный JSON с полем Decision.Функция
interModelDiscussion() подсчитывает голоса и выбирает действие с наибольшей поддержкой. При равенстве голосов приоритет получает DeepSeek, затем Qwen, Mistral и Gemini.Модели выбирают тактику, а исполняемый файл содержит готовые механизмы атаки.
💣 Что умеет CLOSEDQUORUM
Вредоносный код поддерживает несколько вариантов дальнейших действий.
Похищенные данные могут шифроваться с помощью AES 256 GCM и передаваться оператору через Discord webhook. Туда же отправляются сведения о решениях моделей.
Таким образом, коммерческие LLM используются для выбора действий, а Discord остаётся каналом передачи результатов.
🔬 Работает ли это в реальных атаках?
Здесь есть существенное ограничение.
Cisco Talos подтвердила архитектуру автономного управления статическим анализом исполняемого файла. Однако публично обнаруженная сборка содержит заглушки вместо API ключей и адреса Discord webhook.
Полноценное выполнение всей цепочки в реальной атаке исследователи пока не подтвердили.
При этом артефакты разработки позволили связать автора с публикациями на криминальных форумах, посвящённых мошенничеству с платёжными картами, начиная с 2025 года.
🔗 Источник: Cisco Talos
Stay secure and read SecureTechTalks 📚
#кибербезопасность #AISecurity #CLOSEDQUORUM #Malware #LLM #AIAgents #CiscoTalos #ThreatIntelligence #CyberSecurity #SecureTechTalks
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1
🧨 Carbonato: ботнет устанавливает AI агента на взломанный сервер
Исследователи ThreatDown обнаружили Carbonato, новый ботнет для Linux, который захватывает Docker хосты и устанавливает на них полноценного AI агента Hermes.
После заражения оператор может написать задачу в Telegram. Hermes сам интерпретирует её, генерирует команды терминала, запускает их на сервере, анализирует результат и решает, что делать дальше.
⚙️ Вход через Docker
Carbonato ищет Docker API, доступный без аутентификации на порту "2375". Через него атакующий запускает привилегированный контейнер, получает доступ к хосту, открывает обратный SSH туннель и устанавливает собственный SSH ключ.
Для закрепления используются cron, systemd timers, rc.local и OpenRC. Каждые пять минут заражённый сервер сканирует подключённые сети и Docker bridges в поисках следующих доступных Docker API.
🤖 Внутри появляется AI агент GH0ST
На захваченный сервер устанавливается open source Hermes Agent. Сам framework исследователи обнаружили практически без изменений. Атакующие просто заменили его файл "SOUL.md" на 39 строк инструкций и дали агенту имя GH0ST.
Приоритет агента сначала искать AI API keys, затем SSH credentials, access tokens, базы данных и другие секреты. В инструкциях перечислены 14 AI провайдеров.
🔬 Исследователи нашли инфраструктуру целиком
ThreatDown обнаружила открытый Docker registry, из которого за сутки удалось получить 59 репозиториев, 234 image tags, 605 blobs и 4,3 ГБ данных.
Архив охватывает период с октября 2024 по август 2026 года и содержит инфраструктуру Carbonato вместе с отдельной кампанией по распространению поддельных криптокошельков.
На 3 сентября шесть из семи известных registry, phishing инфраструктура, CDN и LLM gateway всё ещё работали.
🔗 Источник: ThreatDown
Stay secure and read SecureTechTalks 📚
#кибербезопасность #AISecurity #Carbonato #Malware #Docker #HermesAgent #AIAgents #Botnet #ThreatIntelligence #SecureTechTalks
Исследователи ThreatDown обнаружили Carbonato, новый ботнет для Linux, который захватывает Docker хосты и устанавливает на них полноценного AI агента Hermes.
После заражения оператор может написать задачу в Telegram. Hermes сам интерпретирует её, генерирует команды терминала, запускает их на сервере, анализирует результат и решает, что делать дальше.
⚙️ Вход через Docker
Carbonato ищет Docker API, доступный без аутентификации на порту "2375". Через него атакующий запускает привилегированный контейнер, получает доступ к хосту, открывает обратный SSH туннель и устанавливает собственный SSH ключ.
Для закрепления используются cron, systemd timers, rc.local и OpenRC. Каждые пять минут заражённый сервер сканирует подключённые сети и Docker bridges в поисках следующих доступных Docker API.
🤖 Внутри появляется AI агент GH0ST
На захваченный сервер устанавливается open source Hermes Agent. Сам framework исследователи обнаружили практически без изменений. Атакующие просто заменили его файл "SOUL.md" на 39 строк инструкций и дали агенту имя GH0ST.
Приоритет агента сначала искать AI API keys, затем SSH credentials, access tokens, базы данных и другие секреты. В инструкциях перечислены 14 AI провайдеров.
🔬 Исследователи нашли инфраструктуру целиком
ThreatDown обнаружила открытый Docker registry, из которого за сутки удалось получить 59 репозиториев, 234 image tags, 605 blobs и 4,3 ГБ данных.
Архив охватывает период с октября 2024 по август 2026 года и содержит инфраструктуру Carbonato вместе с отдельной кампанией по распространению поддельных криптокошельков.
На 3 сентября шесть из семи известных registry, phishing инфраструктура, CDN и LLM gateway всё ещё работали.
🔗 Источник: ThreatDown
Stay secure and read SecureTechTalks 📚
#кибербезопасность #AISecurity #Carbonato #Malware #Docker #HermesAgent #AIAgents #Botnet #ThreatIntelligence #SecureTechTalks
👍1