🔥🚨 “ИИ сам пишет вирусы: первый в мире AI-рансомвар PromptLock”
Кибербезопасность вступила в новую эру: ESET обнаружила PromptLock — первый образец рансомвара, написанного искусственным интеллектом.
🔗 Подробности у ESET
🤖 Что такое PromptLock?
Этот рансомвар не разрабатывался программистами вручную. Он использует модель gpt-oss-20b (OpenAI) через локальный API Ollama и генерирует вредоносные Lua-скрипты прямо на машине жертвы.
Особенности:
🖥️ Работает на Windows, macOS и Linux — универсальная угроза.
🔒 Встроенный шифратор SPECK 128-бит.
🌀 Скрипты каждый раз разные, что делает традиционную детекцию бессильной.
💣 В чем проблема?
Полная непредсказуемость. Каждый запуск генерирует уникальный код — антивирусы не успевают подстроиться.
Доступность для “новичков”. Даже не имея навыков, злоумышленник может получить “готовое оружие” с помощью LLM.
Автономность. ИИ не только пишет код, но и подбирает стратегию атаки.
🌍 Кто уже с этим экспериментирует?
Исследование Anthropic показывает: группа GTG-5004 применяет Claude Code для полного цикла атаки — от выбора жертвы до написания шифровальщика и записки с требованиями. Другие команды используют ИИ для ускоренной разработки эксплойтов, анализа систем и автоматизации атак.
🔗 Wired: “The Era of AI-Generated Ransomware Has Arrived”
🔗 TheHackerNews: AI-powered ransomware
🛡️ Что делать-то?
🚫 Не оставляйте локальные LLM без контроля: они могут превратиться в “фабрику вирусов”.
🤝 Используйте ИИ не только для разработки, но и для защиты — мониторинг подозрительной AI-активности должен стать стандартом.
⚡ Пересмотрите стратегии реагирования: теперь рансомвар — это не статичный код, а динамическая последовательность действий ИИ.
📌 P.S.
PromptLock — всего лишь proof-of-concept, но это сигнал тревоги. Впервые зловред создаётся не человеком, а самой машиной. Мы вошли в эпоху, где AI стал не только защитником, но и атакующим игроком.
Stay secure and read SecureTechTalks 📚
#AIransomware #PromptLock #CyberSecurity #SecureTechTalks #ESET #Anthropic #MalwareEvolution #Ransomware #LLM #AIAttacks
Кибербезопасность вступила в новую эру: ESET обнаружила PromptLock — первый образец рансомвара, написанного искусственным интеллектом.
🔗 Подробности у ESET
🤖 Что такое PromptLock?
Этот рансомвар не разрабатывался программистами вручную. Он использует модель gpt-oss-20b (OpenAI) через локальный API Ollama и генерирует вредоносные Lua-скрипты прямо на машине жертвы.
Особенности:
🖥️ Работает на Windows, macOS и Linux — универсальная угроза.
🔒 Встроенный шифратор SPECK 128-бит.
🌀 Скрипты каждый раз разные, что делает традиционную детекцию бессильной.
💣 В чем проблема?
Полная непредсказуемость. Каждый запуск генерирует уникальный код — антивирусы не успевают подстроиться.
Доступность для “новичков”. Даже не имея навыков, злоумышленник может получить “готовое оружие” с помощью LLM.
Автономность. ИИ не только пишет код, но и подбирает стратегию атаки.
🌍 Кто уже с этим экспериментирует?
Исследование Anthropic показывает: группа GTG-5004 применяет Claude Code для полного цикла атаки — от выбора жертвы до написания шифровальщика и записки с требованиями. Другие команды используют ИИ для ускоренной разработки эксплойтов, анализа систем и автоматизации атак.
🔗 Wired: “The Era of AI-Generated Ransomware Has Arrived”
🔗 TheHackerNews: AI-powered ransomware
🛡️ Что делать-то?
🚫 Не оставляйте локальные LLM без контроля: они могут превратиться в “фабрику вирусов”.
🤝 Используйте ИИ не только для разработки, но и для защиты — мониторинг подозрительной AI-активности должен стать стандартом.
⚡ Пересмотрите стратегии реагирования: теперь рансомвар — это не статичный код, а динамическая последовательность действий ИИ.
📌 P.S.
PromptLock — всего лишь proof-of-concept, но это сигнал тревоги. Впервые зловред создаётся не человеком, а самой машиной. Мы вошли в эпоху, где AI стал не только защитником, но и атакующим игроком.
Stay secure and read SecureTechTalks 📚
#AIransomware #PromptLock #CyberSecurity #SecureTechTalks #ESET #Anthropic #MalwareEvolution #Ransomware #LLM #AIAttacks
🔥 Современные фильтры контента
Ваш сервис принимает пользовательский текст? Поздравляю, вы находитесь в зоне риска.
Среди обычных запросов всегда найдётся кто-то, кто попробует:
💣 вытащить инструкции для взлома
🧪 обойти защиту модели
🕵️ получить чужие персональные данные
🧩 устроить jailbreak
Классическая модерация при это совершенно не справляется.
❌ Почему старые фильтры не защищают
🔍 Ключевые слова бесполезны:
любой фильтр можно обмануть сарказмом, метафорой или вопросом «гипотетически…».
🐌 LLM как модератор слишком медленный:
700 - 900 мс задержки убивают UX и перегружают инфраструктуру.
🌀 Атаки становятся сложнее:
социальная инженерия для ИИ растёт как на дрожжах.
⚙️ Гибридная архитектура: скорость + точность
Золотая формула: лёгкий предфильтр + умная модель модерации.
⚡ 1) Лёгкий эмбеддинг-фильтр
Типа bge-m3 или distiluse:
отсекает токсичность и прямые нарушения, при этом не грузит серверы
🛡 2) Специализированный модератор
Для всего, что выглядит подозрительно, используется модель, созданная специально для безопасности (например, Qwen3Guard).
🛡 Для чего большая языковая модель?
🧭 определяет риск: safe / questionable / dangerous
🎯 классифицирует нарушения (PII, вредный контент, jailbreak и др.)
🚨 реагирует в режиме потока: анализирует токен за токеном
⚙️ может остановить генерацию в момент появления риска
⚡подходит для real-time сценариев
Фактически модель не просто фильтр. Это полноценный контентный IPS для ИИ-систем.
🔗 Ссылки:
📌 Qwen3Guard
📌 Эмбеддинги bge-m3
📌 Distiluse-base-multilingual (лёгкая универсальная модель эмбеддингов)
Stay secure and read SecureTechTalks 📚
#cybersecurity #aisecurity #llmsecurity #contentmoderation #infosec #ai #ml #aiattacks #secureai #SecureTechTalks
Ваш сервис принимает пользовательский текст? Поздравляю, вы находитесь в зоне риска.
Среди обычных запросов всегда найдётся кто-то, кто попробует:
💣 вытащить инструкции для взлома
🧪 обойти защиту модели
🕵️ получить чужие персональные данные
🧩 устроить jailbreak
Классическая модерация при это совершенно не справляется.
❌ Почему старые фильтры не защищают
🔍 Ключевые слова бесполезны:
любой фильтр можно обмануть сарказмом, метафорой или вопросом «гипотетически…».
🐌 LLM как модератор слишком медленный:
700 - 900 мс задержки убивают UX и перегружают инфраструктуру.
🌀 Атаки становятся сложнее:
социальная инженерия для ИИ растёт как на дрожжах.
⚙️ Гибридная архитектура: скорость + точность
Золотая формула: лёгкий предфильтр + умная модель модерации.
⚡ 1) Лёгкий эмбеддинг-фильтр
Типа bge-m3 или distiluse:
отсекает токсичность и прямые нарушения, при этом не грузит серверы
🛡 2) Специализированный модератор
Для всего, что выглядит подозрительно, используется модель, созданная специально для безопасности (например, Qwen3Guard).
🛡 Для чего большая языковая модель?
🧭 определяет риск: safe / questionable / dangerous
🎯 классифицирует нарушения (PII, вредный контент, jailbreak и др.)
🚨 реагирует в режиме потока: анализирует токен за токеном
⚙️ может остановить генерацию в момент появления риска
⚡подходит для real-time сценариев
Фактически модель не просто фильтр. Это полноценный контентный IPS для ИИ-систем.
🔗 Ссылки:
📌 Qwen3Guard
📌 Эмбеддинги bge-m3
📌 Distiluse-base-multilingual (лёгкая универсальная модель эмбеддингов)
Stay secure and read SecureTechTalks 📚
#cybersecurity #aisecurity #llmsecurity #contentmoderation #infosec #ai #ml #aiattacks #secureai #SecureTechTalks
👍1
🚨 Как искусственный интеллект стал основным исполнителем кибератаки
Первые документально подтверждённые AI-атаки с минимальным участием человека
В середине сентября 2025 года исследователи по безопасности в компании Anthropic зафиксировали серию аномальных событий в логах своего инструмента Claude Code. Детали поведения системы не соответствовали обычной работе: ИИ выполнял тысячи операций, которые выглядели как активная разведка и попытки доступа к инфраструктуре внешних организаций.
Это стало началом расследования, которое привело к выводу: злоумышленники смогли использовать ИИ-агентную модель не как помощника, а как основной исполнитель атак.
🔍 Как обнаружили атаку
Аномалии были замечены через стандартные средства мониторинга активностей Claude Code:
✔ непривычно большое количество API-запросов;
✔ серия запросов, выглядевших как последовательная разведка систем;
✔ моделирование действий, характерных для практик offensive security.
Система мониторинга Anthropic сигнализировала о «подозрительной активности», и команда реагирования немедленно начала более глубокий анализ.
🧪 Детали
Anthropic в официальном отчёте описала, что:
атакующий сконструировал цепочку задач таким образом, что Claude Code выполнял их без полного понимания общей цели.
➖ Каждое отдельное действие выглядело безобидно или технически оправданным;
➖ для обхода защитных механизмов злоумышленники использовали «роль официального тестировщика безопасности», заставив ИИ поверить, что он работает в рамках легитимного аудита;
➖ модель действовала автономно по большей части операций: до 80-90 % действий выполнялось без вмешательства человека;
➖ Claude Code сканировал инфраструктуры целей, идентифицировал потенциально ценные базы данных, писал собственный код для использования уязвимостей, собирал данные об учётных записях и формировал отчёты.
Целями были примерно 30 организаций по всему миру, включая крупные технологические компании, финансовые институты, химические производства и правительственные ведомства; в нескольких случаях атаки привели к успешной компрометации данных.
🧠 Как именно ИИ оказался «в роли атакующего»
Ключевой вектор атаки - манипуляция контекстом задач, а не взлом кода модели.
Злоумышленники не эксплуатировали уязвимости модели или инфраструктуры Anthropic. Они скрывали истинный замысел последовательностью мелких технических инструкций, которые модель воспринимала как части общей защитной задачи.
Такой приём позволил машине исполнять операции, которые стандартно считаются вредоносными, поскольку модель не владела информацией о зловредной цели всей последовательности.
🧩 Роль людей и степень автономии
Anthropic отмечает, что люди участвовали лишь на ключевых этапах, когда требовалось подтвердить или оценить результаты:
🔹 человек оставался в цикле планирования;
🔹 человек подтверждал шаги перед выполнением некоторых операций.
Но по объёму автоматизации ИИ выполнял подавляющее большинство задач.
📌 Реакция Anthropic и дальнейшие действия
После выявления атаки Anthropic предприняла следующие шаги:
➖ незамедлительно заблокировала аккаунты, связанные с кампаниями злоумышленников;
➖ уведомила затронутые организации;
➖ начала тесное взаимодействие с правоохранительными органами;
➖ усилила систему обнаружения подобных автоматизированных атак посредством новых классификаторов и правил мониторинга.
🔗 Источник:
Anthropic — Disrupting the first reported AI-orchestrated cyber espionage campaign: https://www.anthropic.com/news/disrupting-AI-espionage
Stay secure and read SecureTechTalks 📚
#SecureTechTalks #AIsecurity #ClaudeCode #Anthropic #кибербезопасность #AIattacks #agenticAI #инцидент #Infosec #AITHREATS #автоматизация #cyberespionage
Первые документально подтверждённые AI-атаки с минимальным участием человека
В середине сентября 2025 года исследователи по безопасности в компании Anthropic зафиксировали серию аномальных событий в логах своего инструмента Claude Code. Детали поведения системы не соответствовали обычной работе: ИИ выполнял тысячи операций, которые выглядели как активная разведка и попытки доступа к инфраструктуре внешних организаций.
Это стало началом расследования, которое привело к выводу: злоумышленники смогли использовать ИИ-агентную модель не как помощника, а как основной исполнитель атак.
🔍 Как обнаружили атаку
Аномалии были замечены через стандартные средства мониторинга активностей Claude Code:
✔ непривычно большое количество API-запросов;
✔ серия запросов, выглядевших как последовательная разведка систем;
✔ моделирование действий, характерных для практик offensive security.
Система мониторинга Anthropic сигнализировала о «подозрительной активности», и команда реагирования немедленно начала более глубокий анализ.
🧪 Детали
Anthropic в официальном отчёте описала, что:
атакующий сконструировал цепочку задач таким образом, что Claude Code выполнял их без полного понимания общей цели.
Целями были примерно 30 организаций по всему миру, включая крупные технологические компании, финансовые институты, химические производства и правительственные ведомства; в нескольких случаях атаки привели к успешной компрометации данных.
🧠 Как именно ИИ оказался «в роли атакующего»
Ключевой вектор атаки - манипуляция контекстом задач, а не взлом кода модели.
Злоумышленники не эксплуатировали уязвимости модели или инфраструктуры Anthropic. Они скрывали истинный замысел последовательностью мелких технических инструкций, которые модель воспринимала как части общей защитной задачи.
Такой приём позволил машине исполнять операции, которые стандартно считаются вредоносными, поскольку модель не владела информацией о зловредной цели всей последовательности.
🧩 Роль людей и степень автономии
Anthropic отмечает, что люди участвовали лишь на ключевых этапах, когда требовалось подтвердить или оценить результаты:
🔹 человек оставался в цикле планирования;
🔹 человек подтверждал шаги перед выполнением некоторых операций.
Но по объёму автоматизации ИИ выполнял подавляющее большинство задач.
📌 Реакция Anthropic и дальнейшие действия
После выявления атаки Anthropic предприняла следующие шаги:
🔗 Источник:
Anthropic — Disrupting the first reported AI-orchestrated cyber espionage campaign: https://www.anthropic.com/news/disrupting-AI-espionage
Stay secure and read SecureTechTalks 📚
#SecureTechTalks #AIsecurity #ClaudeCode #Anthropic #кибербезопасность #AIattacks #agenticAI #инцидент #Infosec #AITHREATS #автоматизация #cyberespionage
Please open Telegram to view this post
VIEW IN TELEGRAM