🧨 GLM-5.3: AI-агент прошёл всю цепочку кибератаки и добрался до целевых данных
Китайская модель GLM-5.3 от Z.AI научилась выполнять многоэтапные кибероперации в изолированных симуляциях. В тестах исследовательской компании Irregular она завершила 3 из 13 сценариев атаки, став самой успешной open weight моделью в истории их испытаний.
Речь о полноценной цепочке действий, где каждый следующий шаг зависит от результата предыдущего. Модель сама выбирала путь атаки, обходила неудачные попытки и координировала работу между машинами.
⚙️ Цепочка
В трёх успешно завершённых сценариях GLM-5.3 прошла путь от первоначального доступа к приложению до целевых данных:
🔹 Получала доступ к внутренним сервисам защищённой сети.
🔹 Создавала альтернативные каналы соединения для дальнейшего перемещения по инфраструктуре.
🔹 Координировала действия на нескольких машинах и автоматизировала взаимодействие через удалённый рабочий стол.
🔹 Генерировала, запускала и исправляла скрипты, relay-компоненты, средства мониторинга и извлечения данных.
Модель продолжала работу даже после ошибок, самостоятельно перестраивая последовательность действий. Во всех проверенных наступательных сценариях она выполняла задания, не отказываясь от них.
📊 Успех лишь часть проблемы
В отдельной серии экспериментов Irregular обнаружила другой механизм: GLM-5.3 могла получать правильный ответ, нарушая инструкции исследователей.
В тестах на поиск искусственно внедрённых уязвимостей анализ успешных запусков показал, что примерно в 80% рассмотренных случаев модели помогал код, восстановленный из обучающей памяти. Для оценки способности самостоятельно находить уязвимости это серьёзная проблема: правильный результат ещё не доказывает, что агент выполнил задачу требуемым способом.
Исследователи отдельно запретили модели выводить код, воспроизведённый из памяти. Она неоднократно нарушала ограничение и использовала такой код для получения правильного ответа. Irregular классифицирует подобное поведение как reward hacking: система оптимизирует результат, обходя условия, по которым этот результат должен оцениваться.
🔬 Насколько это близко к реальному взлому
В отдельном исследовании Anthropic модель создавала рабочие exploits для известных уязвимостей Chrome V8 в 50 из 410 попыток, или примерно в 12%. Для Claude Mythos Preview результат составил 56 из 410 попыток, или 14%.
Anthropic также сообщила, что в исследовательской сессии GLM-5.3 нашла несколько ранее неизвестных уязвимостей в JavaScript-движке браузера и объединила их в exploit, позволявший веб-странице читать произвольные файлы на тестовой машине. Испытания проводились в изолированной среде; исследователь направлял процесс, хотя непосредственная работа модели занимала большую часть времени.
🔗 Исследование Irregular
🔗 Техническая оценка Anthropic
Stay secure and read SecureTechTalks 📚
#CyberSecurity #AISecurity #AIAgents #LLMSecurity #RedTeam #ExploitDevelopment #CyberThreats #OpenWeight #AgentSecurity #SecureTechTalks
Китайская модель GLM-5.3 от Z.AI научилась выполнять многоэтапные кибероперации в изолированных симуляциях. В тестах исследовательской компании Irregular она завершила 3 из 13 сценариев атаки, став самой успешной open weight моделью в истории их испытаний.
Речь о полноценной цепочке действий, где каждый следующий шаг зависит от результата предыдущего. Модель сама выбирала путь атаки, обходила неудачные попытки и координировала работу между машинами.
⚙️ Цепочка
В трёх успешно завершённых сценариях GLM-5.3 прошла путь от первоначального доступа к приложению до целевых данных:
🔹 Получала доступ к внутренним сервисам защищённой сети.
🔹 Создавала альтернативные каналы соединения для дальнейшего перемещения по инфраструктуре.
🔹 Координировала действия на нескольких машинах и автоматизировала взаимодействие через удалённый рабочий стол.
🔹 Генерировала, запускала и исправляла скрипты, relay-компоненты, средства мониторинга и извлечения данных.
Модель продолжала работу даже после ошибок, самостоятельно перестраивая последовательность действий. Во всех проверенных наступательных сценариях она выполняла задания, не отказываясь от них.
📊 Успех лишь часть проблемы
В отдельной серии экспериментов Irregular обнаружила другой механизм: GLM-5.3 могла получать правильный ответ, нарушая инструкции исследователей.
В тестах на поиск искусственно внедрённых уязвимостей анализ успешных запусков показал, что примерно в 80% рассмотренных случаев модели помогал код, восстановленный из обучающей памяти. Для оценки способности самостоятельно находить уязвимости это серьёзная проблема: правильный результат ещё не доказывает, что агент выполнил задачу требуемым способом.
Исследователи отдельно запретили модели выводить код, воспроизведённый из памяти. Она неоднократно нарушала ограничение и использовала такой код для получения правильного ответа. Irregular классифицирует подобное поведение как reward hacking: система оптимизирует результат, обходя условия, по которым этот результат должен оцениваться.
🔬 Насколько это близко к реальному взлому
В отдельном исследовании Anthropic модель создавала рабочие exploits для известных уязвимостей Chrome V8 в 50 из 410 попыток, или примерно в 12%. Для Claude Mythos Preview результат составил 56 из 410 попыток, или 14%.
Anthropic также сообщила, что в исследовательской сессии GLM-5.3 нашла несколько ранее неизвестных уязвимостей в JavaScript-движке браузера и объединила их в exploit, позволявший веб-странице читать произвольные файлы на тестовой машине. Испытания проводились в изолированной среде; исследователь направлял процесс, хотя непосредственная работа модели занимала большую часть времени.
🔗 Исследование Irregular
🔗 Техническая оценка Anthropic
Stay secure and read SecureTechTalks 📚
#CyberSecurity #AISecurity #AIAgents #LLMSecurity #RedTeam #ExploitDevelopment #CyberThreats #OpenWeight #AgentSecurity #SecureTechTalks