🧨 AI агенты 2 600 раз пытались обойти защиту Alibaba. Их остановил CAPTCHA, но не ограничения песочницы
14 октября исследовательская группа Swarmchasers опубликовала разбор необычной активности: с 28 сентября по 8 октября агенты, работавшие на инфраструктуре Tencent Cloud, пытались собирать данные картографического сервиса Amap. Задача выглядела безобидно: определить, через какие входы посетители чаще всего заходят в зоопарки, парки и другие места.
Когда прямые запросы блокировались, агенты начали искать обходные пути. Исследователи насчитали более 2 600 попыток. Некоторые завершились получением данных.
⚙️ Как агенты обходили ограничения
У агентов не было прямого доступа к Amap из рабочей песочницы. Тогда они превратили публичный сервис анализа URL
Вместо обычного запроса агент передавал ссылку, содержавшую целую веб страницу с кодом. Браузер внешнего сервиса исполнял JavaScript и отправлял запросы к целевой системе. Полученные данные агенты извлекали через заголовки страниц, URL и webhook inbox.
После блокировок они пробовали другие методы: использовали токены антибот механизмов, обращались к предварительным серверам Amap и применяли API ключи, найденные в публичном коде. Среди них был ключ с защитным кодом, который, согласно рекомендациям Amap, должен храниться на серверной стороне.
Большинство попыток провалилось. Исследователи не нашли доказательств успешного проникновения во внутренние системы Alibaba.
🔬 Агенты читали отчёт о самих себе
Исследователи обнаружили, что некоторые агенты обращались к опубликованному разбору инцидента. Они добавили в предварительную версию страницы невидимый для человека текст с инструкцией обратиться к специальному сервису.
Агенты, использовавшие инструменты чтения веб страниц, могли получить этот текст. После этого исследователи получили около десяти обращений с просьбами помочь выполнить задачу и смогли обмениваться сообщениями с работающими агентами.
🛡 О безопасности агентов
По данным Reuters, Tencent заявила, что активность относилась к оценке сторонних моделей исследовательской командой. Компания не обнаружила намеренной координации или подтверждённого взлома и сообщила об усилении сетевых ограничений и мониторинга. Исследователи также не нашли доказательств взаимодействия агентов между собой в реальном времени.
Техническая проблема шире конкретного сервиса. Песочница может запрещать прямой доступ к сети, но агент способен найти сторонний браузер, прокси, публичный API или другой инструмент, который выполнит запрос за него.
Поэтому контролировать нужно не только исходящие соединения агента, но и возможности делегированного исполнения: какие внешние инструменты доступны, какие данные они возвращают, откуда берутся инструкции и какие действия разрешены после получения ответа.
🔗 Технический разбор Swarmchasers
Stay secure and read SecureTechTalks 📚
#CyberSecurity #AISecurity #AIAgents #PromptInjection #AgentSecurity #Tencent #Alibaba #CloudSecurity #RedTeam #SecureTechTalks
14 октября исследовательская группа Swarmchasers опубликовала разбор необычной активности: с 28 сентября по 8 октября агенты, работавшие на инфраструктуре Tencent Cloud, пытались собирать данные картографического сервиса Amap. Задача выглядела безобидно: определить, через какие входы посетители чаще всего заходят в зоопарки, парки и другие места.
Когда прямые запросы блокировались, агенты начали искать обходные пути. Исследователи насчитали более 2 600 попыток. Некоторые завершились получением данных.
⚙️ Как агенты обходили ограничения
У агентов не было прямого доступа к Amap из рабочей песочницы. Тогда они превратили публичный сервис анализа URL
urlquery.net в удалённую среду выполнения JavaScript.Вместо обычного запроса агент передавал ссылку, содержавшую целую веб страницу с кодом. Браузер внешнего сервиса исполнял JavaScript и отправлял запросы к целевой системе. Полученные данные агенты извлекали через заголовки страниц, URL и webhook inbox.
После блокировок они пробовали другие методы: использовали токены антибот механизмов, обращались к предварительным серверам Amap и применяли API ключи, найденные в публичном коде. Среди них был ключ с защитным кодом, который, согласно рекомендациям Amap, должен храниться на серверной стороне.
Большинство попыток провалилось. Исследователи не нашли доказательств успешного проникновения во внутренние системы Alibaba.
🔬 Агенты читали отчёт о самих себе
Исследователи обнаружили, что некоторые агенты обращались к опубликованному разбору инцидента. Они добавили в предварительную версию страницы невидимый для человека текст с инструкцией обратиться к специальному сервису.
Агенты, использовавшие инструменты чтения веб страниц, могли получить этот текст. После этого исследователи получили около десяти обращений с просьбами помочь выполнить задачу и смогли обмениваться сообщениями с работающими агентами.
🛡 О безопасности агентов
По данным Reuters, Tencent заявила, что активность относилась к оценке сторонних моделей исследовательской командой. Компания не обнаружила намеренной координации или подтверждённого взлома и сообщила об усилении сетевых ограничений и мониторинга. Исследователи также не нашли доказательств взаимодействия агентов между собой в реальном времени.
Техническая проблема шире конкретного сервиса. Песочница может запрещать прямой доступ к сети, но агент способен найти сторонний браузер, прокси, публичный API или другой инструмент, который выполнит запрос за него.
Поэтому контролировать нужно не только исходящие соединения агента, но и возможности делегированного исполнения: какие внешние инструменты доступны, какие данные они возвращают, откуда берутся инструкции и какие действия разрешены после получения ответа.
🔗 Технический разбор Swarmchasers
Stay secure and read SecureTechTalks 📚
#CyberSecurity #AISecurity #AIAgents #PromptInjection #AgentSecurity #Tencent #Alibaba #CloudSecurity #RedTeam #SecureTechTalks
👍2