Средства защиты облаков: таксономия

Когда Gartner придумывает очередную аббревиатуру security-продукта, то наверняка кто-то из их аналитиков получает повышение. CNAPP, CDR, CIEM, CSPM, DSPM, KSPM, KDR, CWPP - разобраться в специфике всех решений сложно даже ИБ-специалисту, не говоря уже о том, чтобы убедить спецов ИТ-департамента все это развернуть и поддерживать.

Разобраться в существующих продуктах для защиты облаков проще, если разделить облачную инфру на слои: слой управления (control plane), оркестрации, платформы и приложений. Для каждого из них существуют специфичные угрозы и техники атак, а значит, существуют средства защиты.

Если к этим слоям добавить этапы жизненного цикла разработки (code-to-cloud), то получается хорошая классификация и наглядная иллюстрация, которая пригодится CISO для разработки стратегии или дорожной карты.

@makrushin

Автономный ИИ-агент для аудита кода

ИИ-агенты уже во всю пишут и тестируют enterprise-код. Поэтому разработка и внедрение таких агентов в SDL - это отдельный инженерный вызов.

Чтобы не бросаться изобретать велосипед, можно изучить, что уже сделано в этом направлении. Например, проект RepoAudit - по нему можно проследить за развитием инструментов категории AI SAST (да, теперь у статических анализаторов появилась еще одна категория).

Исследователи задались вопросом «как побороть галлюцинации LLM при поиске ошибок в коде?» и в результате создали методику снижения глюков и повышения точности обнаружения бегов. Ключевая фишка: не давать сырой код на вход LLM, а сначала готовить «путь потока датанных» (data flow path) и затем передавать этот его в LLM. Это промежуточное представление лучше описывает распространение ошибки в процессе выполнения программы. На основе этой методики подготовили инструмент LLMSCAN, который ее реализует.

Затем предложили архитектуру агентной системы, которая, используя этот инструмент, самостоятельно ищет баги. Архитектура состоит из набора детекторов, заточенных под конкретные категории ошибок. Заодно опубликовали агента dfbscan, который анализирует потоки данных.

Недавно авторы проекта описали подход к поиску ошибок «BugScope», который заключается в том, чтобы LLM сначала проанализировала примеры, а затем самостоятельно провела их поиск в нужном контексте.

Скоро обещают опубликовать прототип агента для анализа бинарных файлов. Следим за репозиторием, экспериментируем и бережно обращаемся с лицензией: она позволяет использовать RepoAudit только для некоммерческих целей.

@makrushin

Поиск секретов в коде: новый инструмент и еще один способ

На этот раз интересна даже не утилита, а подход, который можно применять для поиска аномалий в потоке данных.

Поиск разделяется на два класса сигналов: структурированные строки (например, JWT, API‑ключи, OAuth‑токены) и строки произвольной формы (пароли). Для поиска первого типа строк используются регулярные выражения, а для второго — BERT (Bidirectional Encoder Representations from Transformers). Эта небольшая языковая модель прошла дополнительное обучение для поиска секретов. В конце другая LLM-модель оценивает результат работы BERT и снижает ложные срабатывания.

Получаем хорошую методику для поиска аномалий: сначала сигнатуры, затем дообученная BERT-модель и финальный вердикт от LLM.

@makrushin

Архив базы эксплойтов 0daytoday

В начале 2025 года ресурс 0daytoday, который публиковал прототипы эксплойтов, пропал. Когда вернулся — часть контента была утеряна.

Репозиторий хранит архив базы этого ресурса. Пригодится в качестве датасета для систем автоматического поиска уязвимостей. Или как еще один дополнительный контекст для какой-нибудь базы уязвимостей.

@makrushin

Фундаментальная уязвимость протокола HTTP/1.1

В HTTP/1.1 запросы просто склеиваются друг с другом в одном сетевом соединении. Если разные серверы (фронтенд и бэкенд) по-разному интерпретируют длину сообщения, то злоумышленник может отрезать часть своего запроса и подставить эту часть в начало запроса следующего пользователя. Это приводит к атаке типа request smuggling. Единственный надежный способ защиты: переход на HTTP/2 во внутренней сети, так как это протокол с четким разделением сообщений.

Поверхность атаки огромная. Удивительно, что не сразу обратил внимание на это исследование в рейтинге. Делаю ставку, что в следующий вторник, когда будет опубликован финальный список Топ-10, эта техника будет на первом месте. 😎

@makrushin

Каталог атак на инфраструктуру разработки

В прошлом году мы много говорили о методах атак на разные инструменты и среды разработки. Разбирались с инцидентами.

Под всеми опубликованными статьями и докладами можно подвести резюме и поделиться фреймворком, который позволяет описать процесс защиты инфраструктуры разработки. SITF представляет из себя каталог сценариев атак и контролей безопасности, которые разделены на 5 ключевых блоков: рабочая станция разработчика и его среда разработки, системы управления исходным кодом, системы CI/CD, системы хранения артефактов и production-среда. Для каждого блока составлен каталог техник атак и мер защиты, а также есть средства для визуализации.

Теперь AppSec-инженер может наглядно показать коллегам, что происходит в его инфре.

@makrushin

Новые каналы утечки в браузере: узнаем, куда и за чем ходит пользователь

Злодей может по временным показателям понять, к каким ресурсам обращается браузер жертвы. Для этого ему не нужно эксплуатировать уязвимости на стороне веб-ресурсов.
 
Атака сложная в реализации, но интересная концептуально. Скрипт на странице атакующего специально забивает пул сетевых соединений в Chromium-браузере, затем в этом пуле провоцирует браузер сделать запрос к нужному ресурсу, например онлайн-банкингу. На основе того, какой запрос из этого пула получил соединение раньше, скрипт делает выводы. Например, выводы о привилегиях жертвы на этом сайте. Повторяя эти измерения, можно даже восстановить строку в URL, например, <secret_string123>.example.com

Другое исследование из рейтинга тоже связано с новым каналом утечки в Chromium-браузерах, но уже с помощью HTTP-заголовка ETag (Entity Tag). Этот заголовок сервер отдает как идентификатор версии ресурса (например, страницы, файла, JSON и т. п. ). Чаще всего этот заголовок используется для кэширолвания: браузер может в следующий раз спросить “у меня уже есть такая версия ресурса, она не изменилась?” и не скачивать тело ответа повторно.

Злодей заманивает браузер жертвы на свой ресурс со скриптом. Скрипт отправляет браузер к нужному ресурсу, например, онлайн-банкингу: https://target.site/?query=<секретная_строка_которая_может_быть_на_странице>
Браузер получает ответ и сохраняет ETag. Затем скрипт меняет свой запрос, что приводит к изменению ETag. Перебирая такие запросы и отслежвая факты изменения ETag, злодей получает канал утечки ценной информации со страницы банка.

Разработчик, не храни секреты и чувствительные данные в URL и особенно в субдоменах. Не отдавай ETag для страниц с ценными данными.

@makrushin l MAX l VK

Статический анализ, заряженный ИИ

Несколько недель назад новость о выходе Claude Code Security хорошо встряхнула рынок кибербеза. Некоторые компании на этом рынке потеряли 20% своей капитализации. Думаю, что на это снижение в значительной степени повлияли торговые роботы на рынке акций. Тем не менее, CEO этих компаний успокаивали своих акционеров и журналистов комментариями в LinkedIn, а генеральный директор крупного appsec-вендора Snyk, несмотря на успехи в количестве клиентов и выручке, оставил свой пост с идеей, что его место в компании теперь должен занять AI-центричный лидер.

Как заявляет Anthropic в своем анонсе, Claude Code Security сканирует кодовую базу на уязвимости и предлагает исправления для ревью человеком, позволяя командам находить и исправлять дефекты, которые классические методы часто пропускают. Проще говоря, Anthropic выпустил решение, которое претендует на замену статического анализатора безопасности - SAST.

Традиционный статанализ основан на эвристиках и оценке структуры прграммы. Его слабая сторона: огромное число ложных срабатываний. В исследовательском подразделении Huawei Chong-Ming при разработке своего анализатора, мы постоянно боролись с количеством ошибок первого и второго рода и придумывали новые алгоритмы.

Сегодня классические анализаторы не успевают за скоростью разработки и шумят неприоритетными находками. Вот здесь LLM принесли дополнительную ценность. Модель лучше понимает семантику кода, и это позволяет ей лучше находить уязвимости, связанные с бизнес-логикой. И пусть вероятностный результат модели (то есть, сегодня она видит уязвимость в кодовой базе, а завтра в этой же базе ничего не находит) не позволяет ей полностью заменить формальную верификацию, но свою нишу она точной займет в общем процессе безопасной разработки.

На рыке формируется категория решений, которые не используют классику в виде сигнатур и правил, а опираются на интерпретацию кодовой базы с помощью LLM: AI SAST. Мы уже посмотрели на архитектуру открытого проекта из этой категории. Интересно еще детальнее взглянуть на другие решения в этом направлении и подглядеть, как они обходят ограничения традиционных подходов статанализа.

@makrushin l MAX l VK

Тренды и развитие угроз в 2026

А вот свежий отчет по инцидентам от исследовательского подразделения Unit42 пересказывать не буду. В нем все очевидно: скорость атак увеличилась (72 минут на кражу данных в 2025 против 285 минут в 2024 - спасибо ИИ), поверхность атаки не изменилась (браузер, почта) и методы атаки не изменились (эксплойты, фишинг).

Но есть одна примечательная деталь: в большинстве инцидентов путь внутрь инфраструктуры жертвы идет через атаки на identity (учетные записи, сессии, токены). С ростом популярности ИИ-агентов этот тренд усиливается за счет всяких “машинных” учеток, которые появляются в инфре в огромном количестве. Тому, кто сейчас размышляет над своим проектом или кибербез-стартапом, стоит посмотреть в сторону защиты machine identity.

@makrushin l MAX l VK l Сетка

Слепые зоны статанализа: применяем LLM для поиска новых уязвимостей

Инструменты статанализа программы опираются на потоки данных: отслеживают источники данных (места, где пользователь может что-то внедрить) и приёмники (места, где введенные данные используются приложением). Известная проблема: классические инструменты анализа теряют след в потоке данных, когда используются специфические особенности языков программирования. Например, при многопоточности данные переходят из одного потока в другой, и таким образом анализатор теряется. А от использования механизмов рефлексии и динамического вызова методов статический анализатор вообще слепнет.

Исследователи из Tencent решили эту проблему с помощью кастомного анализатора потоков данных и LLM. Кастомный анализатор давал что-то вроде шпаргалки, куда передаются данные и где они всплывают, чтобы поток не терялся. LLM искала источники и стоки данных, фильтровала мусор и классифицировала функции для исследователей.

Хорошая идея, как можно улучшить свой анализатор, научить его видеть новые места в программе и в итоге, найти больше уязвимостей.

@makrushin l MAX l VK l Сетка

Давно не виделись. Нашел два повода для встречи.

Завтра на продуктовой аллее DevOps Conf проведу питчинг SourceCraft и расскажу про ключевые обновления, которые позволят быстрее и безопаснее создавать новые продукты. Спойлер: релизим новые AppSec и ИИ-фичи.

Послезавтра представлю результаты нового исследования — «Атаки на ИИ-агентов».

Покажу, какие возможности есть у редиски, чтобы за несколько часов скомпрометировать тысячи разработчиков через их же ИИ-инструменты и украсть секреты с рабочих станций. Разберём поверхность атаки, а на выходе получим методику и инструменты для тех, кто строит агентные системы и хочет сделать их устойчивыми.

Если будешь на площадке, то заходи в гости.

Обещал показать, как редиска крадёт секреты у разработчиков через их же ИИ-инструменты. Показал.

На DevOps Conf представил результаты исследования «Атаки на ИИ-агентов», которое мы провели вместе с командой. Разобрали сценарии в ADLC (Agentic Development Lifecycle — запоминаем этот термин, будем встречать его всё чаще) и показали методы анализа устойчивости ИИ-инфраструктуры для тех, кто строит агентные системы.

Ключевой тезис: SDLC трансформировался в ADLC, и классические подходы к безопасной разработке теряют эффективность. Поведение агента недетерминировано и меняется без изменения кода. Pull request — больше не чекпоинт, когда агент автономно читает тикеты, обрабатывает изменения и что-то меняет в коде. Наблюдаемость упала, скорость выросла.

Что с этим делать: LLM-as-a-Judge, guardrails на входе и выходе, AI red teaming в CI/CD, аудит каждого подключённого MCP-сервера. И еще куча идей в вопросах из зала и общении после доклада.

Показали. Теперь пора рассказать. Готовим блогпост.

@makrushin l MAX l VK l Сетка

Наблюдаем технологические тренды через портфели фондов

Каждый год слежу за RSAC Innovation Sandbox, чтобы поймать тренды: какие категории проектов проходят отбор, кто из фондов "прикрывает" финалистов. В этом году 10 из 10 финалистов так или иначе связаны с ИИ. Победил Geordie AI с governance-платформой для ИИ-агентов. Но примечательным оказался не победитель, а конкретный фонд, который за ним стоит.

Ten Eleven Ventures — это единственный фонд, у которого было сразу две портфельные компании среди финалистов. Его портфель тоже довольно интересный: пять инвестиций подряд и все в agentic-проекты. Еще интереснее, что в 2024 году на том же конкурсе победила другая компания из их портфеля, и её продукт тоже был про защиту учётных данных сервисных аккаунтов, ботов и AI-агентов. Врядли совпадение.

Его сделки в 2026 году также дают интересный инсайт: защита non-human identities (NHI) превратилась в категорию с крупным капиталом. Похоже, что в индустрии образуется пять ключевых технологических слоев для построения стратегии безопасности ИИ:

1. Agent Discovery: прежде, чем что-либо защищать, нужно это сначала найти. Shadow AI стала проблемой в современном бизнесе, поэтому нужны технологии инветаризации.

2. Защита NHI: управление учетными данными ИИ-агентов становится новым слоем управления ИБ.

3. Runtime Observability & Behavioral Governance: мониторинг и управления всеми ИИ-системами и построение guardrails для всех систем с "недетерминированным" поведением.

4. Intent-Aware Data Security: так как ИИ-агенты постоянно и, на первый взгяд, легитимно перемещают данные в инфраструктуре, то требуется что-то вроде системы DLP нового поколения, которая понимает не только факт передачи данных, но и "намерение" ИИ-агента, который эти данные передает.

5. AI-Native SOC Automation. Вот сюда попадают все технологии, которые автоматизируют обнаружение и защиту от всех угроз. Область, которая трансформируется с космической скоростью по мере развития агентных систем.

За эти тренды кто-то проголосовал деньгами, поэтому CISO может накатывать обновление в свою стратегию.

@makrushin l MAX l VK l Сетка

Разбираем топ-10 атак на приложения и делаем выводы для разработки

Атаки на современные приложения всё реже возникают из-за одной ошибки в коде. В многокомпонентном софте появляется новый уязвимый слой: взаимодействие между компонентами. Ruby видит одно, Go видит другое, и в результате, злоумышленник протаскивает свой запрос мимо обоих. Серверный и клиентский кэш становятся каналом утечки секретов, а ошибки сервера — каналом связи злодея с внутренней инфраструктурой приложения.

На основе рейтинга нетривиальных атак выделил основные категории уязвимостей, с которыми сталкивается разработчик (особенно, вайбкодер), и дал сценарии защиты с помощью привычных и пока ещё эффективных инструментов.

@makrushin l MAX l VK l Сетка l Дзен

Сделали облачные регионы полностью изолированными, сохранили бесшовный пользовательский опыт работы с ними. Получили патент.

Крупные облачные провайдеры работают на едином слое управления доступами. Это удобно, но при инциденте в одном регионе у атакующего есть возможность уползти в другие области.

Изоляция является основным способом снижения этого риска. Поэтому мы сделали так, что каждый регион нашего облака — это теперь полностью автономная инсталляция со своей базой доступов. При этом у пользователя остается опыт работы в единой облачной платформе.

В основе этой архитектуры находится «теневая организация» — копия основной организации пользователя и ее облачного кабинета, которая создается в новом регионе. Все пользователи, группы, политики организации автоматически реплицируются из основного региона в теневой. Это избавляет пользователя от необходимости переносить свои настройки и ресурсы в новую область. При этом, компрометация теневого региона не позволяет атакующему дотянуться до основной организации.

О том, как построено доверие между регионами и бесшовное переключение между кабинетами без повторного логина рассказали в блоге.

@makrushin l MAX l VK l Сетка l Дзен

Архитектура платформы для автоматизации SOC с помощью ИИ-агентов

Всегда интересно прочитать истории, как LLM самостоятельно находит уязвимости в популярном продукте. Как крупные вендоры вроде Mozilla патчат 271 уязвимость, которую обнаружил Mythos. Или как ИИ-агент за 3 минуты без подсказок смог самостоятельно скомпрометировать облачную инфраструктуру. Среди подобных материалов часто остаются незаметны идеи, которые нужны специалистам по защите. На прошлой неделе бот закрыл этот пробел и принес исследование, которое будет интересно Blue Team.

В статье описана архитектура системы ИИ-агентов для автоматизации работы центров мониторинга. Ключевую идею этой платформы можно описать одним словом: проактивность. Чтобы не ждать очередных пентестов и проверок Red Team, аналитики могут самостоятельно построить систему непрерывного прогнозирования и обновления детекторов. Ключевая особенность платформы AgentSOC заключается в движке анализа гипотез. Этот модуль отвечает за творческую часть, которая часто остается без внимания загруженного рутиной аналитика. В нем LLM строит ветки возможного развития атак на основе имеющегося контекста из систем мониторинга. Затем привязывает эти ветки к матрице атак MITRE. То есть система постоянно рассуждает над вопросом «что, если», присваивает ответу индекс уверенности и повторяет упражнение.

Второй движок структурного моделирования выступает в роли критика и проверяет теоретические рассуждения модели на основе фактического состояния инфраструктуры. Графовая валиадация атак, проверка достижимости, фильтрация галлюцинаций — все это его задачи.

В итоге, вся система работает в автономном цикле «Sense-Reason-Act» и выбирает наиболее подходящее действие для защиты менее чем за 1 секунду.

@makrushin l MAX l VK l Сетка l Дзен