🤖 Нет, ИИ не заменит вашу команду безопасности ПО

Появление ИИ-сканера Claude Code Security привело к обвалу акций компаний из сферы кибербезопасности примерно на 20 миллиардов долларов всего за одну биржевую сессию — пострадали разные компании, от CrowdStrike до Cloudflare. Инвесторам кажется, что бизнес задастся вопросом: если ИИ может находить уязвимости и предлагать исправления, зачем тратить деньги на корпоративные инструменты для кибербезопасности?

В действительности, конечно, всё немного сложнее.

Выпущенный компанией Anthropic инструмент действительно впечатляет: ИИ-модель Opus 4.6 читает код, отслеживает вызовы и потоки данных, анализирует взаимодействие компонентов и предлагает готовые, оформленные исправления. Компания заявляет о нахождении более 500 ранее неизвестных критических уязвимостей в зрелом ПО с открытым исходным кодом — проблем, которые остались незамеченными после многих лет экспертного анализа и тестирования. Усиленный языковыми моделями статический анализ позволяет сократить число ложноположительных срабатываний на 90% и более. Для небольших команд, проводящих проверки кода перед выпуском ПО, это действительно качественный скачок.

Но в отрасли безопасности приложений проблема никогда не была в самом обнаружении дефектов. Количество найденных уязвимостей (CVE) растёт взрывными темпами, но лишь около 5% опубликованных уязвимостей реально эксплуатируются и представляют угрозу для бизнеса. Организации уже и так тонут в незакрытых CVE. Более эффективные сканеры без надёжного процесса устранения уязвимостей только увеличивают технический долг. Те самые «оформленные исправления» из Opus — это не полное решение проблемы: каждую находку нужно перепроверять, каждое исправление тестировать.

Когда речь идёт о написании безопасного кода, современные модели далеки от идеала. Даже лучшие ИИ-решения создают одновременно рабочий и безопасный код только примерно в 56% случаев. Сам Opus 4.6 сгенерировал более уязвимый код, чем его предшественник. ИИ-разработка ускоряет выпуск ПО, нас ожидают тысячи и миллионы новых функций и новых приложений, но они будут менее безопасны, чем ранее существовавшие решения.

Главная проблема: использовать одну и ту же модель для написания и проверки кода принципиально неверно. Безопасность требует независимой валидации, а не «самоотчёта», написанного к тому же недетерменированной, вероятностной системой.

Есть и проблемы помельче, но тоже сложные:
🟢регуляторы во многих странах не примут диалог с ботом как альтернативу сертифицированному инструменту сканирования;
🟢для большинства компаний с конфиденциальной интеллектуальной собственностью нельзя просто отдавать исходники в облако чужому ИИ-провайдеру, что ведёт к необходимости использовать локальные, но менее мощные модели;
🟢в специализированных областях с дефицитом открытых данных (компоненты ОТ ICS/SCADA, прошивки ПО, и так далее) даже лучшие модели продолжают уверенно галлюцинировать, а не давать пригодный к использованию результат.

Новое ПО будет эксплуатироваться в ещё более агрессивной среде. ИИ снижает порог входа для атакующих: техники, ранее доступные только продвинутым злоумышленникам, становятся инструментом и для преступников средней руки. У ИБ-команд работы меньше не станет — скорее наоборот: поверхность атаки растёт, атакующие становятся быстрее, потребности в комплексном разборе угроз (triage) растут и усложняются, при том что инструменты анализа недостаточно надёжны для полной автоматизации.

#CISO #Appsec

📣 В MCP Go SDK нашли уязвимость, позволяющую атаковать ИИ-агентов

ФСТЭК предупредила о критической уязвимости BDU:2026-02402 в библиотеке MCP Go SDK, которая используется для интеграции LLM с внешними источниками данных. Она получила максимальную оценку 10.0 по CVSS.

ℹ️ Ошибка появилась в реализации протокола JSON-RPC, который обеспечивает передачу сообщений между элементами ИИ-системы. Дефект позволяет удаленному злоумышленнику обойти ограничения безопасности и выполнить манипулирование данными с помощью неправильной обработки регистра (CWE-178).

На текущий момент нет публично подтверждённых фактов использования именно MCP Go SDK в конкретных отечественных продуктах. При этом Go активно применяется в банковском секторе, телеком-компаниях, e-commerce, а также в сервисах, связанных с обработкой данных. Организации, которые строят собственные ИИ-решения на базе больших языковых моделей и интегрируют их с корпоративной инфраструктурой через MCP, потенциально могут использовать эту библиотеку или её производные.

— прокомментировал Антон Башарин, старший управляющий директор AppSec Solutions.

Уязвимость может затронуть, например:
— корпоративные ИИ-ассистенты с доступом к внутренним базам данных и сервисам,
— платформы автоматизации бизнес-процессов с ИИ-компонентами,
— DevOps и DevSecOps-инструменты, использующие с ИИ-агентами.

▶️ Исправление уже выпущено — разработчикам рекомендуется обновить MCP Go SDK до версии 1.3.1 или новее.

Подробности и рекомендации экспертов на TAdviser. 🖥

#Экспертиза_AppSec #ИИ