Project Zero: LLM теперь ищет уязвимости в коде вместо людей

Google DeepMind и Project Zero создали систему Big Sleep для автоматического обнаружения уязвимостей в программном коде.

В ходе тестирования удалось найти реальную уязвимость переполнения буфера стека в SQLite, которую не смог обнаружить классический фаззинг за 150 часов работы.

Система использует GPT-4 Turbo и Gemini 1.5 Pro для анализа кода, коммитов и создания тестовых сценариев.

Эффективность поиска уязвимостей выросла в 20 раз по сравнению с традиционными методами в тестах CyberSecEval2.

Это первый публичный случай, когда ИИ самостоятельно нашел критическую уязвимость в популярном ПО.

Можно перед деплоем прогонять весь код через ИИ! 🤖🔍

#ProjectZero #DeepMind #SQLite #ИБ
———
@tsingular