strix

Open-source ИИ-инструмент для тестирования на проникновение, позволяющий находить и устранять уязвимости вашего приложения.

📁 Language: #Python 91.6%

⭐️ Stars: 38k

➡️ Cсылка на GitHub

📱 @git_developer

DeepTeam

DeepTeam локально запускает более 50 типов атак на LLM, чтобы проверить ваших AI-агентов на утечки персональных данных (PII), уязвимость к prompt injection и наличие предвзятости (bias).
По сути, это инструмент для пентеста LLM, дополненный защитными механизмами (guardrails), которые помогают предотвратить подобные проблемы в продакшене.

📁 Language: #Python 100.0%

⭐️ Stars: 2k

➡️ Cсылка на GitHub

📱 @git_developer