Garak, сканер уязвимостей LLM

#LLM #AI #сканер

Набор для оценки и проверки AI на основе генеративных моделей
garak проверяет, может ли LLM быть вынужден ошибаться нежелательным образом. garak исследует на предмет утечек данных, подмены запросов, дезинформации, генерации токсичных ответов, взломов и многих других уязвимостей. Если вы знаете nmap, то это nmap для LLM.

Ссылка на инструмент.

LH | Новости | Курсы | OSINT