Lakera запускает каталог ресурсов по безопасности GenAI

Компания Lakera представила каталог ресурсов по безопасности генеративного ИИ.
Он включает ссылки на датасеты, исследования, CTF-задачи, статьи, курсы и open-source инструменты.
Ключевые темы: атаки на LLM, уязвимости промптов, безопасность ИИ-агентов, эффективность фильтров.
Есть ссылки на практическом обучении через CTF и курсы по взлому через промпты, LLM Security Playbook и Prompt Injections Handbook..
Перечислены ресурсы, которые охватывают системные уязвимости, методы атак, извлечение обучающих данных, а так же открытые инструменты: LMQL, PyRIT, Garak.

Интересный каталог в открытом доступе.
Может быть очень полезно, особенно если Lakera будет его пополнять силами коммьюнити.

Google Sheets

#Lakera #GenAISecurity #LLM
-------
@tsingular