Кейс создания MLOps с указанием стэка

https://www.cnews.ru/news/line/2025-01-13_bank_sankt-peterburg_sovmestno

Чтобы насладиться такой красотой (или протестировать производительность своего компьютера), вам понадобятся всего лишь 13 миллионов индикаторов компрометации, 1,6 миллиона алертов из SIEM, 1 миллион обработанных инцидентов и Power BI.😅

Да, получилось красиво. За это спасибо Microsoft, которые собрали крупнейший публичный набор данных по реальным киберинцидентам от более чем 6000 организаций, а еще оттриажили и разбили по 441 технике MITRE ATT&CK.
Сам GUIDE Dataset можно посмотреть и скачать на платформе Kaggle, а позалипать на красивые графы на ресурсе Securemetrics.

#guidedataset #microsoft #ioc #siem #infographics #ml #kaggle

В Майкрософте отредтимили 100 аи-содержащих продуктов и вот что поняли:

* Нужно понимать тестируемую систему и контекст её использования
* Необязательно использовать сложные методы для тестирования (промт инжиниринга иногда достаточно)
* AI red teaming ≠ Safety Benchmarking (редтиминг должен выявлять новые категории угроз, которые невозможно учесть стандартными метриками безопасности)
* Стоит автоматизировать редтиминг, чтобы охватить больше рисков
* Роль человека остается ключевой
* LLM усиливают существующие риски и создают новые
* Безопасность ИИ-систем никогда не будет до конца обеспечена

+ рассматривают в качестве примеров отдельные кейсы

Не то чтобы статья-откровение, но если прям очень далеки, то стоит посмотреть

Lessons From Red Teaming 100 Generative AI Products
https://arxiv.org/abs/2501.07238

В МТС Web Services создали облачную инфраструктуру для безопасного обучения ML-моделей, которым требуются персональные данные

smolagents - новые агенты от HF

Будет заменой для transformers.agents (да, есть такие)
Давят на простоту в первую очередь и это правильно

Есть кодовый агент который пишет действия и вызовы тулов кодом (на картинке пример с кодовым агентом), а не просто jsonы с параметрами как обычно принято делать
можно импортить тулы из langchain
+ можно делать мультиагентные систему

Сейчас сделали 3 примера: text-2-SQL, RAG агента, мультиагент

Реп https://github.com/huggingface/smolagents

Пост https://huggingface.co/blog/smolagents

дока + туторы https://huggingface.co/docs/smolagents/index

Думаю, что как и многие smol проекты от хф - это в первую очередь чтобы взять, поковырять и поизучать. Пока что проекту месяц) Но мб со временем мощь получится

На мой взгляд самый мощный проект по созданию среды киберсек агентов
https://github.com/Limmen/csle

#MLSecOps
#Whitepaper
"OWASP AI Cybersecurity Center of Excellence Guide", Version 1.0, Oct. 2024.
]-> LLM Applications Cybersecurity and Governance Checklist v1.1 (.pdf)
]-> LLM and Gen AI Security Solutions Landscape Guide 2025 (.pdf)
]-> OWASP Top 10 for LLM Apps 2025 (.pdf)
]-> LLM and Gen AI Security Solutions Landscape - Q1, 2025 (.pdf)
]-> 2025 Top 10 Risk & Mitigations for LLMs and Gen AI Apps (.pdf)

Как будет развиваться генеративный ИИ в пространстве БРИКС+

Эксперты «Яков и Партнёры» подготовили новое масштабное исследование о трендах и перспективах применения технологии генеративного искусственного интеллекта в странах БРИКС+.

Совместное развитие

Основная часть исследования посвящена анализу актуальной ситуации в Бразилии, России, Индии, Китае, ЮАР, ОАЭ и Саудовской Аравии. Эксперты выяснили, что разработка и внедрение генИИ-технологий подталкивает страны к более активному сотрудничеству, например в области развития технологии и обмена экспертизой, обеспечения инфраструктурой и данными, обучения специалистов, правового регулирования.

Высокий потенциал

Авторы исследования оценили, что реализованный экономический эффект от внедрения технологий генИИ в странах БРИКС+ в 2030 г. может достичь $350–600 млрд.

При этом почти 70% эффекта придется на 6 ключевых отраслей: банковский сектор, розничную торговлю, машиностроение, энергетику, электронику и ИТ.

Подробнее – в прикрепленном материале.