Forwarded from VP Cybersecurity Brief
Интересный подход для минимизации ошибок мультиагентных систем транслирует Сколково - использование Байесовского подхода.
Forwarded from Борис_ь с ml
Хабр
Как изменилась индустрия AI Security за 2025 год?
В начале 2026 года мы (авторы телеграм-каналов по безопасности ИИ) собрались, чтобы подвести итоги прошедшего года и обсудить, куда движется безопасность ИИ в общем и целом. Разговор получился...
Как изменилась индустрия AI Security за 2025 год?
#иб_для_ml
17 января мы с Артемом (автор PWNAI), Женей (автор "Евгений Кокуйкин - Raft") и Владом (автор "llm security и каланы") провели стрим на тему изменений в AI Security за 2025.
И сейчас подготовили для вас его текстовое изложение! Приглашаю к прочтению: https://habr.com/ru/articles/1000736/
Я на стриме сфокусировался на перспективах развития индустрии на горизонте 2-3-5 лет с учетом достижений 2025. Это и появление нового класса решений по безопасности, основанных на анализе архитектуры моделей. Также был разговор про типы угроз для AI Cybersecurity в целом, и про средства автоматизации кибератак, и инциденты за прошлый год, и стоимость защиты, и многое другое.
#иб_для_ml
17 января мы с Артемом (автор PWNAI), Женей (автор "Евгений Кокуйкин - Raft") и Владом (автор "llm security и каланы") провели стрим на тему изменений в AI Security за 2025.
И сейчас подготовили для вас его текстовое изложение! Приглашаю к прочтению: https://habr.com/ru/articles/1000736/
Я на стриме сфокусировался на перспективах развития индустрии на горизонте 2-3-5 лет с учетом достижений 2025. Это и появление нового класса решений по безопасности, основанных на анализе архитектуры моделей. Также был разговор про типы угроз для AI Cybersecurity в целом, и про средства автоматизации кибератак, и инциденты за прошлый год, и стоимость защиты, и многое другое.
Forwarded from VP Cybersecurity Brief
Компания СерчИнформ поделилась несколькими успешными кейсами использования ИИ для DLP:
1. Поиск защищаемой информации, например фото паспортов. OCR такое находит хуже.
2. Детектирование нескольких лиц в камере при открытии критичных документов.
3. Поиск неявной информации или передача информации для задач экономической безопасности. Обычный поиск по ключевым словам будет не эффективным.
4. Саммаризация долгих чатов/переписки для анализа сути переписки. Отдельно - анализ переписки на иностранных языках.
1. Поиск защищаемой информации, например фото паспортов. OCR такое находит хуже.
2. Детектирование нескольких лиц в камере при открытии критичных документов.
3. Поиск неявной информации или передача информации для задач экономической безопасности. Обычный поиск по ключевым словам будет не эффективным.
4. Саммаризация долгих чатов/переписки для анализа сути переписки. Отдельно - анализ переписки на иностранных языках.
Forwarded from VP Cybersecurity Brief
Лаборатория Касперского поделилась исследованием ожиданием рынка от ИИ в SOC.
Forwarded from VP Cybersecurity Brief
Бенчмарк российских моделей. Увы, пока без бенчмарка по safety или Кибербезопасности.
https://mera.a-ai.ru
https://mera.a-ai.ru
mera.a-ai.ru
MERA Новый открытый бенчмарк для русского языка для оценки фундаментальных моделей
Независимый бенчмарк MERA собирает всех игроков индустрии и академии в одном месте: исследования способностей фундаментальных моделей, создание единой системы для замеров всех моделей и стандартов.
Forwarded from VP Cybersecurity Brief
Верхнеуровневая архитектура агентов ИИ клиентского сервиса от Альфа-банка. Указаны базовые средства ИБ. Человек из схемы полностью не исключается.
Forwarded from VP Cybersecurity Brief
Сбертех подсветил на ТБ форуме, что часть угроз ИИ обусловлена не только самой LLM но и её средствами интеграции/тулинга.
Forwarded from VP Cybersecurity Brief
Потенциальный новый термин в безопасности ИИ - promtware. Это атаки на ИИ с использованием промт инъекций.
https://arxiv.org/abs/2601.09625
https://arxiv.org/abs/2601.09625
arXiv.org
The Promptware Kill Chain: How Prompt Injections Gradually Evolved...
Prompt injection was initially framed as the large language model (LLM) analogue of SQL injection. However, over the past three years, attacks labeled as prompt injection have evolved from...
Forwarded from VP Cybersecurity Brief
Вышел фреймворк для Threat intelligence от EU Cert.
Полезно при чтении будущих репортов от европейских вендоров.
https://www.cert.europa.eu/blog/cti-framework
Полезно при чтении будущих репортов от европейских вендоров.
https://www.cert.europa.eu/blog/cti-framework
www.cert.europa.eu
Introducing the CERT-EU Cyber Threat Intelligence Framework
The analytical and operational backbone of how we classify, assess, and prioritise malicious cyber activity relevant to Union entities and their wider ecosystem.
👍1
Forwarded from VP Cybersecurity Brief
https://www.ndss-symposium.org/ndss-paper/crack-in-the-armor-underlying-infrastructure-threats-to-rpki-publication-point-reachability/
Относительно редкое исследование про фундаментальные проблемы безопасности при маршрутизации на уровне сети, недостатки в технологии Resource Public Key Infrastructure (RPKI) security standard.
Как одно из основных решений исследователи предполагают активнее использовать DNSSEC.
Относительно редкое исследование про фундаментальные проблемы безопасности при маршрутизации на уровне сети, недостатки в технологии Resource Public Key Infrastructure (RPKI) security standard.
Как одно из основных решений исследователи предполагают активнее использовать DNSSEC.
NDSS Symposium
Crack in the Armor: Underlying Infrastructure Threats to RPKI Publication Point Reachability - NDSS Symposium