Forwarded from AISec [x\x feed]🍓🍌🍆 (Artyom Semenov)
https://aws.amazon.com/blogs/security/safeguard-your-generative-ai-workloads-from-prompt-injections/
Amazon
Safeguard your generative AI workloads from prompt injections | Amazon Web Services
January 23, 2025: We updated this post to clarify the definition of indirect prompt injection and provided a new example of indirect prompt injection. Generative AI applications have become powerful tools for creating human-like content, but they also introduce…
Forwarded from AISec [x\x feed]🍓🍌🍆 (Artyom Semenov)
Denis Makrushin
Один год вместе с LLM в кибербезопасности: как ИИ менял индустрию · Denis Makrushin
В 2024 году большие языковые модели (LLM) кардинально изменили многие сферы, включая кибербезопасность. LLM научились не только помогать в поиске уязвимостей, но и предлагать их исправления. От симуляции атак и анализа уязвимостей до создания правил детектирования —…
Forwarded from CyberSecurityTechnologies (-CST-)
DeTeCtive.pdf
7.8 MB
#MLSecOps
"DeTeCtive: Detecting AI-generated Text via Multi-Level Contrastive Learning", 2024.
]-> https://github.com/heyongxin233/DeTeCtive
"DeTeCtive: Detecting AI-generated Text via Multi-Level Contrastive Learning", 2024.
]-> https://github.com/heyongxin233/DeTeCtive
Forwarded from Яндекс
Это Perforator — система непрерывного мониторинга и анализа работы серверов и приложений в реальном времени. Она выявляет ресурсозатратные фрагменты кода и позволяет экономить до 20% на серверной инфраструктуре.
Perforator можно безопасно использовать в собственной инфраструктуре — исходный код инструмента опубликован на GitHub. Подробнее о Perforator разработчики рассказали в статье на Хабре.
Подписывайтесь
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1
Forwarded from Just links
LLMs can see and hear without any training https://arxiv.org/abs/2501.18096
arXiv.org
LLMs can see and hear without any training
We present MILS: Multimodal Iterative LLM Solver, a surprisingly simple, training-free approach, to imbue multimodal capabilities into your favorite LLM. Leveraging their innate ability to perform...
🔥1
Forwarded from .unsec
https://virustest.gov.ru
Национальный мультисканер.
https://opentip.kaspersky.com/
TI портал и платформа анализа Лаборатории Касперского.
https://www.virustotal.com
Обнаружение вредоносного ПО антивирусными движками.
https://tria.ge
Сервис-песочница для анализа вредоносных программ. Он позволяет пользователям бесплатно анализировать образцы вредоносных программ в настраиваемой среде.
https://www.hybrid-analysis.com
Бесплатный автоматизированный сервис анализа вредоносных программ, работающий на базе Falcon Sandbox. Пользователи могут загружать файлы или URL-адреса для мгновенного анализа, сервис обеспечивает анализ угроз с использованием машинного обучения, TI, антивирусных движков и статического анализа. Поддерживает сопоставление правил YARA.
https://analyze.intezer.com
Обеспечивает анализ вредоносных программ и TI. Помогает выявлять сходства между известными семействами вредоносных программ.
https://cuckoosandbox.org
Знаменитая Кукушка. Автоматизированная система анализа вредоносных программ с открытым исходным кодом. Она позволяет пользователям анализировать подозрительные файлы и URL-адреса в песочнице.
https://www.joesandbox.com
Автоматизированная платформа анализа вредоносных программ, которая анализирует файлы и URL-адреса разных архитектур: Windows, macOS, Linux и Android. Предоставляет подробные аналитические отчеты и поддерживает различные расширенные функции.
#malware
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from PWN AI (Artyom Semenov)
AttackGen
Инструмент, который основываясь на ваших входных данных генерирует сценарии реагирования на инциденты(используя llm + mitre attack).
В качестве входных данных вы должны предоставить (размер организации, отрасль и threat actor group).
Есть возможность интерактивного общения с чат-ботом, чтобы были предоставлены более подробные сценарии, а также ответы на ваши вопросы.
github
#blue_team #mitre
Инструмент, который основываясь на ваших входных данных генерирует сценарии реагирования на инциденты(используя llm + mitre attack).
В качестве входных данных вы должны предоставить (размер организации, отрасль и threat actor group).
Есть возможность интерактивного общения с чат-ботом, чтобы были предоставлены более подробные сценарии, а также ответы на ваши вопросы.
github
#blue_team #mitre
Forwarded from Кафедра ИУ10 МГТУ им. Н. Э. Баумана
Любишь ходить на конференции чтобы получить халявный мерч больше информации о современных трендах в мире ИБ? Тогда лови подборку конференций, которые будут проходить в Москве в 2025 году🔥
➡ Февраль
🟣 4-5 февраля — Международный форум iFin-2025 «Электронные финансовые услуги и технологии»
🟣 5-6 февраля — Большой Национальный форум информационной безопасности ИНФОФОРУМ-2025
🟣 11-13 февраля —Юбилейный ТБ Форум 2025 - международный форум «Технологии безопасности»
🟣 12 февраля — ИТ-приоритеты 2025
🟣 14 февраля — Федеральный форум «Корпорации в цифре»
🟣 20 февраля — Информационная безопасность 2025
➡ Март
🟣 4-5 марта — Информационная безопасность АСУ ТП КВО
🟣 13 марта — Флагманы цифровизации-2025. Технологии — высокие, цели — прагматичные
🟣 18-21 марта — Конференция «РусКрипто 2025»
🟣 20 марта — Стратегия и тактика информационной безопасности
🟣 21 марта — GLOBAL TECH FORUM | Цифровая трансформация и автоматизация бизнеса
➡ Апрель
🟣 3 апреля — Третья конференция по ИБ АСУ ТП
🟣 7-8 аперля — DevOpsConf 2025
🟣 10 апреля — Место силы для лидеров информационной безопасности CISO-FORUM 2025
➡ Май
🟣 22-24 мая — PHDays 2025
➡ Октябрь
🟣 16 октября — Сохранить всё. Безопасность информации
➡ Даты уточняются
🟣 OFFZONE
🟣 SOC Tech
🟣 SOC-Forum
Не упусти возможность посетить мероприятия, связанные с ИБ, и стать частью большого коммьюнити😎
Если ты знаешь классное мероприятие, связанное с ИБ, но мы не внесли его в наш список, то обязательно напиши о нем сюда⬅️
P.S. Мероприятия в данном сообщении будут дополняться и актуализироваться, а также мы дополнительно будем уведомлять о каждом ключевом мероприятии
Не упусти возможность посетить мероприятия, связанные с ИБ, и стать частью большого коммьюнити
Если ты знаешь классное мероприятие, связанное с ИБ, но мы не внесли его в наш список, то обязательно напиши о нем сюда
P.S. Мероприятия в данном сообщении будут дополняться и актуализироваться, а также мы дополнительно будем уведомлять о каждом ключевом мероприятии
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥2
Nightshade: Prompt-Specific Poisoning Attacks on Text-to-Image Generative Models - статья с двумя ключевыми положениями. Первое - диффузионные text2image модели, не смотря на миллиарды объектов в претрейне, знания о конкретной концепции или промптом, извлекают на основании всего нескольких тысяч объектов. И это делает их уязвимыми к оставлению бэкдоров на специфичные промпты. Второе - отравленные данные можно крафтить так, чтобы максимизировать устойчивость бэкдора и минимизировать размер отравляющей инъекциию Самый прямой пример атаки отравления претрейна, что я
🔥1
Foundational Challenges in Assuring Alignment and Safety of Large Language Models - обзорная статья, где в параграфе 3.6 Vulnerability to Poisoning and Backdoors Is Poorly Understood раскрыты проблемы отравления трейна и приведены ссылки на исследования такие