❗️Microsoft MVP выпустил инструмент для 🧹удаления ИИ-меток из текста и файлов

Французский разработчик и предприниматель Гийом Мейер, Microsoft MVP - Microsoft 365, опубликовал открытый инструмент ❗️ watermarks-remover, предназначенный для удаления из текстов и файлов технических следов, которые могут указывать на их создание или обработку ИИ-моделями.

В части обычных технических меток это действительно работает. Модуль text_unicode.py ищет и удаляет zero-width-символы, bidi-маркеры, Unicode tag characters и другие невидимые символы.

📁 Отдельные модули работают с файлами. Для PNG и JPEG код анализирует и удаляет сегменты с C2PA, EXIF и другими метаданными, включая признаки Content Credentials, OpenAI, Anthropic, Claude и SynthID. При наличии exiftool инструмент может дополнительно удалить оставшиеся метаданные.

🧠 Со статистическими водяными метками LLM всё сложнее. Никакого секретного детектора Claude или SynthID внутри нет. Модуль rewrite_text.py пытается разрушить статистический сигнал посредством перефразирования, обратного перевода или полной структурной переработки текста с помощью другой LLM.

Скрытые Unicode-маркеры и файловые метаданные инструмент действительно удаляет, но статистические водяные метки он лишь пытается ослабить, и сам Мейер прямо предупреждает, что гарантировать прохождение закрытого детектора Anthropic, Google или другого поставщика невозможно.

Сам проект распространяется под лицензией MIT.

✋ @Russian_OSINT

🐋 ИИ-модель DeepSeek v4 Pro 0813 превзошла конкурентов в поиске уязвимостей при минимальных затратах

Руководитель направления ИИ-пентестов Aikido Security Филипп Дурасов опубликовал результаты тестирования новой ИИ-модели DeepSeek v4 Pro 0813 на внутреннем бенчмарке кибербезопасности. Новая открытая ИИ-модель DeepSeek v4 Pro 0813 продемонстрировала рекордные показатели в задаче обнаружения уязвимостей и обошла всех конкурентов.

По итогам трёх прогонов 🐋она успешно выявила 87,5% CVE из тестового набора. Ближайшие конкуренты 🈁Claude Opus 5 и ❗️Qwen 3.8 Max показали результат 81,3%.

Решение от DeepSeek отличается высокой экономической эффективностью. Общие затраты на проведение тестирования составляют около $200, а стоимость обнаружения одной уязвимости равна $7,34. 😐Использование Claude Opus 5 для аналогичной задачи обойдётся примерно в $1 500 при стоимости $66,97 за одну CVE. В исследовании также участвовали ИИ-модели линейки GPT-5.6, Kimi K3 Max и DeepSeek V4 Flash, однако они уступили лидерам по ключевым параметрам.

Обратной стороной высокой эффективности DeepSeek стала низкая точность. Только 65,6% обнаруженных DeepSeek v4 Pro 0813 уязвимостей оказались валидными. В то же время ИИ-модель GPT-5.6 Sol показала точность 96,7%. ИИ-модель от DeepSeek работает нестабильно и за один прогон находит в среднем лишь 58,3% уязвимостей, но максимальная результативность достигается только при объединении результатов нескольких запусков.

Филипп Дурасов отмечает выраженное исследовательское поведение DeepSeek v4 Pro 0813. ИИ-модель жертвует стабильностью на простых задачах ради глубокого анализа отдельных функций. Её фокус смещён на глубину тестирования, а не на ширину охвата, поэтому она отлично подходит для выявления "глубоких уязвимостей", но для проведения исчерпывающего аудита безопасности автор называет другие ИИ-модели "предпочтительными". Просто нельзя сильно сильно хвалить 🇨🇳китайские ИИ-модели.🤏😉Чуть-чуть можно.

✋ @Russian_OSINT

🧊 Компания 0DIN AI представила классификатор SusFactor для обнаружения джейлбрейков и промпт-инъекций

Кейт Сильверштейн, Марко Фигероа и другие исследователи из компании 0DIN AI опубликовали научную работу с описанием 📄 SusFactor. Это бинарный классификатор объёмом 560 млн параметров, предназначенный для выявления джейлбрейков и промпт-инъекций в запросах к ИИ-моделям. Архитектура решения основана на модели multilingual-e5-large, построенной на архитектуре XLM-RoBERTa-Large, которая содержит 24 трансформаторных слоя с размерностью скрытого состояния 1024. Классификатор принимает промпт пользователя и вычисляет индекс подозрительности в диапазоне от 0 до 1. Исходная нейросеть прошла предварительное дообучение на задаче семантического сходства джейлбрейков, после чего её оснастили двухслойным перцептроном с функцией активации GELU и выходом softmax. Модель может выполнять локальный инференс на центральном процессоре. В блоге 0DIN AI указано, что при тестировании на Apple M2 Pro медианная задержка составила от 63 мс для коротких текстов до 328 мс при максимальном контекстном окне в 512 токенов.

Обучающий корпус SusFactor включает 68 935 примеров, из которых 28% составляют вредоносные промпты, а 72% приходятся на безопасные запросы, включая 25 000 сложных негативных примеров для контроля ложноположительных срабатываний. Важнейшим компонентом набора данных стал фид угроз 0DIN Threat Feed, включающий 3426 атак на LLM в реальных продуктовых системах, которые ИБ-исследователи представили через баг-баунти платформу.

Проведённый авторами абляционный анализ показал определяющее влияние этого источника. При исключении атак из 0DIN Threat Feed из обучающего датасета доля успешных атак на бенчмарке JailbreakBench выросла с 12,1% до 77,5%, что соответствует 6,4-кратному росту пропуска вредоносных запросов, а показатель AUROC упал с 0,954 до 0,733. Деградация оказалась наиболее выраженной на градиентных суффиксных атаках вроде GCG и DSN, поскольку такие атаки отличаются от представленных в открытых датасетах.

По итогам тестирования на бенчмарке JailbreakBench модель SusFactor достигла наибольшего показателя AUROC, равного 0,954, среди рассмотренных классификаторов при уровне ложноположительных срабатываний 9,0%. На бенчмарке WildGuardTest система заняла третье место с результатом AUROC 0,878 и точностью на безопасных промптах 0,990, составив конкуренцию тяжеловесным генеративным защитным ИИ-моделям вроде WildGuard и Llama Guard 3 размером 7–8 млрд параметров. В числе текущих ограничений классификатора разработчики называют контекстное окно в 512 токенов, ориентированность исключительно на английский язык и отсутствие защиты от косвенных промпт-инъекций, внедряемых во внешние документы или результаты работы инструментов.

👆Исследование показывает, что специализированный классификатор сравнительно небольшого размера, 560 млн параметров, способен конкурировать с генеративными моделями размером 7–8 млрд параметров и при этом выполнять локальный инференс на CPU без GPU, обеспечивая выгодный компромисс между качеством защиты и вычислительными затратами.

В дальнейшем команда 0DIN AI намерена внедрить регулярное переобучение SusFactor по мере поступления новых отчётов об уязвимостях, а также изучить подходы к работе с длинными документами, включая разбиение на фрагменты с агрегацией.

✋ @Russian_OSINT