Компания "Рога и Копыта" Irregular поделилась предварительными выводами своими выводами по поводу 4 недавних ИИ-инцидентов произошедших с её вовлечением. Компания привлекалась для тестирования моделей Claude Opus 4.7, неназванной модели OpenAI, Claude Mythos 5, Muse Spark 1.1.

Итак компания делает следующие выводы:
1. Вместе со своими клиентами сделать более прозрачным процесс документирования и выравнивания, целевых окружений и предположений во избежание будущего непонимания.
Прим. автора канала - мне сложно согласится с тем, что 4 почти одновременных инцидента можно описать как непонимание, скорее недостаточную проработку юридических оснований для проведения тестирования и обмена данными.

2.Нужны более совершенные средства анализа логов. Вручную проанализировать логи нельзя, хоть это и необходимо. Модели генерируют большое количество логов, используют неожиданные решения, что делает ручной анализ невозможным.
Прим. автора канала - интересно, что Irregular называет более совершенными средствами, обнаружить, что у тебя началось активное взаимодействие тестовой среды с внешним ресурсом может бесплатные средства Log management , не говоря уже про SIEM и IDS.

3. Существующих подход по моделированию угроз не предусматривает наличие сильного злоумышленника внутри, текущие средства под это не адаптированы.
Прим. автора канала- пусть это и очевидно, но я про это писал ранее.

4. Требуется быстрая реакция на инцидент и обмен данными расследования, такими как рассуждения модели.
Прим. автора канала - с учетом того, что компания была вовлечена в 4 из 7 подобных инцидентов я бы рассматривал, это как высокую вероятность того, что у сами модели не разворачивались у Irregular и более того, доступ к исходным данным тестирования модели у компании был ограничен. По опубликованной информации именно Антропик останавливала оценку после уведомления и управляла процессом оценки, а Irregular позднее уведомлен самим Антропиком.

5. Необходима постоянная оценка результатов тестирования и выбора имен так как постоянно создаются новые вебсайты и доменные имена пересекающиеся с вымышленными в тестовых сценариях.
Прим. автора канала - на написание MVP скрипта проверяющего "реальность" выдуманных имен в 1000 сценариев у среднего инженера уйдет 3-5 рабочих дней. Возможно эти расходы вышли за смету тестирования.

P.s. Компания Pattern Labs переименовалась в Irregular т.к. по замыслу компании они "ищут иррегулярное (неправильное) поведение передовых моделей" и "противодействуют иррегулярным (нестандартным) угрозам".

Фактическое описание существующей поверхности атаки для открытых ИИ моделей в свежем отчете HuggingFace. Описаны какие модели пользуются популярностью (Qwen, google, unsloth) для построения своей модели и какие производители на каких размерах моделей специализируются.

Интересно в первую очередь тем, кто разрабатывает или планирует разрабатывать средства для защиты ИИ и сам находится на этапе выбора модели для онпрема.
Отдельного анализа по вопросам безопасности нет, только ссылки на описание прошедшего инцидента.

Если ваша организация использует ChatGPT и Mac для рабочих мест или у вас есть Mac в сети которыми вы централизованно не управляете необходимо явно оценить риски и принять решение по использованию и донастройке безопасности в связи с релизом новой функции ChatGPT - Computer History.

В очевидной погоне за новыми данными для прогресса передовых моделей, OpenAI предлагает пользователям тарифов ChatGPT Pro, Business, and Enterprise для приложений Codex анализировать ваши действия на Mac. По умолчанию функция отключена. Функция недоступна в ЕС, Великобритании и Швейцарии.

OpenAI сама официально признает в своей справке, что включение этой функции делает ваш компьютер уязвимым к промт инъекциям, например, при просмотре вредоносного сайта. Другое официальное предупреждение - вся собранная история хранится на компьютере (~/.codex/memories/extensions/skysight/) в незашифрованном виде в форме markdown файлов, что делает этот ресурс необходимым для мониторинга обращений со стороны сторонних сервисов.

Коллеги отмечают наличие и положительного для ИБ момента - собранную информацию можно использовать для расследования инцидентов.

Стоит отметить, что подобная функциональность со стороны Windows 11 recall вызвала значительную отрицательную обратную связь от потребителей.

14 августа назад была выложена новая версия модели Qwen 3.8 27b и 27b-FP8.
12 августа была выложена новая версия модели Qwen 3.8-2.4T-A95B и Qwen 3.8-2.4T-A95B-FP8.

Почему это важно для кибербеза? Семейство квен самое популярное семейство среди моделей на hugging face как по количеству скачиваний так и по использованию для построения\файнтюна своих моделей. Россия в этом плане не сильно отличается от мировых тенденций.

Версия на 27 млрд параметров по общим бенчмаркам способностей находится на уровне GLM-5.2 (max), Deepseek V4Pro 0813, GPT 5.6 Luna. Квантованную до FP8 версию можно попробовать запустить на условно домашней RTX 5090 32 Гб .

Версия на 2,4 трлн параметров по общим бенчмаркам способностей находится на уровне Muse Spark 1.2, GPT 5.6 Terra, т.е. можно отнести к SOTA моделям . Эта версия FP8 уже потребует профессиональных минимум 16 видеокарт Nvidia B300.

Как обычно хотелось бы понимать на сколько эти модели более защищенная и (или) более способная для задач кибербезопасности.

А тут появляются проблемы, официально у новых моделей нет тех репорта, только карточки на hugging face c ссылками в никуда или на весьма ограниченное описание. Каких либо других независимых отчетов по кибербезопасности и safety мне тоже не удалось найти. В части возможностей самой модели можно с допущениями ориентироваться на тест облачной версии модели Qwen 3.8 Max (как аналога Qwen 3.8-2.4T-A95B) от Aikido:
"Qwen rediscovered 26 of 32 CVEs across three runs, for 81.25% pass@3 recall. That's ahead of GPT-5.6-Sol and matches Opus 5, at roughly half the cost".

Можно попробовать ориентироваться на комплексные бенчи:
Terminal‑Bench 2.1 - навыки работы в командной строке, в том числе для задач кибербезопасности (нахождение и закрытие уязвимостей в коде, реверс-инжиниринг бинарных файлов и безопасная настройка доступов).
DeepSWE 1.1 - бенч для навыков агентов по написанию кода, отдельных разделов по безопасности нет, но это навык смежный с написанием кода.

Из значимого - Qwen 3.8 27b единственную из актуальных опенсорс общих моделей можно запустить на одиночном устройстве, особенно если на неофициальном квантовании FP4. Тогда как для "соседей" по бенчмаркам (GLM 5.2, Deepseek V4Pro 0813, GPT 5.6 Luna) потребуется кластер (а иногда и не один) профессиональных видеокарт.

Что на текущий момент является аномальным результатом по соотношению (возможности модели в Terminal‑Bench 2.1)/стоимость оборудования. Соотношение сохраняется в DeepSWE 1.1 и нескольких других бенчах .

Будем ждать новых отчетов по этому семейству, пока Artificial Analysis не включил в бенч по затратам Qwen 3.8 27b, поэтому нужно отнестись сдержанно к получившейся аномальной оценке.

Если у кого то есть локальная RTX 5090 и свободное время - поделитесь впечатлениями ;) .

Ниже пост с парой рисунков.

Вышел свежий квартальный отчет Rapid7. Rapid7 один из игроков большой тройки средств управления уязвимостями, остальные два это Tenable и Qualys. Также Rapid7 это авторы популярного инструмента для тестирования на проникновение Metasploit.

Что можно увидеть в новом отчете:
1. Количество новых уязвимостей с CVSS 7-10 удвоилось до 8,539 в Q2 2026 с 4,268 в Q2 2025 (+100%).
Прим. автора канала - версия CVSS не указана, что снижает точность метрики.

2.Увеличение на 9% за год доли уязвимости типа "Святой грааль" (эксплуатация по сети, без аутентификации, без взаимодействие с пользователем) до 62%, среди общего числа эксплуатируемых уязвимостей (KEV). В абсолютных цифрах 2026 25 из 40 (62 %), в прошлом году 24 из 45 (53 %).
Прим. автора канала - в абсолютных цифрах изменения количества таких уязвимостей на уровне погрешности. Обращает на себя падение на, примерно, 11% абсолютного количества эксплуатируемых уязвимостей, за год во втором квартале снижение с 45 до 40 уязвимостей KEV.
В примечании к одному из графиков Rapid7 насчитало падение с 45 до 40 как 21% (а не 11 %). На этом моменте я сформировал три гипотезы: арифметическая/редакционная ошибка автора, данные исказили, есть неочевидная для меня методика расчета разницы в процентах.

3. Количество уязвимостей классифицируемых как отсутствие аутентификации (CWE-306) выросло в 2,5 раза с 45 до 156. Количество уязвимостей типа SQL инъекция (CWE-89) в половину с 318 до 476. Количество доступных публичных эксплоитов выросло с 153 до 270 т.е. на 76 процентов. Количество уязвимостей "святой грааль" (эксплуатация по сети, без аутентификации, без взаимодействие с пользователем) выросло с 1612 до 3453 - на 114 процентов.

4. В трендах услуги удаленного обнаружения и реагирования (MDR): атаки на фишинг кода авторизации устройств (Device Code) и злоупотребление брокером аутентификации (обход MFA), атаки на Local Security Authority Subsystem Service (LSASS) и борьба с закреплением с использованием Mimikatz.

5. В разделе посвященном сигналам из теневой экономики авторы сформировали следующие практические рекомендации:
- Инвентаризация и патч менеджмент устройств, опубликованных в интернет: — SSL-VPN, RDP gateways, web servers.
- Плановая замена учетных данных и усиленное внедрение средств MFA устойчивых к фишингу на всех сценариях удаленного доступа.
- Кросс проверка публикуемых CVE на предмет совпадение с вашим результатом инвентаризации.



В конце отчета авторы предлагают общий подход - не гоняться за каждой новой уязвимостью, а уменьшать экспозицию (exposure), того что действительно достижимо (злоумышленникам).

Структура представления данных в отчете по сравнению с Q1 изменилась. Исчезло распределение первоначальных векторов атак (эксплуатация уязвимости, социальный инжиниринг, скомпрометированные атаки). Сам отчет за Q1 найти стало непросто, все ссылки теперь ведут только на Q2.

По мнению автора канала, на фоне уменьшения количества эксплуатируемых уязвимостей (KEV) кратный рост общего количества уязвимостей можно объяснить:
1. Cнижением качества публикуемых уязвимостей.
2. Cнижением качества подготовки новых приложений вайб-кодингом (об этом говорит рост уязвимостей "отсутствие аутентификации"),
Отдельного внимания заслуживает увеличения количества уязвимостей с публичным эксплойтом на 76% на фоне уменьшения количества эксплуатируемых уязвимостей. Одна из гипотез - качество POC тоже упало.

Предположения которые напрашиваются у автора канала, по данным на конец Q2 2026:
1.КПД процесса управления уязвимостями заметно упал.
2.Новые модели ИИ находят новые эксплуатируемые уязвимости, но их долю объективно оценить сложно.
3.Вайбкодинг несет большую угрозу чем, "тысячи" уязвимостей от Mythos.
4. На фоне резкого сокращения реального времени атаки с момента публикации работающего эксплоита становятся актуальными способы повышения общей устойчивости инфраструктуры, в том числе, с помощью инструментов exposure management.
5. Если даже в таком растиражированном направлении как поиск уязвимостей эффект новых моделей стал неочевидным, то это ставит вопрос об экономической эффективности моделей и в других применениях.

https://www.kommersant.ru/doc/8893131

“Ъ” ознакомился с данными рекрутингового сервиса hh.ru по динамике зарплат в области кибербезопасности в России. Так, согласно данным платформы, средняя зарплата в сфере информационной безопасности за первую половину 2026 года выросла на 40% относительно первого полугодия 2025 года — с 82,8 тыс. до 115,6 тыс. В ряде случаев предложения достигают 400 тыс. руб., «при сочетании уникальной экспертизы и опыта».

Статистика от HH очень частично сочетается с ранее опубликованными данными от рекрутингового агентства Sense. Частично потому, что часть ролей не совпадает в данных Sense. Например у Sense нет ролей "специалистов по защите данных и ИТ-инфраструктуры (42%), а также профильных директоров (32%)", указанных в статье Ъ.

Частичное совпадение есть только по росту с 2025 года компенсации для роли Lead Appsec, но на 10%, а не 40%.

Дальше есть интересный абзац

"За год количество вакансий в сфере информационной безопасности практически не изменилось: минус 5% по России, приводят данные в Superjob. Для сравнения: рынок труда в целом показал снижение на 18%, ИТ-сфера — минус 20%, говорят в компании. Количество же резюме в кибербезопасности выросло на 16%, в ИТ — на 24%, а на рынке в целом — на 32%. «Кибербезопасность — одна из немногих сфер деятельности, для которой в 2026 году характерна устойчивость спроса на кадры»,— добавили в компании."

-5% теперь оценивается как стабильность, на фоне -18% общего падения количества вакансий на рынке.

К исследование SENSE у меня больше доверия, т.к. доход компании напрямую зависит от сумм офферов и они напрямую работают с финальными ожиданиями кандидатов и заказчиков.
А вот у платформ типа HH и superjob данные есть только как раз на уровне первичных ожиданий кандидатов и заказчиков, финальные значения редко сообщают таким платформам.

Полезная инициатива!