Russian OSINT
48.4K subscribers
5.68K photos
340 videos
122 files
5.1K links
Авторский канал: кибербезопасность, искусственный интеллект и IT.

🚀Лаборатория OSINT
@russian_osint_lab

🤝Реклама
@russian_osint_pr

📲Связь
@russian_osint_bot

👉MAX (резерв)
https://max.ru/russian_osint
Download Telegram
🈁 Исследователь покинул Anthropic с громким предупреждением об опасности создания 🤖неконтролируемого ИИ, который погубит всё человечество

Исследователь ИИ Джейкоб Коксон уволился из компании Anthropic и заявил, что ведущие разработчики безответственно форсируют создание самообучающегося сверхразума, подвергая смертельному риску всё человечество. До ухода он три года занимался исследованиями предварительного обучения моделей как в OpenAI, так и в Anthropic.

Джейкоб Коксон (Jacob Coxon) — 27-летний британский исследователь ИИ и математик, бывший Member of Technical Staff в OpenAI и исследователь Anthropic. Выпускник Кембриджа, серебряный и бронзовый призёр Международной математической олимпиады. Около трёх лет занимался исследованиями в области предобучения больших ИИ-моделей, был одним из основных участников разработки GPT-4o и входил в группу основных исследователей. В Anthropic он специализировался на предобучении больших ИИ-моделей.


Коксон утверждает (главный твит набрал уже 😯78 млн просмотров), что инженеры и руководство технологических гигантов в частных беседах всерьёз считают возможной гибель всей человеческой цивилизации из-за ИИ уже к концу текущего десятилетия. Публично топ-менеджеры сглаживают формулировки, чтобы казаться благоразумными, но за закрытыми дверями выражают страх в преддверии будущих событий.

По оценке Коксона, в OpenAI масштаб 🧠 экзистенциальных рисков пока глубоко не осознали. В Anthropic понимают отчётливо опасность происходящего, но компания втянулась в бесконтрольную гонку из убеждения, что они первыми должны создать AGI/ASI первыми, так как другие разработчики не будут действовать ответственно.

Коксон призвал других специалистов не запускать вслепую обучение потенциально сверхразумных систем и добиваться соглашений между лабораториями, вплоть до временного запрета на наращивание возможностей моделей.

Параллельно сенатор 🇺🇸США Берни Сандерс объявил о подготовке законопроекта о полном запрете создания сверхразума, а законодательство Евросоюза уже обязывает компании оценивать и купировать риски потери контроля над ИИ.

☝️Некоторые пользователи в 🦆выдвинули гипотезу о том, что специалиста могли уволить из-за плохих результатов на работе, поэтому он так мстит публично в социальных сетях. Так это или нет, но проблемы действительно есть. Топовые ИИ-компании в погоне за AGI и деньгами (IPO) не хотят экологично притормаживать развитие ИИ во благо человечества.

Руководитель направления исследований согласования ИИ (Alignment Science lead) в Anthropic Эван Хьюбингер соглашается с оценкой Коксона.

Джейкоб здесь прав, и мы действительно искренне верим, что ИИ может уничтожить всех людей! Лично я считаю, что вероятность этого составляет ⚠️>10% в течение ближайшего десятилетия. Я верю, что Anthropic делает всё возможное, но у нас пока нет плана решения проблемы согласования суперинтеллекта, и мы пока явно не на пути к этому.

— комментирует Эван Хьюбингер.

✋ @Russian_OSINT
Please open Telegram to view this post
VIEW IN TELEGRAM
🇺🇸🎩 Какую роль сыграла киберразведка ЦРУ в захвате 🇻🇪Мадуро американским спецназом 🎖Delta Force

Заместитель директора ЦРУ Майкл Эллис впервые подробно рассказал о роли киберразведки в операции Absolute Resolve по захвату Николаса Мадуро [1,2,3,4,5]. По его словам, кибероперации Центра киберразведки ЦРУ (Center for Cyber Intelligence, CCI) позволили создать «безупречную разведывательную картину», благодаря которой американский спецназ определил точное местонахождение Мадуро и захватил его в течение 4 минут после высадки в Каракасе. Об этом Эллис заявил 8 сентября на Billington CyberSecurity Summit.

Именно кибероперации CCI помогли сформировать оперативную картину, необходимую для поиска цели. При этом ЦРУ не раскрыло, какие именно сети, устройства или информационные системы были скомпрометированы. Речь идёт не просто о технической поддержке. Эллис утверждает, что кибероперации Центра киберразведки ЦРУ были одним из главных факторов, на которых строилась сама оперативная разведывательная картина. Без неё, по его словам, ЦРУ не смогло бы помочь силам специальных операций настолько быстро установить точное местонахождение Мадуро.

Председатель Объединённого комитета начальников штабов генерал Дэн Кейн ещё 3 января рассказал, что американские спецслужбы месяцами изучали повседневную жизнь Мадуро, включая то, где он жил, куда ездил, что ел, что носил и даже изучили его домашних животных. Кейн подчеркнул, что без участия ЦРУ, АНБ и Национального агентства геопространственной разведки (NGA) операция была бы невозможна.

Киберкомандование США создавало отдельные некинетические эффекты, а спецназ Delta Force действовал уже непосредственно на месте событий.

Эллис связывает успех такого подхода с недавним повышением Центра киберразведки ЦРУ до самостоятельного центра в прямом подчинении Директора ЦРУ. По его словам, новая структура позволяет быстрее направлять ресурсы на сложные разведывательные задачи, а также активнее использовать кибероперации. Эллис отдельно заявил, что ИИ уже даёт кибероперациям ЦРУ два важных момента — скорость и масштаб.

👁 Роли в операции по захвату Мадуро:

🇺🇸 ЦРУ, агентурная разведка — источник в окружении Мадуро, отслеживание его перемещений и привычек.
🇺🇸 ЦРУ, Центр киберразведки — кибероперации и формирование оперативной разведывательной картины для определения местонахождения Мадуро.
🇺🇸 АНБ США — радиоэлектронная разведка, перехват и анализ сигналов, геолокация, мониторинг коммуникаций и активности венесуэльских военных.
🇺🇸 Киберкомандование США — военные кибероперации и другие некинетические воздействия.
🛰 Национальное агентство геопространственной разведки США — спутниковая и геопространственная разведка, анализ объектов и местности.
🎖 Объединенное Командование специальных операций США / Delta Force — непосредственный штурм, проникновение на объект и задержание Мадуро.
🎖 Южное командование США — региональная координация военной операции.
🛡 Объединённый штаб ВС США — интеграция киберопераций, радиоэлектронной борьбы и других некинетических средств с боевым планированием.


👆В 2025 году в ЦРУ велось более 300 проектов с использованием ИИ. В будущем ИИ «проникнет» практически во все направления работы агентства, включая сбор разведданных, операции и анализ. ЦРУ рассчитывает использовать несколько ИИ-моделей и сохранять человека в контуре принятия решений. Как сообщалось ранее, примерно через 10 лет сотрудники ЦРУ смогут управлять целыми командами/роями 🤖автономных ИИ-агентов.

✋ @Russian_OSINT
Please open Telegram to view this post
VIEW IN TELEGRAM
🇨🇭Швейцария начала строить независимый open-source-контур, чтобы снизить зависимость федеральных ведомств от Microsoft

Федеральная канцелярия Швейцарии запустила программу по созданию независимого рабочего окружения для госслужащих на базе open-source, которое сможет работать параллельно с Microsoft 365. С конца 2027 года новую платформу планируют предоставить примерно 3000 сотрудникам. Стоимость первого этапа оценивается примерно в 9 млн швейцарских франков.

В основе швейцарского проекта лежит немецкая платформа openDesk, которая объединяет несколько зрелых open-source-проектов. Документы обрабатываются через Collabora, файлы хранит Nextcloud, почту и календарь обеспечивает Open-Xchange, чаты работают через Element на базе стандарта Matrix, видеоконференции через Jitsi, а проекты ведутся в OpenProject. Весь этот набор связывает централизованная система управления идентификацией и доступом Univention Nubus. Сам openDesk рассчитан на Kubernetes, а швейцарское Федеральное управление информационных технологий и телекоммуникаций адаптировало его для используемой ведомством инфраструктуры Red Hat OpenShift.

Пока ещё рано говорить о независимости от Microsoft, но фактически государство создаёт резервный цифровой контур, который должен сохранить работоспособность федеральной администрации в случае проблем с Microsoft 365. В него должны войти почта, календарь, работа с документами и презентациями, файлы, телефония, аудио- и видеоконференции. Основанием стала проверка PoC BOSS, в которой участвовали сотрудники нескольких федеральных ведомств. Исследование показало, что протестированное open-source-решение в целом пригодно для основных стандартных офисных процессов, хотя технические и организационные ограничения всё ещё остаются.

Интереснее всего здесь сама логика проекта. Швейцария не пытается срочно заменить один офисный пакет другим, а создаёт страховку от зависимости от единственного поставщика. Государство хочет иметь рабочую среду, которую оно способно контролировать и развивать самостоятельно даже в условиях кризиса. Именно поэтому проект рассматривается как часть цифрового суверенитета и устойчивости федеральной инфраструктуры. Если эксперимент с 3000 пользователями окажется успешным, следующим этапом может стать обсуждение стоимости и целесообразности более масштабного внедрения этой open-source-платформы в федеральных ведомствах Швейцарии.

✋ @Russian_OSINT
Please open Telegram to view this post
VIEW IN TELEGRAM
🥹Злоумышленники скомпрометировали стороннего email-провайдера компании 🛡 Trezor и разослали пользователям фишинговые письма с её официального домена

Производитель аппаратных кошельков Trezor подвергся атаке на цепочку поставок, в результате которой злоумышленники скомпрометировали стороннего провайдера электронных рассылок Brevo. С легитимного почтового сервера mailing.trezor.io пользователи начали получать фишинговые письма с темой «Critical Security Alert: STM32 Entropy Vulnerability». В рассылке ложно утверждалось о критической аппаратной уязвимости микроконтроллеров STM32, приводящей к недостаточной энтропии генератора случайных чисел. Атакующая группировка рассчитывала спровоцировать панику в криптосообществе на фоне недавней компрометации устройств Coldcard, стоившей жертвам более $130 млн. Полезная нагрузка доставлялась пользователям в виде загружаемого HTML-файла со встроенным кодом на JavaScript. При локальном запуске этот скрипт перехватывал введённую seed-фразу и незаметно отправлял её на сервер атакующих через API мессенджера Telegram.

Инцидент приобрёл неприятные масштабы, поскольку аналогичная фишинговая атака одновременно затронула владельцев кошельков BitBox. Генеральный директор Casa Ник Ньюман и директор по информационной безопасности Casa Джеймсон Лопп публично подтвердили факт рассылки мошеннических писем без применения техник спуфинга. Эксперты указали на высокую вероятность целевого проникновения в инфраструктуру провайдеров маркетинговых сервисов.

В ответ на обнаруженную угрозу техническая команда Trezor оперативно деактивировала скомпрометированный домен и инициировала внутреннее расследование для выяснения точных механизмов обхода защиты.

Данный инцидент спровоцировал критику со стороны пользователей на профильных площадках и платформе Reddit. Доверие к архитектуре информационной безопасности Trezor оказалось серьёзно подорвано, поскольку инцидент произошёл сразу после недавней крупной утечки данных у логистического партнёра компании ShipMonk. В ходе той успешной атаки на цепочку поставок в руки злоумышленников попали персональные сведения 80 689 клиентов, включая полные имена, номера телефонов и физические адреса доставки.

🌎 https://forum.trezor.io/t/trezors-mail-server-infrastructure-compromised/27388

✋ @Russian_OSINT
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👻 В MAX подвезли 📊статистику по каналам.

https://max.ru/russian_osint

✋ @Russian_OSINT
Please open Telegram to view this post
VIEW IN TELEGRAM
🇫🇷 Франция усиливает полномочия ANSSI после серии крупных утечек из государственных систем

После нескольких болезненных взломов Париж решил перевести уже существующий механизм государственного киберреагирования в более жёсткий режим. 7 сентября ANSSI начала операцию REACTIV, которая позволяет агентству концентрировать оперативные ресурсы для помощи атакованному министерству в расследовании компрометации учётных записей и анализе утечек. Главное изменение заключается в том, что ANSSI сможет добиваться от министерств принятия необходимых защитных мер в ограниченные сроки, а техническая кризисная коммуникация при таких атаках будет централизована через агентство. Важно, что речь не идёт о создании государственного киберцентра с нуля. ANSSI и раньше была национальным органом ИБ — координировала межведомственную работу и реагирование на инциденты в государственных системах. REACTIV скорее делает эту давно существующую вертикаль более оперативной и директивной.

Причина понятна. Весной инциденты затронули государственный портал France Titres (потенциально 11,7 млн аккаунтов) и систему Министерства образования, а летом злоумышленники получили несанкционированный доступ к системам налоговой службы DGFiP. В последнем случае были извлечены сведения как минимум о 678 тыс. граждан и организаций, включая налоговые данные.После серии инцидентов премьер-министр Себастьен Лекорню публично признал, что лишь немногие министерства находятся на требуемом уровне кибербезопасности, и поручил ANSSI усилить возможности первой реакции при серьёзной компрометации государственных систем. Параллельно правительство выделило €200 млн на повышение защищённости, обязало министерства выполнять план из 40 первоочередных мер, а с 2027 года требует направлять не менее 5% их цифровых бюджетов на кибербезопасность.

Поэтому REACTIV интересна не как очередная «кибергруппа», а как ужесточение самой модели управления государственными киберкризисами. Проблема оказалась в том, что наличие ANSSI само по себе не обеспечивало одинаковый уровень зрелости и скорость реакции десятков ведомственных систем. Теперь Париж пытается сократить этот разрыв, наделяя агентство правом быстро вмешиваться в кризисные ситуации, концентрировать ресурсы и директивно требовать от конкретного министерства срочных защитных мер.

✋ @Russian_OSINT
Please open Telegram to view this post
VIEW IN TELEGRAM
🌐 Автономные ИИ-агенты и атаки на цепочки поставок открывают новую эру кибератак

В свежем отчёте Google Threat Intelligence Group специалисты фиксируют качественный переход атакующих группировок к автономным многоагентным системам и комплексной автоматизации нападений. Специалисты отмечают следующие моменты:

1️⃣ Атакующие группировки из 🇨🇳Китая и 🇰🇵КНДР якобы масштабируют анализ кода и автоматизируют проверку CVE, применяя ИИ-модели, обученные на специализированных ИБ-базах.
2️⃣ Замечены случаи генерации хакерами обфусцированного кода и внедрения отвлекающей логики в ВПО.
3️⃣ 🦠 ВПО переходит к самостоятельному принятию решений. Например, бэкдор PROMPTSPY использует API Gemini для анализа иерархии интерфейса и автономной навигации по ОС Android-устройств, имитируя действия пользователя и скрывая кнопку удаления приложения. Хакеры также применяют автономные ИИ-фреймворки вроде Hexstrike и Strix для непрерывной разведки.
4️⃣ Атакующие группировки создают теневую инфраструктуру с помощью API-шлюзов и автоматизируют регистрацию аккаунтов. Это позволяет им массово и анонимно использовать платные версии Gemini, Claude и OpenAI в обход систем защиты.
5️⃣ Атаки на цепочки поставок ИИ. Злоумышленники атакуют не сами ИИ-модели, а библиотеки и плагины, используемые для их интеграции. Например, группировка TeamPCP скомпрометировала репозитории (включая LiteLLM и BerriAI) для кражи облачных ключей и передачи доступа партнёрам для развёртывания программ-вымогателей.
6️⃣ В экосистеме ИИ-агентов OpenClaw выявлено распространение вредоносных пакетов навыков, позволяющих злоумышленникам выполнять несанкционированный код на заражённом хосте.
7️⃣ Google применяет ИИ-агента Big Sleep для проактивного поиска уязвимостей и ИИ-модель CodeMender для их автоматического исправления.
8️⃣ Хакеры обходят фильтры безопасности LLM, заставляя их действовать от лица ИБ-специалистов. Группировка UNC2814 применяла этот метод для поиска RCE-уязвимостей в прошивках TP-Link. Для повышения эффективности атакующие также интегрируют в Claude базу «wooyun-legacy» из 85 000 реальных инцидентов, настраивая модель на поиск скрытых логических ошибок в коде.
9️⃣ ИИ-модели автоматизируют сбор данных о целях, анализируя и воссоздавая организационные структуры корпоративных департаментов (финансов, ИБ, кадров).
🔟 ВПО начинает изменять свой код непосредственно во время исполнения. Семейства вредоносного ПО PROMPTFLUX и HONESTCUE обращаются к API Gemini для динамической генерации кода и обфускации (например, VBScript), что позволяет им уклоняться от статического сигнатурного обнаружения.

Интересный пример (уже говорилось ранее): Атакующие эксплуатировали политики безопасности LLM-сканеров кода. Когда автоматизированный ИИ-анализатор сканирует репозиторий, он натыкается, например, на тему оружия ⚠️массового поражения, после чего срабатывают внутренние фильтры безопасности модели (safety refusal). Модель выдаёт отказ обрабатывать запрос по соображениям безопасности и пропускает анализ самого скрипта, в результате чего вредоносный код ниже комментариев остаётся незамеченным. Речь идёт о приёме обхода защитных ИИ-сканеров, который применила финансово мотивированная группировка UNC6780 (TeamPCP) во вредоносном загрузчике DUSTMAKER. В начало JavaScript-файлов (_index.js) злоумышленники вставляли текстовые комментарии в виде фиктивных промптов. В них от лица якобы физика из Лос-Аламосской национальной лаборатории запрашивались инструкции по созданию имплозивного ядерного заряда на базе плутония-239, а также руководства по синтезу биологического оружия. Злоумышленники фактически превратили защитные фильтры ИИ-моделей в инструмент ослепления самой системы безопасности, вызывая отказ в обслуживании на уровне проверки вредоносного кода.

✋ @Russian_OSINT
Please open Telegram to view this post
VIEW IN TELEGRAM
📺 Умные телевизоры LG превратились в скрытые инструменты слежки для 💸монетизации пользовательских данных

Команда издания Gamers Nexus во главе с главным редактором Стивом Бёрком совместно с основателем проекта Level1Techs Уэнделлом и независимыми ИБ-исследователями провела расследование безопасности телевизоров LG под управлением webOS. Специалисты выяснили, что телевизоры используют технологию автоматического распознавания контента (ACR) для формирования цифровых отпечатков воспроизводимого изображения и звука. После принятия пользователем соглашения о сборе данных о просмотре, устройства передают сведения рекламной платформе LG Ad Solutions, работающей под юридическим названием Alphonso Inc.

Исследователи обнаружили, что протестированные умные телевизоры в фоновом режиме сканируют локальную сеть, выявляя компьютеры, смартфоны, сетевые хранилища и устройства умного дома. Отдельно фиксировались сведения о соседних сетях Wi-Fi, которые потенциально могут использоваться для определения местоположения телевизора. Идентификатор X-Device-ID формируется с использованием шифрования MAC-адреса и случайной соли ключом, общим для телевизоров одной модели. Обладатель этого ключа может восстановить MAC-адрес и использовать его как постоянный идентификатор устройства.

Выяснилось, что сопутствующие 🥷аудиоинтерфейсы способны перехватывать звук даже тогда, когда функции распознавания речи отключены в меню, а встроенный микрофон деактивирован тумблером на корпусе. Алгоритмы преобразуют окружающую речь в текст и ведут локальные журналы в оперативной памяти, фиксируя конфиденциальные разговоры, платёжные данные и персональные номера. Анализ кода также подтвердил возможность проведения атак с удалённым исполнением кода (RCE) через штатный веб-браузер и ошибки в сервисах сопряжения. В случае успешного внедрения полезной нагрузки злоумышленники могут перехватывать звук с внешних USB-камер и разъёмов HDMI, управлять телевизором через C2-сервер или организовывать горизонтальное перемещение внутри корпоративного периметра, причём накопленные аудиозаписи выгружаются наружу сразу после восстановления сетевого соединения.

Исследователи обращают внимание на применение тёмных паттернов в интерфейсе webOS, где пользователя намеренно подталкивают к принятию всех соглашений кнопкой полного согласия ради запуска базовых программ. Лицензионные тексты объёмом около 50 000 слов содержат пункты об автоматическом обновлении условий и принудительном арбитраже, лишающие покупателей права на участие в коллективных судебных исках. Кроме того, ситуация усугубляется результатами независимого отчёта компании Spur, согласно которому 43% протестированных приложений из каталога webOS содержали сторонний программный код для перенаправления сетевого трафика через домашние адреса владельцев.

👆Телевизор собирает цифровые отпечатки контента, сканирует локальную сеть, определяет соседние устройства и ведёт запись окружающего звука через микрофоны даже при попытке отключить эти функции на программном уровне.

📊 Масштаб проблемы охватывает примерно 216 млн телевизоров из экосистемы LG. В I квартале 2026 года Alphonso, работающая под брендом LG Ad Solutions, получила примерно $185 млн выручки и $22 млн прибыли. В год это может быть около $740 млн выручки и $88 млн прибыли.

В итоге авторы заключают, что современные умные телевизоры окончательно превратились в источник монетизации данных. Доходы от продажи целевой рекламы и телеметрии через ACR (автоматическое распознавание контента) для производителей зачастую выгоднее самой продажи самого ТВ. На примере Vizio (ещё одного крупного игрока на рынке умных телевизоров) отмечается, что валовая маржинальность (gross margin) направления по производству и продаже самих устройств составила -0,8%, а маржинальность подразделения Platform+, отвечающего за сервисы, рекламу и монетизацию пользовательских данных, достигла 61%.

✋ @Russian_OSINT
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👩‍💻 OpenAI временно приостановила оформление новых подписок на тарифный план Pro стоимостью $200 в месяц

Причиной стала чрезмерная нагрузка на вычислительную инфраструктуру, вызванная ажиотажным спросом на новую флагманскую ИИ-модель Astra.

На паузу поставлены только новые подписки уровня Pro, поскольку именно этот тариф создаёт максимальную нагрузку на серверные мощности компании. Действующие подписчики Pro сохраняют доступ к сервису. Тарифные планы Go и Plus, корпоративные аккаунты Enterprise и Business, а также доступ через API остаются открытыми для подключения.

✋ @Russian_OSINT
Please open Telegram to view this post
VIEW IN TELEGRAM
🇷🇺🇬🇪🇺🇸 Гражданина РФ экстрадировали в США из Грузии по делу о фишинге через поисковые системы с многомиллионным ущербом

36-летнего российского веб-разработчика Сергея Филимонова экстрадировали из Грузии в США по делу о схеме захвата банковских аккаунтов. 4 сентября он предстал перед федеральным судом в Атланте и не признал себя виновным. Сейчас Филимонов остаётся под стражей Службы маршалов США. Как сообщает РИА Новости, суд указал на «серьёзный риск» того, что обвиняемый скроется в случае освобождения.

Следствие вменяет ему участие в международной схеме по захвату банковских счетов, которая действовала с ноября 2023 года по октябрь 2025 года. В материалах дела утверждается, что злоумышленники создавали поддельные сайты финансовых учреждений и оплачивали рекламные ссылки в поисковых системах, чтобы перенаправлять клиентов банков на фишинговые страницы входа. Фигуранту вменяют сговор с целью совершения банковского и электронного мошенничества, сговор для мошенничества с устройствами доступа, несколько эпизодов банковского, электронного мошенничества и мошенничества с устройствами доступа, а также хищение персональных данных при отягчающих обстоятельствах.

С помощью перехваченных учётных данных участники группы получали доступ к счетам, проверяли остатки средств и похищали деньги через несанкционированные банковские переводы. По версии следствия, Филимонов якобы создал и поддерживал техническую инфраструктуру операций, включая интерактивные базы данных с более чем 5 000 украденных учётных записей и программное обеспечение для сбора и передачи конфиденциальных данных аутентификации.

В ходе расследования Министерство юстиции США конфисковало домен web3adspanels[.]org, служивший сервером для сбора и хранения скомпрометированных сведений. Существенную помощь в расследовании оказали прокуратура Грузии, Центральный департамент криминальной полиции страны и офис правоохранительного атташе ФБР в Тбилиси.

Филимонов не признал вину по предъявленным обвинениям. В случае вынесения обвинительного приговора по всем пунктам ему грозит до 175 лет лишения свободы.

✋ @Russian_OSINT
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🈁 Компания Anthropic раскрыла подробности реальных случаев злоупотребления моделями Claude со стороны злоумышленников

Компания Anthropic опубликовала 154-страничный доклад под названием «Detecting and countering misuse of AI: September 2026». В документе систематизированы результаты работы подразделения киберразведки компании по выявлению и нейтрализации злоупотреблений ИИ-моделями семейства Claude за период с декабря 2025 года по август 2026 года.

Главный вывод аналитиков вновь говорит о том, что ИИ радикально сократил разрыв в навыках и ресурсах, который раньше сильно разделял элитные государственные APT от рядовых хакеров. Сегодня мотивированный хактивист с украденными API-ключами способен организовать кампанию такого размаха и глубины, для которой всего год назад требовался целый штат квалифицированных операторов.

Кроме того, отмечается, что ИИ-модели перешли от роли пассивного текстового ассистента к роли автономного оркестратора операций. Использование ИИ злоумышленниками больше не ограничивается одиночными промптами в чат-бот. Вместо этого они используют многоагентные автономные фреймворки, где ИИ сканирует цели, создаёт и модифицирует вредоносные инструменты, развивает атаку внутри скомпрометированной сети под руководством злоумышленника и выгружает данные.

Отдельно в Anthropic акцентируют внимание на том, что компания заблокировала 5 исследовательских программ, способных посодействовать созданию 🦠⚠️биологического оружия. Среди них выделяются эксперименты по усилению функции вируса чикунгунья в интересах военного института, адаптация высокопатогенного птичьего гриппа H5 к распространению среди млекопитающих по воздуху, а также генеративная разработка паралитических пептидных токсинов.

Главная проблема в биологической сфере заключается в том, что эти исследования носят строго двойной характер. Anthropic пришли к выводу, что защитить передовые биологические возможности моделей только фильтрами невозможно, поэтому доступ к ним должен предоставляться исключительно в рамках верифицированных партнерских программ.

🖥Есть еще один интересный кейс, на который стоит обратить внимание:

В Мали независимый консультант с помощью Claude создал для государственной службы безопасности ANSE платформу «Lakana 360». Система предназначена для перехвата звонков и сообщений 25 млн SIM-карт всех национальных операторов связи с автоматическим формированием досье на абонентов без судебных ордеров.

В компании отмечают, что обычные фильтры безопасности справляются с явно вредоносными запросами, но их эффективность снижается при дроблении задач на мелкие безобидные фрагменты. Для противодействия злоупотреблениям ИИ-разработчикам требуется комплексный поведенческий анализ сессий и проверка благонадёжности клиентов в чувствительных сферах.

✋ @Russian_OSINT
Please open Telegram to view this post
VIEW IN TELEGRAM
🇺🇸 АНБ перестраивают под 🇨🇳Китай, ИИ и реальные боевые операции

Агентство национальной безопасности США (АНБ) готовят к крупнейшей реорганизации как минимум за последнее десятилетие. По данным The Washington Post и The Record, директор АНБ и одновременно глава Киберкомандования США генерал Джошуа Радд формирует внутри агентства 5 новых центров. Они будут отвечать за Китай, ИИ, ИБ, боевую поддержку и глобальную разведку.

Самое показательное здесь даже не появление отдельного центра ИИ. Среди 5 новых центров 🇨🇳Китай оказался единственным государством, которому выделяют собственное направление. 🇷🇺Россия, 🇮🇷Иран и 🇰🇵КНДР в отдельные центры в рамках новой структуры не вынесены.

Второй важный момент касается наступательных киберопераций. Подразделение Tailored Access Operations (TAO), специализирующееся на получении доступа к наиболее защищённым иностранным информационным системам для разведывательных задач, планируют подчинить не центру ИБ, а направлению глобальной разведки. The Washington Post сообщает, что TAO также должно получить заметное увеличение бюджета. Полная схема подчинения пока не опубликована.

Отдельный центр ИИ тоже появляется не на пустом месте. Заместитель директора АНБ Тим Косиба ещё 27 августа заявил, что агентство стремится получить доступ практически ко всему спектру коммерческих ИИ-моделей. А 8 сентября руководитель Директората кибербезопасности АНБ Дэвид Имбордино рассказал об использовании ИИ для обработки огромных массивов разведывательных и ИБ-данных.

Параллельно Белый дом существенно расширяет роль АНБ в национальной ИИ-инфраструктуре. Июньский меморандум NSPM-11 поручает директору агентства участвовать в создании инфраструктуры для защищённого использования передовых ИИ-систем, разработке механизмов обмена моделями и данными, защите наиболее передовых американских ИИ-технологий и взаимодействии с частными компаниями.

Ещё на слушаниях перед утверждением на должность Радд называл своим первым приоритетом скорость, затем масштабирование, инновации и интеграцию. Теперь под эту логику фактически перестраивается само агентство. АНБ должно быстрее превращать технический доступ, радиоэлектронную разведку и анализ данных в результат, который можно передать военным командованиям и использовать в реальных операциях.

Руководители новых центров должны представить структуру подразделений уже к концу сентября. Развёртывание ожидается в октябре, а полная операционная готовность намечена примерно на январь 2027 года. По данным источников The Record, Радд и Косиба понимают, что столь быстрая перестройка неизбежно что-то «сломает», после чего структуру придётся корректировать уже по ходу работы.

Пока неизвестно, действительно ли 5 центров полностью заменят существующие директораты АНБ. The Record пишет именно о замене, однако The Washington Post сообщает, что окончательное соотношение старой и новой структуры ещё не определено. Новые центры могут либо заменить существующие директораты, либо быть надстроены поверх них.

Последний вариант особенно интересен. В 2015 году ЦРУ уже перешло на похожую систему, создав межфункциональные центры, объединяющие оперативных сотрудников, аналитиков, технических специалистов и вспомогательные подразделения. При этом профессиональные директораты ЦРУ сохранились.

Если АНБ пойдёт тем же путём, то речь будет прежде всего о новой системе управления ресурсами и задачами. Если старые директораты действительно ликвидируют, тогда это будет более радикальной перестройкой всей архитектуры агентства.

👆В сухом остатке АНБ при Радде перестраивают вокруг конкретных задач, а не только профессиональных функций. Китай становится разведывательным приоритетом, а ИИ превращается в отдельное стратегическое направление.

⚖️ Генпрокуратура признала нежелательной организацию Recorded Future*.

✋ @Russian_OSINT
Please open Telegram to view this post
VIEW IN TELEGRAM