Forwarded from AISec [x\x feed]🍓🍌🍆 (Artyom Semenov)
когда меня в очередной раз спросят где-то про пентест агентов - мой ответ будет содержать только эту ссылку https://github.com/Yeti-791/Awesome-Offensive-AI-Agentic-Landscape
GitHub
GitHub - Yeti-791/Awesome-Offensive-AI-Agentic-Landscape: This document curates open-source projects, academic papers, capability…
This document curates open-source projects, academic papers, capability benchmarks, and commercial solutions (international & China) in AI penetration testing, LLM red teaming, autonomous o...
Forwarded from GitHub Community
Flutter Agent Panel — это мощное настольное приложение, которое сочетает в себе надежный эмулятор терминала с управлением ИИ-агентами.
Оно позволяет организовать работу в рабочих пространствах, запускать несколько терминалов одновременно и легко интегрировать в рабочий процесс ИИ-агентов на основе интерфейса командной строки (например, Claude Code, GitHub Copilot CLI).
🐱 GitHub
Оно позволяет организовать работу в рабочих пространствах, запускать несколько терминалов одновременно и легко интегрировать в рабочий процесс ИИ-агентов на основе интерфейса командной строки (например, Claude Code, GitHub Copilot CLI).
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Not Boring Tech
This media is not supported in your browser
VIEW IN TELEGRAM
🎓 В открытый доступ бесплатно выкатили гигантский курс по ИИ-инженерии — в нём 503 (!) урока на 320 часов, которые объединили в 20 этапов.
• Обучает всей базе с нуля: от линейной алгебры и основ машинного обучения до LLM, RAG, ИИ-агентов и автономных систем.
• В уроках не только теория, но и куча практических задач и примеров готового кода, который можно запустить самому.
• Если что-то непонятно: можно вставить урок в NotebookLM и получить наглядные объяснения сложных концептов.
Кладезь знаний для ИИ-инженеров — тут.
@notboring_tech
• Обучает всей базе с нуля: от линейной алгебры и основ машинного обучения до LLM, RAG, ИИ-агентов и автономных систем.
• В уроках не только теория, но и куча практических задач и примеров готового кода, который можно запустить самому.
• Если что-то непонятно: можно вставить урок в NotebookLM и получить наглядные объяснения сложных концептов.
Кладезь знаний для ИИ-инженеров — тут.
@notboring_tech
Forwarded from Innostage
Innostage AIDR включен в Единый реестр российского программного обеспечения
Продукт Innostage AIDR «Защита ИИ» помогает контролировать, какие запросы поступают в языковые модели, какие ответы возвращаются пользователям и какие события возникают в ИИ-контуре.
✔️ До передачи запроса в LLM продукт проверяет промпты и блокирует prompt injection и jailbreak.
✔️ В ответах ИИ AIDR выявляет персональные данные, коммерческую тайну и другую критичную информацию, а также контролирует тематику, тональность и токсичность контента.
✔️ На уровне доступа и мониторинга продукт разрешает приложениям обращаться только к утвержденным моделям, передает события ИБ в SIEM, а события от средств защиты - в инструменты ИТ-мониторинга.
✔️ При работе с публичными облачными ИИ-чатами AIDR маскирует чувствительные данные и помогает контролировать Shadow AI.
Подробнее о продукте➡️ на сайте Innostage
Innostage в💬 MAX | 📱 ВКонтакте
Продукт Innostage AIDR «Защита ИИ» помогает контролировать, какие запросы поступают в языковые модели, какие ответы возвращаются пользователям и какие события возникают в ИИ-контуре.
Подробнее о продукте
Innostage в
Please open Telegram to view this post
VIEW IN TELEGRAM
ML&|Sec Feed pinned «Примеры кейсов/инцидентов с использованием GenAI как средства автоматизации различных этапов киллчейна BlackMamba PromptLock s1ngularity MalTerminal CamoLeak PromptSpy CurXecute JADEPUFFER openai+huggingface breach Подробнее про инциденты кодинг-агентов…»
Forwarded from AbstractDL
Опенсорсю Claudexor
Харнесс-агностик CLI, приложение, набор плагинов и MCP, объединяющий в себе Claude Code, Codex и Cursor. Можно добавлять сколько хотите харнессов и подписок.
Каждая модель и агент бесят меня по-своему: GPT - аутист-перфекционист, Opus - пофигист, пропускающий кучу багов, Gemini/GLM - креативные булочки, но сильно отстают от фронтира.
Ещё я устал бегать между агентами когда лимиты заканчиваются, поэтому связал все подписки в одно место чтобы эта штука по-умному их расходовала. И главное, она позволяет одновременно использовать все харнессы сразу. Добавил несколько любимых плюшек, чтобы работали из коробки: ревью-лупы, Best-of-N и т.п. Например, планирование можно провести через Claude Code, а имплементацию в режиме goal запустить на Codex.
Киллер-фича: можно добавить несколько подписок Claude Code, и они будут автоматически переключаться с сохранением контекста. Codex и Cursor тоже. Теперь вместо $15k в месяц на токены уходит $1200. У меня сейчас по три подписки Claude Code, Codex и Cursor тут.
Удобнее всего подключить Claudexor как плагин к вашему любимому агенту и использовать его в текстовом режиме в форматах:
или
Лично я чаще всего использую его в Claude Code. Чтобы установить, просто киньте ссылку на GitHub любому вашему агенту, и они сами разберутся. MIT-лицензия.
PS. Буду активно дорабатывать, так что не стесняйтесь кидать issues, фидбек и PR-ы.
GitHub, dmg, npm
Харнесс-агностик CLI, приложение, набор плагинов и MCP, объединяющий в себе Claude Code, Codex и Cursor. Можно добавлять сколько хотите харнессов и подписок.
Каждая модель и агент бесят меня по-своему: GPT - аутист-перфекционист, Opus - пофигист, пропускающий кучу багов, Gemini/GLM - креативные булочки, но сильно отстают от фронтира.
Ещё я устал бегать между агентами когда лимиты заканчиваются, поэтому связал все подписки в одно место чтобы эта штука по-умному их расходовала. И главное, она позволяет одновременно использовать все харнессы сразу. Добавил несколько любимых плюшек, чтобы работали из коробки: ревью-лупы, Best-of-N и т.п. Например, планирование можно провести через Claude Code, а имплементацию в режиме goal запустить на Codex.
Киллер-фича: можно добавить несколько подписок Claude Code, и они будут автоматически переключаться с сохранением контекста. Codex и Cursor тоже. Теперь вместо $15k в месяц на токены уходит $1200. У меня сейчас по три подписки Claude Code, Codex и Cursor тут.
Удобнее всего подключить Claudexor как плагин к вашему любимому агенту и использовать его в текстовом режиме в форматах:
«Перед выполнением плана прожарь его через Claudexor в мультихарнесс-режиме»
или
«После завершения работы проведи мультимодельное ревью через Claudexor и исправляй замечания».
Лично я чаще всего использую его в Claude Code. Чтобы установить, просто киньте ссылку на GitHub любому вашему агенту, и они сами разберутся. MIT-лицензия.
PS. Буду активно дорабатывать, так что не стесняйтесь кидать issues, фидбек и PR-ы.
GitHub, dmg, npm
Forwarded from Анализ данных (Data analysis)
Fugu-Cyber: ИИ-оркестратор для задач киберзащиты
Sakana AI представила обновление своей системы Fugu - специализированную модель Fugu-Cyber для анализа реальных задач информационной безопасности.
По данным компании, модель показала:
- 86,9% успешных решений на CyberGym
- 72,1% на CTI-REALM
- результаты на уровне GPT-5.5-Cyber и Mythos Preview
CyberGym проверяет способность находить и подтверждать уязвимости в сложных кодовых базах, а CTI-REALM — превращать отчёты об угрозах в рабочие правила обнаружения.
Fugu-Cyber работает как одна модель, но внутри динамически координирует несколько специализированных ИИ-агентов. Пользователь отправляет запрос в единый API, а система сама распределяет многоэтапную задачу между агентами.
При этом Sakana AI подчёркивает: высокая оценка на бенчмарке ещё не делает модель готовой системой защиты. Для работы в реальной инфраструктуре нужны эксперты, интеграция с внутренним кодом и обязательная проверка результатов человеком.
https://sakana.ai/fugu-cyber-release
#ai #cybersecurity #llm #agents #sakanaai
Sakana AI представила обновление своей системы Fugu - специализированную модель Fugu-Cyber для анализа реальных задач информационной безопасности.
По данным компании, модель показала:
- 86,9% успешных решений на CyberGym
- 72,1% на CTI-REALM
- результаты на уровне GPT-5.5-Cyber и Mythos Preview
CyberGym проверяет способность находить и подтверждать уязвимости в сложных кодовых базах, а CTI-REALM — превращать отчёты об угрозах в рабочие правила обнаружения.
Fugu-Cyber работает как одна модель, но внутри динамически координирует несколько специализированных ИИ-агентов. Пользователь отправляет запрос в единый API, а система сама распределяет многоэтапную задачу между агентами.
При этом Sakana AI подчёркивает: высокая оценка на бенчмарке ещё не делает модель готовой системой защиты. Для работы в реальной инфраструктуре нужны эксперты, интеграция с внутренним кодом и обязательная проверка результатов человеком.
https://sakana.ai/fugu-cyber-release
#ai #cybersecurity #llm #agents #sakanaai
Forwarded from CyberSecurityTechnologies
Agentic_CICD_Pipeline_Attack_Surface.pdf
96.2 KB
#AIOps
#DevOps
#MLSecOps
"They’ll Verify. They Just Won’t Act. How Authority Framing and Laundered Code Turn a Trusted Agentic CI/CD Pipeline Into an Attack Surface", Jul 2026.
]-> Dataset and reproduction code
// Prompt secrecy and distributed verification are not security controls: a trusted agentic pipeline shipped attacker-specified secret exfiltration because an authority claim made verifiers rubber-stamp code whose malice they could see, while content controls were blind to it..
#DevOps
#MLSecOps
"They’ll Verify. They Just Won’t Act. How Authority Framing and Laundered Code Turn a Trusted Agentic CI/CD Pipeline Into an Attack Surface", Jul 2026.
]-> Dataset and reproduction code
// Prompt secrecy and distributed verification are not security controls: a trusted agentic pipeline shipped attacker-specified secret exfiltration because an authority claim made verifiers rubber-stamp code whose malice they could see, while content controls were blind to it..
Forwarded from Машинное обучение RU
Open source не создаёт кризис кибербезопасности. Он помогает её решать.
Cisco Foundation AI открывает модели, датасеты и инструменты для анализа уязвимостей, threat intelligence и автоматизации работы специалистов по безопасности. Среди релизов — Foundation-Sec и компактные агентные модели Antares для поиска уязвимого кода.
Открытый код позволяет исследователям проверять модели, находить слабые места и совместно улучшать защиту. Закрытость сама по себе безопасность не гарантирует.
huggingface.co/fdtn-ai
Cisco Foundation AI открывает модели, датасеты и инструменты для анализа уязвимостей, threat intelligence и автоматизации работы специалистов по безопасности. Среди релизов — Foundation-Sec и компактные агентные модели Antares для поиска уязвимого кода.
Открытый код позволяет исследователям проверять модели, находить слабые места и совместно улучшать защиту. Закрытость сама по себе безопасность не гарантирует.
huggingface.co/fdtn-ai
Forwarded from Artificial Intelligence AI News
This media is not supported in your browser
VIEW IN TELEGRAM
Andrew Ng Just Released OpenWorker: An Open-Source, Local-First Desktop AI Coworker That Returns Finished Deliverables Instead of Chat
Here are some key takeaways:
1. The approval layer is typed, not cosmetic
Most desktop agents bolt approvals onto the UI. OpenWorker classifies every tool call into one of four risk classes before it runs:
→ read — no side effects, always allowed
→ write_local — mutates the workspace, path-scoped
→ exec — runs commands
→ external — side effects off the machine
Five permission modes then decide what happens: discuss, plan, interactive (default), auto, custom.
2. Unattended ≠ more autonomous
Unattended mode doesn't raise the autonomy ceiling. It only reroutes approval prompts to an Inbox and suspends the run until a human answers. Autonomy and attention are separate axes — most agent frameworks conflate them.
3. No inference service, by design
You bring a key or run local:
→ 30 curated models, 13 providers
→ Native OpenAI / Anthropic / Google, open-weight via Together and Fireworks
→ Fully local via Ollama, no key
→ Matrix limited to tool-calling models — anything else stalls the agent loop
The stack
→ Tauri 2 + React shell over a local Python FastAPI server (127.0.0.1:8765)
→ 35 connectors live, plus any MCP server
→ Built on aisuite, ~32.4k lines of Python, 78 test modules
Full analysis: https://www.marktechpost.com/2026/07/23/andrew-ng-just-released-openworker-an-open-source-local-first-desktop-ai-coworker-that-returns-finished-deliverables-instead-of-chat/
Repo: https://github.com/andrewyng/openworker
Project: https://openworker.com/
Here are some key takeaways:
1. The approval layer is typed, not cosmetic
Most desktop agents bolt approvals onto the UI. OpenWorker classifies every tool call into one of four risk classes before it runs:
→ read — no side effects, always allowed
→ write_local — mutates the workspace, path-scoped
→ exec — runs commands
→ external — side effects off the machine
Five permission modes then decide what happens: discuss, plan, interactive (default), auto, custom.
2. Unattended ≠ more autonomous
Unattended mode doesn't raise the autonomy ceiling. It only reroutes approval prompts to an Inbox and suspends the run until a human answers. Autonomy and attention are separate axes — most agent frameworks conflate them.
3. No inference service, by design
You bring a key or run local:
→ 30 curated models, 13 providers
→ Native OpenAI / Anthropic / Google, open-weight via Together and Fireworks
→ Fully local via Ollama, no key
→ Matrix limited to tool-calling models — anything else stalls the agent loop
The stack
→ Tauri 2 + React shell over a local Python FastAPI server (127.0.0.1:8765)
→ 35 connectors live, plus any MCP server
→ Built on aisuite, ~32.4k lines of Python, 78 test modules
Full analysis: https://www.marktechpost.com/2026/07/23/andrew-ng-just-released-openworker-an-open-source-local-first-desktop-ai-coworker-that-returns-finished-deliverables-instead-of-chat/
Repo: https://github.com/andrewyng/openworker
Project: https://openworker.com/
🔥1