ML&|Sec Feed
1.3K subscribers
1.25K photos
79 videos
291 files
1.94K links
Feed for @borismlsec channel

author: @ivolake
Download Telegram
Forwarded from GitHub Community
Flutter Agent Panel — это мощное настольное приложение, которое сочетает в себе надежный эмулятор терминала с управлением ИИ-агентами.

Оно позволяет организовать работу в рабочих пространствах, запускать несколько терминалов одновременно и легко интегрировать в рабочий процесс ИИ-агентов на основе интерфейса командной строки (например, Claude Code, GitHub Copilot CLI).

🐱 GitHub
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Not Boring Tech
This media is not supported in your browser
VIEW IN TELEGRAM
🎓 В открытый доступ бесплатно выкатили гигантский курс по ИИ-инженерии — в нём 503 (!) урока на 320 часов, которые объединили в 20 этапов.

• Обучает всей базе с нуля: от линейной алгебры и основ машинного обучения до LLM, RAG, ИИ-агентов и автономных систем.
• В уроках не только теория, но и куча практических задач и примеров готового кода, который можно запустить самому.
• Если что-то непонятно: можно вставить урок в NotebookLM и получить наглядные объяснения сложных концептов.

Кладезь знаний для ИИ-инженеров — тут.

@notboring_tech
Forwarded from Innostage
Innostage AIDR включен в Единый реестр российского программного обеспечения

Продукт Innostage AIDR «Защита ИИ» помогает контролировать, какие запросы поступают в языковые модели, какие ответы возвращаются пользователям и какие события возникают в ИИ-контуре.

✔️ До передачи запроса в LLM продукт проверяет промпты и блокирует prompt injection и jailbreak.

✔️ В ответах ИИ AIDR выявляет персональные данные, коммерческую тайну и другую критичную информацию, а также контролирует тематику, тональность и токсичность контента.

✔️ На уровне доступа и мониторинга продукт разрешает приложениям обращаться только к утвержденным моделям, передает события ИБ в SIEM, а события от средств защиты - в инструменты ИТ-мониторинга.

✔️ При работе с публичными облачными ИИ-чатами AIDR маскирует чувствительные данные и помогает контролировать Shadow AI.

Подробнее о продукте ➡️ на сайте Innostage

Innostage в 💬 MAX | 📱 ВКонтакте
Please open Telegram to view this post
VIEW IN TELEGRAM
ML&|Sec Feed pinned «Примеры кейсов/инцидентов с использованием GenAI как средства автоматизации различных этапов киллчейна BlackMamba PromptLock s1ngularity MalTerminal CamoLeak PromptSpy CurXecute JADEPUFFER openai+huggingface breach Подробнее про инциденты кодинг-агентов…»
Forwarded from AbstractDL
Опенсорсю Claudexor

Харнесс-агностик CLI, приложение, набор плагинов и MCP, объединяющий в себе Claude Code, Codex и Cursor. Можно добавлять сколько хотите харнессов и подписок.

Каждая модель и агент бесят меня по-своему: GPT - аутист-перфекционист, Opus - пофигист, пропускающий кучу багов, Gemini/GLM - креативные булочки, но сильно отстают от фронтира.

Ещё я устал бегать между агентами когда лимиты заканчиваются, поэтому связал все подписки в одно место чтобы эта штука по-умному их расходовала. И главное, она позволяет одновременно использовать все харнессы сразу. Добавил несколько любимых плюшек, чтобы работали из коробки: ревью-лупы, Best-of-N и т.п. Например, планирование можно провести через Claude Code, а имплементацию в режиме goal запустить на Codex.

Киллер-фича: можно добавить несколько подписок Claude Code, и они будут автоматически переключаться с сохранением контекста. Codex и Cursor тоже. Теперь вместо $15k в месяц на токены уходит $1200. У меня сейчас по три подписки Claude Code, Codex и Cursor тут.

Удобнее всего подключить Claudexor как плагин к вашему любимому агенту и использовать его в текстовом режиме в форматах:
«Перед выполнением плана прожарь его через Claudexor в мультихарнесс-режиме»

или
«После завершения работы проведи мультимодельное ревью через Claudexor и исправляй замечания».


Лично я чаще всего использую его в Claude Code. Чтобы установить, просто киньте ссылку на GitHub любому вашему агенту, и они сами разберутся. MIT-лицензия.

PS. Буду активно дорабатывать, так что не стесняйтесь кидать issues, фидбек и PR-ы.

GitHub, dmg, npm
Fugu-Cyber: ИИ-оркестратор для задач киберзащиты

Sakana AI представила обновление своей системы Fugu - специализированную модель Fugu-Cyber для анализа реальных задач информационной безопасности.

По данным компании, модель показала:

- 86,9% успешных решений на CyberGym
- 72,1% на CTI-REALM
- результаты на уровне GPT-5.5-Cyber и Mythos Preview

CyberGym проверяет способность находить и подтверждать уязвимости в сложных кодовых базах, а CTI-REALM — превращать отчёты об угрозах в рабочие правила обнаружения.

Fugu-Cyber работает как одна модель, но внутри динамически координирует несколько специализированных ИИ-агентов. Пользователь отправляет запрос в единый API, а система сама распределяет многоэтапную задачу между агентами.

При этом Sakana AI подчёркивает: высокая оценка на бенчмарке ещё не делает модель готовой системой защиты. Для работы в реальной инфраструктуре нужны эксперты, интеграция с внутренним кодом и обязательная проверка результатов человеком.

https://sakana.ai/fugu-cyber-release

#ai #cybersecurity #llm #agents #sakanaai
Forwarded from CyberSecurityTechnologies
Agentic_CICD_Pipeline_Attack_Surface.pdf
96.2 KB
#AIOps
#DevOps
#MLSecOps
"They’ll Verify. They Just Won’t Act. How Authority Framing and Laundered Code Turn a Trusted Agentic CI/CD Pipeline Into an Attack Surface", Jul 2026.
]-> Dataset and reproduction code

// Prompt secrecy and distributed verification are not security controls: a trusted agentic pipeline shipped attacker-specified secret exfiltration because an authority claim made verifiers rubber-stamp code whose malice they could see, while content controls were blind to it..
Open source не создаёт кризис кибербезопасности. Он помогает её решать.

Cisco Foundation AI открывает модели, датасеты и инструменты для анализа уязвимостей, threat intelligence и автоматизации работы специалистов по безопасности. Среди релизов — Foundation-Sec и компактные агентные модели Antares для поиска уязвимого кода.

Открытый код позволяет исследователям проверять модели, находить слабые места и совместно улучшать защиту. Закрытость сама по себе безопасность не гарантирует.

huggingface.co/fdtn-ai
This media is not supported in your browser
VIEW IN TELEGRAM
Andrew Ng Just Released OpenWorker: An Open-Source, Local-First Desktop AI Coworker That Returns Finished Deliverables Instead of Chat

Here are some key takeaways:

1. The approval layer is typed, not cosmetic

Most desktop agents bolt approvals onto the UI. OpenWorker classifies every tool call into one of four risk classes before it runs:

→ read — no side effects, always allowed

→ write_local — mutates the workspace, path-scoped

→ exec — runs commands

→ external — side effects off the machine

Five permission modes then decide what happens: discuss, plan, interactive (default), auto, custom.


2. Unattended ≠ more autonomous

Unattended mode doesn't raise the autonomy ceiling. It only reroutes approval prompts to an Inbox and suspends the run until a human answers. Autonomy and attention are separate axes — most agent frameworks conflate them.

3. No inference service, by design

You bring a key or run local:

→ 30 curated models, 13 providers

→ Native OpenAI / Anthropic / Google, open-weight via Together and Fireworks

→ Fully local via Ollama, no key

→ Matrix limited to tool-calling models — anything else stalls the agent loop


The stack

→ Tauri 2 + React shell over a local Python FastAPI server (127.0.0.1:8765)

→ 35 connectors live, plus any MCP server

→ Built on aisuite, ~32.4k lines of Python, 78 test modules


Full analysis: https://www.marktechpost.com/2026/07/23/andrew-ng-just-released-openworker-an-open-source-local-first-desktop-ai-coworker-that-returns-finished-deliverables-instead-of-chat/

Repo: https://github.com/andrewyng/openworker

Project: https://openworker.com/
🔥1