ML&|Sec Feed
1.27K subscribers
1.24K photos
79 videos
288 files
1.92K links
Feed for @borismlsec channel

author: @ivolake
Download Telegram
⚡️ Harness Engineering - полный курс на русском

Как заставить AI-агента писать код надёжно. Не «какую модель выбрать», а как спроектировать вокруг неё рабочую систему: инструкции, инструменты, среду, состояние и верификацию.

Курс - от нуля до продвинутых тем: теоретическая база из 11 блоков, 14 модулей, 8 практических проектов, 14 лабораторных работ, диагностический протокол «как починить агента», библиотека готовых шаблонов, карта инструментов, 40 приёмов и каталог антипаттернов.

Главный тезис курса: способность модели и надёжность исполнения - это две разные вещи. Одна и та же модель в «голой» среде и в среде с продуманным harness даёт качественно разные результаты. Апгрейд модели - это самый дорогой и обычно не самый эффективный способ починить агента.

https://github.com/justxor/Harness_ru
ML&|Sec Feed pinned «Подходы к описанию техник промпт-атак 1. https://hiddenlayer.com/innovation-hub/introducing-a-taxonomy-of-adversarial-prompt-engineering/ 2. https://pangea.cloud/securebydesign/aiapp-pi-taxonomy/ 3. https://www.crowdstrike.com/en-us/resources/infographics/taxonomy…»
Forwarded from GitHub Community
Awesome-free-models — тщательно отобранный список бесплатных моделей, API и инструментов ИИ, которые можно использовать без оплаты ни копейки.

🐱 GitHub
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Machinelearning
Media is too big
VIEW IN TELEGRAM
✔️ OpenAI заменила Chronicle на Computer History в десктопной версии ChatGPT

В десктопном ChatGPT вместо Chronicle заработала Computer History. Прежний механизм собирал контекст скриншотами экрана, новый пишет журнал действий - клики, ввод текста, шорткаты, переключение окон. События складываются в единую хронологию и лежат локально.

Сбор по умолчанию выключен. В настройках приватности можно вывести из-под наблюдения отдельные приложения и сайты.

Разобрав журнал, ChatGPT замечает повторяющиеся действия и предлагает собрать под них сценарий для рутинной задачи. На тот же журнал опираются ответы ChatGPT и Codex - их можно спросить, например, как правился конкретный файл.

Computer History работает на macOS у подписчиков Pro, Business и Enterprise.
chatgpt.com

✔️ Claude Code научился возобновлять генерацию после сброса лимитов

Если генерация обрывается на лимите сообщений, теперь можно включить ожидание вместо перезапуска. Когда квота обновится, Claude Code подхватит контекст и продолжит с места остановки.

Раньше прерванную задачу приходилось поднимать руками - жать Try again или отправлять команду заново.
ClaudeDevs в X

✔️ X открыла код алгоритма рекомендаций

Соцсеть выложила на GitHub расширенную версию кода, который собирает ленту For You.

Кодовая база выросла - добавились конфигурации моделей, внутренние фильтры и веса сигналов в основном движке ранжирования. Закрытыми остались только антиспам-модули на Grok - чтобы владельцы ботнетов не разобрали их и не научились обходить.

В настройках Х появился инструмент Under the Hood, который выгружает JSON со статистикой аккаунта. В файле видно, какие системные метки система навесила на профиль и отдельные посты за последний месяц, - по ним можно понять, не попал ли аккаунт под ограничения.

JSON вместе со ссылкой на репозиторий можно скормить сторонней модели и разобраться, почему просели охваты.

Пока выгрузка работает в пилоте - аккаунт должен быть старше года и выпускать хотя бы десять постов в месяц.
X Open Source

✔️ В Калифорнии школьники будут советовать властям, что делать с ИИ

Губернатор штата объявил о создании консультативного совета из 20 старшеклассников, который будет участвовать в разработке правил в сфере ИИ.

Первая группа уже обсуждает с чиновниками, как внедрять генеративные модели в школы, как защищаться от дипфейков и где проходят этические границы ИИ.

Осенью откроется набор новых участников. На весну 2027 года намечена отдельная программа, где подростков научат запускать собственные проекты в цифровой среде.

Калифорния стала вторым штатом с молодежным советом по ИИ - такой же с 2025 года работает в Нью-Йорке.
gov.ca.gov

✔️ Bank of China начал кредитовать разработчиков под расход токенов

Один из четырех крупнейших госбанков Китая запустил программу Computing Power Token Loan. ИИ-разработчикам дают до 30 млн юаней (около 4 млн долларов) на срок до трех лет.

Залог не нужен - вместо него банк смотрит на расход токенов, стоимость контрактов на вычисления и выручку от ИИ-продуктов.

Аналитики настроены скептически по двум причинам. Во-первых, расход токенов показывает, насколько активно компания работает, но ничего не говорит о том, зарабатывает ли она. Во-вторых, метрику легко накрутить лишними вызовами API, чтобы поднять себе лимит.

Чтобы это отслеживать, нужен независимый аудит логов потребления, а таких площадок пока нет.
cls.cn


@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Градиент обреченный (Sergei Averkiev)
Тыкаю GLM. От поиска уязвимостей, по крайней мере, не отказывается.
👍1🔥1
Forwarded from СВЕЖЕСТИ
🤩 Израиль тратит миллионы долларов, чтобы влиять на работу чат-ботов с искусственным интеллектом

Брэд Парскейл, бывший старший советник предвыборной кампании Дональда Трампа, возглавил израильскую правительственную кампанию стоимостью 46,5 миллиона долларов, целью которой является влияние на чат-боты с искусственным интеллектом путем публикации сотен статей, поддерживающих Израиль, на сети веб-сайтов.

Эти сайты в основном предназначены для систем искусственного интеллекта, а не для читателей-людей. Контракт Парскейла прямо направлен на формирование "разговоров GPT", и его команда утверждает, что уже видит определенные успехи.

Инструменты искусственного интеллекта, такие как Perplexity, Microsoft Copilot, Gemini, а иногда ChatGPT или Claude, ссылались на эти веб-сайты в своих ответах о Газе и отношениях между США и Израилем. Некоторые чат-боты идентифицировали эти сайты как финансируемые израильским правительством, в то время как другие – нет.
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡️ pi-mail превращает несколько AI-агентов в маленькую распределённую команду с собственной почтой, Kanban и менеджерами.

Проект сделан как расширение для pi: несколько агентных процессов подключаются к общему mailbox-daemon и могут отправлять друг другу сообщения, раздавать задачи и продолжать работу независимо от перезапуска отдельных агентов. Центральный облачный сервис при этом не нужен.

Самое интересное начинается поверх обычной «почты». В pi-mail есть Web UI, где видно всех живых агентов, их модель, uptime, статус и заполненность контекста. Там же есть Outlook-подобный mailbox и общая Kanban-доска с двусторонней синхронизацией Jira. Назначили карточку агенту, он автоматически получает весь контекст задачи письмом.

Можно прямо из интерфейса поднимать новых агентов в нужной директории, открывать их терминалы через браузер и гасить процессы после выполнения работы. Для внешних клиентов доска доступна ещё и через MCP.

Есть даже полноценная иерархия:

CEO → Middle Manager → Workers

CEO периодически смотрит на проекты и решает, где нужен менеджер. Middle Manager разбирает зависшие задачи и запускает исполнителей. Worker делает работу и после завершения сам удаляет свою сессию. Для зависших процессов есть reaper с лимитами времени жизни.

Получается довольно интересный взгляд на multi-agent coding: не огромный оркестратор с одной сложной state machine, а знакомая человеческая модель работы.

Почта + задачи + менеджеры + временные исполнители.

🔗 github.com/tanevanwifferen/pi-mail

#AI #Agents #MultiAgent #MCP #OpenSource
Forwarded from Order of Six Angles
image_2026-08-16_14-45-23.png
302.5 KB
Друзья, в будущем хочу написать инструмент (харнес) для поиска уязвимостей в драйверах. Я уже проводил по этой теме исследование. Если вы занимаетесь тем же или хотите заняться, то вам надо на чем-нибудь тестировать. В качестве цели хорошо подходит большой архив драйверов (блэкбокс) по ссылке https://sdi.com.ru/. Там куча драйверов, в том числе старых и уязвимых, хорошая еда для ваших агентов. Также обратите внимание на проект https://github.com/wagner-group/diversevul. Да, там исходники, но принцип будет схож с поиском уязвимости в декомпилированном псевдокоде. Как найдется время, поделюсь с вами более ценной информацией

Также вы можете найти уязвимые драйвера тут https://www.loldrivers.io/ (спасибо за подсказку)
👍1
Forwarded from GitHub Community
Awesome-osint-arsenal — 100+ инструментов, установщик с одной командой, SOCMINT, GEOINT, сетевая разведка, дарквеб, криминалистика и многое другое.

🐱 GitHub
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Сергей Зыбнев
GLM-5.3 Full System Prompt Leak,

the complete system prompts, tools, and skills for ZAI’s ZCode (GLM-5.3).

Nearly 400k characters of detailed instructions pure agent scaffolding 15 skills, 24 tool contracts, safety rules, and the full the exact instructions that shape how the agent behaves.


https://github.com/elder-plinius/CL4R1T4S/tree/main/ZAI/ZCode
Forwarded from GitHub Community
Мощный учебник по созданию ИИ‑агентов — в нём собрана вся база, необходимая для разработки собственных нейропомощников.

Внутри подробно разобраны:
— Планирование и принятие решений.
— Механизмы памяти.
— Подключение инструментов и внешних API.
— Многозадачность и выполнение сложных цепочек действий.
— Отличия ИИ‑агентов от обычных LLM‑моделей.

Подойдёт новичкам и тем, кто хочет перейти от теории к созданию своих агентов.

Материал здесь

🐱 GitHub
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Tips AI | IT & AI
Раньше по дефолту в Codex у GPT-5.6 Sol окно контекста было ограничено конфигом на 272к токенов

Но теперь его можно расширить до 1 млн токенов. Вставьте это в конфиг:
model = "gpt-5.6-sol"
model_context_window = 1000000
model_auto_compact_token_limit = 900000


Или если нужно только на одну сессию:
codex -m gpt-5.6-sol \
-c model_context_window=1000000 \
-c model_auto_compact_token_limit=900000


Эти строчки расширяют контекст у 5.6 Sol до 1 млн токенов, и ставят авто-компакт на 900к, чтобы был запас под системный контекст

И в CLI и в десктопной версии

Подглядел у Tibo (руководитель OpenAI), только имейте ввиду что токены за пределами дефолтного окна считаются как x2, и тратят больше лимита ☕️

@tips_ai
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from GitHub Community
PentestCode — многоагентная система тестирования на проникновение с использованием искусственного интеллекта, обеспечивающая постоянное взаимодействие, стратегическую координацию и параллельные автономные операции.

🐱 GitHub
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from GitHub Community
1C-Enterprise-Agent-Toolkit — универсальный инструментарий для ИИ-агентов, работающих с любыми прикладными конфигурациями 1С:Предприятие, BSL и расширениями. 

Он не привязан к УНФ или другой типовой конфигурации: выгружает только указанные пользователем метаданные, изолирует работу над расширениями от основной базы, проверяет результат пакетного Конфигуратора и удаляет созданные им временные данные.

🐱 GitHub
Please open Telegram to view this post
VIEW IN TELEGRAM
😁2🤔1💩1🤡1🤝1
Forwarded from GitHub Community
OpenSpec — разработка на основе спецификаций (Spec-driven development, SDD) для помощников по написанию кода на основе искусственного интеллекта.

🐱 GitHub
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Security samurAI
Как вкатиться в AI Security?

За последнее время меня несколько разных человек спросили, с чего начать изучение AI Security. Поэтому постарался собрать список материалов — от базовой теории до более глубокого погружения.

▸ Основная теория: LLM и Агенты

Andrej Karpathy: Deep Dive into LLMs like ChatGPT — хорошее видео для введения

Anthropic: Building Effective Agents — agents, workflows и tools.

Model Context Protocol — что такое MCP

Google Cloud: What is RAG? — как работает RAG

Agent Skills Overview — устройство agent skills


▸ Погружаемся в AI Security

Теория

OWASP Top 10 для LLM и Agentic Applications — ежегодный топ уязвимостей для LLM-приложений и AI-агентов от OWASP (версия 2026 года)

Microsoft AI Red Teaming 101 — курс из 10 видео от Microsoft про AI Red Teaming

MIT: AI Agent Security — запись лекции из MIT из курса Computer Systems Security, Spring 2026

Практика

PortSwigger: Web LLM Attacks — лабораторные по уязвимостям LLM приложений от разработчиков Burp Suite

Agent Breaker — набор заданий от создателей Гендальфа (того самого, у которого нужно было украсть секрет)

Курсы и сертификации

HTB Academy: AI Red Teamer + HTB COAE — практический курс и сертификация от платформы HackTheBox, разработанный вместе с Google (недорого)

OffSec AI-300 — курс и экзамен от OffSec (дорого, но известно)

Фреймворки и методологии

Google SAIF — фреймворк от Google, который связывает компоненты AI-системы с рисками и мерами защиты. Есть отдельный раздел про AI-агентов

NIST AI RMF — фреймворк NIST для работы с AI-рисками

MITRE ATLAS — MITRE ATT&CK только для AI

OWASP AI Testing Guide — гайд по тестированию всей AI-системы: от моделей и данных до приложений и инфраструктуры


▸ Как следить за новостями по AI Security

Telegram

https://t.iss.one/addlist/7N0onqrNfTBkMGYy — папка с каналами по AI Security (самые интересные новости обычно освещаются в каналах из подборки)

Блоги AI-вендоров

Anthropic

OpenAI

Google Security Blog

Microsoft AI Red Team

Технические блоги отдельных исследователей и компаний

Embrace The Red

Simon Willison

Invariant Labs

Trail of Bits

HiddenLayer Research


Если знаете хороший ресурс, которого здесь не хватает, то смело присылайте в комментарии или личные сообщения.

Также актуальные темы из области AI Security можно будет услышать завтра на OFFZONE на треке AI.ZONE. Приходите — пообщаемся.
Forwarded from DevSecOps Talks
Top10_Agentic.pdf
5.9 MB
OWASP Agentic Skills: Top 10

Всем привет!

В приложении можно найти материал от OWASP (~ 66 страниц), посвящённый вопросам обеспечения ИБ при работе с агентами.

«По классике» представлены 10 наиболее значимых угроз:
🍭 Malicious Skills
🍭 Supply Chain Compromise
🍭 Over-Privileged Skills
🍭 Insecure Metadata
🍭 Untrusted External Instructions и не только

Для каждой из них приводится описание, подтверждение актуальности из «реального мира», набор сценариев и рекомендации по снижению уровня риска.

Приятного изучения!
⚡️ 6 полезных репозиториев для работы с AI-агентами

1. Agency Agents
https://github.com/msitarzewski/agency-agents

Набор из 232 специализированных агентов для 16 направлений: разработка, дизайн, маркетинг, управление и другие задачи.

2. Codebase Memory MCP
https://github.com/DeusData/codebase-memory-mcp

Строит граф знаний по кодовой базе, чтобы агент быстрее находил связи между файлами, функциями и сущностями. Заявлена поддержка 158 языков.

3. OpenMontage
https://github.com/calesthio/OpenMontage

Инструмент для создания видео с помощью кодингового агента: сценарий, ассеты, монтаж и рендеринг можно собирать через промпты.

4. Agent-Reach
https://github.com/Panniantong/Agent-Reach

Дает агенту доступ к X, Reddit, YouTube, GitHub и другим источникам для поиска и сбора информации.

5. Orca
https://github.com/stablyai/orca

Позволяет запускать несколько кодинговых агентов параллельно и управлять их задачами из одного места.

6. OmniRoute
https://github.com/diegosouzapw/OmniRoute

Единый шлюз для работы с большим количеством AI-провайдеров через один endpoint.

@data_analysis_ml / Папка полезного по ML.

Сохраняй 🔖
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM