Запись вчерашнего стрима "Как создавать AI-агентов на on-prem-моделях?".

YouTube: https://www.youtube.com/live/wjA9aPg7pjQ

Telegram: в медиа этого поста

Участники:
1. @neuraldeep
2. @kdoronin_blog

Паша. На стриме его несколько раз вспоминали:
@evilfreelancer

Платформа, с помощью которой тестировали on-prem-модели:
https://hub.neuraldeep.ru/

Презентация – в комментариях.

UPDATE:

Kimi k2.6 теперь доступна всем PRO кто приобрел подписку через юкассу

https://hub.neuraldeep.ru/

Claude Mythos это самая мощная модель-хакер или самый дорогой маркетинговый миф в истории ИИ?

Anthropic анонсировала модель, которая находит zero-day во всех ОС и браузерах, ломает чруты и пишет эксплойты на раз-два. Рынок кибербезопасности дрогнул, правительства созывают совещания, эксперты бьют тревогу. Но что, если под капотом у модели не революция в машинном обучении, а просто грамотно собранный harness с тулами и снятые safety-ограничения?

В свежем посте разбираю, почему название "Mythos" (читается как Мифос) само по себе это почти спойлер, сравниваю рекламную компанию Mythos с рекламной компанией стирального порошка "Миф", разбираю оценки экспертов, и делаю предположение о том, что любой разработчик с Claude Code и парой MCP-серверов может собрать нечто похожее у себя дома.

Если вам интересно, где проходит грань между реальным прорывом и морозной свежестью, то приглашаю подписаться.

Читать на Бусти: Миф про Mythos?

Немного теории заговора

А я вот задумался, а что если большинство багов которые нашел Mythos были изначально сгенерированы клод кодом и как закладки добавлены в кодовую базу которую агенты нагенерировали, и именно в этом причина почем Mythos так много багов находит, быть может она знает что и где искать?

По работе приходится много взаимодействовать с Jira и Confluence, и вот сколько лет в ИТ работаю столько мне претит сама мысль о том, что придётся что-то в этих системах делать.

Но благодаря проекту mcp-atlassian - простому навайбленному MCP-серверу, я могу работать с обеими системами через любой кодовый агент, хоть Cursor, хоть Coddy или скажем Kimi. Пишу агенту найди посты он находит, пишу эксортируй в markdown рекурсивно посты он делает, правлю и переделываю доку, затем прошу залить обратно, агент заливает (только вот вёрстка если хитрая есть, едет).

Настраивается сервер очень просто, нужно только Personal Access Tokens сгенерить через настройки профиля (к сожалению всего на 90 дней максимум), прописать его в .env параметр *_PERSONAL_TOKEN, затем в *_URL указать адрес где на вашем сервере обитает /rest/api/ эндпоинт и запустить сервер.

Вот пример docker-compose.yaml для быстрого запуска:

services:

  mcp-atlassian:
    restart: unless-stopped
    image: ghcr.io/sooperset/mcp-atlassian:latest
    container_name: confluence-mcp
    environment:
      TRANSPORT: streamable-http
      HOST: 0.0.0.0
      PORT: 8000
      JIRA_URL: ${JIRA_URL}
      JIRA_PERSONAL_TOKEN: ${JIRA_PERSONAL_TOKEN}
      JIRA_SSL_VERIFY: "false"
      CONFLUENCE_URL: ${CONFLUENCE_URL}
      CONFLUENCE_PERSONAL_TOKEN: ${CONFLUENCE_PERSONAL_TOKEN}
      CONFLUENCE_SSL_VERIFY: "false"
    ports:
      - "8000:8000"
    volumes:
      - "./mcp-atlassian_data:/home/app/.mcp-atlassian"

Подключаться через например Cursor к нему можно наприме вот так:

{
  "mcpServers": {
    "atlassian-local": {
      "url": "https://localhost:8001/mcp"
    }
  }
}

Мне предпочтительнее HTTP формат подключения к серверу, но есть варианты запустить этот MCP локально, так как он поставляется в виде испоплняемого файла который можно через npx поставить и потом юзать.

В общем рекомендую, мне он среди всех MCP для работы с конфлуенс и джирой (включая то что я сам навайбил) нравится больше всех.

А я всё чаще замечаю, что...

На сайт ChatGPT я всё меньше захожу, да и вообще на любой сайт-чат с моделями.

Мне сложно описать, что изменилось в моих привычках, но как-то так оказалось, что что-то быстрое и простое удобнее в Google поиске через AI Mode спросить (потому что там не нужно включать туннели).

Если я готовлю пост для блога то удобнее открыть Obsidian, а в нём плагин obsidian-agent-client, и к нему по ACP уже подключены Coddy Agent и KimiCode.

Если что-то посложнее либо через Coddy Agent, либо через Cursor, либо через KimiCode, либо через OpenCode удобнее спросить.

Прочёл на канале Тимура @the_ai_architect только что вышедший пост про очередное обновление Codex, меня в нём зацепило то, что создатели Codex добавили в своего агента возможность работать с одной общей сессией с компьютера и мобильного устройства. Крайне полезная функция на мой скромный взгляд, так как у меня уже например возникла острая потребность начать кодовую сессию дома, продолжить в месенджере на мобилке и потом подключиться с ноута к сайтику.

Это очень забавно, потому что я сегодня реализовал ровно тоже самое в Coddy Agent, только у меня в отличии от Codex все сессии хранятся on-premise. Можно работать с несколькими сессиями одновременно, можно запустить агент в режиме ACP через скажем Obsidian, а потом ещё зайти через браузер и смотреть за тем что генерит агент и там и сям.

Не так давно я публиковал пост про репозиторий RPA Skills со скилами которыми пользуюсь каждый день.

С момента релиза придумал новый формат использования скила /rpa-init, теперь я пишу не просто этот скил в запросе, а уточняю на что агенту следует обратить внимание, скажем если я хочу править документацию пишу что-то типа:

/rpa-init с упором на документацию и спецификации

Ну или если скажем надо доработать API-эндпоинты прошу сделать инит с детализацией того как эти эндпоинты устроены и работают.

Это помогает чуть более тонко направить агента в нужное русло без последующих уточнений.

Классификация ИИ-решений

Периодически мои собеседники путают простых чатботов с агентами и harness, чтобы каждый раз не повторяться решил написать данный пост в котором постараюсь рассказать какие системы бывают, из чего состоят и какие проблемы решают.

1. Чат с LLM (чат-бот)

Веб- или мобильный интерфейс с нескольким (или одной) моделями. Пользователь пишет, модель отвечает. История сессии - краткосрочная память, системный промпт задаёт характер ассистента. При этом у чата может и не быть памяти, тогда это час с instruct моделью, которая "помнит" только свой промт и вопрос пользователя.

LM + инструкция + (обычно) контекст диалога. Тулов нет или они спрятаны внутри продукта и пользователь о них не знает.

Например: ChatGPT, Claude.ai, chat.qwen.ai, chat.deepseek.com, GigaChat в браузере, локальный Open WebUI, LibreChat, LM Studio и так далее, тысячи их.

2. LLM с тулами (роутер)

По сути тот же чат с LLM, но не обязательно в виде веб-приложения, оркестратор по запросу вызывает один или несколько инструментов - погода, калькулятор, поиск картинок, отправка письма - и подставляет ответ в контекст. Решение "какой тул дернуть" часто одношаговое, модель сама решает как тул нужно выбрать, без явного плана из нескольких пунктов и без переоценки плана по ходу дела.

LLM + инструкция + тулы. Память - по желанию (диалог).

Например: ранний Bing Chat с поиском, боты в Telegram с tool calling, "умные" колонки и голосовые ассистенты и так далее.

3. Deep Search / Deep Research

Системы, которая исследует открытый мир (веб, индекс, API новостей) в несколько шагов. Типичный сценарий - уточнить запрос, составить план подзапросов, в цикле искать и читать источники, собрать отчёт с проверкой полноты.

LLM + инструкция (роль исследователя) + тулы поиска/чтения страниц + рабочая память (черновики, найденные ссылки). Долгосрочная память пользователя чаще не обязательна.

Например: Perplexity Pro, Google AI Mode, ChatGPT с глубоким исследованием, OpenAI Deep Research, sgr-agent-core и аналоги, кастомные пайплайны по схеме "уточнение - план - цикл по задачам - финальная проверка - отчёт".

4. RAG

Ответы и действия опираются на базу знаний - векторная БД, Confluence, PDF, Obsidian, тикеты. Ретривер (часто отдельный тул в виде скрытого шага) вытаскивает релевантные чанки и подкладывает их в промт, затем LLM синтезирует релевантный ответ с опорой на них.

LLM + инструкция ("отвечай только по контексту") + память (индекс) + тул retrieval. Краткосрочная память - диалог.

Обычно этого достаточно для систем FAQ, онбординга, поиска по внутренней документации. Один-два прохода retrieve + generate, но даже самые сложные и продвинутые RAG в отличии от даже простых агентов частенько показывают меньшую точность на задачах широкого спектра ввиду своего детерминизма.

5. Агент

Недетерминированная система, которая сама себе ставит задачи, анализирует историю диалога, вызывает тулы и оценивает, проверяет получилось ли как было задумано. В инструкции зашиты планирование, ReAct, Ralph-loop или Get Shit Done Loop и критерии успеха.

LLM + инструкция с планом/рефлексией + память (краткая и долгая) + набор тулов (для работы с файлами и взаимодействия с внешним миром)

Например: Claude Code, Cursor Agent, Codex, и так далее.

6. Harness

Не "ещё более умная модель", а инфраструктура вокруг агента. Песочница, лимиты, ретраи, очередь задач, логи, верификация артефактов, долгосрочная память, MCP/skills, расписание, human-in-the-loop. Модель может быть любой - качество системы сильно зависит от harness.

Агент (как выше) + слой исполнения, безопасности и жизненного цикла.OpenAI в 2026 называла это Harness Engineering - миллион строк кода, сгенерированных Codex, при маленькой команде и жёсткой обвязке.

Например: OpenClaw, Coddy Agent, Hermes Agent, ZeroClaw и так далее.

Итого

Harness > Agent > RAG | Deep (Re?)Search > LLM

Границы размыты, часто системы включают в себя компоненты других системы, да развитие ИИ-решений идёт очень быстро, поэтому люди, особенно новички в агентах, путаются в терминологии, и я надеюсь благодаря этой заметке путаницы станет чуточку поменьше.