Лёгкая LLM-модель, которая умеет хранить знания в человеко-читаемой памяти (Markdown-файлы) и использовать их для ответов. Агент не просто отвечает на запросы, а действительно «помнит» факты и обновляет их по ходу работы.
Это агент на 4B с локальной, совместимой памятью для Claude, ChatGPT и LM Studio.
Как работает память:
- Вся информация лежит в Markdown:
memory/user.md и отдельные файлы для сущностей. - Связи между файлами сделаны как в Obsidian:
[[entity]]. - Агент может извлекать факты, обновлять их или задавать уточняющие вопросы, если запрос неполный.
Вместо огромных контекстов и упора в лимиты, Mem-Agent извлекает нужные фрагменты из локальных документов, сжимает их и передаёт агенту.
Как обучали:
- Базовая модель: Qwen3-4B-Thinking-2507.
- Использовали метод онлайн-RL (GSPO).
- Тестировали на md-memory-bench.
Результаты:
- mem-agent уверенно решает задачи памяти, близко к уровню больших моделей.
- Даже в сжатых версиях (4-bit и 8-bit) сохраняет почти то же качество.
Чем хорош:
- Память можно читать и редактировать вручную.
- Агент работает быстро и эффективно, даже в маленьком размере.
- Удобен как компонент в более крупных системах (например, через MCP).
@ai_machinelearning_big_data
#LLM #AI #Agents #MemAgent #Dria #MCP #LocalAI
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍106🔥36❤29😈2❤🔥1💘1
Muse Glimmer - это 30B-модель с открытыми весами, заточенная под постоянную работу агентных систем на локальном железе.
Что важно:
- 30 млрд параметров;
- открытые веса уже доступны;
- лицензия Apache 2.0;
- модель рассчитана на локальный запуск;
- заявлена работа на системах с 24 ГБ VRAM;
- основной фокус - agent workflows и задачи, где модель должна работать постоянно, а не отвечать на отдельные запросы.
По заявлению разработчиков, Glimmer хорошо показывает себя на агентных бенчмарках среди моделей своего класса.
Отдельно готовится Muse Spark 1.2 - её веса обещают открыть позже.
GGUF: https://huggingface.co/unsloth/Muse-Glimmer-30B-GGUF
Guide: https://unsloth.ai/docs/models/muse-glimmer
#AI #LLM #OpenSource #AIAgents #LocalAI
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
1👍57❤18🔥12🌭2👏1