Кто такой JSON мы уже выяснили?)

Долгожданная регистрация по почте на хабе

https://hub.neuraldeep.ru/login

Agentic Web Search для Битрикс24

Как встроить свои идеи в продукт изнутри?

Ещё в начале года писал, что начал консультировать Битрикс24 (кто сидит в чатике точно видел) ну и вы видели у меня на гите пару сервисов к Битрикс

Дошли руки рассказать про один из проектов и про то как это выглядит внутри, и что же я там навоял =)

Три месяца назад всё началось с "Привет, не хочешь помочь с поиском?"
А на этой неделе мы запустили поиск в прод

За эти три месяца я хорошо узнал AI-команду Битрикс24 и там офигеть какие крутые ребята работают ❤️

Еще вышел BitrixGPT 5.5 Agent
Часть его веб агент (за него я по большей части и отвечал в этой связке) сделан по образу изолированного цикла от общего пайплайна агента, уже крутится в проде и доступен миллионам на порталах

Идея простая как пеплексити лайк системы только вот нужны реалии РФ, выпустили публичный API за три месяца внутри корпорации я сам, честно, не ожидал
Там отдельная история про AI SDLC/PDLC (можно подробнее скажите вы, точно раскрою в следующих сериях скажу я вам)

Что сложного спросите вы?

Взял cloude code + codex
Кинул промпт
Взяли ReAct + OAASDK
Дали прод сервер и погнали?

Это ровно то, с чего я стартовал, и работает оно отвратительно (а чаще просто неконтролируемо) так как вся система работает на внутренней модели
Голая связка выдаёт уверенный бред с цитатой из статьи десятилетней давности
Весь проект это обвязка вокруг этой наивной схемы

Три вещи, которые реально сдвинули качество
И не забываем что сервис должен выдержать 1000 RPS минимум и проектируем все с этим заделом

Grounding
Научили модель молчать, когда факта в выдаче нет, а не досочинять. Был показательный баг — агент выдумывал французские городки, которых не существует в природе. Температуру в пол, обязательная цитата [N] на каждый тезис, нечего процитировать — ответа нет
Плюс аккуратный подбор параметров запуска модели и работа с harness вокруг
Скучно, зато не врёт =)

Query expansion
"Че там по ставке?" для модели это мусор.
Агент сам разворачивает такой вопрос в 3–4 нормальных запроса к Яндексу: решение по ключевой ставке, последнее заседание ЦБ, прогнозы на 2026
Без этого шага точность падала почти вдвое это не ощущение, это замер до/после

Бенчи
Прогнали 3800+ тяжёлых вопросов: FreshQA, SimpleQA и свой внутренний хардкор по Рунету там, где англоязычные бенчи бесполезны
Вышло 93.7% (это на нашем внутреннем бенче по Рунету на нём мы и меряем реальную повестку)
На части сценариев это выше, чем показывает большинство решений

И еще несколько важных подсистем
Контроль цикла и выхода из него
Цитаты (и правильная постановка в стриминг)
Контроль кол-ва источников
Проверка источников

Вот так это работает и вроде все опять просто, агент дёргается по API прямо с портала Битрикс24 как отдельная сущность
Не надо поднимать свою инфру, индексы, воевать с галлюцинациями берёшь эндпоинт и получаешь штуку, которая шарит в текущей повестке и цитирует источники
И, что важно, адаптирована под текущую инфраструктуру

Уже живое, тыкайте на порталах раскатка идет, зашито в основной цикл агента только попросите поискать в интернете (или он это определит сам)
Затестите напишите, как вам точность на своих запросах
Фидбек приветствуется

Для pro тарифа доступен теперь и квен fp8 только веса кеш фп16, для быстрых и выделенных задач

120 t/s single request
70t/ 10 parallel

neuraldeep.ru

Тест стримчанских от яндекс

Решил немного повайбкодить под windows свой проект copyosity

Залетай на обеденный вайбкод стрим

За одно потестим стримы от телемоста

Update: стрим закончился

TermDeck  "Cmd+Shift+T", только для терминала

Меня дико бесило одно и я запилил очередной опенсорс =)


Я давно пересел на Claude Code CLI (это терминальный агент). Работаю в iTerm2 на macOS.

Как удалёнку привык к RustDesk.
И до сих пор ничего не менял в statusline, который советовал не так давно.

Но что бесило во всём этом: стоило закрыть/обновить/разрядить ноут и приходилось точечно, вручную восстанавливать каждую сессию через кодбаш, который и так перегружен функциями

При этом мне нравилось, что я могу:
- дать свой нейминг каждой вкладке (даже если внутри сплит),
- держать рабочее окно ровно таким, как собрал.

Я хотел три вещи:
1. Автосохранение рабочего окна.
2. Одну кнопку «ВОССТАНОВИТЬ».
3. Чтобы после ребута всё поднялось само с теми же папками, сплитами и именами
4. То что не предлагает ни один врапер, управление хтттп прокси и их сторинг

+ Я решил собрать все же десктоп апп который будет прям отображать как вкладки "были"
Хотел как делает Chrome (или любой браузер) по Cmd+Shift+T  возвращает закрытые вкладки предыдущей сессии
Только здесь для терминала с Claude Code

Что я таким способом решил? Для себя не боюсь потерять визуально свои терминалы и востановить все сессии, и самое важное что большинство комментаторов не заметит потому что не откроют репо это нативная работа с http прокси в обход ограничений АПИ антропика

РЕПО:  https://github.com/vakovalskii/termdeck
DMG: https://github.com/vakovalskii/termdeck/releases/download/v1.0.0/TermDeck-1.0.0-arm64.dmg

Активно трогаю траву на природе и при этом вайблю хаб


Стрим будет завтра примерно в 19 часов

На хабе новая фишка PII Guardrails API для детекции и анонимизации контента https://neuraldeep.ru/docs#guardrails

🚀🚀🚀 Kodacode release v1.0 + топовая модель Koda Pro на основе GLM 5.2

Прошёл больше года с первого публичного релиза KodaCode для VS Code — и сегодня мы выпускаем версию 1.0. Да и с лендинга убираем подпись «beta-тестирование».

В v1.0 мы сильно обновили агента, улучшили модели.
На нашем бенче из задач SWE-bench Verified качество старой Koda Pro выросло на +10 п.п.:

Koda Pro old: 59% → 69%
Koda Base: 35% → 45.1%

А новая Koda Pro на GLM 5.2 приблизилась к топовым моделям:

Koda Pro GLM 5.2 — 77.4%
Claude Sonet 5 — 78.8%
Claude Opus 4.8 — 83%

Еще в релизе кроме агента :
- маркетплейс скилов и MCP
- простое подключение российских провайдеров моделей: vsellm.ru, bothub.chat, proxyapi.ru, neuraldeep.ru.
- Telegram-интеграцию теперь можно использовать не только в VS Code, но и в JetBrains и CLI
- добавили просмотр diff прямо в чате в плагинах
- улучшили с зависаниями на больших сессиях
- кучу багов пофиксили

Больше деталей в статье на хабре https://habr.com/ru/article/1056758/

Скачать KodaCode тут https://download.kodacode.ru

Настроим рабочее место разработчика
Попробуем уложится в 1-2 часа

Ну что чутка раньше начнем
Раньше закончим!

https://telemost.360.yandex.ru/live/eec190763e54494891c33a2f092cd9e2

Всем спасибо за участие! Стрим завершился

Мы собрали более 350 зрителей на стартовом вводном стриме «Как настроить рабочее место разработчика по мнению Валеры Ковальского».

Пишите в комментариях, что бы вы хотели разобрать в следующих сериях.
Отберу лучшие запросы и разберем!

Что мы ставили и настраивали тут

Запись будет!

После вступления в группу для коментов не забывайте пройти капчу по ссылке https://t.iss.one/neuraldeepchat

Сколько на самом деле стоит 1M токенов на своём железе

Сделал калькулятор того, как стоимость своего GPU переходит в себестоимость токенов.
Оказалось, что достаточно нетривиальная задача, тк челленджит все знания об LLM: как работают слои, чем MoE отличается от dense, как устроен KV cache. В общем обновил по пути все свои знания GenAI. Понятно, что куча допущений внутри, а параметры собирал Fable, надо тестировать на реальных серверах, но это может быть отправной точкой.

Что по выводам?

• Строить или покупать — это вопрос утилизации, не технологии. Сможет ли сервис создать высоукую утилизацию сервера и есть ключевой вопрос.
• MoE — скидка на скорость, но не на память. Кол-во активных параметров 3 млрд из 35: карта пишет быстро, но веса лежат целиком. Отсюда контринтуитивный результат: большие MoE модели на дешёвых картах — экономически лучшая пара, пока хватает VRAM.
• ROI-ловушка. 390% годовых и выше работает при УЖЕ НАЙДЕННОМ спросе; поиск клиентов, SLA, биллинг в модели не учтены. Поэтому супер важно обеспечить потребление, а не накупить дорогих игрушек.

Скачивайте, подставляйте свои данные и посмотрите себестоимость. Найдете ошибки - дайте знать)

Илья Филиппов