RAG без векторной базы: PageIndex набрал 40 тысяч звёзд на GitHub
PageIndex предлагает другой подход к поиску информации в документах. Вместо embeddings, разбиения текста на чанки и векторного поиска используется иерархический индекс и рассуждения LLM.
Система строит дерево разделов документа, а затем модель последовательно выбирает нужные ветки и находит ответ с указанием источника.
Такой подход особенно полезен для больших PDF, финансовых отчётов, юридических документов и технической документации, где одного семантического сходства недостаточно.
Результаты разработчиков:
98,7% точности на FinanceBench.
До 97% экономии токенов при ответах на вопросы по документам с использованием Page Search API.
В 16,6 раза дешевле, чем передавать модели целый PDF на 420 страниц при каждом запросе, в одном из сравнительных тестов.
Это результаты собственных бенчмарков проекта, поэтому для конкретной RAG-системы их стоит перепроверять.
Есть Python SDK, локальная индексация PDF и интеграции с ИИ-агентами. Лицензия MIT.
PageIndex особенно интересно попробовать там, где обычный vector RAG теряет контекст между разделами длинного документа.
GitHub: https://github.com/VectifyAI/PageIndex
PageIndex предлагает другой подход к поиску информации в документах. Вместо embeddings, разбиения текста на чанки и векторного поиска используется иерархический индекс и рассуждения LLM.
Система строит дерево разделов документа, а затем модель последовательно выбирает нужные ветки и находит ответ с указанием источника.
Такой подход особенно полезен для больших PDF, финансовых отчётов, юридических документов и технической документации, где одного семантического сходства недостаточно.
Результаты разработчиков:
98,7% точности на FinanceBench.
До 97% экономии токенов при ответах на вопросы по документам с использованием Page Search API.
В 16,6 раза дешевле, чем передавать модели целый PDF на 420 страниц при каждом запросе, в одном из сравнительных тестов.
Это результаты собственных бенчмарков проекта, поэтому для конкретной RAG-системы их стоит перепроверять.
Есть Python SDK, локальная индексация PDF и интеграции с ИИ-агентами. Лицензия MIT.
pip install -U pageindex
PageIndex особенно интересно попробовать там, где обычный vector RAG теряет контекст между разделами длинного документа.
GitHub: https://github.com/VectifyAI/PageIndex
❤12👍8🔥7😢2🎉1
Обучаем собственную LLM с нуля: бесплатный гайд на русском
Как устроены языковые модели внутри? Предлагаю разобраться на практике с помощью MiniMind и PyTorch.
В репозитории собран пошаговый курс: от токенизации и архитектуры Transformer до предобучения модели, SFT, подготовки собственного датасета и локального инференса.
Можно начать с небольшого эксперимента на CPU, а затем обучить модель на 64 млн параметров на GPU.
Внутри объяснения архитектуры, примеры кода, схемы, команды для запуска и практические задания.
🔗 https://github.com/justxor/minimind-llm-from-scratch-ru/
Как устроены языковые модели внутри? Предлагаю разобраться на практике с помощью MiniMind и PyTorch.
В репозитории собран пошаговый курс: от токенизации и архитектуры Transformer до предобучения модели, SFT, подготовки собственного датасета и локального инференса.
Можно начать с небольшого эксперимента на CPU, а затем обучить модель на 64 млн параметров на GPU.
Внутри объяснения архитектуры, примеры кода, схемы, команды для запуска и практические задания.
🔗 https://github.com/justxor/minimind-llm-from-scratch-ru/
🔥8❤5👍3
Python-разработчики, есть повод выбраться на митап!
🔥 X5 Tech совместно с MoscowPython проводит Moscow Python Meetup №114 — встречаемся, чтобы обсудить инженерные практики, поспорить о технологиях и обменяться опытом с коллегами.
В программе два доклада и большая дискуссия с экспертами X5 Tech, AgentPoint и Ozon Tech.
Что обсудим:
➡️ «Свой шаблон сервиса: как перестать копировать прошлый проект и начать масштабироваться» — Даниил Попков, X5 Tech. Узнаем, как избавиться от копипасты при запуске новых сервисов и выстроить масштабируемый подход.
➡️ «Где живёт ваше намерение? Как заставить нейронку строить то, что вы хотите, а не то, что ей показалось» — Николай Каморник, AgentPoint. Разберём, как правильно передавать ИИ свои требования и добиваться нужного результата в разработке.
➡️ Дискуссия «Почему Python лучше Golang для ИИ-разработки» — Андрей Сотник (X5 Tech), Денис Тормазов (X5 Tech) и Александр Ковалёв (Ozon Tech). Обсудим аргументы за оба языка, реальные примеры и метрики.
Митап бесплатный: можно послушать доклады, поучаствовать в дискуссии и пообщаться с Python-разработчиками X5 Tech и других компаний.
📍 Встречаемся 25 ноября в 19:00 в Москве, на площадке «Баунс» (3-я улица Ямского Поля, 2, корп. 6).
Если работаете с Python на уровне middle или выше — присоединяйтесь! Участие бесплатное, но количество мест на площадке ограничено, так что лучше зарегистрироваться заранее. Приходите сами и зовите коллег!
🔥 X5 Tech совместно с MoscowPython проводит Moscow Python Meetup №114 — встречаемся, чтобы обсудить инженерные практики, поспорить о технологиях и обменяться опытом с коллегами.
В программе два доклада и большая дискуссия с экспертами X5 Tech, AgentPoint и Ozon Tech.
Что обсудим:
➡️ «Свой шаблон сервиса: как перестать копировать прошлый проект и начать масштабироваться» — Даниил Попков, X5 Tech. Узнаем, как избавиться от копипасты при запуске новых сервисов и выстроить масштабируемый подход.
➡️ «Где живёт ваше намерение? Как заставить нейронку строить то, что вы хотите, а не то, что ей показалось» — Николай Каморник, AgentPoint. Разберём, как правильно передавать ИИ свои требования и добиваться нужного результата в разработке.
➡️ Дискуссия «Почему Python лучше Golang для ИИ-разработки» — Андрей Сотник (X5 Tech), Денис Тормазов (X5 Tech) и Александр Ковалёв (Ozon Tech). Обсудим аргументы за оба языка, реальные примеры и метрики.
Митап бесплатный: можно послушать доклады, поучаствовать в дискуссии и пообщаться с Python-разработчиками X5 Tech и других компаний.
📍 Встречаемся 25 ноября в 19:00 в Москве, на площадке «Баунс» (3-я улица Ямского Поля, 2, корп. 6).
Если работаете с Python на уровне middle или выше — присоединяйтесь! Участие бесплатное, но количество мест на площадке ограничено, так что лучше зарегистрироваться заранее. Приходите сами и зовите коллег!
❤4👍3🔥2🎉1
🐍 Python: задача для Senior-разработчиков
Что выведет код в Python 3.15?
Варианты ответа:
A) 1, None, 0
B ) 1, 2, 0
C ) 1, 3, 0
D ) 1, RuntimeError
E ) 1, 2, 3
Попробуйте решить без интерпретатора и объяснить, что происходит внутри
Правильный ответ:C) 1, 3, 0.
1. next(g) запускает внешний генератор, который через yield from передаёт управление внутреннему. Получаем 1.
2. g.close() инициирует закрытие генераторов через исключение GeneratorExit. Внутренний генератор выполняет finally и возвращает 2, но это значение не передаётся в x. Внешний генератор выполняет собственный finally и возвращает 3.
3. next(g, 0) возвращает 0, поскольку генератор уже закрыт.
Подвох: начиная с Python 3.13, метод close() возвращает значение, которое генератор возвращает при закрытии. В более ранних версиях он вернул бы None.
Что выведет код в Python 3.15?
def inner():
try:
yield 1
finally:
return 2
def outer():
try:
x = yield from inner()
yield x
finally:
return 3
g = outer()
print(next(g))
print(g.close())
print(next(g, 0))
Варианты ответа:
A) 1, None, 0
B ) 1, 2, 0
C ) 1, 3, 0
D ) 1, RuntimeError
E ) 1, 2, 3
Попробуйте решить без интерпретатора и объяснить, что происходит внутри
yield from при закрытии генератора.Правильный ответ:
1. next(g) запускает внешний генератор, который через yield from передаёт управление внутреннему. Получаем 1.
2. g.close() инициирует закрытие генераторов через исключение GeneratorExit. Внутренний генератор выполняет finally и возвращает 2, но это значение не передаётся в x. Внешний генератор выполняет собственный finally и возвращает 3.
3. next(g, 0) возвращает 0, поскольку генератор уже закрыт.
Подвох: начиная с Python 3.13, метод close() возвращает значение, которое генератор возвращает при закрытии. В более ранних версиях он вернул бы None.
❤11🔥4👍2
5 проектов для создания собственного ИИ-мозга:
1. GBrain - Garry Tan
Память для ИИ-агентов с поиском, связями между знаниями и возможностью использовать общий контекст в разных агентах.
https://github.com/garrytan/gbrain
2. LLM Wiki - Andrej Karpathy
Концепция базы знаний, которую ИИ самостоятельно пополняет, структурирует и поддерживает в актуальном состоянии. Работает на Markdown.
https://gist.github.com/karpathy/442a6bf555914893e9891c11519de94f
3. AI-Memory - Akitaonrails
Долговременная память для Claude Code, Codex и других агентов. Сохраняет историю работы, решения и контекст между сессиями.
https://github.com/akitaonrails/ai-memory
4. Agent Second Brain - Smixs
Голосовой ИИ-ассистент в Telegram, который превращает сообщения в связанные заметки Obsidian и управляет личной базой знаний.
https://github.com/smixs/agent-second-brain
5. COG - Huytieu
Полноценная система второго мозга с 35 AI-навыками, 10 агентами, CRM контактов и автоматическим управлением знаниями.
https://github.com/huytieu/COG-second-brain
Сохраните подборку. Какой из проектов попробовали бы первым?
1. GBrain - Garry Tan
Память для ИИ-агентов с поиском, связями между знаниями и возможностью использовать общий контекст в разных агентах.
https://github.com/garrytan/gbrain
2. LLM Wiki - Andrej Karpathy
Концепция базы знаний, которую ИИ самостоятельно пополняет, структурирует и поддерживает в актуальном состоянии. Работает на Markdown.
https://gist.github.com/karpathy/442a6bf555914893e9891c11519de94f
3. AI-Memory - Akitaonrails
Долговременная память для Claude Code, Codex и других агентов. Сохраняет историю работы, решения и контекст между сессиями.
https://github.com/akitaonrails/ai-memory
4. Agent Second Brain - Smixs
Голосовой ИИ-ассистент в Telegram, который превращает сообщения в связанные заметки Obsidian и управляет личной базой знаний.
https://github.com/smixs/agent-second-brain
5. COG - Huytieu
Полноценная система второго мозга с 35 AI-навыками, 10 агентами, CRM контактов и автоматическим управлением знаниями.
https://github.com/huytieu/COG-second-brain
Сохраните подборку. Какой из проектов попробовали бы первым?
❤8🔥4👍2🎉2😁1🤩1