Neo4j - GraphRAG для генеративного ИИ
Neo4j представила инструментарий GraphRAG для разработки приложений генеративного ИИ.
Ключевые компоненты:
• LLM Knowledge Graph Builder: формирует структурированный граф из неструктурированных данных.
• NeoConverse: генерирует и выполняет Cypher-запросы на основе пользовательских вопросов.
• Интеграции с LangChain, LlamaIndex, Haystack и облачными сервисами Google, AWS, Azure.
Экосистема позволяет улучшить качество ответов и прозрачность в GenAI-приложениях.
Доступны обучающие ресурсы, включая курс по графам знаний от Deeplearning AI.
Интересный готовый инструмент по построению графовых баз знаний для LLM.
Под капотом векторный кросс-поиск по связям и автогенерация cypher запросов (аналог SQL для графов)
#Neo4j #GraphRAG #KnowledgeGraphs
-------
@tsingular
Neo4j представила инструментарий GraphRAG для разработки приложений генеративного ИИ.
Ключевые компоненты:
• LLM Knowledge Graph Builder: формирует структурированный граф из неструктурированных данных.
• NeoConverse: генерирует и выполняет Cypher-запросы на основе пользовательских вопросов.
• Интеграции с LangChain, LlamaIndex, Haystack и облачными сервисами Google, AWS, Azure.
Экосистема позволяет улучшить качество ответов и прозрачность в GenAI-приложениях.
Доступны обучающие ресурсы, включая курс по графам знаний от Deeplearning AI.
Интересный готовый инструмент по построению графовых баз знаний для LLM.
Под капотом векторный кросс-поиск по связям и автогенерация cypher запросов (аналог SQL для графов)
#Neo4j #GraphRAG #KnowledgeGraphs
-------
@tsingular
⚡2
HybridRAG - эффективнее GraphRAR & VectorRAG в отдельности
Технология сочетает преимущества VectorRAG и GraphRAG, обеспечивая более точное извлечение информации из неструктурированных текстов.
Например, тесты на транскриптах звонков компаний Nifty 50 показало превосходство HybridRAG по достоверности (0.96) и релевантности ответов (0.96).
https://arxiv.org/abs/2408.04948
#HybridRAG #FinancialAnalysis #KnowledgeGraphs
-------
@tsingular
Технология сочетает преимущества VectorRAG и GraphRAG, обеспечивая более точное извлечение информации из неструктурированных текстов.
Например, тесты на транскриптах звонков компаний Nifty 50 показало превосходство HybridRAG по достоверности (0.96) и релевантности ответов (0.96).
https://arxiv.org/abs/2408.04948
#HybridRAG #FinancialAnalysis #KnowledgeGraphs
-------
@tsingular
❤2
Graphiti: революция темпоральных графов знаний для AI-агентов
Graphiti — фреймворк для построения и запросов к темпоральным графам знаний, специально созданный для AI-агентов, работающих в динамических средах.
В отличие от традиционных методов RAG, Graphiti непрерывно интегрирует пользовательские взаимодействия, структурированные и неструктурированные корпоративные данные в целостный, запрашиваемый граф.
Ключевые преимущества:
• Инкрементальные обновления в реальном времени: интеграция новых данных без пакетного пересчета
• Би-темпоральная модель данных: точное отслеживание времени событий и времени загрузки
• Эффективный гибридный поиск: сочетает семантические вложения, ключевые слова (BM25) и обход графа
• Настраиваемые определения сущностей: через простые Pydantic-модели
• Масштабируемость: эффективное управление большими наборами данных с параллельной обработкой
Практическое применение:
• Интеграция и поддержание динамических пользовательских взаимодействий и бизнес-данных
• Облегчение рассуждений на основе состояния и автоматизации задач для агентов
• Запрос сложных, развивающихся данных с помощью семантического, ключевого и графового поиска
Graphiti лучше всего работает с LLM-сервисами, поддерживающими структурированный вывод (например, OpenAI и Gemini). Использование других сервисов может привести к некорректным схемам вывода и сбоям при загрузке, особенно при использовании небольших моделей.
Сравнение с GraphRAG:
Graphiti специально разработан для решения проблем динамических и часто обновляемых наборов данных:
• Обработка данных: Непрерывные обновления vs Пакетная обработка
• Структура знаний: Эпизодические данные и семантические сущности vs Кластеры сущностей
• Метод поиска: Гибридный семантический и графовый поиск vs Последовательное LLM-суммирование
• Временная обработка: Явное би-темпоральное отслеживание vs Базовое отслеживание временных меток
• Скорость исполнения запросов: Обычно менее секунды vs Секунды или десятки секунд
Детальнее как это работает на практике можно почитать в статье:
"Zep: A Temporal Knowledge Graph Architecture for Agent Memory".
Проект активно развивается, поддерживает различные LLM-провайдеры и имеет MCP-сервер, позволяющий AI-ассистентам взаимодействовать с возможностями графа знаний через протокол MCP. Также доступен REST API-сервис на FastAPI для взаимодействия с Graphiti API.
#Graphiti #KnowledgeGraphs #RAG
———
@tsingular
Graphiti — фреймворк для построения и запросов к темпоральным графам знаний, специально созданный для AI-агентов, работающих в динамических средах.
В отличие от традиционных методов RAG, Graphiti непрерывно интегрирует пользовательские взаимодействия, структурированные и неструктурированные корпоративные данные в целостный, запрашиваемый граф.
Ключевые преимущества:
• Инкрементальные обновления в реальном времени: интеграция новых данных без пакетного пересчета
• Би-темпоральная модель данных: точное отслеживание времени событий и времени загрузки
• Эффективный гибридный поиск: сочетает семантические вложения, ключевые слова (BM25) и обход графа
• Настраиваемые определения сущностей: через простые Pydantic-модели
• Масштабируемость: эффективное управление большими наборами данных с параллельной обработкой
Практическое применение:
• Интеграция и поддержание динамических пользовательских взаимодействий и бизнес-данных
• Облегчение рассуждений на основе состояния и автоматизации задач для агентов
• Запрос сложных, развивающихся данных с помощью семантического, ключевого и графового поиска
Graphiti лучше всего работает с LLM-сервисами, поддерживающими структурированный вывод (например, OpenAI и Gemini). Использование других сервисов может привести к некорректным схемам вывода и сбоям при загрузке, особенно при использовании небольших моделей.
Сравнение с GraphRAG:
Graphiti специально разработан для решения проблем динамических и часто обновляемых наборов данных:
• Обработка данных: Непрерывные обновления vs Пакетная обработка
• Структура знаний: Эпизодические данные и семантические сущности vs Кластеры сущностей
• Метод поиска: Гибридный семантический и графовый поиск vs Последовательное LLM-суммирование
• Временная обработка: Явное би-темпоральное отслеживание vs Базовое отслеживание временных меток
• Скорость исполнения запросов: Обычно менее секунды vs Секунды или десятки секунд
Детальнее как это работает на практике можно почитать в статье:
"Zep: A Temporal Knowledge Graph Architecture for Agent Memory".
Проект активно развивается, поддерживает различные LLM-провайдеры и имеет MCP-сервер, позволяющий AI-ассистентам взаимодействовать с возможностями графа знаний через протокол MCP. Также доступен REST API-сервис на FastAPI для взаимодействия с Graphiti API.
#Graphiti #KnowledgeGraphs #RAG
———
@tsingular
🔥5⚡1