Технозаметки Малышева
5.54K subscribers
2.79K photos
927 videos
38 files
3.06K links
Новости инноваций из мира Искусственного Интеллекта. 🤖

Всё об ИИ, ИТ трендах и Технологической Сингулярности.

🤖: @ai_gptfreebot [бесплатный бот]
✍️: @tsingular_bot [каталог ботов и курсов]

💸[поддержка]: pay.cloudtips.ru/p/c8960bbb
Download Telegram
Общение с BigQuery через LangChain и GPT

- LangChain вместе с GPT позволяет анализировать данные в CSV, задавая естественные вопросы.
- Этот подход снижает нагрузку на аналитиков, повышая эффективность бизнес-процессов.
- LangChain реализует концепцию агента, оптимизированного для БД через SQLAlchemy.
- Рекомендуется использовать специализированные таблицы для взаимодействия с LLM из-за ограниченного контекстного окна.
- Инструкции описывают настройку ChatInterface для Google BigQuery.
- LangChain может работать в режиме детализации или показывать только конечные результаты.
- Агенты умеют выполнять сложные запросы, преобразуя естественный язык в SQL-код.

Это делает доступ к данным BigQuery проще для пользователей без знаний SQL.

#LangChain #GPT #BigQuery
Создание AI чат-бота на домашнем ПК с новой моделью LLaMA

Большие языковые модели (LLM) открывают двери для создания человекоподобных текстов.
LangChain - это инструментарий для разработки AI приложений, включая чат-ботов.
LLaMA от Meta AI устанавливается локально и обеспечивает обработку языка на процессорах обычных компьютеров.
Использование квантования позволяет моделям LLM функционировать на менее мощной технике.
Через фреймворк LangChain и Streamlit реализуется интерфейс для диалоговых ботов с интуитивной работой с текстами.

Детальный гайд по установке AI помощника на локальном ПК.

#LangChain #LLaMA #AI
LangChain обновился до v0.1.0

Объявлен выпуск стабильной версии LangChain v0.1.0, совместимой с предыдущими релизами.
Фреймворк LangChain предназначен для создания приложений на основе LLM.
Включает разделение на основной модуль langchain-core и пакеты от партнеров.
Предлагает более 700 интеграций, в том числе с LLM и инструментами для агентов.
LangSmith обеспечивает простую отладку, настройку и персонализацию.
Возможность интеграции с пользовательскими данными.
Поддерживает создание агентов с несколькими методами, включая новый инструментальный API.
Разработчики планируют дальнейшее улучшение инструментария и добавление новых функций.

Серьёзный фреймворк подрастает. Интересно,- IPO увидим?

#LangChain #LLM #Integration
Интегрируем BigQuery & LangChain

LangChain обогащает модели ответами, используя структурированные данные из BigQuery.
Применения включают чат-боты, виртуальных помощников, генерацию кода и веб-приложения.
BigQuery - мощный инструмент для анализа массивов данных с высокой скоростью и гибкостью.
Интеграция с другими сервисами Google Cloud повышает эффективность обработки данных.
BigQuery Studio поддерживает выполнение SQL-запросов и работу с записными книжками.

Приведён пример анализа данных для выбора целевой аудитории в маркетинговых кампаниях.
Схема запроса предоставляет детальную информацию по структуре данных.
Созданная модель LLM формирует оптимизированные запросы для конкретных бизнес-задач.

BigQuery сам по себе очень мощный инструмент. В комбинации с LLM может дать действительно интересные результаты.

#LangChain #BigQuery #LLM
LangChain теперь в Google Cloud

Разработчики теперь могут легко создавать AI-приложения используя LangChain фреймворк в среде GCP.
LangChain предоставляет все необходимое для разработки RAG-приложений.
Интеграция с Google Cloud обеспечивает доступ к большому объему надежных данных.
Система наблюдаемости LangSmith позволяет контролировать работу и результаты LLM.
Vertex AI предлагает управляемый поисковый движок, оптимизирующий работу RAG-приложений.

#LangChain #GoogleCloud #AI
-------
@tsingular
LlamaIndex vs LangChain: сравнение ИИ-фреймворков

🦙 LlamaIndex - специализированный инструмент для улучшения взаимодействия между данными и LLM. Он упрощает индексацию и извлечение данных, что особенно полезно для поисковых приложений. LlamaIndex облегчает эффективную интеграцию данных и повышает производительность LLM для быстрого и точного доступа к структурированным данным.
⛓️ LangChain - гибкий фреймворк для разработки приложений, управляемых LLM оркестратором. Модульная конструкция и расширяемые компоненты позволяют создавать приложения, которые интеллектуально взаимодействуют с пользователями, используют внешние данные и выполняют сложные рабочие процессы. LangChain подходит для создания сложных и высокоадаптивных ИИ-приложений.

Короче - LlamaIndex для поиска, LangChain для сложных ИИ-приложений.

#LlamaIndex #LangChain #AI-frameworks
-------
@tsingular
This media is not supported in your browser
VIEW IN TELEGRAM
RAGFlow: Открытый движок для работы с документами

RAGFlow - движок с открытым кодом для генерации ответов на основе извлечения информации (RAG).
Система использует глубокое понимание документов и различные LLM для ответов на вопросы.
Поддерживает множество форматов файлов, включая PDF, DOC, изображения и презентации.
Ключевые особенности:
• Интеграция с различными LLM (OpenAI, Anthropic, Google и др.)
• Возможность локального развертывания LLM
• Создание и управление базами знаний
• Ручная корректировка результатов разбиения текста
• API для интеграции в другие приложения
Требования: мощное железо и GPU.

Очень проработанный фреймворк.
Из последних обновлений - поддержка graphRag и mindmap форматов

Отдельное спасибо @pimenov_ru за подсказку.


#RAGFlow #DocumentAI #langchain
-------
@tsingular
🍾31👍1🔥1
GigaChain от Сбера - пакет LangChain для русскоязычных агентов

Фреймворк обеспечивает интеграцию с LangChain, поддержку GigaChat и разработку агентов через LangGraph.
Платформа предлагает настройку версий API, управление SSL-сертификатами и потоковую генерацию токенов.
Инструментарий включает средства прототипирования, исследований и production-запуска с фокусом на русскоязычные приложения.

Наконец-то отечественные агенты!
Команда Сбера не отстаёт от мировых трендов 🚀

#GigaChat #LangChain #LangGraph #Сбербанк #Сбер
-------
@tsingular
5🍾2
Тренды разработки AI-приложений 2024: Анализ от LangChain 🚀

Инфраструктурные тренды 🔧
Видимый тренд года - стремительный рост open-source моделей!
OpenAI по-прежнему остается лидером среди LLM-провайдеров, но появление Ollama и Groq в топ-5 говорит о серьезном сдвиге в сторону гибких решений для локального деплоя и облачных альтернатив для быстрого инференса.

Интересный факт: провайдеры open-source моделей (Ollama, Mistral, Hugging Face) теперь занимают 20% среди топ-20 LLM-провайдеров.

Эволюция разработки 💻
Самое впечатляющее - это взрывной рост AI-агентов.
43% организаций уже используют LangGraph для создания сложных агентных систем!

Количество вызовов инструментов (tool calls) выросло с 0.5% до 21.9% - получается народ осваивает работу ИИ с инструментами.

Python по прежнему лидирует (84.7% использования), но JavaScript набирает обороты - его доля выросла в 3 раза по сравнению с прошлым годом.

Оптимизация производительности ⚡️
Средняя сложность процессов выросла с 2.8 до 7.7 шагов на трейс, но при этом количество LLM-вызовов увеличилось всего с 1.1 до 1.4.

Разработчики научились создавать более сложные системы, оптимально используя LLM-ресурсы.

Тестирование и качество 🎯
В приоритете у разработчиков - релевантность, корректность и точность ответов.

Интересно, что обратная связь от пользователей выросла в 18 раз, но при этом остается довольно сфокусированной - в среднем 2.59 отзыва на прогон.

Что дальше? 🔮
Многошаговые агенты, оптимизированные вызовы LLM и автоматизированное тестирование становятся стандартом разработки.

Отчёт тут

#LangChain #report
———
@tsingular
👍621
This media is not supported in your browser
VIEW IN TELEGRAM
🧠 Урок по GraphRAG на Google Spanner и LangChain

Интересный урок про Google Spanner Graph для создания GraphRAG-приложений. Полезно, когда нужно извлекать не только контент, но и понимать связи между данными!

В примере классический RAG находит по запросу "нужен дрон для начинающих" только основную информацию о дроне SkyHawk Zephyr:
- Цена $129.99
- Что подходит для начинающих
- Основные характеристики


А вот GraphRAG выдаёт намного больше полезного:
- Те же данные о базовой модели
- Текущую акцию ($109.99 вместо $129.99)
- Доступные бандлы (Starter Package за $129.99 и Explorer Package за $179.99)
- Совместимые аксессуары (Extended Battery, Propeller Guards)
- Возможность апгрейда до модели Zephyr 2.0


Техническая начинка:
Проект строится на трёх блоках:
1. Spanner Graph — база данных от Google с поддержкой графов
2. LangChain — для построения RAG-пайплайнов
3. LLMGraphTransformer — автоматически превращает документы в графовые структуры

Техпроцесс:
Документы → LLMGraphTransformer → Граф с узлами и связями → Поиск по графу → Ответ LLM


Полезные библиотеки:
- langchain-google-spanner — интеграция с Spanner
- langchain-experimental для графовых трансформеров
- spanner-graph-notebook — визуализация

Примеры для бизнеса:
- Интернет-магазины: покупатель видит не только товар, но и совместимые аксессуары, бандлы, акции
- CRM: можно анализировать не только клиента, но и его связи с другими людьми/компаниями
- Рекомендательные системы: понимание контекста на более глубоком уровне

Классический RAG хорош, но GraphRAG круче, когда важны взаимосвязи между сущностями. Правда, технология ещё сыровата — приходится вручную фильтровать некорректные связи, которые создаёт LLM при преобразовании документов.

Не факт, что вы будете строить решение именно на Гугле, но урок очень наглядный. С примерами и визуальным рядом. Поможет разобраться.

GitHub

#GraphRAG #GoogleSpanner #LangChain #обучение #RAG
———
@tsingular
👍10421
This media is not supported in your browser
VIEW IN TELEGRAM
🤖Open Agent Platform - No-Code решение для создания агентов от LangChain

LangChain представил свою платформу для создания агентов без кода — Open Agent Platform (OAP).

Ключевые особенности
- Управление агентами: Создание, настройка и взаимодействие через интуитивный веб-интерфейс
- RAG-интеграция: Поддержка Retrieval Augmented Generation через LangConnect
- Подключение инструментов: Соединение агентов с внешними сервисами через MCP-серверы
- Агент-супервизор: Оркестрация взаимодействия нескольких агентов через Agent Supervisor
- Встроенная аутентификация: Готовая система доступа и контроля пользователей
- Настраиваемые агенты: Простое определение пользовательских конфигураций через UI

Если уже используете LangGraph, OAP предоставляет удобный способ создания и управления агентами.

Demo:
https://oap.langchain.com

Github:
https://github.com/langchain-ai/open-agent-platform/

#langchain #agents #frameworks
———
@tsingular
8👍2
LangChain выпустил Open Deep Research — открытый мульти-агентный исследователь

Команда LangChain создала альтернативу исследовательским системам от OpenAI, Anthropic и Google. Архитектура построена на трёх этапах: сначала система уточняет контекст у пользователя и создаёт исследовательский бриф, затем супервайзер-агент делегирует подзадачи специализированным агентам, которые работают параллельно.

Основная проблема одноагентных систем — перегрузка контекста при многотемных запросах. Например, при сравнении подходов к ИИ-безопасности у трёх лабораторий система тратит токены на обработку всех тем одновременно. Мульти-агентный подход изолирует контекст каждого агента.

Интересная деталь: команда сначала пыталась распараллелить и написание отчёта, но столкнулась с проблемой координации — разделы получались разрозненными. В итоге исследование параллельное, а итоговый отчёт пишется одним агентом.

#LangChain #multiagent #deepresearch
------
@tsingular
🔥6322👍1