🔥 AnythingLLM: OpenSource фреймворк с поддержкой документов

AnythingLLM от Mintplex Labs. Это полноценное веб-приложение, которое превращает любые ваши документы в контекст для чата с LLM.

- Поддержка и проприетарных, и опенсорсных LLM (от GPT-4 до Llama)
- 🆕 Встроенный конструктор AI-агентов без кода
- Мультимодальность (работа с изображениями)
- Поддержка разных векторных БД (LanceDB, Pinecone, Chroma и др.)
- Можно развернуть как локально, так и в облаке

Полезное для бизнеса:
1. Встраиваемый виджет чата для вашего сайта
2. Многопользовательский режим с разграничением прав
3. Полноценное API для интеграций
4. Умная система работы с большими документами (экономит деньги на токенах)

Прикольная фича - система "рабочих пространств". Это как отдельные потоки для разных задач, которые не пересекаются контекстом. То есть можно сделать одно пространство для техдокументации, другое для маркетинговых материалов и т.д.

А еще порадовала поддержка разных TTS/STT движков - от встроенного браузерного до OpenAI и ElevenLabs.

Для разработчиков: написано на React + NodeJS, можно развернуть через Docker или напрямую из исходников.

Github : 36K звезд, 113 авторов

В общем, если хотите свой собственный ChatGPT для работы с корпоративными документами - интересный вариант. И главное - бесплатный! Основной сайт из РФ - через VPN.

#Frameworks #OpenSource #AnythingLLM
———
@tsingular

🌸 FLORA: Бесконечный холст для креатива с ИИ

Наткнулся на крайне интересный low-code сервис FLORA AI – экосистему для создания креативных рабочих процессов.

Суть концепции

FLORA позиционирует себя как первая AI-система для креативных профессионалов, которые мыслят системами, а не единичными результатами. Ключевая идея – "бесконечный холст" (infinite canvas) для организации творческого процесса, где инструменты ИИ соединяются в единые рабочие потоки. (похоже на n8n или langflow или тот же ComfyUI)

Технический стек
В сервис уже интегрировано более 50 различных ИИ моделей для работы с текстом, изображениями и видео:
• Генерация изображений: Flux Pro/Dev, Ideogram 2.0, SD3.5, Recraft V3, Luma Photon
• Обработка изображений: Gemini 2.0 Flash, Flux Canny/Depth/Redux
• Видеогенерация: Kling Pro (1.5/1.6), Luma Ray 2, Pika, Runway Gen-3, Veo2, WAN 2.1
• Текстовые модели: GPT-4o Mini, Claude 3 Sonnet, Gemini 2.0 Flash
• Вспомогательные инструменты: Lora Trainer, удаление фона, SVG-конвертер, транскодер

Архитектура работы
В основе модульная структура из "блоков" (Blocks). Вместо изолированных интерфейсов для каждой модели, FLORA предлагает три типа базовых блоков:
1. Text Block – для работы с текстом (Text-to-Text, Image-to-Text, Video-to-Text)
2. Image Block – для работы с изображениями (Text-to-Image, Image-to-Image)
3. Video Block – для видеоконтента
Блоки соединяются "лапшой" (noodles) – связями, которые определяют поток данных.

Почему обратил внимание, - в отличие от ComfyUI в Flora на первом месте не настройки блоков, а контент.
Это как раз и отражает их фокус на работе с творческой аудиторией.
Чем-то близко к концепции Rivet - тоже наглядность на первом плане.

Главное в блоках – результат их работы, а настройки и код спрятаны в всплывающих меню.

И ещё одна убийственная фича – одновременная работа на холсте для нескольких пользователей. Причём их курсоры и имена показываются в реальном времени!

#Flora #nodes #frameworks
———
@tsingular

🚀 Наткнулся на полезный фрейм - Transformer Lab — многофункциональную "песочницу" для экспериментов с LLM!

Главное о проекте:
• 100% Open Source с GUI для работы с LLM
• Все этапы ML-жизненного цикла под одной крышей: скачивание, обучение, файнтюнинг, общение
• Работает на вашем железе — никаких облачных зависимостей

Чем круто:
✨ Один клик для загрузки топовых моделей: DeepSeek, Llama3, Qwen, Phi4, Gemma, Mistral
✨ Кроссплатформенность: Windows/Mac/Linux
✨ Гибкий инференс: MLX для Apple Silicon, HuggingFace, vLLM, Llama CPP
✨ RLHF и preference optimization: DPO, ORPO, SIMPO, Reward Modeling (для тех, кто любит потюнить модель под себя)
✨ Полноценный REST API для автоматизации

👨‍💻 Встроенный Monaco Code Editor позволяет писать свои плагины и видеть, что происходит под капотом.

Практика:
• Стартапы могут файнтюнить модели под свою специфику без ML-команды
• Исследователи получают полигон для экспериментов с различными подходами к обучению
• RAG-энтузиасты найдут здесь drag-and-drop интерфейс для работы с документами
• DevOps'ы оценят возможность раздельного деплоя UI и inference engine

Поддержка от Mozilla через Mozilla Builders Program.

Интересная альтернатива LMStudio, при этом с бОльшим набором полезностей для разработчиков.

#TransformerLab #OpenSource #frameworks
———
@tsingular

🤖Open Agent Platform - No-Code решение для создания агентов от LangChain

LangChain представил свою платформу для создания агентов без кода — Open Agent Platform (OAP).

Ключевые особенности
- Управление агентами: Создание, настройка и взаимодействие через интуитивный веб-интерфейс
- RAG-интеграция: Поддержка Retrieval Augmented Generation через LangConnect
- Подключение инструментов: Соединение агентов с внешними сервисами через MCP-серверы
- Агент-супервизор: Оркестрация взаимодействия нескольких агентов через Agent Supervisor
- Встроенная аутентификация: Готовая система доступа и контроля пользователей
- Настраиваемые агенты: Простое определение пользовательских конфигураций через UI

Если уже используете LangGraph, OAP предоставляет удобный способ создания и управления агентами.

Demo:
https://oap.langchain.com

Github:
https://github.com/langchain-ai/open-agent-platform/

#langchain #agents #frameworks
———
@tsingular