NVIDIA выпустила своё приложение для чата с локальными моделями.
https://www.youtube.com/watch?v=gdsRJZT3IJw
NVIDIA объявила, что чатботы на базе RTX теперь доступны для загрузки.
Приложение позволяет настраивать персонального чатбота, используя любой контент пользователя.
Поддерживаются файлы .txt, .pdf, .doc/.docx и .xml.
Чатбот сканирует локальные файлы для ответов на вопросы пользователя.
Возможно добавление информации из YouTube-видео и плейлистов.
Работает локально на ПК, не требуя облачного подключения.
Необходима видеокарта NVIDIA GeForce RTX 30 Series или выше и минимум 8 ГБ VRAM.
Также необходима ОС Windows 10 или 11 и последние драйверы NVIDIA.
Осталось выпустить собственную модель
Просто скачайте 30Gb😨
#NVIDIA #RTX #AI
https://www.youtube.com/watch?v=gdsRJZT3IJw
NVIDIA объявила, что чатботы на базе RTX теперь доступны для загрузки.
Приложение позволяет настраивать персонального чатбота, используя любой контент пользователя.
Поддерживаются файлы .txt, .pdf, .doc/.docx и .xml.
Чатбот сканирует локальные файлы для ответов на вопросы пользователя.
Возможно добавление информации из YouTube-видео и плейлистов.
Работает локально на ПК, не требуя облачного подключения.
Необходима видеокарта NVIDIA GeForce RTX 30 Series или выше и минимум 8 ГБ VRAM.
Также необходима ОС Windows 10 или 11 и последние драйверы NVIDIA.
Осталось выпустить собственную модель
Просто скачайте 30Gb
#NVIDIA #RTX #AI
Please open Telegram to view this post
VIEW IN TELEGRAM
NVIDIA Blog
Say What? Chat With RTX Brings Custom Chatbot to NVIDIA RTX AI PCs
New tech demo gives anyone with an NVIDIA RTX GPU the power of a personalized GPT chatbot, running locally on their Windows PC.
ChatRTX добавляет новые модели ИИ и функции
ChatRTX позволяет взаимодействовать с локальными данными, используя ПК и рабочие станции на базе NVIDIA RTX.
Добавлена поддержка новых языковых моделей (LLM): Gemma от Google и ChatGLM3 (англо-китайская).
Поддержка CLIP от OpenAI для взаимодействия с изображениями через естественный язык.
Whisper позволяет осуществлять голосовые запросы и получать текстовые ответы.
Качаем обновление, получается.
Интересно, когда он превратиться в интерактивного ассистента.
#NVIDIA #RTX #ChatRTX
-------
@tsingular
ChatRTX позволяет взаимодействовать с локальными данными, используя ПК и рабочие станции на базе NVIDIA RTX.
Добавлена поддержка новых языковых моделей (LLM): Gemma от Google и ChatGLM3 (англо-китайская).
Поддержка CLIP от OpenAI для взаимодействия с изображениями через естественный язык.
Whisper позволяет осуществлять голосовые запросы и получать текстовые ответы.
Качаем обновление, получается.
Интересно, когда он превратиться в интерактивного ассистента.
#NVIDIA #RTX #ChatRTX
-------
@tsingular
AnythingLLM: фреймворк для запуска агентов локально с любым ИИ на выбор
Nvidia RTX анонсирует AnythingLLM, - решение для запуска локальных ИИ-агентов, работающих автономно без облака.
Удобное приложение обеспечивает выполнение многоэтапного планирования и решения задач на домашнем компьютере.
Встроены функции хранения и анализа документов, общение по ним, векторные хранилища любого вида, поддержка всех возможных ИИ провайдеров, - Mistral, Ollama, OpenAI, Anthropic.
Автоматически подтягивает все доступные модели по API ключу.
Интегрируется и общается с SQL базами, можно создавать агентов с разными функциями, вроде:
- поиск по интернету - причем с разными провайдерами на выбор
- сбор информации с сайтов, чтение содержимого
- работа с различными RAGами
- голосовое управление агентом
Ставится как десктопное приложение или можно в докере поднять на сервере и работать через WebUI!
Главное преимущество - полный контроль над данными и независимость от интернета.
Ну тут уж я фобию переборол, установил, - решение огонь.
Проверено, рекомендую!
#NVIDIA #AnythingLLM #RTX
-------
@tsingular
Nvidia RTX анонсирует AnythingLLM, - решение для запуска локальных ИИ-агентов, работающих автономно без облака.
Удобное приложение обеспечивает выполнение многоэтапного планирования и решения задач на домашнем компьютере.
Встроены функции хранения и анализа документов, общение по ним, векторные хранилища любого вида, поддержка всех возможных ИИ провайдеров, - Mistral, Ollama, OpenAI, Anthropic.
Автоматически подтягивает все доступные модели по API ключу.
Интегрируется и общается с SQL базами, можно создавать агентов с разными функциями, вроде:
- поиск по интернету - причем с разными провайдерами на выбор
- сбор информации с сайтов, чтение содержимого
- работа с различными RAGами
- голосовое управление агентом
Ставится как десктопное приложение или можно в докере поднять на сервере и работать через WebUI!
Главное преимущество - полный контроль над данными и независимость от интернета.
Ну тут уж я фобию переборол, установил, - решение огонь.
Проверено, рекомендую!
#NVIDIA #AnythingLLM #RTX
-------
@tsingular
🔥6