CodeCamp
Тем временем в мире SQL произошло сразу две революции: Чуваки из Electric упаковали PostgreSQL сервер (один из главных движков баз данных в мире) в js-библиотеку pglite размером 3 (!) мегабайта. На основе pglite уже запилил лютую имбищу — браузерную базу…
On-device or edge AI and RAG
PGlite has full support for pgvector, enabling a local or edge retrieval augmented generation (RAG) workflow.
а вот это вообще бомба, т.е. вот этот вот pglite в 3 мега, умеет еще и в векторы!
Получается не выходя из кода можно в памяти RAGи для ИИ жонглировать буквально на любой кофеварке!
sqlite-vec queries:
- 1 million 128-dimensional vectors in just 17ms
- 500,000 with 960-dimensional vectors in 41ms
sqlite-vec supports:
💾 Matryoshka embedding slicing
💡 Binary quantization reduces storage by 32x with minimal accuracy loss
🤏🏻 L2, cosine and Hamming distance calculations
🧮 Retrieval against Python List and NP Arrays
🛠 SDKs for Python, Javascript, Go, Rust, Wasm and more
🧠 local direct embedding with “sqlite-lembed” for gguf models and Llama.cpp
☁️ remote embedding with “sqlite-rembed” for OpenAI compatible APIs
#RAG #vector #pglite
———
@tsingular
PGlite has full support for pgvector, enabling a local or edge retrieval augmented generation (RAG) workflow.
а вот это вообще бомба, т.е. вот этот вот pglite в 3 мега, умеет еще и в векторы!
Получается не выходя из кода можно в памяти RAGи для ИИ жонглировать буквально на любой кофеварке!
sqlite-vec queries:
- 1 million 128-dimensional vectors in just 17ms
- 500,000 with 960-dimensional vectors in 41ms
sqlite-vec supports:
💾 Matryoshka embedding slicing
💡 Binary quantization reduces storage by 32x with minimal accuracy loss
🤏🏻 L2, cosine and Hamming distance calculations
🧮 Retrieval against Python List and NP Arrays
🛠 SDKs for Python, Javascript, Go, Rust, Wasm and more
🧠 local direct embedding with “sqlite-lembed” for gguf models and Llama.cpp
☁️ remote embedding with “sqlite-rembed” for OpenAI compatible APIs
#RAG #vector #pglite
———
@tsingular
pglite.dev
PGlite Extensions | PGlite
Lightweight WASM Postgres
Media is too big
VIEW IN TELEGRAM
StarVector: модель для генерации SVG-кода из изображений и текста
StarVector — мультимодальная модель, обрабатывающая как изображения, так и текстовые запросы.
В отличие от стандартных векторизаторов, StarVector создает SVG-код и точно использует примитивы вроде эллипсов, полигонов и текста.
Доступны версии на 1B и 8B параметров, оптимизированные для иконок, логотипов, диаграмм и графиков.
Авторы представили также SVG-Bench — комплексный бенчмарк для оценки качества векторизации.
HuggingFace
#SVG #Multimodal #Vector
-----
@tsingular
StarVector — мультимодальная модель, обрабатывающая как изображения, так и текстовые запросы.
В отличие от стандартных векторизаторов, StarVector создает SVG-код и точно использует примитивы вроде эллипсов, полигонов и текста.
Доступны версии на 1B и 8B параметров, оптимизированные для иконок, логотипов, диаграмм и графиков.
Авторы представили также SVG-Bench — комплексный бенчмарк для оценки качества векторизации.
HuggingFace
#SVG #Multimodal #Vector
-----
@tsingular
✍8🔥6🆒2