Stability AI представляет Stable LM 2 на 12 млрд параметров и обновленный вариант на 1.6 млрд

Обучение производилось на 2 трлн токенов и 7 языках.
Версия на 12 млрд нацелена на баланс производительности, эффективности, требований к памяти и скорости.
Апдейт 1.6B улучшил диалоговые способности модели при сохранении низких системных требований.
Stable LM 2 12B способна решать задачи, доступные только более крупным моделям, требующим больших вычислительных ресурсов.
Инструктированная версия подходит для различных применений, включая системы извлечения RAG.
В тестах Open LLM и MT Bench Stable LM 2 12B обогнала практически всех, кроме Мистраля 8х7B.

https://stability.ai/news/introducing-stable-lm-2-12b

Пробовать тут:
https://huggingface.co/spaces/stabilityai/stablelm-2-chat

Ссылка на модель на HF

CUDA out of memory. :(

#StabilityAI #LanguageModel #StableLM2
-------
@tsingular