Модель может анализировать длинные тексты целиком и выполнять локальную обработку, снижая нагрузку на системы.
Обучение RuModernBERT проходило на 2 триллионах токенов, включая русский, английский языки и программный код. Поддерживается контекст до 8192 токенов. Источниками данных стали книги, статьи, посты и комментарии.
#VK #RuModernBERT
Читайте нас в: | Telegram | VK | Сайт |
Please open Telegram to view this post
VIEW IN TELEGRAM
👍8