Вышла новая версия Code Llama

70 миллиардов параметров делают базовую модель одной из самых мощных.
Используется для синтеза и анализа кода на разных языках программирования.
Доступные версии модели: 7B, 13B, 34B и 70B параметров для 3х подтипов:
Code Llama базовая, Python и Instruct модели - всего 12 вариаций

Подготовлена и обучена в период с января 2023 по январь 2024.
Суммарно на обучение 12 вариантов ушло 1400тыс GPU часов на железе A100-80GB

Больше деталей по модели

#CodeLlama #HF #Meta