✅Как выбрать бэкенд, настроить Triton и не потерять в точности?

Расскажет Владимир Никулин. Приходите на его доклад, чтобы получить:
🔴практики переноса моделей для распознавания речи на CPU,
🔴подходы к правильному сравнению производительности этих моделей.

А также рассмотреть:
🔴различия в работе ONNX Runtime (с поддержкой INT8-квантизации) и OpenVINO (с оптимизациями под AMX-инструкции),
🔴влияние конфигурации Triton Server (батчинг, параллелизм) на итоговую производительность,
🔴результаты тестирования на разных CPU-архитектурах.

Кому актуально? Приходите на AiConf X 26 сентября. Программа и билеты для тех, кто хочет успеть в последний вагон, — на нашем сайте🔥

Вместе с билетом вы приобретаете комьюнити тех, кто каждый день ставит гипотезы, ошибается и находит новые решения в Data Science. То, чего вам сейчас не хватает, кто-то уже активно внедряет и может поделиться этим с вами. Сэкономьте свое время благодаря опыту, ошибкам и решениям коллег из отрасли.

🔥 — мне очень надо
👍 — не работаю с таким, но уважаю
❤️ — жду AiConf X

💬 Подписаться на AiConf X