Бенчмарк MLPerf, а вернее, его набор тестов Training, в основном является вотчиной NVIDIA с небольшими вкраплениями результатов ускорителей иных архитектур вроде Google TPU. Но MLPperf Inference более демократичен. В частности, в последнем раунде v2.1 отметилось сразу несколько новых систем и архитектур.
#hardware #mlperf #инференс #бенчмарк #ускоритель #ии
#servernews
https://servernews.ru/1074011/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Консорциум MLCommons опубликовал результаты отраслевых бенчмарков MLPerf Training 2.1. Набор эталонных тестов MLPerf Training оценивает производительность обучения ML-моделей, которые используются в коммерческих приложениях. Нынешний раунд включает в себя около 200 результатов от 18 различных организаций различных размеров.
#mlperf #бенчмарк #hardware #ии
#servernews
https://servernews.ru/1077279/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Открытый инженерный консорциум MLCommons опубликовал последние результаты ИИ-бенчмарка MLPerf Inference (v3.0). В этот раз поступили заявки на тестирование от 25 компаний, в то время как прошлой осенью в тестировании приняли участие 21 компания и 19 — прошлой весной. Ресурс HPCWire выделили наиболее примечательные результаты и обновления последнего раунда.
#mlperf #бенчмарк #ии #инференс #nvidia #software
#servernews
https://servernews.ru/1084751/?utm_source=nova&utm_medium=tg&utm_campaign=sn

NVIDIA сообщила, что во всех восьми ИИ-бенчмарках MLPerf Training v3.0 её ускорители H100 установили новые рекорды, причём как по отдельности, так и в составе кластеров. В частности, коммерчески доступный кластер из 3584 ускорителей H100, созданным стартапом Inflection AI и облаком CoreWeave, смог завершить обучение ИИ-модели GPT-3 менее чем за 11 минут.
#nvidia #ии #hardware #mlperf #бенчмарк #coreweave #облако #h100 #рекорд #llm
#servernews
https://servernews.ru/1089042/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Группа MLCommons, разработчик набора тестов для ИИ-систем MLPerf, опубликовала результаты MLPerf Training v3.0. Среди протестированных устройств есть и ускорители Habana Gaudi2, и процессоры Intel Xeon Sapphire Rapids.
#hardware #habana #xeon #mlperf #sapphirerapids #intel #бенчмарк #ии
#servernews
https://servernews.ru/1089194/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания NVIDIA сообщила о том, что суперчип NVIDIA GH200 Grace Hopper и ускоритель H100 лидируют во всех тестах производительности ЦОД в бенчмарке MLPerf Inference v3.1 для генеративного ИИ, который включает инференс-задачи в области компьютерного зрения, распознавания речи, обработки медицинских изображений, а также работу с большими языковыми моделями (LLM).
#hardware #nvidia #grace #gh200 #h100 #ии #mlperf #llm #бенчмарк #l4 #nvidiajetson
#servernews @servernewsru

https://servernews.ru/1092799/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Аргоннская национальная лаборатория Министерства энергетики США сообщила о том, что вычислительный комплекс Polaris, предназначенный для решения ИИ-задач, устанавливает высокие стандарты производительности СХД в бенчмарке MLPerf Storage AI.
#hardware #hpc #суперкомпьютер #mlperf #бенчмарк #схд #ии #hpe
#servernews @servernewsru

https://servernews.ru/1092942/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Корпорация Intel обнародовала результаты тестирования ускорителя Habana Gaudi2 в бенчмарке GPT-J (входит в MLPerf Inference v3.1), основанном на большой языковой модели (LLM) с 6 млрд параметров. Полученные данные говорят о том, что это изделие может стать альтернативой решению NVIDIA H100 на ИИ-рынке.
#hardware #intel #habana #инференс #ии #mlperf #бенчмарк
#servernews @servernewsru

https://servernews.ru/1093009/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания DataDirect Networks (DDN), специализирующаяся на платформах хранения данных для НРС-систем, сообщила о том, что её массив AI400X2 NVMe показал высокие результаты в ИИ-бенчмарке MLPerf Storage v0.5 при выполнении задач сегментации изображений и обработки естественного языка.
#hardware #ddn #mlperf #схд #ии #бенчмарк
#servernews @servernewsru

https://servernews.ru/1093073/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Вместе с публикацией результатов MLPerf Traning 3.1 компания NVIDIA официально представила новый ИИ-суперкомпьютер EOS, анонсированный ещё весной прошлого года. Правда, с того момента машина подросла — теперь включает сразу 10 752 ускорителя H100, а её FP8-производительность составляет 42,6 Эфлопс. Более того, практически такая же система есть и в распоряжении Microsoft Azure, и её «кусочек» может арендовать каждый, у кого найдётся достаточная сумма денег.
#hardware #ии #суперкомпьютер #бенчмарк #рекорд #nvidia #h100 #hpc #mlperf
#servernews @servernewsru

https://servernews.ru/1095620/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Консорциум MLCommons обнародовал результаты тестирования различных аппаратных решений в бенчмарке MLPerf Training 3.1, который оценивает производительность на ИИ-операциях. Отмечается, что корпорация Intel смогла существенно увеличить быстродействие своего ускорителя Habana Gaudi2, но безоговорочным лидером остаётся NVIDIA H100.
#hardware #intel #habana #mlperf #ии #бенчмарк
#servernews @servernewsru

https://servernews.ru/1095829/?utm_source=nova&utm_medium=tg&utm_campaign=sn

В рамках SC23 корпорация Intel продемонстрировала ряд любопытных слайдов. На них присутствуют результаты тестирования ускорителя Max 1550 с архитектурой Xe, а также планы относительно следующего поколения ИИ-ускорителей Gaudi.
#hardware #sc23 #intel #intelmax #habana #бенчмарк #hpc #ускоритель #intelxe #falconshores #mlperf #ии
#servernews @servernewsru

https://servernews.ru/1095910/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания NVIDIA опубликовала новые, ещё более впечатляющие результаты в области работы с большими языковыми моделями (LLM) в бенчмарке MLPerf Inference 4.0. За прошедшие полгода и без того высокие результаты, демонстрируемые архитектурой Hopper в инференс-сценариях, удалось улучшить практически втрое. Столь внушительный результат достигнут благодаря как аппаратным улучшениям в ускорителях H200, так и программным оптимизациям.
#software #nvidia #mlperf #ии #инференс #h200 #бенчмарк
#servernews @servernewsru

https://servernews.ru/1102371/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Корпорация Intel сообщила о том, что её ИИ-ускоритель Habana Gaudi2 остаётся единственной альтернативой NVIDIA H100, протестированной в бенчмарке MLPerf Inference 4.0. При этом, как утверждается, Gaudi2 обеспечивает высокое быстродействие в расчёте на доллар, хотя именно чипы NVIDIA являются безоговорочными лидерами.
#software #mlperf #intel #ии #бенчмарк #инференс #habana #xeon
#servernews @servernewsru

https://servernews.ru/1102394/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Вычислительные платформы NVIDIA снова продемонстрировали высокую производительность, на этот раз в свежих тестах MLPerf Training v4.0. Так, суперкомпьютер NVIDIA EOS-DFW более чем утроил свою производительность в LLM-тесте на базе GPT-3 175B по сравнению с прошлогодним результатом.
#nvidia #ии #mlperf #software #h200 #h100 #бенчмарк
#servernews @servernewsru

https://servernews.ru/1106360/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания AMD, по сообщению ресурса Wccftech, отклонила просьбу стартапа Tiny Corp о сравнительном испытании ИИ-ускорителей Instinct MI300X в бенчмарке MLPerf, который предлагает тесты для множества разных сценариев, в том числе для задач машинного зрения, обработки языка, рекомендательных систем и обучения с подкреплением.
#hardware #amd #mlperf #instinct #ии #бенчмарк
#servernews @servernewsru

https://servernews.ru/1106910/?utm_source=nova&utm_medium=tg&utm_campaign=sn

NVIDIA сообщила, что её платформы показали самые высокие результаты во всех тестах производительности уровня ЦОД в бенчмарке MLPerf Inference v4.1, где впервые дебютировал ускоритель семейства Blackwell.
#nvidia #mlperf #бенчмарк #ии #инференс #software
#servernews @servernewsru

https://servernews.ru/1110141/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Ускорители Blackwell компании NVIDIA опередили в бенчмарках MLPerf Training 4.1 чипы H100 более чем в 2,2 раза, сообщил The Register. По словам NVIDIA, более высокая пропускная способность памяти в Blackwell также сыграла свою роль. Тесты были проведены с использование собственного суперкомпьютера NVIDIA Nyx на базе DGX B200.
#nvidia #mlperf #бенчмарк #b200 #google #tpu #ии #hardware
#servernews @servernewsru

https://servernews.ru/1114029/?utm_source=nova&utm_medium=tg&utm_campaign=sn