Компания NVIDIA, по сообщению ресурса VideoCardz, раскрыла планы по выпуску ускорителей нового поколения, предназначенных для применения в ЦОД и на площадках гиперскейлеров. NVIDIA указывает лишь ориентировочные сроки выхода решений, поскольку фактические даты зависят от многих факторов, таких как макроэкономическая обстановка, готовность сопутствующего ПО, доступность производственных мощностей и пр.
#hardware #nvidia #hpc #ии #ускоритель #gb200 #h200 #b40 #infiniband #arm
#servernews @servernewsru

https://servernews.ru/1094261/?utm_source=nova&utm_medium=tg&utm_campaign=sn

NVIDIA анонсировала ускорители H200 на базе всё той же архитектуры Hopper, что и их предшественники H100, представленные более полутора лет назад. Новый H200, по словам компании, первый в мире ускоритель, использующий память HBM3e. Вытеснит ли он H100 или останется промежуточным звеном эволюции решений NVIDIA, покажет время — H200 станет доступен во II квартале следующего года, но также в 2024-м должно появиться новое поколение ускорителей B100, которые будут производительнее H100 и H200.
#nvidia #hardware #hgx #h200 #gh200 #grace #hpc #ускоритель #ии
#servernews @servernewsru

https://servernews.ru/1095861/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Корпорация Microsoft объявила о том, что на базе облака Azure стали доступны виртуальные машины NC H100 v5 для HPC-вычислений и нагрузок ИИ. Это, как отмечается, первые в отрасли облачные инстансы на базе ускорителей NVIDIA H100 NVL. Данное решение объединяет два PCIe-ускорителя H100, соединённых посредством NVIDIA NVLink. Объём памяти HBM3 составляет 188 Гбайт, а заявленная FP8-производительность (с разреженностью) достигает почти 4 Пфлопс.
#hardware #nvidia #microsoftazure #облако #ии #h100 #h200
#servernews @servernewsru

https://servernews.ru/1096056/?utm_source=nova&utm_medium=tg&utm_campaign=sn

AWS и NVIDIA анонсировали сразу несколько новых совместно разработанных решений для генеративного ИИ. Основным анонсом формально является появление ИИ-облака DGX Cloud в инфраструктуре AWS, вот только облако это отличается от немногочисленных представленных ранее платформ DGX Cloud тем, что оно первом получило гибридные суперчипах GH200 (Grace Hoppper), причём в необычной конфигурации.
#aws #облако #hardware #gh200 #h200 #dgxcloud #ускоритель #ии #суперкомпьютер
#servernews @servernewsru

https://servernews.ru/1096645/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания ASRock Rack на конференции GTC 2024 анонсировала свои самые мощные серверы для обучения ИИ-моделей — системы 6U8X-EGS2 NVIDIA H100 и 6U8X-EGS2 NVIDIA H200. Кроме того, дебютировали решения с поддержкой новейших ускорителей NVIDIA Blackwell.
#hardware #asrockrack #gtc2024 #nvidia #сервер #gpu #h100 #h200 #ии #hpc #gb200
#servernews @servernewsru

https://servernews.ru/1101961/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания Supermicro анонсировала вычислительные кластеры SuperCluster с ускорителями NVIDIA, предназначенные для обработки наиболее ресурсоёмких приложений ИИ и обучения больших языковых моделей (LLM). Дебютировали системы, оснащённые жидкостным и воздушным охлаждением.
#hardware #supermicro #nvidia #h100 #h200 #ии #сервер #кластер
#servernews @servernewsru

https://servernews.ru/1102176/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания NVIDIA опубликовала новые, ещё более впечатляющие результаты в области работы с большими языковыми моделями (LLM) в бенчмарке MLPerf Inference 4.0. За прошедшие полгода и без того высокие результаты, демонстрируемые архитектурой Hopper в инференс-сценариях, удалось улучшить практически втрое. Столь внушительный результат достигнут благодаря как аппаратным улучшениям в ускорителях H200, так и программным оптимизациям.
#software #nvidia #mlperf #ии #инференс #h200 #бенчмарк
#servernews @servernewsru

https://servernews.ru/1102371/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания Supermicro анонсировала новые серверы для задач ИИ и НРС. Дебютировали системы высокой плотности с жидкостным охлаждением, а также устройства, оборудованные высокопроизводительными ускорителями AMD, Intel и NVIDIA.
#hardware #supermicro #amd #instinct #intel #habana #nvidia #h100 #h200 #сервер #ии #isc2024
#servernews @servernewsru

https://servernews.ru/1104679/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Вычислительные платформы NVIDIA снова продемонстрировали высокую производительность, на этот раз в свежих тестах MLPerf Training v4.0. Так, суперкомпьютер NVIDIA EOS-DFW более чем утроил свою производительность в LLM-тесте на базе GPT-3 175B по сравнению с прошлогодним результатом.
#nvidia #ии #mlperf #software #h200 #h100 #бенчмарк
#servernews @servernewsru

https://servernews.ru/1106360/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания Northern Data, деятельность которой связана с майнингом криптовалюты, предоставлением услуг высокопроизводительных вычислений (HPC) и ИИ, обдумывает возможность проведения IPO подразделений Taiga и Ardent, предоставляющих услуги облачных вычислений и ЦОД соответственно, пишет Bloomberg.
#northerndata #hardware #ipo #майнинг #облако #цод #ии #nvidia #h100 #h200 #tether
#servernews @servernewsru

https://servernews.ru/1107421/?utm_source=nova&utm_medium=tg&utm_campaign=sn