Корпорация Microsoft объявила о том, что на базе облака Azure стали доступны виртуальные машины NC H100 v5 для HPC-вычислений и нагрузок ИИ. Это, как отмечается, первые в отрасли облачные инстансы на базе ускорителей NVIDIA H100 NVL. Данное решение объединяет два PCIe-ускорителя H100, соединённых посредством NVIDIA NVLink. Объём памяти HBM3 составляет 188 Гбайт, а заявленная FP8-производительность (с разреженностью) достигает почти 4 Пфлопс.
#hardware #nvidia #microsoftazure #облако #ии #h100 #h200
#servernews @servernewsru

https://servernews.ru/1096056/?utm_source=nova&utm_medium=tg&utm_campaign=sn

AWS и NVIDIA анонсировали сразу несколько новых совместно разработанных решений для генеративного ИИ. Основным анонсом формально является появление ИИ-облака DGX Cloud в инфраструктуре AWS, вот только облако это отличается от немногочисленных представленных ранее платформ DGX Cloud тем, что оно первом получило гибридные суперчипах GH200 (Grace Hoppper), причём в необычной конфигурации.
#aws #облако #hardware #gh200 #h200 #dgxcloud #ускоритель #ии #суперкомпьютер
#servernews @servernewsru

https://servernews.ru/1096645/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания ASRock Rack на конференции GTC 2024 анонсировала свои самые мощные серверы для обучения ИИ-моделей — системы 6U8X-EGS2 NVIDIA H100 и 6U8X-EGS2 NVIDIA H200. Кроме того, дебютировали решения с поддержкой новейших ускорителей NVIDIA Blackwell.
#hardware #asrockrack #gtc2024 #nvidia #сервер #gpu #h100 #h200 #ии #hpc #gb200
#servernews @servernewsru

https://servernews.ru/1101961/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания Supermicro анонсировала вычислительные кластеры SuperCluster с ускорителями NVIDIA, предназначенные для обработки наиболее ресурсоёмких приложений ИИ и обучения больших языковых моделей (LLM). Дебютировали системы, оснащённые жидкостным и воздушным охлаждением.
#hardware #supermicro #nvidia #h100 #h200 #ии #сервер #кластер
#servernews @servernewsru

https://servernews.ru/1102176/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания NVIDIA опубликовала новые, ещё более впечатляющие результаты в области работы с большими языковыми моделями (LLM) в бенчмарке MLPerf Inference 4.0. За прошедшие полгода и без того высокие результаты, демонстрируемые архитектурой Hopper в инференс-сценариях, удалось улучшить практически втрое. Столь внушительный результат достигнут благодаря как аппаратным улучшениям в ускорителях H200, так и программным оптимизациям.
#software #nvidia #mlperf #ии #инференс #h200 #бенчмарк
#servernews @servernewsru

https://servernews.ru/1102371/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания Supermicro анонсировала новые серверы для задач ИИ и НРС. Дебютировали системы высокой плотности с жидкостным охлаждением, а также устройства, оборудованные высокопроизводительными ускорителями AMD, Intel и NVIDIA.
#hardware #supermicro #amd #instinct #intel #habana #nvidia #h100 #h200 #сервер #ии #isc2024
#servernews @servernewsru

https://servernews.ru/1104679/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Вычислительные платформы NVIDIA снова продемонстрировали высокую производительность, на этот раз в свежих тестах MLPerf Training v4.0. Так, суперкомпьютер NVIDIA EOS-DFW более чем утроил свою производительность в LLM-тесте на базе GPT-3 175B по сравнению с прошлогодним результатом.
#nvidia #ии #mlperf #software #h200 #h100 #бенчмарк
#servernews @servernewsru

https://servernews.ru/1106360/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания Northern Data, деятельность которой связана с майнингом криптовалюты, предоставлением услуг высокопроизводительных вычислений (HPC) и ИИ, обдумывает возможность проведения IPO подразделений Taiga и Ardent, предоставляющих услуги облачных вычислений и ЦОД соответственно, пишет Bloomberg.
#northerndata #hardware #ipo #майнинг #облако #цод #ии #nvidia #h100 #h200 #tether
#servernews @servernewsru

https://servernews.ru/1107421/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Японский национальный институт передовых промышленных наук и технологий (AIST) объявил о планах по строительству в Касива (Kashiwa, префектура Тиба) нового суперкомпьютера AI Bridging Cloud Infrastructure 3.0 (ABCI 3.0), представляющего собой очередное обновление ИИ-платформы ABCI, запущенной в 2018 году. Новый суперкомпьютер будет предлагаться в качестве облачного сервиса как государственным, так и частным организациям страны, сообщается в блоге NVIDIA.
#nvidia #hpe #hardware #суперкомпьютер #ии #япония #aist #h200 #облако
#servernews @servernewsru

https://servernews.ru/1107943/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания Gigabyte анонсировала HGX-серверы G593-SD1-AAX3 и G593-ZD1-AAX3, предназначенные для задач ИИ и НРС. Устройства, выполненные в форм-факторе 5U, включают до восьми ускорителей NVIDIA H200. При этом используется воздушное охлаждение.
#hardware #gigabyte #сервер #ии #nvidia #h200 #hgx #amd #intel #epyc #xeon #emeraldrapids #genoa
#servernews @servernewsru

https://servernews.ru/1109621/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания Giga Computing, подразделение Gigabyte, анонсировала серверы G593-ZD1-LAX3 и G593-SD1-LAX3, предназначенные для ресурсоёмких нагрузок, связанных с ИИ. Устройства, оснащённые системой прямого жидкостного охлаждения (DLC) от CoolIT, могут нести на борту до восьми ускорителей NVIDIA HGX H200.
#hardware #gigabyte #nvidia #h200 #amd #epyc #genoa #intel #xeon #сервер #emeraldrapids #sapphirerapids #coolitsystems
#servernews @servernewsru

https://servernews.ru/1110654/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Nebius, бывшая материнская компания «Яндекса», объявила о развёртывании своего первого вычислительного ИИ-кластера во Франции. Комплекс, предназначенный для нагрузок ИИ, сформирован на базе дата-центра Equinix PA10 в Сен-Дени — в 9 км к северу от центра Парижа.
#hardware #nebius #nvidia #h200 #франция #ии #цод #кластер
#servernews @servernewsru

https://servernews.ru/1111557/?utm_source=nova&utm_medium=tg&utm_campaign=sn

В августе 2023 года Microsoft развернула в своём облаке Azure инстансы ND H100 v5 на базе NVIDIA H100 для HPC-вычислений и нагрузок ИИ. А теперь запущены машины ND H200 v5 с ускорителями NVIDIA H200, оптимизированные для инференса и обучения больших языковых моделей (LLM).
#hardware #microsoftazure #nvidia #h200 #ии #облако
#servernews @servernewsru

https://servernews.ru/1112078/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания Nebius, образовавшаяся из Yandex N.V., занимающаяся разработкой ЦОД для систем искусственного интеллекта, объявила об увеличении мощности дата-центра в финской общине Мянтсяля. По данным Datacenter Dynamics, ёмкость расширяющегося ЦОД вырастет втрое.
#hardware #цод #nebius #h200 #финляндия #евросоюз
#servernews @servernewsru

https://servernews.ru/1112189/?utm_source=nova&utm_medium=tg&utm_campaign=sn

ИИ-компания Nebius, сформированная из бывшей Yandex N.V., представила облачную платформу с современными ускорителями NVIDIA. Как уточняет Datacenter Dynamics, речь идёт о моделях NVIDIA H100 и H200, а также L40S. В скором будущем компания рассчитывает добавить и новейшие суперускорители GB200 NVL72.
#hardware #nebius #nvidia #ии #облако #h100 #h200 #l40
#servernews @servernewsru

https://servernews.ru/1112597/?utm_source=nova&utm_medium=tg&utm_campaign=sn