Компания NVIDIA опубликовала новые, ещё более впечатляющие результаты в области работы с большими языковыми моделями (LLM) в бенчмарке MLPerf Inference 4.0. За прошедшие полгода и без того высокие результаты, демонстрируемые архитектурой Hopper в инференс-сценариях, удалось улучшить практически втрое. Столь внушительный результат достигнут благодаря как аппаратным улучшениям в ускорителях H200, так и программным оптимизациям.
#software #nvidia #mlperf #ии #инференс #h200 #бенчмарк
#servernews @servernewsru

https://servernews.ru/1102371/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания Supermicro анонсировала новые серверы для задач ИИ и НРС. Дебютировали системы высокой плотности с жидкостным охлаждением, а также устройства, оборудованные высокопроизводительными ускорителями AMD, Intel и NVIDIA.
#hardware #supermicro #amd #instinct #intel #habana #nvidia #h100 #h200 #сервер #ии #isc2024
#servernews @servernewsru

https://servernews.ru/1104679/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Вычислительные платформы NVIDIA снова продемонстрировали высокую производительность, на этот раз в свежих тестах MLPerf Training v4.0. Так, суперкомпьютер NVIDIA EOS-DFW более чем утроил свою производительность в LLM-тесте на базе GPT-3 175B по сравнению с прошлогодним результатом.
#nvidia #ии #mlperf #software #h200 #h100 #бенчмарк
#servernews @servernewsru

https://servernews.ru/1106360/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания Northern Data, деятельность которой связана с майнингом криптовалюты, предоставлением услуг высокопроизводительных вычислений (HPC) и ИИ, обдумывает возможность проведения IPO подразделений Taiga и Ardent, предоставляющих услуги облачных вычислений и ЦОД соответственно, пишет Bloomberg.
#northerndata #hardware #ipo #майнинг #облако #цод #ии #nvidia #h100 #h200 #tether
#servernews @servernewsru

https://servernews.ru/1107421/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Японский национальный институт передовых промышленных наук и технологий (AIST) объявил о планах по строительству в Касива (Kashiwa, префектура Тиба) нового суперкомпьютера AI Bridging Cloud Infrastructure 3.0 (ABCI 3.0), представляющего собой очередное обновление ИИ-платформы ABCI, запущенной в 2018 году. Новый суперкомпьютер будет предлагаться в качестве облачного сервиса как государственным, так и частным организациям страны, сообщается в блоге NVIDIA.
#nvidia #hpe #hardware #суперкомпьютер #ии #япония #aist #h200 #облако
#servernews @servernewsru

https://servernews.ru/1107943/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания Gigabyte анонсировала HGX-серверы G593-SD1-AAX3 и G593-ZD1-AAX3, предназначенные для задач ИИ и НРС. Устройства, выполненные в форм-факторе 5U, включают до восьми ускорителей NVIDIA H200. При этом используется воздушное охлаждение.
#hardware #gigabyte #сервер #ии #nvidia #h200 #hgx #amd #intel #epyc #xeon #emeraldrapids #genoa
#servernews @servernewsru

https://servernews.ru/1109621/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания Giga Computing, подразделение Gigabyte, анонсировала серверы G593-ZD1-LAX3 и G593-SD1-LAX3, предназначенные для ресурсоёмких нагрузок, связанных с ИИ. Устройства, оснащённые системой прямого жидкостного охлаждения (DLC) от CoolIT, могут нести на борту до восьми ускорителей NVIDIA HGX H200.
#hardware #gigabyte #nvidia #h200 #amd #epyc #genoa #intel #xeon #сервер #emeraldrapids #sapphirerapids #coolitsystems
#servernews @servernewsru

https://servernews.ru/1110654/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Nebius, бывшая материнская компания «Яндекса», объявила о развёртывании своего первого вычислительного ИИ-кластера во Франции. Комплекс, предназначенный для нагрузок ИИ, сформирован на базе дата-центра Equinix PA10 в Сен-Дени — в 9 км к северу от центра Парижа.
#hardware #nebius #nvidia #h200 #франция #ии #цод #кластер
#servernews @servernewsru

https://servernews.ru/1111557/?utm_source=nova&utm_medium=tg&utm_campaign=sn

В августе 2023 года Microsoft развернула в своём облаке Azure инстансы ND H100 v5 на базе NVIDIA H100 для HPC-вычислений и нагрузок ИИ. А теперь запущены машины ND H200 v5 с ускорителями NVIDIA H200, оптимизированные для инференса и обучения больших языковых моделей (LLM).
#hardware #microsoftazure #nvidia #h200 #ии #облако
#servernews @servernewsru

https://servernews.ru/1112078/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания Nebius, образовавшаяся из Yandex N.V., занимающаяся разработкой ЦОД для систем искусственного интеллекта, объявила об увеличении мощности дата-центра в финской общине Мянтсяля. По данным Datacenter Dynamics, ёмкость расширяющегося ЦОД вырастет втрое.
#hardware #цод #nebius #h200 #финляндия #евросоюз
#servernews @servernewsru

https://servernews.ru/1112189/?utm_source=nova&utm_medium=tg&utm_campaign=sn

ИИ-компания Nebius, сформированная из бывшей Yandex N.V., представила облачную платформу с современными ускорителями NVIDIA. Как уточняет Datacenter Dynamics, речь идёт о моделях NVIDIA H100 и H200, а также L40S. В скором будущем компания рассчитывает добавить и новейшие суперускорители GB200 NVL72.
#hardware #nebius #nvidia #ии #облако #h100 #h200 #l40
#servernews @servernewsru

https://servernews.ru/1112597/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания Cisco анонсировала сервер высокой плотности UCS C885A M8, предназначенный для решения задач в области ИИ, таких как обучение больших языковых моделей (LLM), тонкая настройка моделей, инференс, RAG и пр.
#hardware #cisco #nvidia #h100 #h200 #ии #сервер #hgx #amd #instinct #mi300 #epyc #genoa #turin
#servernews @servernewsru

https://servernews.ru/1113296/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания Google объявила о том, что в составе её облачной платформы в скором времени станут доступны инстансы A3 Ultra на базе ускорителей NVIDIA H200. Новые виртуальные машины предназначены для ресурсоёмких нагрузок, связанных с ИИ, включая обучение больших языковых моделей (LLM).
#hardware #googlecloudplatform #nvidia #h200 #облако #ии #gb200
#servernews @servernewsru

https://servernews.ru/1113448/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания NVIDIA анонсировала ускоритель H200 NVL, выполненный в виде двухслотовой карты расширения PCIe. Изделие, как утверждается, ориентировано на гибко конфигурируемые корпоративные системы с воздушным охлаждением для задач ИИ и НРС.
#hardware #nvidia #ии #ускоритель #h200 #gb200 #b100 #sc24
#servernews @servernewsru

https://servernews.ru/1114148/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания HPE анонсировала обновление модельного ряда HPC-систем HPE Cray Supercomputing EX, а также представила новые модели серверов из серии Proliant. По словам компании, новые HPC-решения предназначены в первую очередь для научно-исследовательских институтов, работающих над решением ресурсоёмких задач.
#hardware #hpe #суперкомпьютер #hpc #ии #схд #интерконнект #nvidia #gb200 #amd #epyc #turin #400gbe #habana #h200 #intel #mi300 #sc24
#servernews @servernewsru

https://servernews.ru/1114187/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Nebius, бывшая материнская компания «Яндекса», объявила о создании своего первого вычислительного ИИ-кластера на территории США. Система будет развёрнута на базе дата-центра Patmos в Канзас-Сити (штат Миссури), а её ввод в эксплуатацию запланирован на I квартал 2025 года.
#hardware #nebius #nvidia #h200 #ии #кластер #цод #сша
#servernews @servernewsru

https://servernews.ru/1114285/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Компания Dell анонсировала серверы PowerEdge XE9685L и PowerEdge XE7740, предназначенные для НРС и ресурсоёмких рабочих нагрузок ИИ. Устройства могут монтироваться в 19" стойку высокой плотности Dell Integrated Rack 5000 (IR5000), что позволяет экономить место в дата-центрах.
#hardware #dell #amd #epyc #turin #intel #xeon #nvidia #h200 #сервер #ии #sc24
#servernews @servernewsru

https://servernews.ru/1114288/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Корпорация Oracle сообщила о доступности облачного суперкластера с ускорителями NVIDIA H200, предназначенного для ресурсоёмких ИИ-нагрузок, включая обучение больших языковых моделей (LLM). Арендовать мощности системы можно по цене от $10 в час в расчёте на GPU.
#hardware #oracle #oraclecloudplatform #nvidia #h200 #ии #кластер #облако #суперкомпьютер
#servernews @servernewsru

https://servernews.ru/1114406/?utm_source=nova&utm_medium=tg&utm_campaign=sn

Облачная платформа AWS объявила о доступности инстансов EC2 P5en, рассчитанных на такие нагрузки, как глубокое обучение, генеративный ИИ, обработка данных в реальном времени и приложения HPC. В основу новых экземпляров положены аппаратные компоненты Intel и NVIDIA.
#hardware #aws #nvidia #h200 #intel #xeon #sapphirerapids #облако #ии
#servernews @servernewsru

https://servernews.ru/1114989/?utm_source=nova&utm_medium=tg&utm_campaign=sn