Google Cloud представляет новую архитектуру AI Hypercomputer

Google Cloud анонсировал новую архитектуру AI Hypercomputer для оптимизации работы с передовыми моделями ИИ. 🚀
Ключевые обновления включают:
- Cloud TPU v5p для обучения крупнейших генеративных моделей ИИ
- Расширение возможностей GPU NVIDIA (A3 Mega VM на базе H100, NVIDIA Blackwell)
- Оптимизации системы хранения для ИИ (Cloud Storage FUSE, Parallelstore, Filestore, Hyperdisk ML)
- Программные улучшения: JAX, MaxText, PyTorch/XLA 2.3, Jetstream
- Google Distributed Cloud для развертывания сервисов ИИ on-premise
Новая архитектура призвана повысить производительность, эффективность и гибкость работы с ИИ. 💪

и еще про партнерство:
https://blogs.nvidia.com/blog/nvidia-google-cloud-ai-development/

#GoogleCloud #Nvidia #TPU
-------
@tsingular

Google выпускает TPU шестого поколения - Trillium

Высокопроизводительный тензорный процессор получил фантастические улучшения показателей.
Скорость обработки возросла в 4.7 раза, энергоэффективность увеличилась на 67%.
Объединение до 100000 чипов в единую сеть демонстрирует 94% эффективность на кластере из 6144 процессоров.
Удвоенный размер высокоскоростной памяти позволяет эффективнее обрабатывать крупные языковые модели.
Именно на этой архитектуре обучался Gemini 2.0.
Цена вычислений снизилась в 2.5 раза для тренировки и 1.4 раза для инференса.

Похоже, скоро каждый сможет обучить своего Gemini на домашнем суперкомпьютере. Ну, почти... 🤖

Gemini 2 Flash Experimental уже доступна, кстати.
Может это утром она как раз и была.
Ещё бы gemma3 для локальных машин.. или хотя бы gemma 2.5 с контекстом на 128К.
Очень ждём.

#Trillium #TPU #Gemini #Google
-------
@tsingular