Прочитал за вас большой анализ по Trainium2, новой вычислительной платформе от Amazon.

- Главная задача в разработке Trainium2 — повысить конкурентоспособность AWS на рынке предоставления услуг для GenAI.
- AWS делает кластер на 400000 чипов Trainium2 для Anthropic в рамках Проекта Rainier, что указывает на сильное партнерство. Мы часто обсуждали, есть ли связь между амазоном и Антропиком помимо инвестиций.
- Главные цифры — 650 TFLOP/s и 96GB памяти.
- NeuronLinkv3 — шина высокоскоростной внутренней и межсерверной связи, образует очень красивый гиперкуб, в котором 32 узла Trainium2 связаны друг с другом на скорости в 640 гигабит. И пока это чуть ли не самое интересное и свежее во всей конструкции платформы.
- Раздельные движки для работы с разными типами данных (Tensor, Vector, Scalar) тоже выгодно отличают Trainium от классических GPU.
- Trainium2 — это прямой конкурент Nvidia H100 и Google TPU.
- Энергобюджет для кластеров Trainium2 до 48 кВт на сервер Trn2-Ultra. В общем, за потреблением амазону приходится следить.
- AWS внедрила автоматизированные проверки работоспособности и диагностику для обеспечения надежности прямо в платформу. Очень умно и красиво, тут виден прямо подход.

Я вам очень рекомендую прочитать статью самим, прямо глубоко. На фоне недавнего рассказа Эппл о том, что они активно используют Trainium2 и вообще живут на этом куске Амазона, — популярность этого решения будет расти и быстро.

https://semianalysis.com/2024/12/03/amazons-ai-self-sufficiency-trainium2-architecture-networking/

Aurora DSQL — мечта разработчика

Главным событием re:Invent 2024 определённо является появление Aurora DSQL — новой инкарнации Aurora, как результат её 10 лет разработки.

С появления революционной DynamoDB в 2012-м каждый первый разработчик спрашивал — а можно нам такое же, с этими фичами, только Relational и лучше Postgres?

Теперь можно: Aurora DSQL = multi-region + active-active + serverless + strong-consistency.

Под капотом Aurora DSQL в реальности целый комбайн сервисов. Представьте, что каждый ваш запрос обрабатывается отдельной Лямбдой. С великолепными возможностями скейлинга, причём крайне эффективного и отдельным сервисом для хранилища, отделяя таким образом compute от storage.

А самое офигительное, что практически удалив кэширование (сделав его динамическим) и с использованием принципиально ускорившейся за последние годы сети, удалось сделать Aurora DSQL волшебным strongly consistent даже в контексте мульти-регион конфигурации.

Ещё не до конца разобрался, как AWS удалось победить проблему скорости света. 😀 Ведь при использовании регионов на разных сторонах Земли задержка будет в секунду просто на прохождение таких расстояний. Подожду Aurora DSQL Deep Dive видео с re:Invent 2024.

Вот хорошие статьи с подкапотными деталями Aurora DSQL:

🔸 https://blog.datachef.co/aurora-dsql-a-new-boring-aws-serverless-postgres-compatible-database

🔹 https://brooker.co.za/blog/2024/12/04/inside-dsql.html

Добавляйте свои мысли/ссылки по Aurora DSQL в комментариях.

P.S. Aurora DSQL заявлена как "serverless", но не подразумевает скейла в 0. Как минимум это справедливо для текущей версии.

#Aurora

𝐁𝐞𝐜𝐨𝐦𝐞 𝐚𝐧 𝐀𝐖𝐒 𝐏𝐫𝐚𝐜𝐭𝐢𝐭𝐢𝐨𝐧𝐞𝐫 𝐢𝐧 5 𝐰𝐞𝐞𝐤𝐬 😎

Join our free online course starting on 9th December 2024!

With weekly assignments and online sessions led by RS School trainers, Anton Kustikov (Systems Engineer, AWS DevOps Engineer) and Saidazizkhon Akbarov (Solutions Architect / AWS Community Builder), you'll have the support you need to succeed.

By the end of the course, you'll have a solid foundation in AWS Basics. Plus, you'll receive an "AWS Cloud Quest: Cloud Practitioner" digital badge to showcase your achievement.

■ "AWS Cloud Quest: Cloud Practitioner" Badge
■ Free
■ Online
■ In English
■ 9th December 2024!

🔥 No previous experience is required!

Don't miss out on this opportunity to learn with our community of developers!

Find out more details and enroll by the link:
https://wearecommunity.io/events/aws-fundamentals-course-2024q4


🖤 We would really appreciate it if you could share this information with your friends.

Новости с re:Invent 2024, часть 2.

https://www.youtube.com/live/a2dum-Ibr6c

#reInvent

Live: Почему публичные облака сломаны как технология

🗓 в эту пятницу в 20:00 по МСК

Вместе с Georg Gaal @gecube и Andrey Gumilev @Agumilev
всё самое важное будем рассказывать на стриме ;)

Прямая трансляция: https://www.youtube.com/live/JlYl1EMzjJs?si=vsouUm1rfWcPFYLl
с ответами на вопросы из чата YouTube

🔥IT STAND | FIDELINA.RU | Бот

Новости с re:Invent 2024, часть 3.

https://www.youtube.com/live/zGH8X9q18N8

Присоединяйтесь!

#reInvent

Всем привет .

🔥 Выпущена версия 0.16.1 платформы для изучения SRE! 🔥
GitHub

📌 Что нового:

Лабораторная работа CKS 26: Установка Cilium с WireGuard
Решение для CKS 26 .
Видео-решение для CKS 26

Лабораторная работа CKA 08 обновлена до версии Kubernetes 1.31


Обновлён образ ping_pong

Тест CKAD Mock 02 обновлён. Добавлен вопрос 21
Решения для теста CKAD Mock 02 вопрос 21

Тест CKAD Mock 02: обновлён вопрос 02
Решение для вопроса 02 теста CKAD Mock 02

🧪 Доступные пробные экзамены:
CKA
CKAD
CKS
LFCS

Скрипты и видео с решениями экзаменов:

🎥 Трансляции на канале DKT:
Обсуждение подготовки и сдачи экзаменов CKA, CKS, CKAD:


Первый эпизод подготовки к экзамену CKAD

Постквантовая криптография наступает/-ила

Тема PQC (Post-Quantum Cryptography) сильно продвинулась в 2024-м году. Во-первых, 2024-м году NIST утвердил три главных алгоритма, с которыми предстоить жить, внедрять, переходить в будущем. Сложные названия переименовали для простоты.

◽ ML-KEM (Module-Lattice Key-Encapsulation Mechanism) — бывший CRYSTALS-Kyber

◽ ML-DSA (Module-Lattice Digital Signature) — бывший CRYSTALS-Dilithium

◽ SLH-DSA (Stateless Hash Digital Signature) — бывший Sphincs+

Во время re:Invent 2024 вышел достаточно объёмный план перехода AWS на PQC по всем фронтам:

https://aws.amazon.com/blogs/security/aws-post-quantum-cryptography-migration-plan/

Кто впервые слышит про PQC, то кратко — с прогрессом в области квантовых вычислений можно будет взламывать подавляющее большинство привычных методов шифрования на ура. Некоторые утверждают, что это свершившийся факт ещё пару лет назад.

Для простоты, если вы используете как бы безопасный сейчас TLS 1.2, то в недалёком будущем любой дурак из спецслужб с квантовым компьютером, имеющим достаточное количество кубит, сделает это на лету. И даже если это будет через десяток лет (и даже не один), то проблема в том, что уже сейчас можно записать, чтобы после расшифровать.

Поэтому так форсируется переход на алгоритмы, которые не получится взломать даже с помощью самых суровых квантовых компьютеров.

Интересно, что некоторые (безопасники Австралии) бегут впереди PQC-паровоза и уже сейчас предупреждают, что самые ходовые алгоритмы шифрования будут запрещены к использованию после 2030-го года:

🔹 AES-128 и AES-192
🔸 RSA — все
🔹 SHA-224 и SHA-256
🔸 HMAC-SHA256
🔹 DH и ECDH — все
🔸 ECDSA — все

Такие же планы есть у NIST, лишь на пяток лет позже. Уверен, что AWS внедрит это ещё раньше. Поэтому стоит держать в голове уже сейчас, выбирая себе допустимые алгоритмы шифрования, ежели у вас серьёзный по этой части проект.

Интересно отметить, что Google Chrome начиная с 131-й версии (которая должна быть у вас на момент написания поста) поддерживает ML-KEM.

Полезные ссылки:

https://aws.amazon.com/security/post-quantum-cryptography/

https://csrc.nist.gov/news/2024/postquantum-cryptography-fips-approved

#PQC #security

Всем привет!

В этот четверг, 19 декабря, пройдет стрим на тему AWS Re:Invent 2024 Quick Recap.

Sergey Kirgizov и Said Akhmed Agitaev ездили в Лас-Вегас, чтобы лично посетить конференцию. На стриме они поделятся своим опытом, впечатлениями, а также кратко расскажут об основных темах конференции.

📺 Встреча начнется в 14:00 CET (GMT+1) на YouTube-канале:
https://www.youtube.com/watch?v=YgQIFAxrrR4

А саму встречу будет вести Saidazizkhon Akbarov.

Не забудьте нажать на колокольчик, чтобы не пропустить начало! 🔔
Ждем вас и ваши комментарии!

☁️ RS AWS Club ☁️

Продолжаем серию практических встреч c Anton Kovalenko (Senior Solutions Architect, AWS Munich).

В эту пятницу, 20 декабря, нас ждет продолжение рефакторинга приложения с помощью Amazon Q Developer, а именно написание юнит тестов.

📺 Встреча пройдет в 15:00 CET (GMT+1) на YouTube канале:
https://www.youtube.com/watch?v=OE8Vz_1GB7U

Жмите колокольчик, чтобы не пропустить начало! 🔔

ARM & Graviton vs x86 & Intel/AMD

Есть важное отличие у ARM процессоров (Graviton) и x86 (Intel/AMD). У ARM процессоров нет Hyper-threading, то есть разбиения одного физического CPU на два логических, видимых для системы как обычные CPU.

Сделано это для того, чтобы загрузить процессор, пока он простаивает. А он действительно большую часть простаивает, т.к. операции загрузки из памяти (при промахе из кэша или ошибки предсказания переходов) занимают бесконечно много тактов по сравнению с непосредственно выполнением.

Разбиение на логические процессоры сделано на железном уровне и крайне эффективно, практически как надёжность S3 бакета. С одним важным НО — до 50% нагрузки. Потому что, если два логических шарятся на один физический, то оба логических можно загрузить лишь 50%+50% в одно и то же время.

Для облаков это имеет эффектом, что если у вас виртуалка на Intel или AMD, то при повышении постоянной нагрузки выше 50%, тормоза могут проявляться скачкообразно, а не линейно, как вы планируете.

На картинке пример от серверного процессора на ARM при кодировании видео для 192 физических процессоров AmpereOne и 192 логических x86 (не нашёл, Intel или AMD). Видно, что после 50% логические больше дать не могут, что логично. 😀

В то время, как ARM график продолжает расти. Что тоже логично — ведь больше реальных процессоров то в два раза больше.

Замечу, что подобный эффект проявляется на специфичных нагрузках, когда требуется максимальный compute. Однако при прочих равных лучше сразу ориентироваться на Graviton — и дешевле (либо эффективней для более новых моделей), и более предсказуемой, и быстрей.

P.S. Graviton 4 рвёт AmpereOne как тузик грелку.

#Graviton

Custom Billing Views

В дополнение к возможности выставлять инвойс отдельно на какой-то "кусочек" AWS Organizations, теперь можно давать доступ к группе аккаунтов для отдельных команд (или клиентов), владеющих несколькими AWS аккаунтами:

https://aws.amazon.com/blogs/aws-cloud-financial-management/introducing-custom-billing-views-tailored-cost-and-usage-view-relevant-for-your-stakeholders/

То есть, если у вас есть Dev-Test-Stage-Prod аккаунты (а если нет — читайте multi-account best practices), вы теперь можете дать определённому аккаунту доступ к биллингу на эти четыре аккаунта и видеть это в одном месте, а не бегать по каждому аккаунту.

Другая крутая фича, что позволяет custom billing views, это возможность дать какому-то аккаунту доступ чисто к биллингу. Стандартная ситуация — просят помочь разобраться с биллингом, чтобы порезать косты, но сделать это просто так не получается, т.к. для этого приходилось давать доступ в главный Management аккаунт со всеми вытекающими.

Теперь же можно выдать отдельный пустой аккаунт, где не будет ничего, кроме доступа к биллингу всей (или части) организации. Так и безопасники довольны, и косты можно посоветовать, как порезать.

P.S. А порезать можно примерно всегда. Проверено на живых людях. Причём процесс оптимизации даже может быть бесплатным, когда клиент платит % от сэкономленного.

#billing #cost_optimization

Deep dive on Amazon S3

https://www.youtube.com/watch?v=NXehLy7IiPM

S3:

🔸400 trillion objects amounting to exabytes of data
🔹150 million requests per second daily
🔸200 billion event notifications
🔹1 petabyte per second of traffic worldwide at peak

🔸tens of millions of hard drives, 20 terabytes each
🔹storage rack is about 1000 disks, 20 petabytes each

#S3 #video

AWS Notes итоги 2024 — 1.1 миллион просмотров!

Free course for learning OpenTofu:

https://training.linuxfoundation.org/express-learning/getting-started-with-opentofu-lfel1009/

#OpenTofu