🧬 Свежее интервью СТО Microsoft Kevin Scott почти полностью строилось вокруг AI и дальнейшего развития. Вопреки мнению многих скептиков, пока не видно уменьшения эффективности масштабирования моделей. Делаешь больше, учишь дольше, получаешь модель лучше. К сожалению, людям это сложнее прочувствовать, так как вместо наблюдения за кривой развития мы лишь получаем одну точку (фронтир модель) раз в сколько-то месяцев или лет, так как датацентры нужно построить, решить инженерные задачи для масштабирования и несмотря на то, что размеры тренировочных кластеров и не думают уменьшаться, с ростом полезности моделей и проникновения их в экономику затраты на развёртывание и применение будут в разы больше оных на обучение.

Scott снова рассказывает, что следующая фронтир модель OpenAI докажет тезисы выше, мол, развитие не замедляется, масштабирование как работало последние 6 лет, так и продолжает, и стоит рассчитывать на существенные улучшения по всем направлениям. И как раз, к вопросу про тренировочные кластера и вычислительные мощности:
1. Маск говорит, что второй #Grōk уже дотренировали и сейчас полируют, и он должен выйти в следующем месяце;
2. Grok-3 планируется на конец года, и по словам Илона, будет тренироваться на кластере из 100 тыс. H100. Для справки: GPT-4 в 2022-м году тренировали на 25'000 карт прошлого поколения.
3. #OpenAI и Microsoft не спят и тоже заключают партнёрство с Oracle, чтобы ко второй половине 2025 построить кластер на 100 тыс. GB200 — это уже карты следующего поколения, каждая состоит из двух чипов, а значит как минимум в два с копейками раз мощнее. Мысленно можете читать это как 200 тыс. карт. Интересно, на нём ли будут тренировать GPT-6?🤔

🧩 #AINews

🧬 Слух: OpenAI всё-таки не будет включать в совет директоров топ-менеджеров Apple, Microsoft и других компаний

На прошлой неделе стало известно, что глава отдела маркетинга Apple Фил Шиллер войдёт в состав совета директров OpenAI, но без права голоса. На таких же условиях войти в совет директоров готовились топ-менеджеры Microsoft и других компаний-партнёров.

Теперь последние слухи гласят, что OpenAI всё-таки отказалась от этой идеи, а Сэм Альтман останется единоличным руководителем OpenAI без совета директоров в принципе.

Точные причины неизвестны, однако антимонопольные регуляторы в США и Евросоюзе уже проверяют тесное сотрудничество с инвестициями между Microsoft и OpenAI. Может быть, компании решили предостеречься, чтобы не попасть под подозрения.🤔

🧩 #AINews