Colossus расширят минимум до миллиона видеокарт

Размер суперкомпьютера xAI, который построили за рекордные четыре месяца, пару месяцев назад начали удваивать - к 100k H100 решили докинуть 50k H100 и 50k H200. Закончены ли уже работы - непонятно, но Маск вроде пока этим не хвастался.

До лета следующего года планируется докинуть ещё 300к GB200, первые из которых начнут устанавливать уже в январе, за приоритетный доступ к GPU Маск заплатил больше миллиарда долларов. А вот сейчас выяснилось что и это не предел, а общее количество карт планируется довести более чем до миллиона.

Для понимания масштабов - Llama 3 405B тренировали на 16k H100, Grok 2 - на 20k. Кластеры для тренировки других передовых моделей тоже находятся в пределах пары десятков тысяч GPU. Следующее поколение моделей, вроде Grok 3, тренируется уже на 100k+ GPU, а компании уже закладывают инфраструктуру на всё большую и большую тренировку.

А ведь миллион GPU это не предел - уже какое-то время ходят слухи о многогигаваттных инсталляциях, стоимостью за сотню миллиардов долларов каждая, с многими миллионами чипов.

@ai_newz

Последняя в этом году колонка в российском Форбсе: мне совершенно не хотелось подводить итоги; нестройный хор подводящих не перекричать. Но зато было интересно вспомнить разнообразие метафор, которые создатели ИИ (а не внешние наблюдатели) предпочитали использовать в течение года. Новое без метафор трудно объяснить посторонним. Поэтому полезно вслушиваться в рассказы о моделях как цифровых существах, про текущее состояние отрасли как момент создания неуклюжего и недолго прожившего парового двигателя, про выращивание и дрессировку как более адекватное описание процесса создания моделей.
С интересом буду ждать метафор-2025 :)

https://www.forbes.ru/tekhnologii/526278-znaki-perenosa-kak-metafory-sposobstvuut-ponimaniu-iskusstvennogo-intellekta

Табличка совсем не про мои любимые технологии, но свежая красивая иллюстрация важности отличий среднего от медианы. Несмотря на якобы всеобщую грамотность, до обидного много людей все еще отличия не понимают, а использование среднего — все еще мощнейший инструмент манипуляции якобы “объективными данными”.
Разница в четыре с хвостиком раза для Швейцарии прямо умиляет 🙂
https://www.visualcapitalist.com/ranked-top-20-countries-by-average-vs-median-wealth/

Этот анонс сейчас быстренько завирусит — особенно среди людей нервных и впечатлительных: робот, подозрительно смахивающий на обитателей “Мира дикого запада” — только не на съемочной площадке, а на рынке: предзаказы уже принимают.
Человекоподобный робот Clone Alpha построен на биомиметических принципах: в его механике активно использованы синтетические аналоги органов человека, пусть и работающие на иных принципах. Технология Myofiber, к примеру, — это аналог мышечной ткани, которая способна сокращаться на 30% за счет напора воды в специальном материале, а его полимерный скелет довольно близко копирует структуру человеческого скелета.
Публичных демонстраций робота с вызывающе человеческой пластикой пока не было, основатели стартапа традиционно позиционирует свое детище as a step toward robots that can handle everyday tasks in homes and workplaces.
Про интеллект изделия известно мало; фраза the robot includes four depth cameras and runs on what Clone calls "Cybernet," their visuomotor foundation model” не сильно просветляет.
https://www.maginative.com/article/meet-clone-alpha-a-humanoid-robot-built-with-synthetic-organs-and-artificial-muscles/
Есть видео, но там много очевидных рендеров и неясно, насколько движения автономны — или, в стиле Оптимуса, — являются повтором движений удаленного оператора: https://www.youtube.com/watch?v=C6u08rIa8o4

Про канареек в шахтах все знают (ну почти). А вот история чуть посложней, но потому даже красивей.
Моллюски питаются, процеживая окружающую воду. Эволюция оставила в живых только тех, кто умеет реагировать на качество этой воды. Вопрос — как именно реагировать. Оказывается, движения створок раковины напрямую связаны с составом воды. Остальное — вопрос измерений параметров этого движения и машинного обучения, интерпретирующего подвижность створок.
Для измерения движений выбрали легкие электромагнитные датчики, крепящиеся к краям створок раковины; машинное обучение нынче — дело техники.
Осталось поместить несколько (статистика реакций лучше, чем одиночная реакция + резервирование повышает надежность) моллюсков в сетчатую конструкцию, устанавливаемую в поток воды — и готов датчик, который по словам представителей molluSCAN чувствительней традиционных в 10-100 раз. А еще он требует куда меньше ухода, потому что за состоянием своих створок моллюски сами следят.
По миру разбросано уже около 90 точек, где используется эта технология; решение действительно работает.
https://newatlas.com/environment/molluscan-eye-mollusk-water-pollution/

Эх, лучше бы этот лонгрид порекомендовать под выходные, но вдруг захочется интересного чтива воскресным вечером или даже посреди рабочей недели:)
Начну с несколько провокационной идеи, которая приведена в конце текста: ксенофобия — это боязнь чужого. Не является ли отношение некоторых людей к ИИ-ассистентам, в особенности к тем компаньонам, которые заточены под личные отношения, ярким проявлением ксенофобии? От себя замечу: некоторые активно настаивающие, что ИИ всегда лишь инструмент, с тем же рвением осуждают ксенофобию в ее расовых проявлениях, и это особенно забавно.
А статья — про людей, влюбившихся в/подружившихся с ИИ-созданиями. Среди них и пользователи Replika, и пользователи Nomi, и пользователи стартапов, которым не повезло. Люди, часто так нашедшие свое счастье.
Пересказывать не буду, это редкий пример статьи, которая теряет смысл при пересказе или ИИ-реферировании. Ее интересно читать подряд и неторопливо, потому что там нет готовых ответов и советов, зато на мысли разные интересные наталкивает хорошо.

https://www.theverge.com/c/24300623/ai-companions-replika-openai-chatgpt-assistant-romance

🇺🇸 Роботизация магазинов. Роботизация складов. Инвентаризация торговых залов. США

Флотилия BrainCorp обслужила 23,2 млрд квадратных метров складских помещений

Калифорнийская Brain Corp отчиталась о том, что управляемая ее “облаком” флотилия из более чем 37 тыс. автономных мобильных роботележек (AMR) суммарно обслужила свыше 23,2 млрд квадратных метров складских помещений и распределительных центров.

Рой роботов сохранял автономность на протяжении совокупных 19 млн часов. Облачная платформа Brain Corp, получившая название BrainOS, обслуживает крупную флотилию AMR, действующую в коммерческих складских комплексах.

Brain Corp отчитались о 340%-ном приросте числа обслуживаемых AMR в области складского хозяйства в интервале между третьим кварталом 2022 года и аналогичным периодом 2024 года. Кроме того, на 123% возросло число образовательных AMR, на 91% - AMR, используемых в аэропортах, на 53% - в ритейле и на 16% - в торговых комплексах.

В феврале 2024 года партнером Brain Corp стал производитель чистящих систем Tennant Co, позже к нему присоединились JRTech Solutions (разработчик электронных ценников для супермаркетов). Роботы для чистки пола Brain Corp / Tenant не только моют пол, но также осматривают полки и сканируют товарные позиции. Неплохая идея?

Стоит обратить внимание на масштабы. Когда речь идет о десятках тысяч развернутых роботов, то, как правило, это экономически жизнеспособный, подтвердивший свою востребованность в отрасли проект.

@PROrobots по материалам The Robot Report

#инвентаризация #склады #торговля #AMR #роботизация

Еще одна новогодняя традиция, это списки “что-то/кто-то года”: что-то может быть продуктом, достижением, технологией…
Еще с прошлого века журнал Popular Science устраивает премии “лучшая инновация года”, где собирает все, что делает нашу жизнь комфортабельней, насыщенней, интересней и приятней. Тема широкая, поэтому и вещи в нее попадают очень разные — читать, как правило, интересно.
Лауреаты в одной из 10 номинаций такие:
Гаджеты — Vision Pro, Sony A9III, DJI Neo, Palma by BOOX, Snapdragon X-series chips
Уже интересно и достаточно пестро, правда?
А еще есть категории
Развлечения, Авиакосмическая область, Здоровье и уход, Авто, Инженерные достижения,
Спорт и активный отдых, Дом, Экстренные службы, Здоровье
Все 50 лауреатов здесь перечислять не буду, но любопытствующим в области технического прогресса очень советую и список взглянуть, и мотивационную часть про каждого победителя:)

https://www.popsci.com/technology/best-of-whats-new-2024/

Неудивительно, что это видео в Китае завирусилось: шарообразный робот вполне мог бы играть роль в очередном фильме-антиутопии. Особенно впечатляют кадры, где он с ног сбивает хулигана:)
А вообще интересная проработка форм-фактора из фантастических произведений для реального мира; причем доведенная до рыночного продукта, а не просто красивой концепции. Logon Technology выпустила своего RT-G как ассистента для людей в опасных местах или ситуациях. Перемещается по земле (скорость до 35 км/час) и воде, способен выдерживать ударные нагрузки до 4 тонн, в городе может использоваться как patrol robot capable of identifying criminals and immobilizing them thanks to its suites of advanced AI-powered software.
Казалось, это просто маркетинговая акция — но уже появились кадры участия этого шара в реальных патрулях. Видео в этой статье вообще впечатляют куда сильнее картинок — взгляните. Например, этот шар выигрывает дуэль с робопсом и беспощадно его давит...
https://www.odditycentral.com/news/chinese-police-introduces-autonomous-spherical-patrol-robot.html

Очень красивая новость из Ирландии: “This is the first time ever anywhere in the world that machine learning has been used to design and fabricate a silicon chip entirely from scratch.”
Команда из University of Limerick подала патент на реализованный ими способ проектирования и последующего изготовления микрочипов, исключающий человеческие ошибки и медлительность. Утверждается, что процесс способен replace traditional methods with an entirely automated flow, reducing the need for human intervention and minimising the risks of design errors. Команда намерена работать с несколькими ведущими изготовителями микропроцессоров и сотрудничает уже с TSMC.
Хороший повод технофобам встревожиться — сделан уверенный шаг к самостоятельной эволюции машин:))
https://irishtechnews.ie/a-worlds-first-silicon-chip-design-breakthrough/

Ну и более легкомысленная новость. Побывавшие в Японии знают, как там сильно развит культ санитарно-гигиенического оборудования: еще задолго до всеобщей цифровизации управление многочисленными функциями унитаза способно было ввести чужака в ступор (как интерфейсом, так и возможностями). Сам в такой роли побывал:)
Но вот следующая ступень развития: стиральная машина для человека. Устройство, загрузившись в которое человек за 15 минут будет оптимально и приятно санобработан, вымыт и высушен в сопровождении успокаивающих расслабляющих видео. Специально сконфигурированные струи и потоки микропузырьков идеально и глубоко очистят кожу, а постоянный мониторинг пульса и других биологических метрик поможет процедуре настраиваться на максимальное удовлетворение эээ… объекта процедуры. Процедура очищения должна, по мнению создателей, иметь не только физическую сторону, но и психологическую.
Вот только жаль, что прототип считается пока лишь на 70% готовым к серийному запуску.
https://in.mashable.com/tech/86442/this-human-washing-machine-from-japan-will-clean-and-dry-your-body-in-no-time

Полезный лонгрид на выходные (если, конечно, есть время читать, а не суетиться в связи с Наступающим:) )
Недавние новости про то, что GM закрыл свою программу разработки роботакси, нередко интерпретируют как крах самой идеи автономного транспорта. Но в реальности проблема глубже и интересней: компании из традиционного бизнеса все чаще убеждаются, что они не в состоянии вести себя как компании технологические — хотя очень хочется.
Не случайно в технологических компаниях принято даже после выхода на биржу сохранять контроль за собственным менеджментом, а до выхода — вообще не сильно соблазнять инвесторов краткосрочными прибылями. В мире биг (или не очень биг) техов нормально уронить текущую прибыльность ради лидерства через несколько лет.
В традиционном автопроме так нельзя. Инвесторы привыкли к устойчивым прогнозируемым дивидендам, активисты из их числа всегда готовы призвать менеджмент к ответу, а то и сместить. Долгосрок там не в чести.
В статье есть отличные слова: the success of Tesla CEO Elon Musk is due in no small part to his ability to outlast his own investors — а не только в самой инновационности Теслы. Car company execs are always at risk of being replaced in a way Musk is not.
И это касается не только GM. Not like trying to be a tech company ever really works out for automakers.
И это в долгосроке может многим традиционным компаниям выйти боком — а для некоторых срок будет не так уж долог.
А если еще подумать — это касается не только автопрома:)
https://www.theautopian.com/automakers-keep-learning-theyre-not-tech-companies/

Несколько дней в ленте куча анонсов происходящего на AIJ. Живьем я туда не ходил, но в юниорском треке выложена запись моего рассказа для школьников про ИТ, ИИ и будущее. Может оказаться интересным и кому-то немного постарше:)
https://vk.com/video-22522055_456244908?ref_domain=aij.ru

Мустафа Сулейман за прошедший год стал моим любимым автором. Человек, по крутейшей траектории Deep Mind — Google — Inflection — Microsoft оказался в роли Microsoft AI CEO, где его колоссальный опыт и немалые амбиции стали сочетаться с нехилыми ресурсами.
Его интервью и выступления вызывают ажиотаж, иногда кого-то раздражают, многих воодушевляют. И вот — очередное его интервью, хоть в аудио, хоть в текстовой расшифровке; отличное воскресное занятие.
Пересказывать не буду, оно очень визионерски-продуктовое и традиционно содержит нервирующие технофобов мысли:
most human knowledge work in the next five to 10 years could likely be performed by one of the AI systems
Он откровенно смеется над до сих пор популярными словесами про ИИ как машину плагиата или генератор повторов уже имеющегося контента и не сомневается в творческой природе ИИ-продуктов:
interpolation of the space between multiple N-dimensional elements of their training data is in itself the creative process, right?
Как мало кто еще понимает, насколько модели важны не сами по себе, а как трансформирующий элемент всего цифрового мира:
LLMs are being used at all sizes across the existing business for all kinds of things…
we already have models that are giving us more than we can extract and apply into products
Отвечая за Bing, он спокойно замечает, что
search is completely broken, and I think it’s a total pain in the butt — и верит, что у ИИ-продуктов уже есть достойное конкурентоспособное решение.
Очень рекомендую самостоятельно почитать-послушать:)
https://www.theverge.com/24314821/microsoft-ai-ceo-mustafa-suleyman-google-deepmind-openai-inflection-agi-decoder-podcast

Новый титан на рынке ИИ-чипов: Broadcom присоединяется к клубу триллионеров

Компания Broadcom преодолела отметку в триллион долларов капитализации после впечатляющего финансового отчёта. И это не просто очередная цифра в биржевых сводках, а показатель того, как искусственный интеллект меняет расстановку сил на рынке.

Конечно, когда мы говорим об ИИ-чипах, первым на ум приходит Nvidia, которая в мае 2023 года первой среди чип-мейкеров достигла капитализации в триллион долларов, а сейчас и вовсе перевалила за 3 триллиона. Но теперь у неё появился интересный сосед по элитному клубу.

Что же такого особенного в Broadcom? Компания, можно сказать, держит в руках ключи от всей инфраструктуры ИИ-дата-центров. Их сетевые чипы Tomahawk и Jericho — это то, без чего даже самые крутые GPU от Nvidia не смогут работать на полную мощность.

Читать полный текст...

Коротенечко про Android XR и Google Glasses

Десять лет назад Гугл выпустил google glasses и они были прекрасны. Но не взлетели.

Сейчас они заходят в эту реку второй раз.
Очки снова анонсировали на недавней конфе для разрабов Гугла вместе с анонсом Google: Android XR.
https://www.wired.com/story/google-android-xr-demo-smart-glasses-mixed-reality-headset-project-moohan/

Кстати, это уже пятая операционка от Гугла для мобильных утройств после Android, Wear OS, Google TV и Android Auto. Хромбуки не в счет.

Но им приходится снова быть (по традиции) в роли догоняющего.

Метачка уже вовсю обновляет существующие очки (теперь там есть ИИ-ассистент, переводчик и даже Шазам!), а у Гугла, как обычно, "когда-то в будущем".
https://www.theverge.com/2024/12/16/24322628/ray-ban-meta-smart-glasses-live-ai-translation-shazam

Интересно, что они объединились с Самсунгом и Квалкомом. А Самсунг даже показал ответочку Мета Квесту и Лыжной Маске - проект Мухан. Но тоже без сроков выхода и с невнятным позиционированием.
https://www.theverge.com/2024/12/12/24319528/google-android-xr-samsung-project-moohan-smart-glasses

Интересно, насколько именно операционка + Gemini смогут стать драйверами успеха очков от Гугла.
Вопрос набора киллер-фич, имхо.

Шазам в Рей-Банах от Метачки - одна из них.

На фото, я в 2015 году бегаю со слезами восторга по CG EVENT и ору "Ок, Гугл, take video!!", и оно снимает, зараза. Мы даже с Костей Харитоновым потом кино сделали оттуда. Было очень круто, в 2015 году смотрелось как фантастика.

@cgevent

Илон Маск любит мечтать широко — но мечты его нередко сбываются, так что прислушаться полезно (но помня, что сроки он всегда называет сверхоптимистично, жизнь их часто корректирует).
Сейчас он заговорил про 1 млн человек с Нейролинком к 2030. И это уже не только больные — это augmented humans, люди с дополненными возможностями. Макс предвидит будущее, where the boundary between humans and machines dissolves at a scale that could redefine humanity itself.
Истории первых двух пациентов впечатляют: один общается и играет благодаря нейрошунту, а второй еще и проектирует 3D объекты в специализированном софте. Но это еще отнюдь не дополненные возможности здоровых людей. Маска это не напрягает: он видит, что доказана возможность интеграции, пусть пока слабенькой, мозга и компьютера. И поэтому уверенно мечтает о прямом интерфейсе мозга и ИИ в будущем.
История показывает, что мечтает он весьма деятельно и продуктивно; будем наблюдать как в этой области пойдут дела.

https://www.forbes.com/sites/danfitzpatrick/2024/12/17/elon-predicts-one-million-humans-will-be-augmented-by-neuralink-by-2030/

Новость мне напомнила, как в свое время наше Яндекс Такси объявило о новом запуске — такси стало возможно заказывать не только в приложении, но и голосом, позвонив по любому обычному телефону. Настает такой момент, когда хочется онбордить тех, кто не в ладах с гаджетами, а сервисом вполне может воспользоваться.
Вот и у ChatGPT только что случился аналогичный запуск — теперь ему в Штатах можно позвонить по бесплатному федеральному 1-800 номеру. И поговорить. Компания называет новшество important stepping stone for newcomers to AI, since the service represents a simplified version of ChatGPT compared to its web-based counterpart and offers a “low-cost way to try it out through familiar channels.” Звучит узнаваемо:) И впечатляет, насколько быстро пройден путь до той отметки, когда уже нетехничных консерваторов надо вовлекать:)
https://www.theverge.com/2024/12/18/24324376/openai-shipmas-1-800-chatgpt-whatsapp

На удивление мало мне попадается ссылок на недавно анонсированный DeepMind проект Mariner. Он, конечно, позиционируется пока как исследовательский проект — но, если приглядеться, показывает, простейший способ дать каждому пользователю по тому самому автономному агенту на основе ИИ, про которых так модно говорить и которым предрекают стать главной темой настающего года.
Браузер. Приложение, до сих пор остающееся массовым окном в интернет и установленное на миллиардах устройств. Что, если агентность придать ему? В свое время слияние строки адреса и строки поиска в браузере во многом определило роль поисковых систем как основы навигации в интернете. А если теперь можно будет не вопрос задавать, а ставить задачу, требующую исследования интернета и формирования ответа по итогам?
Проект Mariner как раз про это. Project Mariner can follow complex instructions and reason across websites — and shows its work.
Правда, вопрос замещения рекламной модели тут становится критичным. Но, опять же, самый популярный в мире браузер принадлежит как раз поисковик, так что есть куда интегрировать рекламу в случае исчезновения SERPа 🙂
https://deepmind.google/technologies/project-mariner/

Про эту новинку сегодня много кто отписался, но свои две копейки вставлю. Когда OpenAI анонсировали Сору, они декларировали, что ее сверхзадача — не видосики генерить, а создать модель, которая хорошо «понимает» физику мира. Однако пока не очень получилось — даже красивые ролики, если приглядеться, грешат красивым же неправдоподобием, нарушающим наши вполне интуитивные представления о том, как взаимодействуют материальные объекты — особенно если мы знаем, насколько разнятся их механические свойства.
Поэтому модель, где физика заложена явно, очень вовремя показала, что не надо целиком делать ставку на один ИИ, если его можно включить в пайплайн генерации видео только там, где без него никуда.
И от роликов сразу повеяло реализмом — даже если сюжет фантастический.
Возникает вопрос — ставка OpenAI на то, что модели по мере роста размера станут сами точно отражать физический мир, все еще верна? Кажется, нам показали, что есть интересные и не столь догматичные обходные пути

https://genesis-embodied-ai.github.io