✔️ OpenAI оптимизировала инференс ChatGPT

Компания более чем вдвое снизила затраты на вывод для неавторизованных пользователей веб-версии ChatGPT. Для обработки всего гостевого трафика платформе теперь требуется лишь несколько сотен GPU Nvidia.

Сессии без аккаунта работают с ограниченным функционалом. Будут ли этот подход масштабироваться на обслуживание авторизованных пользователей, пока неизвестно.

Технические детали оптимизации компания не раскрывает.
theinformation.com

✔️ Meta* начнет сдавать в аренду свои ИИ-кластеры

Корпорация Цукерберга выходит на рынок облачных услуг и планирует предоставлять сторонним клиентам доступ к своим кластерам и развернутым ИИ-моделям так же, как это делает SpaceX, которая сдает в аренду GPU от xAI компаниям Anthropic и Google.

Бюджет компании на инфраструктуру в этом году составляет $145 млрд. Для высвобождения средств Meta ранее провела сокращения персонала.

Монетизация свободных ресурсов показывает, что внутреннее обучение моделей больше не утилизирует мощности на 100%.
bloomberg.com

✔️ Илон Маск разрабатывает смартфон

SpaceX показала инвесторам прототип смартфона на базе процессора Qualcomm Snapdragon с системной интеграцией моделей xAI. Устройство работает на собственной операционной системе.

Цель разработки смартфона - запуск супераппа по принципу WeChat в обход монополий Apple и Google. Своя ОС позволит Илону Маску напрямую контролировать дистрибуцию и монетизацию мобильных продуктов xAI.

Проект находится на ранней стадии разработки.
wsj.com

✔️ Base44 обучила собственную модель на логах разработки

Платформа Base44, которая принадлежит Wix, выпустила модель Base 1, обученную на внутренней телеметрии и логах разработки. Модель уже развернута в продакшене.

Base 1 участвует в обсуждении логики, предсказывает действия пользователя и фильтрует тупиковые архитектурные решения. Платформа использует автоматический роутинг, распределяя запросы между Base 1 и другими LLM из селектора в зависимости от задачи.

В обучающий датасет вошли десятки миллионов сессий: стартовые промпты, сгенерированный агентами код, ошибки рантайма, ручные правки и сигналы успешного деплоя. Архитектуру и результаты бенчмарков Base44 раскроет в ближайшие недели.
base44.com

✔️ ИИ-бум взвинтил стоимость жизни в Сан-Франциско

Медианная цена дома в Сан-Франциско достигла $1,7 млн, средняя аренда - $3827. Из-за этого город покидают специалисты с доходами меньше $200 тысяч в год.

В качестве примера приводится пара с суммарным доходом $365 тысяч, которые за три месяца не нашли квартиру дешевле $5000 в месяц. В результате инженер переехал в район озера Тахо, а рекрутер арендует комнату за $1650.

В Кремниевой долине сформировалась группа из 10 тысяч человек с состоянием свыше $20 млн. На локальные цены влияют вторичные продажи акций - осенью 75 сотрудников OpenAI заработали на этом в среднем по $30 млн.

Аналитики прогнозируют, что ожидаемые IPO OpenAI и Anthropic еще больше увеличат стоимость жилья в регионе.
nytimes.com

*организация признана экстремистской, её деятельность на территории РФ запрещена.

@ai_machinelearning_big_data

#news #ai #ml

💵 GFusion: как мы обучали диффузионную LLM в GigaChat

«А что, если LLM будет генерировать не строго по одному токену слева направо, а сразу блок текста?»

Именно эту идею мы проверяли в проекте GFusion — диффузионной языковой модели на базе GigaChat3-10B-A1.8B-base.

Отдельно хочется отметить, что этот проект начал и довёл до релиза стажер команды GigaChat Pretrain. Он прошёл весь путь от идеи и первых экспериментов до обучения модели, оптимизаций, поддержки в inference runtime и публикации в open source.

Почему это интересно?

Классические LLM генерируют текст авторегрессионно: каждый следующий токен зависит от всех предыдущих. Это устоявшийся подход, но шаги генерации модели выполняются строго последовательно.

В то же время диффузионная LLM берёт частично замаскированный блок и постепенно восстанавливает токены внутри него. За один forward pass модель может финализировать не один, а сразу несколько токенов.

Так и появляется ускорение. Чем больше токенов модель уверенно восстанавливает за один проход, тем меньше шагов ей нужно для генерации ответа.

Вместо дорогостоящего обучения с нуля мы взяли сильную авторегрессионную LLM и перевели её в диффузионный режим генерации.

Цикл обучения включал:
🔘адаптацию AR-модели к диффузионной генерации;
🔘постепенное увеличение размера блока;
🔘сравнение полностью диффузионного обучения и гибридного подхода AR+dLLM;
🔘SFT с complementary masking и стадией confidence tuning для дополнительного ускорения генерации.

Результаты:

🔘GFusion в режиме одного пользователя генерирует в среднем на 70% быстрее GigaChat3-10B-A1.8B.
🔘Даже по сравнению с GigaChat3-10B-A1.8B + MTP-головой ускорение составило около 39%.
🔘Просадка качества относительно авторегрессионной модели осталась в пределах 2–4 п.п., а сам трейд-офф между скоростью и качеством можно контролировать параметрами диффузионной генерации.
🔘Добавлена поддержка GFusion в SGLang и реализован entropy-bounded sampling — алгоритм семплирования, который ускоряет генерацию не только GFusion, но и других диффузионных LLM.
🔘Для обучения написана и выложена в open-source своя реализация attention на TileLang под структуру диффузионной маски и получено до +77% end-to-end ускорения относительно Flex-Attention на длинном контексте.

💡 Главный вывод GFusion состоит в том, что ускорение LLM может требовать переосмысления самого подхода к генерации. Однако, чтобы это заработало на практике, важно довести до рабочего состояния весь стек от обучения и SFT до декодинга, attention-ядер и поддержки в inference runtime.

➡️Подробности — в статье на Habr.
➡️HF: GFusion-10B-A1.8B-base GFusion-10B-A1.8B
➡️GitVerse

📌 MWS Cloud запустила новый класс S3-хранилища для AI и ML-задач.

Это «теплое» объектное хранилище на NVMe-дисках, которое рассчитано на сценарии, где критичны скорость чтения и минимальные задержки. Сервис является частью MWS Cloud Platform.

Скорость передачи данных составляет до 1,8 ГиБ/с и TTFB около 20 мс. Хранилище подходит для обучения нейросетей, аналитики, медиа сервисов и высоконагруженных веб-приложений, есть совместимость с AWS S3 API, поэтому можно мигрировать в MWS Cloud Platform без переписывания сервисов;

Помимо этого, у хранилища есть шифрование, репликация между дата-центрами, версионирование и IAM-права. Оплата проходит по модели pay-as-you-go.

MWS Cloud опубликовали методологию и результаты внутреннего тестирования, показавшего, что это самое быстрое S3-совместимое объектное хранилище среди крупных российских облачных провайдеров.

@ai_machinelearning_big_data

✔️ В компании LayerX описали новый вектор атак на ИИ-браузеры

Уязвимость, получившая название BioShocking, позволяет злоумышленникам обходить базовые ограничения агентов и незаметно извлекать конфиденциальные данные из активных сессий пользователя.

Эксплойт успешно протестировали на 6 популярных решениях, включая ChatGPT Atlas, Perplexity Comet и расширение Claude для Chrome.

В основе атаки лежит техника манипуляции контекстом

Жертву заманивают на вредоносную страницу с игрой-головоломкой, которую должен решить ИИ-браузер.

По правилам игры правильными признаются абсурдные ответы (например, ИИ заставляют согласиться с тем, что 2 + 2 = 5). Как только ИИ принимает эту альтернативную логику, он начинает считать, что находится в вымышленной среде, где реальные правила безопасности больше не действуют.

На финальном этапе скомпрометированная страница дает агенту команду скопировать текст по скрытому URL-адресу. Этот линк незаметно перенаправляет ИИ в приватный или корпоративный GitHub-репозиторий пользователя.

Поскольку ИИ-браузер работает локально и имеет доступ ко всем авторизованным сессиям, в ходе тестов агенты беспрепятственно похитили SSH-ключи и передали их на сервер атакующего. Ни один из них не классифицировал эту операцию как угрозу и не запросил подтверждения.

Специалисты LayerX призывают разработчиков внедрить строгие проверки разрешений перед тем, как ИИ обращается к конфиденциальным источникам данных.

OpenAI уже устранила уязвимость в ChatGPT Atlas осенью 2025 года, однако остальные вендоры, по данным исследователей, пока не закрыли брешь или полностью проигнорировали отчеты.


@ai_machinelearning_big_data

#news #ai #ml

❤️ Июньский дайджест для разработчиков. Собрали главное: что полезное почитать, посмотреть и куда сходить в следующей месяце.

Почитать:

➕ ICLR 2026 в Рио-де-Жанейро: главные ML-тренды, математика и инсайты с конференции

➕ Как мы перепридумали голосовую активацию для Яндекс Дропс и уместили новую модель в 200 килобайт

➕ Как сетевой инженер в Yandex Infrastructure сделал сканер под iOS и Android для диагностики Wi-Fi-сети

Посмотреть:

➕ Круглый стол с Mobile Runtime. Пригласили мобильных тимлидов и руководителей, чтобы разобраться, как развиваться мобильным разработчикам

➕ Доклад про внедрение AI в инженерные команды. Что важно поменять в процессах и инфраструктуре и как замерять успех

➕ Подкаст «Доверительный интервал» про главные тревоги аналитиков. Обсудили синдром самозванца, страх карьерного роста и другие проблемы

Посетить:

➕ 25 июля — Product Fest в Москве и онлайн. Точка сборки продуктового опыта: приходите, чтобы понять, как создавать продукты, когда космическая скорость стала новой нормой

👀 Делитесь дайджестом с другими разработчиками

✔️ BMW внедряет робота-гуманоида Figure 03 в производственную логистику

Автоконцерн начал использование человекоподобных роботов Figure 03 на заводе в Спартанберге (США) для комплектации и сортировки деталей.

Предыдущая модель, Figure 02, за 10 месяцев тестирования на предприятии поучаствовала в сборке более 30 тысяч автомобильных кузовов.

Новая версия гуманоида от Figure AI получила беспроводную зарядку, мягкие элементы корпуса и аудиосистему для голосового общения с персоналом. Манипуляторы оснастили тактильными сенсорами и встроенными в ладони камерами для повышения точности мелкой моторики.

На конвейере Figure 03 будет распознавать несортированные компоненты в общих контейнерах и извлекать их, раскладывая по логистическим тележкам в заданной последовательности.

Доставку собранных тележек на сборочную линию осуществляют беспилотные складские тягачи.


@ai_machinelearning_big_data

#news #ai #ml

✔️ Google сообщила о росте потребления электроэнергии на 37% за 2025

В ежегодном экологическом отчёте, компания сообщила, что её потребление электроэнергии за год выросло на 37%.

С 2019 года общий спрос на электроэнергию вырос более чем на 250%. Google связывает это с развитием платформы Google Cloud, инвестициями в поиск, ростом YouTube и расширением инфраструктуры для ИИ.

Согласно разбору отчёта в отраслевых СМИ, только дата-центры израсходовали в 2025 году свыше 42 млн МВт·ч электроэнергии, это примерно на треть больше, чем годом ранее.

Примерно столько же за год потребляют Новая Зеландия или Дания.

В 2025 году Google заключила соглашения о закупке более 12 ГВт новых мощностей чистой энергии (рекордный показатель).

Google признаёт, что строительство ИИ-инфраструктуры идёт быстрее, чем переход энергосетей на низкоуглеродные источники.

При этом 9-й год подряд ИТ-гигант в сумме за год закупает объём возобновляемой энергии, равный всему её годовому потреблению.

Этот годовой баланс не означает, что каждый дата-центр в любой час работает на чистой энергии (в периоды, когда возобновляемой генерации не хватает, нагрузку по-прежнему закрывают ископаемые источники).

Косвенные выбросы CO2 в цепочке поставок Google за год выросли на 25%.


@ai_machinelearning_big_data

#news #ai #ml

✔️ OpenAI предлагает передать 5% акций государству

Сэм Альтман предложил администрации Президента США передать 5% акций OpenAI государству для создания национального ИИ-фонда. Инициатива предполагает аналогичные отчисления в единый пул от остальных американских ИИ-вендоров.

Структуру планируют выстроить по модели Аляскинского фонда - доходы от ИИ-отрасли пойдут на выплату обычным гражданам. Обсуждение концепции идет больше года.

По версии критиков, сделав государство прямым акционером, OpenAI получит негласную страховку от банкротства в случае неокупаемости текущей бизнес-модели.

Реализация этого предложения потребует одобрения Конгресса.
ft.com

✔️ Сервис arXiv стал независимой некоммерческой организацией

1 июля репозиторий arXiv вышел из состава Корнеллского университета, где базировался последние 25 лет. Платформа продолжит работу как самостоятельная некоммерческая организация.

Независимая структура даст проекту управленческую гибкость для развития инфраструктуры. Условия для исследователей не изменятся, сервис сохранит свободный доступ к базе и бесплатное размещение материалов. Технических перебоев из-за переезда не ожидается.

В ближайшее время arXiv представит обновленную политику модерации публикаций об ИИ и отметит рубеж в 3 миллиона загруженных научных статей.
arxiv.org

✔️ В NotebookLM появились короткие вертикальные видео

ИИ-блокнот от Google получил возможность автоматически генерировать 60-секундные ролики в стиле TikTok на основе загруженных материалов.

Система анализирует разрозненные пользовательские источники и собирает из них емкую видеовыжимку, раскрывающую конкретную тему. Нововведение расширяет базовые возможности сервиса, главная задача которого - анализировать большие объемы данных и переупаковывать их в удобные форматы.

На данный момент новый формат постепенно разворачивается на мобильных устройствах и в веб-версии для подписчиков тарифов AI Ultra и Pro. В скором времени доступ обещают и на бесплатных аккаунтах.
NotebookLM в сети Х

✔️ Microsoft создает ИИ-интегратора Frontier Company

Корпорация выделяет $2,5 млрд на создание подразделения Frontier Company для интеграции ИИ в корпоративные бизнес-процессы. Главная метрика новой структуры - подтвержденный ROI и измеримые коммерческие результаты от внедрения нейросетей.

В штат войдут 6000 инженеров и отраслевых экспертов. Они будут работать напрямую с заказчиками в проектировании и масштабировании систем ИИ, встраивая их в существующие бизнес-процессы и комплаенс-инфраструктуру.

Microsoft позиционирует Frontier Company как независимого интегратора, не привязанного к собственным моделям, в отличие от служб внедрения OpenAI и Anthropic. Развивать направление помогут партнёры Accenture, Capgemini, EY, KPMG и PwC.
microsoft.com

✔️ Weave Robotics анонсировала робота-уборщика Isaac 1

Американский стартап представил робота для домашней рутины. В его базовые задачи входит сбор вещей с пола, перенос корзин, складывание одежды, заправка кроватей, а также загрузка и разгрузка стиральных машин.

Isaac 1 построен на колесной платформе и оснащен телескопическим туловищем, меняющим высоту вплоть до человеческого роста. Внутренний каркас обтянут тканью для защиты при контакте с людьми.

Время автономной работы составляет 8 часов, полная зарядка занимает 2 часа. Первые поставки стартуют в Калифорнии осенью 2026 года по цене $7999 с альтернативой в виде подписки за $449 в месяц.
weaverobotics.com


@ai_machinelearning_big_data

#news #ai #ml