Google выпустили гайд по защите ИИ-агентов от кибератак. А Wiz с ИИ обнаружили уязвимость на GitHub

Команда Wiz Research (которая теперь входит Google) опубликовала разбор критической уязвимости в GitHub. Любой авторизованный пользователь мог выполнить произвольный код на серверах GitHub одной командой git push.

На GitHub Enterprise Server это давало полный контроль над сервером. На GitHub.com - доступ к нодам, где хранятся миллионы репозиториев других пользователей. GitHub закрыл уязвимость за 6 часов после получения уведомления от Wiz.

Но самое интересное не в самой уязвимости, а в том, как её нашли.

Wiz использовали именно ИИ-инструменты, которые позволили найти уязвимость.

То есть новый класс угроз обнаруживается теми же инструментами, которые строят новую инфраструктуру.

Одновременно с этим Google публикует гайд как защитить ИИ-агентов от кибератак и строит коалицию из более 40 компаний по безопасности агентных систем. В списке участников - Anthropic, Microsoft, Meta(запрещена в России), NVIDIA, OpenAI.

В каких странах лучше всего зарабатывать на стейблкоинах - свежий отчет

Если ИИ съедает софт, то уместно сказать, что блокчейн делает тоже самое, но с капиталом, а ярким примером этого являются стейблкоины.

Мы только что опубликовали разбор на Patreon о том, в каких странах рынок стейблкоинов хорошо масштабируется.

Отчёт отвечает на 3 вопроса:
какие рынки лучше всего подходят, какие коридоры есть, какие шаги предпринять бизнесу, инвесторам и разработчикам.

Neuralink показали новую версию робота-хирурга

Раньше их робот в основном выполнял самую деликатную часть работы - вставлял сверхтонкие нити в мозг(занимало это 17 сек/нить), а остальное делал нейрохирург.

В новой версии робот это делает за 1,5 секунды/нить. Это большой скачок по времени, сильно сокращающий общее время операции.

Также эти нити теперь могут проходить сквозь твёрдую мозговую оболочку. Раньше приходилось открывать эту оболочку, удалять, что делало операцию более инвазивной.

При этом технология ещё экспериментальная, без лицензии FDA.

Вот это масштаб! Meta* начала платить в стейблкоинах авторам контента

Только представьте какое это масштабное мероприятие, потому что у Instagram*, Facebook* миллиарды создателей контента и теперь все получат доступ к стейблкоинам.

Создатели контента теперь могут получать заработок в USDC (стейблкоин от Circle. Об этих планах мы писали год назад.

Сегодня мы подробно разобрали в каких странах лучше всего заниматься запуском и масштабированием стейблкоинов.

Выплаты у Meta реализуются на блокчейнах Solana и Polygon, а партнёром выступает Stripe.

Stripe даёт готовую, регулируемую и масштабируемую инфраструктуру для выплат в стейблкоинах, чтобы Meta не пришлось строить всё это самостоятельно.

*запрещенная организация в России.

Cloudflare +Stripe: ИИ-агенты теперь могут сами создать аккаунты, покупать домены и деплоить приложения

Начиная с сегодняшнего дня агенты могут самостоятельно:

1. создать аккаунт в Cloudflare,

2. оформить платную подписку,

3. зарегистрировать домен и получить API-токен для деплоя.

Всё это происходит через новый протокол, который Cloudflare разработали совместно со Stripe.

Платёжные данные остаются в безопасности, агент их не видит.

Как запустить:

1. Устанавливаешь Stripe CLI + плагин Projects
2. stripe projects init
3. Даёшь агенту задачу: «Сделай мне сайт и запусти его в продакшене»

Агент делает всё сам. По умолчанию лимит $100 в месяц (можно поднять).

Sakana AI внедрила в крупнейший банк Японии многоагентную систему, которая генерирует сложные стратегические предложения корпоративным клиентам.

Sakana AI вместе с SMBC Group запустили рабочий продукт SMBC Proposal AI.

В основе решения лежит мультиагентная система - несколько специализированных ИИ-агентов, которые работают вместе как команда:

• Один агент собирает и анализирует информацию о клиенте
• Второй ищет стратегические возможности
• Третий формирует структуру и текст предложения
• Четвёртый проверяет факты и качество документа.

Агенты самостоятельно общаются между собой, корректируют друг друга и в итоге выдают готовое, логичное и профессиональное предложение.

Этот кейс - яркий пример того, как Sakana AI переносит свои исследования (Conductor и TRINITY) в реальную корпоративную среду. Они делают ставку на умную координацию нескольких ИИ-агентов.

Это бомба! BCI-стартап из США провел исследование в Китае своего продукта, а ещё они привлекли $55млн.

Отметим, что Neuralink уже тестирует свои чипы в 4 странах, но не в Китае.

Американская компания Axoft (мы тут о них писали), которая разрабатывает мягкие нейроинтерфейсы(BCI) провела тестирование своего устройства на 11 пациентах, в том числе 1 человека в Шанхае.

Также Axoft объявили о привлечении $55 млн в раунде Series A, всего компания собрала уже более $60 млн.

Компания планирует расширять клинические испытания не только в Китае, но и в других странах.

Это событие интересно на фоне технологической конкуренции между США и Китаем в области нейротехнологий и ИИ.

Напомним, что Китай активно развивает свои BCI-проекты: в марте там уже одобрили первый коммерческий мозговой имплант компании Neuracle для пациентов с параличом.

США пока в основном находятся на стадии клинических испытаний.

DeepSeek сегодня выложили, а потом удали новый подход к мультимодальному мышлению

Но когда это было, чтобы мимо нас что-то ускользнуло.

Поэтому, вот про их новую работу «Thinking with Visual Primitives», где добавили зрение в V4-Flash. Тут мы расписали все подробно.

А тут то, что удалили #DeepSeek.

Сказать нам спасибо можно так.

Итоги уходящей недели - то, что имеет значение в России и мире

Агентная экономика

2 авторских доклада от нашего канала @blockchainrf:

- Время дешевого и безлимитного ИИ заканчивается. На чем вы теряете больше токенов? Мы рассказываем новые вводные, которые вам удивят. Это поможет сэкономить вам ресурсы.

- Как сегодня выглядит экономика ИИ-агентов: реальные цифры, данные и выводы.

Как собрать свое персональное приложение для здоровья с ИИ за 5 минут? Инструкция тут.

ИИ-агенты, модели

OpenAI делает смартфон на агентах

Ноам Браун, OpenAI: мультиагентные системы- будущее, а inference compute становится стратегическим ресурсом.

Sakana AI: координация ИИ-моделей важнее самих моделей и показали на практике, внедрив многоагентную систему в крупнейший банк Японии
.
Anthropic показали на живом эксперименте, как агенты торгуют между собой — коммерция внутри агентных сетей становится реальностью.

Cursor выпустил SDK, теперь можно строить ИИ-агентов на той же среде и моделях, что работают внутри самого Cursor.

CRUX запустил открытые оценки агентов в реальном мире

Cloudflare + Stripe: агенты теперь сами регистрируют аккаунты, покупают домены и деплоят приложения.

Google DeepMind запустили мультимодальные агенты в поддержку врачей и пациентов.

Локальный ИИ-агент в браузере Chrome работает без интернета.

Marin - попытка создать по-настоящему открытую фронтирную лабу.

DeepSeek представили новый подход к мультимодальному мышлению.

Xiaomi выпустили 2 open-source модели.

Mistral выпустили новую флагманскую модель Medium 3.5 и обновление: теперь в их экосистеме появились удалённые агенты.

Sakana AI выпустили работу KAME - тандемную архитектуру, которая ломает привычный паттерн "подумал - ответил".

Anthropic обучили небольшую дообученную надстройку, которая заставляет модель честно описывать свои "нежелательные" поведенческие паттерны.

Стейблкоины и токенизация

Western Union запускает стейблкоин USDPT на Solana.

Meta* начала выплачивать авторам контента в стейблкоинах.

Свежий отчёт: в каких странах выгоднее всего зарабатывать на стейблкоинах.

Securitize + Computershare открыли путь к токенизации акций Apple, Tesla, Nvidia и ещё 25 000 компаний.

Нейротехнологии и BCI

Neuralink показали новую версию хирургического робота.

Стартап Axoft из США протестировали на 11 пациентах, включая одного в Шанхае.

Томас Риардон, который ранее делал браслет для нейроинтерфейса Meta теперь запускает стартап Flourish.

Безопасность

Google выпустили гайд по защите ИИ-агентов от кибератак. А Wiz совместно с ИИ обнаружили уязвимость на GitHub.

Мнения и тренды

Демис Хасабис, Google DeepMind, 5 ключевых тезисов с закрытого мероприятия YC.

YC назвал 15 направлений для инвестиций летнего сезона.

*запрещена в России организация.

Anthropic создала консалтинговую компанию по внедрению ИИ в бизнес

Причём эта компания создана с крупнейшими инвесторами из Wall Street( Blackstone, Hellman & Friedman, Goldman Sachs и др) в виде СП с объемом инвестиций на $1,5 млрд.

Цель этой СП - продавать и внедрять Claude компании, которые находятся под управлением фондов частного капитала.

Ещё в начале апреля стало известно, что Anthropic ведёт переговоры об инвестиции $200 млн в подобный венчур и пытается привлечь около $1 млрд в сумме. За месяц сумма выросла, а структура стала более конкретной. Теперь Anthropic сама выступает одним из главных инвесторов наравне с крупными гигантами.

То есть у Claude появился огромный канал сбыта и внедрения в огромную базу реальных компаний.

1 платформа и решение 2-х разных задач: выявление биомаркеров Альцгеймера и исправление галлюцинаций в LLM

Стартап Goodfire, в который инвесторовали Anthropic, создал платформу Silico, которая позволяет заглянуть внутрь любой нейросети и изменить то, что там происходит. Не только в языковых моделях, но в любых.

Внутри платформы ИИ-агент, который сам планирует и запускает параллельные эксперименты.

Почему это важно за пределами LLM?

Пока индустрия сосредоточена на том, что модели делают, Goodfire изучает, как они это делают. И оказывается, что одна и та же логика работает в медицине, робототехнике и языковых моделях одинаково.

До сих пор механистическая интерпретируемость была привилегией Anthropic, OpenAI, Google DeepMind.

Silico переносит эти техники на следующий уровень: компании, которые работают с открытыми моделями или строят свои, но не могут позволить себе отдельную исследовательскую команду.

ИИ-гонка ускоряется: Morgan Stanley повысил прогнозы затрат на ИИ 5 крупнейших ИТ-гигантов

Это все продолжение этого тренда.

Гиперскейлеры Google, Amazon, Meta(запрещена в России), Microsoft и Oracle резко наращивают инвестиции в ИИ-инфраструктуру, дата-центры, серверы. И их расходы становятся сопоставимыми с капексом всей остальной старой экономики США.

Вот основные цифры из нового прогноза Morgan Stanley:

В этом году ожидают ~ $805 млрд (предыдущий прогноз был 765 млрд).

А в 2027 году Morgan Stanley повысили прогноз с $951 млрд до $1,1 трлн.

Темпы роста (CAGR 2024–2027):

· Amazon - 48%
· Alphabet - 69%
· Meta - 54%
· Microsoft - 54%
· Oracle - 59%

Это все говорит о:

1. Продолжающемся буме инвестиций в вычислительные мощности.

2. Гиганты закладывают бюджеты так, будто спрос на вычислительные мощности будет расти бесконечно.

3. Маленькие игроки не выживут. Такие расходы создают непреодолимый барьер для входа.

4. Энергетика и инфраструктура станут узким местом. Даже если деньги есть, столько дата-центров физически не построить без новых электростанций, трансформаторов, воды и чипов.

5. Если окупаемость ИИ-проектов окажется ниже ожидаемой, акции могут сильно просесть.

Вот это уровень! Noetik AI строят симулятор биологии рака человека

Стартап Noetik AI, который строят Biological AI сегодня предложили решение для задач онкологии.

Дело в том, что каждый препарат против рака, который тестировали на мышах не работает у людей.
Биология мыши и человека не одинаковая.

Noetik создали Perturb-MARS, которая объединяет 2 инновации:

1. Perturb-Map - экспериментальная платформа на мышах.

2. TARIO-2 - ИИ-модель, обученная только на тканях рака человека.

Модель умеет предсказывать полную пространственную экспрессию генов человека по обычному окрашиванию H&E (гистологическому снимку).

Исследователи скормили TARIO-2 H&E-слайды мышиных опухолей из эксперимента Perturb-Map. И модель предсказала человеческие гены. Причем это работает даже для генов, у которых нет мышиного аналога (например, CEACAM6).

В результате можно находить новые комбинации для лекарств и мишени, которые с высокой вероятностью сработают у людей.

Сразу после Anthropic теперь OpenAI создают консалтинговую компанию по внедрению ИИ в бизнес

Началась гонка, кто быстрее и удобнее поможет бизнесам использовать их ИИ.

Отметим, что Anthropic вместе с Blackstone, Hellman & Friedman и Goldman Sachs сегодня объявили о создании новой ИИ-сервисной компании.

Они целятся не на крупный бизнес/корпорации, а на средний и региональные системы здравоохранения.

А OpenAI создала свою СП вместе TPG якорный, Brookfield, Advent, Bain Capital, SoftBank, Dragoneer и др.

Их фокус заключается в том, что компаниям не хватает ресурсов, чтобы безопасно интегрировать его в реальные бизнес-процессы. Хотят решить боли при внедрении ИИ.

SpaceX подала заявку на запуск 1 млн спутников для ЦОДа в космосе

Это стало ключевой частью питча Маска инвесторам перед IPO.

SpaceX планирует начинать с небольшого количества спутников для тестов, мониторинга влияния на атмосферу и отработки технологий, а потом масштабировать.

О том какие минусы у этого проекта, читайте здесь.

Отметим, что Маск заявлял о строительстве солнечной станции ранее..

Anthropic нашёл способ научить ИИ-модели следовать ценностям, а не декларировать их

Команда предлагает решение под названием Model Spec Midtraining (MSM) - дополнительная фаза обучения, которая вставляется между преобучением и файнтюнингом.

Во время MSM модель обучается на синтетических документах, которые обсуждают содержание Model Spec, то есть её ценности, логику, философию. Не на примерах поведения, а именно на объяснениях: что модель должна делать и почему.

MSM описывается не просто как техника обучения, но как инструмент Model Spec science - эмпирического изучения того, какие спецификации лучше работают.

Тем самым Anthropic показывает, что надо задаться вопросом: насколько хорошо сформулировано то, чему мы учим модель? А не сколько данных для обучения.

6 примеров создания AI native компании

Мы заметили, что за последние годы выражение «цифровая трансформация» уже редко используется, то есть это уже не модно вроде как стало.

А в обиход вошел свежий термин «AI-native компания». Все только говорят об этом.

Но никто не говорит: как это? как ее создать? У кого уже есть реально работающая ИИ- компания? Сколько денег нужно на это? Как выстроить юридическую сторону? и тд.

Вчера вышли релизы от Anthropic, OpenAI, что они создают свои сервисные по внедрению ИИ.

Мы решили попробовать изучить эту тему глубоко и сделать свой плейбук, который бы рассказал, как создать AI-культуру, а не покупать коробку с готовым решением?
У кого это уже реально работает? Потому что все автоматизировать - это одно, но культура - это иное.

Для начала мы изучили 6 реальных плейбуков от финтех-стартапа до венчурного фонда, от продакт-менеджера до вендора платформы.

Также реальную экономику ИИ-лабораторий.

Получилась серия из 3-х частей:

1. разбор 6 разных подходов по созданию AI-native компании. Сопоставили это с экономикой ИИ-лабораторий, так как это неразрывно связано.

2. как AI-native компания строится на практике, без хайпа

3. как принимать решения, когда неопределённость встроена в природу самого вопроса.

Первая часть уже на Patreon, самая полная на уровне подписки Star.

Anthropic выпустили готовые шаблоны ИИ-агентов для финуслуг.

Они готовы к использованию сразу, но главная фишка в кастомизации под процессы и шаблоны каждой компании.

Что умеют эти ИИ-агенты?

1. подготовить презентации и питч деки для инвесторов, клиентов, сделок

2. проведение оценок компаний, мультипликаторов и т.д.

3. закрытие месяца в бухгалтерии и тд.

Как ими пользоваться?

• Устанавливаете их как плагины в инструментах Cowork и Claude Code.

• Или запускаете в продакшене как Managed Agents по готовым cookbooks.

• Каждый агент уже содержит всё необходимое: коннекторы к нужным системам, навыки и даже субагентов.

Вы должны это прочитать. Свежие данные от Anthropic о рынке

Сегодня прошёл закрытый ивент Anthropic «Briefing: Financial Services».

На этом мероприятии был диалог между Дарио Амадеем и CEO JPMorgan. Они обсуждали роль и значение ИИ для рынков, рабочей силы и глобальной экономики.

Вот, что наговорил Дарио:

1. За 1-й квартал этого года выручка его компании выросла в 80 раз в пересчёте на год

2. По его словам, ряд SaaS-компаний могут не выжить на фоне AI, даже если рынок ПО в целом не схлопнется.

Это вполне согласуется с картиной, которую уже рисует рынок: Atlassian, Salesforce и Workday теряют капитализацию, пока ИИ замещает их адресный рынок.

3. Амодеи считает, что Anthropic прямо сейчас - самая мощная ИИ-лаборатория в мире по возможностям моделей. OpenAI, Google DeepMind, Meta (запрещена в РФ) все отстают на 1-3 месяца.

4. В Anthropic работает ~3500 чел.

5. Китайские модели скорее всего отстают на 6–12 месяцев.

Глава продукта Anthropic для финансовых услуг Николас Лин заявил: «Мы хотим сократить цикл развёртывания с месяцев до дней».

Это гениально: 1-й оператор мобильной связи для ИИ-агентов, а не для людей.

Saperly только что это сделали. Теперь агенту дают свой собственный номер телефона, а там уже голос, SMS, маршрутизация.

Интересно рынок движется.

Присоединяйтесь к нам на Patreon, чтобы узнать все об экономике ИИ-агентов, а также начать разбираться в AI native компаниях.

Очень сильные фонды и люди вложились сейчас в нового игрока ИИ-инфраструктуры - RadixArk

RadixArk хотят стать удобным облаком + открытым стеком для серьёзных ИИ-команд, которые хотят сосредоточиться на моделях, а не на инфраструктуре.

Команда строит открытый инфраструктурный стек, который позволяет:

• Быстро и эффективно запускать модели в продакшене
• Проводить пост трейнинг и RL в большом масштабе
• Не пересобирать одно и то же с нуля каждый раз

Проект вырос из 2-х популярных open-source проектов:

1. SGLang - одного из лучших инференс-движков, обрабатывающего триллионы токенов в день у Google, Microsoft, xAI и др.

2. Miles - фреймворка для крупномасштабного RL.

RadixArk привлекли $100 млн в Seed-раунде при оценке в $400 млн. В раунде участвовали:
• NVentures
• AMD
• MediaTek
• Spark Capital, Accel, Walden Catalyst, HOFCapital и другие

• Игорь Бабушкин, экс-xAI, Джон Шульман, сооснователь OpenAI, Soumith Chintala, PyTorch и многие другие известные фигуры из мира ИИ.