Русскоязычная команда с помощью Claude Code автоматизировала открытия новых джейлбрейк атак на LLM

Это один из похожих примеров в стиле кейса Андрея Карпатый.

Исследователи из Max Planck Institute и Imperial College запустили Claude Code в режиме автономного исследования, и он самостоятельно придумал алгоритмы атак на языковые модели, которые обходят все 30+ существующих методов.

И что интересно, он не придумал ничего принципиально нового. Просто брал идеи из существующих методов, скрещивал их между собой, крутил параметры. Такой очень быстрый и дотошный исследователь.

Но результат в 4 раза лучше всего существующего.

Раньше разработка новых атак на LLM занимала у людей месяцы. Claudini сделал это за 1 автономный прогон. И порог входа резко упал, теперь не нужна команда исследователей, нужен агент и GPU.

Авторы говорят, что это нижняя граница того, на что способны агенты сейчас. Верхняя пока неизвестна.​​​​​​​​​​​​​​​​

И это ставит неудобный вопрос: если безопасность моделей можно взламывать автоматически, насколько вообще надёжны существующие защиты?​​​​​​​​​​​​​​​​

GitHub.

Вайб кодинг эмбрионов близок?)

Стэнфорд предлагают перейти от виртуальных клеток к полноценным цифровым двойникам эмбрионам.

Интегрируя одноклеточную и пространственную геномику с мощными моделями ИИ, мы сможем предсказывать в 4D (пространство + время):

- рост и деление клеток,
- их миграцию,
- переходы состояний,
- морфогенез,
- формирование органов и целого эмбриона.

Это открывает эпоху предсказательной биологии и экспериментов in silico. Особенно важно для врождённых пороков.

В будущем такие модели помогут точнее диагностировать, предотвращать и лечить нарушения развития без риска для реальных эмбрионов.

Итоги уходящей недели - то, что имеет значение в России и мире

Агентная экономика

Свежий авторский анализ экономики агентов у нас на Patreon. Разбираем тему: какие ниши сейчас свободны для создания новых проектов.

Clawcard — цифровая личность + платёжная инфраструктура для агента. Агент теперь может иметь свой паспорт

Google DeepMind объяснили, почему агент теряется на сложных задачах, а OpenClaw уже даёт решение

Запущен маркетплейс для ИИ-агентов: автономная оплата и сервисы без человека

Дуров договорился о сотрудничестве с создателем OpenClaw.

World (стартап Сэма Альтмана) представил способ идентификации ИИ-агентов.

Stripe Projects: агент сам разворачивает сервисы из CLI — одна команда, и аккаунт, API-ключ и биллинг готовы

Meta* + Stripe: продажи прямо внутри Facebook* через один клик.

Walmart отказался от ИИ-агента OpenAI — конверсия не устроила.

Платежи, криптовалюты и финансы

Выпуск стейблкоинов становится стандартизированным и низкомаржинальным — отчёт Delphi Digital

Стейблкоины вышли за пределы $: теперь у валют разных стран появляются свои версии — отчёт Dune

Coinbase запустила первую ипотеку под залог биткоина. Что из этого следует, читайте тут.

ИИ-модели, агенты и исследования

EurekaClaw — локальный ИИ-агент: идея → доказательство → эксперимент → статья, автоматически

Гиперагенты: ИИ, который улучшает не только себя, но и сам процесс самоулучшения

Anthropic: Opus 4.6 может несколько дней автономно работать над сложными задачами почти без человека

Google TurboQuant: в 6 раз меньше памяти для длинного контекста

Вышел Gemini 3.1 Flash Live — заточен под production

Один из ключевых архитекторов Qwen поделился видением будущего ИИ. Стоит почитать

Google Vibe Coding XR: от промпта до интерактивного WebXR с физикой за секунды

ARM-Thinker — агентная модель, которая сама вызывает инструменты для верификации

Chroma Context-1: 20млрд - агент поиска — в 10× быстрее и дешевле, Apache 2.0

LeWorldModel: мировая модель от Яна Лекуна на 15M параметров, 1 GPU, планирование < 1 секунды

Fast-WAM: преимущество мировых моделей не в воображении будущего, а в обучении на видео. Инференс теперь простой и быстрый.

OpenAI закрывают Sora, Disney не дал $1 млрд, инвесторы давят

Инструменты

Claude Code теперь сам чинит PR в фоне.

Anthropic добавил Projects в Claude Cowork: задачи, файлы и инструкции в одном пространстве

Google опубликовал руководство из 5 столпов для масштабирования ИИ в production

Безопасность

Хакеры заразили LiteLLM — популярную Python-библиотеку. Это атака на цепочку зависимостей агентов

Русскоязычная команда автоматизировала поиск джейлбрейк-атак на LLM с помощью Claude Code

Anthropic выиграли первый раунд в суде против решения Трампа и Пентагона

Наука и биотех

Arc Institute выпустили 1-ю мультимодальную рассуждающую модель для предсказания функций белков

Стэнфорд предлагает перейти от виртуальных клеток к цифровым двойникам эмбрионов

Cerebra — команда агентов, работающая как консилиум врачей разных специальностей

Latent-Y — автономный агент для разработки лекарств с лабораторной валидацией end-to-end

Meta создала ИИ-модель предсказывает активность мозга в ответ на видео, звук и текст одновременно

Космос, кванты и робототехника

Российская компания Бюро 1440 провела первый пакетный запуск 16 спутников на орбиту

Google объявил инвестиции сразу в два направления квантовых вычислений

EgoVerse — экосистема для обучения роботов на основе эгоцентричных данных от людей

Unitree открыли исходный код набора данных для телеуправления всем телом человекоподобных роботов в реальных условиях для открытых сред.

Spacex близок к IPO. Все подробно тут.

*запрещена в России.

Больше полезных материалов у нас на Patreon.

Anthropic слила в сеть инфу о самой продвинутой ИИ-модели Mythos и рынки падают

Из-за ошибки в настройках CMS Anthropic почти 3000 внутренних файлов оказались в открытом доступе. Среди них - черновик анонса новой модели, которую компания ещё не представила.

Модель называется Claude Mythos, кодовое название- Capybara.

Эта модель выше уровня Opus, иерархия теперь выглядит так:
Haiku → Sonnet → Opus → Capybara.

В просочившимся документе написано, что модель показывает очень высокую скорость по сравнению с Opus 4.6 в программировании, академическом рассуждении и кибербезопасности.

Это самая мощная модель, которую они когда-либо создавали. Модель уже дотренирована, и сейчас они постепенно и тихо внедряют её своим enterprise клиентам.

В утёкшем черновике сказано, что модель сильно впереди любой другой ИИ-модели по киберспособностям и способна эксплуатировать уязвимости быстрее, чем успевают среагировать защитники. То есть Anthropic сами боятся собственной модели и пишут об этом внутри компании.

Внедрение будет осторожным и постепенным.

Реакция рынка на фоне этого слива такая - акции компаний в сфере кибербезопасности упали.

С 1 апреля владельцы iPhone не смогут пополнять баланс Apple ID с мобильного счета - Минцифры РФ запрещает

Мобильные операторы «большой четверки» получили указание Минцифры отключить такую опцию.

В качестве причины им указали на необходимость препятствовать оплате VPN-сервисов.

Антон Павлович Чехов, как жаль, что вы не живете в это дивное время.

Claude нашёл уязвимости в ядре Linux, LLM догоняют людей в кибербезе

Николас Карлини из Anthropic- один из лучших исследователей безопасности ИИ в мире говорит так:

«Эти модели - лучшие исследователи уязвимостей, чем я. Вероятно, они пока не лучше всех вас, но в какой-то момент станут. Если эта тенденция продолжится ещё хотя бы год, они, вероятно, станут лучшими исследователями уязвимостей, чем все вы. И я не знаю, как будет выглядеть этот мир. Довольно страшно жить в мире, где можно автоматически находить ошибки, которые раньше могли найти только один-два лучших специалиста в мире».

«Я никогда раньше не находил таких ошибок в своей жизни. Это невероятно, невероятно сложно. С помощью языковых моделей у меня их много. Это меня довольно сильно пугает»

Время удвоения возможностей LLM - каждые 4 месяца. Sonnet 4.5 и Opus 4.1 такие ошибки почти не находили.

«Языковые модели по значимости находятся примерно на том же уровне, что и появление интернета».

Переходный период - вот чего он боится:
«В долгосрочной перспективе защитники, вероятно, выиграют. Но в переходный период между сейчас и тогда, вероятно, всё будет очень плохо».

Quantinuum и Hiverge с ИИ открывают квантовые алгоритмы для химии

Они взяли ИИ-платформу Hive, которая эволюционно перебирает и улучшает код с помощью LLM, и отдали ей задачу поиска основного состояния молекул - задачу, которую квантовые компьютеры пока решают с большим трудом.

Базой послужил известный фреймворк VQE. ИИ не придумал физику заново, он искал в пространстве алгоритмических стратегий ту комбинацию, которую люди пропустили.

И нашёл на порядки меньше обращений к квантовому железу при той же точности. Алгоритм проверили на реальном квантовом процессоре H2-1, результат в пределах химической точности.

И главное стратегия - обобщается на молекулы, которых ИИ не видел при обучении.

Операторы мобсвязи введут плату за использование VPN-сервисов в РФ, а цифровые платформы не будут пускать пользователей, заходящих через средства обхода блокировок.

Глава Минцифры Максут Шадаев провел два совещания с бизнесом в прошедшую субботу. На первом присутствовали представители крупных операторов связи, на втором - цифровых платформ (таких как VK, Ozon, «Авито», Wildberries, «Яндекс») и интернет-ретейла.

Шадаев попросил принять меры против использования их клиентами средств обхода блокировок.

В частности, операторов связи глава Минцифры попросил ввести плату за использование более 15 Гб международного трафика в месяц на мобильных сетях, сообщил источник Forbes, знакомый с ходом обсуждения. Еще один собеседник Forbes в телекоммуникационной отрасли подтвердил это, добавив, что такая опция должна заработать до 1 мая.

Платформы обязаны будут ограничить использование своих сервисов клиентами, заходящими через VPN.

Источник Forbes, знакомый с ходом обсуждения, добавил, что в ходе совещания Максут Шадаев не исключил также возможность введения административной ответственности за использование средств обхода блокировок, при этом министр выразил надежду, что удастся обойтись без этого.

Куда сейчас вкладывают деньги венчурные инвесторы в контексте Y Combinator

Эта интерактивная карта показывает, какие направления развиваются, и к чему идёт рынок.

Мы кстати выпустили свежий анализ и рекомендации, куда идти , в какие ниши, чтобы создать проект для агентной экономики. И мы попали в тезис, который сейчас говорят инвесторы - им интересная агентная экономика, инфраструктура доверия к агентам и глубокая интеграция ИИ в реальные бизнесы и физические процессы.

1. ИИ-агенты и агентная инфраструктура - это хот. Почти всё крутится вокруг агентов, которые могут самостоятельно выполнять сложные задачи.

2. Автоматизация работы сотрудников и целых бизнес-процессов. Переход от простых чат-ботов к полноценным автономным системам, которые заменяют или усиливают людей в компаниях.

3. Инфраструктура для ИИ - все, что делает ИИ надёжным, масштабируемым и применимым в реальном мире: стек надёжности агентов; инфраструктура встроенного интеллекта; инфраструктура физического ИИ, агентная финансовая инфраструктура.

4. ИИ для науки и физического мира. Большой приток денег в deeptech: открытие и создание лекарств, новых материалов, роботов, космические технологии, энергетика.

5. Вертикальная автоматизация профессиональных услуг: юридические, финансовые, медицинские и другие сервисы, которые раньше считались слишком сложными для автоматизации.

Инвесторы ищут проекты, которые делают ставку на инфраструктуру и агентные платформы, которые станут фундаментом следующего поколения приложений.

Растёт интерес к роботам, сенсорам, физическому миру и научным открытиям.

Google опубликовала расчеты,
где говорит о взломе криптовалют с помощью квантовых компьютеров

Они считают, что будущие квантовые компьютеры смогут взломать криптографию биткоина и большинства блокчейнов в 20 раз меньшим числом кубитов, чем считалось ранее.

По новым оценкам, для взлома ECDLP-256 - эллиптической кривой, на которой держится безопасность криптокошельков достаточно менее 500 000 физических кубитов.

Это займёт несколько минут на сверхпроводящем процессоре.

Чтобы вы понимали масштаб, сегодня у Google 105 физических кубитов.

До 500 000 ещё далеко, но траектория роста очевидна, и Google называет 2029 год как горизонт, к которому нужно завершить миграцию на постквантовую криптографию (PQC). А Виталик назвал 2028 год - годом Х.

Что интересно в самом подходе к публикации. Google раскрыла уязвимость через zero-knowledge proof - математическое доказательство, которое подтверждает факт существования атаки, не передавая саму схему алгоритма. Третьи стороны могут верифицировать утверждение, не получая инструкции для взлома. Это фактически предложение нового стандарта ответственного раскрытия для квантовой криптоаналитики.

Google уже общается с Coinbase, Ethereum Foundation и Stanford Institute for Blockchain Research. Практические рекомендации на сегодня: не раскрывать публично адреса кошельков и не переиспользовать их.

Угроза пока не завтрашняя, но окно для подготовки сокращается.

Индустрия, которая не начнёт мигрировать сегодня, рискует оказаться в 2029-м без времени на манёвр.

ИИ-агенты уходят в локальные LLM. Им не нужны большие ЦОДы и триллионые модели

Георгий Герганов, создатель llama.cpp, отмечает 100К звёзд на GitHub и делится размышлениями о состоянии локального ИИ.

Мнения о локальных LLM сильно поляризованы, часто основаны на вайбах и хайпе, а не на фактах и науке. Несмотря на это, локальные модели используются всё больше, и 2026-й станет переломным годом для этого движения. Год назад агентные применения казались нереалистичными из-за требований к памяти и вычислениям, но летом 2025 с выходом gpt-oss и тд. появились модели, где tool calling реально работает на обычных устройствах.

Георгий говорит, что не нужны триллионные модели и датацентры для большинства реальных задач. Существует некий порог достаточного интеллекта, который полностью достижим локально - это вопрос правильного software stack, а не вычислительной мощи.

Qwen3.5 сейчас - лучший выбор. Но главная боль не в моделях, а в цепочке от промпта до результата.

Его видение llama.cpp - единственная правильная архитектура, та, что работает эффективно на любом устройстве, в открытой разработке с сообществом и независимыми производителями железа.

Локальные LLM - это экономика наличных расчётов в мире ИИ-агентов.

Кто-то слил исходный код Claude Code от Anthropic.

Утечка произошла, судя по обсуждениям, из-за ошибки в упаковке публичного пакета Anthropic.

Использовать этот материал для коммерческих целей или в продакшене - юридически рискованно, так как код принадлежит Anthropic.

Многие используют его для исследования, изучения внутренней работы агента, инструментов, промптов и тд.

Зеркало тут.

Anthropic движется к созданию полностью автономных ИИ-сотрудников, которые могут работать без человека часами/ днями.

Это следует из сегодняшней утечки кода Claude Code, которая показала, в какую сторону движется вся эта технология:

1. Скоро ИИ сможет работать самостоятельно.
В коде очень много упоминаний функции под названием KAIROS.
Это режим, в котором Claude будет работать в фоне, даже когда вы не сидите за компьютером.

Он сможет:
- Сам думать над задачами
- Запоминать важное, есть даже специальный режим «сон», где ИИ подводит итоги
- Следить за изменениями в проекте
- Сам принимать решения, что делать дальше

Есть также режим PROACTIVE - ИИ будет периодически просыпаться и искать, чем полезным заняться, без постоянных вопросов от вас.

А в режиме Coordinator один Claude сможет управлять несколькими помощниками одновременно: один ищет информацию, второй пишет код, третий проверяет результат.

2. Меньше раздражающих вопросов скоро будет.
Судя по утечке, скоро появится умный классификатор, который будет автоматически разрешать безопасные действия. Работать станет гораздо удобнее.

3. Другие интересные находки:
- Голосовой режим - можно будет просто разговаривать с ИИ в терминале.
- Buddy - это питомец типа тамагочи прямо в терминале. 18 разных существ. ИИ пытается сделать инструмент не просто полезным, а ещё и приятным.
- Специальный «режим под прикрытием» для сотрудников компании, чтобы никто не понял, что код написал ИИ.

То есть, это шаг от ИИ, который помогает мне писать код к ИИ, который работает вместо меня/ вместе со мной как полноценный член команды.

Конечно, пока многие функции ещё в разработке и спрятаны. Но направление ясно - будущее за более самостоятельными и живыми ИИ-агентами.

Вот это история! Оказывается Дэмис Хассабис тайно создал ИИ-хэдж-фонд, чтобы победить легенду Уолл Стрит, Джима Саймонса, математика, основателя сверхприбыльного хедж-фонда Renaissance Technologies.

Кстати, у основателя DeepSeek есть свой хэдж-фонд, тут мы писали.

Пока DeepMind занималась ИИ для игр и науки, Хассабис параллельно запустил внутри компании секретный проект по высокоскоростному алгоритмическому трейдингу.

Он собрал команду из 20 исследователей, которые обучали алгоритмы для торговли на финансовых рынках. Даже вели переговоры о сотрудничестве с BlackRock. Проект делался без одобрения Google, Хассабис вёл его тайно.

Мотивация Хассабиса была спортивной: он как пятикратный чемпион по интеллектуальным видам спорта, хотел победить в новой игре -обогнать Джима Саймонса с его фондом.

В итоге проект не принёс денег и был тихо закрыт, потому что Google отнёсся к нему с большой осторожностью и не поддержал.

Никогда не поступайте так со своими мечтами и желаниями.

Встречайте, 1-я ИИ-модель для physicAI вышла, не LLM

Arena Physica представила Heaviside - это не языковая модель, а новый физический фундаментальный фреймворк, который понимает связи между материалами, геометриями и порождаемыми ими электромагнитными полями.

Что она делает:
- За 13 миллисекунд предсказывает электромагнитное поведение любой геометрии.
- В 800 000 раз быстрее традиционных солверов (HFSS, CST и т.д.).
- Работает в обе стороны: от формы до поля и наоборот.

Описываешь словами, что хочешь получить, например, антенна с такими-то характеристиками, и модель сама генерирует нужную структуру.

Сейчас это исследовательское превью в Atlas RF Studio - агентной песочнице.

Модель обучена на десятках миллионов инженерных дизайнов и 20+годах проприетарных данных симуляций. Она предсказывает электромагнитное поведение, исходя из геометрии объекта за 13 миллисекунд, что в 800 000 раз быстрее коммерческих солверов.

Если масштабируют на кремний и более широкие частоты, проектирование чипов, 6G, радаров и высокоскоростной электроники изменится навсегда.

В контексте Physical AI, что мы разбирали в нашем свежем отчете, это следующий уровень: не робот, а сама физика, закодированная в модель.​​​​​​​​​​​​​​​​

Правительство РФ предлагает сажать людей до 5 лет за майнинг криптовалюты

В Госдуму внесли законопроект, которым предлагается наказание в виде штрафов до 2 млн руб. и сроков до 5 лет лишения свободы за незаконный майнинг криптовалюты.

Это следует из документа, опубликованного в системе обеспечения законодательной деятельности.

Майнингом криптовалюты в России, согласно данным ФНС, основанным на экспертных оценках, могут заниматься около 50 000 субъектов, включая и физлиц, и юрлиц, указано в пояснительной записке к законопроекту.

В то же время в реестр лиц, осуществляющих майнинг, на данный момент включено только 1489 субъектов, указывают авторы документа.

Законодательная инициатива предполагает введение статьи УК, которая предусмотрит наказание за осуществление майнинга крипты лицом, не включенным в реестр, если включение является обязательным.

Также законопроект предполагает уголовную ответственность за оказание услуг оператора майнинговой инфраструктуры без включения в реестр, если эти деяния причинили крупный ущерб или сопряжены с извлечением дохода в крупном размере.

31 марта правительство одобрило пакет законопроектов, запрещающий операции с криптовалютами без регулируемых посредников. Приобретать крипту смогут как квалифицированные инвесторы, так и неквалифицированные. Для последних Банком России установлен лимит в 300 тыс. руб. в год через одного посредника. Для организаций, которые проводят операции с криптовалютами, предусматривается выдача лицензий.

Порог пройден. ИИ-агент теперь помещается в 1 ГБ памяти на iPhone

Мы уже говорили о том, что локальные LLM меняют экономику агентов, и что 2026-й станет переломным годом.

Видимо, он уже начался.

PrismML - новая лаборатория из Калтеха выпустила модель Bonsai 8B - языковая модель на 8 млрд параметров, которая весит 1.15 ГБ и запускается на iPhone. Работает на iPhone, M4 Pro, RTX 4090.

Каждый параметр модели хранится в 1 бите вместо стандартных 16. Это называется 1-bit квантизация, здесь она применена сквозь всю архитектуру.

Что это меняет в агентном стеке?

Ollama, llama.cpp, OpenJarvis решили вопрос как запустить локально. Bonsai решает вопрос насколько маленькой может быть модель, оставаясь способной.

Когда агент весит меньше гигабайта, он перестаёт быть ресурсом и становится инфраструктурой постоянной, приватной, офлайн.

Маркетинг у них местами нечестный - главный график сравнивает с конкурентами, игнорируя квантизованные версии. Реальный отрыв есть, но скромнее заявленного.

Тем не менее направление считывается - граница между облачным и локальным агентом - это уже не вопрос возможности, а архитектурного выбора.

Ознакомьтесь с нашим отчетом «Где деньги в экономике ИИ-агентов: разбор слоёв и куда направлять свои ресурсы».

Мы только что опубликовали карту и анализ рынка на $1 трлн+, где ИИ-агенты будут поглощать сферу услуг.

Новые компании стоимостью $1 трлн будут агентными, маскирующиеся под сервисную фирму.

Каждый основатель стартапа, создающий ИИ-инструмент, задаёт себе один и тот же вопрос: что произойдёт, когда следующая версия Claude превратит мой продукт в обычную функцию?

И они правы, что беспокоятся. Если вы продаёте инструмент, значит вы участвуете в гонке против модели. Но если вы продаёте работу, значит каждое улучшение модели делает ваш сервис быстрее, дешевле и недосягаемее для конкурентов.

Время строить новые компании.

Microsoft назначили спец вице-президента по OpenClaw

Омар Шахин - главный по лобстерам в Microsoft, говорит, что уже запустили интегрированный плагин Microsoft Teams для OpenClaw.

Сила OpenClaw добралась до роботов Nvidia

Помните наш недавний пост про Nemotron-Super и OpenClaw, где мы писали, что Nvidia щедро открывает модели и инструменты, чтобы все строили агентные системы именно на их стеке.

Сегодня они сделали следующий шаг и представили CaP-X - фреймворк агентной робототехники.

Это перенос идеи OpenClaw / NemoClaw в физический мир, в мир робототехники.

Вместо того чтобы обучать специальную нейросеть, которая выдаёт движения робота, здесь большая модель пишет код на Python. Модель видит окружение, планирует и генерирует программу из готовых примитивов.

В итоге получаются проактивные агенты, которые могут решать новые задачи и действовать автономно в реальном мире.

Зачем Nvidia это делает?
Тот же самый ход, что и с Nemotron-Super + NeMo Gym + PinchBench.

Они хотят, чтобы все агентные системы и цифровые, и физические строились на их инструментах, бенчмарках и оптимизациях.

Деньги в агентной экономике делаются не на моделях. Модели становятся камодити. Деньги делаются на слоях, которые делают агентов надёжными, управляемыми и встроенными в реальные процессы - цифровые и физические, об этом мы представили 2 подробных анализа и отчета тут и тут.

Огромная хакерская атака: SOTA тренировочные данные многих компаний теперь в даркнете после заражения LiteLLM, о котором мы писали

Mercor AI - это стартап, который помогает OpenAI, Anthropic, Google DeepMind и другим находить и нанимать экспертов (врачей, юристов, инженеров и т.д.) для создания и оценки SOTA обучающих данных. У них десятки тысяч подрядчиков, ежедневные выплаты в миллионах $, запись видео-интервью для верификации и огромный объём чувствительной информации.

Mercor использовал зараженную хакерами библиотеку LiteLLM. Дальше подключилась известная вымогательская группа Lapsus$, они говорят, что вытащили у Mercor 4 ТБ и все выставили на продажу в даркнете. Mercor официально подтвердил инцидент.

Этот инцидент и недавний с Anthropic показывает, что ИИ-индустрия - гигантский эксперимент с очень дорогой и хрупкой инфраструктурой. Мы имеем:
- С одной стороны случайные утечки из-за невнимательности (Anthropic).
- С другой - целенаправленные хакерские атаки (Mercor/LiteLLM).

Все это показывает цену человеческой ошибки. И скоро безопасность будет ещё под большей угрозой, послушайте это.