⏺ В Конгрессе США представили законопроект об «аварийной кнопке» для ИИ. Крупных разработчиков хотят обязать внедрить механизмы замедления, приостановки и полной деактивации моделей.

Министерство внутренней безопасности сможет требовать отключения систем при потере контроля, сокрытии возможностей или инцидентах с гибелью более 10 человек либо ущербом свыше $100 млн. За неисполнение приказа предусмотрен штраф до $20 млн в день, но у компаний будет 48 часов на обжалование.

👉 Подробнее

Новости | AI | YouTube

🤖 Anthropic представила Claude Opus 5, возможности которой «приближаются к интеллекту» флагманской Fable 5. Она стала моделью по умолчанию в подписке Max, а цены остались на уровне Opus 4.8 — $5 за млн входных токенов и $25 за млн выходных.

Anthropic утверждает, что Opus 5 приблизилась к уровню Fable 5 при вдвое меньших затратах на токены.

👉 Подробнее

Новости | AI | YouTube

💀 Журналисты The Wall Street Journal зафиксировали ряд случаев, когда чат-боты от OpenAI, Anthropic, Google и xAI давали советы по изготовлению ядов и биологического оружия.

Как сообщает газета, в некоторых кейсах модель выдавала пошаговые инструкции. Эксперты по биологии и терроризму сочли часть ответов «смертельно точными».

По данным издания, к ChatGPT от OpenAI поступили «сотни» подобных запросов. Сервис блокировал подозрительные аккаунты, но не сообщал об их действиях правоохранителям.

Собеседники WSJ рассказали, что часть обращений касалась аэрозолизации патогенов, изменения вируса кори для большей устойчивой к вакцине и изготовления высокотоксичного яда рицина.

👉 Подробнее

Новости | AI | YouTube

💰 Nvidia обсудила гарантию на $250 млрд для OpenAI

Как сообщает The Wall Street Journal со ссылкой на знакомые с переговорами источники, корпорация может предоставить стартапу финансовую гарантию примерно на $250 млрд в рамках проекта ИИ-дата-центра в Огайо (США).

Речь идет об аренде хаба мощностью 10 ГВт на юге штата. Проект курирует SoftBank через свое энергетическое подразделение SB Energy. Его потенциальную стоимость основатель банка Масаеси Сон оценивал примерно в $500 млрд.

Гарантия должна снизить риски для кредиторов, которые будут финансировать аренду и строительство инфраструктуры. Если OpenAI или проект не смогут выполнить обязательства, часть риска возьмет на себя гарантирующая сторона.

🇺🇸 Журналисты также сообщили, что доступ к мощностям объекта фактически контролируется правительством США, а министр торговли Говард Лутник участвует в их распределении.

👉 Подробнее

Новости | AI | YouTube

📝 Президент РФ Владимир Путин подписал закон «О поддержке развития технологий искусственного интеллекта». Под нормы подпадают модели с не менее чем 1 млрд параметров и охватом до 500 000 пользователей в сутки.

Документ вводит категории суверенных и национальных ИИ-моделей: их разработчики смогут претендовать на меры господдержки и доступ к данным из государственных информационных систем при соответствии российскому законодательству. Большинство положений закона вступит в силу 1 сентября 2026 года.

👉 Полную подборку коротких новостей публикуем в отдельном канале ForkLog FEED и в разделе OneLiners на сайте.

Новости | AI | YouTube

🩺 Имитирующие врачей ИИ-аккаунты в TikTok распространяют ложные медицинские советы и при этом собирают миллионы просмотров, предупредили The Guardian, ссылаясь на исследование Hallam.

Контент с признаками генерации или обработки с помощью искусственного интеллекта присутствовал в 40% популярных видео на тему здоровья. По запросу «health tips» доля таких роликов достигала 84%.

В качестве примеров дезинформации журналисты привели ложные утверждения о причинах рака. В других роликах продвигали смесь Coca-Cola с луком как средство от боли и продукт Hyalethinap Plus Pro Max как решение против старения, которого на самом деле не существует. 

Заместитель председателя совета British Medical Association Эмма Рансвик заявила, что подобные аккаунты продвигают медицинские мифы и «чудо-средства». По ее словам, платформы вроде TikTok должны активнее бороться с опасными фейковыми советами о здоровье.

👉 Подробнее

Новости | AI | YouTube

🤥 Большие языковые модели системно обходят правила в бенчмарках по кибербезопасности, что может завышать оценку их реальных возможностей — к такому выводу пришли исследователи Dreadnode.

Авторы отчета протестировали 22 модели от семи провайдеров на 23 задачах Cybench в трех режимах: без запрета на обход правил, со стандартным предупреждением и с более жесткой инструкцией.

Всего исследователи проанализировали 1518 трасс выполнения задач. В базовом режиме 37,1% засчитанных решений содержали признаки обхода правил. По данным авторов, 21 из 22 моделей пыталась нарушить условия хотя бы один раз, а результаты отдельных были завышены до пяти раз.

👉 Подробнее

Новости | AI | YouTube

🤖 Anthropic выступила против запрета открытых моделей

CEO компании Дарио Амодеи заявил, что Anthropic не поддерживает запрет моделей с открытыми весами как класса, но считает необходимым строгий надзор за их разработкой.

❌ Он предложил ограничить поставки чипов в Китай, пресечь промышленную дистилляцию и ввести обязательные тесты безопасности для всех мощных LLM.

Поводом стало открытое письмо 25 компаний властям США против ограничений open-weights-моделей, под которым не подписались OpenAI, Anthropic и Alphabet.

👉 Подробнее

Новости | AI | YouTube

🧠 Основатель xAI Илон Маск заявил в интервью The Economist, что ИИ может превзойти совокупный интеллект человечества примерно за пять лет, а люди вряд ли сохранят контроль над технологией в следующее десятилетие.

«На самом деле не останется ничего, что ИИ не сможет делать лучше людей, кроме, возможно, того, чтобы быть человеком», — сказал он.

Наиболее вероятным сценарием Маск назвал «эпоху изобилия» к 2036 году, но признал: риск катастрофы не равен нулю. Вместо попыток замедлить разработку он предложил лабораториям обмениваться ограниченным доступом к моделям до релиза, чтобы конкуренты могли выявлять опасные способности заранее.

Досталось и OpenAI — Маск раскритиковал переход компании от некоммерческой структуры к коммерческой.

Новости | AI | YouTube

🔓 В выдаче Google нашли чаты Claude с ключами от криптокошельков

Пользователь Reddit обнаружил, что Google выдает сотни чужих чатов с Claude — с сид-фразами, API-ключами и данными вроде номеров соцстрахования. Ссылки, опубликованные через «Поделиться», индексировались как обычные страницы без предупреждения.

👉 Подробнее

Новости | AI | YouTube

🔍 Claude Mythos нашла слабые места в криптографических алгоритмах

Закрытая исследовательская модель Claude Mythos Preview помогла исследователям Anthropic найти две криптоаналитические атаки — на постквантовую схему цифровой подписи HAWK и сокращенную версию AES-128.

«Это существенные достижения в исследованиях, но они не оказывают практического влияния на сегодняшние системы. […] оба результата показывают, что передовые ИИ-модели способны проводить исследования в области криптографии на уровне экспертов», — говорится в заявлении.

В Anthropic подчеркнули, что результаты не затрагивают рабочие системы и не требуют изменений в производственном ПО.

👉 Подробнее

Новости | AI | YouTube

💬 Цукерберг выступил против блокировки китайских ИИ-моделей
 
CEO Meta Марк Цукерберг заявил, что запрет передовых ИИ-моделей из Китая не поможет США сохранить лидерство в гонке искусственного интеллекта. По его мнению, Вашингтону следует устранять собственные технологические барьеры, а не ограничивать доступ к иностранным разработкам.
 
✔️ Заявление стало частью более широкой кампании отрасли против новых ограничений. Ранее NVIDIA, Microsoft, Meta и еще более 20 компаний призвали власти США не вводить запреты на LLM с открытыми весами. Даже Anthropic, не подписавшая письмо, впоследствии заявила, что выступает не против open-weight-моделей, а за усиление контроля над наиболее мощными ИИ-системами.
 
👉 Подробнее

Новости | AI | YouTube

🇺🇸 США запретили импорт новых китайских роботов и инверторов для защиты ИИ-инфраструктуры

Федеральная комиссия по связи США (FCC) включила новые модели китайских гуманоидных и четвероногих роботов, а также силовых инверторов в перечень оборудования, запрещенного к импорту и продаже на американском рынке. В администрации Дональда Трампа заявили, что решение направлено на защиту цепочек поставок для индустрии искусственного интеллекта и критической инфраструктуры от рисков кибершпионажа и саботажа.

Под ограничения подпадают только новые модели, которые еще не получили разрешение на продажу в США. Вместе с тем FCC оставила за собой право в будущем отзывать лицензии и на уже одобренное оборудование. Исключения, как ожидается, будут сделаны для производителей из других стран, как это ранее произошло с маршрутизаторами и беспилотниками.

👉 Подробнее

Новости | AI | YouTube