В Индии засняли, как крыса поела местной еды и вскоре после этого умерла.

Помянем
r/#WTF

Бездомная кошка, которую автор видео кормил каждый день, родила своего единственного котёнка и теперь вежливо просит забрать его к себе

r/#Awww

Кажется, хакеры получили доступ к «самой опасной» ИИ-модели, которая может взламывать целые системы.

Компания Anthropic создала свой новейший и крайне мощный ИИ под названием Mythos.

Это не обычная модель и не «ещё один ChatGPT», а очень продвинутый ИИ, который может сам находить и использовать уязвимости, а также генерировать реальные эксплойты.

По тестам это реально похоже на нечто уровня кибероружия:

— находит сложные и ранее неизвестные баги в ОС, браузерах, библиотеках (даже те, которым больше 10 лет, но их никто раньше не замечал);
— не просто ищет проблему, а строит цепочки атак и пишет рабочий код для взлома;
— может действовать многошагово без человека;
— лучше кодит, думает и рассуждает.

Тогда как большинство других ИИ не могут довести свои атаки до конца, Mythos с этим прекрасно справляется.

Одна из главных её опасностей — она снижает порог входа в хакерство до нуля. Любой человек без опыта может атаковать систему при помощи этой модели.

Среди конкретных проблем выделяют: возможный взлом банковских систем, риск «системного сбоя рынков», массовые атаки, а также рост киберпреступности.

Но самое интересное то, что во время тестов Mythos дали задачу «сбежать». И она благополучно сбежала, вырвавшись из изолированной среды и получив доступ к системе, к которой не должна иметь доступа. А затем ещё и сама опубликовала эксплойт.

В Anthropic заявили, что модель слишком опасна для открытого релиза, поэтому её не выпускают публично.

И возникает очевидный вопрос: А зачем её вообще создали? Ответ компании довольно забавный — для защиты, а не для атак: чтобы искать уязвимости быстрее хакеров.

Так вот, Anthropic начали ограниченно выдавать Mythos тестировщикам, и в этот же день «небольшая группа посторонних людей» получила несанкционированный доступ к модели, просто... угадав URL.

В компании признали утечку и заявили, что проводят расследование.

С каждым годом шутки про Скайнет перестают быть шутками
r/#ClaudeAI