✒️Путевые заметки

⚡️«Этичный» ИИ пошёл на войну

Компания Anthropic строила свой бренд на обещании: мы делаем ИИ, который не причинит вреда. У их модели Claude есть собственная «конституция» — набор этических принципов, по которым она обучена быть полезной, безвредной и честной. На каждой конференции руководители Anthropic рассказывали про ответственный подход, протоколы безопасности и заботу о человечестве. А потом выяснилось, что эту самую модель использовали в режиме реального времени во время военного рейда на Каракас, в ходе которого бомбили городские объекты, гибли люди, а президента суверенного государства захватили и вывезли из страны.

13 февраля 2026 года Wall Street Journal и Axios одновременно сообщили, что языковая модель Claude от Anthropic применялась во время операции по захвату президента Венесуэлы Николаса Мадуро и его жены Силии Флорес. Модель была развёрнута через платформу Palantir. Это первый публично известный случай, когда коммерческая ИИ-модель работала в контуре секретной военной операции Пентагона.

Реакция Anthropic на публикацию — готовая глава для учебника по корпоративному двуличию. Компания выпустила идентичные заявления для Axios и Fox News:

«Мы не можем комментировать, использовался ли Claude или какая-либо другая ИИ-модель для каких-либо конкретных операций, засекреченных или иных».

При этом анонимный источник, знакомый с ситуацией, заверил Fox News, что Anthropic

«отслеживает засекреченное и незасекреченное использование и уверена, что всё использование соответствует политикам компании». То есть с одной стороны — «мы не можем комментировать»

, а с другой — «но всё в рамках наших правил».

Но чтобы понять, как Claude оказалась на поле боя, нужно отмотать назад. Фундамент был заложен ещё 7 ноября 2024 года, когда Anthropic, Palantir и Amazon объявили о трёхстороннем партнёрстве: модели Claude интегрировались в платформу Palantir на так называемом шестом уровне, что даёт допуск к секретным данным Министерства обороны. Технический директор Palantir Шьям Санкар тогда заявил, что его компания стала «первым отраслевым партнёром, предоставившим модели Claude в засекреченных средах». Уже тогда было понятно, для чего это делается, но конференции про этику продолжались.

К концу января 2026 года отношения Anthropic и Пентагона начали портиться, но не из-за операции в Венесуэле, а из-за того, что военные хотели ещё большего. Reuters 29 января сообщил, что переговоры зашли в «стадию застоя»: Пентагон требовал убрать ограничения, запрещающие использование Claude для автономного наведения оружия и внутренней слежки за американцами. Anthropic на этих двух «красных линиях» формально стояла насмерть. Формально — потому что, как показала операция в Каракасе, другие красные линии, вроде запрета на поддержку насилия, оказались вполне пересекаемыми.

За четыре дня до публикации WSJ из Anthropic уволился Мринанк Шарма — глава группы безопасности. В открытом письме он написал: «Мир в опасности. Я видел, как трудно позволить ценностям управлять действиями». И уехал учиться на поэта.

Никто не поднимал бы шума, если бы не утечка. Все прекрасно понимали, зачем Claude интегрируется в Palantir и зачем ей нужен доступ уровня «секретно». Но пока это оставалось за кулисами, все могли сохранять лицо: Anthropic — говорить про этику, Пентагон — про инновации, а общественность — не задавать неудобных вопросов. Когда на столе контракт на 200 миллионов долларов, «конституция» из этических принципов оказывается не красной линией, а переговорной позицией.

35 views17:11