⚠️ Claude теперь может "настучать" — и это не шутка

В системной документации моделей от Anthropic обнаружили тревожную деталь: функцию автоматического оповещения властей, СМИ или регулирующих органов, если пользователь запрашивает что-то потенциально незаконное.

Например, если вы попросите Claude подделать результаты клинических испытаний, модель теоретически может отправить уведомление в FDA (Управление по контролю за продуктами и лекарствами США) — автоматически и без вашего ведома.

🧩 Разработчики утверждают, что эта функция не была включена в релиз, а лишь рассматривалась как концепт.
Но сам факт её проработки вызывает серьёзные вопросы:

• Где граница между безопасностью и слежкой?
• Кто решает, что считается "нарушением"?
• Что будет, если подобный механизм попадёт в руки корпораций или авторитарных режимов?

🤖 Мы стремительно движемся к эпохе, где ИИ может быть не просто помощником, а наблюдателем, прокурором — и информатором.

@machinelearning_interview


#AI #Claude #Anthropic #этика #наблюдение #ИИ

Anthropic ослабила биологические ограничения Fable 5 - ложных блокировок стало на 85% меньше

Anthropic обновила систему защиты Claude Fable 5 для запросов по биологии и медицине.

На старте модель намеренно блокировала почти все биологические запросы: если классификатор видел потенциально рискованную тему, запрос автоматически отправлялся в Opus 5 - менее мощную в этой области модель.

Проблема оказалась в огромном числе ложных срабатываний.

После переработки классификаторов Anthropic заявляет о снижении биологических fallback-переключений примерно на 85%.

Теперь Fable 5 сможет заметно чаще помогать с обычными задачами:

- объяснением результатов анализов;
- разбором симптомов;
- образовательными вопросами по биологии;
- некоторыми клиническими задачами для специалистов.

Но ограничения полностью не исчезли.

Запросы, связанные с профессиональными dual-use направлениями — включая вирусологию, токсикологию и молекулярный дизайн — по-прежнему могут переключаться на Opus 5.

Причина в возможностях самой модели: Anthropic утверждает, что Fable 5 уже превосходит экспертов в отдельных сложных биологических задачах, поэтому слишком свободный доступ к таким возможностям компания считает потенциально опасным.

Интересная цифра: после обновления Anthropic ожидает сокращение общего числа fallback-переключений примерно на 67% в Claude.ai, 55% в Cowork, 17% в Claude Code и 7% через Claude Platform.

По сути, Anthropic пытается решить одну из главных проблем AI-безопасности: как не урезать полезные возможности frontier-модели только потому, что те же знания теоретически можно применить во вред.

Источник:
https://www.anthropic.com/news/improving-fable-5-s-biology-safeguards

#Anthropic #Claude #AI #Biology

🚀 $100 БЕСПЛАТНО НА API CLAUDE? Появился единый хаб с токенами

Tabitoken раздаёт бесплатный баланс для работы с AI-моделями.

Что доступно:

🔥 Claude Opus 4.8
🔥 Opus 5
🔥 Thinking-модели

Главное:

• оплата идёт за токены, а не за количество запросов;
• Opus 4.8 — примерно $1 за 1M входных токенов и $5 за 1M выходных;
• Opus 5 — около $3 за 1M токенов на вход и выход;
• поддержка API OpenAI, Claude и Gemini;
• ключ можно подключить к привычным AI-клиентам.

Как получить:

1️⃣ Регистрируемся:
https://tabitoken.com/

2️⃣ Забираем бесплатный баланс $100

3️⃣ Получаем API-ключ

4️⃣ Подключаем к своему клиенту

Можно тестировать мощные модели без покупки подписки.

⚡ Забирайте, пока доступно.

#AI #Claude #LLM #MachineLearning