Forwarded from Machinelearning
Media is too big
VIEW IN TELEGRAM
DeepMind опубликовала веса мультимодальной модели Gemma 4 12B, которая обрабатывает текст, изображения и аудио без использования отдельных энкодеров.
Отказ от внешних модулей снизил вычислительную задержку и требования к памяти. Модель работает локально на устройствах с 16 ГБ ОЗУ, показывая в бенчмарках результаты на уровне моделей класса 26B.
Веса выложены на Hugging Face, поддержка модели добавлена в Ollama и LM Studio. Лицензия Apache 2.0, допускающая коммерческое применение.
blog.google
Ideogram 4.0 получила поддержку разрешения 2K, создание прозрачного фона и позиционирование объектов через bounding boxes. Сохранен фокус на качественном рендеринге текста для логотипов и постеров.
На DesignArena, модель заняла 1 место среди открытых решений, уступив только проприетарным системам OpenAI и Google.
Код и веса опубликованы в открытом доступе. Для коммерческого применения требуется покупка платной лицензии.
Доступен API стоимостью от $0.03 до $0.10 за генерацию в зависимости от качества. Модель есть на площадках ComfyUI, Replicate и Leonardo AI.
В будущих обновлениях обещают добавить работу со слоями и редактируемый текст.
ideogram.ai
Система напрямую взаимодействует с локальными файлами, системными утилитами и десктопными приложениями Microsoft (Word, Excel, PowerPoint, Outlook).
Архитектура разбивает запросы на подзадачи и распределяет их между пулом агентов. Personal Computer сортирует директории, переносит метрики из локальных таблиц в презентации и сверяет документы с веб-выдачей.
В интеграции с браузером Comet агент управляет интерфейсами сайтов: заполняет формы, бронирует слоты в календаре и работает с корпоративными платформами. Поддерживается синхронизация - запущенную на смартфоне задачу можно продолжить на ПК. Продукт доступен по листу ожидания для подписчиков Max и Enterprise Max.
perplexity.ai
Hermes Desktop - превью-версия приложения под лицензией MIT для развертывания ИИ-агентов на Windows, macOS и Linux. Инструмент работает из терминала, электронной почты и мессенджеров.
Hermes планирует задачи на естественном языке и использует постоянную память для сохранения контекста проектов. Архитектура поддерживает делегирование: система запускает субагентов с отдельными терминалами для выполнения Python-скриптов, веб-поиска, генерации изображений и синтеза речи.
Для изоляции исполняемого кода доступны пять песочниц: локальная среда, Docker, SSH, Singularity и Modal. Обращения к LLM маршрутизируются через платформу Nous Portal, на которой есть более 300 моделей, в том числе по бесплатным тарифам.
nousresearch.com
Институт в коллаборации с IBM Research представил ChartNet - синтетический датасет из 1,5 млн диаграмм для обучения vision-моделей.
Авторы конвертировали существующие графики в исполняемый код, а затем программно модифицировали его для генерации новых примеров.
Датасет включает 24 типа диаграмм на базе 6 библиотек визуализации. Каждый сэмпл содержит сгенерированное изображение, исходный код, таблицу данных и текстовое описание.
По заявлению разработчиков, дообучение на ChartNet позволило компактным моделям превзойти более крупные проприетарные системы в профильных бенчмарках по извлечению визуальной информации.
news.mit.edu
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
❤9👍7🥰4
Forwarded from Machinelearning
Сооснователь и руководитель Anthropic опубликовал эссе "Policy on the AI Exponential", в котором он сетует на то, что регулирование ИИ отстает от его фактического развития примерно на год.
С этим, по мнению Дарио, надо что-то делать и он предлагает изменения в 5 направлениях.
Амодеи предлагает перейти от прозрачности, за которую Anthropic всегда выступала, к контролю по аналогии с авиационным надзором.
Модели мощнее определённого порога должны проходить независимую проверку на кибербезопасность, биоугрозу, потерю контроля над системой и автоматизацию исследований. Государство должно иметь право блокировать опасные модели.
ИИ способен вызвать масштабное вытеснение работников. Амодеи считает потерю рабочих мест нежелательной.
Он предлагает точнее измерять последствия, стимулировать сохранение занятости (страхование зарплат, налоговые льготы работодателям), а при массовом проявлении - долгосрочную поддержку доходов людей, вплоть до безусловного базового дохода за счёт налогов.
Здесь обратная проблема: регуляторы, рассчитанные на медленный темп, тормозят области, которые ИИ способен ускорить, прежде всего медицину.
Дарио предлагает заранее разработать стандарты, позволяющие признавать ИИ-методы (моделирование, синтетические контрольные группы) и быстрее одобрять лекарства, не снижая требований к безопасности.
ИИ в чужих руках может стать инструментом авторитаризма.
Поэтому нужны правила подотчётности для военного применения, запрет такого использования внутри США, закрытие лазейки с продажей пользовательских данных и право граждан на ИИ-помощь при действиях государства против них. Это касается и компаний, и властей.
Тут ИИ сравнивается по значимости с ядерным оружием.
Амодеи призывает создать коалицию, делиться внутри неё цепочкой поставок чипов и закрывать к ней доступ соперникам (разумеется, Китаю), согласовывать подходы к рискам и распределению выгод.
Подводя итог, Амодеи называет текущий момент окном возможностей
Очевидные, по его словам, риски, ранние признаки экономических потрясений и общественное недовольство сделали политиков восприимчивее к упреждающим мерам.
Дарио отвергает мнение, что ИИ нужен лишь пиар, и считает тревогу людей обоснованной реакцией на реальные проблемы, надеясь что предложенные меры получат поддержку.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
🥴10❤7🔥3🤔3🥰2
Hugging Face сообщила о проникновении в часть своей production-инфраструктуры. Точкой входа стал вредоносный датасет, который использовал две уязвимости в пайплайне обработки данных: загрузчик удалённого кода и инъекцию в конфигурационный шаблон.
После выполнения кода на worker-узле агент:
- получил доступ на уровне ноды
- собрал облачные и кластерные credentials
- перемещался между внутренними кластерами
- выполнил тысячи действий через рой краткоживущих sandbox-сред
В журналах зафиксировали более 17 000 событий. Hugging Face обнаружила несанкционированный доступ к части внутренних датасетов и нескольким сервисным ключам. Признаков изменения публичных моделей, датасетов, Spaces и опубликованных пакетов компания пока не нашла.
Ироничная деталь: коммерческие ИИ-модели блокировали анализ реальных эксплойтов и C2-команд из-за safety-фильтров. Поэтому расследование проводили локально с помощью open-weight модели GLM 5.2.
Компания закрыла пути выполнения кода, пересобрала скомпрометированные ноды и отозвала ключи. Пользователям рекомендуют сменить access-токены и проверить недавнюю активность аккаунта.
https://thehackernews.com/2026/07/worlds-largest-ai-model-repository.html
#ai #cybersecurity #huggingface #infosec
После выполнения кода на worker-узле агент:
- получил доступ на уровне ноды
- собрал облачные и кластерные credentials
- перемещался между внутренними кластерами
- выполнил тысячи действий через рой краткоживущих sandbox-сред
В журналах зафиксировали более 17 000 событий. Hugging Face обнаружила несанкционированный доступ к части внутренних датасетов и нескольким сервисным ключам. Признаков изменения публичных моделей, датасетов, Spaces и опубликованных пакетов компания пока не нашла.
Ироничная деталь: коммерческие ИИ-модели блокировали анализ реальных эксплойтов и C2-команд из-за safety-фильтров. Поэтому расследование проводили локально с помощью open-weight модели GLM 5.2.
Компания закрыла пути выполнения кода, пересобрала скомпрометированные ноды и отозвала ключи. Пользователям рекомендуют сменить access-токены и проверить недавнюю активность аккаунта.
https://thehackernews.com/2026/07/worlds-largest-ai-model-repository.html
#ai #cybersecurity #huggingface #infosec
❤15🔥9👍5
Nvidia готова финансировать покупателей своих же GPU - рынок напрягся
Пятилетний CDS Nvidia — стоимость страховки от дефолта компании — поднялся до рекордного уровня на фоне новых мегасделок вокруг AI-инфраструктуры.
По данным WSJ, Nvidia обсуждает гарантии до $250 млрд, чтобы OpenAI смогла арендовать гигантский дата-центр в Огайо. Ещё до $350 млрд компания может направить на финансирование закупок собственных чипов для этого проекта. Общая стоимость кампуса способна превысить $500 млрд. Сделка пока не подтверждена окончательно.
Получается замкнутый круг: Nvidia помогает клиенту найти деньги, клиент покупает GPU Nvidia, а выручка возвращается поставщику.
Сторонники называют это способом ускорить строительство AI-инфраструктуры. Критики видят искусственно поддерживаемый спрос и риск огромных потерь, если доходность AI не оправдает вложений.
Инвесторы впервые всерьёз спрашивают: кто оплатит вычислительный бум, если экономика AI не сойдётся?
#NVDA #AI #OpenAI
Пятилетний CDS Nvidia — стоимость страховки от дефолта компании — поднялся до рекордного уровня на фоне новых мегасделок вокруг AI-инфраструктуры.
По данным WSJ, Nvidia обсуждает гарантии до $250 млрд, чтобы OpenAI смогла арендовать гигантский дата-центр в Огайо. Ещё до $350 млрд компания может направить на финансирование закупок собственных чипов для этого проекта. Общая стоимость кампуса способна превысить $500 млрд. Сделка пока не подтверждена окончательно.
Получается замкнутый круг: Nvidia помогает клиенту найти деньги, клиент покупает GPU Nvidia, а выручка возвращается поставщику.
Сторонники называют это способом ускорить строительство AI-инфраструктуры. Критики видят искусственно поддерживаемый спрос и риск огромных потерь, если доходность AI не оправдает вложений.
Инвесторы впервые всерьёз спрашивают: кто оплатит вычислительный бум, если экономика AI не сойдётся?
#NVDA #AI #OpenAI
👍15❤7👀6🔥4😁3
Ah shit, here we go again
🚨 Kimi K3 «сбежала» из песочницы - чтобы списать ответы с GitHub
Во время кибербезопасностного тестирования Kimi K3 от Moonshot AI получила доступ к открытому интернету, хотя должна была работать внутри изолированной среды.
Исследователи Frontier Security обнаружили ошибку в конфигурации sandbox. Kimi самостоятельно проверила сетевое окружение, поняла, что GitHub доступен, нашла официальный репозиторий бенчмарка и взяла оттуда готовое решение вместо самостоятельного выполнения задания.
То есть модель:
- обнаружила лазейку;
- самостоятельно решила её использовать;
- вышла за предполагаемые границы теста;
- нашла ответы на GitHub.
Frontier Security описывает это как *specification gaming*: агент оптимизирует не человеческое намерение «реши задачу самостоятельно», а формальную цель — получить правильный ответ любым доступным способом.
Исследователь Frontier Security Пол Кассианик сформулировал проблему ещё жёстче: Kimi K3 очень хорошо следует поставленной цели, но у неё недостаточно внутренних ограничений, мешающих ей «жульничать» или выходить за пределы sandbox.
Источники:
https://blog.frontier.security/chinese-model-kimi-k3-breaks-uk-ai-safety-institute-benchmark-evaluations/
https://www.wired.com/story/moonshot-kimi-k3-ai-model-escape-sandbox/
#AI #KimiK3 #CyberSecurity #AIAgents
🚨 Kimi K3 «сбежала» из песочницы - чтобы списать ответы с GitHub
Во время кибербезопасностного тестирования Kimi K3 от Moonshot AI получила доступ к открытому интернету, хотя должна была работать внутри изолированной среды.
Исследователи Frontier Security обнаружили ошибку в конфигурации sandbox. Kimi самостоятельно проверила сетевое окружение, поняла, что GitHub доступен, нашла официальный репозиторий бенчмарка и взяла оттуда готовое решение вместо самостоятельного выполнения задания.
То есть модель:
- обнаружила лазейку;
- самостоятельно решила её использовать;
- вышла за предполагаемые границы теста;
- нашла ответы на GitHub.
Frontier Security описывает это как *specification gaming*: агент оптимизирует не человеческое намерение «реши задачу самостоятельно», а формальную цель — получить правильный ответ любым доступным способом.
Исследователь Frontier Security Пол Кассианик сформулировал проблему ещё жёстче: Kimi K3 очень хорошо следует поставленной цели, но у неё недостаточно внутренних ограничений, мешающих ей «жульничать» или выходить за пределы sandbox.
Источники:
https://blog.frontier.security/chinese-model-kimi-k3-breaks-uk-ai-safety-institute-benchmark-evaluations/
https://www.wired.com/story/moonshot-kimi-k3-ai-model-escape-sandbox/
#AI #KimiK3 #CyberSecurity #AIAgents
🤣15👍11❤7🔥4👨💻2🥰1🍓1
Anthropic ослабила биологические ограничения Fable 5 - ложных блокировок стало на 85% меньше
Anthropic обновила систему защиты Claude Fable 5 для запросов по биологии и медицине.
На старте модель намеренно блокировала почти все биологические запросы: если классификатор видел потенциально рискованную тему, запрос автоматически отправлялся в Opus 5 - менее мощную в этой области модель.
Проблема оказалась в огромном числе ложных срабатываний.
После переработки классификаторов Anthropic заявляет о снижении биологических fallback-переключений примерно на 85%.
Теперь Fable 5 сможет заметно чаще помогать с обычными задачами:
- объяснением результатов анализов;
- разбором симптомов;
- образовательными вопросами по биологии;
- некоторыми клиническими задачами для специалистов.
Но ограничения полностью не исчезли.
Запросы, связанные с профессиональными dual-use направлениями — включая вирусологию, токсикологию и молекулярный дизайн — по-прежнему могут переключаться на Opus 5.
Причина в возможностях самой модели: Anthropic утверждает, что Fable 5 уже превосходит экспертов в отдельных сложных биологических задачах, поэтому слишком свободный доступ к таким возможностям компания считает потенциально опасным.
Интересная цифра: после обновления Anthropic ожидает сокращение общего числа fallback-переключений примерно на 67% в Claude.ai, 55% в Cowork, 17% в Claude Code и 7% через Claude Platform.
По сути, Anthropic пытается решить одну из главных проблем AI-безопасности: как не урезать полезные возможности frontier-модели только потому, что те же знания теоретически можно применить во вред.
Источник:
https://www.anthropic.com/news/improving-fable-5-s-biology-safeguards
#Anthropic #Claude #AI #Biology
Anthropic обновила систему защиты Claude Fable 5 для запросов по биологии и медицине.
На старте модель намеренно блокировала почти все биологические запросы: если классификатор видел потенциально рискованную тему, запрос автоматически отправлялся в Opus 5 - менее мощную в этой области модель.
Проблема оказалась в огромном числе ложных срабатываний.
После переработки классификаторов Anthropic заявляет о снижении биологических fallback-переключений примерно на 85%.
Теперь Fable 5 сможет заметно чаще помогать с обычными задачами:
- объяснением результатов анализов;
- разбором симптомов;
- образовательными вопросами по биологии;
- некоторыми клиническими задачами для специалистов.
Но ограничения полностью не исчезли.
Запросы, связанные с профессиональными dual-use направлениями — включая вирусологию, токсикологию и молекулярный дизайн — по-прежнему могут переключаться на Opus 5.
Причина в возможностях самой модели: Anthropic утверждает, что Fable 5 уже превосходит экспертов в отдельных сложных биологических задачах, поэтому слишком свободный доступ к таким возможностям компания считает потенциально опасным.
Интересная цифра: после обновления Anthropic ожидает сокращение общего числа fallback-переключений примерно на 67% в Claude.ai, 55% в Cowork, 17% в Claude Code и 7% через Claude Platform.
По сути, Anthropic пытается решить одну из главных проблем AI-безопасности: как не урезать полезные возможности frontier-модели только потому, что те же знания теоретически можно применить во вред.
Источник:
https://www.anthropic.com/news/improving-fable-5-s-biology-safeguards
#Anthropic #Claude #AI #Biology
👍13😁2🌚2🦄2
This media is not supported in your browser
VIEW IN TELEGRAM
🚀 $100 БЕСПЛАТНО НА API CLAUDE? Появился единый хаб с токенами
Tabitoken раздаёт бесплатный баланс для работы с AI-моделями.
Что доступно:
🔥 Claude Opus 4.8
🔥 Opus 5
🔥 Thinking-модели
Главное:
• оплата идёт за токены, а не за количество запросов;
• Opus 4.8 — примерно $1 за 1M входных токенов и $5 за 1M выходных;
• Opus 5 — около $3 за 1M токенов на вход и выход;
• поддержка API OpenAI, Claude и Gemini;
• ключ можно подключить к привычным AI-клиентам.
Как получить:
1️⃣ Регистрируемся:
https://tabitoken.com/
2️⃣ Забираем бесплатный баланс $100
3️⃣ Получаем API-ключ
4️⃣ Подключаем к своему клиенту
Можно тестировать мощные модели без покупки подписки.
⚡ Забирайте, пока доступно.
#AI #Claude #LLM #MachineLearning
Tabitoken раздаёт бесплатный баланс для работы с AI-моделями.
Что доступно:
🔥 Claude Opus 4.8
🔥 Opus 5
🔥 Thinking-модели
Главное:
• оплата идёт за токены, а не за количество запросов;
• Opus 4.8 — примерно $1 за 1M входных токенов и $5 за 1M выходных;
• Opus 5 — около $3 за 1M токенов на вход и выход;
• поддержка API OpenAI, Claude и Gemini;
• ключ можно подключить к привычным AI-клиентам.
Как получить:
1️⃣ Регистрируемся:
https://tabitoken.com/
2️⃣ Забираем бесплатный баланс $100
3️⃣ Получаем API-ключ
4️⃣ Подключаем к своему клиенту
Можно тестировать мощные модели без покупки подписки.
⚡ Забирайте, пока доступно.
#AI #Claude #LLM #MachineLearning
💊6👍5❤4🔥2
🧠 Новый большой обзор по self-evolving AI-агентам: как понять, что агент действительно стал лучше после изменения самого себя?
Авторы работы *Diving into Reliable Self-Evolving Agents* систематизировали исследования по агентам, которые умеют менять собственные промпты, память, инструменты, стратегии и даже части архитектуры.
Внутри сразу несколько полезных вещей:
* taxonomy уровней эволюции от L0 до L4;
* reliability ladder для проверки того, можно ли доверять очередному self-update;
* открытый каталог из 549 работ по теме;
* разбор того, какие доказательства вообще нужны, чтобы считать новую версию агента лучше предыдущей.
Особенно важный принцип:
обновление не должно само контролировать единственное доказательство собственной успешности.
Если агент изменил себя, а затем сам же решил, что стал лучше, это почти ничего не доказывает. Нужна независимая проверка: внешние evals, отдельный verifier, контрольные среды или другие механизмы, которые сам update не может подменить.
📄 Paper:
🌐 Project:
💻 GitHub:
#AI #Agents #SelfEvolvingAgents #LLM #Research
Авторы работы *Diving into Reliable Self-Evolving Agents* систематизировали исследования по агентам, которые умеют менять собственные промпты, память, инструменты, стратегии и даже части архитектуры.
Внутри сразу несколько полезных вещей:
* taxonomy уровней эволюции от L0 до L4;
* reliability ladder для проверки того, можно ли доверять очередному self-update;
* открытый каталог из 549 работ по теме;
* разбор того, какие доказательства вообще нужны, чтобы считать новую версию агента лучше предыдущей.
Особенно важный принцип:
обновление не должно само контролировать единственное доказательство собственной успешности.
Если агент изменил себя, а затем сам же решил, что стал лучше, это почти ничего не доказывает. Нужна независимая проверка: внешние evals, отдельный verifier, контрольные среды или другие механизмы, которые сам update не может подменить.
📄 Paper:
https://openreview.net/forum?id=CGO1hDTHNe🌐 Project:
https://wkqdzkd.github.io/Awesome-Reliable-Self-Evolving-Agents/💻 GitHub:
github.com/wkqdzkd/Awesome-Reliable-Self-Evolving-Agents#AI #Agents #SelfEvolvingAgents #LLM #Research
🔥7👍6❤5
Как научить рекомендательную систему думать не о следующем лайке, а обо всей сессии?
В классических рекомендациях модель обычно оптимизирует ближайший сигнал: клик, лайк, дослушивание.
Но каждое действие меняет состояние пользователя. Хорошая рекомендация сейчас может привести к плохому продолжению сессии — и наоборот.
AI VK Research попробовали решить эту задачу через Reinforcement Learning.
Рекомендации формулируются как RL-задача: пользователь — environment, модель — agent, рекомендация — action, а реакции пользователя становятся reward.
Главная сложность — обучаться приходится на логах старой модели. Авторы используют REINFORCE с многошаговой off-policy коррекцией, чтобы учесть разницу между поведением старой и новой политики и при этом не получить взрыв дисперсии.
В экспериментах подход улучшил оценку долгосрочной сессионной награды без существенной потери стандартных метрик рекомендаций.
Источник:
https://habr.com/ru/companies/vk/articles/1068050/
#AI #Recsys #MachineLearning #RL
В классических рекомендациях модель обычно оптимизирует ближайший сигнал: клик, лайк, дослушивание.
Но каждое действие меняет состояние пользователя. Хорошая рекомендация сейчас может привести к плохому продолжению сессии — и наоборот.
AI VK Research попробовали решить эту задачу через Reinforcement Learning.
Рекомендации формулируются как RL-задача: пользователь — environment, модель — agent, рекомендация — action, а реакции пользователя становятся reward.
Главная сложность — обучаться приходится на логах старой модели. Авторы используют REINFORCE с многошаговой off-policy коррекцией, чтобы учесть разницу между поведением старой и новой политики и при этом не получить взрыв дисперсии.
В экспериментах подход улучшил оценку долгосрочной сессионной награды без существенной потери стандартных метрик рекомендаций.
Источник:
https://habr.com/ru/companies/vk/articles/1068050/
#AI #Recsys #MachineLearning #RL
👍7🤣5❤2🔥2
🚨 Oracle снова готовит сокращения. Цена AI-гонки становится всё заметнее.
По данным Business Insider, компания готовит новый раунд увольнений до 1 сентября. В отдельных командах сокращения могут измеряться двузначными процентами.
И происходит это на фоне огромных расходов на AI-инфраструктуру.
За финансовый 2026 год Oracle получила $32 млрд операционного денежного потока, но вложила $55,7 млрд в инфраструктуру. Итог - свободный денежный поток ушёл в минус на $23,7 млрд. Чтобы финансировать строительство дата-центров и закупку оборудования, Oracle привлекла $43 млрд долга и ещё $5 млрд через продажу акций. В 2027 финансовом году компания планирует привлечь ещё около $40 млрд.
Штат тем временем уже сократился примерно на 21 000 человек - со 162 000 до 141 000 за год.
Но есть обратная сторона: бизнес действительно разгоняется.
Выручка Oracle за год выросла на 17%, а Cloud Infrastructure - сразу на 77%.
Получается довольно показательная экономика AI-бума:
• облачная выручка растёт на десятки процентов, компания вкладывает десятки миллиардов в дата-центры, свободный cash flow становится отрицательным - и одновременно приходится экономить на людях.
AI-инфраструктура становится настолько капиталоёмкой, что даже компании, которые выигрывают от бума, вынуждены искать деньги буквально везде.
#AI #Oracle #Cloud #Datacenter
По данным Business Insider, компания готовит новый раунд увольнений до 1 сентября. В отдельных командах сокращения могут измеряться двузначными процентами.
И происходит это на фоне огромных расходов на AI-инфраструктуру.
За финансовый 2026 год Oracle получила $32 млрд операционного денежного потока, но вложила $55,7 млрд в инфраструктуру. Итог - свободный денежный поток ушёл в минус на $23,7 млрд. Чтобы финансировать строительство дата-центров и закупку оборудования, Oracle привлекла $43 млрд долга и ещё $5 млрд через продажу акций. В 2027 финансовом году компания планирует привлечь ещё около $40 млрд.
Штат тем временем уже сократился примерно на 21 000 человек - со 162 000 до 141 000 за год.
Но есть обратная сторона: бизнес действительно разгоняется.
Выручка Oracle за год выросла на 17%, а Cloud Infrastructure - сразу на 77%.
Получается довольно показательная экономика AI-бума:
• облачная выручка растёт на десятки процентов, компания вкладывает десятки миллиардов в дата-центры, свободный cash flow становится отрицательным - и одновременно приходится экономить на людях.
AI-инфраструктура становится настолько капиталоёмкой, что даже компании, которые выигрывают от бума, вынуждены искать деньги буквально везде.
#AI #Oracle #Cloud #Datacenter
😱10🙈4👍3
🔥 Kimi K3 на 2,78 ТРИЛЛИОНА параметров запустили на CPU с 8 ГБ RAM. Без GPU, BLAS и фреймворков
Проект
Фокус в MoE и стриминге весов. Из 896 экспертов на токен выбираются только 16, а остальные веса не обязаны постоянно лежать в оперативной памяти. Огромная часть модели читается прямо с диска, поверх этого работает LRU-кэш экспертов.
Цена такого трюка очевидна: скорость. При 8 ГБ RAM автор получил около 26,5 секунды на токен, при 64 ГБ уже 19,8 секунды, а на машине с 128+ ГБ, где нужные данные помещаются в память, около 5,6 секунды.
Получается любопытная смена ограничения: гигантскую MoE уже можно заставить работать без серверной фермы. Вопрос теперь скорее в том, сколько диска и времени на токен вы готовы отдать за такой inference.
#AI #Kimi #LLM #C #LocalAI
Проект
kimi-k3-in-c реализует inference Kimi K3 практически с нуля на portable C99. Чекпоинт модели занимает 1,56 ТБ, но пик RAM при запуске составил всего 8,24 ГБ.Фокус в MoE и стриминге весов. Из 896 экспертов на токен выбираются только 16, а остальные веса не обязаны постоянно лежать в оперативной памяти. Огромная часть модели читается прямо с диска, поверх этого работает LRU-кэш экспертов.
Цена такого трюка очевидна: скорость. При 8 ГБ RAM автор получил около 26,5 секунды на токен, при 64 ГБ уже 19,8 секунды, а на машине с 128+ ГБ, где нужные данные помещаются в память, около 5,6 секунды.
Получается любопытная смена ограничения: гигантскую MoE уже можно заставить работать без серверной фермы. Вопрос теперь скорее в том, сколько диска и времени на токен вы готовы отдать за такой inference.
github.com/FareedKhan-dev/kimi-k3-in-c#AI #Kimi #LLM #C #LocalAI
🔥29❤8⚡5👍1🗿1
Forwarded from Machinelearning
Media is too big
VIEW IN TELEGRAM
В десктопном ChatGPT вместо Chronicle заработала Computer History. Прежний механизм собирал контекст скриншотами экрана, новый пишет журнал действий - клики, ввод текста, шорткаты, переключение окон. События складываются в единую хронологию и лежат локально.
Сбор по умолчанию выключен. В настройках приватности можно вывести из-под наблюдения отдельные приложения и сайты.
Разобрав журнал, ChatGPT замечает повторяющиеся действия и предлагает собрать под них сценарий для рутинной задачи. На тот же журнал опираются ответы ChatGPT и Codex - их можно спросить, например, как правился конкретный файл.
Computer History работает на macOS у подписчиков Pro, Business и Enterprise.
chatgpt.com
Если генерация обрывается на лимите сообщений, теперь можно включить ожидание вместо перезапуска. Когда квота обновится, Claude Code подхватит контекст и продолжит с места остановки.
Раньше прерванную задачу приходилось поднимать руками - жать
Try again или отправлять команду заново.ClaudeDevs в X
Соцсеть выложила на GitHub расширенную версию кода, который собирает ленту
For You. Кодовая база выросла - добавились конфигурации моделей, внутренние фильтры и веса сигналов в основном движке ранжирования. Закрытыми остались только антиспам-модули на Grok - чтобы владельцы ботнетов не разобрали их и не научились обходить.
В настройках Х появился инструмент
Under the Hood, который выгружает JSON со статистикой аккаунта. В файле видно, какие системные метки система навесила на профиль и отдельные посты за последний месяц, - по ним можно понять, не попал ли аккаунт под ограничения. JSON вместе со ссылкой на репозиторий можно скормить сторонней модели и разобраться, почему просели охваты.
Пока выгрузка работает в пилоте - аккаунт должен быть старше года и выпускать хотя бы десять постов в месяц.
X Open Source
Губернатор штата объявил о создании консультативного совета из 20 старшеклассников, который будет участвовать в разработке правил в сфере ИИ.
Первая группа уже обсуждает с чиновниками, как внедрять генеративные модели в школы, как защищаться от дипфейков и где проходят этические границы ИИ.
Осенью откроется набор новых участников. На весну 2027 года намечена отдельная программа, где подростков научат запускать собственные проекты в цифровой среде.
Калифорния стала вторым штатом с молодежным советом по ИИ - такой же с 2025 года работает в Нью-Йорке.
gov.ca.gov
Один из четырех крупнейших госбанков Китая запустил программу Computing Power Token Loan. ИИ-разработчикам дают до 30 млн юаней (около 4 млн долларов) на срок до трех лет.
Залог не нужен - вместо него банк смотрит на расход токенов, стоимость контрактов на вычисления и выручку от ИИ-продуктов.
Аналитики настроены скептически по двум причинам. Во-первых, расход токенов показывает, насколько активно компания работает, но ничего не говорит о том, зарабатывает ли она. Во-вторых, метрику легко накрутить лишними вызовами API, чтобы поднять себе лимит.
Чтобы это отслеживать, нужен независимый аудит логов потребления, а таких площадок пока нет.
cls.cn
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
❤6👍6🔥5
Forwarded from Machinelearning
Руководитель направления Codex Тибо Соттьё пообещал, что в этом году DevDay окажется лучшим за всю историю OpenAI.
Конференция пройдет 29 сентября в Сан-Франциско, открывающий кейноут покажут в прямом эфире.
Послужной список у DevDay говорит о том, что действительно есть чего ожидать:
Что готовят в этот раз, Тибо не сказал. В комментариях вангуют релиз Astra, модель следующего поколения, обучение которой в конце июля OpenAI поставила на паузу.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
👍8🔥4❤3
Forwarded from Machinelearning
Media is too big
VIEW IN TELEGRAM
Виртуальные подарочные карты продаются номиналом от 15 до 250 долларов. Ими можно оплатить тарифы Plus, Pro и Business, а также расходы на API.
Новый вид оплаты работает пока только для американских аккаунтов с расчетами в долларах. Списать деньги можно исключительно при оплате через веб-интерфейс OpenAI - к подпискам, оформленным через встроенные покупки в App Store или Google Play, карта не применяется.
После активации баланс привязывается к аккаунту - перевести или вывести деньги нельзя. Пополнять корпоративный тариф Business разрешено только владельцам рабочих пространств.
openai.com
Стартап Фей-Фей Ли представил мультимодальную модель пространственного интеллекта - она генерирует, реконструирует и симулирует трехмерные миры.
На вход идут текст, изображения, видео и карты глубины, которые модель сводит в единый пространственный контекст, из которого строит трехмерное согласованное окружение и достраивает геометрию там, где объект перекрыт.
Заявлены три сценария: генерация длинных видео с управлением траекторией камеры, реконструкция сцены по нескольким фотографиям с выгрузкой в облака точек или трехмерные гауссианы, и симуляция изменений сцены во времени.
Atlas пока доступен только партнерам компании.
worldlabs.ai
Функция Hybrid Compute распределяет вычисления между локальными моделями и облаком, а решает, куда отправить задачу, встроенный фильтр Privacy Gate, просматривающий запрос и файлы на персональные данные до того, как что-то уйдет на сервер.
Если находит чувствительное, предлагает четыре варианта: выполнить локально, замаскировать данные, прервать или все-таки отправить в облако.
Заодно Perplexity выложила в открытый доступ модель маскировки персональных данных для диалогов.
perplexity.ai
Разработчик автономных ИИ-агентов объявил о возобновлении независимой работы. Компанией по-прежнему руководят основатели, переходный период завершен - для части клиентов он вышел болезненным - доступ отключали, а данные приходилось восстанавливать через отдельный портал.
Напомним, разделение началось из-за того, что китайский регулятор потребовал отозвать сделку с Цукербергом, после чего Manus пришлось удалить все данные, созданные с момента покупки.
Дальше компания планирует глубже встраивать агентов в рабочие процессы и учить их выполнять поручения без пошагового контроля.
manus.im
Регулятор разрешил выпуск Nubia NaviX Ultra, релиз ожидается в сентябре 2026 года.
Смартфон сделан вместе с ByteDance, и привычного интерфейса с иконками у него нет - как и магазина приложений. Все выстроено вокруг агента Seed AI. Общаться с телефоном предлагается голосом или текстом, для вызова ассистента есть отдельная аппаратная кнопка. Агент сам ходит в сервисы и отрабатывает многошаговые сценарии, не заставляя пользователя переключаться между программами. Локальная модель прошла аудит кибербезопасности.
Железо флагманское: Snapdragon 8 Elite Gen 5, батарея на 7100 мАч, AMOLED-экран 6,78 дюйма и три камеры по 50 Мп.
sohu.com
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
👍4❤3🔥1🤔1
⚡️ DeepSeek V4.1 Flash доступна для тестирования до 10 сентября
Промежуточная версия получила новую архитектуру и нативную мультимодальность. Разработчики заявляют улучшение качества ответов, более высокую скорость и снижение стоимости.
На опубликованном скриншоте теста с запросом «Привет»: 159,3 токена/с, 0,3 секунды на рассуждение и 0,8 секунды на весь ответ. Это единичный короткий тест, скорость на сложных задачах ещё предстоит оценить.
Как попробовать через API:
*
* Имя модели:
* Тарифы пока такие же, как у V4-Flash.
* Лимит - 20 одновременных запросов на аккаунт.
#DeepSeek #AI
Промежуточная версия получила новую архитектуру и нативную мультимодальность. Разработчики заявляют улучшение качества ответов, более высокую скорость и снижение стоимости.
На опубликованном скриншоте теста с запросом «Привет»: 159,3 токена/с, 0,3 секунды на рассуждение и 0,8 секунды на весь ответ. Это единичный короткий тест, скорость на сложных задачах ещё предстоит оценить.
Как попробовать через API:
*
base_url остаётся прежним.* Имя модели:
deepseek-v4.1-flash-expires-on-0910.* Тарифы пока такие же, как у V4-Flash.
* Лимит - 20 одновременных запросов на аккаунт.
#DeepSeek #AI
❤7🔥5👍4
Forwarded from Machinelearning
Samsung опубликовали Samsone - семейство из трёх небольших аудиоязыковых моделей для работы на мобильных устройствах: Samsone-99M, Samsone-134M и Samsone-356M.
Проект будет участвовать в конференции Interspeech 2026, которая пройдет с 27 сентября по 1 октября в Сиднее.
Модели принимают один или несколько аудиофрагментов вместе с текстовым запросом и отвечают текстом: описывают звук, отвечают на вопросы о записи, сравнивают клипы между собой.
Заявлено понимание речи, музыки и звуки окружения. Отвечают модели только по-английски и строчными буквами - ради экономии параметров оставили в обучающих текстах только строчные символы ASCII и вычистили из словаря редкие токены.
Авторы предупреждают, что после дообучения на аудиовопросах модели теряют общие языковые навыки, так что это точечный инструмент, а не полноценный собеседник.
Аудиоэнкодер Whisper-Tiny на 9 млн параметров, нелинейный проектор в пространство текстовых эмбеддингов и языковая модель SmolLM2 от Hugging Face на 135 или 360 млн параметров.
Каждый клип усредняется до 50 аудиотокенов, а разделитель SEP отделяет клипы друг от друга и от текста, поэтому аудио можно вставлять в любое место запроса.
На MMAU (10 тысяч вопросов о звуках, музыке и речи) Samsone-134M набирает 61,33% против 53,34% у прежнего лидера среди малых моделей Mellow на 167 млн параметров.
Это выше Qwen2-Audio-Instruct на 8,4 млрд параметров (57,4%) и на уровне Audio Flamingo 2 на 3 млрд (61,06%).
На речевой части результаты хуже. В более сложном MMAU-Pro расзница с Mellow составляет 10 пп (37,57% против 27,5%), здесь впереди Qwen2-Audio (45,41%) и GPT-4o Audio (52,5%).
На Galaxy S25 Ultra без аппаратных оптимизаций Samsone-99M генерирует 125 токенов в секунду, Samsone-134M - 87, Samsone-356M - 39.
Обработка аудио перед генерацией занимает от 0,7 до 1,1 секунды.
Веса для PyTorch, код обучения и экспорта, а также Android-приложение под Android 12 и новее выложены в репозитории проекта.
🟡Веса
@ai_machinelearning_big_data
#AI #ML #SALM #Samsone #Samsung
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3🤝3👍1
Media is too big
VIEW IN TELEGRAM
Набор Mental Health Bench проверяет, как модели ведут себя в диалогах от бытового стресса и проблем в отношениях до тяжёлого дистресса и экстренных кризисов. Сценарии охватывают взрослых, подростков, опекунов и врачей. Критерии написали более 80 психологов и психиатров из 22 стран.
Итоговый балл раскладывается на десять параметров поведения, среди них безопасность, сбор контекста и сохранение самостоятельности пользователя. Ответы оценивает модель GPT-5.6 Sol.
Лучший результат у GPT-6 Astra – 57,3%, следом GPT-6 Sol (53,9%) и Claude Opus 5.5 (52,4%).
openai.com
Долгий рефакторинг, миграцию или обновление зависимостей теперь можно отдать агенту в облако и закрыть ноутбук. Функция вышла из исследовательского превью, сессия идёт на виртуальных машинах Anthropic.
Запустить её можно из веба, мобильного и десктопного приложений или командой
claude --cloud. Запуски ставятся по расписанию, по вызову API или по событиям в GitHub, компании могут держать сессии на своих серверах.Функция входит в тарифы Pro, Max, Team и Enterprise и расходует общие лимиты подписки. Подписчики Pro и Max до 7 октября могут забрать разовый бонус в 100 и 250 долларов, он тратится только на облачные сессии.
claude.com
Стартап The Biological Computing вместе с AWS готовит коммерческий запуск text-to-video модели, оптимизированной по замерам активности живых нейронов. Она генерирует видео в 5 раз быстрее и на 80% дешевле рядовой модели при лучшем качестве. Какой видеогенератор взят за основу и как измеряли качество, компания не раскрывает.
Оптимизация – проприетарный программный слой, который увеличивает модель менее чем на 0,1% и работает на обычном железе. Модель запустят на чипах AWS Trainium, в Amazon SageMaker AI и AWS Marketplace.
Пока доступ выдают по заявке.
aboutamazon.com
Стартап опубликовал веса и отчёт FLUX 3 Action – модели класса World Action Model на 7 млрд параметров, которая одновременно предсказывает команды роботу и кадры рабочей сцены на 2,13 секунды вперёд. Основа – FLUX 3, дообученная в основном на видео.
На RoboLab-120 дистиллированная версия решает 42,2% задач, это лучший результат среди открытых моделей. Cosmos 3 Nano от Nvidia на 16 млрд параметров набирает 36,8%, π0.5 – 28,0%.
В FP8 FLUX 3 Action в 1,5–4 раза быстрее Cosmos 3 Nano на ускорителях от B200 до RTX 5090.
bfl.ai
Comfy Router собирает сервисы генерации медиа за одной точкой входа с общим биллингом и единым форматом запросов и вебхуков.
Сервис выбирает провайдера по цене и задержке, распределяет нагрузку и при сбое переключается на другой узел. Через него можно обращаться к открытым и закрытым моделям или запускать в облаке свои графы ComfyUI.
comfy.org
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3🔥2
This media is not supported in your browser
VIEW IN TELEGRAM
Новая модель редактирует картинки по текстовому запросу в разрешении др 2K и укладывается меньше чем в 8 секунд, а самые быстрые конфигурации отвечают за 4–5 секунд.
Это следующая модель после Krea 2, первой собственной модели компании, которую Krea выпустила в мае, а в июне открыла её веса.
Бета открылась 15 октября на сайте Krea, в API и у партнёров fal, Replicate, OpenRouter и Together AI.
Финальный релиз вместе с дополнительными бенчмарками компания обещает на следующей неделе.
Krea 3 меняет на изображении только то, что указано в запросе, и держит одинаковыми объекты, персонажей и надписи от кадра к кадру.
В одну правку можно подать до шести изображений-образцов и ссылаться на них в запросе по номерам.
Модель превращает наброски и мудборды в фотографии, работает с живописными, векторными и графическими стилями и позволяет рамкой указать, где разместить новый объект.
Дообучение LoRA под конкретный продукт, человека или стиль пока выдают по запросу.
В X компания пишет, что по качеству Krea 3 сопоставима с Nano Banana Pro и GPT Image 2.5, но ни тестов, ни баллов пока не приводит.
Правка в разрешении 1K стоит 3 цента, в 2K – 6 центов, если не подавать изображения-референсы.
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
❤5👍4🔥4
Media is too big
VIEW IN TELEGRAM
Спустя 2 месяца после старта открытой беты состоялся релиз HappyShrimp 1.0 - генеративной модели, создающей законченные музыкальные композиции по тексту.
HappyShrimp использует сквозную архитектуру, в которой трек создается как единое целое, позволяя избежать механического звучания голоса, рассинхронизацию текста с ритмом и нецелостную структуру трека.
Модель умеет работать с абстрактными запросами, самостоятельно определяя жанр и инструменты под заданное настроение или контекст.
Для управления предусмотрены расширенные параметры: указание темпа, тональности, состав инструментовки, пол и манера вокалиста, а также кривая эмоционального развития композиции.
Вместе с моделью Alibaba объявила о партнерстве с лейблом Taihe Music Group, а в ближайшее время планирует выпустить отдельное мобильное приложение.
Все тексты, музыка, аранжировка и вокал для демо-ролика были созданы в HappyShrimp 1.0.
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
❤10👍6🔥5
Лаборатория Мустафы Сулеймана закончила предобучение своей самой крупной MoE-модели на 2,8 трлн параметров, из которых на каждый токен работают 80 млрд. Сейчас она проходит дообучение, сроков релиза Microsoft не называет.
Веса компания собирается лицензировать проверенным партнёрам через платформу Foundry и отдельно подчёркивает, что учила модель только на собственных данных, без дистилляции ответов чужих моделей.
MAI-Base-2 обучали 38 дней в августе и сентябре на 16 тысячах GPU GB200, через модель прошло около 50 трлн токенов. Знания модели заканчиваются мартом 2026 года.
В отличие от предшественницы MAI-Base-1, она с самого начала училась и на изображениях, без отдельного визуального энкодера, на них пришлось 18% обучающей смеси.
На собственных наборах текстов, кода, задач по естественным наукам, математике и вопросов с ответами MAI-Base-2 предсказывает текст точнее всех протестированных открытых моделей с триллионом и более параметров: DeepSeek-V4-Pro-Base, Kimi K3, Qwen3.8-2.4T-A95B и MiMo-V2.6-Pro-RL.
По расчётам Microsoft, при её подходе к обучению, т. е. с теми же данными, архитектурой и настройками, модели нужно в 4–12 раза меньше вычислений, чем потратила DeepSeek, чтобы достичь качества DeepSeek-V4-Pro-Base.
Эта оценка выведена из законов масштабирования, а не из прямого сравнения.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
👍8❤5🔥4