286K subscribers
5.29K photos
1.22K videos
17 files
5.64K links
Погружаемся в машинное обучение и Data Science

Показываем как запускать любые LLm на пальцах.

По всем вопросам - @haarrp

@itchannels_telegram -🔥best channels

Реестр РКН: clck.ru/3Fmqri
Download Telegram
Media is too big
VIEW IN TELEGRAM
✔️ В США запретили импорт китайских роботов-гуманоидов

Федеральная комиссия по связи США запретила сертификацию новых китайских антропоморфных и четвероногих роботов. По заявлению регулятора, мера защитит вычислительную ИИ-инфраструктуру от уязвимостей в цепочках поставок, перехвата данных и удаленного вмешательства.

Ограничения затрагивают и производителей оборудования для дата-центров, включая Sungrow и Huawei. В сегменте автономных систем под запрет попадает продукция Unitree - недавнего партнера Nvidia по интеграции чипов Blackwell в робототехнику.

Правило распространяется на устройства, еще не прошедшие сертификацию FCC. Агентство также оставило за собой право отзывать выданные ранее разрешения.
reuters.com

✔️ MCP перевели на stateless-архитектуру

В обновлении протокола Agentic AI Foundation отказались от постоянных сессий и sticky-роутинга, что позволяет развертывать MCP-серверы за стандартными облачными балансировщиками и в Kubernetes-кластерах. При перезагрузке подов контекст агента теперь не теряется.

В протокол добавили обязательную валидацию параметра issuer для защиты от атак типа OAuth mix-up. Также совместно с Okta реализована функция Enterprise Managed Authorization. Расширения MCP Apps (серверные интерфейсы) и MCP Tasks (асинхронные задачи) перешли в статус официальных.

Для стабильности корпоративных инфраструктур мейнтейнеры зафиксировали 12-месячный период поддержки устаревающих функций для всех будущих изменений.
aaif.io

✔️ Google выпустила модель генерации музыки Lyria 3.5

В релиз добавили функцию Selective Section Painting, которая позволяет переписывать отдельные фрагменты аудио без перегенерации композиции с нуля.

Еще появился раздельный контроль ритма и длительность дорожек вокала, баса, ударных и других инструментов. По словам Google, в новой версии также улучшили синтез речи для вокальных партий, а длительность трека увеличили до 3-х минут.

Google не раскрывает состав датасета для Lyria 3.5. Предыдущую версию тренировали на лицензионном контенте YouTube и легальных материалах партнеров. Доступ к модели открыт на платформе Google Flow Music.
blog.google

✔️ OpenAI выложила в опенсорс утилиту Codex Security CLI

Консольная утилита, доступная на Github под лицензией Apache 2.0, автоматически находит, проверяет и устраняет уязвимости в кодовой базе. Инструмент поддерживает массовое сканирование нескольких репозиториев, верификацию примененных патчей и прямую интеграцию в CI/CD.

Технология дебютировала в марте 2026 года в формате превью для корпоративных подписчиков ChatGPT на тарифах Enterprise, Business и Edu. По данным OpenAI, за месяц использования система помогла закрыть свыше 3000 критических багов.

Утилита в статусе беты, устанавливается через npm и требует для работы Node.js 22 и Python 3.10 или новее.
OpenAI в сети Х

✔️ Pangram представила четвертую версию модели для распознавания сгенерированного текста

Новинка отличает тексты, написанные ИИ с нуля от материалов с частичной машинной редактурой. Алгоритм распознает признаки генерации в 98,83% случаев даже после обработки текста сервисами для обхода детекции. По результатам внутренних тестов компании, модель определяет машинный контент с точностью 99,66%.

Модель стала в 6 раз масштабнее предыдущей версии. Компания заявляет о снижении ложных срабатываний в 14 раз - авторские материалы ошибочно помечаются как генерации в 0,0041% случаев (1 ошибка на 24 тысячи документов). Количество пропусков ИИ-контента сократилось в 6 раз.

Стоимость обращения к API составляет 5 центов за 100 слов. Во все тарифы добавили бесплатное сканирование изображений. Поддержка Pangram 3 прекратится 30 сентября 2026 года.
pangram.com


@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
26👍23🔥5🍓1🍾1
Что произошло в мировом ML за последние полгода? Если не успеваете следить за ICML и другими крупными конференциями, 13 августа Яндекс проведёт ML Global Recap H1 2026 — встречу, где эксперты разберут ключевые работы, тренды и идеи, которые уже начинают влиять на индустрию.

В программе — четыре доклада от руководителей команд Яндекса. О развитии Tabular DL расскажет Артём Бабенко из Yandex Research, о трендах и вызовах в reasoning — Дмитрий Мокеев из Alice AI, о новых подходах к оценке качества моделей — Иван Дёгтев из Яндекс R&D —, а об оптимизации LLM-инференса — Андрей Бежин из Яндекс R&D.

А еще участников ждут нетворк и обмен впечатлениями с теми, кто побывал на конференциях лично.

📍 Москва + онлайн
🗓 13 августа
🔗Регистрация — на сайте конференции

Реклама ООО «Яндекс», ИНН 7736207543, erid: CQH36pWzJqMVErd51Wmdi672nSWCXUoVD3hQqe7LcXVEpC
👍488👏8🤔5🤣4😁3🤩3🔥2🌚1
📌 Нейрослоп добрался до крупного бизнеса

Сервис проверки текстов GPTZero обнаружил выдуманные ссылки и ложные факты в 4-х отчетах ближневосточного подразделения PwC за 2024–2026 годы.

GPTZero - один из самых быстрорастущих стартапов в сфере ИИ, создавший лидирующий в индустрии детектор ИИ-текста. Платформа обслуживает более 10 миллионов пользователей, включая преподавателей, авторов и специалистов по кибербезопасности.

Костяк команды состоит из специалистов, пришедших из ведущих технологических компаний и лабораторий: Perplexity AI, Apple, Microsoft AI, Uber, Caltech и Стэнфордского университета.


Самый проблемный документ, "Transforming Governance" с вероятностью 84% был полностью написан ИИ.

В этом отчете компания продвигает свой продукт "Citizen Pulse", заявляя, что решение якобы уже используют правительства Дании, Саудовской Аравии, США и Австралии. Никаких доказательств, подтверждающих эти внедрения, не существует.

GPTZero выявили закономерность - чем выше доля ИИ-генерации в документе, тем больше в нем несуществующих источников.

Команда назвала этот признак "вайб-цитатами" - когда сноски проставляются хаотично, не содержат реальных авторов или валидных URL-адресов и совершенно не подтверждают утверждения в тексте.

Представители PwC заявили, что серьезно относятся к точности данных и уже обновляют источники, но причину появления галлюцинаций в официальных документах не объяснили.


Проблема оказалась характерной для "Большой консалтинговой четвёрки" - ранее сервис находил аналогичные фейки в отчетах KPMGDeloitte и Ernst & Young.


@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
1🤔109🤨26😁2423😐16🔥5👌5🥰3👏2🤬1
🖥 OpenAI одновременно снижает стоимость дешёвых моделей и ускоряет флагман.

GPT-5.6 Sol Fast теперь работает до 2,5 раза быстрее, при этом стоит вдвое дороже обычного режима. В пересчёте на скорость это примерно на 25% выгоднее.

Параллельно OpenAI снизила цены:

- GPT-5.6 Luna — до $0,20 за вход и $1,20 за выход на миллион токенов;
- GPT-5.6 Terra — до $2 и $12;
- GPT-5.6 Sol$5 и $30.

Luna теперь в 25 раз дешевле Sol. Она подходит для массовых задач: классификации, обработки данных, поддержки и простых агентов.

Sol Fast рассчитан на задачи, где важна минимальная задержка: интерактивные продукты, сложные агенты и работа в реальном времени.

OpenAI давит сразу с двух сторон: предлагает дешёвый инференс для больших объёмов и ускоряет самые мощные модели.

https://openai.com/ru-RU/api-fast-mode/

@ai_machinelearning_big_data

#openai #chatgpt
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥81👍74🤔1913👏6👨‍💻3🎉1
Media is too big
VIEW IN TELEGRAM
✔️ ЕС выделит 10 млрд евро на создание семи ИИ-фабрик

Еврокомиссия открыла тендер на строительство ИИ-кластеров с ожидаемым общим бюджетом 30 млрд евро. Из них 10 млрд евро напрямую предоставят фонды ЕС и бюджеты стран-участниц. Финансирование получат 7 дата-центров - в документах они фигурируют как "суперфабрики".

Прием заявок продлится до 12 ноября, победителей объявят в июле 2027 года. По условиям тендера, подрядчики обязаны полностью ввести объекты в эксплуатацию в течение 18 месяцев после подписания контрактов.
wsj.com

✔️ OpenAI запустила программу доступа к флагманским моделям для учёных

Программа ChatGPT for Academic Researchers предполагает, что до 2027 года компания предоставит 100 тысячам учёных доступ к своим топовым моделям. Первые 10 тысяч исследователей получат приглашения этим летом.

Участникам откроют доступ к GPT-5.6 Sol Pro, ChatGPT Work и Codex с расширенным контекстом, увеличенными лимитами и дополнительными кредитами для функции Deep Research. Платформа включает более 75 научных навыков и интегрирована с базами статей, геномными датасетами и вычислительными блокнотами.

Участие отрыто только для профильным специалистам из одобренных OpenAI университетов. Кандидаты обязаны подтвердить академический статус и наличие научных проектов. Одобренный участник может добавить в рабочее пространство до четырех коллег из своего института.
openai.com

✔️ Thinking Machines Lab представила модель Inkling-Small

Стартап Миры Мурати опубликовал веса мультимодальной MoE-модели Inkling-Small на 276 млрд общих и 12 млрд активных параметров. Модель обрабатывает текст, аудио и изображения в окне контекста до 1 млн токенов.

Благодаря дистилляции от флагманской Inkling и обучению с подкреплением, младшая версия превзошла оригинал в кодинге и логическом вывода. Она выбила 80% в бенчмарке SWE-bench Verified и 31,6% в Humanity’s Last Exam.

Веса - на Hugging Face, инференс и файн-тюнинг доступны через платформу Tinker. С учетом стартовой скидки стоимость API составляет от $0,58 для контекста 64K до $1,16 для 256K токенов.
thinkingmachines.ai

✔️ Google выпустила модель Embodied Reasoning 2

ER 2 обрабатывает непрерывные мультимодальные видеопотоки и работает как высокоуровневый планировщик. Архитектура разделяет логику и моторику - пока модель рассчитывает следующий шаг, физические действия выполняют VLA-модели.

Модель анализирует видеокадры в реальном времени, оценивает статус текущего этапа и корректирует алгоритм на лету без перезапуска процесса. ER 2 также поддерживает мультиагентную работу - устройства разного типа могут обмениваться семантическим контекстом для совместного выполнения многошаговых задач в общем физическом пространстве.

Модель доступна через Gemini API и на платформе Google AI Studio. В помощь начинающим опубликованы примеры того, как настроить модель и заставить её выполнять задачи в области физического ИИ.
blog.google

✔️ Liquid AI выложила веса двунаправленных энкодеров под CPU

Стартап опубликовал веса двунаправленных энкодеров LFM2.5-Encoder на 230M и 350M параметров. Модели базируются на архитектуре LFM2, оптимизированы для запуска на CPU и поддерживают контекст до 8К токенов. Основные сценарии применения - классификация, маршрутизация и токен-уровневые операции.

По итогам 17 тестов, старшая версия на 350M заняла четвертое место из 14. По словам Liquid AI, при полной загрузке окна в 8192 токена модель 230M выполняет forward pass на CPU за 28 секунд - в 3,7 раза быстрее ModernBERT-base.
Код и веса - на GitHub и Hugging Face.
liquid.ai

@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
👍8631👏13😎6🔥4🥱3🤗2❤‍🔥1😁1😢1🎉1
DeepSeek запустила официальный API модели V4-Flash и заметно улучшила её работу в агентных сценариях.

По тестам компании, новая версия значительно опережает V4-Pro-Preview в задачах, связанных с кодом и автономными агентами.

Что изменилось:

- усилены возможности для долгих агентных задач;
- добавлена нативная поддержка Responses API;
- появились параллельные вызовы инструментов;
- доступны уровни рассуждения low, high и max;
- контекст увеличен до 1 млн токенов;
- модель адаптирована для работы с Codex.

V4-Flash можно подключить к Codex CLI, расширению для VS Code и другим совместимым инструментам через единый конфиг.

⚠️ Примечание

🔷 DeepSeek-V4-Flash-0731 сохранила ту же архитектуру и размер модели, что и предварительная версия.

🔷 Сегодняшнее обновление касается только API DeepSeek-V4-Flash. API DeepSeek-V4-Pro, а также модели в приложении и веб-версии пока остаются без изменений.

Официальный релиз DeepSeek-V4-Pro состоится в ближайшее время.

DeepSeek V4 Flash почти догнала Opus 4.8 - апгрейд получился невероятным.

— DeepSWE: 54,4%. Модель заметно обходит GLM-5.2 и собственную V4 Pro, почти сравнявшись с Opus 4.8.

— TerminalBench: 82,7%. Снова выше V4 Pro и GLM-5.2 и совсем рядом с Opus 4.8.



Документация:
https://api-docs.deepseek.com/quick_start/agent_integrations/codex
🔥112👍7118😁8🤩3👏1
24 сентября пройдёт Yandex Scale 2026 — ежегодная флагманская технологическая конференция Yandex Cloud про облачные технологии, инфраструктуру и искусственный интеллект.

В программе четыре офлайн-трека — AI, Hybrid Infrastructure & DevOps, Data, Security — с докладами, воркшопами, питчингом решений, демо-зонами, IT-квестом и мерчом. А ещё отдельный онлайн-трек DeepTech: с воркшопами, в которых можно принять участие, голосованием, влияющим на ход эфира и эксклюзивными гостями.

Ещё одна фишка конференции — виртуальный стенд VibeCraft, где можно завайбкодить свой проект и забрать призы

Плюс отдельная онлайн-студия с интерактивной программой где можно:
🔴 оценить юмор на Лиге IT-шуток;
🔴 задать вопросы СТО Yandex Cloud;
🔴 послушать известных научпоп-спикеров и задать им свои вопросы;

Зрители голосуют и в реальном времени влияют на взаимодействие в студии. И это ещё не всё!

Полезно будет CTO, CIO, CDO, CISO, CDTO, CPO, архитекторам, тимлидам, разработчикам, DevOps- и ML-инженерам, продакт-менеджерам, аналитикам, специалистам по информационной безопасности и руководителям клиентского опыта — то есть всем, кто и так уже читает этот канал.

🗓 Когда: 24 сентября.
📍 Где: онлайн и офлайн в Москве.

Подать заявку уже можно на сайте Yandex Scale, участие бесплатное!
Please open Telegram to view this post
VIEW IN TELEGRAM
👍60👏128🤩8🔥7🎉7🏆5😁4🗿4
⚡️ Модели Anthropic случайно взломали 3 реальные компании во время тестов

Инцидент произошел во время ИБ-учений формата CTF из-за сбоя в настройках на стороне компании-партнера Irregular, отвечавшей за проведение тестирования.

Вместо закрытой изолированной среды, модели получили прямой доступ к публичному интернету.

Оказавшись во внешней сети, Opus 4.7, Mythos 5 и одна внутренняя исследовательская сборка применили базовые хакерские техники, успешно проэксплуатировав слабые пароли и неаутентифицированные эндпоинты реальных компаний.

Anthropic выявила эти случаи лишь после масштабного аудита 141 тысячи тестовых сессий.

Проверку инициировали на фоне недавнего скандала с OpenAI, который при схожих обстоятельствах проник в инфраструктуру Hugging Face.

После обнаружения утечки Anthropic экстренно остановила все кибериспытания и связалась с пострадавшими организациями, две из которых не зафиксировали у себя факт взлома.


@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
1😁157🤔8628😨1714🤨11👍7🔥6🥱4🎃2😴1
✔️ Экс-сотрудник OpenAI основал стартап для создания качественных RL-данных

Эндрю Хо, соавтор бенчмарка GeneBench-Pro покинул компанию ради запуска собственного проекта.

Безымянный пока стартап займется генерацией специализированных датасетов для обучения LLM.

По мнению Эндрю, современные языковые модели всё ещё ограничены и предвзяты - для освоения сложных практических задач им не хватает качественных данных, которые позволили бы моделям тренироваться без вмешательства человека.


Решение Хо заключается в создании наборов данных, максимально приближенных к реальным научным исследованиям, но с заранее известными эталонными ответами. Это даст агентам возможность свободно искать алгоритмы решения, а системе -
автоматически и безошибочно проверять их корректность.

Эффективность такого подхода уже доказал GeneBench-Pro. В этом тесте по биологии модель GPT-5.6 Sol Pro смогла решить лишь 31,5% из 129 предложенных задач.

На старте детище Хо сфокусируется на биологии, статистике и анализе реальных лабораторных снимков. Позже стартап планирует создавать обучающие выборки для химии, материаловедения, медицины и сложных офисных задач.

Хо уверен, что нехватка верифицируемых данных - это главная проблема индустрии, на преодоление которой топовые лаборатории вскоре потратят более 100 миллиардов долларов.


@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
👨‍💻114👍51🤔3130🔥4🥱2🥰1
✔️ OpenAI заблокировала сеть аккаунтов ChatGPT скам-центров из Камбоджи

Злоумышленники использовали языковую модель для автоматизации инвестиционного и дэйтинг-скама, а также имитации работы правоохранительных органов.

ChatGPT создавал для них виртуальные личности, переводил переписки с жертвами в реальном времени и генерировал поддельные паспорта и юридические документы.


Анализ логов показал, что инфраструктура применялась для вербовки людей в киберрабство. Модель массово писала объявления о найме операторов чата с обещанием бесплатного перелета и проживания (это стандартная тактика преступных синдикатов Юго-Восточной Азии).

OpenAI передала собранные улики правоохранительным органам и ИБ-партнерам. По оценкам компании, жертвами сети стали сотни человек, финансовые потери отдельных пострадавших исчисляются тысячами долларов.


@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
🤬64👍58👀1610🔥10😨10😁8😢8🤔2
🤯 OpenAI заявила о десяти прорывах в задачах, которые математики не могли решить десятилетиями

Результаты получила внутренняя версия Astra - следующей крупной модели компании.

Среди достижений:

— построен первый явный пример не-софической группы (особого типа абстрактной алгебраической структуры, которую раньше удавалось описывать только косвенно);
— опровергнута гипотеза жёсткости Конна (долгосрочное предположение в функциональном анализе о том, насколько строго определяются такие математические объекты);
— доказана квантовая теорема о параллельном повторении для общих двухигровых систем (показывает, как быстро падают шансы на успех при многократном повторении квантовых игр);
— доказана гипотеза Эрхарта об объёме (результат из геометрии, связанный с подсчётом точек в многомерных фигурах и их объёмами);
— впервые с 1978 года улучшена общая верхняя оценка плотности упаковки сфер (то есть насколько плотно можно «уложить» шары в пространстве).

По заявлению OpenAI, Astra самостоятельно нашла основные математические аргументы, а затем формализовала каждое доказательство в Lean. Вместе с машинно проверяемыми сертификатами опубликована рукопись на 249 страниц.

Успешные запуски обошлись бы примерно в $2000 по тарифам Sol API.

одели начинают предлагать новые доказательства для открытых задач - хотя теперь результаты должен внимательно проверить весь математический мир.

Astra ещё не выпущена, и OpenAI не называет её GPT-6.

openai.com/index/ten-advances-in-mathematics/
1👍78🤩3728🔥11👏9🤓5🤣4🎉2
Media is too big
VIEW IN TELEGRAM
✔️ Apple будет монетизировать Apple Intelligence

Компания планирует продавать расширенные квоты на запросы к Apple Intelligence и обновленной Siri через подписку iCloud+. По словам Тима Кука, пользователи смогут доплачивать за снятие базовых дневных ограничений.

Текущие тарифы iCloud+ уже предлагают слегка увеличенные ИИ-лимиты. Для интенсивной работы с ИИ-функциями Apple добавит в линейку сервиса новые, более дорогие уровни подписки.

Релиз обновленной Siri ожидается осенью в составе очередного обновления iOS.
theverge.com

✔️ Google автоматизировала создание исследований без галлюцинаций в источниках

Science One - экспериментальный фреймворк для автоматической генерации научных статей. Инструмент использует архитектуру Chain-of-Evidence, которая минимизирует галлюцинации.

Алгоритм привязывает каждое утверждение в тексте к конкретному рабочему артефакту или результату выполнения кода. Для работы с литературой система игнорирует внутреннюю память языковой модели и обращается к научным API, выстраивая графы цитирования в реальном времени.

Оценку качества сгенерированных текстов проводит автоматизированный ревьюер CoE Audit. Он проверяет подлинность источников, работоспособность кода и воспроизводимость метрик.

В тестах 5 систем на базе Gemini 3.1 Pro написали 75 статей по 5 задачам. Все 337 цитат Science One оказались подлинными. Кроме того, 12 экспериментов выдали корректные результаты, а в 14 из 15 проверенных работ написанный код полностью совпал с заявленной методологией.
research.google

✔️ MiniMax релизнул видеомодель

H3 - модель генерации видео с поддержкой мультимодального ввода, которая генерирует ролики длиной до 15 секунд в разрешении 2K со стереозвуком по составным промптам.

Модель одновременно обрабатывает текст, изображения, видео и аудио и умеет комбинировать референсы в одном запросе - извлечь движение камеры из загруженного ролика, внешность персонажа из фото, а звук - из аудиофайла. В один промпт можно передать до 12 референсов.

Генерация через API стоит 13 центов за секунду видео в 2К и 9 центов за 768P. Открытый релиз на ModelScope запланирован на 3 августа.
minimax.io

✔️ ByteDance выпустила Seedance 2.5

Новинка генерирует видео длиной до 30 секунд за один проход, что вдвое больше лимита предыдущей версии. Фрагменты можно объединять в ролики длительностью до нескольких минут.

Модель поддерживает расширенный мультимодальный промптинг - в один запрос можно передать до 30 изображений, 10 видеоклипов и 10 аудиодорожек. Для точного контроля визуального ряда и темпа генерации используются таймкоды.

В Китае Seedance 2.5 появилась на платформах Jiemeng AI и Doubao Professional, на глобальном рынке она доступна через сервис Dreamina экосистемы CapCut.
bytedance.com

✔️ ElevenLabs добавила автоматическую озвучку по ролям

Новая функция Character Casting парсит загруженный текст, извлекает персонажей и назначает им роли из библиотеки на 10 тысяч синтетических дикторов. При замене диктора алгоритм обновляет реплики для выбранного персонажа по всему документу.

Инструмент умеет определять нестандартные имена и выдуманные термины. Достаточно задать произношение один раз, после чего правило применяется ко всему тексту. Готовый проект можно дополнить звуковыми эффектами, экспортировать (заявлена поддержка более 70 языков) или опубликовать в ElevenReader.

По оценкам ElevenLabs, Character Casting снижает стоимость производства аудиокниги с $5000 до $200, а время создания - с трех месяцев до нескольких часов. Новая функция доступна в разделе Audiobooks.
elevenlabs.io

@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
👏51👍3120🤔13🔥9👌4🤣4🗿2😎2😁1
🌟 WASTE: запускаем полную Kimi K3 на MacBook Pro с 64 ГБ памяти

SQLite AI собрала движок на 6000 строк C, который гоняет полновесную K3 без BLAS, CUDA и Python в рантайме.

Kimi K3 после предварительной конвертации из safetensors в формат, который движок умеет читать, занимает 982 ГиБ (диск бы назвал это 1,05 ТБ). В оперативную память она не влезает даже приблизительно.

WASTE держит в RAM только резидентную часть на 27,28 ГБ, а экспертов подтягивает с SSD ровно тогда, когда они понадобились. Скорость генерации выходит 0,49-0,54 токена в секунду. Веса при этом полные, без дистилляции и обрезки слоёв.

🟡Расчёт строится на устройстве MoE

На каждый токен K3 включает около 4% собственных весов - 16 экспертов в каждом из 92 слоёв. Простаивающему весу незачем сидеть в памяти, ему достаточно успеть подгрузиться вовремя.

Контейнер с моделью устроен так, что один эксперт стоит ровно одного чтения с диска - матрицы gate, up и down лежат вплотную, а сами эксперты хранятся в остаточном векторном квантовании (3 ступени кодбуков по 256 записей, 3 бита на вес), и матрица никогда не разворачивается целиком.

🟡Скорость диска

На один токен движок вычитывает 17 ГБ. Внутренний NVMe в MacBook выдаёт 12,78 ГБ/с, и модель успевает читать.

Внешний бокс по USB даёт 0,94 ГБ/с, и тот же токен считается 13 секунд. Вариант для очень терпеливых.

🟡Работа с памятью

Раздувать кэш экспертов выше 46 ГБ бесполезно и вредно - на 52 ГБ скорость падает втрое, на 58 ГБ в 8 раз.

Причина в том, что движок остаётся внутри своего бюджета, а система уже нет - macOS вытесняет кэш на диск, и попадание в память оборачивается обращением к подкачке. Поэтому по умолчанию WASTE не забирает все доступные ресурсы, а берёт на один рабочий набор экспертов меньше, чем мог бы.


Полтокена в секунду - это 30 секунд на одно предложение, но модели вчетверо меньше до сих пор запускают на серверах с терабайтом DDR5, а здесь почти 3 триллиона параметров отвечают без сети.

Если триллионы параметров не нужны, тот же движок крутит Kimi-Linear 48B из контейнера на 19 ГБ и выдаёт 10,7 токена в секунду - с этого проще начать знакомство.

Для K3 придётся освободить терабайт на диске и потратить около 5 часов на M5 Pro в три процесса, почти сутки - если гонять конвертацию чистым торчем.


Авторы, кстати, завели файл с опровергнутыми гипотезами и записали туда всё, что померили и выбросили.


📌Лицензирование: Apache 2.0 License.


🖥Github


@ai_machinelearning_big_data

#AI #ML #Inference #KimiK3 #WASTE #SQLiteAI
Please open Telegram to view this post
VIEW IN TELEGRAM
144👨‍💻86🔥57🤓21🤣19👍15👏14🤔11🎉1🗿1
⚡️ Qwen представила Qwen3.8-Max - модель на 2,4 трлн параметров для автономной разработки и рабочих агентов

По заявлению команды, модель способна вести длинные проекты почти без вмешательства человека: планировать работу, писать код, запускать инструменты, анализировать результат и исправлять ошибки по обратной связи.

Пример - oh-my-cli. Агент начал с пустой папки и развивал проект больше десяти дней, оставив полный журнал изменений в открытом GitHub-репозитории.

Qwen также заявляет о сотнях последовательных итераций при оптимизации чипов, долгосрочном планировании бизнес-стратегий и нативной работе с изображениями. Визуальные данные используются внутри цикла «планирование - выполнение - проверка», а не только как входной контекст.

Цена API:

- ввод - $2 за 1 млн токенов;
- вывод - $6;
- закешированный ввод - $0,25.

На следующей неделе компания обещает открыть веса Qwen3.8-Max и более компактной Qwen3.8-27B.

Если заявленные возможности подтвердятся на независимых тестах, Qwen получит редкую комбинацию: огромную агентную модель, мультимодальность и открытые веса.

Блог:
https://qwen.ai/blog?id=qwen3.8

Qwen Studio:
https://chat.qwen.ai/?models=qwen3.8-max

API:
https://qwencloud.com/models/qwen3.8-max

Автономный проект:
https://github.com/qwen-code-dev-bot/oh-my-cli

@ai_machinelearning_big_data

#qwen
🔥12341👍2818🤔16👏6🎉2😁1🤝1
✔️Компании переходят от экспериментов с GenAI к промышленному внедрению

Генеративный ИИ перестал быть исключительно инструментом для прототипов. Все больше компаний интегрируют LLM в разработку, аналитику и внутренние бизнес-процессы. Одновременно растет вопрос: какие направления действительно изменят индустрию, а какие окажутся очередной волной хайпа.

Эти вопросы на ИТ-Пикнике, который пройдет уже в субботу, обсудят руководители AI-направлений крупнейших российских технологических компаний — специалисты, которые сегодня отвечают за развитие и внедрение генеративного ИИ в реальные продукты.

✔️Артём Бондарь, руководитель направления обработки естественного языка Т-Банка, разберет экономику GenAI, противостояние между сторонниками и скептиками LLM, а также критерии, по которым уже сегодня можно оценить перспективность AI-проектов и технологий.

✔️Роман Халкечев, CDO Яндекс Поиска и AI, расскажет, как AI меняет аналитику, процесс принятия решений и требования к специалистам по работе с данными.

✔️Антон Логинов, руководитель направления AI-агентов Т-Банка, расскажет, о том, как ИИ-сотрудники обучались всем тонкостям клиентской поддержки и как удалось масштабировать AI-напарников на более широкие домены.

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
1👍110🔥30🤔2221👏12🤣9💯5💅2
📌 ИИ-агент Tencent помог решить комбинаторную задачу полувековой давности.

Исследовательский агент Hyra на базе открытой модели Hy3, помог ученым разгадать математическую проблему, которая оставалась нерешенной более 50 лет.

Задача из области комбинаторной математики касалась того, насколько размер множества сумм целых чисел может превышать размер его множества разностей.

Научное сообщество давно доказало, что соответствующий показатель степени не превышает двух, но оставалось неизвестным, является ли эта верхняя граница оптимальной.


Агент использовал модель Hy3 для поиска специфических множеств и вывода общей конструкции. За 24 часа вычислений ИИ нашел ядро решения, которое в итоге легло в основу научного открытия. Ученым оставалось лишь проверить логику, внести корректировки и структурировать доказательство.

Для финальной верификации результата использовали GPT-5.6 Sol, которая помогла корректно перевести расчеты на язык Lean 4.

Итоговая статья подтвердила, что искомый показатель действительно может бесконечно приближаться к 2, делая эту границу оптимальным ответом.


@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
🤓112👍2922👏21🎉13💯7🔥6😁2
⚡️ Alibaba в презентации Qwen3.8 открыто троллит США и бросает им вызов?

В проморолике модель часами работает над проектированием чипов, а затем переходит к задачам из биологии.

Выбор выглядит намеренным: полупроводники остаются одним из самых болезненных направлений для Китая, а США продолжают ограничивать поставки передовых ускорителей и оборудования для их производства.

Китай намерен закрывать критические технологические пробелы собственными моделями, вычислительной инфраструктурой и чипами.

Сцены с белками можно воспринимать как намёк на AlphaFold и амбицию конкурировать с американскими компаниями уже на уровне научных открытий.

@ai_machinelearning_big_data

#qwen
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍138🤔58🔥29🤬1713🤨7🎉5🥰2😁1