Я чуть не пропустил, но там Canvas в ChatGPT теперь может запускать код.

На примере в видео чувак «сэмулировал» Windows 95 и запустил сапёр, блокнот и прочее.

У меня не хватит слов, чтобы передать словами, насколько это крутая фича, просто попробуйте.

🤯Они выпустили 2 модели с контекстом в 1 млн токенов в открытом виде!

Выпустили сразу две версии:

Qwen2.5-14B-Instruct-1M (14.7B)
Qwen2.5-7B-Instruct-1M (7.61B)

Но есть нюанс 😅 Для работы с миллионным контекстом нужно немножечко железа:

Для 14B версии - 320GB VRAM
Для 7B версии - 120GB VRAM

Интересно, что они реализовали свою версию vLLM с "разреженным вниманием" (sparse attention). Обещают ускорение в 3-7 раз для длинных последовательностей.

HuggingFace

Ждём когда нарежут оливье ollama варианты. Ну и Digits очень тоже ждём.

#Qwen #Китай
———
@tsingular

До тех пор, пока нейрорендер не сможет так чётко удерживать все детали, генерируя подобные по абсурдности ролики, считаю, он не готов :)

#рендер #танки #юмор
———
@tsingular

Presenter: Мультиагентный ИИ-создатель голосовых презентаций

Интересный проект от разработчика rsrohan99 — мультиагентная система, которая превращает создание презентаций в AI-driven процесс.

Что умеет этот фреймворк:
- Генерирует презентации по любой теме с помощью нескольких AI-агентов, которые оценивают и переписывают презентацию на этапе генерации

- Создает диаграммы через Mermaid

- Пишет скрипты рассказа для каждого слайда с таймингом выступления

- Генерирует аудио-озвучку через ElevenLabs в параллельных потоках.

- Собирает итоговое видео с озвучкой через FFmpeg

Технически проект построен на:
LlamaIndex Workflows для оркестрации мультиагентной системы
markdown-slides + reveal.js для рендера презентаций
DeckTape для экспорта в PDF

Интересно, что автор реализовал полный pipeline: от генерации контента до создания готового видео с озвучкой. Причем все опенсорс и бесплатно! 🎉

Единственное "но" — нужны API-ключи OpenAI и ElevenLabs.

В принципе OpenAI спокойно меняется на Deepseek или на локальную ollama, а озвучка тоже через апи голосовых генераторов на HuggingFace делается.
Так что можно переписать на полностью бесплатный собственный генератор презентаций.
Если у кого получится, - делитесь.

#Presenter #презентации
———
@tsingular

Давос 2024: CEO больше не будут управлять только людьми

CEO Salesforce Марк Бениофф прогнозирует радикальное изменение структуры управления компаниями.
Нынешние руководители становятся последними, кто руководит исключительно человеческим персоналом.

К 2027 году ИИ-системы превзойдут людей в большинстве профессиональных областей.

41% работодателей намерены заменить часть штата автоматизированными решениями к 2030.

77% организаций готовят программы переквалификации сотрудников для взаимодействия с ИИ.

На самом деле это ещё и для CEO испытание своего рода, - научиться управлять ИИ персоналом.
Ну или нужен ЗГД под ИИ ( Chief AI Officer) :)
И это уже не как Директор по цифровой трансформации, а ближе к HR функции. Что то на стыке.
"ИИ кадры решают всё"

#Salesforce #Davos #Automation
-------
@tsingular

Дрон DJI vs Unitree собаки.
Пока в формате развлечения бой на фейерверках.

К концу года фейерверки раздадут антропоморфам. (будем надеяться, что только фейерверки, конечно, но кого мы обманываем?!)

#Unitree #DJI #Китай #дроны
———
@tsingular

DeepSeek лёг под нагрузкой.

не работает ни web ни API.

Вот это популярность.

Интересно как они будут мощности расширять. Карты для Китая то по идее запрещено завозить :)

UPD: ожил :)
UPD2: опять лёг ...

#DeepSeek #Китай
———
@tsingular

Самое прикольное в андроидах, что они эволиционируют по частям.

Вашему вниманию рука :)

Можно роботу поставить, можно собаке или дрону.

А можно так оставить.
Пусть спину чешет :)

#роботы
------
@tsingular

🔬 Janus-Pro - новый мультимодальный генератор от DeepSeek

Для понимания изображений: SigLIP-L энкодер (384x384)
Для генерации: Специализированный токенизатор с даунсемплингом 16x

Фундамент: DeepSeek-LLM-7B-base
Общая архитектура: единый трансформер для всех модальностей

Эффективное использование памяти благодаря раздельным путям обработки

💪 Где показывает превосходство:

Понимание изображений:
- Превосходит специализированные модели в задачах VQA
- Лучше справляется с абстрактными рассуждениями о визуальном контенте


Генерация:
- Качество на уровне специализированных моделей
- Более стабильное соответствие текстовым промптам

Мультизадачность:
- Свободное переключение между пониманием и генерацией
- Нет деградации производительности при смене режимов

🎯 Технические преимущества:
- Меньше конфликтов в обучении благодаря раздельным путям
- Лучшая масштабируемость архитектуры
- Более эффективное использование вычислительных ресурсов

Что особенно интересно: архитектура Janus-Pro решает фундаментальную проблему unified моделей, при этом не усложняя систему дополнительными компонентами. Это редкий случай, когда "простое решение" оказывается действительно эффективным.

🔮 Перспективы:
Судя по архитектуре, модель имеет серьезный потенциал для масштабирования. Особенно интересно будет увидеть версию на базе их 70B модели - теоретически, это может дать качественный скачок в обеих модальностях.

https://github.com/deepseek-ai/Janus
paper

Demo

АСТАНАВИТЕСЬ!!!111 Адин адин!!
Уважаемые DeepSeek, новый год через 2 дня. Идите уже отдыхать и закупать видеокарты :))))

#DeepSeek #Janus #multimodal
———
@tsingular

А вот это интересно!

Умельцы из Unsloth пожали Deepseek весом более 700 гигабайт в ~150-180

https://t.iss.one/seeallochnaya/2273

Т.е, внимание, - это 2 DIGITS!!!

Всего $6000 и R1 будет летать у вас ДОМА! :))

Потери в качестве минимальны. В примере видно, что она по прежнему генерит рабочий код.

Статья: https://unsloth.ai/blog/deepseekr1-dynamic

Главные технические моменты:

Архитектурный подход:
Они изучили архитектуру DeepSeek R1 и обнаружили, что модель использует MoE (Mixture of Experts) слои
Первые 3 слоя модели являются полностью плотными (не MoE)
MoE слои используют общих экспертов, занимая всего 1.5% весов

Стратегия квантизации:
Применили динамическую квантизацию, используя разные уровни точности для разных слоев:

Первые 3 плотных слоя (0.5% весов) оставили в 4-6 битном представлении
MoE слои с общими экспертами (1.5% весов) оставили в 6 битах
Модули внимания MLA (<5% весов) оставили в 4-6 битах
Основную массу весов (~88%) в MoE слоях сжали до 1.58 бит

Особое внимание к down_proj слоям:
Обнаружили, что down_proj матрицы особенно чувствительны к квантизации
Это связано с архитектурой SwiGLU, где down_proj должен масштабировать большие числа
Первые 3-6 MoE down_proj матриц оставили в высокой точности

Общие технические детали:
Размер модели уменьшился с 720GB до 131GB (сокращение на 80%)
Для работы требуется минимум 20GB RAM
Оптимальная производительность достигается при сумме VRAM + RAM ≥ 80GB
Скорость генерации около 140 токенов в секунду на 2x H100 80GB

#DeepSeek #Unsloth
———
@tsingular