Tencent выпускает самую мощную открытую MoE модель в мире

Hunyuan-Large устанавливает новый стандарт производительности языковых моделей с 389 млрд параметров.
Архитектура Mixture of Experts, контекстное окно в 256K токенов.
Система превосходит LLama3.1-405B на 2.6% в MMLU и на 3.6% в математических тестах.
Модель демонстрирует выдающиеся результаты в задачах на китайском языке, программировании и научных вычислениях.

HuggingFace
GitHub

Китайские модели умеют в оптимизацию, получается. При меньшем объеме показывают лучший результат. 😎

#Tencent #Hunyuan #MoE #Китай
-------
@tsingular

https://www.perplexity.ai/elections/2024-11-05/us/president

Ух-ты. на Perplexity в реальном времени можно посмотреть за гонкой в Штатах.

#выборы #perplexity
———
@tsingular

Perplexity предложил помощь New York Times в разгар забастовки

Технические сотрудники NYT устроили забастовку, требуя повышения зарплаты и гибридный формат работы.
CEO Perplexity Аравинд Шринивас предложил поддержку изданию через Twitter, что спровоцировало общественный резонанс.
Между организациями существует напряженность из-за предыдущих претензий NYT по использованию контента для обучения нейросетей.
Руководитель позже уточнил, что речь шла только об инфраструктурной поддержке, а не о замене персонала.

Отличный заход по продаже ИИ решений в компании, где персонал против :)

#Perplexity #NYTimes #WorkersRights
-------
@tsingular

Project Zero: LLM теперь ищет уязвимости в коде вместо людей

Google DeepMind и Project Zero создали систему Big Sleep для автоматического обнаружения уязвимостей в программном коде.

В ходе тестирования удалось найти реальную уязвимость переполнения буфера стека в SQLite, которую не смог обнаружить классический фаззинг за 150 часов работы.

Система использует GPT-4 Turbo и Gemini 1.5 Pro для анализа кода, коммитов и создания тестовых сценариев.

Эффективность поиска уязвимостей выросла в 20 раз по сравнению с традиционными методами в тестах CyberSecEval2.

Это первый публичный случай, когда ИИ самостоятельно нашел критическую уязвимость в популярном ПО.

Можно перед деплоем прогонять весь код через ИИ! 🤖🔍

#ProjectZero #DeepMind #SQLite #ИБ
———
@tsingular

Вдогонку.

IBM выложила полный датасет Гранита:
https://github.com/ibm-granite/granite-3.0-language-models

#IBM #Granite #dataset
———
@tsingualr

Пример от NVidia по интеграции локального ИИ в Obsidian

NVIDIA представила инструкцию по внедрению генеративного ИИ в популярный редактор заметок Obsidian.
Система функционирует через локальные LLM-модели с применением llama.cpp и серверов LM Studio или Ollama.
Разобраны примеры генерации текста и Smart Connections для интеллектуального поиска по заметкам.
Решение не требует подключения к внешним API и использует локальные вычисления на графических процессорах RTX.

В копилку примеров по работе с локальными моделями! 🔒✍️

#Obsidian #NVIDIA #LLM
-------
@tsingular

Доброго утра всем :)

#юмор
———
@tsingular

OpenAI приобрала chat.com

Разработчик ChatGPT приобрёл домен chat.com у основателя HubSpot Дармеша Шаха.
Стоимость транзакции превысила $15.5 млн, оплата произведена ценными бумагами.
Сделка является частью масштабного ребрендинга продуктов OpenAI.
Сэм Альтман официально подтвердил покупку в социальной сети X разместив короткий пост со ссылкой на домен.

ИМХО Дамреш выиграл. 15 лямов акциями очень быстро подрастут.

#OpenAI #HubSpot #Domain
-------
@tsingular

Microsoft добавляет в Блокнот функцию AI-редактирования текста

Функция Rewrite появится в базовом Блокноте Windows.
Утилита позволяет перефразировать предложения, настраивать тональность и изменять размер текста.
Нововведение на данный момент доступно пользователям Windows Insiders в США, Великобритании, Франции, Канаде, Италии и Германии.
Работа системы требует облачной авторизации через учетную запись. В России только через смену страны привязки профиля и VPN.
Функционал дополняет недавно внедренную проверку орфографии и автокоррекцию.
Параллельно компания тестирует ИИ-инструменты для редактирования изображений в Paint.

ИИ становится базовой функцией офисных ПК.

#Microsoft #Notepad #Rewrite
-------
@tsingular

Microsoft представила Magentic-One: мульти-агентную систему следующего поколения

Microsoft Research анонсировала передовую мульти-агентную систему на базе AutoGen framework.
Ключевая особенность - пять специализированных агентов под управлением главного оркестратора.
Система демонстрирует state-of-the-art результаты в тестах GAIA, AssistantBench и WebArena.
Архитектура включает работу с файлами, веб-навигацию, программирование и выполнение кода.

Оркестратор: главный агент, который разбивает задачи на части, планирует работу, руководит остальными агентами и следит, чтобы всё шло по плану. Если что-то идёт не так - вносит исправления.
WebSurfer: агент на базе LLM, который умеет управлять браузером на основе Chromium. Когда получает запрос - выполняет действие в браузере и докладывает, что изменилось на странице. Что умеет делать:
- переходить по ссылкам и искать в интернете
- кликать и печатать на страницах
- читать контент (делать краткие выжимки, отвечать на вопросы)
Для работы использует дерево доступности браузера и специальные промпты с метками.
FileSurfer: агент на базе LLM, который работает с программой просмотра файлов в формате markdown. Может читать почти любые локальные файлы. Умеет просматривать содержимое папок и перемещаться между ними.
Coder: агент на базе LLM, заточенный на написание кода. Анализирует информацию от других агентов и создаёт новые файлы/программы.
ComputerTerminal: дает команде доступ к консоли, где можно запускать программы от Coder'а и ставить новые библиотеки.

Task Ledger и Progress Ledger обеспечивают отслеживание задач и прогресса.
Поддерживает различные LLM модели, включая GPT-4o и OpenAI o1-preview.
Особое внимание уделено безопасности - система работает в изолированных контейнерах с проверкой.

Выглядит очень интересно. Пробуем.

#Microsoft #MagenticOne #AutoGen
-------
@tsingular

небольшой оффтопик, - а ведь сейчас за 4 года можно было бы двинуть отличную тему,- ИИ в президенты 2028.
У Маска сейчас карт-бланш, технологии готовы, в принципе. why not?

#выборы #США
———
@tsingular

Mochi видео генератор, которому пару недель назад нужно было 4 H100 для запуска, поднялся у меня на локальном серваке на 2х4090.
И теперь, не выходя в интернет, можно уверенно вот такие ролики по 120 кадров создавать 24х7.

Это текст2видео, но, наверное, через клипвижн можно и картинку2видео сделать. Ip-адаптеров пока нет только, так что точного переноса формы пока не сделать, но, думаю, скоро подтянутся.

Вообще фантастика, как за год мы от облачных Уилл Смитов с макаронами перешли к вполне консистентному видеоряду на локальных ПК.

#видео #ComfyUI #mochi #нейрорендер
———
@tsingular

Первая в мире нейроинтеграция ИИ с мозгом живого существа

Отечественные нейробиологи достигли исторического прорыва в области прямого подключения искусственного интеллекта к биологическому мозгу.
Эксперимент включал разработку специального импланта для интеграции нейронных сетей с живой нервной тканью.
Подопытная особь демонстрирует стабильный отклик на нейроинтерфейс, что подтверждает успешность технологии.
Достижение открывает перспективы развития биокибернетических систем и нейропротезирования.

Похоже, киборги уже не фантастика. Главное, чтобы крысы не захватили мир через нейросеть! 🐀🤖

Крыса с нейроимплантом выбирает правильные ответы. Идеально для голосований 😀

#neuroscience #biotech #implant
-------
@tsingular