Технозаметки Малышева
5.55K subscribers
2.79K photos
927 videos
38 files
3.06K links
Новости инноваций из мира Искусственного Интеллекта. 🤖

Всё об ИИ, ИТ трендах и Технологической Сингулярности.

🤖: @ai_gptfreebot [бесплатный бот]
✍️: @tsingular_bot [каталог ботов и курсов]

💸[поддержка]: pay.cloudtips.ru/p/c8960bbb
Download Telegram
Французский стартап Mistral AI привлекает 385 млн евро инвестиций в открытый ИИ

Компания оценивается в 2 млрд долларов США.
Mistral AI разрабатывает технологии для чат-ботов, поисковых систем, электронных ассистентов.
Mistral AI предлагает свои разработки в режиме открытого исходного кода, в отличие от OpenAI и Google.
Успех Mistral AI ключевой для Франции в конкуренции с технологическими гигантами США.
Инвесторы, включая Andreessen Horowitz, поддерживают стартапы с открытым ИИ, такие как Perplexity.

Надо сказать локальная 7B модель достаточно неплохо работает.
Плюс на днях они выложили новую версию 8x7B , правда что бы её запустить нужно несколько видеокарт:

magnet:?xt=urn:btih:5546272da9065eddeb6fcd7ffddeef5b75be79a7&dn=mixtral-8x7b-32kseqlen&tr=udp%3A%2F%https://t.co/uV4WVdtpwZ%3A6969%2Fannounce&tr=http%3A%2F%https://t.co/g0m9cEUz0T%3A80%2Fannounce

RELEASE a6bbd9affe0c2725c1b7410d66833e24

— Mistral AI (@MistralAI) December 8, 2023


#MistralAI #OpenSource #AI
Mistral AI запускает endpoint API

Mistral AI открывает разработчикам генеративные модели AI для интеграции.
Доступно три конечные точки для генерации текста, причем каждая отличается по соотношению производительности и стоимости.
Доступна поддержка мультимедийности: английский, французский и другие языки, а также интерпретация кода.

Для доступа по API есть библиотеки на Python и JavaScript.

Реализованы функции модерации для контроля качества генерации.

Работает все на железе NVIDIA - TensorRT-LLM и Triton.

Для использования API требуется регистрация. Формат API endpoints - как у OpenAI

Mistal похоже нацелился обогнать OpenAI & Anthropic.

#MistralAI #TensorRT #API
Mistral AI представляет Large версию

Новая разработка от Mistral AI - модель Mistral Large доступна через La Plateforme и Azure AI.

Поддерживает английский, французский, испанский, немецкий и итальянский языки.

Работает function calling.

Одновременно анонсировано партнёрство с Майкрософт

#MistralAI #AzureAI
Mistral AI привлекает $600 млн при оценке в $6 млрд

Парижский стартап Mistral AI, конкурент OpenAI и Anthropic, планирует закрыть раунд на $600 млн от General Catalyst и Lightspeed Venture Partners.
В декабре компания уже привлекла $415 млн при оценке в $2 млрд.
Среди инвесторов - Nvidia, Salesforce, Microsoft и Databricks Ventures.
Mistral AI разрабатывает открытую модель больших языковых моделей.
В 1 квартале 2024 года в ИИ-стартапы инвестировано $12.2 млрд в 1166 сделках.

#MistralAI #funding #valuation
-------
@tsingular
Cisco представила Motific - оркестратор ИИ моделей

Cisco выпустила Motific - SaaS решение для быстрого развертывания ГенИИ в организациях с учетом политик безопасности и контролем затрат.
Motific анализирует работу пользователей с моделями и даёт комплексную оценку по времени, расходам и ROI.
Создан в инкубаторе инноваций Outshift от Cisco.

Cisco так же начинает сотрудничество с Mistral AI и планирует использовать их модели в своих решениях.

#Cisco #Motific #MistralAI
-------
@tsingular
Mistral AI: бесплатный доступ и новые модели

Mistral AI открыла бесплатный API для разработчиков на платформе La Plateforme.

Представлены:
Mistral Small v24.09 - 22-миллиардная модель для корпоративного применения.

Pixtral 12B - модель компьютерного зрения, теперь доступна в бесплатном чат-боте le Chat.

Снижены цены на все модели через API.

Тренд на снижение цен на инференс - добро.
Больше похоже на борьбу за разработчиков. На какую платформу подсядут, - та и в плюсе будет. 🤖👨‍💻

#MistralAI #LaPlateforme #Pixtral
-------
@tsingular
👍6
🤖 Рубрика крутые инструкции от AWS:
Построение мультиагентной системы на базе AWS, LangGraph и Mistral

Система собирает информацию о городе из разных источников: события (локальная база + поиск онлайн), погода, рестораны. И всё работает в связке:

workflow.add_node("Events Database Agent", events_database_agent)
workflow.add_node("Online Search Agent", search_agent)
workflow.add_node("Weather Agent", weather_agent)
workflow.add_node("Restaurants Recommendation Agent", query_restaurants_agent)
workflow.add_node("Analysis Agent", analysis_agent)


Если в локальной базе нет событий, она автоматически ищет информацию через Tavily API:

def route_events(state):
if f"No upcoming events found for {state.city}" in state.events_result:
return "Online Search Agent"
else:
return "Weather Agent"


1. Модульность — можно быстро заменить/обновить любого агента, не ломая всю систему
2. Гибкость — каждый агент можно оптимизировать под конкретную задачу
3. Безопасность — у каждого агента доступ только к тем инструментам, которые ему нужны

«Агенты революционизируют ландшафт генеративного ИИ, соединяя крупные языковые модели с приложениями реального мира. Эти умные, автономные системы скоро станут краеугольным камнем внедрения ИИ в разных отраслях»


Вся система собрана на LangGraph, который управляет состоянием и потоками данных между агентами.

Для поиска ресторанов используется RAG с Amazon Titan Embeddings + FAISS, хотя в статье рекомендуют для продакшена использовать Amazon Bedrock Knowledge Bases.

#AWS #LangGraph #Agents #MistralAI
———
@tsingular
5👨‍💻1
🔥 Mistral Small 3.1: Новый король малых моделей?

Недели не прошло, как вышла Gemma 3 27B, а сегодня Mistral AI выпускает ответочку — Mistral Small 3.1 (24B).

Технические характеристики и преимущества:

- Размер: 24B
- Контекст: 128K токенов
- Скорость: 150 токенов/сек (vLLM в батче по 16 на 4xH100)
- Мультимодальность: есть
- Лицензия: Apache 2.0

Mistral Small 3.1 обходит GPT-4o Mini, Claude 3.5 Haiku и Gemma 3 по ключевым метрикам:

- GPQA Diamond — сложные вопросы с глубоким рассуждением
- MMLU/MMLU Pro — академические и профессиональные знания
- MM-MT-Bench — понимание изображений
- Многоязычность — особенно в европейских языках

- Локальный запуск: работает на одной RTX 4090 или Mac с 32GB RAM (в Q4 нарезке. Полный размер модели 48гигов)
- Function calling: есть

Уже доступна на Hugging Face (базовая и instruct-версии), в API на платформе Mistral AI и в Google Cloud Vertex AI.
В ближайшие недели ожидается и на NVIDIA NIM.

#MistralAI #Small
———
@tsingular
🔥13👍1
Forwarded from Machinelearning
⚡️ Mistral выпустила ризонинг-модель Magistral.

Magistral — первая модель рассуждений от Mistral AI. Она сочетает глубокую логическую обработку с возможностью отслеживать каждый шаг её «мышления».

Модель получила поддержку 8 языков, включая русский и выпущена в 2 вариантах:

🟢опенсорсный Magistral Small с 24 млрд. параметров;

🟠корпоративный Magistral Medium.

Внутри Magistral работает в режиме рассуждений, разбивая задачи на цепочки логических шагов, а Flash Answers ускоряет вывод в 10 раз по сравнению с конкурентами. Для интеграции в рабочие процессы модель умеет взаимодействовать с внешними инструментами (API или базами данных).

В тестах Magistral Medium показал 73,6% точности на задачах AIME2024, демонстрируя силу в физических симуляциях и математических расчетах.

Для разработчиков доступны версии на Hugging Face, AWS и IBM WatsonX, а в будущем — на Azure и Google Cloud. Демо Magistral доступно в интерфейсе Le Chat или по API в La Plateforme.


📌Лицензирование: Apache 2.0 License.


🟡Статья
🟡Модель
🟡Техотчет
🟡Web Demo


@ai_machinelearning_big_data

#AI #ML #LLM #Magistral #MistralAI
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍6🔥41