Технозаметки Малышева
5.59K subscribers
2.8K photos
937 videos
38 files
3.08K links
Новости инноваций из мира Искусственного Интеллекта. 🤖

Всё об ИИ, ИТ трендах и Технологической Сингулярности.

🤖: @ai_gptfreebot [бесплатный бот]
✍️: @tsingular_bot [каталог ботов и курсов]

💸[поддержка]: pay.cloudtips.ru/p/c8960bbb
Download Telegram
NexusRaven-V2-13B: Революция в автогенерации кода

NexusRaven-V2-13B - новая модель для автогенерации вызовов функций.
Способность к созданию простых и сложных конструкций, включая вложенные и параллельные вызовы.
Модель предоставляет детальные объяснения созданных функций.
Работает с функциями, не знакомыми модели во время обучения.
Доступна для коммерческого использования без ограничений.
Для работы требуется список python-функций с аргументами и комментариями.
Возможность применения условий остановки для создания вызовов без объяснений.
Весь код и инструкции доступны на GitHub модели.

Открытая модель под вызов функций.
По описанию обходит GPT-4 но нужно проверять


#NexusRaven #AutoGeneration #Python
This media is not supported in your browser
VIEW IN TELEGRAM
Langflow - шикарный визуальный конструктор RAG и мульти-агентных ИИ систем

Langflow,- open-source фреймворк для создания ИИ приложений без написания кода с интуитивным интерфейсом.

Компоненты, которые уже в комплекте:
- тексты, чаты, переменные, промпты.
- данные из API из файлов, директорий, SQL, URL и вебхуков
- обработка данных, фильтация, объединение, JSON, разделение, обновление, сообщения
- модели - оллама, антропик, openai, AWS, Cohere, Google, HF, LM Studio, Nvidia, Perplexity, Qianfan, Vertex etc...
- векторные хранилки 13+ разных, включая Chroma, Clickhouse, Elasticsearch, Milvus, MogoDB, OpenSearch и др.
- ембеддеры 15 интерфейсов для подлючения вообще любых
- агенты как модули потока
- долгосрочные хранилки как память
- API как tools для моделей
- langchain как подсистема
и много чего ещё.

А ещё там встроенный магазин коннекторов, в котором уже 1288 различных модулей от сообщества!

Важный момент, ставить лучше через uv.
Стандарный pip install langflow глючит!

pip install uv
uv pip install --upgrade langflow


Или Докер:
docker run -it --rm -p 7860:7860 langflowai/langflow:latest

#Langflow #Python #RAG #framework
-------
@tsingular
🔥9🐳2👍1🆒1
1735815722133.gif
27.7 MB
Hugging Face выпустил SmolAgents: микро-библиотеку для AI-агентов

SmolAgents позволяет создавать AI-системы всего в несколько строк кода.

Компактное решение (исходник около 1000 строк) поддерживает различные LLM-модели через интеграцию с Hub.

Библиотека так же поддерживает CodeAgent - агентов, генерирующих Python-код для выполнения задач.

Встроена система безопасности для сгенерированного кода на базе https://e2b.dev/

Удобная библиотека поэкспериментировать.

#HuggingFace #SmolAgents #Python
———
@tsingular
🔥6👍3🆒2
Новые фреймворки объединяют лучшие практики MLOps и LLMOps

Разработчики представили два взаимодополняющих фреймворка для оптимизации ML/LLM проектов.
Ключевые компоненты включают RAG-систему с синтетическими данными, MLflow для логирования, Guardrails для защиты данных.
FastAPI обеспечивает развертывание, а Poetry управляет зависимостями.
Архитектура основана на SOLID-принципах с DAG-ориентированными пайплайнами.
Реализована интеграция с AWS Fargate, поддержка контейнеров и YAML-конфигурации.
Проекты предоставляют готовую инфраструктуру для быстрого старта промышленных ML/LLM решений.

Теперь ML-инженерам не придется изобретать велосипед - все основные компоненты уже собраны в одном месте 🚲

https://github.com/callmesora/llmops-python-package

https://github.com/fmind/mlops-python-package

#MLOps #Python #RAG
-------
@tsingular
👍522
Forwarded from Machinelearning
🌟 NVIDIA добавила нативную поддержку Python в CUDA.

Python уже несколько лет уверенно лидирует среди языков программирования, а теперь стал ещё ближе к железу. На GTC 2025 NVIDIA объявила о полноценной интеграции Python в свой CUDA-стек.

Это значит, что писать код для GPU можно будет напрямую на Python — без погружения в C++ или Fortran. Как подчеркнул Стивен Джонс, архитектор CUDA, цель — сделать инструмент естественным для Python-разработчиков: «Это не перевод синтаксиса C на Python. Все должно работать так, как привыкли разработчики».

Раньше CUDA требовала глубокого понимания низкоуровневых языков и это здорово ограничивало аудиторию. Сейчас, когда Python стал стандартом в ML и DS, NVIDIA открывает двери для миллионов программистов. По данным The Futurum Group, в 2023 году CUDA использовали 4 миллиона человек — теперь их число может резко вырасти.

Техническая часть такая же обширная, как и ожидания этого события профессиональным сообществом.

🟢Во-первых, появилась библиотека cuPyNumeric — аналог NumPy, который переносит вычисления с CPU на GPU буквально заменой импорта.

🟢Во-вторых, CUDA Core переосмыслен для Python: здесь сделан упор на JIT-компиляцию и минимизацию зависимостей.

🟢В-третьих, добавлены инструменты для профилирования и анализа кода, а ускоренные C++-библиотеки теперь доступны из Python без потерь в производительности.

Но главное — новый подход к параллельным вычислениям. Вместо ручного управления потоками, как в C++, NVIDIA предлагает модель CuTile, которая оперирует массивами, а не отдельными элементами. Это упрощает отладку и делает код читаемым, не жертвуя скоростью. По сути, разработчики получают высокоуровневую абстракцию, скрывающую сложности железа, но сохраняющую гибкость.

Пока CuTile доступен только для Python, но в планах — расширение для C++. Это часть стратегии NVIDIA по поддержке новых языков: Rust и Julia уже на походе.

Python-сообщество уже может экспериментировать — например, интегрировать CUDA-ядра в PyTorch или вызывать привычные библиотеки. Теперь даже те, кто никогда не писал на C++, смогут использовать всю мощь GPU — осталось проверить, как это скажется на скорости создания прекрасных LLM светлого будущего.

🔜 Посмотреть полную презентацию на GTC 2025


@ai_machinelearning_big_data

#AI #ML #Python #CUDA #NVIDIA
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥7👍3🆒1