Шпаргалка по n8n
Исходник в комментарии.

#n8n #docs
———
@tsingular

🚀 Трансформеры + vLLM: вместе вкуснее

vLLM выкатили обновление, которое теперь поддерживает Transformers от Hugging Face.

Суть в том, что теперь можно взять любую новую модель из Transformers и сразу запустить на ней оптимизированный инференс через vLLM не ожидая пока её кто-то сконвертирует в совместимый формат.

Достаточно просто указать:

from transformers import pipeline

pipe = pipeline("text-generation", model="meta-llama/Llama-3.2-1B")
result = pipe("The future of AI is")

print(result[0]["generated_text"])

И вуаля – получаем все плюшки vLLM с его PagedAttention и динамическим батчингом.

Бизнес-кейсы:

1. Снижение серверных затрат: vLLM эффективнее использует GPU-память.

2. OpenAI-совместимый API:

запускаем

vllm serve meta-llama/Llama-3.2-1B

вызываем по url

curl https://localhost:8000/v1/completions \
  -H "Content-Type: application/json" \
  -d '{"model": "meta-llama/Llama-3.2-1B", "prompt": "San Francisco is a", "max_tokens": 7, "temperature": 0}'

или в коде

from openai import OpenAI

client = OpenAI(api_key="EMPTY", base_url="https://localhost:8000/v1")
completion = client.completions.create(
    model="meta-llama/Llama-3.2-1B",
    prompt="San Francisco is a",
    max_tokens=7,
    temperature=0
)
print("Completion result:", completion.choices[0].text)

3. Быстрое внедрение новых моделей: как только модель появляется в Transformers, её можно сразу оптимизированно применять в проде.

Пример с моделью Helium от Kyutai особенно показателен: несмотря на то, что эта модель ещё не поддерживается нативно в vLLM, её уже можно запустить через трансформерный бэкенд и получить значительный прирост в скорости.

#Transformers #vLLM #инференс #HuggingFace
———
@tsingular

🚨 Уязвимости в MCP: пять критических рисков, о которых стоит знать

🔹 Command Injection (Инъекция команд) — Умеренный риск 🟡
Атакующие внедряют опасные команды в обычный контент (письма, сообщения и т.д.). Если ваш агент обрабатывает эти данные, он может неосознанно выполнить системные задачи, такие как утечка данных или запуск вредоносных скриптов.

🔹 Tool Poisoning (Отравление инструментов) — Серьёзный риск 🔴
Злоумышленник может тайно внедрить скомпрометированный инструмент через MCP, который получит доступ к API-ключам, базам данных или другим конфиденциальным ресурсам и отправит их в другое место без вашего ведома.

🔹 Open Connections via SSE (Открытые соединения через SSE) — Умеренный риск 🟠
Поскольку MCP использует Server-Sent Events (SSE), соединения часто остаются открытыми дольше, чем следует. Это открывает дверь для проблем с задержкой и даже манипуляций данными в процессе передачи.

🔹 Privilege Escalation (Повышение привилегий) — Серьёзный риск 🔴
Один заражённый инструмент может переопределить разрешения другого. Если вы полагаетесь на инструменты вроде Firecrawl для доверенных задач, это может полностью нарушить ваш рабочий процесс или привести к худшим последствиям.

🔹 Persistent Context Misuse (Злоупотребление постоянным контекстом) — Низкий, но рискованный 🟡
MCP сохраняет активный контекст в рабочих процессах, что звучит полезно... пока инструменты не начинают автоматически выполнять задачи на основе этого контекста без одобрения человека.

🔹 Server Data Takeover/Spoofing (Захват/подмена серверных данных) — Серьёзный риск 🔴
Были случаи, когда атакующие перехватывали данные и учётные данные (да, даже с платформ типа WhatsApp) используя скомпрометированные инструменты. Архитектура MCP, основанная на доверии серверам, делает это особенно опасным.

#MCP #cybersecurity
———
@tsingular

в ollama вышла granite 3.3 от IBM

https://ollama.com/library/granite3.3

Capabilities

Thinking
Summarization
Text classification
Text extraction
Question-answering
Retrieval Augmented Generation (RAG)
Code related tasks
Function-calling tasks
Multilingual dialog use cases
Fill-in-the-middle
Long-context tasks including long document/meeting summarization, long document QA, etc.

с размышлениями.

#granite #IBM #ollama
———
@tsingular

Azure MCP Server: новый стандарт уже в облаке

Microsoft официально выпустил Azure MCP Server — полноценную реализацию спецификации MCP, которая становится новым стандартом взаимодействия между AI-ассистентами и облачными сервисами.

Что внутри? Сервер обеспечивает бесшовную интеграцию с ключевыми сервисами Azure:
- 💾 Azure Storage (управление blob-контейнерами, доступ к таблицам)
- 📊 Azure Cosmos DB (работа с NoSQL базами)
- 📈 Azure Monitor и Log Analytics (запросы через KQL)
- ⚙️ Azure App Configuration (конфигурации приложений)
- 🔧 Azure CLI и Azure Developer CLI (azd) как полноценные расширения

Теперь вместо изучения API-документации разработчики могут просто писать "Покажи мои таблицы в Storage аккаунте" или "Сделай запрос к моей базе Cosmos DB".

Для бизнеса это означает:
1. Резкое снижение порога входа для работы с Azure
2. Ускорение DevOps-процессов через AI-ассистентов
3. Возможность делегировать рутинные операции управления AI

Пока проект в Public Preview (GA ожидается позже), но уже используется в связке с GitHub Copilot и поддерживает интеграцию через VS Code, Azure CLI, Azure PowerShell.

Установка через npx в одну команду, плюс готовая интеграция в VS Code — похоже, Microsoft всерьёз взялся за стандартизацию MCP как протокола общения между агентами и инфраструктурой.

#Azure #MCP #Microsoft
———
@tsingular

Не знаю зачем, но я нашёл этот стартап.

Они строят кластер для параллельных вычислений.
В Техасе.

https://higherorderco.com/

#macrack #hpc
------
@tsingular

🧬 Наглядно о качестве роликов от видеонейронки Kling 2.0. ИИ-картинка получается лучше реальности.

🧩 #ИИскусство

🛠 InstructPipe: Google Research создаёт конкурента n8n и UiPath

Команда исследователей в Google выпустили интересный пропотип ассистента визуального low-code программиста.

Рассмотрим его чуть подробнее, пока он еще не стал мейнстримом и не подмял весь рынок.

Предыстория
Есть в Гугле такой проект - Rapsai, занимающийся визуальным программированием, в основном под пайплайны обработки видео, картинок и звука.

В проекте есть около 30 нод и все заточено на упрощение полного цикла медиа производства.

И вот они выкатили ассистента – InstructPipe, который позволяет одним запросом строить эти самые визуальные ноды.

Ну, сделали и сделали, скажете, но интересно как именно они это сделали и какие перспективы.
ИМХО тут огромный потенциал для конкуренции с лидерами рынка вроде n8n или UIPath:

1. Сообщение от пользователя анализируется и превращается в md файл с инструкциями по процессу создания нод.
2. Перечень инструментов (считай апи) тоже подается в контекст – стандартный агентский подход
3. Дальше ЛЛМка идет по инструкции для каждой ноды и прорабатывает ее согласно описанию ( у них всего 8К контекста в модели, поэтому разбили обработку на отдельные маленькие шаги)
4. Результат, вместе с мд инструкцией передается в кодового агента и уже он финалит ноды.

Ну и у них там встроенный визуализатор путей уже рабочий (VisualBlocks), поэтому оно сразу наглядно отображается.

По тестам на 16-ти кейсах текущий прототип уже сокращает количество действий на 81,1%!

Возможный выход на рынок через год
Если Google грамотно разыграет эту карту, мы увидим примерно такую эволюцию:
1. Расширение библиотеки нодов — в ближайшие полгода с 27 до 300-500 нодов
2. Интеграция с Google Cloud Services — прямой доступ к BigQuery, Vision API, Document AI и прочим
3. Enterprise-функционал — управление доступом, версионирование, логирование
4. Marketplace с community-нодами — без этого уже не модно

Уже прямо сейчас в их paper видны намёки на эти шаги — фокус на масштабировании, работе с "фирменными" ML-моделями Google.

Проблемы, которые пока не решены
1. Галлюцинации — модель иногда придумывает несуществующие ноды.
2. Ручная настройка параметров нодов — это не автоматизировано, в отличие от структуры пайплайна.

Запишем их в отдельный блокнотик перспективных проектов и будем продолжать наблюдение. Вернемся через год-полтора в пределах продуктового цикла Google.

Paper
Демки тут
GitHub

#InstructPipe #GoogleResearch #VisualBlocks #LowCode
———
@tsingular

🇦🇪 В ОАЭ создадут уникальную законодательную систему на базе ИИ

Кабинет министров ОАЭ утвердил создание первой в своем роде экосистемы регулирования на базе ИИ.

Ключевые моменты:
- Создание нового Управления регуляторного интеллекта при Кабинете министров
- ИИ будет отслеживать влияние законов на экономику и общество в режиме реального времени
- Ускорение законодательного процесса на 70% благодаря автоматизации
- Единая законодательная карта, связывающая федеральные и местные законы с судебными решениями

Техническая начинка:
- Технологии больших данных для анализа эффективности законов
- Автоматическое формирование предложений по обновлению законодательства
- Интеграция с глобальными исследовательскими центрами для сравнительного анализа
- Интеграция с судебными решениями, исполнительными процедурами и госуслугами

Практические результаты:
- Мгновенный анализ влияния законов на граждан и бизнес
- Более быстрое и точное законотворчество
- Постоянная актуализация законодательной базы без задержек
- Повышение конкурентоспособности ОАЭ на международной арене

Это продолжение более широкой стратегии ОАЭ по внедрению ИИ в госуправление.
Уже сейчас в судебной системе работают виртуальный юридический консультант, чат-боты по семейному праву и виртуальный сотрудник "Аиша" на базе генеративного ИИ.

ОАЭ уверенно создают одну из самых передовых правовых экосистем с ИИ в мире.

#законы #UAE #Legal
———
@tsingular

В Пекине прошёл первый в мире полумарафон роботов

В Пекине 20 роботов-гуманоидов бок о бок с тысячами людей преодолели дистанцию в 21 км!

Победитель — робот "Tiangong Ultra" с результатом 2 часа 40 минут. Этот 1,8-метровый механический бегун развивал скорость до 12 км/ч.

Серебро взял робот от Noetix Robotics, финишировав за 3 часа 27 минут, правда, с заменой во время гонки.

Бежали по разным трекам, чтобы не толкаться с людьми.

#robots #marathon #Beijing #Китай
------
@tsingular

Microsoft дополнил MarkItDown интеграцией с MCP

Инструмент на Python для трансформации любых офисных документов в Markdown получил поддержку Model Context Protocol.

Пакет markitdown-mcp функционирует как легковесный STDIO и SSE сервер, предоставляя метод convert_to_markdown.

Поддерживает контейнеризацию в Docker.

Возможна интеграция с Claude Desktop.

Инструмент сохраняет структуру исходных документов (таблицы, заголовки, списки) при конвертации в формат Markdown.

Отладка возможна через mcpinspector, поддерживающей оба режима работы сервера.

Наконец-то можно скормить крупным языковым моделям документы без лишних заморочек!

#Microsoft #MarkItDown #MCP
------
@tsingular

Теневой ИИ в корпоративной среде: сотрудники используют AI-инструменты в обход правил

Интересная заметка в блоге Google про использование сотрудниками ИИ в обход регламентов.

В отличие от прошлых волн теневого ИИ, сейчас риск выше — используются мощные корпоративные инструменты (привет MCP), но без соблюдения протоколов безопасности.

Причина? Медленные процессы согласования тормозят бизнес, и команды идут в обход, создавая "зоопарк AI-инструментов" с дублирующимися функциями и ненужными расходами.

Хуже того — неконтролируемое использование создает риски утечки данных.

Вместо жестких запретов эксперты рекомендуют: упростить процессы согласования, обучить сотрудников безопасной работе с ИИ и создать понятные правила с четкими границами допустимого использования.

ИИ появится у вас в офисе так или иначе. Так что: не можешь предотвратить,- возглавь.
Очень эта вся история напоминает период бума BYOD. Когда народ начал на работу таскать свои ноутбуки и смартфоны.
Тоже сначала зоопарк и хаос был.

#ShadowAI #Enterprise #Security #Risks
------
@tsingular

Стэнфорд запустил обновленный курс по созданию языковых моделей с нуля

В Стэнфорде стартовал новый курс CS336, на котором студенты будут разрабатывать собственные языковые модели с чистого листа.

От сбора данных до развёртывания — никаких готовых блоков кода!

Предупреждают, что придётся писать в 10+ раз больше кода, чем на других ИИ-курсах.

Требования серьёзные:
- профессиональное знание Python
- опыт с Pytorch и системной оптимизацией
- линейная алгебра
- основы статистики
- понимание основ машинного обучения

youtube

#Stanford #LLM #Education
———
@tsingular

n8nChat - плагин для браузера сам напишет процесс в n8n

Плагин использует OpenAI протокол для создания узлов и рабочих процессов в редакторе n8n.

Ключевые функции
- 🧠 Генерация узлов с помощью ИИ по текстовому описанию
- 🔄 Создание полных рабочих процессов автоматизации
- 💬 Естественный языковой интерфейс - просто опишите, что нужно сделать
- 🔌 Мгновенная интеграция узлов в рабочую область
- 🚀 Ускоренние разработки автоматизаций

Как работает
1. Установите расширение Chrome (есть версия под Firefox)
2. Введите свой API ключ (OpenAI, Anthropic или Google)
3. Опишите нужную автоматизацию
4. Смотрите, как появляются узлы и соединения

Преимущества
- Работает как с облачной n8n так и с локально размещенной версией
- Требует ваш API ключ для ИИ сервисов
- Все данные хранятся локально

В ближайших планах - работа через ollama с локальными моделями

#n8n #chrome #firefox #plugins
———
@tsingular