Transformer Lab — лаборатория для экспериментов с LLM

... увидели у коллег и решили посмотреть, что это такое.

Transformer Lab — бесплатное и открытое приложение, которое можно запустить локально на Windows, Mac и Linux.
 
⚫️ Можно скачать из библиотеки одну из сотен популярных моделей: Llama3, Mistral, Qwen, Gemma и другие. 
⚫️Дообучить модель на разных устройствах - от Apple Silicon до GPU.
⚫️Общаться с моделями в чате, настраивать параметры генерации и использовать разные движки вывода.
⚫️ Работать с собственными датасетами и создавать свои обучающие наборы.
⚫️Поддержка обучения с подкреплением и оптимизация предпочтений.

Это отличный инструмент для тех, кто хочет быстро и удобно тестировать LLM, создавать прототипы и проводить эксперименты без сложной настройки окружения.

Код на Гитхабе.

Что такое RAG, и чем она хороша для поиска по нормативке

RAG (Retrieval-Augmented Generation) — технология, которая помогает большим языковым моделям (LLM) давать более точные ответы на запросы пользователей. 

Справочно
RAG объединяет две технологии: поиск данных и генерацию ответов. Перед тем, как передавать запрос в LLM, RAG-система его дополняет. Происходит это в три шага:

1. Извлечение (Retriever). Система ищет релевантные данные в базе знаний. Это может быть поиск по ключевым словам, семантический поиск или работа с векторными представлениями текста. Задача извлечения — найти информацию, которая лучше всего подходит к запросу пользователя.

2. Аугментация (Augmentation). Извлечённые данные объединяются с запросом. Система формирует единый текст промпта, в котором объединяет запрос пользователя и найденные данные.

3. Генерация ответа (Generator). Большая языковая модель генерирует ответ. Она анализирует промпт и дополненные данные (контекст), чтобы дать точный ответ.
RAG используется при решении разных задач: от анализа документов и создания интеллектуальных помощников до построения поисковых систем. 

Некоторые преимущества RAG перед LLM

⚫️Точность. Модель опирается на проверенные источники, а не на свои догадки.
⚫️Гибкость. Можно решать, какие базы данных или системы подключать.
⚫️Актуальность. Можно обновлять базы, чтобы информация всегда оставалась свежей.
⚫️ LLM-модель имеет ограничения по объёму контекста. RAG же позволяет передавать в контекст только релевантную информацию.

Вот на такой RAG работает бот для поиска ответов на вопросы по стройке. Бот выдает релевантную информацию по актуальной российской нормативной базе.

Попробовать можно тут —
@Pdflyx_bot

MIT, Microsoft и Google представили I-Con — периодическую таблицу для машинного обучения

I-Con (Information-Contrastive Learning) — это фреймворк, который собрал в единую структуру более 20 классических методов ML: от регрессии до контрастивного обучения.

Что в нём полезного
⚫️Чётко показывает, какие алгоритмы на что нацелены: классификация ищет границы, кластеризация — группы, регрессия — числовые зависимости.
⚫️Помогает находить пустые ячейки — намёк на ещё не изобретённые методы.
⚫️Вместо бесконечного перебора идей можно быстро комбинировать техники осознанно.
⚫️Даёт новый взгляд на ML как на связанную систему, а не россыпь несвязанных алгоритмов.

Перспективы серьёзные: компьютерное зрение, NLP, биомедицина, рекомендательные системы — везде можно будет строить новые решения осознаннее.

В следующем посте напишем, чем I-Con может пригодиться в генеративном проектировании, а пока посмотрите про проект на официальных источниках:

Страница проекта
Техотчет
GitHub

Как эффективно программировать с агентом — гайд по Claude Code от Anthropic

Настройте рабочее окружение
⚫️Создайте файл CLAUDE.md в корне проекта: опишите команды, гайдлайны, особенности, частые ошибки. Агент будет использовать этот файл как справочник.
⚫️ Регулярно обновляйте CLAUDE.md.

Управляйте доступом к инструментам
⚫️Разрешайте агенту только те команды и инструменты, которым доверяете.
⚫️Для работы с GitHub установите gh CLI — агент сможет создавать PR, читать комментарии и выполнять другие задачи.

Автоматизируйте рутину
⚫️Добавляйте свои bash-скрипты и утилиты: агенту можно объяснить, как их использовать.
⚫️ Для повторяющихся задач (например, фиксы багов, анализ логов) создайте шаблоны команд в .claude/commands.

Используйте проверенные рабочие паттерны
⚫️ Сначала просите агента изучить код и составить план, только потом — писать реализацию.
⚫️ Применяйте TDD: сначала тесты, потом реализация. Агент может писать и запускать тесты, пока всё не заработает.
⚫️Для UI/ML: предоставьте макет или скриншот: агент будет дорабатывать код до совпадения результата с макетом.

Безопасность
⚫️Для массовых правок используйте контейнеры с отключённым интернетом и минимальными правами.

Используйте агента для изучения кода
⚫️Задавайте вопросы по архитектуре, функциям, истории изменений: агент быстро найдёт ответы, как опытный коллега.

Автоматизируйте работу с git и GitHub
⚫️Поручайте агенту написание коммитов, разрешение конфликтов, создание и обновление PR, анализ истории изменений.

Подробнее — в прикреплённом гайде.
#агенты

Яндекс собирается разрабатывать роботов-гуманоидов и софт для них

Яндекс недавно рассказал о создании фонда технологических инициатив Yet Another Tech Fund с бюджетом 330 млн рублей, одним из проектов которого станет разработка человекоподобных роботов и софта для них. Роботы будут выполнять сервисные задачи и адаптированы для труда в существующей инфраструктуре (лестницы, двери, турникеты).

Этапы реализации:
💚2025 — разработка базового ПО
💚2026 — тестовые эксплуатации на реальных объектах
💚2027 — серийное производство специализированных модификаций

Фонд учрежден для разработок сотрудников компании — не только роботов, но и автономного транспорта, ИИ и других инициатив.

Берем пример, коллеги, как можно мотивировать персонал.

Компания «Синтека» внедрила ИИ в закупки в свои решения

На сегодняшний день в контуре есть уже четыре продукта: «Синтека», «Закупай», «Фейскит» и «Майснаб».

Разработанная «Синтекой» система анализирует закупочные процессы, выявляя неочевидные возможности для экономии. ИИ-алгоритмы:
⚫️ Автоматизируют тендеры: нейросеть за минуты сравнивает сотни позиций из заявок и счетов.
⚫️ Контролируют бюджет, выявляя переплаты и дублирование позиций.
⚫️ Алгоритмы распознают свыше 1 млн позиций ежемесячно, корректно сопоставляя разные формулировки поставщиков. Так можно оптимизировать логистику и сроки поставок.

Внедрение технологии уже дает застройщикам:
⚫️ До 60% экономии на отдельных позициях, в среднем — до 15%.
⚫️ Сокращение времени обработки заявок на 70%.
⚫️ Минимизацию ошибок из-за человеческого фактора.

Среди клиентов решения — Setl Group, «Эталон» и другие.

58% сотрудников регулярно используют ИИ, чаще всего — бесплатные публичные инструменты, а не корпоративные — KPMG

Отчёт KPMG и Университета Мельбурна охватил более 48 тысяч респондентов из 47 стран и показал: ИИ уже прочно вошёл в нашу жизнь, но доверие к нему остаётся проблемой. 54% людей по-прежнему относятся к ИИ с осторожностью, а 70% требуют регулирования. При этом две трети уже регулярно используют ИИ — чаще всего без специального обучения.

Плюсы ИИ — рост эффективности и инноваций, но риски тоже на слуху: кибербезопасность, приватность, дезинформация и сокращение рабочих мест. Интересно, что в развивающихся странах доверие и принятие ИИ выше, чем в развитых.

В работе и учёбе ИИ уже стал незаменимым помощником: 58% сотрудников и 83% студентов используют его постоянно. Но вместе с этим растёт и число ошибок, связанных с неосознанным или неправильным применением ИИ: власти и образование пока не поспевают за технологиями.

Главный вывод: ИИ — это уже не будущее, а настоящее. Но чтобы его потенциал действительно работал на общество, нужны прозрачные правила, обучение и баланс между инновациями и ответственностью.

Подробнее — в прикрепленном файле. ⬆️
И сегодня решили опросить подписчиков — опросы ниже⬇️