Ускорение генеративного искусственного интеллекта с помощью PyTorch: сегментируйте что угодно быстро

Этот пост является первой частью многосерийного блога, посвященного тому, как ускорить генеративные модели ИИ с помощью чистого, нативного PyTorch. Мы рады поделиться множеством недавно выпущенных функций производительности PyTorch, а также практическими примерами того, как эти функции можно комбинировать, чтобы увидеть, насколько далеко мы можем повысить производительность PyTorch. https://pytorch.org/blog/accelerating-generative-ai/

Практические советы по точной настройке LLM с использованием LoRA

https://magazine.sebastianraschka.com/p/practical-tips-for-finetuning-llms

Модель прогнозирования погоды DeepMind (репозиторий GitHub)
DeepMind уже несколько лет работает над прогнозированием погоды. Последняя модель, построенная на графовых нейронных сетях, чрезвычайно точна для 10-дневных прогнозов. https://github.com/google-deepmind/graphcast


Интерполяция видеокадров с индексацией расстояния
Существующие методы интерполяции видеокадров (VFI) слепо предсказывают, где находится каждый объект в определенный момент времени t («индексация времени»), что затрудняет предсказание точных движений объекта. Учитывая два изображения ⚾️, существует бесконечно много возможных траекторий: ускоряющихся или замедляющихся, прямых или изогнутых. Это часто приводит к размытым кадрам, поскольку метод усредняет эти возможности. Вместо того, чтобы заставлять сеть неявно изучать это сложное сопоставление времени и местоположения вместе с прогнозированием кадров, мы предоставляем сети явную подсказку о том, как далеко объект прошел между начальным и конечным кадрами. Новый подход получил название «индексация расстояния». https://zzh-tech.github.io/InterpAny-Clearer

Microsoft запустила лучший курс по генеративному искусственному интеллекту. Бесплатный курс из 12 уроков доступен на Github и научит вас всему, что вам нужно знать, чтобы начать создавать приложения генеративного ИИ.

https://github.com/microsoft/generative-ai-for-beginners

Модели больших данных 📊 против памяти компьютера 💾

https://dev.to/taipy/big-data-models-vs-computer-memory-4po6

5 бесплатных курсов для освоения машинного обучения
Вам интересно изучать и создавать модели машинного обучения? Начните обучение сегодня с помощью этих бесплатных курсов машинного обучения.

https://www.kdnuggets.com/5-free-courses-to-master-machine-learning

Интерактивная панель управления Python, чтобы продемонстрировать сэмплер Гиббса, концепцию в цепи Маркова Монте-Карло

https://github.com/GeostatsGuy/PythonNumericalDemos/blob/master/Interactive_Gibbs_Sampler.ipynb

Создайте языковую модель в своих чатах WhatsApp

Визуальное руководство по архитектуре GPT с приложением

В этой статье я расскажу вам о своем пути создания (маленькой) языковой модели, которая генерирует синтетические разговоры, используя мои сообщения чата WhatsApp в качестве входных данных. https://towardsdatascience.com/build-a-language-model-on-your-whatsapp-chats-31264a9ced90

🏆Как освоить 📊 конвейеры больших данных с помощью Taipy и PySpark 🐍

В этой статье будет использован простой пример, чтобы продемонстрировать, как мы можем интегрировать PySpark с Taipy , чтобы соединить ваши потребности в обработке больших данных с интеллектуальным выполнением заданий . https://dev.to/taipy/how-to-master-big-data-pipelines-with-taipy-and-pyspark-14oe

Ускорение генеративного ИИ с Pytorch II: GPT, быстро.

https://pytorch.org/blog/accelerating-generative-ai-2/

llamafile - это комбинация llama.cpp и Cosmopolitan libc. Это означает, что вы можете использовать практически любой процессор на любой ОС и упаковать свою модель в один исполняемый файл.
больше→ https://github.com/Mozilla-Ocho/llamafile

Локальные нейросети. Аналог ChatGPT-3.5 на домашнем ПК: OpenChat 7B превосходящая 70B, DeepSeek для кода уровня ChatGPT

Есть много локальных аналогов ChatGPT, но им не хватает качества, даже 65B модели не могут конкурировать хотя бы с ChatGPT-3.5. И здесь я хочу рассказать про 2 открытые модели, которые всё-таки могут составить такую конкуренцию.

Речь пойдет о OpenChat 7B и DeepSeek Coder. Обе модели за счет размера быстры, можно запускать на CPU, можно запускать локально, можно частично ускорять на GPU (перенося часть слоев на GPU, на сколько хватит видеопамяти) и для такого типа моделей есть графический удобный интерфейс.

И бонусом затронем новую модель для качественного подробного описания фото.

UPD: Добавлена информация для запуска на Windows с ускорением на AMD. https://habr.com/ru/articles/776314/

Mimesis: идеальное решение для генерации данных.

Сбор данных имеет решающее значение для каждого проекта, связанного с машинным обучением. Однако не всегда искомые данные существуют или общедоступны. Во многих случаях получение данных является дорогостоящим или затрудненным из-за внешних условий. Кроме того, правила конфиденциальности влияют на способы использования или распространения набора данных. По всем этим причинам использование синтетических данных является хорошей альтернативой, поскольку с их помощью можно удовлетворить те же потребности без особых усилий.

В этой статье мы рассмотрим один из лучших пакетов для генерации синтетических данных.

Читать далее https://habr.com/ru/articles/771950

Кто такие LLM-агенты и что они умеют?.

В последнее время большие языковые модели (Large Language Models, LLM) стали невероятно популярными — кажется, их обсуждают везде, от школьных коридоров до Сената США. Сфера LLM растёт бурными темпами, привлекая внимание не только специалистов в области машинного обучения, но и обычных пользователей. Кто-то высказывает массу опасений насчет их дальнейшего развития, а кто-то и вовсе предлагает бомбить дата-центры — и даже в Белом Доме обсуждают будущее моделей. Но неужели текстом можно кому-то навредить? А что если такая модель приобрела бы агентность, смогла создать себе физическую оболочку и полностью ей управлять? Ну, это какая-то фантастика из (не)далёкого будущего, а про агентов нашего времени я расскажу в этой статье. И не переживайте — знание машинного обучения вам не понадобится!

Читать далее https://habr.com/ru/companies/ods/articles/776478

MLX — это эффективная среда машинного обучения , специально разработанная для процессоров Apple

Code: https://github.com/ml-explore/mlx
Docs: https://ml-explore.github.io/mlx/build/html/index.html

Книга: Шаблоны проектирования обработки данных (DEDP)

https://www.dedp.online/about-this-book.html

Кураторский список потрясающих библиотек с открытым исходным кодом для развертывания, мониторинга, версии и масштабирования вашего машинного обучения.

https://github.com/EthicalML/awesome-production-machine-learning

Cog — это инструмент с открытым исходным кодом, который позволяет упаковывать модели машинного обучения в стандартный, готовый к использованию контейнер.

https://github.com/replicate/cog

[Перевод] Раскрывая секреты LLM: руководство по основным понятиям больших языковых моделей без хайпа.

AI-хайп, честно говоря, слегка задолбал. Кажется, что все вокруг только и делают, что оптимизируют свою работу с помощью AI и в ус не дуют. Все эти возвышенные презентации про amazing и awesome инновации от людей, которые слабо себе представляют, чем энкодер отличается от декодера и почему трансформеры в нейросетях не сражаются с автоботами, мало того, что набивают оскомину и отнимают время, так еще и погружают в грёзы бизнес-руководителей и создают крайне завышенные ожидания.

Вспоминаю, как на одном обмене опытом со стартапами они чётко делились на 2 группы: первая – с менеджерами про невероятные инновации и всеобщее благоденствие, а вторая – с инженерами, которые с красными глазами рассказывали, что так и не смогли победить галлюцинации, что окно контекста заканчивается очень быстро и что для того, чтобы на нормальном продакшн использовании вся эта магия заработала, нужны огромные инвестиции в инфраструктуру, оркестратор, агенты, векторные базы, кратковременную и долговременную память и так далее. Поэтому хотелось собрать в одном месте понятное руководство и для разработчиков, пробующих LLM-ки для своих задач, и для людей из бизнеса, чтобы погрузить в контекст.

Читать далее https://habr.com/ru/articles/768844/

Используем MLOps-конвейер: пример работы с Cloud ML Platform для построения сервиса распознавания лиц.

Есть два подхода к работе с машинным обучением (Machine Learning, ML): быть человеком-оркестром и задействовать «зоопарк технологий» для каждого этапа, или работать с готовым набором инфраструктурных решений, который позволяет выстроить MLOps-конвейер в рамках одной платформы. Для реализации первого подхода нужны senior-специалисты и большие ресурсы, для второго достаточно найти сервис с нужным набором возможностей.

Меня зовут Станислав Кипрюшин, я ведущий программист в VK Cloud. В этой статье на примере Cloud ML Platform мы разберём, как создать MLOps-конвейер для обучения моделей и построения сервиса распознавания лиц.

Читать дальше →https://habr.com/ru/companies/vk/articles/780050