Forwarded from Machinelearning
Лучший способ изучить генеративный ИИ - это создать собственный проект. Новый ресурс, который поможет вам погрузится в эту тему!
Новое руководство от DeepLearningAI
по созданию RAG приложения, с пошаговой схемой создания RAG и список кратких уроков, подготовленных кураторами, которые содержат как теоретические знания, так и практические примеры с кодом.
https://deeplearning.ai/resources/generative-ai-courses-guide/
@ai_machinelearning_big_data
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥12❤2👍2
⚡️ Выпущена Mistral v3!
В базе расширен словарный запас до 32768. Instruct поддерживает вызов функций! Токены с 5 по 9 предназначены для вызова функций, остальные пусты.
https://huggingface.co/mistralai
@data_analysis_ml
В базе расширен словарный запас до 32768. Instruct поддерживает вызов функций! Токены с 5 по 9 предназначены для вызова функций, остальные пусты.
https://huggingface.co/mistralai
@data_analysis_ml
👍18🔥5❤1
Опубликованы первые версии проекта Bend, развивающего высокоуровневый язык программирования для параллельных вычислений, который позиционируется как альтернатива низкоуровневыми языкам, таким как CUDA и Metal, обладающая выразительным синтаксисом и возможностями для повышения удобства разработки, свойственными таким языкам, как Python и Haskell.
Из возможностей языка Bend отмечается быстрое распределение объектов, поддержка использования функций высшего порядка, замыканий, продолжений, неограниченной рекурсии, сопоставления с образцом, рекурсивных сопоставлений (fold) и циклов (bend), целочисленных, строковых и списочных типов. Поддерживается два варианта синтаксиса: в стиле Python и в стиле Haskell. В программах не требуется указание управляющих распаралелливанием аннотаций, явного создания потоков и выставления блокировок. Распараллеливание производится автоматически, например, при вычислении выражения "((1 + 2) + (3 + 4))", операции "1 + 2" и "3 + 4" будут выполнены параллельно.
Программы на языке Bend могут выполняться на оборудовании, обеспечивающем массовый пареллелизм, например на GPU, демонстрируя практически линейный рост производительности в зависимости от числа вычислительных ядер. Код на языке Bend компилируется в низкоуровневое промежуточное представление HVM2 (Higher-order Virtual Machine 2), которое затем компилируется в представление на C и CUDA.
@data_analysis_ml
Please open Telegram to view this post
VIEW IN TELEGRAM
👍16❤3🥰1
Этот репозиторий — проект Linux Foundation по AI и данным, — создан с целью помочь ML-исследователям в создании прототипов, экспериментировании и внедрении в продакшен современных рекомендательных систем.
@data_analysis_ml
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍17❤6🔥3🤯1
🆕 Хотите начать писать приложения с использованием последних моделей lama?
Разработчики Lama 3только что опубликовали серию пошаговых руководств, которые помогут вам начать работу с моделью на Linux, Windows, Mac и других системах.
Смотрите видео здесь ➡️ https://www.youtube.com/playlist?list=PL86eLlsPNfygWBnJZ7AXSeHECJrpCdKtu
@data_analysis_ml
Разработчики Lama 3только что опубликовали серию пошаговых руководств, которые помогут вам начать работу с моделью на Linux, Windows, Mac и других системах.
Смотрите видео здесь ➡️ https://www.youtube.com/playlist?list=PL86eLlsPNfygWBnJZ7AXSeHECJrpCdKtu
@data_analysis_ml
👍18🔥3❤2
docker run --ipc=host --shm-size=512m --gpus all -it nvcr.io/nvidia/pytorch:24.02-py3
pip install megatron_core
pip install tensorstore==0.1.45
pip install zarr
Megatron-Core — это самодостаточная, легкая библиотека PyTorch, в которой собрано все необходимое для обучения трансформеров.
Предлагает большую коллекцию GPU-методик для оптимизации памяти и вычислений, использует массу наработок Megatron-LM и Transformer Engine.
Megatron-Core обеспечивает гибкость для разработчиков и облегчает разработку собственного LLM-фреймворка на вычислительной инфраструктуре NVIDIA.
@data_analysis_ml
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍13❤3🔥2
—
pip install haystack-aiHaystack — это фреймворк для создания настраиваемых, готовых к продакшену LLM-приложений.
Позволяет подключать компоненты (разные модели, векторные БД, конвертеры файлов) к конвейерам или агентам для взаимодействия с данными.
Благодаря продвинутым методам поиска, он лучше всего подходит для создания RAG, чат-ботов или семантического поиска.
Haystack бурно развивается, относительно недавно вышло значительное обновление — Haystack 2.0.
@data_analysis_ml
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍18❤2🔥2🤨1