Урок по созданию LLM-модели по шагам
Sebastian Raschka опубликовал пошаговое руководство по созданию ChatGPT-подобной модели с открытым исходным кодом.
Проект включает полный цикл разработки от базовых компонентов до дообучения.
Особенность реализации - возможность запуска на обычных ноутбуках без специализированного оборудования.
Репозиторий содержит инструменты предварительного обучения и компоненты для fine-tuning модели.
Основной фокус направлен на образовательные цели и глубокое понимание механизмов работы LLM.
Создание chatGPT скоро во всех школах на базовом уроке информатики! 🤖
#PyTorch #LLM #обучение
-------
@tsingular
Sebastian Raschka опубликовал пошаговое руководство по созданию ChatGPT-подобной модели с открытым исходным кодом.
Проект включает полный цикл разработки от базовых компонентов до дообучения.
Особенность реализации - возможность запуска на обычных ноутбуках без специализированного оборудования.
Репозиторий содержит инструменты предварительного обучения и компоненты для fine-tuning модели.
Основной фокус направлен на образовательные цели и глубокое понимание механизмов работы LLM.
Создание chatGPT скоро во всех школах на базовом уроке информатики! 🤖
#PyTorch #LLM #обучение
-------
@tsingular
🔥6❤1👍1
Уязвимости в популярных ML-фреймворках угрожают безопасности организаций
Специалисты JFrog обнаружили серию критических брешей в известных системах машинного обучения.
В MLflow найдена опасность XSS-атак через Jupyter Notebooks (CVE-2024-27132).
Фреймворк H2O подвержен рискам небезопасной десериализации при загрузке внешних моделей (CVE-2024-6960).
PyTorch содержит уязвимость обхода каталогов в TorchScript.
В MLeap выявлена проблема с загрузкой zip-архивов (CVE-2023-5245).
Даже Safetensors может быть скомпрометирован через загрузку вредоносного кода на облачные площадки.
Всего исследователи выявили 22 проблемы безопасности в клиентских компонентах ML-платформ.
Доверяй, но проверяй, в общем как всегда.
#MLflow #PyTorch #SecurityVulnerabilities
———
@tsingular
Специалисты JFrog обнаружили серию критических брешей в известных системах машинного обучения.
В MLflow найдена опасность XSS-атак через Jupyter Notebooks (CVE-2024-27132).
Фреймворк H2O подвержен рискам небезопасной десериализации при загрузке внешних моделей (CVE-2024-6960).
PyTorch содержит уязвимость обхода каталогов в TorchScript.
В MLeap выявлена проблема с загрузкой zip-архивов (CVE-2023-5245).
Даже Safetensors может быть скомпрометирован через загрузку вредоносного кода на облачные площадки.
Всего исследователи выявили 22 проблемы безопасности в клиентских компонентах ML-платформ.
Доверяй, но проверяй, в общем как всегда.
#MLflow #PyTorch #SecurityVulnerabilities
———
@tsingular
🚀 Курс "Practical Deep Learning for Coders" от Fast.ai
Наткнулся на интересный бесплатный курс от fast.ai, который дает практические навыки глубокого обучения без гигантских требований к математике или железу.
Без регистрации, оплаты и т.д. статьи, видеоуроки, примеры кода.
Чему учат:
- Создание и тренировка моделей для компьютерного зрения, обработки естественного языка, табличных данных
- Сборка и деплой работающих моделей с первого занятия (на второе занятие у вас уже будет своя рабочая модель!)
- Работа с библиотеками: PyTorch, fastai, Hugging Face Transformers, Gradio
- Техники глубокого обучения: случайные леса, стохастический градиентный спуск, аугментация данных, transfer learning
Акцент на навыках:
- Построение полного цикла обучения с нуля
- Методы улучшения точности и скорости моделей
- Внедрение моделей в веб-приложения
- Работа с категориальными и непрерывными данными
Преимущества курса:
1. Строится на практических примерах кода, а не только теории
2. Показывает рабочие модели с первого занятия
3. Не требует дорогого железа (всё можно запустить в Kaggle/Paperspace)
4. Не нужна продвинутая математика — хватит школьного уровня
9 уроков по 90 минут. Всё можно пробовать в Jupyter Notebooks. Дополнительно есть форумы сообщества и рабочий код.
В общем, если давно хотели разобраться с нейронками но пугала математика — имеет смысл рассмотреть. Пишешь код, видишь результат, а теорию подтягиваешь по мере необходимости.
#deeplearning #ML #PyTorch #обучение
———
@tsingular
Наткнулся на интересный бесплатный курс от fast.ai, который дает практические навыки глубокого обучения без гигантских требований к математике или железу.
Без регистрации, оплаты и т.д. статьи, видеоуроки, примеры кода.
Чему учат:
- Создание и тренировка моделей для компьютерного зрения, обработки естественного языка, табличных данных
- Сборка и деплой работающих моделей с первого занятия (на второе занятие у вас уже будет своя рабочая модель!)
- Работа с библиотеками: PyTorch, fastai, Hugging Face Transformers, Gradio
- Техники глубокого обучения: случайные леса, стохастический градиентный спуск, аугментация данных, transfer learning
Акцент на навыках:
- Построение полного цикла обучения с нуля
- Методы улучшения точности и скорости моделей
- Внедрение моделей в веб-приложения
- Работа с категориальными и непрерывными данными
Преимущества курса:
1. Строится на практических примерах кода, а не только теории
2. Показывает рабочие модели с первого занятия
3. Не требует дорогого железа (всё можно запустить в Kaggle/Paperspace)
4. Не нужна продвинутая математика — хватит школьного уровня
9 уроков по 90 минут. Всё можно пробовать в Jupyter Notebooks. Дополнительно есть форумы сообщества и рабочий код.
В общем, если давно хотели разобраться с нейронками но пугала математика — имеет смысл рассмотреть. Пишешь код, видишь результат, а теорию подтягиваешь по мере необходимости.
#deeplearning #ML #PyTorch #обучение
———
@tsingular
✍14⚡2🔥1👨💻1