Библиотека дата-сайентиста | Data Science, Machine learning, анализ данных, машинное обучение
18.7K subscribers
2.25K photos
113 videos
64 files
4.66K links
Все самое полезное для дата сайентиста в одном канале.

По рекламе: @proglib_adv

Курс по ML: https://clc.to/4hNluQ

Для обратной связи: @proglibrary_feeedback_bot

РКН: https://gosuslugi.ru/snet/67a5b03124c8ba6dcaa121c9
Download Telegram
🔢 Классные материалы по математике для машинного обучения

Это сайт авторов книги Mathematics for Machine Learning. Во-первых, сама книга доступна бесплатно. А во-вторых, в качестве приложения к ней даны упражнения и туториалы.

🔹 Математика за линейной регрессией
🔹 Метод главных компонент (PCA)
🔹 Модели гауссовой смеси

🔗 Репозиторий проекта на GitHub
👍821
📈 5 трендов в подборе ИТ-специалистов на 2024 год

Использование ИИ-алгоритмов становится трендом и в Human Resources. Такими инструментами пользуются и кандидаты, и работодатели.

🤖 Например, появляются Applicant tracking system (ATS) с ИИ, которые автоматизируют поиск и отбор кандидатов. А ещё есть Final Round AI — своеобразный помощник с искусственным интеллектом, который генерирует индивидуальные ответы на онлайн-интервью в режиме реального времени.

👉 О других трендах читайте в нашей новой статье 👈
🔗 Зеркало
4
🎨 OpenAI обновила GPT-4 до декабря 2023 года

Это значит, что модель дообучили на данных вплоть до этой даты. Теперь, согласно документации, ситуация такова:

▫️gpt-4-0125-preview и gpt-4-turbo-preview — декабрь 2023
▫️gpt-4-1106-preview, gpt-4-vision-preview и gpt-4-1106-vision-preview — апрель 2023
▫️gpt-4, gpt-4-0613, gpt-4-32k и gpt-4-32k-0613 — сентябрь 2021

GPT-3.5 Turbo была обучена на данных до сентября 2021 года.
Please open Telegram to view this post
VIEW IN TELEGRAM
👍5🔥52
👩‍💻 Подборка видео про собеседования на позицию дата-аналитика

Перед техническим интервью может быть полезно посмотреть ролики с mock-собеседованиями или разборами популярных вопросов. Мы подобрали некоторые видео, связанные с анализом данных.

🔹Junior аналитик данных | Собеседование | karpov.courses
🔹A/B-тесты с Валерием Бабушкиным | Собеседование | karpov.courses
🔹Собеседование на аналитика данных. Разбор ОТВЕТОВ на вопросы (Python, SQL, ТЕРВЕР, статистика)
🔹SQL interview questions and answers | Entry level data analyst interview
🔹Собеседование на продуктового аналитика (mock-интервью)
72👍1
💬 Вопрос к дата-сайентистам и дата-аналитикам, которые пришли в профессию из гуманитарных направлений:

Есть ли у вас синдром самозванца?

❤️ — нет, я не чувствую неуверенности в своих навыках
👍 — иногда накатывает
👾 — мне постоянно кажется, что я полез куда-то, куда не должен был

#интерактив
👍47👾4310😁2💯1
🔥 Делаем токенизатор с нуля вместе с Андреем Карпаты

Похоже, он ушёл из OpenAI, чтобы делать новые двухчасовые (да) лекции. На этот раз Карпаты подробно расскажет о том, как написать собственный токенизатор для GPT. Процесс создания этого инструмента — совершенно отдельный шаг в построении архитектуры языковой модели.

Некоторые таймкоды:

00:14:56 Строки в Python, кодовые точки Unicode
00:23:50 Алгоритм Byte Pair Encoding (BPE)
00:34:58 Обучение токенизатора: добавление цикла while, коэффициент сжатия
01:11:38 Библиотека Tiktoken, разница между GPT-2/GPT-4 regex
01:43:27 Как определиться со словарём? Повторное рассмотрение трансформера в gpt.py

🔗 Ссылка на видео
🔗 Репозиторий к лекции
👍9🔥3
✍️ Что такое Word2Vec

Word2Vec — это метод эффективного создания эмбеддингов, или векторных представлений текстовых данных. Основная идея Word2Vec заключается в том, что слова, появляющиеся в похожих контекстах, ближе друг к другу в векторном пространстве.

➡️ Есть две основные модели Word2Vec:
- CBOW (Continuous Bag of Words). Предсказывает текущее слово на основе контекста.
- Skip-Gram. Использует текущее слово для предсказания слов контекста.

🔗 Посмотреть визуализацию обучения Word2Vec можно по этой ссылке
🔗 Статья про Word2Vec
4👍32
🕸🔥 Google представила лучшую опенсорсную модель Gemma

Похоже, что OpenAI осталась единственной компанией на рынке, у которой нет опенсорсной LLM.

Представлены две модели размером 2B и 7B. Обе они родственницы Gemini. Создатели использовали токенизатор на 260к токенов (!), что, как они утверждают, лишь небольшая часть полного токенизатора Gemini.

✔️ Gemma уже поддерживают различные фреймворки, в том числе Ollama и Keras.

По производительности 7B модель находится где-то на уровне Mistral 7b.

🔤Страница Gemma на Kaggle
🧡 Туториал в Колабе
🤗 Карточка модели на Hugging Face
Please open Telegram to view this post
VIEW IN TELEGRAM
👍7🎉731🤔1
😈Рубрика: гадость дня

Как сломать дата-сайентиста? Скопируйте в его ноутбук такой код:
import tensorflow as plt
import pandas as tf
import numpy as np
import matplotlib.pyplot as np
Please open Telegram to view this post
VIEW IN TELEGRAM
😁44🥱12🌚21👍1🤩1
💳 Классификация событий для обнаружения мошенничества с платёжными картами

На сайте Keras вышел новый туториал, который затрагивает классификацию на временных рядах. Создатель Keras Франуса Шолле говорит, что в индустрии сейчас не всё упирается в LLM — машинное обучение на временных рядах актуально как никогда.


В туториале рассматриваются основные шаги:

▫️Анализ данных и их подготовка к обучению.
▫️Создание датасета TensorFlow.
▫️Обучение модели (простая нейронная сеть).
▫️Оценка качества модели.

🔗 Ссылка на туториал
👍81
📚 Подборка лучших новых книг для дата-сайентистов

Все они доступны для скачивания в нашем канале Книги для дата сайентистов | Data Science.

📗 Binary Neural Networks: Algorithms, Architectures, and Applications (2024)
Книга фокусируется на методах сжатия и ускорения свёрточных нейронных сетей (CNN).
📘 Python AI Programming: Navigating fundamentals of ML, deep learning, NLP, and reinforcement learning in practice (2024)
Даёт основы Python и рассказывает об интеграции с ИИ.
📙 Streamlit for Data Science: Create interactive data apps in Python (2024)
Простое и исчерпывающее руководство по созданию приложений для обработки данных с помощью Streamlit.
📕 Foundations of Machine Learning (2018)
Книга охватывает фундаментальные современные темы в области машинного обучения, предоставляя теоретическую основу и концептуальные инструменты, необходимые для обсуждения и обоснования алгоритмов.
📓 Principles of Data Science — Third Edition: A beginner's guide to essential math and coding skills for data fluency and machine learning (2024)
Даёт расширенную статистику, теорию вероятностей, математический анализ и модели для эффективного управления данными.
🎉4🤔2
💊 Машинное обучение помогло идентифицировать лекарства, которые нельзя принимать вместе

Авторы нового исследования хотели узнать больше о транспортёрах лекарственных средств. Они модифицировали модель ткани свиньи, чтобы измерять способность каждого изучаемого лекарства к абсорбции. Чтобы изучить роль отдельных транспортёров в ткани, исследователи в каждом срезе нейтрализовали разные их комбинации.

🦾 Учёные протестировали 23 известных лекарства с помощью этой системы, что позволило им идентифицировать транспортёры, используемые каждым из этих препаратов. Затем они обучили модель на этих данных, а также на информации из нескольких баз данных о лекарствах. Модель научилась делать предсказания о том, какие лекарства будут взаимодействовать с какими транспортёрами. Так, например, система дала прогноз о том, что антибиотик доксициклин может взаимодействовать с варфарином, часто назначаемым средством для разжижения крови.

🔗 Репозиторий исследователей на GitHub
👍874😁1
🔥 100 упражнений по NumPy с решениями

Делимся с вами полезным GitHub-репозиторием, в котором собраны различные небольшие задачки по библиотеке. Упражнения взяты из NumPy mailing list, Stack Overflow и документации NumPy.

Задачи собраны как в версии с решениями, так и в версии без них. Можете проверить свои знания.

🔗 Ссылка на репозиторий
5🔥2
Анонсировали Stable Diffusion 3

Пока модель не доступна широкой публике. Stability AI открыла список ожидания. Зарегистрироваться можно по этой ссылке.

👉 Stable Diffusion 3 соединяет в себе архитектуру диффузионного трансформера и flow matching. Создатели обещают улучшенную производительность при генерации изображений из сложных промптов, а также более точное написание текста на картинках.
👏7👍3