Библиотека дата-сайентиста | Data Science, Machine learning, анализ данных, машинное обучение
18.7K subscribers
2.27K photos
115 videos
64 files
4.69K links
Все самое полезное для дата сайентиста в одном канале.

По рекламе: @proglib_adv

Курс по ML: https://clc.to/4hNluQ

Для обратной связи: @proglibrary_feeedback_bot

РКН: https://gosuslugi.ru/snet/67a5b03124c8ba6dcaa121c9
Download Telegram
🔥 Тематическое моделирование LDA

В ролике решается реальная задача Data Science — разделить отзывы на сайте по темам используя Python.

Говорится про LDA, предобработку текста и обучение модели, как правильно оценить результат, проанализировать его и предсказать тематику.

Перейти к просмотру
🔥1
Очередной #дайджест по Python:

🐍 Обработка и анализ естественного языка с помощью Python-библиотеки spaCy
Библиотека spaCy выделяется своей эффективностью и производительностью. Она разработана с акцентом на скорость и точность, что делает ее предпочтительным выбором для многих разработчиков и исследователей в области NLP.

🐍 Django Rest Framework. Туториал или как легко писать backend
Автор учит новичков делать rest эндпоинты.

🐍 Как организовать отдачу статических файлов в контейнеризованном Django
Подробный ответ на часто задаваемый вопрос на курсе для мидлов.

🐍 Моделирование движения космических объектов (симулятор гравитации)
Создаем симулятор солнечной системы.

🐍 Что для меня значит быть программистом
Статья-мнение, собравшая внушительное количество лайков.
👍21
Считаете ли вы, что в вашей компании уделяется слишком много времени на ненужные созвоны и мало времени на разработку?
#интерактив
👍9
🔍Насколько легко «войти в айти»?

IT — перспективная отрасль с высокими зарплатами и огромной конкуренцией. Собираем ваши истории: расскажите, как вам удалось сменить профессию (или сразу найти себя), какие шаги вы для этого предприняли и с какими сложностями пришлось столкнуться.

👉Пройдите наш 10-минутный опрос по ссылке.
👍3
Решение простой головоломки с использованием SymPy

В этом коротком сообщении в блоге показано, как сформулировать ряд уравнений и решить их с помощью SymPy для небольшой геометрической головоломки. Существует также связанное обсуждение на ycombinator.

Читать пост
👍1
Что такое временной ряд?

Временной ряд — это набор наблюдений, упорядоченных во времени, обычно собираемых через равные промежутки времени. Например, данные о цене биткоина.
#вопросы_с_собеседований
Как построить полностью автоматизированный конвейер обнаружения отклонения данных

Статья, в которой объясняется, как разработать рабочий процесс, который обнаруживает отклонение данных, уведомляет группу обработки данных и запускает переобучение модели с помощью Kestra, библиотеки с открытым исходным кодом.

Читать статью
🔥5
Почему вам (вероятно) не нужно настраивать LLM

Люди часто сталкиваются с проблемами с LLM базовой модели — «модель не дала того, что я хотел», или «модель галлюцинировала, ее ответ не имеет смысла», или «модель ничего не знает об Y, потому что не была обучена этому». Иногда люди обращаются к довольно сложному методу, называемому тонкой настройкой, в надежде, что он решит все вышеперечисленные проблемы. В этом посте автор говорит о том, почему вашему приложению, вероятно, не нужна тонкая настройка.

Читать статью
👍2
Очередной #дайджест по Python:

🐍 Чтобы ускорить работу Numba и кода NumPy, нужно понять, как работают процессоры
Автор учит ускорять код вплоть до 25 раз по сравнению с первоначальной версией.

🐍 Метаданные как обезбол при миграции
Почему и зачем они пригодятся.

🐍 Строим пайплайн в sсikit-learn — пошаговое руководство
Как построить пайплайн в библиотеке scikit-learn на базе встроенных инструментов и сократить количество кода при преобразовании данных.

🐍Разработка RESTful API на Python с помощью HappyX

🐍 BI-аналитика на коленке: делаем веб-аналитику в DataLens
Автор делится рабочим опытом создания аналитики.
👍2
Forwarded from Библиотека программиста | программирование, кодинг, разработка
🤖 Generative AI: как ускорить разработку с помощью Github Copilot и Databricks English SDK

Давайте разберемся, что же могут помощники и SDK, а чего от них ожидать еще рано. Рассмотрим наиболее популярные решения от Github и Databricks: варианты использования и их ограничения. Также поговорим о перспективах профессии AI-инженера.

🔗 Читать статью
🔗 Зеркало
👍4
Понимание автоматической дифференциации в 30 строках Python

В этой статье автор пробует итеративно построить простейший код для автоматического вычисления производных по скалярам.

Читать статью
👍1
Создайте свой клон с помощью Fine-tuned LLM

Цель этой статьи — показать, как эффективно и с минимальными затратами настроить LLM на пользовательском датасете. Мы рассмотрим использование модели Falcon-7B с адаптерами LoRa, с использованием библиотеки Lit-GPT.

Читать статью
👍5🔥3
Как интерпретируется термин смещения в линейных моделях?

Смещение — это просто разница между прогнозируемым значением и фактическим/истинным значением. Его можно интерпретировать как расстояние от среднего прогноза и истинного значения, т.е. истинное значение минус среднее значение (прогнозы). Но не путайте точность и смещение.
#вопросы_с_собеседований
👍2
Алгебраическая топология для специалистов по данным

Эта книга дает подробное введение в топологический анализ данных, применение алгебраической топологии в науке о данных.

Читать статью
3
💬🦙 LlamaIndex: создаем чат-бота без боли и страданий. Часть 2

Продолжаем изучать фреймворк для создания AI-ботов. В этой части узнаем про тонкости индексирования собственной базы документов.

🔗Читать статью
🔥3
Создание файлов шаблонов с помощью R

Если вы регулярно копируете и вставляете контент между файлами, вы можете использовать R, чтобы сделать это за вас! Для повторяющихся задач, которые вы не можете полностью автоматизировать, использование файлов шаблонов — отличный способ сэкономить время, и в этом посте описано, как их выполнить в R.

Читать статью
Какие могут быть опасности при работе с LLM и как защитить решения, основанные на них?

На этот вопрос ответят ребята из VK в своем онлайн-семинаре Adversarial Prompting and Jailbreaking of LLMs.

Регистрация
Overdetection или SFTE. Другие возможности применения YOLO

В этой статье описан подход (идея), как при помощи детектирующей нейросети решать более сложные задачи, чем детекция. Идея, лежащая в основе: давайте решать не задачу детекции объекта, а задачу детекции ситуации. Причем, вместо того, чтобы конструировать новую нейросетевую архитектуру, мы будем конструировать входящий кадр. А решать саму задачу будем при помощи стандартных предобученных сетей.

Читать статью
👍3
Очередной #дайджест по Python:

🐍 Профилирование Python — почему и где тормозит ваш код
Почему скрипт работает так медленно? Какая его часть тормозит? Дело в чтении данных, их обработке или сохранении? Как ускорить исполнение? Действительно ли скрипт вообще медленный? Ответить на все эти вопросы поможет инструмент под названием «профилировщик» (profiler).

🐍 Анализ текстовых данных с использованием тематического моделирования
Анализ текстовых данных становится все более важным в наше время, когда огромные объемы информации генерируются и обмениваются каждую секунду.

🐍 Разбираемся в «базовых» алгоритмах для высоконагруженного проекта
Автор собрал примерный список алгоритмов, которые использует в работе с высоконагруженным проектом с большой кодовой базой.

🐍Использование конечных автоматов с несколькими активными состояниями для автоматизации бизнес-процессов
Необычная статья про слияние теории ведения бизнеса и программирования.

🐍 JSON и XML для новичков
Практическое введение в тему.
👍4
Любите ли вы писать тесты? Или считаете эту работу слишком скучной и бесполезной?
#интерактив
aquarel: стилизация Matplotlib стала проще

Aquarel — это легкий механизм создания шаблонов и оболочка вокруг rcparams, упрощающая стилизацию графиков. Шаблоны Aquarel можно определять программно, сериализовать и публиковать в формате JSON.

Открыть репозиторий
👍8