Автоматизация задач на работе
У нас на проекте есть множество аналитических задач, которые нужно выполнять по разным сценариям: ежедневно/еженедельно/ежемесячно, либо по запросу, но всегда идентично
И для каждой такой задачи раньше нужно было вовлекать аналитика, просить его сделать определенные манипуляции, которые мог сделать только он
А что если аналитик ушел в отпуск, взял дейофф, заболел, уволился?
Сейчас пришли к тому, что каждая такая задача решается запуском автоматических джоб (скриптов). Вся логика централизовано лежит в репозитории, нет шанса что-то потерять если аналитик недоступен. И все работает по заданному расписанию с нужной периодичностью.
НО остались задачи, которые нужно запускать по запросу (не по расписанию). И вот здесь опять же нужен аналитик, чтобы нажать кнопку и запустить джобу. Бизнес-пользователи это сделать не могут в техническом контуре, но можно теперь запросто просить других коллег это сделать.
Было:
- вся логика известна аналитику в его скриптах, полная зависимость от его ресурса, скрипты запускаются вручную по запросу или когда аналитик сам помнит что их нужно прогнать
Стало:
- вся логика зафиксирована в репозиториях компании, все автоматизировано запускается по расписанию или нажатием одной кнопки если попросить аналитика или другого коллегу с доступом
- часть задач вообще доступна пользователям в привычной им системе с UI, где они сами по кнопке получают нужные отчеты
Но дальше хочу уйти еще больше в self-service для пользователей. Здесь будем исследовать в сторону внедрения ии-агентов для наших задач, а также динамическую генерацию отчетов не по прописанной логике, а в формате из запроса пользователя
А у вас как на работе? Передайте то, как чувствую себя ваши бизнес-пользователи, или вы сами)
🙏 - есть что автоматизировать, что сейчас в ручном или полуручном режиме
🧑💻 - все что можно уже автоматизировано и удобно работает
Кто я | Навигация | Обучение
У нас на проекте есть множество аналитических задач, которые нужно выполнять по разным сценариям: ежедневно/еженедельно/ежемесячно, либо по запросу, но всегда идентично
И для каждой такой задачи раньше нужно было вовлекать аналитика, просить его сделать определенные манипуляции, которые мог сделать только он
А что если аналитик ушел в отпуск, взял дейофф, заболел, уволился?
Сейчас пришли к тому, что каждая такая задача решается запуском автоматических джоб (скриптов). Вся логика централизовано лежит в репозитории, нет шанса что-то потерять если аналитик недоступен. И все работает по заданному расписанию с нужной периодичностью.
НО остались задачи, которые нужно запускать по запросу (не по расписанию). И вот здесь опять же нужен аналитик, чтобы нажать кнопку и запустить джобу. Бизнес-пользователи это сделать не могут в техническом контуре, но можно теперь запросто просить других коллег это сделать.
Было:
- вся логика известна аналитику в его скриптах, полная зависимость от его ресурса, скрипты запускаются вручную по запросу или когда аналитик сам помнит что их нужно прогнать
Стало:
- вся логика зафиксирована в репозиториях компании, все автоматизировано запускается по расписанию или нажатием одной кнопки если попросить аналитика или другого коллегу с доступом
- часть задач вообще доступна пользователям в привычной им системе с UI, где они сами по кнопке получают нужные отчеты
Но дальше хочу уйти еще больше в self-service для пользователей. Здесь будем исследовать в сторону внедрения ии-агентов для наших задач, а также динамическую генерацию отчетов не по прописанной логике, а в формате из запроса пользователя
А у вас как на работе? Передайте то, как чувствую себя ваши бизнес-пользователи, или вы сами)
🙏 - есть что автоматизировать, что сейчас в ручном или полуручном режиме
🧑💻 - все что можно уже автоматизировано и удобно работает
Кто я | Навигация | Обучение
🙏12👍2👨💻2
Оффер в крупную ритейл компанию на 185 тысяч на руки!
Такой новостью сегодня порадовал ученик. Порадуемся за Дмитрия!🎉
На старте обучения у Дмитрия был базовый SQL, сильный Excel и опыт junior аналитика.
Теперь благодаря уверенным хардам с SQL, Python, применением ETL инструментов, Git и BI получилось закрыть свою цель по ЗП на middle позиции 🤝
#кейс
#отзыв_курс
Кто я | Навигация | Обучение
Такой новостью сегодня порадовал ученик. Порадуемся за Дмитрия!
На старте обучения у Дмитрия был базовый SQL, сильный Excel и опыт junior аналитика.
Теперь благодаря уверенным хардам с SQL, Python, применением ETL инструментов, Git и BI получилось закрыть свою цель по ЗП на middle позиции 🤝
#кейс
#отзыв_курс
Кто я | Навигация | Обучение
Please open Telegram to view this post
VIEW IN TELEGRAM
🎉27🔥12❤6👨💻2👍1
Моя статья на Habr про построение потока данных с serverless технологиями в облаке
Собрал там информацию о реальном примере работы с excel/csv файлами, когда есть потребность загружать данные из них в базу данных для хранения и анализа. В статье расписал как использую
🔹Object Storage
🔹Managed Service PostgreSQL
🔹Cloud Functions
🔹Cloud Triggers
Довольно подробная инструкция, можно все максимально повторить по шагам
А полный цикл разработки и автоматизации потоков данных проходим на курсе "Продвинутый SQL и автоматизация витрин данных" - вся практика и навыки, которые требуют сейчас работодатели от аналитиков данных.
➡️ Ближайшая группа 27 июля, пиши в ЛС или оставляй заявку через сайт
Собрал там информацию о реальном примере работы с excel/csv файлами, когда есть потребность загружать данные из них в базу данных для хранения и анализа. В статье расписал как использую
🔹Object Storage
🔹Managed Service PostgreSQL
🔹Cloud Functions
🔹Cloud Triggers
Довольно подробная инструкция, можно все максимально повторить по шагам
А полный цикл разработки и автоматизации потоков данных проходим на курсе "Продвинутый SQL и автоматизация витрин данных" - вся практика и навыки, которые требуют сейчас работодатели от аналитиков данных.
Please open Telegram to view this post
VIEW IN TELEGRAM
❤9👍7
Захотелось поделиться мыслями с вами почему я обожаю свою работу
Обожаю разнообразие задач, особенно когда задача внутри себя содержит аналитику и инженерную часть. Например, когда нужно построить витрину данных, прогнать скрипт сборки локально, задеплоить все это в тестовое окружение, протестировать логику сборки и определения инкремента данных. После этого приступить к аналитике: расчет метрик, построение отчета, документация и общение с заказчиком. Обширный список задач и применение разных инструментов - это то, что не дает повязнуть в рутинных задачах 🔥
Очень круто, что в целом в IT общение на ты принято за норму и приветствуется в большинстве компаний, такое же общение выстраивается на мероприятиях/конференциях/митапах. С ужасом думаю, что где-то это работает не так, например на производствах, в гос. органах, даже в общении ассистента со стоматологом в частной клинике. Примеров вокруг меня много, слышу это от родителей, жены, друзей, что им приходится общаться в некой иерархии на работе, обращаться к руководителю по имени отчеству. В целом в этом ничего плохого нет, если выстроены нормальные человеческие взаимоотношения, но как правило руководители там чувствуют себя "начальниками" и "боссами", а от этого и коммуникация идет не на равных.
В общем коммуникация в IT на равных с взаимоуважением к каждому сотруднику - огромная ценность, которую я также обожаю
Конечно же это оооочень жирный плюс. Писал уже об этом много раз, еще раз подствечу в чем он заключается
🔹 я люблю долго спать (9 часов обычно, если не засиживаюсь ночью). вот эти мемы, что ты в 8:59 еще спишь, а в 9:00 сидишь уже работаешь - прямо в точку про меня)
🔹 нет чувства "обязан ехать". вспоминаю школу, когда ты должен был вставать, в любую плохую погоду и темноту утром идти до школы. сейчас чувство свободы выбора само по себе прекрасно
🔹 больше возможность путешествовать и нет привязанности к одному месту. даже если в путешествии все равно нужно работать, у тебя есть ноут и это и есть твой рабочий инструмент. опять же сравниваю с женой, что ей нужно обязательно для работы ездить в клинику, иначе ты работать не можешь.
ITшники, поддерживаете эти плюсы? Ставьте 🧑💻 если тоже любите за это свою работу (ну или хотели бы любить 😅)
Please open Telegram to view this post
VIEW IN TELEGRAM
👨💻17🔥9👍4
Ломаем баррикады рынка труда!
Еще одно трудоустройство, поздравим Максима!🎉
У Максима есть опыт с 2023 года в менеджменте и стратегическом консалтинге, на этих позициях он уже сталкивался частично с задачами визуализации данных и подготовки презентаций.
Как мы знаем для анализа данных нужны технические навыки, без SQL и Python никто рассматривать не будет, поэтому Максим принял решение пройти курс, а после него еще пойти на 5 занятий менторинга.
Созданные на курсе в рамках практики витрины данных использовали в процессе менторинга чтобы BI инструменты изучить. В общем отличное комбо получилось, результативное 👍
#кейс
#менторинг
#отзыв_курс
Кто я | Навигация | Обучение
Еще одно трудоустройство, поздравим Максима!
У Максима есть опыт с 2023 года в менеджменте и стратегическом консалтинге, на этих позициях он уже сталкивался частично с задачами визуализации данных и подготовки презентаций.
Как мы знаем для анализа данных нужны технические навыки, без SQL и Python никто рассматривать не будет, поэтому Максим принял решение пройти курс, а после него еще пойти на 5 занятий менторинга.
Созданные на курсе в рамках практики витрины данных использовали в процессе менторинга чтобы BI инструменты изучить. В общем отличное комбо получилось, результативное 👍
#кейс
#менторинг
#отзыв_курс
Кто я | Навигация | Обучение
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥14🎉6❤1
Запустил Data Study Club
Это группа, где ученики после курсов и менторинга могут находить поддержку и опыт внутри сообщества. Ближе к концу осени, зиме начну организовывать закрытые вебинары на разные технические и карьерные темы, пока лето хочется на свежем воздухе время проводить, да и сезон отпусков у всех
В сообществе
💻Взаимная практическая поддержка (готовы помочь друг другу по рабочим вопросам)
🏆Открыто делимся опытом и достижениями
💸Обмениваемся карьерными возможностями (рекомендации в компании и закрытые вакансии)
➡️ Доступ в сообщество только после обучения https://datastudy.ru/courses
Это группа, где ученики после курсов и менторинга могут находить поддержку и опыт внутри сообщества. Ближе к концу осени, зиме начну организовывать закрытые вебинары на разные технические и карьерные темы, пока лето хочется на свежем воздухе время проводить, да и сезон отпусков у всех
В сообществе
💻Взаимная практическая поддержка (готовы помочь друг другу по рабочим вопросам)
🏆Открыто делимся опытом и достижениями
💸Обмениваемся карьерными возможностями (рекомендации в компании и закрытые вакансии)
Please open Telegram to view this post
VIEW IN TELEGRAM
👍9🔥2
This media is not supported in your browser
VIEW IN TELEGRAM
Желаю тебе умиротворения и наслаждения от вкусного ужина в эту пятницу как у панды 🐼 😉
❤18🥰4👍2👨💻1
Из-за глупой ошибки в SQL компания чуть не потеряла 5 млн. и репутацию перед поставщиками
Наши действия при работе с данными напрямую влияют на конечные метрики в бизнес-отчетах. И любая ошибка аналитика может стать критичной
Из-за нехватки знаний и опыта аналитики допускают максимально глупые ошибки в конструкции CASE, которые критически могут менять метрики.
❌ пишут неправильный порядок условий
❌ не пишут ELSE
ЗАПОМНИ ЗОЛОТОЕ ПРАВИЛО ПОРЯДКА CASE УСЛОВИЙ
✅ Соблюдай порядок условий от частного к общему
✅ Указывай ELSE чтобы не поймать еще других проблем с NULL значениями, если условия не выполнились
➡️ Если хочешь творить с данными магию с помощью SQL и выполнять бизнес-задачи любой сложности, приходи на курс "Продвинутый SQL и автоматизация витрин данных". Там разбираем как писать сложные аналитические запросы, оптимизировать их, проверять данные на качество и автоматизировать ETL процессы.
Запись в группу 27 июля
Наши действия при работе с данными напрямую влияют на конечные метрики в бизнес-отчетах. И любая ошибка аналитика может стать критичной
Из-за нехватки знаний и опыта аналитики допускают максимально глупые ошибки в конструкции CASE, которые критически могут менять метрики.
❌ пишут неправильный порядок условий
❌ не пишут ELSE
ЗАПОМНИ ЗОЛОТОЕ ПРАВИЛО ПОРЯДКА CASE УСЛОВИЙ
Условия указываются от частного к общему. CASE проверяет условия сверху вниз и останавливается на первом совпадении. Если сначала написать "заказы в статусе confirmed", а после "заказы в статусе confirmed и сделанные через app", то первое условие применится для всех строк, в том числе для тех заказов, которые попадают под второе более детальное условие
— ТАК ПИСАТЬ НЕПРАВИЛЬНО, ПОРЯДОК КРИВОЙ
SELECT
order_id,
CASE
WHEN status = 'confirmed' THEN 'подтвержден' — попадут все строки со статусом confirmed
WHEN status = 'confirmed' AND interface = 'app' THEN 'подтвержден через app' — не попадут никакие строки, потому что все учтутся в первом условии
END AS order_group
FROM orders
— ПИШИ ТАК, ОТ ЧАСТНОГО К ОБЩЕМУ. ДОБАВЬ ELSE ЧТОБЫ НЕ БЫЛО NULL, КОТОРЫЕ МОЖЕШЬ ПОТЕРЯТЬ НА ОТЧЕТЕ
SELECT
order_id,
CASE
WHEN status = 'confirmed' AND interface = 'app' THEN 'подтвержден через app' — попадут строки, которые подходят под комплексное условие по полям status и interface
WHEN status = 'confirmed' THEN 'подтвержден' — попадут все оставшиеся строки, которые не попали в первое условие, но у которых выполняется условие по status
ELSE 'не определена' — если не выполняется ни одно из условий, значит все остальные строки попадут сюда
END AS order_group
FROM orders
Запись в группу 27 июля
Please open Telegram to view this post
VIEW IN TELEGRAM
❤17👍8
Бесплатные материалы на сайте
Добавил материалы по развитию hard-навыков, карьере в data на сайт. Там есть как посты, видео, вебинары, статьи.
В ленте канала многое теряется, хочется чтобы самый сок был у вас всегда под рукой 😉
➡️ https://datastudy.ru/materials
Добавил материалы по развитию hard-навыков, карьере в data на сайт. Там есть как посты, видео, вебинары, статьи.
В ленте канала многое теряется, хочется чтобы самый сок был у вас всегда под рукой 😉
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥12❤6👍5
Зачем я спросил вас про заработок
1️⃣ оцените свой текущий уровень. всегда есть потенциал роста, почти половина получают меньше 150к в месяц (в Москве только съем нормальной квартиры 120к+ стоит, но даже для регионов этого мало). даже просто находясь в одном этом канале, ты уже имеешь окружение, к которому можно подтягиваться
2️⃣ мотивация что-то менять. мало увидеть, нужно менять свои мысли, действия чтобы вырасти. не бойтесь учить новое, пробовать новые сферы деятельности, переходите на другие профессии где больше платят
3️⃣ как бы больно не было вам это осознать, но многие в своей сфере могут работать уже больше 5 лет, но получать на уровне junior/middle аналитика. а аналитики за 1-2 года доходят до такого уровня. несправедливо? такого быть не должно? им повезло, а тебе нет?
Просто кто-то видит возможности и использует их, а кто-то видит причины неудачи раньше, чем попробует
Они тоже боятся, сомневаются, раздумывают, НО ДЕЙСТВУЮТ
Ответы то типичные будут:
- проветрить мозги и понять что текущая ситуация это не предел
- качать техничку/софты
- действовать и договариваться (на повышение грейда, на перевод в смежную роль, на поиск новых проектов и т.д)
ВСЕ, ДЕЙСТВУЙТЕ, ВЕРЮ В ВАС!
Кто я | Навигация | Обучение
А ЧТО ТЕБЕ МЕШАЕТ СДЕЛАТЬ ТАКЖЕ?
Просто кто-то видит возможности и использует их, а кто-то видит причины неудачи раньше, чем попробует
Они тоже боятся, сомневаются, раздумывают, НО ДЕЙСТВУЮТ
А те кто сейчас 200-250 получает - задайте себе вопрос "что мне нужно развить в себе чтобы получать 400+?"
Ответы то типичные будут:
- проветрить мозги и понять что текущая ситуация это не предел
- качать техничку/софты
- действовать и договариваться (на повышение грейда, на перевод в смежную роль, на поиск новых проектов и т.д)
ВСЕ, ДЕЙСТВУЙТЕ, ВЕРЮ В ВАС!
Кто я | Навигация | Обучение
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥13❤3👨💻2
Как хранить исторические данные и отличать их от актуальных данных
В аналитике всегда есть потребность работать с историческим объемом данных, чтобы уметь отвечать на вопросы бизнеса на всем интервале времени, а не только знать ситуацию в текущий момент.
Есть разные варианты хранения и обновления исторических данных, которые описываются типами SCD.
🔎 SCD или Slowly Changing Dimensions - медленно меняющиеся измерения, когда некоторые атрибуты в данных могут меняться со временем, тем самым возникает необходимость добавлять новую версию записи данных.
🔵 SCD type 0
Данные попадают в таблицу только один раз и становятся статичными, нет версионности и изменения данных. Подходит для хранения конкретных справочников, например названия и ISO коды стран
🔵 SCD type 1
Данные перезаписываются новым значением, что также не позволяет хранить версионность. Механизм простой, вместо старых значений в ту же строку перезаписываются новые значения измененных атрибутов, это позволяет не "раздувать" объем таблицы, но не дает доступа к историчности данных.
🔵 SCD type 2
Данный тип заключается в том, что в таблицу добавляется новая запись по измененным данным. Это реализовано с помощью специальных атрибутов, которые позволяют управлять версионностью. Обычно эти атрибуты выглядят так:
- Дата Начала версии
- Дата Конца версии
- Актуальность записи
🔵 SCD type 3
Реализация выглядит таким образом, что в таблице добавляется атрибут со старым значением.
- Историческое значение
- Новое значение
Есть большой недостаток, что невозможно добавлять много новых столбцов для хранения всех версий данных, поэтому история обычно ограничивается только предыдущей версией.
🔵 SCD type 4
Для хранения исторических данных создается отдельная таблица, чтобы хранить предыдущие версии. Основная таблица будет отображать только актуальную запись по данным. Большой плюс, что можем обращаться всегда к таблице основной версии, но при этом нужно создавать и поддерживать отдельную таблицу с историческими данными.
🔵 SCD type 5
Это некий гибрид типов 1 и 4. Если таблица имеет много атрибутов, то ее могут разбить на более мелкие таблицы справочники, которые будут статичны. Но если в этом маленьком справочнике будет перезапись значений по типу 1, то также необходимо будет перезаписать данные в связанной с этим справочнике более большой таблице измерений с помощью перезаписи ключа
🔵 SCD type 6
Гибрид типов 1,2,3. Здесь используется комбинация вышеперечисленных методов, где хранится полная историчность данных с доступом к актуальной версии и всем историческим значениям. Будут добавлены следующие столбцы для управления историчностью:
- Дата Начала версии
- Дата Конца версии
- Актуальность записи
- Историческое значение
- Новое значение
Если пост полезен, ставь реакции и делись им с другими👨💻
Больше технических моментов про хранение и обработку данных в базе данных разбираем на курсе по Продвинутому SQL и ETL автоматизации
➡ ️Начни практическое обучение 27 июля
В аналитике всегда есть потребность работать с историческим объемом данных, чтобы уметь отвечать на вопросы бизнеса на всем интервале времени, а не только знать ситуацию в текущий момент.
Есть разные варианты хранения и обновления исторических данных, которые описываются типами SCD.
🔎 SCD или Slowly Changing Dimensions - медленно меняющиеся измерения, когда некоторые атрибуты в данных могут меняться со временем, тем самым возникает необходимость добавлять новую версию записи данных.
🔵 SCD type 0
Данные попадают в таблицу только один раз и становятся статичными, нет версионности и изменения данных. Подходит для хранения конкретных справочников, например названия и ISO коды стран
🔵 SCD type 1
Данные перезаписываются новым значением, что также не позволяет хранить версионность. Механизм простой, вместо старых значений в ту же строку перезаписываются новые значения измененных атрибутов, это позволяет не "раздувать" объем таблицы, но не дает доступа к историчности данных.
🔵 SCD type 2
Данный тип заключается в том, что в таблицу добавляется новая запись по измененным данным. Это реализовано с помощью специальных атрибутов, которые позволяют управлять версионностью. Обычно эти атрибуты выглядят так:
- Дата Начала версии
- Дата Конца версии
- Актуальность записи
🔵 SCD type 3
Реализация выглядит таким образом, что в таблице добавляется атрибут со старым значением.
- Историческое значение
- Новое значение
Есть большой недостаток, что невозможно добавлять много новых столбцов для хранения всех версий данных, поэтому история обычно ограничивается только предыдущей версией.
🔵 SCD type 4
Для хранения исторических данных создается отдельная таблица, чтобы хранить предыдущие версии. Основная таблица будет отображать только актуальную запись по данным. Большой плюс, что можем обращаться всегда к таблице основной версии, но при этом нужно создавать и поддерживать отдельную таблицу с историческими данными.
🔵 SCD type 5
Это некий гибрид типов 1 и 4. Если таблица имеет много атрибутов, то ее могут разбить на более мелкие таблицы справочники, которые будут статичны. Но если в этом маленьком справочнике будет перезапись значений по типу 1, то также необходимо будет перезаписать данные в связанной с этим справочнике более большой таблице измерений с помощью перезаписи ключа
🔵 SCD type 6
Гибрид типов 1,2,3. Здесь используется комбинация вышеперечисленных методов, где хранится полная историчность данных с доступом к актуальной версии и всем историческим значениям. Будут добавлены следующие столбцы для управления историчностью:
- Дата Начала версии
- Дата Конца версии
- Актуальность записи
- Историческое значение
- Новое значение
Если пост полезен, ставь реакции и делись им с другими
Больше технических моментов про хранение и обработку данных в базе данных разбираем на курсе по Продвинутому SQL и ETL автоматизации
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍15❤2