Аналитика данных / Data Study
8.48K subscribers
404 photos
38 videos
24 files
330 links
Сайт: https://datastudy.ru/
По всем вопросам: @daniildzheparov

Про аналитику и инженерию данных

Вакансии: https://t.iss.one/data_vacancy
Книги: https://t.iss.one/analyst_books
Download Telegram
🔍 ETL с помощью SQL: Инкрементальная загрузка с обновлением данных🔍

В предыдущем посте мы разобрали инкрементальную загрузку с сохранением всей историчности данных. Давайте разберем загрузку инкремента, чтобы в target таблицы оставались только актуальные значения данных, т.е. исторические значение перезаписывались актуальными.

Ключевые этапах этого процесса будут следующие:

1️⃣ Определение инкремента данных
Пример выделения инкремента из таблицы source по условию, что поле update_date имеет сегодняшнюю дату
SELECT *
FROM source s
WHERE update_date = CURRENT_DATE()


Лучше нам результат запроса сохранить в промежуточную временную таблицу.

CREATE TEMPORARY TABLE tmp_increment AS
SELECT *
FROM source s
WHERE update_date = CURRENT_DATE()


2️⃣ Вставка инкремента в target таблицу с актуализацией значений данных (перезапись)
Выполняем в 2 шага:

1) Удаляем данные из target, которые есть во временной таблице по уникальному идентификатору записи (например, id). Это удалит нам записи, которые нужно обновить

DELETE FROM target
WHERE id IN (SELECT id
FROM tmp_increment);

2) Вставляем инкремент с актуальными записями из временной таблицы tmp_increment в target

INSERT INTO target
SELECT *
FROM tmp_increment;

Таким образом в target таблицу будут добавляться новые записи и перезаписываться обновленные актуальные записи из source
Оставляйте реакции, если пост был полезен 😉
👍24🔥4
Кому интересно почитать про внутрянку устройства PostgreSQL, а не только аналитические запросы на SQL писать, предлагаю почитать эту статью
На очень понятно языке со схема объяснено как что работает.
Есть еще вторая часть, которую сам пока не читал, но в ближайшее время ознакомлюсь
9🔥3👍1
💵 Новая статистика зарплат подъехала

Ждём результаты performance review в компании всем коллективом, будет на что ориентироваться в ожиданиях)

Статья
🔥15👍42
Давайте поздравим Даню с новым местом работы веб-аналитиком! 😃

Даня пришел ко мне на менторские занятия с запросом поиска работы аналитиком, имея опыт работы таргетологом и SMM-специалистом. Для этого мы
📍подтянули техническую базу навыков
📍собрали резюме
📍тренировались проходить собесы

Пару месяцев работы и твердый результат в виде трудоустройства, поздравляю! 🎉🎉🎉

#кейс
👍44🎉21🔥102
Вчера ходили отмечать годовщину 🤵👰‍♀️ в Японский Сад в Краснодаре

Прошло уже больше года после его открытия, но туда до сих пор стоят очереди за QR-кодом на вход. Мы купили депозит в ресторан, таким образом получили вход в парк. Однозначно рекомендация к посещению кто хочет и еще не сходил или не знал про этот парк. Погружаешься в какую-то сказку или ощущаешь себя действительно в Японии, очень понравилось 😃
🎉50
This media is not supported in your browser
VIEW IN TELEGRAM
Вчера вечером катались на великах под дождём. Настольгия из детства, когда июль (единственный свободный месяц моего школьного лета) проводил в деревне у бабушки с дедушкой и главным средством передвижения куда угодно был велик. Съездить в магазин, поехать на футбольное поле с другом, купаться на речку, на рыбалку - все на великах.

Еще было 2 этапа:
1. Обычные велики (у меня был Stels)
На них всегда что-то ломалось, а цепь слетала мне кажется каждые 15 минут поездок 😃
2. Горные скоростные велики (вот на них мы даже из города в деревню и обратно по 50 км в одну сторону гоняли.

В общем любовь к двухколесному коню у меня с раннего детства привилась. Ставьте ❤️ у кого также
48
Важно перезагружать мозги 🧠

Вчера вернулся из недельного отпуска, ездили в Пятигорск и путешествовали по разным республикам: Ставропольский край, Кабардино-Балкария, Карачаево-Черкессия, Чечня.
Красота невероятная, для меня как человека-визуала обожающего природу - это просто рай 🔝

В очередной раз убеждаюсь, что у цифровизации есть огромный потенциал развития. Быстрым и качественным сервисом в том числе с помощью приложений в Москве никого не удивить уже, но в регионах в большинстве своём это является точкой развития. И только представьте сколько работы для ITшников могло бы появиться в регионах, где кажется что кроме сельского хозяйства делать нечего.
📍цифровизация туризма
📍цифровизация сферы обслуживания и общепита
📍цифровизация отелей, сервисов доставки, трансфера


Ну а мы классно провели время, увидели много интересных мест, познакомились с местными обычаями и запланировали места для будущих поездок 😉
🔥2210👍4
Важность soft-навыков

Хочу подчеркнуть, что для комфортной работы в коллективе (не только в IT) важно владеть не только прикладными (hard) навыками, но иметь развитые «мягкие» навыки. Что к ним относим:

🗣️ Коммуникативные навыки
- Уважительное общение с коллегами и окружающими тебя людьми
- Умение структурированно формулировать свои мысли и вопросы
- Умение давать и получать обратную связь, анализировать и рефлексировать над этим

🧠 Эмоциональный интеллект
- Адекватное и приличное поведение в коллективе
- Выражение чувств поддержки, помощи и т.п.
- Поиск решения конфликтных ситуаций, а лучше их предотвращение при возможности
- Тактичность

🧐 Критическое мышление
- Умение работы не по «инструкции»
- Внимательность к деталям, анализ и проверка гипотез
- Предложение оптимального решения из нескольких возможных
- Широкий взгляд на задачу, не узкое решение по шаблону


Ставьте 👍 если также как я считаете эти пункты важными умениями для специалистов
👍45🔥2
Стажеры сделали подарок, в пятницу у них прошли встречи с обратной связью после 30 дней в компании. Они сказали что думают о нас, а мы о них)

Как думаете, подкуп или жест доброй воли? 😅

Ребятам спасибо, всегда приятно получать презенты 🎁😉
🔥265👍3
🔵 Semi-structured данные для обработки SQL

В последнее время много рабочих задач содержат работу с полуструктурированными данными формата JSON, списков из нескольких JSON.

✏️Откуда возникает потребность обрабатывать semi-structured в SQL
Далеко не всегда данные хранятся в чисто табличном виде, иногда в значения могут писать целые сообщения из json или подобных объектов. А для целей аналитики все эти значения нужно удобно разобрать по ключам и разложить на отдельные столбцы и строки в удобный и привычный табличный вид.

Кто уже устал писать простые SQL-запросы и не знает что еще можно прокачать в своих умениях в SQL, посмотрите как можно работать с json и другими объектами вложенной иерархии.

Полезные ссылки для изучения:
🔗 Semi-structured data types
🔗 Типы данных Postgres для работы с с полуструктурированными данными
👍151
Работа с наставником

Я хожу в спортзал с февраля:
📍3 месяца из них занимался с тренером и индивидуальными тренировками, и дальше продолжу с сентября
📍Остальное время хожу самостоятельно, т.к. из Москвы уезжал в отпуски/поездки

На своем примере еще раз подтверждаю тезис 👇

Работа с наставником в любой сфере деятельности ускоряет твой прогресс и увеличивает эффективность самого процесса


Лично для меня занятия с тренером
📍не оставляют шанса выпасть из режима и установленного расписания
📍наполняют меня теоретической базой как влияют сплиты тренировок, правильные углы силы, питание на результат
📍повышают мотивацию и итоговый выхлоп на тренировке

Без тренера я могу найти отговорку вечером не пойти в зал, профилонить и сделать меньше подходов чем нужно, подобрать неправильно вес и нагрузку для максимальной эффективности.

🧠 А теперь задумайтесь и переложите все это на сферу обучения в IT или любую другую вашу сферу деятельности.

Наставник = ваш более опытный помощник для достижения ваших целей коротким путем
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥15👍54
Благодарность вам 👀

На прошлой неделе канал достиг отметки 7000 подписчиков 🎉

Хочу выразить огромную благодарность вам, дорогие подписчики, за вашу активность, обратную связь и поддержку. Получается так, что здесь делюсь не только аналитическими темами, но и фиксирую яркие моменты личной жизни.

Меня читают начинающие и опытные специалисты, коллеги, друзья, знакомые, ученики и уверен что просто хорошие люди, раз вы здесь собрались)

Двигаемся дальше 🔝🧑‍💻

Ниже будет один вопрос, ответьте пожалуйста, откуда вы узнали про мой канал 😉
Please open Telegram to view this post
VIEW IN TELEGRAM
8👍8
Откуда вы пришли на этот канал?
Anonymous Poll
80%
с других каналов в telegram
12%
со статей на habr
3%
с YouTube канала
Ральф Кимбалл, Марджи Росс / Инструментарий хранений и анализа данных: полное руководство по размерному моделированию

«Сегодня тысячи компаний собирают и сохраняют большие данные о поведении своих клиентов, ассортименте, производственном процессе и других немаловажных для бизнеса вещах. Однако, чтобы принимать обоснованные решения на основе этих данных, недостаточно их просто собрать – нужно правильно их обработать и провести грамотный анализ. Благодаря этой книге вы освоите все необходимые инструменты для хранения и анализа большого
количества данных, научитесь правильно управлять ими и извлекать полезную информацию для развития бизнеса.»

Скачать книгу
🔥9👍43
Вайб сегодняшнего дня

Всем работающим - продуктивного дня, всем отдыхающим - хорошего отдыха 😉😃
31🔥15👍3🥰1