Вебинар Tarantool «Анализируем данные в real-time»

Когда: 21 февраля, 16:00 МСК
Где: онлайн

Расскажем, как организовать анализ большого объема данных в реальном времени с помощью in-memory колоночной СУБД. На вебинаре поговорим о том:

• Как объединить транзакционные и аналитические (OLAP и OLTP) системы и сократить затраты на дублирование данных.
• Как ускорить аналитические запросы и формировать отчетность в real-time.
• Как организовать хранение и управление данными (Feature Store) для ML-задач.

Также мы рассмотрим практические кейсы применения продукта Tarantool Column Store: формирование финансовой отчетности с минимальными задержками, ускорение и повышение точности антифрод-систем, повышение производительности системы выдачи кредитов.

Спикеры:

• Николай Карлов, директор инновационных проектов VK Tech,
• Руслан Галиев, продуктовый менеджер Tarantool Column Store.

Вебинар будет полезен архитекторам, дата-инженерам, инженерам DevOps и разработчикам аналитических систем.

Регистрация

Котятки🐱, я держу в бэклоге набросок статьи с кодовым названием "Мой домашний тарантул", всё никак руки не доходят доделать из неё полноценный пост) Поэтому давайте поддержим моих любимых коллег, у них там есть на что посмотреть👆

Котятки🐱,
мой инсайт сегодняшней недели - это слайсер для оси времени, который может работать как ползунок (он же - полоса прокрутки, он же timeline slider).
Это по факту наш любимый календарик с альтернативным выбором способа фильтрации.
Я его люблю в Qlik и искренне никогда не могла пользоваться решением в power bi, неудобно
Вспомнила я о нем потому, что нашла совмещенный слайдер времени с диаграммой.
Помнится, я смогла его однажды нарисовать в формате макета, но вот с механикой было тяжко - мне не хватило фантазии додумать, как он должен работать.
И вот он, маленький:
https://codesandbox.io/p/sandbox/timeline-slider-with-bar-chart-f2381e?file=%2Fsrc%2Findex.js

Котятки🐱,
любой инструмент можно украсить бантиками, поэтому в Postgresql полно extentions, а к крупным BI-инструментам делают платные плагины.
Нашла неплохой плагин фильтрации для Power BI.
Пользоваться им я, конечно, не буду, денег на мои эксперименты мне никто сверху не отсыпает, но вот порекомендовать хорошую статью в их блоге про проектирование фильтров и срезов - с объяснениями, примерами и правильными вопросами, которые надо задать самому себе - это легко.
Читать тут: https://okviz.com/blog/design-guide-for-power-bi-slicers-and-filters/

P.S. Ставьте лайк если нужно нормально оформить, обогатить и перевести на русский. Я тут думаю завести бложик, так как статья про тарантул никуда не ложится, нужно ваше авторитетное мнение.

Котятки🐱,
Мои друзья коллекционируют классные идеи и классные места, я же, увы, коллекционирую только лайфхаки, как делать работу быстро (и максимально чилить) и красивые дашики.
Сегодня делюсь:
1) фишкой, как сделать диаграмму санкей с метками в PBI (чтобы больше не рисовать её вручную на слайдах каждый раз) :
https://www.youtube.com/watch?v=W8xjjdzLqmI
2) сайтиком с интересной инфографикой, которым я тренировала насмотренность последнюю неделю:
https://coolinfographics.com/

Пусть ваши выходные закончатся чудесно)

Котятки🐱,
Когда мне говорят слова push и pull, я вспоминаю что-то, связанное с паттернами API или, в крайнем случае, etl- стратегии (хороший обзор тут).
Вчера пыталась развернуть себе Metabase, и внезапно нашла удивительную статью, как концепцию "push vs pull" применять в контексте формирования data- культуры и глобальной стратегии поставки аналитики пользователю, - фактически, как кусок BI-стратегии в аспекте бизнес-процесса деливери:
https://www.metabase.com/learn/analytics/push-and-pull

P. S. Кажется, этот приём называется методом переноса, вот тут на Хабре интересно написано:
https://habr.com/ru/companies/ruvds/articles/751328/

Привет!

Когда у компании много источников, и нет адекватной инфраструктуры хранения, обработки и доставки данных — это всегда боль для аналитика. Проблема не только в рутинных операциях а-ля «выгрузи кучу данных в разных форматах из разных источников и попробуй с ними поработать». Самое неприятное, что после всего этого приходится долго и нудно доказывать бизнесу, что твоим отчетам можно верить.

Ситуация распространенная, и встречается не только в небольших компаниях, но и во вполне крупных, если работа с данными для них не основной бизнес. Что с этим делать?

Об этом мы поговорим на вебинаре 28 февраля в 17:00.

Алексей Белозерский, архитектор VK Cloud, расскажет и покажет:

🔹 Почему не стоит называть BI+Excel+Data Sources аналитической инфраструктурой (даже если очень хочется).

🔹На каких принципах строится DWH, ETL, BI, какие инструменты можно задействовать и в чем их плюсы/минусы. Можно ли собрать полноценную инфраструктуру своими руками или с небольшой командой.

🔹Live demo: эксплуатация системы.

🔹Ответы на вопросы, конечно, тоже будут — в конце вебинара QA-сессия.

Присоединяйтесь вот по этой ссылке.

О мои пятничные котятки🐱,
Делюсь своим вечерним сокровищем - архивным вебинарчиком в стиле «как работают BI под капотом для самых маленьких» от, внезапно, Visiology.
Линк:
https://www.youtube.com/watch?v=rzdMWVC4mjA

Даша, привет!

форвардни, пожалуйста, раз уж ты сама идёшь 🙂

Как насчёт нашего любимого сочетания: данные, пиво и пицца?

Luxms BI и ДАР («КОРУС Консалтинг») проводят митап «BI Connect: аналитика на стыке данных и бизнеса»! Обсудим последние тенденции в бизнес-аналитике, обменяемся опытом с экспертами, а также насладимся неформальной атмосферой встречи и пообщаемся с коллегами!

🗓 17 апреля
🕑 18:00 – 21:30
📍Москва, ул. Бауманская, д 11, стр. 8, подъезд 3, этаж 3
Casa Picassa, лофт «Модильяни»

Регистрация и детали

До встречи!

Ребят, пойдемте затусим, что ли🥳

Котятки🐱,
Мне везёт этой весной на неожиданности, из последнего - поучаствовала в создании задачек для хакатона для системных аналитиков)
Верю, что вы мою задачку точно опознаете)
Поучаствовать можно тут, регистрация ещё открыта: https://itonecup.sk.ru/

📈Урбан дата-журналистика
Обожаю пространственные исследования и поэтому слежу за их создателями в твиттере. Вот пример очень трудоемких, сложных и глубоких исследований с понятными картами и графиками:

🔥Исследование цены аренды квартир в Германии и Европе (картинка оттуда)

🕘Проблема свободных земель в Польше

🤘Как застроить центр Брюсселя?

Вся подборка https://urbanjournalism.org/

​​Котятки🐱, хелп!
Ищем сильного BIщика (мидл+/синиор).
Дано:
Мой знакомый, с которым я много лет проработала в Дата-офисе СИБУРа, с начала года присоединился к команде аналитики Авито. В компании действительно классная аналитическая культура, аналитик тут хорошо разбирается в бизнесе, DWH, Python и ML. При этом создание функциональных и красивых дашбордов частенько выпадает из фокуса аналитиков, поэтому решили развивать направление BI разработки.
Про задачки от первого лица:
⁃ "Наша команда аналитики техплатформы обеспечивает управление основным бизнесом Авито. Дашборды помогают управлять разработкой и обеспечивать надежность платформы, наши пользователи - весь Product & Tech. Мы принимаем решения на данных не только в продукте, но и внутри. Мы сейчас ищем BI разработчика, с большим упором на разработке. Помимо собственно BI, потребуются очень хорошие скиллы Python и SQL, чтобы справиться с нестандартными задачами и с нашими стейкхолдерами - топовыми инженерами. Если вы хотите присоединиться к нашей сильной команде, пишите @telyatnik ".

От себя: была у них в офисе (фотка оттуда) и участвовала в паре митапов. Что скажу: это работа для творческих и инициативных, тут генерация гипотез - это почти религия. И да, как и многие снаружи, я думала, что Авито - это экосистема сервисов вокруг монопродукта. Короче, я пересмотрела позицию, тут чуть более интересно.

Котятки🐱,
Вчера у меня была сессия с разбором очень нагруженного дашборда. В нем все было прекрасно, кроме чувства тотальной усталости, которую он у меня вызывал. В связи с этим вспомнила закон Миллера.
В 1956 году этот замечательный чувак опубликовал «Волшебное число семь плюс или минус два» (The Magical Number Seven, Plus or Minus Two) в которой показал, что кратковременная память человека от 5 до 9 элементов.
Как он это вывел? Провел ряд экспериментов, в которых испытуемым показывали длинный список различных объектов, а после презентации просили повторить список в том же порядке или в другом.
Что почитать:
-в целом про закон Миллера: https://www.uprock.ru/education/principy-chelovecheskoy-pamyati-i-kak-ih-ispolzovat-v-ux-ui
-про «три кита» успеха дашбордов - отслеживание взгляда, когнитивную нагрузку и предвосхищение ожиданий: https://eric-sandosham.medium.com/the-problem-with-data-visualisation-cdab6b193d92
-про группировку как элемент заигрывания с конструкцией дашбордов: https://www.dimins.com/blog/2017/07/06/visual-standards-dashboard-design/

Котятки🐱,
Bar Chat Race - это скорее инструмент для разового вау-эффекта, чем для постоянной работы, но иногда приходится его делать для драмматик-эффекта: как иначе показать изменение структуры/группировки во времени?
В свое время был модненьким вот этот инструмент:
https://flourish.studio/visualisations/bar-chart-race/
Я в последнее время пользуюсь:
https://livingcharts.com/

P.S. Можно в целом напилить тоже самое на JS или комбо html/css(самое простенькое тут https://codepen.io/Shokeen/pen/EBPdeg) , но это уже путь разработки, а не аналитики.

Всем привет!

Сегодня не обычная пятница, а мимикрирующая под четверг. И поэтому вместо дайджеста мы с шикарными новостями.

VK Data Meetup возвращается 23 мая!

⏰15:00-19:00 по МСК
📍Традиционно митап пройдет в офисе VK и онлайн
⚡️Бесплатная регистрация

В новой серии митапа поговорим о технологиях Trino и dbt в проде, о стремительном запуске риал-тайм антифрода и Kubernetes для работы с данными (как же без K8s), о трендах и архитектурных паттернах платформ данных.

В программе доклады VK, Тинькофф, OZON Fintech, билайн, и Детского мира, а еще афтепати и активный нетворкинг.

Присоединяйтесь к коммьюнити, будет интересно!

Зарегестрироваться

Традиционная #нереклама: в нашем офисе опять какая-то дата-тусовка, но темка, которую заявил Озон, прямо прикольная) думаю глянуть, го со мной👆

Котятки🐱,
Кто бы знал, сколько крови мне выпили в свое время обращения пользователей в стиле «в этом дашборде данные не корректные, а в том корректные».
Проблема обновления/устаревания становилась особо острой в периоды, когда self-service цвел и пах, и почти умирала, когда дашики были строго подконтрольны)
В статейке ниже неплохо описана моя боль и то, как с ней борются умные люди:
https://towardsdatascience.com/why-and-how-to-deprecate-dashboards-357a68f041ba
P.S. я просто спускала техподдержке шаблон коммуникаций с пользователем в стиле «Нажмите кнопку «обновить»🙈

Котятки🐱,
Мое хранилищное детство очень жестко вбило мне мысль, что нормализация-это кошерно, а те, кто не умеют в 3NF - просто неучи и не знают, что за 3NF есть еще ряд мало понятных и дико интересных форм.
А вот взрослая жизнь подарила мне кейс самой неприятной денормализации ever, и огромный фейл, когда нормацизация послужила началом бешеной деградации производительности.
Вот тут почитать: https://habr.com/ru/companies/mvideo/articles/783386/
А еще я хочу попробовать себя как спикера и провести вебинарчик о своих фейлах на эту тему, ставьте лайк кому было бы интересно послушать.

Котятки🐱,
Пока я не соорудила мой первый неидемпотентный процесс в NiFi(привет, дубли!), мне в принципе в голову не приходило, что можно делать одно и тоже раз за разом и получать разный результат. Для таких, как я, придумали вставку данных через merge))
Короче, как инженер я была так себе, но как архитектор это требование для пайплайна усвоила твердо.
Нормально почитать, чтобы никуда не вляпаться, можно тут: https://discourse.getdbt.com/t/understanding-idempotent-data-transformations/518
Разъяснение для самых маленьких на примере ETL AirFlow - тут: https://bigdataschool.ru/blog/atomicity-and-idempotency-in-airflow.html