Data & IT Career
У дата инженегров: https://t.iss.one/dataengineering_chat_ru/89962 #🤔
Telegram
Rinat Sultanov in dbt & modern data stack
Всем привет! Коллеги,а приходилось кому-то читать в Yandex Query или в ClickHouse данные GA, сохраненные как паркет в яндексовом S3? Паркет сохранен со всей цветущей вложенностью. Если у кого-то есть опыт или примеры, будем безмерно благодарны
А что вы думаете про #dbt + #spark?
== ❤️ or not very? 😁
https://t.iss.one/rockyourdata/4292?comment=29623 #spark_dbt
== ❤️ or not very? 😁
https://t.iss.one/rockyourdata/4292?comment=29623 #spark_dbt
Telegram
Data & IT Career in Комментарии к постам Инжиниринг Данных (это не чат)
А чем dbt не подходит для Spark SQL??..
Просто сам в эту сторону думаю, но не копал глубоко пока...🤔
Набросьте, коллеги, пожалуйста! 😁🙏
Просто сам в эту сторону думаю, но не копал глубоко пока...🤔
Набросьте, коллеги, пожалуйста! 😁🙏
❤3
dbt: 2024 State of Analytics Engineering
#DBT опубликовали отчёт о состоянии analytics engineering за 2024 год.
Низкое качество данных и неясное владение ими остаются главными проблемами для дата команд.
Data Mesh постоянно набирает популярность среди enterprise компаний. Это резкое отличие от отчета #Gartner о data mesh.
И ещё вебинар сегодня будет (вроде только через корп-почту рега)
#Саммари от 300.ya.ru:
Состояние аналитической инженерии на 2024 год | dbt Labs
• В отчете представлены результаты опроса специалистов по обработке данных.
• Инженеры-аналитики получают значительно больший заработок, чем аналитики данных.
• Специалисты по обработке данных выполняют широкий спектр обязанностей и задач.
• Основные проблемы, с которыми сталкиваются группы обработки данных, включают низкое качество данных и неясное владение данными.
• Повышение информационной грамотности заинтересованных сторон считается важным для групп обработки данных.
• Большинство специалистов по обработке данных считают, что у них есть опыт в проведении преобразований данных.
• Неколичественные цели являются основным показателем успеха для групп обработки данных.
• Многие команды сообщают о сокращении бюджета и/или численности персонала, но большинство планируют сохранить инвестиции в инструменты обработки данных.
• Децентрализованные архитектуры обработки данных, такие как data mesh, привлекают внимание компаний разного размера.
• Растет тенденция к внедрению искусственного интеллекта среди специалистов по обработке данных.
💡 Годы идут, а проблемы, задачи и тенденции всё те же +-! 🤣
источник: https://t.iss.one/dataexplorers/250 #DataMesh #report #y2024 #theStateOf #AE
#DBT опубликовали отчёт о состоянии analytics engineering за 2024 год.
Низкое качество данных и неясное владение ими остаются главными проблемами для дата команд.
Data Mesh постоянно набирает популярность среди enterprise компаний. Это резкое отличие от отчета #Gartner о data mesh.
И ещё вебинар сегодня будет (вроде только через корп-почту рега)
#Саммари от 300.ya.ru:
Состояние аналитической инженерии на 2024 год | dbt Labs
• В отчете представлены результаты опроса специалистов по обработке данных.
• Инженеры-аналитики получают значительно больший заработок, чем аналитики данных.
• Специалисты по обработке данных выполняют широкий спектр обязанностей и задач.
• Основные проблемы, с которыми сталкиваются группы обработки данных, включают низкое качество данных и неясное владение данными.
• Повышение информационной грамотности заинтересованных сторон считается важным для групп обработки данных.
• Большинство специалистов по обработке данных считают, что у них есть опыт в проведении преобразований данных.
• Неколичественные цели являются основным показателем успеха для групп обработки данных.
• Многие команды сообщают о сокращении бюджета и/или численности персонала, но большинство планируют сохранить инвестиции в инструменты обработки данных.
• Децентрализованные архитектуры обработки данных, такие как data mesh, привлекают внимание компаний разного размера.
• Растет тенденция к внедрению искусственного интеллекта среди специалистов по обработке данных.
источник: https://t.iss.one/dataexplorers/250 #DataMesh #report #y2024 #theStateOf #AE
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
И 2й, пока что тоже почти непререкаемый король ETL - #dbt! 👑
На «Апрельском бигдатнике sql-ninja» будет много по него. В тч от самого известного мне эксперта по нему со своим тг-каналом - Артемия Козыря.
https://t.iss.one/data_apps/383
На «Апрельском бигдатнике sql-ninja» будет много по него. В тч от самого известного мне эксперта по нему со своим тг-каналом - Артемия Козыря.
https://t.iss.one/data_apps/383
Please open Telegram to view this post
VIEW IN TELEGRAM
Telegram
Data Apps Design
Доклады на Апрельском бигдатнике sql-ninja (Москва, 27.04)
Я готовлю practice-oriented доклад 🔺 SQL + dbt = God Mode Data Modeling
☕️ Буду доступен для живого общения и нетворкинга:
— Мнения насчет Snowflake, dbt, Looker, Cube и других
— Консалтинг в сфере…
Я готовлю practice-oriented доклад 🔺 SQL + dbt = God Mode Data Modeling
☕️ Буду доступен для живого общения и нетворкинга:
— Мнения насчет Snowflake, dbt, Looker, Cube и других
— Консалтинг в сфере…
⚡2
Data & IT Career
И 2й, пока что тоже почти непререкаемый король ETL - #dbt! 👑 На «Апрельском бигдатнике sql-ninja» будет много по него. В тч от самого известного мне эксперта по нему со своим тг-каналом - Артемия Козыря. https://t.iss.one/data_apps/383
Telegram
Data Events
Организаторы, отвергнув прочие коммерческие схемы, предложили анонс ивента за розыгрыш двух билетов для подписчиков, так что если придумаете, как сиё устроить – пишите под пост – огранизуем! 😁😁
https://t.iss.one/sql_ninja_news/27
Коллеги, приглашаем вас на самую…
https://t.iss.one/sql_ninja_news/27
Коллеги, приглашаем вас на самую…
Новый #MDS идёт семимильными шагами!..
- https://t.iss.one/dbt_users/28593
- но и старички дают отпор😁 ("dbt купил SDF..." – слышали, наверное, вот, например: https://t.iss.one/alexseconds/272 )
#sqlmesh+#Dagster vs #dbt+#SDF => ...?🍿
- https://t.iss.one/dbt_users/28593
- но и старички дают отпор
#sqlmesh+#Dagster vs #dbt+#SDF => ...?
Please open Telegram to view this post
VIEW IN TELEGRAM
Telegram
Дмитрий Володин in dbt & modern data stack
Что это они там строят, интересно?
Обсуждаем хорош ли #dbt под #ClickHouse (или наоборот)
- #приходите!😁
https://t.iss.one/dbt_users/28727?thread=28715
- #приходите!
https://t.iss.one/dbt_users/28727?thread=28715
Please open Telegram to view this post
VIEW IN TELEGRAM
Telegram
Freaking Mind in dbt & modern data stack
Я закину как-нибудь как в кучу соберу, но в кратце это почти везде писать кастомные материализации т.к.
1. Он делает create as select - ddl, которая может зависнуть и придется перезагружать сервак (по другому запрос не убивается)
2. С большей вероятностью…
1. Он делает create as select - ddl, которая может зависнуть и придется перезагружать сервак (по другому запрос не убивается)
2. С большей вероятностью…
Please open Telegram to view this post
VIEW IN TELEGRAM
Telegram
Data Engineering / reposts & drafts
#Trino #dbt #Сходства #отличия
Trino vs dbt: что и когда использовать
Что общего между Trino и dbt, чем они отличаются и в каких случаях выбирать тот или иной инструмент для инженерии и анализа данных. Краткий ликбез для начинающего дата-инженера и аналитика.…
Trino vs dbt: что и когда использовать
Что общего между Trino и dbt, чем они отличаются и в каких случаях выбирать тот или иной инструмент для инженерии и анализа данных. Краткий ликбез для начинающего дата-инженера и аналитика.…
🤣4😁2
Media is too big
VIEW IN TELEGRAM
Ладно, вот вам что-то полезненькое (уж не без ссылок, сорян! 😅 )
#Ваня там штапмует топовый контент в рамках прохождения #DEZoomcamp2025!
- я, чесгря, видосы не смотрел толком!
- да и до курса руки не доходят пока
- но репы поглядываю мельком – там прям интересно🤓 😁 (подкините стикеров новых, кстати плз! 😅 )
https://t.iss.one/dezoomcampru2025/216/423
#dagster #dlt #dbt #ModernDataStack #MDS
#Ваня там штапмует топовый контент в рамках прохождения #DEZoomcamp2025!
- я, чесгря, видосы не смотрел толком!
- да и до курса руки не доходят пока
- но репы поглядываю мельком – там прям интересно
https://t.iss.one/dezoomcampru2025/216/423
Всем привет 👋
подготовил репо с dagster dlt dbt
и записал небольшое видео, будут вопросы пишите
https://github.com/vndv/dagster-dlt
#dagster #dlt #dbt #ModernDataStack #MDS
Please open Telegram to view this post
VIEW IN TELEGRAM
Что просим у гуру нашего, Артемия? 😁
https://t.iss.one/data_apps/426
#devcontainers #GithiubActions #Cursor #dbt #kzzzr #Артемий
https://t.iss.one/data_apps/426
#devcontainers #GithiubActions #Cursor #dbt #kzzzr #Артемий
Please open Telegram to view this post
VIEW IN TELEGRAM
Telegram
Data Apps Design
В общем, если вы еще не пользуетесь Development Containers, Github Actions, dbt, Cursor то я настоятельно вам советую попробовать.
😘 А если будет интерес, то могу и провести YouTube stream / tutorial со слайдами и демо (как мы любим).
Всем успехов. Делитесь…
😘 А если будет интерес, то могу и провести YouTube stream / tutorial со слайдами и демо (как мы любим).
Всем успехов. Делитесь…
🚀 DBT документация теперь на русском!
#Кстати! Хочу порекомендовать полезный бесплатный проект по #dbt, а именно перевод всей доки dbt на русский язык - https://docs.getdbt.tech
Чем будет полезно?
- для новичков, интересующихся dbt, на портале доступны пошаговые гайды, как начать работу с выбранным хранилищем данных и создать первые этапы пайпайна за 15 минут
- для тех, кто уже обрабатывает данные с dbt, сайт станет постоянным компаньоном, потому что там полностью переведены все разделы документации, включая справочник команд и статьи из блогов
- для тех, кто хочет перейти с dbt на следующий уровень, переведен раздел с лучшими практиками
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥11👍4⚡2❤2
Forwarded from Data Events
Telegram
Data engineering events
#DBT MEETUP
📅27 марта в 19:00 (+3 GMT)
📍 Формат: онлайн, участие бесплатное.
Обсуждение современных практик локальной разработки и тестирования в dbt.
• Спикеры:
🗣️Андрей Гаврилов Senior Инженер по прокладыванию дата-труб
Тема: Современные практики локальной…
📅27 марта в 19:00 (+3 GMT)
📍 Формат: онлайн, участие бесплатное.
Обсуждение современных практик локальной разработки и тестирования в dbt.
• Спикеры:
🗣️Андрей Гаврилов Senior Инженер по прокладыванию дата-труб
Тема: Современные практики локальной…
🤔3
Что-то не наблюдаемо нативной интеграции #dbt*... обещали ж где-то вроде... 🤔 Но всё равно – надо смотреть! Пч #Airflow ещё более вездесущ чем ГП! 😁
- https://t.iss.one/DE_events/1248
* так всё таки, что лучше?
- Bash/Docker/KubernetesOperator("dbt run")
- #Cosmos
- #dbt_af
- или другое?)
_________
У кого нет корп почты для реги – пишите под пост запрос +
- либо ответ с комментариями на вопрос отсюда
- или сюда под пост коммент https://t.iss.one/data_career/2039
- или тут https://t.iss.one/data_career/2037
- либо лайк этого поста + репост в др чатик😁
- либо...🤔
За то кину в личку прямую ссылку на регу на онлайн ;)
- https://t.iss.one/DE_events/1248
* так всё таки, что лучше?
- Bash/Docker/KubernetesOperator("dbt run")
- #Cosmos
- #dbt_af
- или другое?)
_________
У кого нет корп почты для реги – пишите под пост запрос +
- либо ответ с комментариями на вопрос отсюда
- или сюда под пост коммент https://t.iss.one/data_career/2039
- или тут https://t.iss.one/data_career/2037
- либо лайк этого поста + репост в др чатик
- либо...
За то кину в личку прямую ссылку на регу на онлайн ;)
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡3
Об этом и не только см в новом эксклюзивном посте
#SQLMesh #dltHub и простой советский…
Please open Telegram to view this post
VIEW IN TELEGRAM