🧐 HDFS NameNode - DataNode - ClientNode!

Итак повторим. HDFS знает топологию сети. Это позволяет системе знать, как устроено "дерево связей между серверами"

NameNode - DataNode - ClientNode - это все сервера. Но каждый из них выполняет свои функции.

NameNode - хранит информацию о местонахождении блоков, снимки файловой системы, разрешения и так далее. Никакие файлы этот узел не хранит! По сути справочник

DataNode - хранит наши блоки + метаинформацию к ним.

ClientNode - посредник между NameNode и DataNode. На этом сервере работаем мы. Отсюда мы посылаем команды на запись, чтение и так далее.

Когда мы говорили о репликах, было сказано, что первый блок записывается на том сервере, где запущен "главный процесс управления". Имелся в виду именно ClientNode. Т.е. первый блок пишется локально на тот узел, где развернут клиент. Если клиент развернут локально у нас на персональном компьютере, то первый блок файла пишется на случайном сервере.

По факту HDFS состоит из одной NameNode (на самом деле есть еще одна, типа страхующая), одной ClientNode и сколь угодно DataNode. При разворачивании HDFS можно указать кол-во DataNode, которое вам требуется. Также в HDFS возможно увеличить кол-во NameNode, когда памяти на первой уже не хватает - это еще называют NameNode Federation (об этом в след постах).

Во все эти Node можно зайти физически и покопаться в их файлах. В DataNode реально можно увидить блоки файлов. Внутри все Node выглядят, как обычная Linux система с директориями и файлами. Единственное, отличаются команды и выглядят типа:

hdfs dfs -ls

hadoop fs -ls

#hdfs

🥲 Давайте созвонимся!

ETL процессы - это просто умное слово, обозначающее НИЧЕГО?
Где этот Hadoop находится вообще? Это что?
Что такое Spark? Это sql или pyhton?
Чем реально занимается каждый день дата инженер? Он вообще пишет код или что?
Что надо знать, а на что можно забить junior DE?
Как попасть на первую работу?
Какие пет проекты делать?
И так далее...

Идея родилась в сообществе datalearn.

Соберемся вместе в одно время и обсудим даже самые неловкие вопросы!

Ваши вопросы можете написать в комментариях, чтобы я подготовил на них ответы.
Возможно кто-то из вас уже работает DE и готов поделиться тем, чем вы реально занимаетесь на работе. Особенно, если вы работаете с облаками. Я тут например ничего про них не знаю. Буду вести запись. Созвон сделаем в SberJazz или Телеграме.

Ниже предварительное голосование за день недели и время!

🔴 ВСЕ НА СОЗВОН 25 ФЕВРАЛЯ 14:00 [ВОСКРЕСЕНЬЕ]

В воскресенье в 14:00 заходим и подключаемся на встречу в канале Я – Дата Инженер.
Отвечу на вопросы, расскажу про DE, послушаем ваши истории. Сделаю запись встречи.

Видеовстреча будет здесь.
⬇⬇⬇
https://t.iss.one/halltape_data

🔴 Если завтра на встречу никто не придет, то мне придется записать такое же видео!

➡️ 25 февраля 14:00

Созвон в этом канале! Сверху можете видеть кнопку созвона.

Ссылка на созвон

Расскажу, что я делаю на работе, что нужно знать, а на что можно забить. Отвечу на вопросы и послушаем вас!

Будет желание, покажу, как работает docker на примере моего телеграм бота.

Никакого душнилова! Максимально изи подход!

🗣 Спасибо всем, кто был!

Запись основного и telegram bot стрима загружу сегодня!
Также скину ПРЕЗЕНТАЦИЮ со стрима!

Ссылки на pandas, spark, airflow, docker и так далее тоже подготовлю. В комментариях подкинули класные ресурсы.
Соберу все в одно место и сделаю пост!

Всем хорошего вечера! Сегодня можно и отдохнуть от кода!

СТРИМ | Data Engineer

🔽 Ссылка на ВИДЕО🔽
https://youtu.be/75Vu8NqH_cU

Большой видос о том, кто такие Data Engineer, что следует знать и как ими стать? В видео рассказал о себе, о том, как учился, как справлялся с трудностями и многое другое. Также ответил на вопросы и послушали мнения других участников. Видео получилось длинным и насыщенным.

Для тех, кого интересуют определенные темы, рекомендую использовать нейросеть от Yandex (не реклама, а могла бы быть😂)

🔽 Ссылка на ВИДЕО🔽
https://youtu.be/75Vu8NqH_cU

СТРИМ | Telegram bot 😢 | Docker 👩‍💻

Видео со стрима про docker и telegram бота. Показываю самую базу про то, как работает бот в составе docker контейнера. Запускаем с помощью терминала и docker desktop. Видос чисто ознакомительный. Для тех, кто хочет покапаться в коде и самостоятельно запустить бота – ссылка на исходный код на моем github

🔽 Само видео со СТРИМА 🔽
https://youtu.be/Cw_c_f_Mj3Y

🫥 Материал со СТРИМОВ!

Каналы, где постятся вакансии на DE и других:

🟡https://t.iss.one/analysts_hunter
🟡https://t.iss.one/addlist/UDbX0oiQVE03ZmYy
🔴https://t.iss.one/data_engineer_jobs

Все полезные ссылки из комментариев:

👩‍💻 Docker [3 часа Youtube]
👩‍💻 Docker [40 минут Youtube]
👩‍💻 Docker [Telegram]

Airflow [Youtube канал English]

🤖 Linux команды [Telegram]

📝 Регулярки [Сайт]
📝 Регулярки [Хабр]

💎 Слитые курсы [Telegram]
💎 Roadmap [Karpov courses]

🥲 Задача на палиндром)

 python
def ispalindrom(text):
    return 'палиндром' if text == text[::-1] else 'не палиндром'

Класное сообщение

То что хотел озвучить я, но не удалось. Получайте опыт и боль собесов. Этот опыт учит, закаляет. Помните вакансий, компаний на рынке хватает. Столько же желающих устроиться. Не всегда всё проходит быстро и гладко, но без этого никак. Я лично покинул направление ИБ и перешёл в сторону ИТ. Было не так просто как казалось на первый взгляд, но оно того стоило. Есть цель будет желание, нет цели, значит, не будет результата. Всем удачи 🤝
А ещё меня на собесах выручала фраза при отсутствии опыта в чем-то: "Дайте мне 1-3 дня и я смогу изучить это для того чтобы изучить и начать применять это. Дайте мне неделю и я не только разберусь, но и научу Вас"

🟢 Материал со СТРИМА [ПРЕЗЕНТАЦИЯ]

Собственно сама презентация про Data Engineer (Кто это такие, как им стать и что нужно знать) со стрима в формате PDF!

В презентации найдете стек, который необходимо знать, уровень его владения, пример пет проекта, краткое описание технологий с которыми работает DE, а также ответы на ваши вопросы!

🔽 Смотреть по ссылке 🔽
https://youtu.be/75Vu8NqH_cU

Знаю, что у меня в канале есть разные аналитики, в том числе и системные🥰

Мы ищем в команду Сбера✨ в департамент маркетинга Middle Системного аналитика. Джун+ тоже рассмотрим

Продукты и архитектура сложные, будут челленжить вас. Направление маркетинговых технологий.

Пишите в личку @IyaZotova с резюме, договоримся о собесе💚

💼 Нужен Стажер Data Engineer

🔽Описание вакансии
СБЕР

Самое время откликаться! В комментах можете написать, кто уже устроился за эти полгода? Необязательно даже на DE

🎞 DATA ENGINEER: Накрутка опыта и база для старта в DE
Гость: Эдвард, Senior/Team Lead Data Engineer в Сбер

Эдвард в интервью поделится:
• Как начал свою карьеру DE из инженера-энергетика
• Про 14 отказов на собесах и их восприятие
• Кто такие джуны и сеньоры
• Как вырос до тим лида и рос в зарплате
• Какие базовые навыки нужны для вкатывания

Можно сказать получился праздничный выпуск 😁
Всех леди поздравляю с этим прекрасным днем!
🌷🌸🌸🌸

✈️ Подписывайтесь на наши каналы:
• Ия, Team Lead DA: https://t.iss.one/Lady_Analyst
• Евгений, DE: https://t.iss.one/halltape_data

Если было полезно, весело, то поддержите наш канал донатами:
💲 https://pay.mysbertips.ru/92484472