AvitoTech
19.5K subscribers
1.66K photos
61 videos
1.56K links
Рассказываем, что у Авито под капотом, делимся инженерной экспертизой и зовём на митапы.

По всем вопросам: @direct_avitotech

Сайт: https://avito.tech
Хабр: habr.com/ru/company/avito
Гитхаб: github.com/avito-tech

Регистрация в РКН: https://clc.to/FOxC1A
Download Telegram
Это статья от Ромы Ананьева, NoSQL/Kafka-инженера, о нашей реализации Kafka cluster federation и о том, как размазать Kafka на несколько дата-центров.

Отсюда вы также узнаете об архитектуре Kafka, способах репликации, инструментах MirrorMaker и uReplicator. Ждём ваши комменты!

#DBA_avitotech #статья_avitotech #habr_avitotech
👍12
Структуру Авито понять сложно, но можно.
Наша разработка состоит из множества кросс-функциональных команд, которые называются юнитами. Так Авито организовывает горизонтальную структуру.

Юнит — это инженеры, QA-специалисты, продакты, аналитики и дизайнеры. Разработкой руководит CTO и команда TMG (Tech Managers Group), в которую входят руководители всех кластеров (объединения юнитов по похожим задачам). Об этом чуть позже. Остановимся на юнитах.

Делаем новую серию постов о том, чем занимаются юниты, какой стек технологий используют, какую пользу приносят и как создают классифайд №1 в мире.

На карточках первооткрыватели рубрики — юнит Database Administration (DBA).

Смотрите контент от ребят тут

#dba_avitotech #units_avitotech
🔥26👍911💯1
Не обязательно погружаться в PostgreSQL, чтобы построить отказоустойчивую инфраструктуру.

Но в таком случае нужно быть готовым к отсутствию консистентности, сложностям с масштабированием и другим минусам.

Григорий Тарасенко, администратор БД, сделал статью-обзор по всем возможным вариантам организации High Availability: без PostgreSQL, с готовыми решениями системы и наш особый путь ☄️

Делимся статьёй и ссылками на полезные материалы по теме:
1️⃣ Документация PostgreSQL. Репликация.
2️⃣ Документация PostgreSQL. High Availability.
3️⃣ Документация PostgreSQL. Write-Ahead Logging.
4️⃣ Документация PostgreSQL Pro. Трансляция журналов на резервные серверы.
5️⃣ Объяснение принципа работы протокола Raft с визуализацией.
6️⃣ Туториал на Хабре: «Управление высокодоступными PostgreSQL кластерами с помощью Patron».
7️⃣ Статья на Хабре про RTO и RPO.

#DBA_avitotech #habr_avitotech #статья_avitotech
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1811
Реплицируем базы без использования слотов репликации и с гарантией доставки WAL-ов. Эффективно, безопасно, без смс и регистрации.

Как и зачем мы строим архивную репликацию в PostgreSQL, читайте в статье Гриши Тарасенко из команды SQL 💻

#dba_avitotech #habr_avitotech #статья_avitotech
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥111
This media is not supported in your browser
VIEW IN TELEGRAM
Avito Database meetup #1

24 апреля | 18:30 мск | онлайн и в офисе Авито

У нас несколько дата-центров и 150 000 000+ активных объявлений каждый день. Коты, машины, квартиры, носки… И всё с картинками. У нас очень много данных. Пришло время рассказать, как мы с ними работаем. 🕊️

🗂 Начнёт руководитель разработки платформы DBaaS Владимир Алёшин. В его докладе «Платформа DBaaS: зачем и как» — экскурс в историю, наши первые БД, как менялся подход в работе и почему в итоге вы делаем ставку на kubernetes.

🗂 Про особенности работы Kubernetes со stateful приложениями в рамках одноимённого доклада расскажет Игорь Конев, инженер DBaaS.

🗂 Про паттерны управления БД в multi-cluster (multi-dc) kubernetes среде и разные уровни шедулинга — в докладе Никиты Жига, инженера DBaaS.

🗂 Завершит вечер Андрей Лярский, инженер в команде SQL/DBA, рассказом об особенностях адаптации классических СУБД к платформе DBaaS на примере PostgreSQL.

Насыщенно? Да, мы тоже в восторге. Поэтому рекомендуем не тянуть с регистрацией, если хотите услышать всё в нашем уютном офисе на Лесной.

📌 Забронировать место📌

#DBA_avitotech #avitodatabasemeetup
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥27🎉5👍32
Платформа DBaaS: зачем и как

🚀 Хотите экскурс про то, как мы начинали работать с базами данных? Его проведёт руководитель разработки платформы DBaaS Владимир Алёшин на Avito Database meetup #1.

В докладе Владимира — проблемы и решения, переход на автоматизацию и аргументация в пользу kubernetes. Присоединяйтесь к митапу, чтобы послушать и подискутировать.

#DBA_avitotech #avitodatabasemeetup
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥20👍6
Особенности работы Kubernetes со stateful приложениями (БД) ☄️

Игорь Конев, инженер DBaaS, расскажет базу по stateful в kubernetes и объяснит, что и почему мы выбрали для работы с приложениями. Всё это — на Avito Database meetup #1.

💻 Присоединяйтесь 24 апреля в 18:30. Обсудим, что можно улучшить, чтобы работать со stateful было еще удобнее.

#DBA_avitotech #avitodatabasemeetup
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥76👍1
«CockroachDB на платформе DBaaS: зачем и как» — 60-минутная готовность

В 19:00 запускаем трансляцию доклада Полины Кудрявцевой. Начнём с того, зачем нам вообще понадобились cloud native базы, почему выбрали CockroachDB и как с ней работаем. Полина расскажет про топологию кластера, гарантии отказоустойчивости, пайплайн создания БД на платформе, агента и ролевую модель. А закончим планами развития CockroachDB.

❗️📚 Важное к докладу

1. CockroachDB: The Definitive Guide — книга об устройстве CockroachDB без низкоуровневых технических деталей. Идеально для первого знакомства с технологией.
2. Official Docs: Distribution Layer часть официальной документации CRDB по распределению данных по кластеру.

➡️ Смотреть трансляцию ⬅️

#немитап_avitotech #DBA_avitotech
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥186👍1
Паттерны управления базами данных в multi-cluster (multi-dc) kubernetes среде

Это доклад разработчика DBaaS Никиты Жига. Его можно будет послушать 24 апреля на Avito Database meetup #1. Никита расскажет, зачем нужен multi-cluster, как управлять всем без единого контроллера и минимизировать простои при обновлениях.

Мест офлайн уже нет, но на трансляции всегда найдётся. Ставьте напоминание в календарь и подписывайтесь на наш YouTube-канал. 📺

#DBA_avitotech #avitodatabasemeetup
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥81👍1
Особенности адаптации классических СУБД к платформе DBaaS (на примере PostgreSQL)

🔥 Если бы Avito Database meetup #1 был тортом, этот доклад стал бы его вишенкой.

Андрей Лярский объяснит, почему классические СУБД не работают в kubernetes из коробки и как грамотно провести интеграцию.

📺 Готовьте вопросы и присоединяйтесь к трансляции.
🕒 24 апреля. 18:30 мск.

#DBA_avitotech #avitodatabasemeetup
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥133👍2
🐞 Пересмотрели подход к управлению БД и поделились опытом на Avito Database meetup #1. Держите плейлист с митапа.

📎Платформа DBaaS: зачем и как
Хронология развития платформенного управления в компании, проблемы, курс на автоматизацию и решение в Kubernetes.

📎 Stateful-приложения в Kubernetes (DB edition)
База по stateful в Kubernetes, решения, которые используем мы, и перспективы K8s.

📎 Паттерны управления базами данных в multi-cluster (multi-dc) Kubernetes-среде
Преимущества multi-cluster, управление в отсутствии контроллеров, шедулинг и servicediscovery.

📎Особенности адаптации классических СУБД к платформе DBaaS (на примере PostgreSQL)
Коробочные и сторонние решения, PostgreSQL у нас (2000+ баз) и задачи интеграции — НА, бэкапы, мониторинг.

🔵 А ещё фото с митапа собрали в альбом, смотрите в нашей группе VK.

#DBA_avitotech
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥151
Добавили поддержку векторного поиска в движок, и успешно пользуемся им с 2021 года. О — опыт!

☄️ Им-то и поделится Михаил Самолкаев, разработчик команды инфраструктуры поиска (Search Infra). Миша расскажет про самые интересные алгоритмы и техники и покажет готовые решения в виде библиотек.

💻 Векторный поиск под капотом — на Database Internals Meetup #4. Увидимся 4 сентября!

#DBA_avitotech #avitoteam
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥10👍32
Везём интересное для SmartData 2024 🔥

💻 8.09 | 10:45 | трек Data Management — Анар Багиров с докладом «Как мы сократили TTM создания дашбордов».

Анар рассмотрит кейс из проблем с Redash, а именно с Vertica как основой DWH, Clickhouse и в целом с тратой большого количества времени на создание дашбордов.

🔍 8.09 | 12:00 | трек Database Internals — Роман Ананьев с докладом «Как мы Apache Kafka на Redpanda меняли».

Роман расскажет, как кластеры Kafka не пережили отключения брокеров и как мы выбирали коробочное решение для масштабирования.

Готовьте вопросы и приходите задавать ❗️

#avitoteam #DBA_avitotech
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥6👍322
Наша система логов и распределённого трейсинга обрабатывает 15 000 000+ событий в секунду. Она взаимодействует с 2 000+ сервисами. И мы позволяем ей терять данные.

🔍 Хотите узнать больше о её архитектуре и процессе передачи данных? Приходите на доклад Игоря Балюка, нашего ведущего разработчика в команде service mesh.

🎤 «Как мы строим систему распределенного трейсинга, в которой можно терять данные» — 09 сентября в 12:15.

#DBA_avitotech #avitoteam
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥7👍32