⠀
А между тем, ошибки, допускаемые при проектировании информационной системы и некачественной настройке ее компонентов, зачастую приводят к фатальным проблемам: захвату серверов, майнингу на ваших мощностях и краже конфиденциальной информации.
⠀
Лев Хакимов из Сбера даст несколько «вредных советов» по практическому нарушению информационной безопасности.
⠀
Например, как можно заставить сервер подключиться к вашему ПК и предоставить вам оболочку или как выдать права в K8s и слишком широкие полномочия Pod'ам. А еще расскажет, как не дать «мягким лапкам» котиков-джуниоров создать реальные угрозы.
⠀
Please open Telegram to view this post
VIEW IN TELEGRAM
Хабр
Хакнуть k8s: разбор пэйлоадов и способов защиты
Привет, меня зовут Лев Хакимов, я — DevOps-инженер. Одно время работал над проектом Госуслуг, а сейчас в брокерской платформе в Сбере. Уже больше двух лет играю в CTF команде ONO, которая даже как-то...
👍2🔥1
⠀
📋 https://vk.cc/cmtKu4
⠀
В рекламе Яндекса они работают со многими сложными сущностями, которые хранят в базах данных.
⠀
Возьмем, например, рекламный баннер. Если взять всю полезную для показа информацию о баннере, то получится сложная развесистая структура, включающая в себя много простых полей вроде тайтла и картинки, а также сложных — вроде посчитанных эмбеддингов.
⠀
Данные баннера нужно постоянно обновлять — они включаются, выключаются, обновляют какие-то свои данные, по ним пересчитываются эмбеддинги. Так что у них потоковая обработка данных с результатом в виде актуального состояния данных баннеров в таблице (в YT).
⠀
Вроде все просто, какие тут могут быть проблемы? На самом деле проблемы ожидаемые, у нас же Highload, и, если работать с их таблицей с баннерами наивным способом, то будут создавать слишком большую нагрузку.
⠀
Наивный способ — это когда они данные одного баннера хранят в таблице в одной бинарной строке в сериализованном виде. А проблема с нагрузкой в том, что они на каждое, даже очень маленькое изменение (допустим, изменилось 20 байт в состоянии), загружают и пишут обратно все состояние (десятки килобайт).
⠀
В своем докладе Юрий изложит минимум 5 независимых и взаимно совместимых идей, позволивших им многократно снизить нагрузку на запись, и значительно — на чтение, а также несколько новых подходов, которые они пробуют сейчас или хотят попробовать в будущем.
⠀
Приходите, чтобы узнать новое, обсудить известное и поделиться своими идеями про работу с состояниями.
⠀
Ждем вас на Saint HighLoad++ 2023 🙌
⠀
Please open Telegram to view this post
VIEW IN TELEGRAM
👍5🔥4❤3
⠀
📋 https://vk.cc/cmvh59
⠀
Мир стремительно меняется и в настоящее время нужно максимально быстро реагировать на стремительно меняющиеся обстоятельства. Поэтому, все сложнее представить себе высоконагруженное приложение без автоматизированной системы доставки и сборки (CI/CD), ведь использование CI/CD существенно ускоряет разработку и выкатку фич на продакшен.
Вместе с ростом использования автоматизированных систем сборки и доставки растет и внимание злоумышленников к этим системам. А ведь действительно, использование этих систем таит в себе новые опасности.
⠀
В ходе доклада мы разберемся как защищаться от основных угроз в CI/CD.
⠀
🖐 Присоединяйтесь к нам 26 и 27 июня на Saint HighLoad++ 2023
⠀
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3🔥3❤1😎1
⠀
✋ Друзья, чем ближе конференция, тем дороже билеты. С 1 апреля у нас первое повышение цены. Забронируйте билет до 31 марта и у вас будет несколько дней для оплаты.
⠀
В программе Saint HighLoad++ 2023 вас ждут 70+ докладов, которые охватят такие аспекты веб-разработок: архитектуры крупных проектов, базы данных и системы хранения, devops и системное администрирование, нагрузочное тестирование, эксплуатация крупных проектов. И другие направления, связанные с большими и высоконагруженными IT-системами.
Форматы конференции и доступные опции:
⠀
▪️Офлайн: общение со спикерами, глубокая проработка тем на митапах, доступ к выставочной зоне, все презентации спикеров, видеозаписи всех докладов, сытные кофебрейки и обеды, подарки от партнёров и организаторов, вопросы спикерам в telegram-чате
⠀
▫️Онлайн: все презентации спикеров, видеозаписи всех докладов, трансляция всех докладов (кроме митапов и воркшопов), вопросы спикерам в telegram-чате, доступ к трансляции для одного пользователя
⠀
Ждем вас 26 и 27 июня в Питере или онлайн по всему миру 🙌
⠀
Пройдите на сайт, чтобы ознакомиться с уже принятыми докладами и забронировать билет
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡4👍4🔥2
⠀
📋 https://vk.cc/cmxlxS
⠀
Платформы, опирающиеся на встроенный интерпретатор, сложно профилировать. Чаще всего, возможен только отдельный анализ производительности внутри VM, с помощью специфичного для нее профилировщика, и снаружи VM, с помощью, например, perf. Тем не менее, в некоторых сценариях необходимо видеть полную картину.
⠀
Доклад описывает несколько возможных подходов к профилированию таких систем - от способов интеграции с perf, до написания своего инструментария.
⠀
Встречаемся 26 и 27 июня в Питере на Saint HighLoad++ 2023 🙌
⠀
Please open Telegram to view this post
VIEW IN TELEGRAM
👍4🔥4❤2
⠀
Рассмотрим процессы разработки, тестирования и управления релизами Deckhouse. Её интеграцию со сторонними решениями для мониторинга, работы сети, безопасности и с другими необходимыми компонентами.
⠀
Константин Аксенов из Флант поделится своим опытом, расскажет, как построены разработка и релизный процесс. Как они добились, чтобы продукт был надёжным и прошли путь от внутреннего проекта до готовой платформы, которую покупает Enterprise-бизнес.
⠀
Please open Telegram to view this post
VIEW IN TELEGRAM
Хабр
Как устроена разработка Kubernetes-платформы Deckhouse (обзор и видео доклада)
Публичный Open Source-релиз Deckhouse состоялся в 2021 году. С тех пор мы много и подробно рассказываем о платформе — на Хабре, на конференциях, в СМИ. Однако когда мы проводим презентации Deckhouse...
👍3🔥2❤1
⠀
📋 https://vk.cc/cmza5Y
⠀
На прошлогоднем HighLoad++ Алексей рассказывал про свой опыт разворачивания геораспределённого отказоустойчивого S3-совместимого хранилища на базе MinIO. После этого ему на почту (что приятно) пришло множество вопросов касательно различных нюансов.
⠀
В этом году он бы хотел систематизировать ответы на них и представить в виде доклада широкой публике. Кроме того, Алексей планирует рассказать о том, как развивался MinIO в течение прошедшего года, от каких минусов разработчикам удалось избавиться, а что до сих пор остаётся в виде подводных камней, на которые можно легко наступить и порезаться.
⠀
Также хочется рассказать об очень интересном опыте масштабирования MinIO - как они расширили своё присутствие с 3 до 4 дата-центров, какой реальный прирост производительности дал переход от обычных дисков к дисковым массивам. С какими сложностями можно столкнуться при работе с этими массивами.
⠀
Доклад ориентирован не на мастодонтов, создающих свои облака, таких как ребята из Яндекса или VK, а на архитекторов из компаний, представляющих малый и средний бизнес, у которых, однако, есть серьёзный потенциал роста и потребность в хранении данных в собственном периметре.
⠀
Встречаемся 26 и 27 июня на Saint HighLoad++ 2023 🙌
⠀
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥3❤1👍1
⠀
⚡️1 апреля стоимость билетов станет выше
⠀
Присоединяйтесь к нам, чтобы:
⠀
- быстрее других быть в курсе тенденций в мире разработки;
- систематизировать, подтянуть свои знания и приобрести новые;
- иметь возможность разобрать свой случай на проекте и получить профессиональный совет от коллег;
- отлично и продуктивно провести время в компании единомышленников
⠀
Ждем вас 26 и 27 июня в Питере 🙌
⠀
Please open Telegram to view this post
VIEW IN TELEGRAM
👍2🔥2❤1
⠀
📋 https://vk.cc/cmDHWx
⠀
Они хотят, чтобы конфигурация в гите всегда соответствовала конфигурации на серверах. Пока серверов было мало - конфигурация применялась быстро, но с ростом количества хостов - стало слишком долго.
⠀
Узнаем:
⠀
- как они управляют более 1000 хостов при помощи ansible с постоянным деплоем изменений на все сервера.
- как они написали ansible-agent, который экономит им ресурсы и время, как он работает и деплоится на сервера.
- как строят свой проект и как применяют AWX
⠀
Присоединяйтесь к нам 26 и 27 июня на Saint HighLoad++ 2023 в Санкт-Петербурге 🙌
⠀
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3❤2🔥1
⠀
1 апреля стоимость билетов на Saint HighLoad++ 2023 повысится. Но вы можете зафиксировать текущую стоимость, если забронируете билет до 31 марта. После брони у вас будет несколько дней для оплаты.
⠀
Актуальные цены сейчас:
⠀
▪️офлайн = 48 000 руб.
▫️онлайн = 24 000 руб.
⠀
Ждем вас 26 и 27 июня в Питере 🙌
⠀
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3⚡2🔥2😎1
⠀
📋 https://vk.cc/cmFvOj
⠀
Дмитрий расскажет про то, как они в СберМаркете решали проблемы производительности on-prem Sentry — учили обрабатывать 60 миллионов событий в сутки, для чего пришлось провести оптимизацию почти каждого компонента.
⠀
Оптимизировали БД Postgres — научили Sentry работать не только с мастером, но и с репликами. Перенесли хранение событий в s3 и сэкономили 12 ТБ на БД (которые лежали в одной таблице!). Оптимизировали обработку событий из kafka — даже если у вас есть буфер, не значит, что все будет стабильно. Научили работать с шардированным ClickHouse и максимально глубоко погрузились в архитектуру, чтобы достичь производительности, которую не позволяет даже Cloud Sentry.
⠀
О боли, муках и страданиях от несовершенства архитектурных решений, что из этого вытекло, над чем пришлось поработать и к чему приложить руку.
⠀
Встречаемся в Питере 26 и 27 июня 🙌
⠀
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3🔥3❤1
⠀
Тема импортозамещения появилась уже давно, но становится все актуальнее. Как вы справляетесь с уходящими решениями? Нашли уже для себя надежных вендоров? Успели перевезти сервисы и с какими сложностями столкнулись?
⠀
Давайте попробуем оценить общую ситуацию в индустрии на текущий момент. Мы обработаем результаты опроса, оформим в виде краткой аналитики и опубликуем в нашем блоге на Habr.
А вендоров самых популярных решений, на которые вы переехали, пригласим на сцену Saint HighLoad++ 2023 🙌
⠀
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3🔥2❤1
⠀
📋 https://vk.cc/cmHtvq
⠀
Узнаем:
⠀
1. Для чего нужны аппаратные модули безопасности и их применение в финтехе.
2. Чем они пользуются сейчас. И почему именно Thales.
3. Аппаратное устаревание модулей - как долго они работают и как часто их нужно менять.
4. Их историю импортозамещения - что случилось и как строился процесс.
5. Организация тестирования оборудования. Тестирование криптоядра и тесты операционной применимости.
6. Что они ожидают от новых модулей и как мигрировать на новое оборудование.
7. Вопросы сертификации и международной дистрибуции.
⠀
Ждем вас на Saint HighLoad++ 2023 в Питере или онлайн 🖐
⠀
Please open Telegram to view this post
VIEW IN TELEGRAM
👍4🔥3❤2
⠀
Вы еще успеваете забронировать билет по самой выгодной цене. 1 апреля стоимость станет выше.
⠀
За два дня на Saint HighLoad++ 2023 вы:
⠀
- услышите доклады на самые актуальные темы для разработчиков высоконагруженных систем
- первыми узнаете тенденции в мире разработки
- систематизируете, подтянете свои знания и приобретете новые
- сможете разобрать свой случай на проекте и получить профессиональный совет от коллег
- отлично и продуктивно проведете время в компании единомышленников
⠀
Please open Telegram to view this post
VIEW IN TELEGRAM
👍4🔥3❤2
⠀
📋 https://vk.cc/cmLfJd
⠀
Графовые СУБД в последнее время стали очень популярны для аналитических задач. Традиционно к графовым СУБД относились скептически из-за их производительности и масштабируемости: например, очень популярная СУБД Neo4j пока практически не масштабируется на несколько узлов. Но появились новые системы, изначально разработанные как распределенные графовые СУБД, которые в состоянии уже хранить и обрабатывать десятки терабайт данных, а в скором будущем смогут масштабироваться до петабайт.
⠀
В чем существенные отличия графовых СУБД, какие преимущества и новые методы они предлагают для аналитики, и почему будущее аналитики на Больших Данных может оказаться именно за графовыми СУБД?
⠀
Встречаемся 26 и 27 июня на Saint HighLoad++ 2023 🖐
⠀
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3❤2
Посмотрите сами, поделитесь с коллегами 😉
⠀
1) API Gateway — как не допустить хаоса при цифровой трансформации на примере телеком-оператора. Алексей Коновкин (Nexign) https://vk.cc/cmLrH5
⠀
2) Паттерны отказоустойчивой архитектуры. Александр Кривощёков (Яндекс.Еда) https://vk.cc/cmLrYj
⠀
3) Визуальное проектирование масштабируемых приложений. Максим Цепков (CUSTIS) https://vk.cc/cmLsbN
⠀
4) VK Видео: архитектура крупнейшей видеоплатформы на 4 Тбит/с. Александр Тоболь (ВКонтакте, VK) https://vk.cc/cmLsqU
⠀
5) SLI/SLO/SLA в микросервисном приложении. Павел Лакосников (Авито) https://vk.cc/cmLsGb
⠀
Отличных выходных и продуктивного просмотра 🙌
⠀
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥11👍6🆒3❤1
Всё, везде и сразу: о трейсинге в условиях хайлоада и 10к бэкендов поговорим с Александром Кирсановым
⠀
📋 https://vk.cc/cmPUrf
⠀
Поговорим о том, как они расширяли distributed tracing под нужды ВКонтакте. Сама по себе технология понятна — это сбор информации о взаимодействии между элементами системы при обработке запроса. Есть и популярные инструменты для хранения и визуализации трейсов: например, Jaeger и Sentry. А также способы их сбора из прикладного кода (tracing SDK для различных языков).
Как и другие стандартные инструменты, встречаясь с реальным хайлоадом они дают трещины. Что если они хотят хранить данных больше, чем позволяет стандарт? Что если они хотят трекать память в условиях асинхронных корутин? Что если данных очень много, а они хотят трейсить каждый-каждый запрос с минимальным оверхедом и существующие SDK для их продакшена не подойдут?
Александр расскажет, как они в целом переосмысливали процесс трейсинга, упёршись в подход Open Telemetry. В итоге у них получилась более богатая модель данных, при этом сбор трейса на реальном проде получился практически zero overhead.
⠀
🖐 Присоединяйтесь к нам 26 и 27 июня на Saint HighLoad++ 2023
⠀
✅ Программа конференции и билеты на сайте - https://vk.cc/cmPUHW
⠀
📋 https://vk.cc/cmPUrf
⠀
Поговорим о том, как они расширяли distributed tracing под нужды ВКонтакте. Сама по себе технология понятна — это сбор информации о взаимодействии между элементами системы при обработке запроса. Есть и популярные инструменты для хранения и визуализации трейсов: например, Jaeger и Sentry. А также способы их сбора из прикладного кода (tracing SDK для различных языков).
Как и другие стандартные инструменты, встречаясь с реальным хайлоадом они дают трещины. Что если они хотят хранить данных больше, чем позволяет стандарт? Что если они хотят трекать память в условиях асинхронных корутин? Что если данных очень много, а они хотят трейсить каждый-каждый запрос с минимальным оверхедом и существующие SDK для их продакшена не подойдут?
Александр расскажет, как они в целом переосмысливали процесс трейсинга, упёршись в подход Open Telemetry. В итоге у них получилась более богатая модель данных, при этом сбор трейса на реальном проде получился практически zero overhead.
⠀
🖐 Присоединяйтесь к нам 26 и 27 июня на Saint HighLoad++ 2023
⠀
✅ Программа конференции и билеты на сайте - https://vk.cc/cmPUHW
❤3🔥3👍2
⠀
📋 https://vk.cc/cmRbYF
⠀
Они стремятся делать так, чтобы Алиса была человечным ассистентом. Один из важных аспектов - умение вести диалог на такой же скорости, как и человек. В своем докладе Арслан расскажет, как устроена Алиса и какие ключевые оптимизации скорости сделаны в системе.
⠀
Ждем вас 26 и 27 июня на Saint HighLoad++ 2023 🙌
⠀
Please open Telegram to view this post
VIEW IN TELEGRAM
👍4❤2
⠀
Первая история закончилась на сбое, после которого было решено начать распил с личного кабинета. Его проще пилить на микрофронтенды, потому что код разделен по модулям, бизнес-логика замкнута в конкретном модуле, а общие части вынесены в общие библиотеки. В общем, пилу снова достали и пора опять делать модули отдельными приложениями.
⠀
Максим Смирнов из команды Тинькофф расскажет про проблемы, с которыми они столкнулись, и о том, что накрутили сверху данного плагина для реальной независимости команд и приложений. То есть, всё как было на самом деле.
⠀
Please open Telegram to view this post
VIEW IN TELEGRAM
Хабр
История о том, как мы на Module Federation съезжали. Часть 2
Привет! С вами снова Максим. Во второй части будет о том, что мы придумали. Когда мы решили пилиться после сбоя, про который я рассказал в первой части, начали с личного кабинета. Его попилить на...
👍4❤2
⠀
📋 https://vk.cc/cmSM4s
⠀
Для того, чтобы защитить пользователей почты mail.ru от вредоносных писем и сообщений Антиспам Почты Mail.ru проверяет более 400 млн писем ежедневно.
⠀
На проверку каждого письма у них есть меньше 350 мс, за это время нужно распарсить письмо, сходить в большое количество баз данных, прогнать несколько ML-моделей, запустить бизнес-логику и выдать заключение - содержится в письме или в сообщении вредоносный контент, спам или фишинг и блокировать доставку до конечного пользователя.
⠀
Эта накладывает дополнительные ограничения на скорость и стабильность работы архитектуры антиспама.
⠀
Антиспам сегодня это 500 серверов, 40+ сервисов, работающих в k8s (более 7000 подов), размер hadoop-кластера 5+ PB.
⠀
В своем докладе, на основе нескольких примеров, Константин расскажет, как на основе анализа произошедших инцидентов и ошибок эволюционировала архитектура антиспама, какие архитектурные решения оказались наиболее эффективными, а какие не сработали и почему.
⠀
Встречаемся 26 и 27 июня в Питере на Saint HighLoad++ 2023 🙌
⠀
Please open Telegram to view this post
VIEW IN TELEGRAM
❤5🔥4👍3