Мою старую статью опубликовали на dou. Прикольно 🙂 https://dou.ua/lenta/articles/devops-duties/
ДОУ
Говорим о DevOps: ответственность и задачи
Для того чтобы девопс заработал, в него надо вложить немало сил. С одной стороны, у нас есть текущие проблемы, которые надо решить, с другой — логичная и непротиворечивая архитектура девопса. Мне кажется, логика есть и там, и там, поэтому стоит обернуться…
Появились видео с GDG DevFest Ukraine 2017, который недавно был во Львове: https://bit.ly/dfua17-all
Рекомендую посмотреть доклады о gRPC и Apache Beam
Рекомендую посмотреть доклады о gRPC и Apache Beam
Началась открытая трансляция главного зала конференции highload++ в Москве. Хотя лично я советовал бы купить билет на онлайн трансляцию, потому что в девопс зале тоже должно быть очень интересно. https://www.youtube.com/watch?v=BlDK2KKKYc8
YouTube
Главный зал HighLoad++ 2017, 7 ноября
Приглашаем на конференцию Saint HighLoad++ 2024, которая пройдет 24 и 25 июня в Санкт-Петербурге!
Программа, подробности и билеты по ссылке: https://vk.cc/cuyIqx
--------
--------
Бесплатная трансляция главного зала конференции HighLoad++ 2017.
Расписание…
Программа, подробности и билеты по ссылке: https://vk.cc/cuyIqx
--------
--------
Бесплатная трансляция главного зала конференции HighLoad++ 2017.
Расписание…
На CatOps опубликовали интересный пост о SO_REUSEPORT (https://t.iss.one/catops/329). Собственно хочу в догонку скинуть старый пост из github о том что не все так хорошо с SO_REUSEPORT на примере Haproxy.
Если коротко, то между прекращением приема сообщений и закрытием сокета может пройти какое-то время (несколько миллисекунд) и все подключения за этот период будут сброшены, потому что старый демон их уже не обрабатывает, но еще не закрыл сокет.
Вариант решения от Haproxy — дропать syn запросы на этот период. Вариант решения от GitHub (и nginx) использовать отдельный демон, который будет держать сокет открытым.
Если коротко, то между прекращением приема сообщений и закрытием сокета может пройти какое-то время (несколько миллисекунд) и все подключения за этот период будут сброшены, потому что старый демон их уже не обрабатывает, но еще не закрыл сокет.
Вариант решения от Haproxy — дропать syn запросы на этот период. Вариант решения от GitHub (и nginx) использовать отдельный демон, который будет держать сокет открытым.
Telegram
CatOps
В версии ядра Linux 3.9 (ага, давно) добавили такую фичу для сокетов как SO_REUSEPORT aka port sharding. Смысл в том, что несколько процессов могут слушать один и тот же порт, а ядро само разрулит, кому что посылать. Ну код должен со своей стороны эту фичу…
Amazon обьявили что теперь все их сервисы которые были доступны как внешние могут быть доступны как внутренние из вашего VPC при использовании PrivateLink. Отличная новость и наконец-то.
Amazon
Introducing AWS PrivateLink for AWS Services
Forwarded from CatOps
У меня сегодня филиал телеканала "Культура".
А всё потому что Brendan Gregg написал статью о Brilliant Jerks. Мне кажется, более-менее точный перевод на русский звучит как "Прекрасный мудак"
И сразу же паравозом ещё пару статей:
- о том, что можно вести себя, как мудак неосознанно
- продолжение истории
- критика двух предыдущих статей. Смысл в том, что если человек мудаком не был, но в вышем окружении стал, доля вины лежит и на вас
Это всё подводит ко второму выпуску телеканала "Культура", который уже, наверное, будет вечером
#culture
А всё потому что Brendan Gregg написал статью о Brilliant Jerks. Мне кажется, более-менее точный перевод на русский звучит как "Прекрасный мудак"
И сразу же паравозом ещё пару статей:
- о том, что можно вести себя, как мудак неосознанно
- продолжение истории
- критика двух предыдущих статей. Смысл в том, что если человек мудаком не был, но в вышем окружении стал, доля вины лежит и на вас
Это всё подводит ко второму выпуску телеканала "Культура", который уже, наверное, будет вечером
#culture
Полезняха от Антона @astlock Кошевого: гайзы, у кого макбук с тачбаром и тачид! Добавьте строку
auth sufficient pam_tid.so в /etc/pam.d/sudo и sudo теперь можно анлочить пальцем!Не прошло и пол года (на самом деле прошло), а Amazon сделали более-менее нормальный редактор для IAM policy. Встречайте анонс: https://aws.amazon.com/blogs/security/use-the-new-visual-editor-to-create-and-modify-your-aws-iam-policies/
Amazon
Use the New Visual Editor to Create and Modify Your AWS IAM Policies | Amazon Web Services
AWS Identity and Access Management (IAM) has made it easier for you to create and modify your IAM policies by using a point-and-click visual editor in the IAM console. The new visual editor guides you through granting permissions using IAM policies without…
Вышел интересный тулкит для хаос тестирования разных инфраструктур https://chaostoolkit.org/
Я еще не смотрел. Если коротко, то хаос тестирование это ломай все что сможешь в случайное время. Твоей инфраструктуре должно быть все равно на любые поломки. Более детально с принципами можно ознакомиться тут: https://principlesofchaos.org/
Я еще не смотрел. Если коротко, то хаос тестирование это ломай все что сможешь в случайное время. Твоей инфраструктуре должно быть все равно на любые поломки. Более детально с принципами можно ознакомиться тут: https://principlesofchaos.org/
Forwarded from CatOps
Я очень люблю читать stories of failure. Потому что на них можно учиться: как писал классик, все зелёные билды похожи друг на друга, но каждый красный билд падает по-своему.
Компания Saltside опубликовала историю провала при миграции в Kubernetes. При этом они не опускают руки и даже спрашивают помощь у коммьюнити
#kubernetes
Компания Saltside опубликовала историю провала при миграции в Kubernetes. При этом они не опускают руки и даже спрашивают помощь у коммьюнити
#kubernetes
Medium
Our Failure Migrating to Kubernetes
Observations and debugging problems in LoadBalancer services.
Вышла в свет интересная утилита для управления овнершипом инстансов и IAM политиками в AWS даже если у вас несколько аккаунтов: https://github.com/RiotGames/cloud-inquisitor
Кроме этого тула умеет присасываться к логам и даже какие-то простенькие чеки.
Кроме этого тула умеет присасываться к логам и даже какие-то простенькие чеки.
GitHub
GitHub - RiotGames/cloud-inquisitor: Enforce ownership and data security within AWS
Enforce ownership and data security within AWS. Contribute to RiotGames/cloud-inquisitor development by creating an account on GitHub.
Forwarded from DevOps News
Amazon открыл public preview новых типов инстансов - i3.metal. Как можно догадаться из названия это bare metal, 2xE5-2686v4 (сумарно 36 ядер или 72 потока), 512GB Ram, 15.2TB Local NVMe SSD, 25 гбит сеть. Вся остальная инфраструктура, включая Auto Scaling продолжит работать с ними как будто это стандартные виртуалки в облаке.
Подробности: https://aws.amazon.com/blogs/aws/new-amazon-ec2-bare-metal-instances-with-direct-access-to-hardware/
#aws #baremetal #hosting #ec2
Подробности: https://aws.amazon.com/blogs/aws/new-amazon-ec2-bare-metal-instances-with-direct-access-to-hardware/
#aws #baremetal #hosting #ec2
Amazon
Amazon EC2 Bare Metal Instances with Direct Access to Hardware | Amazon Web Services
When customers come to us with new and unique requirements for AWS, we listen closely, ask lots of questions, and do our best to understand and address their needs. When we do this, we make the resulting service or feature generally available; we do not build…
Google выпустила нативный балансер для кубернетис: https://github.com/google/metallb
Из минусов что для использования вам в вашей сети будут нужны роутеры, которые поддерживают BGP.
Из минусов что для использования вам в вашей сети будут нужны роутеры, которые поддерживают BGP.
GitHub
GitHub - metallb/metallb: A network load-balancer implementation for Kubernetes using standard routing protocols
A network load-balancer implementation for Kubernetes using standard routing protocols - GitHub - metallb/metallb: A network load-balancer implementation for Kubernetes using standard routing proto...
интересная статья о том как работают с кешами в Etsy. https://codeascraft.com/2017/11/30/how-etsy-caches/
Если коротко, то ребята используют Ketama в качестве реализации consisten hashing. Это библиотека на C или Java с обвязками для разных популярных языков программирования, которая делает hash ring (вот неплохая статья о hash ring), которую, впрочем, критикуют за то что при добавлении новой ноды требуется заново вычислять все кольцо, а значения не перераспределюятся равномерно, так что лучше использовать какой-то md5 в качестве хеш функции и большее количество бакетов.
Вторая часть статьи о так называемом “cache smearing” - технике когда к самым популярным ключам добавляют немного случайных данных, чтобы положить их сразу в несколько бакетов и читать не с одной ноды, а с нескольких. Сам механизм вычисления какой ключ популярный и как именно они добавляют случайные значения не опубликован.
Если коротко, то ребята используют Ketama в качестве реализации consisten hashing. Это библиотека на C или Java с обвязками для разных популярных языков программирования, которая делает hash ring (вот неплохая статья о hash ring), которую, впрочем, критикуют за то что при добавлении новой ноды требуется заново вычислять все кольцо, а значения не перераспределюятся равномерно, так что лучше использовать какой-то md5 в качестве хеш функции и большее количество бакетов.
Вторая часть статьи о так называемом “cache smearing” - технике когда к самым популярным ключам добавляют немного случайных данных, чтобы положить их сразу в несколько бакетов и читать не с одной ноды, а с нескольких. Сам механизм вычисления какой ключ популярный и как именно они добавляют случайные значения не опубликован.
Etsy Engineering
Etsy Engineering | How Etsy caches: hashing, Ketama, and cache smearing
At Etsy, we rely heavily on memcached and Varnish as caching tiers to improve performance and reduce load. Database and search...
Интересная статья о том как сисадмин перешел с перла на го и почему. https://syslog.me/2017/12/04/perl-to-go/
Вчера вышел в релиз containerd 1.0 (https://github.com/containerd/containerd/releases/tag/v1.0.0). Встречайте через пару месяцев в всех продакшенах.
GitHub
Release containerd 1.0.0 · containerd/containerd
Welcome to the v1.0.0 release of containerd!
containerd provides a daemon for managing running containers.
The new containerd is designed for use designed for use in container-based systems, like D...
containerd provides a daemon for managing running containers.
The new containerd is designed for use designed for use in container-based systems, like D...
Вышла в свет прокся дла docker.sock https://github.com/buildkite/sockguard
Основная задача — ограничить права на докер, если вам уж понадобилось зачем-то пробрасывать сокет внутрь контейнера.
Тула пока еще в альфе, но присмотреться стоит.
Основная задача — ограничить права на докер, если вам уж понадобилось зачем-то пробрасывать сокет внутрь контейнера.
Тула пока еще в альфе, но присмотреться стоит.
GitHub
GitHub - buildkite/sockguard: A proxy for docker.sock that enforces access control and isolated privileges
A proxy for docker.sock that enforces access control and isolated privileges - GitHub - buildkite/sockguard: A proxy for docker.sock that enforces access control and isolated privileges
