Forwarded from DataEng
В блоге AirBnB вышла полезная статья про идемпотентный фреймворк для построения распределенных систем.
В самой статье идёт речь про кейс реализации системы предотвращающей двойное списание денег у клиентов сервиса.
Читаем: https://medium.com/airbnb-engineering/avoiding-double-payments-in-a-distributed-payments-system-2981f6b070bb
В самой статье идёт речь про кейс реализации системы предотвращающей двойное списание денег у клиентов сервиса.
Читаем: https://medium.com/airbnb-engineering/avoiding-double-payments-in-a-distributed-payments-system-2981f6b070bb
Medium
Avoiding Double Payments in a Distributed Payments System
How we built a generic idempotency framework to achieve eventual consistency and correctness across our payments micro-service…
Не так давно прошел DjangoCon Europe 2019. Вот часть видео:
- Django and Web Security Headers
- The 750,000-line long pull request: crafting a more resilient open source community
- Pushing the ORM to its limits
- Making your life (h)APIer with Django
- Logging Rethought 2: The Actions of Frank Taylor Jr.
- Django and Web Security Headers
- The 750,000-line long pull request: crafting a more resilient open source community
- Pushing the ORM to its limits
- Making your life (h)APIer with Django
- Logging Rethought 2: The Actions of Frank Taylor Jr.
YouTube
DjangoCon 2019 - Django and Web Security Headers
https://2019.djangocon.eu/talks/django-and-web-security-headers/
By Adam Johnson - https://twitter.com/AdamChainz
By Adam Johnson - https://twitter.com/AdamChainz
Продолжение DjangoCon 2019 Europe:
- Simple visual regression testing
- Advanced, free, open-source application performance monitoring for your Python apps
- Sketching out a Django redesign
- Building plugin ecosystems with Django
- Maintaning a Django codebase after 10k commits
- Maps with GeoDjango, PostGIS and Leaflet
- Building a custom model field from the ground up
- Pentesting your Django apps
- Does this run in linear time? A case for algorithmics
- Serverless Django with Zappa
- Simple visual regression testing
- Advanced, free, open-source application performance monitoring for your Python apps
- Sketching out a Django redesign
- Building plugin ecosystems with Django
- Maintaning a Django codebase after 10k commits
- Maps with GeoDjango, PostGIS and Leaflet
- Building a custom model field from the ground up
- Pentesting your Django apps
- Does this run in linear time? A case for algorithmics
- Serverless Django with Zappa
YouTube
DjangoCon 2019 - Simple visual regression testing
https://2019.djangocon.eu/talks/simple-visual-regression-testing/
By Zelma Gist
By Zelma Gist
В блоге Twilio вышла статья про заголовки HTTP - HTTP headers for the responsible developer. Статья написана по мотивам доклада. В статье собран необходимым минимум для любого веб-разработчика.
Twilio
HTTP headers for the responsible developer
Guide to using HTTP headers for a better web. Learn about HTTPS, HSTS, CSP, Cacheable, immutable resources, serving WebP images, Feature-Policy and more.
Нашел интересный гайд под названием Open Microservices Guide. Суть его в том, чтобы выработать некий стандарт описания микросервисов в вашем проекте (не без помощи Docker).
К этому гайду также прилагается тулза omg-cli, которая умеет валидировать, билдить и запускать микросервисы (по описаниям файла microservice.yml). В любом случае любопытно :)
Опа, у этих ребят даже есть шаблон микросервиса на python
К этому гайду также прилагается тулза omg-cli, которая умеет валидировать, билдить и запускать микросервисы (по описаниям файла microservice.yml). В любом случае любопытно :)
Опа, у этих ребят даже есть шаблон микросервиса на python
microservice.guide
Overview | Open Microservice Guide
The open standard for reusable microservices
Появилось видео моей презентации на Kolesa Conf в Алматы, которая проходила 12 апреля. Тема моей презентации: ETL на Python. Видео
YouTube
ETL на Python, или Построение идемпотентных дата пайплайнов, Адиль Хаштамов
В США сейчас проходит PyCon US 2019. На Ютубе уже появился канал с первыми видео (туториалы): https://www.youtube.com/channel/UCxs2IIVXaEHHA4BtTiWZ2mQ
YouTube
PyCon 2019
Share your videos with friends, family, and the world
Майкрософт объявили о релизе новой подсистемы Linux с полноценным ядром. Это значит, что теперь любые линуксовые аппы можно запускать внутри WSL, включая Docker.
Более подробно тут https://devblogs.microsoft.com/commandline/announcing-wsl-2/
Более подробно тут https://devblogs.microsoft.com/commandline/announcing-wsl-2/
Microsoft News
Announcing WSL 2
WSL 2 is a new architecture that allows for dramatic file system performance and full system call compatibility in WSL using a Linux kernel.
Организаторы MoscowPython 2019 начали понемногу выкладывать видео с прошедшей конференции:
- Что делать, если ваш код на Python тормозит, доклад от Бобука из Яндекса
- Укрощая зверя: legacy-код, тесты и вы, Кирилл Борисов (Booking.com)
- Убивай мутантов, спаси свой код, Никита Соболев (wemake.services)
- Micropython для квестов в реальности и аркадных игр, Никита Левонович (КВЕСТОДЕЛЫ)
- А что, если без Python? Julia для машинного обучения и вообще, Глеб Ивашкевич
- Что делать, если ваш код на Python тормозит, доклад от Бобука из Яндекса
- Укрощая зверя: legacy-код, тесты и вы, Кирилл Борисов (Booking.com)
- Убивай мутантов, спаси свой код, Никита Соболев (wemake.services)
- Micropython для квестов в реальности и аркадных игр, Никита Левонович (КВЕСТОДЕЛЫ)
- А что, если без Python? Julia для машинного обучения и вообще, Глеб Ивашкевич
YouTube
Что делать, если ваш код на Python тормозит / Григорий Бакунов (Яндекс)
Приглашаем на Moscow Python Conf 2023, которая пройдет 19 и 20 мая 2023 в Москве в рамках Positive Hack Days.
Программа, подробности и билеты по ссылке https://conf.python.ru/moscow/2023
--------
Moscow Python Conf++ 2019
Тезисы и презентация:
https://…
Программа, подробности и билеты по ссылке https://conf.python.ru/moscow/2023
--------
Moscow Python Conf++ 2019
Тезисы и презентация:
https://…
Также стала доступна часть докладов с Saint HighLoad++ 2019. Вот, на мой взгляд, самые интересные:
- Postgres 12 в этюдах. Здесь Олег Бартунов рассказывает что нас ждёт в 12й версии "слоника". Из крутого: API для storage engine (привет, Column oriented storages), json path, улучшенные индексы.
- njs - javascript для nginx
- unboxing Firecracker от Amazon. На базе Firecracker работают все верхнеуровневые сервисы Amazon вроде AWS Lambda.
- Postgres 12 в этюдах. Здесь Олег Бартунов рассказывает что нас ждёт в 12й версии "слоника". Из крутого: API для storage engine (привет, Column oriented storages), json path, улучшенные индексы.
- njs - javascript для nginx
- unboxing Firecracker от Amazon. На базе Firecracker работают все верхнеуровневые сервисы Amazon вроде AWS Lambda.
YouTube
Postgres 12 в этюдах / Олег Бартунов (Postgres Professional)
Приглашаем на конференцию HighLoad++ 2025, которая пройдет 6 и 7 ноября в Москве!
Программа, подробности и билеты по ссылке: https://highload.ru/moscow/2025
________
Saint HighLoad++ 2019
Тезисы и презентация:
https://www.highload.ru/spb/2019/abstracts/4871…
Программа, подробности и билеты по ссылке: https://highload.ru/moscow/2025
________
Saint HighLoad++ 2019
Тезисы и презентация:
https://www.highload.ru/spb/2019/abstracts/4871…
На прошедшем Google IO не обошлось без упоминания PWA (Progressive Web Apps). На этот раз ребята рассказали в вводной презентации про новшества "прогрессивных приложений" и как они в скором времени улучшат UX при работе с веб-сайтами. В Chrome 76 появятся подсказки, что сайт можно установить в виде приложения. В презентации есть парочка классных кейсов таких приложений. Смотрим https://youtu.be/2KhRmFHLuhE
Далее. Если у вас уже есть PWA и вы не знаете как его продвинуть в аппсторах, то на помощь вам спешит TWA (Trusted Web Activities), это новомодная штука в браузере Chrome и ОС андроид, позволяющая шарить состояние между приложением и веб-сайтом. Некий WebView на стероидах. Более подробно можно узнать в презентации https://youtu.be/6lHBw3F4cWs
Далее. Если у вас уже есть PWA и вы не знаете как его продвинуть в аппсторах, то на помощь вам спешит TWA (Trusted Web Activities), это новомодная штука в браузере Chrome и ОС андроид, позволяющая шарить состояние между приложением и веб-сайтом. Некий WebView на стероидах. Более подробно можно узнать в презентации https://youtu.be/6lHBw3F4cWs
YouTube
Going Big: PWAs Come to Desktop and Chrome OS (Google I/O ’19)
Progressive Web Apps aren't just for mobile any more, they make it possible to deliver high quality, capable apps on Windows, Mac, Linux and Chrome OS. We'll dive into the key things you need to know about how to build them, some of the unique features they…
Hands-on-Machine-Learning-with-Scikit-2E.pdf
31.5 MB
O'Reilly выпустили 2-е издание книги Hands‑On Machine Learning with Scikit‑Learn and TensorFlow бесплатно и без смс 😎 Качайте, и изучайте машинное обучение.
Продолжая тему докладов с прошедшего ивента Google IO. Хороший обзорный доклад про новые фичи в языке JavaScript.
- появился flatMap (по аналогии со Scala)
- крутое API для интернационализации
- нововведения в API для работы с датами и временем
и многое другое.
Более подробно можно ознакомиться в докладе What’s new in JavaScript
- появился flatMap (по аналогии со Scala)
- крутое API для интернационализации
- нововведения в API для работы с датами и временем
и многое другое.
Более подробно можно ознакомиться в докладе What’s new in JavaScript
YouTube
What’s new in JavaScript (Google I/O ’19)
This presentation gives an overview of cutting-edge JavaScript development techniques to build modern web and Node.js apps. Discover which features to expect in Chrome and Node.js soon, how the V8 engine optimizes for them, and how to improve real-world performance…
Наверное многие из вас уже слышали, что Github запустил бета-версию сервиса Github Packages. Сервис доступен по инвайтам, изъявить желание можно прямо в своём аккаунте.
Сервис представляет из себя реестр пакетов, где каждый разработчик может размещать как публичные пакеты так и приватные. Если вы работаете в приватной команде и у вас есть пакеты, отныне не нужно ставить системы вроде Nexus Repository.
Сейчас гитхаб поддерживает:
- npm
- rubygems
- docker
- nuget
- maven
PyPi среди поддерживаемых систем нет, но скорее всего появится в ближайшее время.
Более подробно с демо можно посмотреть в докладе Introducing GitHub Package Registry
Сервис представляет из себя реестр пакетов, где каждый разработчик может размещать как публичные пакеты так и приватные. Если вы работаете в приватной команде и у вас есть пакеты, отныне не нужно ставить системы вроде Nexus Repository.
Сейчас гитхаб поддерживает:
- npm
- rubygems
- docker
- nuget
- maven
PyPi среди поддерживаемых систем нет, но скорее всего появится в ближайшее время.
Более подробно с демо можно посмотреть в докладе Introducing GitHub Package Registry
Как то незаметно стали доступны доклады с прошедшей в ноябре 2018 конференции HighLoad++. Вот наиболее интересный, имхо, список докладов:
- Как мы качаем 60 миллионов страниц в день из Веба
- AWS Cost Reduction - Experiences and Strategies
- Кластер Kubernetes в твоём ноутбуке. Знакомство с minikube
- Hadoop at scale: мы построили большой кластер, как его теперь сохранить?
- Делаем бэкенд нового поколения на FoundationDB
Остальные доклады можно посмотреть в плейлисте
- Как мы качаем 60 миллионов страниц в день из Веба
- AWS Cost Reduction - Experiences and Strategies
- Кластер Kubernetes в твоём ноутбуке. Знакомство с minikube
- Hadoop at scale: мы построили большой кластер, как его теперь сохранить?
- Делаем бэкенд нового поколения на FoundationDB
Остальные доклады можно посмотреть в плейлисте
YouTube
Как мы качаем 60 миллионов страниц в день из Веба / Александр Сибиряков (Scrapinghub)
Приглашаем на конференцию Saint HighLoad++ 2024, которая пройдет 24 и 25 июня в Санкт-Петербурге!
Программа, подробности и билеты по ссылке: https://vk.cc/cuyIqx
--------
--------
HighLoad++ Moscow 2018
Тезисы и презентация:
https://www.highload.ru/m…
Программа, подробности и билеты по ссылке: https://vk.cc/cuyIqx
--------
--------
HighLoad++ Moscow 2018
Тезисы и презентация:
https://www.highload.ru/m…
На DevGamm! в Москве был доклад от Jonathan Blow про деградацию в области программного обеспечения и что нам с этим делать. Рекомендую к просмотру Preventing the Collapse of Civilization
YouTube
Jonathan Blow - Preventing the Collapse of Civilization (English only)
Jonathan's talk from DevGAMM 2019.
https://www.youtube.com/c/DevGAMMchannel
https://www.youtube.com/c/DevGAMMchannel
Для тех, кто частенько обновляет версии Python. Будьте бдительны, планируется зачистка стандартной библиотеки в 3.9 и 3.10: https://www.opennet.ru/opennews/art.shtml?num=50726
www.opennet.ru
Намечена большая чистка стандартной библиотеки Python
Разработчики проекта Python опубликовали предложение (PEP 594) по проведению значительной чистки стандартной библиотеки. К выносу из стандартной библиотеки Python предлагаются как явно устаревшие и узкоспециализированные возможности, так и компоненты, в которых…
Подборка интересного материала с ресурса RealPython:
- Python Logging: A Stroll Through the Source Code
- Unicode & Character Encodings in Python: A Painless Guide
- Hands-on Python 3 Concurrency With the asyncio Module
- Idiomatic Pandas: Tricks & Features You May Not Know
- Interactive Data Visualization in Python With Bokeh
- Python Logging: A Stroll Through the Source Code
- Unicode & Character Encodings in Python: A Painless Guide
- Hands-on Python 3 Concurrency With the asyncio Module
- Idiomatic Pandas: Tricks & Features You May Not Know
- Interactive Data Visualization in Python With Bokeh
Realpython
Python Logging: A Stroll Through the Source Code – Real Python
In this step-by-step tutorial, you'll learn about how the Python logging package is designed from an OOP perspective. You'll walk line by line through the source code and become better equipped to know what your code is doing.
Forwarded from DataEng
Ребят, в конце марта собрал все известные материалы по теме Data Engineering, получился небольшой репозиторий с интересными ресурсами. Он будет и дальше пополняться, поэтому просьба зайти на гитхаб, поставить звёздочку или даже форкнуть и отправить PR на дополнение.
Сам репозиторий - Data-Engineering-HowTo.
Давайте вместе соберём классный гайд.
Сам репозиторий - Data-Engineering-HowTo.
Давайте вместе соберём классный гайд.
GitHub
GitHub - adilkhash/Data-Engineering-HowTo: A list of useful resources to learn Data Engineering from scratch
A list of useful resources to learn Data Engineering from scratch - adilkhash/Data-Engineering-HowTo
Martin Fowler написал эссе на тему Is High Quality Software Worth the Cost? Рекомендую к прочтению всем, особенно менеджерам продуктов и тем, кто отвечает за поставку ПО. Основная мысль в статье крутится вокрут компромисса между качеством программы и её стоимостью. Мартин рассуждает, что такой подход в корне не верный, и качественный софт зачастую обходится дешевле бизнесу. Читаем
martinfowler.com
Is High Quality Software Worth the Cost?
We usually perceive that it costs more to get higher quality, but software internal quality actually reduces costs.