Making Convolutional Networks Shift-Invariant Again.
We show that classic antialiasing applied to modern deep networks can stabilize outputs and improve accuracy.
Если вам необходимо сделать свою сетку более консистентной (shift invariance), можете попробовать использовать данный захак.
Известный трюк из signal processing — пропустить сигнал через фильтр низких частот для отсечения высокочастотных шумов и увеличения внимания на нужном диапазоне сигнала. Нестрого говоря: необходимо замылить фичи на выходе pooling слоя, а также после активаций.
В данной статье рассказывают о том, как небольшими изменениями в коде можно достичь большей точности на несколько процентов и сильно улучшить консистентность модели.
#research
We show that classic antialiasing applied to modern deep networks can stabilize outputs and improve accuracy.
Если вам необходимо сделать свою сетку более консистентной (shift invariance), можете попробовать использовать данный захак.
Известный трюк из signal processing — пропустить сигнал через фильтр низких частот для отсечения высокочастотных шумов и увеличения внимания на нужном диапазоне сигнала. Нестрого говоря: необходимо замылить фичи на выходе pooling слоя, а также после активаций.
В данной статье рассказывают о том, как небольшими изменениями в коде можно достичь большей точности на несколько процентов и сильно улучшить консистентность модели.
#research
The Mayflower Autonomous Ship's journey to transform ocean research using AI and Automation
FSD для автомобилей? Уже не так интересно.
FSD для судоходного транспорта, вот что круто!
Инженеры из IBM совместно с разработчиками из MarineAI разработали автономный корабль Mayflower. На борту — последние разработки AI/ML, которые могут работать без выхода в интернет. Судно позволит исследовать моря и океаны без рисков для жизни людей в суровых погодных условиях.
«Он (корабль) будет полностью нести ответственность за свои собственные навигационные решения по мере продвижения, потому что у него есть очень сложное программное обеспечение — ИИ, которые мы используем для распознавания различных препятствий и объектов в воде, будь то другие корабли, лодки, обломки, наземные препятствия и т. д. или даже морской жизни», — недавно сказал Robert High, VP и CTO в Edge Computing, IBM.
#news
FSD для автомобилей? Уже не так интересно.
FSD для судоходного транспорта, вот что круто!
Инженеры из IBM совместно с разработчиками из MarineAI разработали автономный корабль Mayflower. На борту — последние разработки AI/ML, которые могут работать без выхода в интернет. Судно позволит исследовать моря и океаны без рисков для жизни людей в суровых погодных условиях.
«Он (корабль) будет полностью нести ответственность за свои собственные навигационные решения по мере продвижения, потому что у него есть очень сложное программное обеспечение — ИИ, которые мы используем для распознавания различных препятствий и объектов в воде, будь то другие корабли, лодки, обломки, наземные препятствия и т. д. или даже морской жизни», — недавно сказал Robert High, VP и CTO в Edge Computing, IBM.
#news
YouTube
The Mayflower Autonomous Ship's journey to transform ocean research using AI and Automation
Register now at https://ibm.biz/BdfyZr for Episode 5 of The Uncharted docuseries. In this episode, the Mayflower Autonomous Ship team is feeling the pressure before the ship’s journey across the Atlantic. Watch the team prep for the Mayflower’s big mission…
Few-shot Neural Architecture Search
paper, facebook tech blog, code.
Facebook опубликовал исследование, которое позволяет ускорить поиск архитектуры нейросетей (Neural Architecture Search) с минимальными потерями в точности. Идея заключается в рекурсивном делении основной архитектуры (supernet) на подсети. Ключевой момент в transfer learning от родителя к предку, а потом перебор и поиск оптимальной операции между вершинами графа.
По сути, они предлагают сбалансированное решение между One-shot NAS (тренируется только supernet) и Vanilla NAS (перетренировка с нуля каждой подсети) — Few-shot NAS (transfer learning подсетей).
#research
paper, facebook tech blog, code.
Facebook опубликовал исследование, которое позволяет ускорить поиск архитектуры нейросетей (Neural Architecture Search) с минимальными потерями в точности. Идея заключается в рекурсивном делении основной архитектуры (supernet) на подсети. Ключевой момент в transfer learning от родителя к предку, а потом перебор и поиск оптимальной операции между вершинами графа.
По сути, они предлагают сбалансированное решение между One-shot NAS (тренируется только supernet) и Vanilla NAS (перетренировка с нуля каждой подсети) — Few-shot NAS (transfer learning подсетей).
#research
Backpropagation In Convolutional Neural Networks
Отличная статья от Jefkine Kafunah на тему обратного распространения ошибки в сверточных нейронных сетях. Интересно почитать и новичкам в МЛ, и тем, кто давно работает в МЛ, особенно Computer Vision, но autograd постоянно делает за них всю работу ;)
Кстати на этом же сайте есть ещё интересные статьи про Vanishing And Exploding Gradient Problems, Factorization Machines, Formulating The ReLu, Initialization Of Deep Feedfoward Networks и другие. Советую почитать.
#explained
Отличная статья от Jefkine Kafunah на тему обратного распространения ошибки в сверточных нейронных сетях. Интересно почитать и новичкам в МЛ, и тем, кто давно работает в МЛ, особенно Computer Vision, но autograd постоянно делает за них всю работу ;)
Кстати на этом же сайте есть ещё интересные статьи про Vanishing And Exploding Gradient Problems, Factorization Machines, Formulating The ReLu, Initialization Of Deep Feedfoward Networks и другие. Советую почитать.
#explained
Using latent space regression to analyze and leverage compositionality in GANs
Новый подход в Attribute Editing: используя разные части из набора изображений, сгенерировать объект, который будет их общей композицией. Можно генерировать лица, машины, здания и др.
Tech details: авторы предлагают использовать метод регрессии (в виду feedforward networks) для преобразования фич изображения в латентное пространство претренированного GAN. Отличие от похожих методов инверсии в том, что обычно используют подход итеративной оптимизации (Image Processing Using Multi-Code GAN Prior, Analyzing and Improving the Image Quality of StyleGAN), а регрессия показывает большую точность.
#research
Новый подход в Attribute Editing: используя разные части из набора изображений, сгенерировать объект, который будет их общей композицией. Можно генерировать лица, машины, здания и др.
Tech details: авторы предлагают использовать метод регрессии (в виду feedforward networks) для преобразования фич изображения в латентное пространство претренированного GAN. Отличие от похожих методов инверсии в том, что обычно используют подход итеративной оптимизации (Image Processing Using Multi-Code GAN Prior, Analyzing and Improving the Image Quality of StyleGAN), а регрессия показывает большую точность.
#research
Image Super-Resolution via Iterative Refinement
Команда из Google Research, Brain Team недавно презентовала супер крутое решение для генерации изображений, основаный на Diffusion models. Метод позволяет эффективно увеличивать разрешение картинки из 64x64 пикселей до 1024x1024.
Выход сети на первом этапе генерации ― это Gaussian noise. Далее с помощью натренированной модели U-Net, которая является ключевой особенностью данного исследования, итеративно генерируется изображение. Авторы подчеркивают, что модель наиболее хорошо работает на изображениях человеческих лиц и фотографий природы (возможно, это из-за достаточного количества качественных данных).
#research
Команда из Google Research, Brain Team недавно презентовала супер крутое решение для генерации изображений, основаный на Diffusion models. Метод позволяет эффективно увеличивать разрешение картинки из 64x64 пикселей до 1024x1024.
Выход сети на первом этапе генерации ― это Gaussian noise. Далее с помощью натренированной модели U-Net, которая является ключевой особенностью данного исследования, итеративно генерируется изображение. Авторы подчеркивают, что модель наиболее хорошо работает на изображениях человеческих лиц и фотографий природы (возможно, это из-за достаточного количества качественных данных).
#research
What are Diffusion Models?
Отличный материал по diffusion models "простыми словами" от Lilian Weng (lead in OpenAI Applied AI Research).
Зачем нужны diffusion models? Это достаточно гибкий тип генеративный сетей, которые позволяют моделировать любые сложные распределения данных, оставаясь достаточно интерпретируемыми моделями. Их идея основана на неравновесной термодинамике и цепях Маркова: итеративно добавлять случайный шум к данным в процессе генерации, а потом учить функцию обратного преобразования.
В отличие от VAE или flow models, latent variable таких моделей имеет достаточно высокую размерность (такую же, как исходные данные).
#explained
Отличный материал по diffusion models "простыми словами" от Lilian Weng (lead in OpenAI Applied AI Research).
Зачем нужны diffusion models? Это достаточно гибкий тип генеративный сетей, которые позволяют моделировать любые сложные распределения данных, оставаясь достаточно интерпретируемыми моделями. Их идея основана на неравновесной термодинамике и цепях Маркова: итеративно добавлять случайный шум к данным в процессе генерации, а потом учить функцию обратного преобразования.
В отличие от VAE или flow models, latent variable таких моделей имеет достаточно высокую размерность (такую же, как исходные данные).
#explained