#pytorch

پایتورچ نسخه 1.5 منتشر شد...

قسمت اعظم این بروزرسانی، مربوط به بخش ++C هست.

علاوه‌بر بخش ++C، در autograd هم بروزرسانی انجام شده و توابع جدیدی مانند Jacobian، hessian و... اضافه شده.

علاوه بر پایتورچ، سه پکیج مهم torchvision، torchtext و torchaudio هم بروزرسانی شدند.

کتابخونه torch_xla هم بروزرسانی شد. این کتابخونه از کامپایلر جبر خطی XLA استفاده میکنه تا محاسبات روی TPUها سریع‌تر اجرا بشه.

همچنین، دو کتابخونه جدید با نام‌های torchserve و torchelastic با همکاری آمازون با کاربردهای تجاری منتشر شده...

@pytorch_howsam

#pytorch #vision

آقای Ross Wightman در توییتر اعلام کردند که با همکاری تعدادی از افراد دیگه، کلکسیون مدل‌های ویژن (وزن‌ها، اسکریپت و...) در گیتهاب ایشون به بیش از 200 مدل رسیده!

در لینک زیر می‌تونید لیست بلندبالای مدل‌ها رو مشاهده کنید:
https://github.com/rwightman/pytorch-image-models

البته گیتهاب ایشون خیلی خوب هست و کلا پیاده‌سازی‌های مختلفی برپایه پایتورچ می‌تونید پیدا کنید.

@pytorch_howsam

#cnn #implementation #pytorch

قطعا بین شماها افراد بسیار زیادی هستند که دوست دارن خودشون شبکه‌هایی مثل رزنت، گوگل‌نت و غیره رو پیاده‌سازی کنن. شاید یکی از مهم‌ترین دلایلش، درک بهتر ساختار شبکه‌هاست.

در یوتیوب ویدئوهایی از یک شخص پیدا کردیم که تعدادی از این شبکه‌های معروف رو با پایتورچ پیاده‌سازی کرده. ساختار ویدئوها هم جالبه... هر شبکه‌ای رو که میخواد پیاده‌سازی کنه، مقالش رو باز میکنه و کمی توضیح میده و بعد هم در ادیتور کدش رو به پایتورچ مینویسه. لینک چند نمونه از پیاده‌سازی‌هاش رو در زیر آوردیم:

پیاده‌سازی شبکه ResNet

پیاده‌سازی شبکه GoogleNet

پیاده‌سازی شبکه VGG

پیاده‌سازی شبکه LeNet

سایر ویدئوهای همین کانال (Aladdin Persson) رو ببینید. ویدئوهای آموزشی خوبی در زمینه پایتورچ، یادگیری عمیق و یادگیری ماشین داره.

@pytorch_howsam

#monai #pytorch

شرکت Nvidia مجموعه‌ای به‌نام monai راه انداخته که تمرکزش روی پزشکی در هوش مصنوعی هست.

درحال حاضر یک فریمورک به‌نام monai مخصوص پزشکی آماده کردن که بر پایه پایتورچ آماده شده...

نکته مهمی که معمولا دانشجوهای مهندسی پزشکی باهاش مواجه هستن، اطلاعات و کد آموزشی کم در حوزه دیپ لرنینگ و پزشکی هست. اما کافیه که به سایت monai برید، در همون صفحه اول سایت، تعداد بسیار زیادی مثال تحت عنوان Getting Started وجود داره که میتونه شروع خوبی باشه.

یک اسکرین‌شات از مثال‌ها گذاشتیم. بیشتر از اینهاست. به سایت زیر برید و خودتون مشاهده کنید:
monai.ai

@pytorch_howsam

#pytorch #tutorials

بخش Tutorials سایت پایتورچ آپدیت شده...

آموزش‌هایی که قبلا توی سایت پایتورچ بود، خیلی متنوع و خوب بود. از مباحث صفر تا پیشرفته رو به‌صورت خلاصه پوشش دادن. مثلا می‌تونید آموزش 60 دقیقه‌ای شروع پایتورچ رو ببینید که خیلی طرفدار داره. یا آموزش‌هایی از Production (بحث‌های تجاری) و ++C ببینید.

اما با بروزرسانی جدید، یک دسته‌بندی خوب براش ساختن (مطابق تصویر بالا) که با دسته‌بندی به همه آموزش‌ها دسترسی داشته باشید. همچنین، آموزش‌های جدیدی هم اضافه کردن. الان برای تصویر، متن و صوت آموزش داره و خیلی ساده هم توضیح داده.

این هم لینک بخش Tutorials:
https://pytorch.org/tutorials/index.html

@pytorch_howsam

#pytorch

اگر حوصله آموزش کدنویسی ویدئویی و یا آموزش‌های طولانی رو ندارید. یا به آموزش‌های با مثال علاقه دارید، لینک زیر از سایت برجسته Machine Learning Mastery احتمالا بدردتون میخوره.
لینک آموزش کدنویسی پایتورچ

در لینک بالا، در قالب چند مثال متنوع از مرحله نصب تا آموزش شبکه‌های دیپ آموزش داده شده.

اگرچه ما هم هرهفته آموزش پایتورچ منتشر می‌کنیم (لینک)، اما ممکنه بعضی دوستان از سبک جلسه‌ای و طولانی‌مدت خوششون نیاد و دنبال یک آموزش سریع باشن.

@pytorch_howsam

#nlp #pytorch

A Deep Dive into NLP with PyTorch

یک آموزش عالی برای NLP در پایتورچ... در این آموزش، از مباحث مقدماتی (مانند معرفی پایتورچ، توکنایز کردن) تا مباحث پیشرفته (مانند شبکه‌های بازگشتی، اتنشن و ترنسفورمرها) مرور میشه.

لینک ویدئو

@pytorch_howsam

#pytorch_lightning

پکیج PyTorch Lightning، سادگی بیشتری را برای مهندسان یادگیری ماشین به ارمغان می‌آورد.

اگرچه کدنویسی با پایتورچ ساده هست و محققان با آن راحت هستند، اما PyTorch Lightning می‌تواند کار را برای مهندسان آسان کند. مهندسان برخلاف به محققان ممکن‌است چندان علاقه‌مند به جزئیات شبکه‌ها نباشند. بنابراین، احتمالا ترجیح می‌دهند، صرفا با چند خط به اهدافشان برسند و یک شبکه آموزش دهند. به تصویر نگاه کنید؛ بجای حلقه آموزش در پایتورچ، تنها با Trainer در PyTorch Lightning فرآیند آموزش انجام شده است.

درواقع، PyTorch Lightning رو می‌تونیم معادل کراس برای تنسورفلو بدونیم. البته، PyTorch Lightning جزوی از پایتورچ نیست و مستقل درحال توسعه هست.

اخیرا در توییتر، در مورد پکیج PyTorch Lightning زیاد صحبت میشه و فیدبک‌های مثبتی دیده میشه.

پیج PyTorch Lightning

@pytorch_howsam

#paper #pytorch

FlowTron: Improved Text to Speech Engine from NVIDIA

Paper

Code (PyTorch)

@pytorch_howsam

#Colorization #pytorch #cvpr2020

Instance-aware Image Colorization

Previous methods leverage the deep neural network to map input grayscale images to plausible color outputs directly.

21 May 2020

Github Star: 73 (1.26 stars/hour)

Paper | Code | Colab | Website

@pytorch_howsam

#language_modeling #named_entity_recognition #part_of_speech_tagging #text_classification #pytorch

BERTweet: A pre-trained language model for English Tweets

We present BERTweet, the first public large-scale pre-trained language model for English Tweets.

20 May 2020

Github Star: 68 (0.90 stars/hour)

Paper | Code

@pytorch_howsam