Vision Transformer

در سال 2021 شاهد رشد ترنسفورمر در کامپیوتر ویژن هستیم. مقاله‌های جالبی هم منتشر شده و کم کم درحال ورود به شاخه‌های مختلف در کامپیوتر ویژن هست.

تصاویر بالا هم مربوط میشه به مقاله گوگل که تصویر ورودی با یک لایه کانولوشن پچ‌بندی میکنه و میده به ترنسفورمرها.

در لینک مجموعه مقالات ویژن ترنسفورمر جمع‌آوری شده.
https://github.com/dk-liang/Awesome-Visual-Transformer

نگران سخت افزار نباشید. می‌تونید توی کولب هم شبکه‌ای مثل ترنسفورمر 12 لایه رو ترین کنید.

@pytorch_howsam

SpeechBrain is an open-source and all-in-one speech toolkit based on PyTorch.

یک لایبرری خوب پایتورچی برای speech

داکیومنت

@pytorch_howsam

Whatsup people 🤙🏼,

Today is ICCV submission deadline. And it is very tricky to write a good Introduction in your paper.

But today Prof. Kate Saenko (our Russian speaking part of the channel should probably know her) shares her experience and shows a template which she gives to new graduate students 🙂.
#phd_tips

🌐 How to Write the Introduction in 3 Easy Steps.

معضل رنگ و زیبایی نمودارها

اگه نمودار می‌کشید ولی دلچسب نیست، پیشنهاد میکنم یک نگاهی به لینک زیر بندازید.


درباره رنگ‌ها و نحوه انتخاب طیف رنگی مناسب باتوجه به میزان اهمیتشون توضیح داده. تصویر بالا رو ببینید، انصافا قشنگن 😍

https://blog.datawrapper.de/quantitative-vs-qualitative-color-scales/

@howsam_org

سایتی برای کمک در مصاحبه دیتاساینس

سایت زیر شامل یک مجموعه دسته بندی شده و منظم از نمونه سوالات دیتاساینس در مصاحبه ها و پاسخ‌هاش هست.
https://ds-interviews.org/

جدا از مصاحبه و کار، سوالاتش میتونه محک خوبی برای ارزیابی دانش خودمون باشه. مثلا چندتا از سوالات رگرسیون خطی ساده رو میتونیم جواب بدیم.

@pytorch_howsam

دیتاست خودرو BOXY

یک دیتاست بزرگ برای خوردو از Bosch
ویژگی‌های دیتاست BOXY:
- 200 هزار تصویر
- حدود 2 میلیون وسیله نقلیه لیبل‌خورده
- تصاویر 5 مگاپیکسلی
- چالش‌های نوری، آب‌و‌هوایی، ترافیک و غیره
- و البته باکس دیتکشن دو بعدی و سه بعدی!!

باکس دوبعدی و سه بعدی رو توی تصویر بالا ببینید.

https://boxy-dataset.com/boxy/

@pytorch_howsam

چیت‌شیت عالی برای شبکه کانولوشنی

خب جالبش اینه که دو نفر ایرانی این رو ساختند و معلومه که خیلی وقت گذاشتند. مفاهیم، شکل‌ها و انمیشین‌ها و... همه خوب هستند. همه مفاهیم مهم درمورد شبکه عصبی کانولوشن...

https://stanford.edu/~shervine/teaching/cs-230/cheatsheet-convolutional-neural-networks

ترجمه فارسی هم داره که خب خیلی دلچسب نبود متاسفانه. مثلا هایپرپارامتر رو ابرافراسنج ترجمه کرده بودن. چند بار نگاه کردم که یادم بمونه 😅 این اسم منو یاد اسم این شرکتا میندازه، جهان گستر پویان نیکان اندیش پارسه (همه اینا باهم یک شرکته) 😁

به نظر شما این اصلاحات اصلی مثل کانولوشن، پولینگ، بچ‌نرم و غیره رو باید ترجمه کنیم یا نه؟

من نظرم اینه که کارمون زبان اصلی هست دیگه، اصلی‌ها رو ترجمه نکنیم بهتره.

@pytorch_howsam

یک کورس جامع برای احتمال

لینک

@pytorch_howsam

Make your code clearer, more concise, and more Pythonic with Sourcery's coding assistant.
ابزار sourcery کد پایتون‌تون رو ریفکتور و تمیز می‌کنه. برای PyCharm و VSCode هم addOn آماده داره.

#python #refactor #clean #cleancode #refactoring #tools #pycharm #vscode
@pythony

https://sourcery.ai

📌 مطیعی: افزایش وام ویژه دکتری به یک میلیون تومان در ماه/ واریز اولین دوره وام از پایان فروردین مرجع خبر

عالی، ممنون. چطوری دانشجوهای دکترا خرجش کنن؟! ‌

ده سال 700 هزار تومن بود!

چقدر با سایت wandb.ai آشنا هستید؟

سایتی برای ویژوالایز کردن، دنبال کردن آموزش مدل، ورژن‌بندی کردن مدل‌ها و...

خیلی راحت توی کد پایتورچ می‌تونید ازش استفاده کنید. بعد نتایج آزمایش‌ها روی توی سایت wandb توی داشبورد خودتون می‌بینید.

مثلا به تصویر بالا نگاه کنید؛ نمودارها نشون دهنده شرایط GPU حین آموزش شبکه هست.

کار باهاش بسیار راحته و برای کارهای تک‌نفره رایگانه.

@pytorch_howsam

لینک زیر، یک نوتبوک کولب هست که کدهای آماده شکل زیبای بالا رو داره.

میتونید سیو کنید و چنانچه جایی خواستید نمودار قشنگ بکشید، ازش استفاده کنید.


https://colab.research.google.com/github/tvhahn/Beautiful-Plots/blob/master/Decision%20Boundary/decision-boundary.ipynb#scrollTo=9Jv6CJylATDi

@pytorch_howsam

بعد از کارهای موفق در حوزه متحرک‌سازی چهره، حالا شاهد متحرک‌سازی بدن انسان هستم. ویدئو رو ببینید...

گیتهاب

@pytorch_howsam

چقدر پیش اومده که مقاله، گزارش پروژه، سمینار، پایان‌نامه و غیره نوشتید و گفتید دیگه تماااام!
بعد دیدید، ای بابا بازهم ایرادهایی مثل شماره شکل‌ها وجود داره که فراموش کردید چک کنید.

خبر خوب اینکه خیلی‌ها اینطوری هستند و شما تنها نیستید! 😀

خبر خوب‌تر اینکه، لینک زیر شامل یک چک‌لیست هست که می‌تونید قبل از نهایی کردن کار، هرکدوم از این موارد رو چک کنید و مطمئن بشید.

https://github.com/philippbayer/submission_checklist/blob/main/README.md

@pytorch_howsam

شبکه ترنسفورمر در کامپیوترویژن

احتمالا میدونید که شبکه ترنسفورمر، در حوزه NLP بسیار پرکاربرد هست. در سال 2021 گوگل مقاله‌ای داد و از شبکه ترنسفمورمر برای کلاسبندی تصاویر در کامپیوترویژن استفاده کرد. این کار موردتوجه محققها قرار گرفت و حالا در این راستا پشت هم مقاله چاپ میشه.

اگر میخوایید با ترنسفورمر در بینایی کامپیوتر آشنا بشید، لیست زیر رو از دست ندید...

اگر با ترنسفورمر اصلا آشنا نیستید، این آموزش همراه با انیمیشن و تصویرسازی رو از دست ندید:
https://jalammar.github.io/illustrated-transformer/

اگر ترنسفورمر رو بلدید ولی میخوایید ترنسفورمر در کامپیوترویژن رو یاد بگیرید، وبلاگ زیر رو از دست ندید:
https://iaml-it.github.io/posts/2021-04-28-transformers-in-vision/

@howsam_org

یادگیری تقویتی با پایتورچ

لینک شامل مجموعه‌ای پروژه یادگیری تقویتی با پایتورچ هست. پروژه‌های خوب و البته کدهای منظم!

https://github.com/gordicaleksa/pytorch-learn-reinforcement-learning

@pytorch_howsam

تز دکترای Andrej Karpathy که درباره کانکشن بین پردازش زبان طبیعی و کامپیوتر ویژن نوشته شده.

به طور خاص مبحث image captioning
که برای علاقمندان این حوزه می تونه مفید باشه.

https://cs.stanford.edu/people/karpathy/main.pdf

با تشکر از امیررضا عزیز

@pytorch_howsam

پایتورچ 10 مدل مختلف با کد آماده برای اندروید و iOS آماده کرده که میتونه روی موبایل اجرا بشه.

خیلی‌ها دنبال همچین سورس کدهای آماده ای بودن. مدلها هم کاربردهای مختلفی مثل image classification، segmentation، object detection، text classification داره.

این هم لینک 10 مدل موبایلی:
https://pytorch.org/blog/mobile-demo-apps-overview/

@pytorch_howsam

38 نکته برای مقاله نویسی

در این pdf، نکاتی درباره نوشتن بخش‌های مختلف یک مقاله گفته شده.

نکات جالبی گفته که حتی در نوشتن پایان‌نامه به زبان فارسی هم میتونه مفید باشه.

ترجمش کنیم بذاریم توی سایت. نظرتون چیه؟ راستی اگه شما هم منبع خوبی میشناسید، لطفا معرفی کنید. 🌺🙏

https://www.et.byu.edu/~wheeler/scientific_paper_guide.pdf

@pytorch_howsam

مکالمه رایج بین ما و دانشجویان در خصوصی (هفته‌‌ای سیصدمیلیارد بار 😅):

+ یک تمرین/پروژه دارم انجام میدید؟
- خیر
+ کسی رو نمیشناسید که انجام بده؟
- خیر 😭😭😭😭

سوال دومی بیشتر اشکمون رو درمیاره. نمیدونم چرا! شاید چون حس میکنیم از آموزشکده بودن به بنگاه انجام پروژه تغییر صنف داشتیم.

ما کلا با انجام پروژه مخالفیم. خب واقعا وظیفه خود دانشجو هست. حالا چرا دانشجو یک دوره 250 هزار تومانی رو گرون میدونه و هزينه نمیکنه، ولی میلیونی برای انجام پروژه/تمرین پول میده؟! این پروژه های ارشد اونقدرم سخت نیست. اگه همون هزینه پروژه رو صرف آموزشش کنه، هم یه چیزی یاد گرفته و هم اینکه خودش تونسته یک کار ماندگار برای خودش بذاره که بعدا هروقت پایان‌نامش رو ورق بزنه کیف کنه. انقدر لذتبخشه ورق زدن پايان نامه خودت. 😅

پ.ن: هدف تبلیغاتی نداشتیم، صرفا از سر دلسوزی بود. 😊

@pytorch_howsam

آقای هانتر در حال کار روی داده‌های EEG بود که مجبور شد به پایتون مهاجرت کند.

بعد از این مهاجرت، او برای رسم نمودارهایش در پایتون به مشکل خورد و نتوانست پکیجی پیدا کند که نیازهایش را برطرف سازد.

به همین دلیل آستین‌هایش را بالا زد و شروع کرد به نوشتن کتابخانه‌ای که نیازهایش را برطرف کند!

هدف او این بود که قابلیت‌های متلب در رسم نمودار را به کتابخانه پایتونی‌اش منتقل کند.

او موفق شد در سال 2003 اولین نسخه از کتابخانه matplotlib را منتشر کند.

آموزش matplotlib رایگان در هوسم:
https://howsam.org/matplotlib-tutorial/

@howsam_org