شبکه ترنسفورمر در کامپیوترویژن

احتمالا میدونید که شبکه ترنسفورمر، در حوزه NLP بسیار پرکاربرد هست. در سال 2021 گوگل مقاله‌ای داد و از شبکه ترنسفمورمر برای کلاسبندی تصاویر در کامپیوترویژن استفاده کرد. این کار موردتوجه محققها قرار گرفت و حالا در این راستا پشت هم مقاله چاپ میشه.

اگر میخوایید با ترنسفورمر در بینایی کامپیوتر آشنا بشید، لیست زیر رو از دست ندید...

اگر با ترنسفورمر اصلا آشنا نیستید، این آموزش همراه با انیمیشن و تصویرسازی رو از دست ندید:
https://jalammar.github.io/illustrated-transformer/

اگر ترنسفورمر رو بلدید ولی میخوایید ترنسفورمر در کامپیوترویژن رو یاد بگیرید، وبلاگ زیر رو از دست ندید:
https://iaml-it.github.io/posts/2021-04-28-transformers-in-vision/

@howsam_org

یادگیری تقویتی با پایتورچ

لینک شامل مجموعه‌ای پروژه یادگیری تقویتی با پایتورچ هست. پروژه‌های خوب و البته کدهای منظم!

https://github.com/gordicaleksa/pytorch-learn-reinforcement-learning

@pytorch_howsam

تز دکترای Andrej Karpathy که درباره کانکشن بین پردازش زبان طبیعی و کامپیوتر ویژن نوشته شده.

به طور خاص مبحث image captioning
که برای علاقمندان این حوزه می تونه مفید باشه.

https://cs.stanford.edu/people/karpathy/main.pdf

با تشکر از امیررضا عزیز

@pytorch_howsam

پایتورچ 10 مدل مختلف با کد آماده برای اندروید و iOS آماده کرده که میتونه روی موبایل اجرا بشه.

خیلی‌ها دنبال همچین سورس کدهای آماده ای بودن. مدلها هم کاربردهای مختلفی مثل image classification، segmentation، object detection، text classification داره.

این هم لینک 10 مدل موبایلی:
https://pytorch.org/blog/mobile-demo-apps-overview/

@pytorch_howsam

38 نکته برای مقاله نویسی

در این pdf، نکاتی درباره نوشتن بخش‌های مختلف یک مقاله گفته شده.

نکات جالبی گفته که حتی در نوشتن پایان‌نامه به زبان فارسی هم میتونه مفید باشه.

ترجمش کنیم بذاریم توی سایت. نظرتون چیه؟ راستی اگه شما هم منبع خوبی میشناسید، لطفا معرفی کنید. 🌺🙏

https://www.et.byu.edu/~wheeler/scientific_paper_guide.pdf

@pytorch_howsam

مکالمه رایج بین ما و دانشجویان در خصوصی (هفته‌‌ای سیصدمیلیارد بار 😅):

+ یک تمرین/پروژه دارم انجام میدید؟
- خیر
+ کسی رو نمیشناسید که انجام بده؟
- خیر 😭😭😭😭

سوال دومی بیشتر اشکمون رو درمیاره. نمیدونم چرا! شاید چون حس میکنیم از آموزشکده بودن به بنگاه انجام پروژه تغییر صنف داشتیم.

ما کلا با انجام پروژه مخالفیم. خب واقعا وظیفه خود دانشجو هست. حالا چرا دانشجو یک دوره 250 هزار تومانی رو گرون میدونه و هزينه نمیکنه، ولی میلیونی برای انجام پروژه/تمرین پول میده؟! این پروژه های ارشد اونقدرم سخت نیست. اگه همون هزینه پروژه رو صرف آموزشش کنه، هم یه چیزی یاد گرفته و هم اینکه خودش تونسته یک کار ماندگار برای خودش بذاره که بعدا هروقت پایان‌نامش رو ورق بزنه کیف کنه. انقدر لذتبخشه ورق زدن پايان نامه خودت. 😅

پ.ن: هدف تبلیغاتی نداشتیم، صرفا از سر دلسوزی بود. 😊

@pytorch_howsam

آقای هانتر در حال کار روی داده‌های EEG بود که مجبور شد به پایتون مهاجرت کند.

بعد از این مهاجرت، او برای رسم نمودارهایش در پایتون به مشکل خورد و نتوانست پکیجی پیدا کند که نیازهایش را برطرف سازد.

به همین دلیل آستین‌هایش را بالا زد و شروع کرد به نوشتن کتابخانه‌ای که نیازهایش را برطرف کند!

هدف او این بود که قابلیت‌های متلب در رسم نمودار را به کتابخانه پایتونی‌اش منتقل کند.

او موفق شد در سال 2003 اولین نسخه از کتابخانه matplotlib را منتشر کند.

آموزش matplotlib رایگان در هوسم:
https://howsam.org/matplotlib-tutorial/

@howsam_org

یک کرش کورس برای scikit-learn

لینک زیر یک ویدئوی 3 ساعته از فریمورک عالی scikit-learn هست. شما رو با بخش مهم پیش پردازش، مدلهای یادگیری ماشین و متریکها آشنا میکنه.

https://www.youtube.com/watch?v=0B5eIE_1vpU

@pytorch_howsam

حتما میدونید که توی توییتر مقاله‌های مهم ترند میشه.

حالا سایت زیر، مقاله‌های ترندشده در توییتر رو بهتون نشون میده. میتونید روی هرکدوم از مقالات کلیک کنید، چکیدش رو بخونید و حتی توییت‌هایی که براش زده شده رو هم ببینید.

واقعا ابزار کارآمدی هست. راحت توی گوشی هم میشه این کار رو انجام داد.

https://papers.labml.ai/papers/daily/

@pytorch_howsam

خب خب کم کم پایان نامه و مقاله هاتون رو جمع و جور کنید که...

متن زیر، توییت اکانت MIT CSAIL هست: 😁
"Debugging is like being the detective in a crime movie where you are also the murderer."
- Filipe Fortes

میگه، دیباگ کردن یعنی اینکه کارآگاه یک فیلم جنایی هستی، ولی درعین حال قاتلم خودتی! 😁😁

واقعا قشنگ بود. دیباگ کردن هم یک مهارته که خیلی ها اون رو یاد نمیگیرن. اتفاقا خیلی اوقات شده که دانشجوها با خطاهاشون به ما مراجعه میکنن و بعد ما یکی دو تا خطا رو راهنمایی میکنیم ولی همینطوری ادامه میدن و خطاهای دیگه رو اسکرین شات میگیرن و میفرستن.

بعدش میگیم ببین این خطاها خیلی ساده هست، این خطاها رو با خوندن و سرچ کردن میتونی رفع کنی. میگه حالا این یکی رو هم بگو. یا اینکه تشکر میکنه و میره تو یک گروه دیگه یا از فردی دیگه میپرسه.

این اشتباهه. اگه فرد دنبال این باشه که به هر روشی که شده به هدفش برسه، میشه یک خونه ای که ساخته شده ولی با یک زلزله یک ریشتری هم فرو میریزه.

حالا ما چند نکته ساده درباره دیباگ کردن میگیم:
1- صبور باش 😁
2- متن خطا رو بخون کلمه به کلمه
3- محل دقیق خطا رو شناسایی کن و کدهای اون قسمت رو دقیق بررسی کن.
4- سرچ کن. متن اصلی خطا رو سرچ کن و پیجهای stackoverflow و github رو بخون.
5- حواست به تغییراتی که ایجاد میکنی باشه. اینجوری نباشه اونقدر تغییر بدی که کلاف درهم پیچیده بشه.
6- حذف نکن، کامنت کن. قبلی ها رو حذف کنی، داستان میشه.
7- بازم صبور باش 😁

خفنهای کانال و گروه شما چه پیشنهادهایی برای دیباگ دارید؟

@pytorch_howsam

دیتا آگمنت در تصاویر پزشکی با TorchIO

این یک لایبرری پایتورچی هست که میتونید برای آگمنت تصاویر پزشکی ازش استفاده کنید.

تصویر بالا هم آگمنت random affine هست.

https://github.com/fepegar/torchio

@pytorch_howsam

کتابخانه ensemble learning با پایتورچ

حتما با ensemble learning آشنا هستید. روش محبوبی هست که یک گروه از شبکه‌ها یا مدل‌ها در تصمیم‌گیری شرکت دارن.

لینک زیر یک کتابخونه هست که کار رو راحت کرده و یکسری روش‌های معروفش رو آماده کرده که به راحتی میتونید ازشون استفاده کنید و کمتر کد بزنید. پایتورچی هم هست.
https://ensemble-pytorch.readthedocs.io/en/stable/

حسن یزدانی هم باخته، اعصابمونم خورده... 😕

@pytorch_howsam

✅ وبلاگ آموزش شبکه عصبی کانولوشن هوسم یکی از پرطرف‌دارترین آموزش‌های هوسم است. دانشجویان ساعت‌ها زمان صرف مطالعه آن می‌کنند و 100 کامنت داشته است. لینک آموزش

✅ تعدادی از کامنت‌های دانشجویان برای آموزش شبکه عصبی کانولوشن را در ادامه بخوانید:

1⃣ با سلام …من در حال آموزش طی یک دوره حضوری در یکی از مراکز تاپ اموزشی توی زمینه دیپ لرنینگم …ولی واقعا بعد از حدود ۴۵ ساعت آموزشی ک تا الان دیدم به جرات میتونم بگم درکی که توی این چن ساعت مطالعه مطالب رایگان شما داشتم واقعا خیلی خیلی مفیدتر بوده…انشالله بعد اتمام این دوره در جریانم حتما دانشجوی دوره های تصویری شما هم خواهم بود…خیلی خیلی ممنون بابت زحماتتون

2⃣ از شدت خفن بودنتون همینجور موندم عالیییی بود عالییییییییییییییی

3⃣ دوستان گرامی ، براتون قلبا آرزوی موفقیت می کنم
بسیار بیان شیوا و عالی دارید . خدا قوت .
هیات علمی دانشگاه آزاد اسلامی

4⃣ سلام خدا قوت
جامع و کامل بود
کلی سوال بی جواب منو جواب داد
ممنون

5⃣ با سلام خدمت تیم هوسم
من کلی سایت خارجی و فارسی رو در مورد شبکه عصبی کانولوشن مطالعه کردم و کلی سوال، بی جواب برام موند.
ولی شما در این سایت بسیار ساده و روان تمام مفاهیم مهم و اصلی رو توضیح دادید.
ممنون از شما
باز هم به هوسم سر میزنم
به امید آموزش های بیشتر

6⃣ چرا انقد خوبه آخه سایتتون؟! :((
هیچ منبعی رو سراغ ندارم که انقدر ساده و شیوا تشریح کرده باشه مفاهیم رو، حتی منابعی که هزینه دریافت میکنند!
مارو گرفتار آموزشاتون کردید رفت …
بهترین هارو برای تیم باانگیزه و پرقدرتتون آرزو دارم
دستمریزاد!

7⃣ سلام
موافق نظر بقیه دوستان مبنی بر اینکه فوق العاده ساده و شفاف و فوقالعاده توضیح داده شده و اصلاً قابل مقایسه با آموزش در سایتهای دیگه نیست کاملاً موافقم. بعنوان یک مدرس، اصلاً اهل نظر دادن در سایتها نیستم ولی اینقدر مطلب از همه نظر جذاب و عالی بود که حیفم اومد نظر ندم.
دست مریزاد و خدا قوت.

8⃣ سلام،
نحوه توضیح و مثال ها به اندازه ای خوانا بود که باعث شد چند ساعتی بشینم و کامل تمام آموزش رو از اول مطالعه کنم. خسته نباشید و خدا قوت به خاطر وقتی که میذارید و این مطالب رو آماده می کنید. این نوع توضیح دادن نشان دهنده درک بالا و عمقی شما در این زمینه می باشد. امیدورام که این آموزش ها با ویدیو هم همراه باشه. و به عنوان پیشنهاد هم میتونید یک بخش به سایت اضافه کنید که در مورد مقالات هات و روز دنیا صحبت کنید و توضیح بدید. مقالاتی مثل BERT , MT_DNN, GPT3 و … این بخش باعث میشه افراد مختلف وب سایت شما رو همیشه چک کنند و به روز باشند.
تشکر از زحماتتون

✅ سپاس از تمام عزیزانی که نظر و پیشنهادهای خود را با ما به اشتراک گذاشتند. از خواندن تک‌تک پیام‌های شما لذت میبریم و انگیزه‌مان بیشتر می‌شود. 🌹

@howsam_org

سلام سلام

گوگل از یک پلن جدید برای کولب رونمایی کرده. + Colab pro

از نکات جالب این پلن، امکان اجرای کد در بکگراند هست. یعنی کولب رو ببندید هم کد اجرا میشه!

هزینش برای ما دور از دسترسه متاسفانه...

@pytorch_howsam

کتاب و کورس ویدیویی رایگان برای یادگیری ماشین. مجموعه ارزشمندیه...

The code from the Machine Learning Bookcamp book and a free course based on the book.

https://github.com/alexeygrigorev/mlbookcamp-code

@pytorch_howsam

تو این پست میخواییم labml.ai رو به شما معرفی کنیم.

اگه به آدرس nn.labml.ai برید، واستون کدهای پایتورچ یکسری از مقاله‌ها رو اومدن خط به خط توضیح دادن. به تصویر بالا نگاه کنید. ببینید چطوری برای هر خط توضیح نوشتن. خودشون گفتن هدفشون جنبه آموزشی داره.

اگه به آدرس papers.labml.ai برید، مقاله‌های ترند رو می‌تونید ببینید. ظاهر خیلی شیکی هم داره.

اگه به آدرس labml.ai برید، به شما این امکان رو میده که فرآیند آموزش مدلتون رو حتی با موبایل مانیتور کنید.

چه مجموعه پرخیر و برکتیه! 😁

@pytorch_howsam

🎞 چگونه مدل‌های کانولوشنی در پایتورچ را فراخوانی کنیم؟

✅ در این ویدئو، به آموزش فراخوانی مدل‌های آماده مانند ResNet در پایتورچ پرداخته‌ایم. بسیار ساده...

تهیه شده در آکادمی هوش مصنوعی هوسم
@howsam_org

اگه دنبال منبع خوب برای پردازش صوت هستید، حتما حتما به کانال یوتیوب آقای Valerio Velardo سر بزنید. آموزش‌های بسیار خوبی داره. 👌

زلفشم که... 😁👌

https://youtube.com/c/ValerioVelardoTheSoundofAI

@pytorch_howsam

دیتاست بزرگ پزشکی MedMnist

دیتاست MedMNIST شامل 12 دیتاست دوبعدی و 6 دیتاست سه بعدی پزشکی هست که با الهام گیری از MNIST ساخته شده.

توی این دیتاست، تصاویر در اندازه 28*28 هستن و طیف وسیعی از داده‌های پزشکی رو شامل میشه. توی تصویر بالا میتونید ببینید.

دیتاست جالبیه! 👏🏻

این لینک گیتهاب دیتاست:
https://github.com/MedMNIST/MedMNIST

این هم یک نمونه کد پایتورچی از کار با دیتاست:
https://github.com/MedMNIST/MedMNIST/blob/main/examples/getting_started.ipynb

@pytorch_howsam

یک فیچر جدید و عالی در گوگل کولب 😍

گوگل کولب، پنجره مشاهده متغیرها رو اضافه کرده! با نام Variable Inspector

همونطور که در تصویر مشاهده می‌کنید، یک گزینه جدید در سمت چپ اضافه شده که لیست متغیرهای موجود در کدها رو نشون میده. شبیه به متلب یا پایچارم...

مثلا الان دو تا متغیر img و label رو همراه با سایز و مقدارشون لیست کرده.

قابلیت جالبیه و البته برای دیباگ کردن خیلی کاربردی هست. فکر می‌کنم در آینده تریس کردن کدها رو هم در کولب ببینیم. 👌

@pytorch_howsam