تو این پست میخواییم labml.ai رو به شما معرفی کنیم.

اگه به آدرس nn.labml.ai برید، واستون کدهای پایتورچ یکسری از مقاله‌ها رو اومدن خط به خط توضیح دادن. به تصویر بالا نگاه کنید. ببینید چطوری برای هر خط توضیح نوشتن. خودشون گفتن هدفشون جنبه آموزشی داره.

اگه به آدرس papers.labml.ai برید، مقاله‌های ترند رو می‌تونید ببینید. ظاهر خیلی شیکی هم داره.

اگه به آدرس labml.ai برید، به شما این امکان رو میده که فرآیند آموزش مدلتون رو حتی با موبایل مانیتور کنید.

چه مجموعه پرخیر و برکتیه! 😁

@pytorch_howsam

🎞 چگونه مدل‌های کانولوشنی در پایتورچ را فراخوانی کنیم؟

✅ در این ویدئو، به آموزش فراخوانی مدل‌های آماده مانند ResNet در پایتورچ پرداخته‌ایم. بسیار ساده...

تهیه شده در آکادمی هوش مصنوعی هوسم
@howsam_org

اگه دنبال منبع خوب برای پردازش صوت هستید، حتما حتما به کانال یوتیوب آقای Valerio Velardo سر بزنید. آموزش‌های بسیار خوبی داره. 👌

زلفشم که... 😁👌

https://youtube.com/c/ValerioVelardoTheSoundofAI

@pytorch_howsam

دیتاست بزرگ پزشکی MedMnist

دیتاست MedMNIST شامل 12 دیتاست دوبعدی و 6 دیتاست سه بعدی پزشکی هست که با الهام گیری از MNIST ساخته شده.

توی این دیتاست، تصاویر در اندازه 28*28 هستن و طیف وسیعی از داده‌های پزشکی رو شامل میشه. توی تصویر بالا میتونید ببینید.

دیتاست جالبیه! 👏🏻

این لینک گیتهاب دیتاست:
https://github.com/MedMNIST/MedMNIST

این هم یک نمونه کد پایتورچی از کار با دیتاست:
https://github.com/MedMNIST/MedMNIST/blob/main/examples/getting_started.ipynb

@pytorch_howsam

یک فیچر جدید و عالی در گوگل کولب 😍

گوگل کولب، پنجره مشاهده متغیرها رو اضافه کرده! با نام Variable Inspector

همونطور که در تصویر مشاهده می‌کنید، یک گزینه جدید در سمت چپ اضافه شده که لیست متغیرهای موجود در کدها رو نشون میده. شبیه به متلب یا پایچارم...

مثلا الان دو تا متغیر img و label رو همراه با سایز و مقدارشون لیست کرده.

قابلیت جالبیه و البته برای دیباگ کردن خیلی کاربردی هست. فکر می‌کنم در آینده تریس کردن کدها رو هم در کولب ببینیم. 👌

@pytorch_howsam

🔹 هوش مصنوعی GauGAN2 انویدیا از کلمات، تصاویر دقیق و گاهی دلهره‌آور تولید می‌کند

🔹 پروژه‌ی GauGAN2 انویدیا به‌کمک یادگیری عمیق می‌تواند از کلمات و عبارت‌های تایپ‌شده، تصاویری خلق کند که گاه بسیار شبیه به عبارت تایپ‌شده و گاه هنری و گاه بسیار دلهره‌آور هستند.


🔹 شما می‌توانیدبه صفحه‌ی مربوط به پروژه‌ی GauGAN2 بروید و خودتان با این پروژه کار کنید. دقت کنید پس از قبول‌کردن شرایط و ضوابط در انتهای صفحه، در قسمت Input utilization، حتما تیک text را بزنید و برای نتیجه‌ی دقیق‌تر، تیک segmentation را بردارید. سپس، عبارت مدنظرتان را در نوار Input text تایپ و روی دکمه‌ی جهت راست (render output) کلیک کنید. حواستان باشد از فشردن دکمه‌ی اینتر خودداری کنید؛ چون نتایج جست‌وجو را ریست می‌کند.

🚀 @theZoomit

#تمرین

اگه پایتورچ رو یاد گرفتید ولی احساس میکنید هنوز مسلط نشدید، معنیش این هست که باید تمرین کنید و پروژه‌های کوچیک انجام بدید. میدونیم پیدا کردن تمرین و پروژه سخته. از این به بعد یکسری پروژه ساده معرفی میکنیم که اگه وقت بذارید، نتیجش رو میبینید.

✅ به عنوان تمرین اول، شبکه رزنت-18 رو روی دیتاست Oxford 102 Flower آموزش بدید.

🔴 سطح پروژه: مبتدی

پیشنهاد میکنیم مراحل زیر رو انجام بدید:
1- سرچ در گوگل و پیدا کردن این دیتاست و آشنایی باهاش
2- خوندن این دیتاست توی گوگل کولب
3- بررسی اولیه دیتاست (نگاه کردن به تصاویر و کلاس‌ها و ...)
4- نوشتن بخش لود دیتاست با پایتورچ
5- فراخوانی مدل رزنت-18 پری‌ترین
6- تعریف بهینه‌ساز و تابع اتلاف
7- نوشتن بخش ترین و تست
8- شروع ترین و تلاش دیوانه‌وار برای رسیدن به دقت بالا 😅
9- تست‌های نهایی
10- تهیه یک نوتبوک تروتمیز همراه با توضیحات خوب برای هر بخش و قرار دادن در گیتهاب 🤓
11- نوشیدن چای
12- بررسی کدهای لینک زیر که همین تسک رو حل کرده:
https://github.com/Muhammad-MujtabaSaeed/102-Flowers-Classification

الان یکسری، مرحله 1 تا 10 رو ول میکنن و یک لیوان چای برمیدارن و میرن کدهای آماده 12 رو نگاه میکنن 😅 خودت کد بزن که پایتورچ و دیپ با پوست، گوشت و خونت عجین بشه. 😊

@pytorch_howsam

📈 آیا جهش دقت یا دراپ اتلاف را تابحال به‌صورت عملی دیده‌اید؟

🎞 در این ویدئو، این جهش دقت و دراپ اتلاف روی تنسوربرد نشان داده شده است. این جهش در اثر تغییر مقدار نرخ یادگیری در یک موقعیت مناسب حین آموزش شبکه به‌دست آمده است.

✅ این ویدئو، بخشی از جلسه صفر دوره بینایی کامپیوتر حرفه‌ای است. در جلسه صفر، آموزش دادن شبکه عصبی کانولوشن به‌صورت عملی تشریح شده است.

🌐 دوره بینایی کامپیوتر حرفه‌ای هوسم:
https://howsam.org/downloads/computer-vision-course/

@howsam_org

🔥 یه کانال یوتیوب بمب! 🔥

با سایت W&B آشنا هستید؟ قبلا اینجا معرفیش کردیم.

این سایت یه کانال یوتیوب خفن داره. واقعا ارزش این رو داره که تا یه مدتی روزی یک ساعت براش وقت بذارید و ویدئوهاشو ببینید. لینک کانال

مثلا یه نمونه آموزشش رو بهتون معرفی کنم: ریاضیات برای یادگیری ماشین. الان یکسری قلبشون شروع میکنه به تندتند زدن! 😅

توی هفت تا ویدئوی 30 40 دقیقه‌ای اومده ریاضیات موردنیاز رو گفته. حالا چه شاخه‌هایی از ریاضی رو گفته؟ اینا:
1- جبر خطی
2- حساب (مشتق)
3- آمار
4- احتمال

هرکی ریاضیش ضعیفه حتما این رو ببینه. اینم لینک

@pytorch_howsam

سوال: چرا با هربار آموزش شبکه عصبی به یک دقت متفاوت می‌رسم؟

@pytorch_howsam

📝 لیستی از منابع آموزشی خوب برای شبکه GAN

📘 کتاب GANs in Action:
https://github.com/GANs-in-Action/gans-in-action

📑 وبلاگ آشنایی مقدماتی با GAN:
https://wiki.pathmind.com/generative-adversarial-network-gan

🌐 گیتهاب مجموعه کدهای GAN با پایتورچ:
https://github.com/eriklindernoren/PyTorch-GAN

🌐 گیتهاب مجموعه کدهای GAN با تنسورفلو:
https://github.com/YadiraF/GAN

🌐 گیتهاب مجموعه کدهای GAN با کراس:
https://github.com/eriklindernoren/Keras-GAN

🎞 دوره‌ ویدیویی کورسرا:
https://www.coursera.org/specializations/generative-adversarial-networks-gans

📑 وبلاگ آشنایی مقدماتی با GAN هوسم:
https://howsam.org/generative-adversarial-network/

@pytorch_howsam

با ترجمه ماشینی یا Machine Translation آشنا هستید؟

ساختار بالا مربوط به شبکه‌های بازگشتی هست. اغلب از این ساختار در ترجمه ماشینی یا همان Machine Translation استفاده می‌شود.

این ساختار شامل دو بخش انکدر و دیکدر هست. در بخش‌های انکدر و دیکدر شبکه‌های بازگشتی مانند RNN LSTM GRU قرار داده می‌شود.

تصور کنید می‌خواهیم جمله‌ای را از زبان انگلیسی به زبان فرانسوی (فارسی یا آلمانی یا هر زبان دیگری) ترجمه کنیم. پس زبان مبدا: انگلیسی و زبان مقصد: فرانسوی.

ابتدا در بخش انکدر، جمله انگلیسی وارد شبکه بازگشتی می‌شود و درنهایت پس از پردازش، یک بردار ویژگی به عنوان hidden state حاصل می‌شود.

این بردار ویژگی به عنوان hidden state اولیه در اختیار بخش دیکدر قرار می‌گیرد. حالا دیکدر شروع می‌کند به دیکد کردن hidden state و یکی پس از دیگری کلمات در زبان مقصد (فرانسوی) را می‌سازد.

نکته: در دیکدر، خروجی مرحله قبل به عنوان ورودی در مرحله بعدی استفاده می‌شود. به فلش‌ها در بخش دیکدر دقت کنید.

منبع برای مطالعه بیشتر:
1- towardsdatascience
2- pytorch
3- youtube

سلام
اما جواب سوال بالا:
اول این نکته را مدنظر داشته باشید که تابع پله یک تابع پیوسته نیست. از این تابع نمی‌توانیم مشتق بگیریم.

دوم، فرآیند آموزش یک شبکه عصبی با الگوریتم‌های بهینه‌سازی مانند گرادیان کاهشی با مشتق‌گیری همراه هست.

با درنظر گرفتن دو مورد بالا، به این نتیجه می‌رسیم که از تابع پله نمی‌توان به عنوان فعال‌ساز استفاده کرد. پس جواب خیر هست!

اگر به فرآیند آموزش شبکه عصبی مسلط نیستید، منتظر یک پست ویدیویی کوتاه باشید.

@pytorch_howsam