دوره یادگیری عمیق

اسفند ماه ۱۳۹۹ - به مدت ۲۴ ساعت

استاد درس: مهندس علیرضا اخوان

از سری درس های دوره ۳۵۰ ساعته جامع علم داده دانشگاه تهران

توضیحات تکمیلی و ثبت نام:
https://utperm.com/course/ds-code8/

⁉️ پشتیبانی آنلاین تلگرام:
👤 @bperm_admin

📞 شماره تماس:
▫️ 02182084160
▫️ 09377516759

🆔 @BPERM_UT
📚 Instagram: https://bit.ly/3gfYl5f

یک روش train شبکه های عمیق که باعث میشود با استفاده از بعضی از GPU ها سرعت اجرای بیشتر داشته باشیم و از memory کم تری استفاده شود. این روش هم زمان از نرخ دقت float32 و float16 بهره می برد.


Mixed precision is the use of both 16-bit and 32-bit floating-point types in a model during training to make it run faster and use less memory. By keeping certain parts of the model in the 32-bit types for numeric stability, the model will have a lower step time and train equally as well in terms of the evaluation metrics such as accuracy.

https://www.tensorflow.org/guide/mixed_precision

🙏 Thanks to : @Saeed_khanehgir

TransGAN: Two Transformers Can Make One Strong GAN
Submitted on 14 Feb 2021

The recent explosive interest on transformers has suggested their potential to become powerful "universal" models for computer vision tasks, such as classification, detection, and segmentation. However, how further transformers can go - are they ready to take some more notoriously difficult vision tasks, e.g., generative adversarial networks (GANs)? Driven by that curiosity, we conduct the first pilot study in building a GAN completely free of convolutions, using only pure transformer-based architectures. Our vanilla GAN architecture, dubbed TransGAN, consists of a memory-friendly transformer-based generator that progressively increases feature resolution while decreasing embedding dimension, and a patch-level discriminator that is also transformer-based. We then demonstrate TransGAN to notably benefit from data augmentations (more than standard GANs), a multi-task co-training strategy for the generator, and a locally initialized self-attention that emphasizes the neighborhood smoothness of natural images. Equipped with those findings, TransGAN can effectively scale up with bigger models and high-resolution image datasets. Specifically, our best architecture achieves highly competitive performance compared to current state-of-the-art GANs based on convolutional backbones. Specifically, TransGAN sets new state-of-the-art IS score of 10.10 and FID score of 25.32 on STL-10. It also reaches competitive 8.64 IS score and 11.89 FID score on Cifar-10, and 12.23 FID score on CelebA 64×64, respectively. We also conclude with a discussion of the current limitations and future potential of TransGAN.

Paper: https://arxiv.org/abs/2102.07074
Code: https://github.com/VITA-Group/TransGAN

دموی دوره ی تخصصی rnn ها که سایر نوت بوک های این بحث هم توضیح داده شده در آپارات قرار داره:
https://www.aparat.com/v/teHmF

مباحث شامل مباحث زیر است

قسمت اول – ۱۸ دقیقه – مقدمات شبکه های بازگشتی

قسمت دوم – ۲۱ دقیقه – یک سلول (واحد) بازگشتی ساده و شبکه بازگشتی

قسمت سوم – ۳۲ دقیقه – پیاده‌سازی تخمین تابع با شبکه‌های بازگشتی ساده

قسمت چهارم – ۴ دقیقه – طول دنباله متغیر در شبکه‌های بازگشتی (۱)

قسمت پنجم – ۱۱ دقیقه – طول دنباله متغیر در شبکه‌های بازگشتی (۲)

قسمت شـشـم – ۱۹ دقیقه – محو شدگی و انفجار گرادیان‌ها در شبکه‌های بازگشتی

قسمت هفتم – ۲۶ دقیقه – شبکه‌های GRU

قسمت هشتم – ۸ دقیقه – شبکه‌های LSTM

قسمت نهم – ۹ دقیقه – دیاگرام شبکه‎های LSTM

قسمت دهم – ۹ دقیقه – مثال‌هایی از داده‌های توالی و ترتیبی

قسمت یازدهم – ۵ دقیقه – شبکه‌های بازگشتی عمیق

قسمت دوازدهم – ۳۴ دقیقه – تخمین قیمت ارزهای دیجیتال – پیش‌پردازش داده

قسمت سیزدهم – ۲۲ دقیقه – تخمین قیمت ارزهای دیجیتال – بالانس کردن داده‌ها و آموزش

قسمت چهاردهم – ۳۴ دقیقه – شبکه‌های بازگشتی برای طبقه‌بندی ویدیو – مثال تشخیص جهت حرکت توپ

قسمت پانزدهم – ۴۱ دقیقه – مثال دوم طبقه‌بندی ویدیو – بازشناسی عملکرد در ویدیو

قسمت شانزدهم – ۳۲ دقیقه – درک بردار کلمات و بازنمایی آن‌ها

قسمت هفدهم – ۱۱ دقیقه – ویژگی‌های بازنمایی کلمات و لایه Embedding

قسمت هجدهم – ۲۷ دقیقه – مثال عملی آنالوژی با بردار کلمات

قسمت نوزدهم – ۱۴ دقیقه – طبقه‌بندی متن

قسمت بـیـسـتـم – ۲۰ دقیقه – پیاده‌سازی طبقه‌بندی متن با روش Bag-of-Embeddings

قسمت بیست و یکم – ۲۹ دقیقه – طبقه‌بندی متن با شبکه بازگشتی

قسمت بیست و دوم – ۵۷ دقیقه – مدل زبانی – تولید اشعاری شبیه به شاهنامه

قسمت بیست و سوم –۱۶ دقیقه – جمع‌بندی و معرفی شبکه‌های بازگشتی دوطرفه

قسمت بیست و چهارم – ۱۴ دقیقه – مدل‌های توالی به توالی

قسمت بیست و پنجم – ۲۷ دقیقه – مثال عملی Seq2Seq برای فهم رشته عملیات ریاضی

قسمت بیست و شـشـم – ۱۵ دقیقه – مقدمات ترجمه ماشینی

قسمت بیست و هفتم – ۱۵ دقیقه – الگوریتم جست و جوی پرتو

قسمت بیست و هشـتم – ۶۰ دقیقه – مکانیزم توجه در ترجمه ماشینی

قسمت بیست و نهم – ۳۰ دقیقه – پیاده‌سازی ترجمه ماشینی در کراس برای تبدیل تاریخ

قسمت سـی‌ام – ۱۵ دقیقه – روش کمک معلم

قسمت سی و یکم – ۴۱ دقیقه – پیاده‌سازی ترجمه ماشینی با مکانیزم توجه و Teacher Forcing در تنسرفلو ۲

قسمت سی‌ و دوم – ۲۸ دقیقه – شرح تصاویر با توجه بصری

📢کد تخفیف 10 درصدی اعضای کانال: cvision


https://class.vision/deeplearning2/
یا
https://deeprnn.shop/

#آخرین_مهلت ثبت نام
اولین جلسه ی دوره ی آنلاین GAN نهم اسفند است و ثبت نام تا پنج شنبه 7 اسفند خواهد بود.

https://class.vision/product/deep-generative-tf2/

#تخفیف 30 درصدی دوره های آفلاین سایت، از جمله دوره ی RNN، LSTM و GRU
به مناسبت #روز_پدر و تا روز پدر فعال شد.

کد تخفیف:
father

💻وبینار فریم ورک ها در دیپ لرنینگ و ماشین لرنینگ(رایگان)

📌 علیرضا اخوان پور
📚مدیر فنی مجموعه هوش مصنوعی شناسا
💻مدرس دانشگاه

📅 پنجشنبه ۱۴ اسفند ماه ۱۳۹۹
⏰ ساعت ۲۰

🖥اکادمی تحقیقاتی و آموزشی کورپی
https://t.iss.one/qorpi

🖥کانال هوش مصنوعی و یادگیری
https://t.iss.one/cvision

🌐در اسکای روم :
https://www.skyroom.online/ch/moghimi/anjomanphysics
🌐بصورت لایو در کانال اپارات کورپی
https://www.aparat.com/Qorpi

تنها 3 وز دیگر ثبت نام باز است

📢کد تخفیف 10 درصدی مخصوص اعضای کانال:
cvision

📢📢📢اطلاعیه ی مهم:
جلسات دوره ی اسفند ماه شبکه های مولد،
روزهای یکشنبه و دوشنبه و سه شنبه
روزهای 10-ام، 11-ام، 12-ام
و 17-ام، 18-ام، 19-ام برگزار خواهد شد.

در واقع جلسات شنبه ی این کلاس با دوشنبه جایگزین خواهد شد.
روزهای جا به جا شده:
9 ام اسفند --> 11-ام
16 اسفند —> 18 اسفند


سوالات رایج:
فیلم دوره برای تمامی شرکت کنندگان بعد از هر جلسه ارسال میگردد.
امکان انصراف از دوره تا 12 ساعت قبل از شروع نخستین جلسه وجود دارد.
در صورتی که با این زمان ها مشکلی دارید لطفا با پشتیبانی دوره با آی دی @cvision_support در تماس باشید

——-
لینک ثبت نام:
https://class.vision/product/deep-generative-tf2/

کد تخفیف 10 درصدی :
cvision

هم اکنون...
شروع ضبط دوره ی آفلاین تخصصی بازشناسی چهره ی عمیق.
اطلاعات تکمیلی و آغاز پیش فروش دوره به زودی به اطلاع میرسد.

#face_recognition

Training GANs with Stronger Augmentations via Contrastive Discriminator (ICLR 2021)

Paper: https://arxiv.org/abs/2103.09742
Code: https://github.com/jh-jeong/ContraD

Recognition Of "Face Pareidolia" needs Top-Down Mechanism?
https://www.researchgate.net/publication/328785877_Neural_mechanisms_underlying_visual_pareidolia_processing_An_fMRI_study

New ICLR2021 paper on Self-supervised Learning with Relative Predictive Coding: A new contrastive learning objective that maintains a good balance between training stability, minibatch size sensitivity, & downstream task performance.

https://arxiv.org/abs/2103.11275

📣 آغاز فروش دوره‌ی آفلاین
Face Recognition & One-Shot Learning
تا ساعاتی دیگر ... 😍

🟢 با توجه به استقبال و درخواست بسیار زیاد مخاطبان از تدریس این مبحث در همایش‌ها و وبینارهای عمومی و خصوصی، این مبحث به صورت یک دوره‌ی ویدیویی تخصصی آفلاین تهیه و تولید گردید که بزودی اطلاعات تکمیلی درباره نحوه فروش دوره اطلاع رسانی می‌گردد.

🟣 در قسمت آخر این دوره، به صورت اجمالی به مروری بر آنچه که در این دوره گفته شد پرداختیم.

🔴 لطفا در قسمت نظرات این پست، پیشنهادات خود را برای موضوعات دور‌ه‌های آفلاین آینده با ما مطرح کنید 🙏

Instagram

Aparat

Linkedin

📢خبر:

10 ویدیوی ابتدایی دوره های تخصصی rnn و همچنین face recognition به منظور ارزیابی دوره به صورت رایگان در آپارات قرار گرفتند.

لیست پخش شبکه‌های بازگشتی در Tensorflow2.0 و Keras

لیست پخش دوره تخصصی بازشناسی چهره عمیق در تنسرفلو / کراس (جدید - انتشار 1400)

هم اکنون این ویدیوها را ببینید و اگر پسندیدید با تخفیف 30 درصدی نوروزی آن ها را تهیه کنید:

کد تخفیف 30 درصدی ویژه عید نوروز تنها تا 20 فرودین
nowruz1400

این کد برای هر یک از دوره های زیر فعال است و روی سبد خرید نهایی نیز کار میکند:


فیلم آموزشی مقدماتی – شبکه‌های عصبی عمیق در Tensorflow/Keras

فیلم آموزشی شبکه‌های بازگشتی عمیق در Tensorflow/Keras

فیلم آموزشی دوره تخصصی بازشناسی چهره در Tensorrflow/Keras (جدید)