Forwarded from Deep Brain
Media is too big
VIEW IN TELEGRAM
Deep Brain
This AI Learned to Summarize Videos 🎥 @MLIPUN
خلاصه‌سازی ویدئو
احتمالا با Image Captioning آشنا هستید. این ویدئو رو ببینید؛ خیلی کوتاه خلاصه‌سازی ویدئو رو توضیح میده. موضوع جالبیه... باید به سری سوال از ویدئو هم جواب بده 👌
انگلیسیه ولی ببینید ارزش داره.
چطوره از این به بعد از موضوعهای تحقیقاتی و تجاری جدید در هوش مصنوعی بیشتر ویدئو و تصویر بذاریم و معرفی‌شون کنیم؟
ديگه دیتکشن، دسته‌بندی و اینجور موارد رو همه میشناسن. یک عالمه موضوعهای جالب و جدید وجود داره.
احتمالا با Image Captioning آشنا هستید. این ویدئو رو ببینید؛ خیلی کوتاه خلاصه‌سازی ویدئو رو توضیح میده. موضوع جالبیه... باید به سری سوال از ویدئو هم جواب بده 👌
انگلیسیه ولی ببینید ارزش داره.
چطوره از این به بعد از موضوعهای تحقیقاتی و تجاری جدید در هوش مصنوعی بیشتر ویدئو و تصویر بذاریم و معرفی‌شون کنیم؟
ديگه دیتکشن، دسته‌بندی و اینجور موارد رو همه میشناسن. یک عالمه موضوعهای جالب و جدید وجود داره.
آیفون 12 و هوش مصنوعی
آیفون 12 به‌تازگی معرفی شده و میخواییم درمورد قدرت Neural Engine اپل صحبت کنیم. از اسمش مشخص هست که پردازشگر شبکه عصبی هست.
پردازشگری که در آیفون 2020 گذاشته شده، بر پایه INT8 میتونه 12TOPS محاسبات انجام بده! ساده‌تر بگم، میتونه 12 ترا عملیات روی اعداد صحیح 8 بیتی در یک ثانیه انجام بده!
بیایید مقایسه کنیم با کارت گرافیک RTX 2080؛ این GPU حدود 13 ترافلاپس محاسبات (برپایه FP32) انجام میده. یعنی 13 ترا عملیات اعشاری 32 بیتی انجام میده.
بله، طبیعتا GPU هم بخواد روی اعداد 8 بیتی محاسبات رو انجام بده اعدادش بسیار بزرگتر از آیفون میشه. اما نکته اینجاست که شما میتونید شبکه آموزش‌دیده 32 بیتی اعشاری رو به شبکه 8 بیتی اعداد صحیح کوانتایز کنی و با سرعتی بسیار بالا روی آیفون اجرا کنی. 👌
نکته آخر اینکه، قدرت Neural Engine در آیفون 11 (2019) حدود 6 تاپس بود. یعنی در عرض 1 سال قدرت پردازش رو دوبرابر کردن. 👌
@pytorch_howsam
آیفون 12 به‌تازگی معرفی شده و میخواییم درمورد قدرت Neural Engine اپل صحبت کنیم. از اسمش مشخص هست که پردازشگر شبکه عصبی هست.
پردازشگری که در آیفون 2020 گذاشته شده، بر پایه INT8 میتونه 12TOPS محاسبات انجام بده! ساده‌تر بگم، میتونه 12 ترا عملیات روی اعداد صحیح 8 بیتی در یک ثانیه انجام بده!
بیایید مقایسه کنیم با کارت گرافیک RTX 2080؛ این GPU حدود 13 ترافلاپس محاسبات (برپایه FP32) انجام میده. یعنی 13 ترا عملیات اعشاری 32 بیتی انجام میده.
بله، طبیعتا GPU هم بخواد روی اعداد 8 بیتی محاسبات رو انجام بده اعدادش بسیار بزرگتر از آیفون میشه. اما نکته اینجاست که شما میتونید شبکه آموزش‌دیده 32 بیتی اعشاری رو به شبکه 8 بیتی اعداد صحیح کوانتایز کنی و با سرعتی بسیار بالا روی آیفون اجرا کنی. 👌
نکته آخر اینکه، قدرت Neural Engine در آیفون 11 (2019) حدود 6 تاپس بود. یعنی در عرض 1 سال قدرت پردازش رو دوبرابر کردن. 👌
@pytorch_howsam
PyTorch Howsam
وبینار تشخیص اشیا با Faster RCNN حضور در وبینار کاملا رایگان هست. همچنین، میتونید ویدئوی وبینار رو با 80 درصد تخفیف پیش‌خرید کنید. لینک ثبت‌نام @howsam_org
یادآوری
وبینار Faster RCNN امروز ساعت 20:30
وبینار Faster RCNN امروز ساعت 20:30
تشخیص دستور پخت غذا از روی تصویر!
شاید اسمش این حس رو ایجاد کنه که یک پروژه سطح پایین هست. اما اینطور نیست، این پروژه یک کار بزرگ هست که با همکاری محقق‌های دانشگاه MIT انجام شده. برای این کار بیش از 1 میلیون دستور پخت و 13 میلیون تصویر غذا جمع‌آوری شده! دیتاست قابل دانلوده.
تصویر بالا، چند نمونه تصویر تشخیص دستور پخت از روی تصویر غذا هست. شبکه پیشنهادی هم ترکیبی از CNN و شبکه بازگشتیه...
سایت | گیتاب | مقاله
@pytorch_howsam
شاید اسمش این حس رو ایجاد کنه که یک پروژه سطح پایین هست. اما اینطور نیست، این پروژه یک کار بزرگ هست که با همکاری محقق‌های دانشگاه MIT انجام شده. برای این کار بیش از 1 میلیون دستور پخت و 13 میلیون تصویر غذا جمع‌آوری شده! دیتاست قابل دانلوده.
تصویر بالا، چند نمونه تصویر تشخیص دستور پخت از روی تصویر غذا هست. شبکه پیشنهادی هم ترکیبی از CNN و شبکه بازگشتیه...
سایت | گیتاب | مقاله
@pytorch_howsam
وبینار تشخیص اشیای Faster RCNN برگزار شد و خدا رو شکر جلسه خوبی بود.
هم تئوری گفته شد و هم کدنویسی انجام شد. خیلی فیدبک‌های خوبی گرفتیم از دوستانی که شرکت کرده بودن. تلاش میکنیم وبینارها رو ادامه بدیم.
چند تا ویدئوی کوتاه از جلسه رو آپلود کردیم توی آپارات که میتونید ببینید. لیست پخش ویدئوها در لینک زیر:
https://www.aparat.com/v/Sd4bL?playlist=593185
کل آموزش 4 ساعت هست که در سایت قرار گرفته و با 60درصد قابل خریده.
لینک آموزش Faster RCNN در سایت
@pytorch_howsam
هم تئوری گفته شد و هم کدنویسی انجام شد. خیلی فیدبک‌های خوبی گرفتیم از دوستانی که شرکت کرده بودن. تلاش میکنیم وبینارها رو ادامه بدیم.
چند تا ویدئوی کوتاه از جلسه رو آپلود کردیم توی آپارات که میتونید ببینید. لیست پخش ویدئوها در لینک زیر:
https://www.aparat.com/v/Sd4bL?playlist=593185
کل آموزش 4 ساعت هست که در سایت قرار گرفته و با 60درصد قابل خریده.
لینک آموزش Faster RCNN در سایت
@pytorch_howsam
آپارات - سرویس اشتراک ویدیو
شبکه Faster RCNN (بخش تئوری)
در این ویدئوی دمو، به تئوری شبکه Faster RCNN پرداخته شده است. برای خرید این بسته آموزشی به سایت howsam.org و بسته آموزش تشخیص اشیا با Faster RCNN مراجعه نمایید. لینک مستقیم:https://howsam.org/downloads/faster-rcnn-pytorch/
آموزش رایگان پایتورچ
مدت زمان: 2 ساعت و 30 دقیقه
مدرس: سید سجاد اشرفی
مناسب برای افرادی که با پایتورچ آشنایی ندارند.
https://www.aparat.com/v/Ow1bM
@pytorch_howsam
مدت زمان: 2 ساعت و 30 دقیقه
مدرس: سید سجاد اشرفی
مناسب برای افرادی که با پایتورچ آشنایی ندارند.
https://www.aparat.com/v/Ow1bM
@pytorch_howsam
This media is not supported in your browser
VIEW IN TELEGRAM
یک پروژه جالب و عملی کامپیوتر ویژنی با پایتورچ
کشاورزهای هندی با آفت‌هایی در محصول پنبه مواجه هستن. یکسری حشره و...
حالا برحسب نوع و حجم حشره‌ها، باید جلوگیری‌هایی انجام بشه و...
حالا یک گروهی با یک شبکه مولتی تسک (کلاسیفای و دیتکشن) و پایتورچ، سیستمی رو توسعه دادن که وجود/عدم‌وجودآفت رو براساس تصاویر ورودی اعلام میکنه تا کشاورزها اقدام مناسبی انجام بدن. خروجی سیستم سه حالت فعلابیخیال/گوش‌به‌زنگ‌باش/اوضاع‌خرابه‌سم‌رو‌بیار داره. سیستم در دو حالت آفلاین/آنلاین میتونه کار کنه.
در حالت آفلاین، سیستم با استفاده از پایتورچ موبایل روی موبایل اجرا میشه.
در حالت آنلاین، شبکه روی آمازون کلود اجرا میشه و صرفا سیستم درخواست (تصویر) رو ارسال و خروجی رو دریافت میکنه. برای اینکار از torchserve استفاده شده.
اطلاعات کامل از مراحل کار: لینک
خب برنامه ما مشخص شد، یکی باید این رو مطالعه کنه و به بقیه اعضای هوسم توضیح بده. پیشنهاد میکنم شما هم در قالب گروه‌های چندنفره به همدیگه آموزش بدید.
@pytorch_howsam
کشاورزهای هندی با آفت‌هایی در محصول پنبه مواجه هستن. یکسری حشره و...
حالا برحسب نوع و حجم حشره‌ها، باید جلوگیری‌هایی انجام بشه و...
حالا یک گروهی با یک شبکه مولتی تسک (کلاسیفای و دیتکشن) و پایتورچ، سیستمی رو توسعه دادن که وجود/عدم‌وجودآفت رو براساس تصاویر ورودی اعلام میکنه تا کشاورزها اقدام مناسبی انجام بدن. خروجی سیستم سه حالت فعلابیخیال/گوش‌به‌زنگ‌باش/اوضاع‌خرابه‌سم‌رو‌بیار داره. سیستم در دو حالت آفلاین/آنلاین میتونه کار کنه.
در حالت آفلاین، سیستم با استفاده از پایتورچ موبایل روی موبایل اجرا میشه.
در حالت آنلاین، شبکه روی آمازون کلود اجرا میشه و صرفا سیستم درخواست (تصویر) رو ارسال و خروجی رو دریافت میکنه. برای اینکار از torchserve استفاده شده.
اطلاعات کامل از مراحل کار: لینک
خب برنامه ما مشخص شد، یکی باید این رو مطالعه کنه و به بقیه اعضای هوسم توضیح بده. پیشنهاد میکنم شما هم در قالب گروه‌های چندنفره به همدیگه آموزش بدید.
@pytorch_howsam
#machinelearning
لیستی از کورس‌های ویدیویی یادگیری ماشین در رشته توئیت زیر:
لینک توئیتر
اگر توییتر دارید، اکانت این آقای Elvis رو دنبال کنید، همیشه مباحث و کورس‌های آموزشی خوب معرفی میکنه.
@pytorch_howsam
لیستی از کورس‌های ویدیویی یادگیری ماشین در رشته توئیت زیر:
لینک توئیتر
اگر توییتر دارید، اکانت این آقای Elvis رو دنبال کنید، همیشه مباحث و کورس‌های آموزشی خوب معرفی میکنه.
@pytorch_howsam
Twitter
elvis
Before you jump into deep learning, I would strongly advise you to do a few introductory machine learning courses to get up to speed with fundamental concepts like clustering, regression, evaluation metrics, etc. Here is a thread including a few recent courses…
علمی مثل یادگیری ماشین ابعاد مختلفی داره. مثلا یک بعد یادگیری ماشین، الگوریتم‌ها و تئوری هست که خب باید بلد باشیم. یک بخش دیگه این هست که با فرض دونستن تئوری میتونیم کدنویسی کنیم و یک مدلی آموزش بدیم یا نه؟ پس کدنویسی باید بلد باشیم.
اما ابعاد دیگه‌ای هم در یادگیری ماشین مطرح هست. اینکه در پروژه‌های بزرگ با داده‌های حجیم چطور باید یک سیستم یادگیری ماشین طراحی کنیم؟ اصلا برای یک پروژه خاص که به ما محول شده، چطوری داده جمع‌آوری کنیم؟ چطوری دیتاست آموزش و ارزیابی بسازیم؟ حالا دیتاست رو ساختیم، چطوری مدل رو انتخاب کنیم؟ چطوری آموزش بدیم؟ چطوری بهینه‌ش کنیم؟ چطوری بهترین جواب رو بگیریم؟ حالا چطوری ببریم توی فاز عملی ازش استفاده کنیم؟ چطور عملکردش رو در عمل رصد کنیم؟ و ...
خلاصه اینکه، تمام سوالات بالا میگه که باید مهارت تئوری و کدنویسی رو ترکیب کنیم. بهش دانش و تجربه پروژه‌های عملی رو هم اضافه کنیم تا یک بتونیم یک پروژه عملی رو موفقیت آمیز بالا بیاریم. در واقع طراحی یک سیستم یادگیری ماشین رو بلد باشیم.
همه اینها رو گفتم، تا برسم به اینجا که یک کورسی در استنفورد قراره برگزار بشه که در لینک زیر میتونید سیلابس کورس رو ببینید. جالب این هست که برای پیش‌نیازها گفته باید درک خوبی از یادگیری ماشین داشته باشید و حداقل با یکی از فریمورک‌های کدنویسی مثلا تنسورفلو و پایتورچ آشنا باشید. پیشنهاد میکنم فهرست مطالبش رو بخونید. آموزنده هست...
https://huyenchip.com/2020/10/27/ml-systems-design-stanford.html
@pytorch_howsam
اما ابعاد دیگه‌ای هم در یادگیری ماشین مطرح هست. اینکه در پروژه‌های بزرگ با داده‌های حجیم چطور باید یک سیستم یادگیری ماشین طراحی کنیم؟ اصلا برای یک پروژه خاص که به ما محول شده، چطوری داده جمع‌آوری کنیم؟ چطوری دیتاست آموزش و ارزیابی بسازیم؟ حالا دیتاست رو ساختیم، چطوری مدل رو انتخاب کنیم؟ چطوری آموزش بدیم؟ چطوری بهینه‌ش کنیم؟ چطوری بهترین جواب رو بگیریم؟ حالا چطوری ببریم توی فاز عملی ازش استفاده کنیم؟ چطور عملکردش رو در عمل رصد کنیم؟ و ...
خلاصه اینکه، تمام سوالات بالا میگه که باید مهارت تئوری و کدنویسی رو ترکیب کنیم. بهش دانش و تجربه پروژه‌های عملی رو هم اضافه کنیم تا یک بتونیم یک پروژه عملی رو موفقیت آمیز بالا بیاریم. در واقع طراحی یک سیستم یادگیری ماشین رو بلد باشیم.
همه اینها رو گفتم، تا برسم به اینجا که یک کورسی در استنفورد قراره برگزار بشه که در لینک زیر میتونید سیلابس کورس رو ببینید. جالب این هست که برای پیش‌نیازها گفته باید درک خوبی از یادگیری ماشین داشته باشید و حداقل با یکی از فریمورک‌های کدنویسی مثلا تنسورفلو و پایتورچ آشنا باشید. پیشنهاد میکنم فهرست مطالبش رو بخونید. آموزنده هست...
https://huyenchip.com/2020/10/27/ml-systems-design-stanford.html
@pytorch_howsam
Chip Huyen
Course announcement - Machine Learning Systems Design at Stanford!
Update: The course website is up, which contains the latest syllabus, lecture notes, and slides. The course has been adapted into the book Designing Machine Learning Systems (O’Reilly 2022)
PyTorch Howsam
علمی مثل یادگیری ماشین ابعاد مختلفی داره. مثلا یک بعد یادگیری ماشین، الگوریتم‌ها و تئوری هست که خب باید بلد باشیم. یک بخش دیگه این هست که با فرض دونستن تئوری میتونیم کدنویسی کنیم و یک مدلی آموزش بدیم یا نه؟ پس کدنویسی باید بلد باشیم. اما ابعاد دیگه‌ای هم…
این بخش از توضیحات خارج از هوش مصنوعی هست!
مدرس دوره بالا، توی پیج شخصیش یک لیست گذاشته از 100 کاری که قبل مردن می‌خوام انجام بدم. هرکدوم رو که انجام میده تیک میزنه! نگاهی بهش بندازید بد نیست 😊
خیلی موردهای جالبی داره، مثلا 100 تا کشور رو بره ببینه! رانندگی هم بلد نیست 😁
https://huyenchip.com/list-100/
مدرس دوره بالا، توی پیج شخصیش یک لیست گذاشته از 100 کاری که قبل مردن می‌خوام انجام بدم. هرکدوم رو که انجام میده تیک میزنه! نگاهی بهش بندازید بد نیست 😊
خیلی موردهای جالبی داره، مثلا 100 تا کشور رو بره ببینه! رانندگی هم بلد نیست 😁
https://huyenchip.com/list-100/
Chip Huyen
List 100
I work to bring AI into production. I write about AI system design.
وبینار کدنویسی GAN با پایتورچ کی برگزار بشه خوبه؟
Anonymous Poll
51%
همون پنج‌شنبه شب‌ها مثل وبینارهای قبلی
18%
وسط هفته ساعت 7 8 شب به بعد
19%
جمعه صبح
12%
اصلا برگزار نکنید 😁
imma
I'm a virtual girl. I’m interested in Japanese culture, film and art.
یک مدل مجازی با بیش از 300 هزار فالوئر در اینستاگرام! این چهره واقعی نیست و وجود خارجی نداره، اما وارد صنعت مدلینگ شده، توییتر و اینستاگرام هم داره!
صفحه اینستاگرام
لازم به ذکره که فقط چهره مجازی هست. درموردش خبر زیاد کار شده، مثلا بلومبرگ (لینک)
@pytorch_howsam
I'm a virtual girl. I’m interested in Japanese culture, film and art.
یک مدل مجازی با بیش از 300 هزار فالوئر در اینستاگرام! این چهره واقعی نیست و وجود خارجی نداره، اما وارد صنعت مدلینگ شده، توییتر و اینستاگرام هم داره!
صفحه اینستاگرام
لازم به ذکره که فقط چهره مجازی هست. درموردش خبر زیاد کار شده، مثلا بلومبرگ (لینک)
@pytorch_howsam
Forwarded from Scientometrics
تشخیص کوید-۱۹ با ضبط صدای سرفه شما
محققین با استفاده از هوش مصنوعی روی صدای سرفه ی ۴۲۵۶ نفر، مدل خود را روی ۱۰۶۴ نفر تست کرده اند.
این مدل در تشخیص کوید-۱۹ به ترتیب حساسیت و اختصاصیت برابر با ۹۸/۵٪ و ۹۴/۲٪ داشته است. در مورد افراد بدون علامت حساسیت و اختصاصیت برابر با ۱۰۰٪ و ۸۳/۲٪ بوده است.
محققین با استفاده از هوش مصنوعی روی صدای سرفه ی ۴۲۵۶ نفر، مدل خود را روی ۱۰۶۴ نفر تست کرده اند.
این مدل در تشخیص کوید-۱۹ به ترتیب حساسیت و اختصاصیت برابر با ۹۸/۵٪ و ۹۴/۲٪ داشته است. در مورد افراد بدون علامت حساسیت و اختصاصیت برابر با ۱۰۰٪ و ۸۳/۲٪ بوده است.
PyTorch Howsam
وبینار کدنویسی GAN با پایتورچ کی برگزار بشه خوبه؟
ممنون
پس انشالله وبینار بعدی GAN هست که طبق نظر اکثریت همون پنج‌شنبه برگزار میکنیم.
پس انشالله وبینار بعدی GAN هست که طبق نظر اکثریت همون پنج‌شنبه برگزار میکنیم.
Forwarded from PyTorch Howsam (Abedi)
مقاله و کدهایی که تا امروز معرفی کردیم و مختصری هم توضیح دادیم:
✅ مقاله ردیابی چندهدفه FairMOT
✅ مقاله تشخیص اشیای EfficientDet
✅ مقاله ResNeSt
✅ مقاله YOLOv4
✅ مقاله OFA
✅ مقاله Supervised Contrastive Learning
@pytorch_howsam
✅ مقاله ردیابی چندهدفه FairMOT
✅ مقاله تشخیص اشیای EfficientDet
✅ مقاله ResNeSt
✅ مقاله YOLOv4
✅ مقاله OFA
✅ مقاله Supervised Contrastive Learning
@pytorch_howsam
#مسابقه #بازشناسی_چهره
مرکز نوآوری نکسترا با مشارکت پارک علم و فناوری دانشگاه تهران، اولین مسابقه بازشناسی چهره در ایران را برگزار می‌کند.
جهت کسب اطلاعات بیشتر و آشنایی با قوانین مسابقه #فیس‌کاپ به سایت مراجعه نمایید.
سایت | اینستاگرام
@pytorch_howsam
مرکز نوآوری نکسترا با مشارکت پارک علم و فناوری دانشگاه تهران، اولین مسابقه بازشناسی چهره در ایران را برگزار می‌کند.
جهت کسب اطلاعات بیشتر و آشنایی با قوانین مسابقه #فیس‌کاپ به سایت مراجعه نمایید.
سایت | اینستاگرام
@pytorch_howsam
Forwarded from MatlabTips (Rohola Zandie)
How to user Pytorch more efficiently? (by NVIDIA)
🔵In dataloader it’s almost always better to use pin_memory=true and num_worker>0
🔵If you have convolution followed by batch norm, set the bias in convolution to zero that has no effect on the result but makes everything faster.
🔵Use the param.grad=None instead of zero_grad()
model.zero_grad() ===> for param in model.parameters():
param.grad =None
🔵Using pytorch jit can fuse operations into one single CUDA kernel
Unfused point-wise operations are memory bound. They have to
Launch a separate CUDA kernel
Load data from global memory
Perform computation
Store results back into global memory
@torch.jit.script
def gelu(x):
Return x*0.5*(1+ torch.erf(x/1.41))
That decorator makes it much faster!
More here
slides
🔵In dataloader it’s almost always better to use pin_memory=true and num_worker>0
🔵If you have convolution followed by batch norm, set the bias in convolution to zero that has no effect on the result but makes everything faster.
🔵Use the param.grad=None instead of zero_grad()
model.zero_grad() ===> for param in model.parameters():
param.grad =None
🔵Using pytorch jit can fuse operations into one single CUDA kernel
Unfused point-wise operations are memory bound. They have to
Launch a separate CUDA kernel
Load data from global memory
Perform computation
Store results back into global memory
@torch.jit.script
def gelu(x):
Return x*0.5*(1+ torch.erf(x/1.41))
That decorator makes it much faster!
More here
slides
YouTube
PyTorch Performance Tuning Guide - Szymon Migacz, NVIDIA
ECCV 2020 Tutorial on Accelerating Computer Vision with Mixed PrecisionWebsite: https://nvlabs.github.io/eccv2020-mixed-precision-tutorial/Slides: https://nv...