آموزش شبکه های عصبی عمیق با یک Visualization بسیار قوی از نحوه کار کردن Stochastic Gradient Descent . قدم به قدم از پایه در سه قسمت در پایتون (به انگلیسی)

https://towardsdatascience.com/the-keys-of-deep-learning-in-100-lines-of-code-907398c76504

یک کتاب آنلاین بسیار عالی برای یادگیری شبکه های عصبی و یادگیری عمیق. همراه با کد، قدم به قدم از صفر (برگرفته از کورس یادگیری عمیق برکلی)
نویسندگان کتاب در شرکت آمازون محقق هوش مصنوعی هستند.

https://d2l.ai/

این وبسایت یک تصویر چهره جعلی تولید شده توسط شبکه عصبی و یک تصویر چهره واقعی را در کنار هم میگذارد و از شما میخواهد تشخیص دهید که کدام واقعی ست و کدام جعلی.

https://www.whichfaceisreal.com/index.php

🔵آموزش کار کردن با تصاویر، موزیک و ویدیو در متلب🔵

کافی است به لینک زیر بروید و دکمه سبز را بزنید تا تمام کد ها دانلود شود. این آموزش برای کسانی که تازه متلب را شروع کرده اند ساخته شده است

https://github.com/roholazandie/matlab_multimedia_tutorial

🔵اطلس فعال سازی(Activation Atlas)🔵

شبکه های عصبی عمیق(Deep learning) بسیار موفق بوده است اما همیشه به این متهم می شده که بیشتر شبیه به یک جعبه سیاه است و نمی تواند توضیح دهد چرا یک ورودی مشخص به خروجی مورد انتظارش منجر می شود. این رویه در چند سال اخیر در حال تغییر است. اطلس فعال سازی یک تلاش بسیار جالب برای نمایش این است که در درون این شبکه ها چه می گذرد.
در مرحله اول نیاز است که آنچه در لایه های درونی شبکه است را خوب بشناسیم. مقادیری که بر روی توابع فعال سازی لایه های داخلی است شبیه مشتی عدد بی معناست اما بالاخره افرادی توانستند راهی برای نمایش آن بخش ها بیابند. برای یک تصویر ورودی به شبکه عصبی این مقادیر می توانند ویژگی های مشخصی از تصویر مانند لبه ها در لایه های پایین تر تا اشیا، مثلا یک چشم یا چرخ در لایه های بالاتر باشند.(از چپ به راست لایه ها عمیق تر می شوند و ویژگی های سطح بالاتری عیان می شود)

این نتیجه اگرچه جالب است اما فقط برای تصاویر تک و جداست. چطور میتوانیم فضای تمام این ویژگی ها را ببینیم. به عبارتی فضایی که در آن ویژگی ها با نظم مشخص کنار قرار بگیرند. خوشبختانه روش های کاهش ابعاد زیادی وجود دارد که می تواند تمام ویژگی ها برای دسته بزرگی از تصاویر را بگیرد و آن ها را بر اساس معیار شباهت کنار هم بچیند و سپس در فضای مثلا دو بعدی بیفکند(project). یکی از این روش ها t-SNE نام دارد. OpenAI با همکاری گوگل چنین پروژه ای را بر اساس یک میلیون عکس از Imagenet انجام دادند. نتایج شگفت انگیز هستند. می توانید آن ها را اینجا ببینید و در آن حرکت کنید.

همانطور که میبینید تصاویر مشابه کنار هم قرار میگیرند مثل ویژگی های سگ ها حتی با رنگ و نژادهای کاملا متفاوت کنار هم هستند و ویژگی های ساحل دریا با فاصله از گربه و سگ ها قرار گرفته است.

همچنین جهت ها (اگرچه بر روی دو بعد هستیم و بسیاری از جهات از بین رفته اند) معنی دار هستند. مثلا می توان از روی شکل زیر ویژگی های میوه ها را دید که با تعداد کم به زیاد یک طیف ایجاد میکند

توده ابر گونه ای که در میان تصویر میبینید همان اطلس است. این اطلس چیزی است که در ریاضیات به نام manifold شناخته می شود. منیفلد یک شی ریاضی است که می توان آن را شبیه به یک رویه در فضایی با ابعاد بالا تصور کرد. در اینجا ویژگی تصاویر بر روی این رویه قرار میگیرند. اما طرز قرار گیری آنها تصادفی و بی معنا نیست. در هر جهتی که بر روی منیفلد حرکت کنید یک ویژگی به آرامی تغییر میکند. مثلا اینکه شما از ویژگی تصاویر وسایل آشپزخانه مثلا از ماهیتابه به قابلمه میرسید و نه اینکه به صورت دفعی از ماهیتابه به تصویر گربه برسید. این باعث می شود معنای نفهته و کشف شده در شبکه عصبی هم قابل فهم تر باشد.
کاربری کامنت جالبی بر روی این اطلس قرار داده بود او آن را به تصویر کورتکس یک ابرهوش مصنوعی در مرحله جینینی تشبیه کرده بود!

لینک برای مطالعه بیشتر:

https://blog.openai.com/introducing-activation-atlases/

https://distill.pub/2018/building-blocks

https://blog.openai.com/introducing-activation-atlases/

این ویدیو یک گردش بر روی این اطلس را نشان می دهد. بسیاری از افرادی که تجارب مصرف مواد روانگردان با LSD و Mushroom را داشته اند این ویدیو را بسیار شبیه به آن حالت می دانند. عصب شناسان هنوز دلایل واقعی این شباهت را نمی دانند اما بسیاری بر این باورند سازماندهی ویژگی های تصاویر در کورتکس بینایی مغز هم به این شکل است و هنگام مصرف روانگردان مغز دچار اختلالهایی (مانند الگویابی بیش از حد)‌ می شود که شبیه به اطلس فوق می شود.(بزودی مطالب جالبی در این مورد قرار می دهیم)

دیجی کالا داده های چند حوزه مختلف خود را به شرط ذکر منبع برای پژوهشگران متن باز کرده، این یکی از منابع بسیار خوب برای دانشجو های دکترا و کارشناسی ارشد می تواند باشد.

https://www.digikala.com/landing/datamining/

🔵بهترین منبع برای نوشتن مقاله و پایان نامه🔵

خیلی پیش آمده است که دنبال یک وظیفه مشخص مثلا تشخیص چهره یا خلاصه سازی متن یا هر چیز دیگری میگردید و دچار سردرگمی از دنیایی از مقالات میشوید و بدتر از آن پیدا کردن کدهای پیاده سازی آنهاست. بهترین مرجع این وب سایت است. این وبسایت هر وظیفه را همراه با مقاله و کدهایشان کنار هم قرار میدهد با سال و ماه مرتب میکند و حتی رکورد جهانی کد در انجام آن را ثبت کرده است. در این سایت براحتی میتوانید بهترین کارهای انجام شده در موضوع خودتان را پیدا کنید. حتی بخشی برای سوال پرسیدن و تبادل آرا شبیه به چت روم دارد.

https://paperswithcode.com/

‍ خیلی از ما ها شنیده ایم که به علت محل دفن مولانا در قونیه ترکیه و تاسیس تصوفی که از شاگردان بعدی مولانا آغاز شد دولت و مردم ترکیه تمایل بسیاری به این نابغه دارند تا جایی که مولانا را حتی یک شاعرترکیه ای می دانند! چند سال پیش برنامه ای در شبکه چهارم سیما پخش می شد که شخصی به طرز جالبی سوال مهمی را مطرح کرد. مولانا نه در ایران به دنیا آمده و نه در ایران به معنای جغرافیایی کنونی فوت شد چه چیزی باعث می شود ما آن را شاعری پارسی گوی بدانیم. صرف اینکه شعر هایش فارسی بوده است؟ اگر اینطور باشد رازی و خیلی از دانشمندان دیگر باید عرب باشند چون تمام آثار آنها عربی است! سپس او استدلالش را به نحوه ای ادامه می داد نشان دهد مولانا ایرانی است!
این ها به کنار با دوستی اهل ترکیه آشنا شدم که به سختی معتقد بود مولانا یک شاعر ترک بوده است. و سنت تصوف هم فقط در ترکیه وجود دارد. بحث های طولانی و بیهوده ای با هم داشتیم از یافتن جد او و شعرش و غیره و غیره! این بحث ها البته هر از چند گاهی اتفاق می افتاد. تا اینکه در یک مسافرت با هم به لس آنجلس رفتیم. بعد از ظهر روزی که آنجا بودیم با هم دوچرخه ای کرایه کردیم و از روی گلدن گیت دوچرخه سواری کردیم تا به سمت بخش داخلی شهر رسیدیم. کنار آب جای دنجی پیدا کردیم و توقف کردیم تا استراحت کنیم. غروب زیبای خورشید از بالای گلدن گیت تلالویی رویایی در آب ایجاد میکرد. دوست ترکم گفت می توانی یک شعر از مولانا بخوانی؟ به شوخی گفتم خوب شاعر شماست تو بخوان! خنده ای کرد و گفتم باشه. گوشی ام را در آوردم و گنجور را باز کردم و یک شعر به صورت تصادفی از غزلیات آمد:
مرده بدم زنده شدم گریه بدم خنده شدم / دولت عشق آمد و من دولت پاینده شدم
گفت که دیوانه نه ‌ای لایق این خانه نه‌ ای/ رفتم دیوانه شدم سلسله بندنده شدم
گفت که سرمست نه ‌ای رو که از این دست نه‌ ای / رفتم و سرمست شدم وز طرب آکنده شدم
تمام مدت به آهنگ کلام گوش میداد بدون اینکه چیزی از آن متوجه شود. بعد از آن سکوتی حکمفرما شد و من به این فکر کردم که چه اهمیتی دارد که مولانا مال چه کسی باشد وقتی آنچنان مخاطب را مدهوش میکند که مرزهای زبان را هم در می نوردد. و اینکه پافشاری من برای اثبات تملک آن کار بیهوده ای است وقتی می توان آن را به این راحتی خواند و در آن غور کرد! سهم من از مولانا فهم من از اوست و این به مدد زبان فارسی ممکن می شود و اینکه پیمانه زندگی من چقدر از آن را می تواند در خود جای دهد!

باز کن پنجره ها را که نسیم
روز میلاد اقاقیها را
جشن میگیرد
و بهار
روی هر شاخه، کنار هر برگ
شمع روشن کرده است
همه ی چلچله ها برگشتند
و طراوت را فریاد زدند
کوچه یکپارچه آواز شده ست
و درخت گیلاس
هدیه ی جشن اقاقی ها را
گل به دامن کرده است
حالیا، معجزه ی باران را باور کن
و سخاوت را، در چشم چمنزار ببین
و محبت را در روح نسیم
که در این کوچه ی تنگ
با همین دست تهی
روز میلاد اقاقی ها را
جشن می گیرد
خاک، جان یافته است
تو چرا سنگ شدی؟
تو چرا این همه دلتنگ شدی؟
باز کن پنجره ها را
و بهاران را
باور کن
)فریدون مشیری)

"برتری خفیف" #خلاصه_کتابی از جف اولسون

https://www.amazon.com/Slight-Edge-Turning-Disciplines-Happiness/dp/1626340463