🔵یادگیری عمیق، مغز و متافیزیک!(قسمت چهارم)🔵

همانطور که در بخش های قبل اشاره کردیم "الگوزدگی" یک ویژگی سیستم شناختی بشر است. اما علاوه بر آن تاکید کردیم که الگوزدگی نقصی ناشی از شیوه فرگشت مغز ما نیست برعکس واقعیتی بسیار مهم در مورد جهان را افشا می کند: برای حل بسیاری از مسایل موجود مثل مساله جابجا کردن مکعب ها الگوریتم های سنتی یعنی الگوریتم هایی که بر اساس منطق هستند، جواب نمی دهند. ما الگوریتم هایی نیاز داریم که حاوی پیش فرض باشند. در قسمت قبل نشان دادیم که یکی از این روش ها احتمال بیزینی است. اما در این قسمت می خواهیم قدری دقیق تر شویم و بفهمیم "یادگیری" در یادگیری ماشین به چه معناست و چرا "یادگیری" باید حتما حاوی پیش فرض باشد.

انسان همواره در حال یادگیری است: مثلا ما از بچگی با دیدن تصاویر مختلف چند اتومبیل یا گربه یاد میگیریم که اتومبیل و گربه به چه معنا هستند و ازآن به بعد با دیدن نمونه های جدید مشکلی در تشخیص نداریم. البته ممکن است اشتباهاتی صورت بگیرد که به تدریج اصلاح می شود. اما نکته مهم این است که ما بر اساس تعریف مفاهیم را یاد نمیگیریم. فرض کنید دوستی داریم که بعضی روزها خوشحال است و بعضی روزها نه. می خواهیم متوجه بشویم چه چیزی باعث می شود این دوستمان خوشحال باشد. عوامل متعددی در این میان دخیل هستند. من لیست این عوامل و خوشحالی یا ناراحتی دوستم را در جدولی می نویسم

همانطور که می بینید خوشحالی دوست من ناشی از شرایط آب وهوایی است!
ستون اول یعنی هوا می تواند سه حالت داشته باشد و بقیه ستون ها فقط دوحالت دارند. پس در کل همه حالت ها می شود 3*2*2*2*2*2=96.
با توجه به جدول میتوانیم فرضیه های مختلفی بسازیم. به طور مثال می توانیم بگوییم تنها عامل مهم sky (آفتابی یا بارانی بودن هوا) است و بقیه مهم نیستند. در این صورت می توانم بگویم در روزهایی که هوا آفتابی است دوستم خوشحال است و بنویسم
<Sunny,*,*,*,*,*>
ستاره ها به این معنی هستند که بقیه ویژگی ها هر مقداری می توانند داشته باشند و مهم نیستند. با همین شیوه کلی ترین فرضیه ممکن که هیچ عاملی مهم نیست و در همه روزها دوستم خوشحال است، به صورت زیر می شود:
<*,*,*,*,*,*>
به صورت دیگری هم می توان به این قضیه نگاه کرد. به این صورت که بسیارخاص به مساله نگاه کنیم. مثلا با دیدن اولین نمونه در جدول بگوییم که دوستم فقط زمانی خوشحال است که دقیقا تمامی شرایط محقق شود یعنی:
<Sunny,Warm, Normal, Strong, Warm, Same>
این فرضیه بسیار خاص است وفقط به یک حالت قابل تعمیم است. اما خاص ترین فرضیه حالتی می شود که ما هیچ نمونه ای را مثبت درنظر نگیریم(فرضیه تهی). در این صورت داریم:
<0,0,0,0,0,0>
که 0 نشان دهنده این است هیچ مقداری قابل قبول نیست.
حالا بیایید نمونه ها را یکی یکی بررسی کنیم و سعی کنیم ازخاص ترین فرضیه و کلی ترین فرضیه به سمت یک نقطه میانی برسیم. بعد ازدیدن نمونه اول میتوانیم بگوییم دوستم حداقل در حالت اول خوشحالاست و از فرضیه تهی خارج شویم. سپس نمونه دوم را می بینیم و متوجه می شویم که رطوبت Humidity ظاهرا تاثیری در خوشحالی دوستم ندارد و بنابراین مهم نیست چون دردو حالت با مقادیر مختلف یک نتیجه را به ما داده است.

اما نمونه سوم یک نمونه منفی است. نمونه منفی فضای فرضیه های کلی را تحدید می کند. با دیدن این نمونه متوجه می شویم که چند حالت ممکن است وجود داشته باشد. یا اینکه هوا نباید Rainy باشد(پس باید Sunny باشد) یا دما نباید Cold باشد(پس باید Warm باشد) یا پیش بینی (forecast) نباید Change

باشد(پس باید Same باشد). اما توجه کنید که نمی توانیم بگوییم که مثلا Humidity نباید High باید چون درحال حاضر نمونه دوم مثبت است و دارای همین مقدار است. یا اینکهWind نتواند Strong باشد چون دو نمونه قبلی دارای این مقادیر بوده اند.

درنهایت با دید نمونه آخر متوجه می شویم که دو ویژگی water و Forecast هم مهم نیستند و می توانند هر مقداری بگیرند. به این ترتیب به فضای فرضیه زیر می رسیم

تمام فرضیاتی که بین S4 و G4 قرارمی گیرند با نمونه های ما همخوانی دارند و قابل قبول هستند.

درمورد مثالی که ذکر کردیم فرض را بر این گذاشتیم که نمونه ها و ویژگی های آن ها دقیق هستند و هیچ نویزی در آن ها وجود ندارد. روشی که در پیش گرفتیم همواره جواب می دهد به شرطی که نمونه ها نویز نداشته باشند و داده ها در نحوه نمایش فرضیه ما بگنجد. اما همواره این گونه نیست. فرض کنید فرضیه درست برای توضیح دادن جدول زیر این باشد که دوست من خوشحال است در حالتی که هوا آفتابی یا ابری باشد.

اما با نحوه نمایش فرضیه ما نمی توان این کار را کرد.برای اینکه متوجه بشوید که این کار غیر ممکن است از خاص ترین فرضیه شروع می کنیم بعد از دیدن اولین نمونه فرضیه ما می شود:
<Sunny, Warm, Normal, Strong, Cool, Change>
با دیدن دومین نمونه:
<*,Warm, Normal, Strong, Cool, Change>

با دیدن سومین نمونه چون یک نمونه منفی است تمام حالت ها حذف شده وبه فرضیه تهی می رسیم. مشکل این است بعد از دیدن دو نمونه اول فرضیه ما بیش از حد کلی می شود و حتی سومین نمونه را هم به عنوان نمونه مثبت در نظر می گیرد. در اینجا مساله اساسی در نحوه نمایش ما برای فرضیه هاست.


برای حل این مشکل راه حل این است که فضای فرضیه ها را قادر به نمایش "یا" و "نه"هم بکنیم.از انجایی که ۹۶ حالت ممکن برای نمونه ها وجود دارد. می توان گفت هر زیر مجموعه از این ۹۶ حالت می تواند یک فرضیه باشد. در این صورت 2^96 فرضیه می تواند وجود داشته باشد. این در حالی است که شیوه نمایش ما برای فرضیه ها که مبتنی بر AND بین حالتهای مختلف بود تنها 1+4*3*3*3*3*3=973 حالت ممکن را می تواند پوشش دهد! یعنی این یادگیر بسیار بایاس عمل می کند!
بنابراین پس از اضافه کردن OR و NOT می توانیم همه حالات رو پوشش دهیم.به این ترتیب فرضیه هوا آفتابی یا ابری باشد به شکل زیر تبدیل می شود:
<Sunny, *,*,*,*,*> OR <Cloudy, *,*,*,*,*>

هر چند این راه حل مشکل را حل می کند اما مشکل بزرگتری را ایجاد می کند. این نحوه نمایش فرضیه آنقدر قدرت بیان (high expressive) بالایی دارد که عملا قادر به عمومی سازی(generalization) فراتر از نمونه های مشاهده شده را ندارد. این مدل اصطلاحا به داده ها overfit شده است.

این بحث به یک نتیجه بسیار مهم در استنتاج استقرایی(inductive inference) منجر می شود:
الگوریتم یادگیری ای که هیچ فرض پیشینی (a priori assumption) در رابطه با مفاهیم یا ایجاد فرضیه ها نمی کند نمی تواند هیچ پایه ی عقلانی برای عمومی سازی و دسته بندی نمونه های دیده نشده داشته باشد!
به عبارتی تنها دلیلی که در بخش اول قادر بودیم از نمونه های تک فراتر برویم و عمومی سازی کنیم این بود که به صورت ضمنی فرض کرده بودیم که می توان فضای فرضیات را به صورت AND بین ویژگی ها توصیف کرد.
به این ترتیب هر یادگیری یک بایاس استقرایی (inductive bias) دارد. بسیار مهم است که بایاس استقرایی الگوریتم یادگیری مورد استفاده خود را بشناسیم.

می توانیم بایاس استقرایی را دقیق تر تعریف کنیم: اگر داده های ما Dc باشند و نمونه جدیدی که دیده ایم xi باشد. و یادگیر ما L(xi,Dc) باشد که در واقع مثل یک تابع داده ها را گرفته و نمونه جدید را هم گرفته و خروجی مثبت یا منفی تولید می کند. قدم استدلال استقرایی (بااستقرای ریاضی اشتباه نگیرید) به ما می گوید:

(Dc AND xi) > L(xi, D)

اما می دانیم که این یک استدلال دقیق ریاضی به معنای استدلال استنتاجی نیست. مجموعه فرضیاتی که ما به عنوان بایاس استقرایی می شناسیم و معمولا هم ضمنی هم هستند به ما کمک می کند که این استدلال را به یک فرم دقیق تبدیل کنیم. یعنی اگر این مجموعه فرضیات استدلال استقرایی را B بنامیم. در این صورت داریم:

(B and Dc ANDxi) |- L(xi, D)

انسان ها هم همواره از این بایاس های استقرایی استفاده می کنند. همان بایاس هایی که در بخش های قبلی دیدیم و به انسان کمک می کنند تا بتواند سریع تر عمل کند. حتی در علم هم ما چنین کاری می کنیم. در بخش بعد بررسی میکنیم این بایاس ها کدام ها هستند.

🔵بیس بال: جهان آمریکایی🔵

چند روز پیش یکی از دوستان آمریکاییم من رو به بازی بیس بال دعوت کرد. من که قوانین بازی رو نمی دانستم ازش خواستم برام توضیح بده، گفت میریم اونجا بهت میگم. خلاصه بلیط ها رو گرفت و راه افتادیم. بالاخره وارد استادیوم شدیم. از همون اول مشخص بود که تفاوت های زیادی با استادیوم های فوتبال داره. طبقه میانی شبیه به راهروهای پاساژبود. تقریبا هر جور خوراکی ای می شد اونجا پیدا کرد. دوستم گفت سنت(!) اینه که معمولا مردم هات داگ و آب جو می گیرن برای بازی. البته مشخص بود که یک هات داگ ساده، بیشتر اون آدم ها رو سیر نمیکنه. انواع و اقسام فست فود ها رو میشد اونجا دید. بوی مرغ سخاری، سیب زمینی سرخ کرده و ذرت بو داده همه جا رو گرفته بود. گفتم فعلا می تونیم بریم بشینیم. وقتی وارد سکوهای نشستن شدیم کل استادیوم خیلی خلوت بود. ظاهرا استقبال زیادی از بازی نشده بود. روی صندلی خودمون نشستیم و منتظر شروع بازی شدیم. تقریبا مثل هرجای دیگه ای که توی آمریکا برید و زودتر یا حتی به موقع برسید با تبلیغات شما رو بمباران می کنند. از بیلبورد های عظیم و قشنگ اچ دی گرفته تا دور تا دور زمین و هر فضای کوچک و بزرگی که تبدیل به یک تابلوی نورانی برای تبلیغات شده بود! براحتی می شد فهمید که این حجم آزار دهنده از تبلیغات که عملا میدان دید رو میگیره در هیچ بازی ای دیگه ای بجز بیس بال وجود نداره.

یک گروه از بچه های ابتدایی رو برای خواندن سرود ملی آمریکا آورده بودند. قبل از شروع بازی این کار همیشه انجام میشه. زمانی که سرود ملی شروع شد همه بلند شدند. خیلی به جاهای مختلف جمعیت نگاه کردم اما تقریبا کسی ندیدم که به احترام سرود ملی بلند نشده باشه. این نگاه کردن به جمعیت من رو متوجه چیز دیگه ای هم کرد: ظاهرا تنها شخص غیر سفید پوست میان همه جمعیت من بودم! سرود ملی تمام شد و نشستیم. بازی شروع شد. من اطلاع خاصی از نحوه انجام بازی نداشتم به همین خاطردوستم شروع کرد به توضیح دادن. بازی قوانین زیادی داشت و من بیشتراز اینکه به بازی دقت کنم نسبت به اطرافم کنجکاو بودم. مردمی که در حال تماشای بازی بودند اکثرا برای بازی آن جا نبودند. هر کس به کاری مشغول بود. یکی مشغول خوردن بود. یکی با دوست دخترش حرف میزد و یکی در حال مزه انداختن با دوستانش بود. فقط زمانی که بازیکن توپ را با چوب بیس بال میزد و به هوا میرفت همه برمیگشتن و صدای شادی بلند میشد.

تقریبا یک ساعت از شروع بازی گذشته بود که می دیدم استادیوم در حال پر شدنه. دوستم توضیح داد که خیلی ها دیر می آیند و فقط میخواهند نگاه کنند. رفتیم یک هات داگ خریدیم آن هم وسط بازی! تصور رفتن برای خریدن غذا وسط بازی فوتبال خیلی مسخره بنظر میرسه اما در بیس بال خیلی عادی ست. وقتی به طبقه پاساژ مانندِ غذا رسیدیم از جمعیت زیادی که آنجا بودند تعجب کردم! مگر این آدمها برای دیدن بازی بلیط نخریده اند؟ پس اینجا چکار میکنند؟ آن ها در صف های طولانی برای خریدن آبجو یا غذایشان می ایستادند. بعد از گرفتن غذا و برگشتن به صندلی کم کم متوجه شدم که بازی به خودی خود تقریبا هیچ اهمیتی ندارد. دیدن بیس بال بیشتر شبیه به یک فعالیت اجتماعی برای بودن با دوستان ست. تقریبا دو ساعت از شروع بازی گذشته بود که می دیدیم جمعیت در حال خارج شدن از ورزشگاه هستند! با تعجب از دوستم پرسیدم بازی که هنوز تمام نشده؟! چیزی معلوم نیست! گفت خیلی ها حوصله شان سر می رود و به خانه بر میگردند! چرا باید چنین باشد! اگر این بازی حوصله سر براست چرا اصلا می آیند؟!

این بازی "حوصله سر بر" باعث می شد که برای جذب بیشتر تماشاچی ها بین هر بخش(شبیه به نیمه های فوتبال) برنامه های مختلفی بگذارند. این میان برنامه ها من رو یاد برنامه عمو قناد می انداخت مثلا در بین یکی از آن ها به صورت تصادفی از یک تماشاچی می پرسیدند که در کمتر از 10 ثانیه اسم حداقل 6 پیتزایی بزرگ زنجیره ای را بگوید. در نهایت یک جایزه از سمت یک پیتزایی بزرگ به او می دادند! انجام شو هایی از پیش برنامه ریزی شده ای مثل این دیگر برای آمریکایی ها شبیه به مواد اولیه زندگی شده است. همه میدانند که تمام اینها در نهایت تبلیغات است.

بازی بیس بال یک نمایشگاه بسیار گویا از نحوه زندگی آمریکایی است. انجام کاری نه برای انجام آن کار بلکه صرفا برای تفریحات حاشیه ای. یک رویداد بدون شروع و بدون پایان! هیچ چیزی در مورد خود کار مهم نیست بلکه سود در فرم لذت برای فقط چند دقیقه مهم تر است. کسی دلبستگی ای به خود اتفاق ندارد. اتفاقی که در متن هست توسط سرگرمی های حاشیه ای کمرنگ و حتی فراموش می شود. در نهایت، بیس بال واقعیت دیگری هم از زندگی آمریکایی مشخص می کند:"ایزوله سازی". در بین رقابت های حساس جام جهانی که تمام مردم جهان را درگیر کرده است جمعیتی برای تماشای بیس بال می آیند که بعضا حتی اسم لیونل مسی را هم نشنیده اند!

‍ چه غریبانه تو با یاد وطن می نالی/ من چه گویم که غریب است دلم در وطنم
شعر من با مدد ساز تو آوازی داشت/ کی بود باز که شوری به چمن در فکنم
همه مرغان هم آواز پراکنده شدند/ آه از این باد بلاخیز که زد در چمنم
(ه. الف. سایه)

#خرمشهر #خوزستان #ایران #وطن

رنگ آمیزی برخی عکس های تاریخ معاصر ایران با الگوریتم deep learning
سورس کد:https://github.com/richzhang/colorization