ماه قبل، راشکا گفت که تصادف کرده و آسیب دیده. یک مدتی نمی‌تونست پشت میز بشینه و کار کنه. توی این پست گفت که حالش بهتره. امیدوارم به خوبی ریکاوری کنه.

شب گذشته بارش باران در تهران باعث کاهش آلودگی هوا شد. با این حال، خیابان‌ها به دلیل آب‌گرفتگی دچار ترافیک سنگین شدند. این شرایط تا صبح ادامه داشت و باعث تأخیر در رفت‌وآمد مردم شد.

شب گذشته بارش باران در تهران باعث کاهش آلودگی هوا شد. خیابان‌ها به دلیل آب‌گرفتگی دچار ترافیک سنگین شدند.

باران شب گذشته در تهران، هم آلودگی هوا را کاهش داد و هم باعث ترافیک و تأخیر در رفت‌وآمد شد.

یک مجموعه داده وسیع و متنوع از تصاویر است که برای پیشرفت در زمینه تشخیص و تصنیف چندبرچسب تصاویر نقش مهمی ایفا کرده است. این مجموعه به طور کلی شامل ۱۴۰۰ هزار تصویر است که در ۲۰۰۰ رده مختلف درجه‌بندی شده‌اند، تقریباً ۴۰۰ هزار رده جزئی دارند. ImageNet به طور منظم برای مسابقات معروف مانند ImageNet Large Scale Visual Recognition Challenge (ILSVRC) استفاده می‌شود که در آن مدل‌های یادگیری ماشین و خوشه‌بندی عمیق برای تشخیص و کلاس‌بندی تصاویر مورد ارزیابی قرار می‌گیرند. این مجموعه داده نقش محوری در پیشرفت فناوری‌هایی مانند شبکه‌های عصبی عمیق (DNN) و توسعه مدل‌های برتر مانند AlexNet، VGG، ResNet و GoogLeNet داشته است. اهمیت و گستردگی ImageNet به ایجاد پایه‌ای قوی برای تحقیقات و توسعه در زمینه بینش‌های ویژگی و یادگیری تصویری کمک کرده است.

ایمیج‌نت (ImageNet) یک پایگاه داده بزرگ از تصاویر است که برای تحقیقات در زمینه تشخیص اشیاء در بینایی رایانه‌ای مورد استفاده قرار می‌گیرد. این پروژه توسط فی لی‌فی و همکارانش در دانشگاه استنفورد در سال ۲۰۰۹ آغاز شد. ایمیج‌نت شامل بیش از ۱۴ میلیون تصویر است که به دسته‌های مختلفی بر اساس سلسله‌مراتب WordNet دسته‌بندی شده‌اند. هر گره در سلسله‌مراتب WordNet معادل یک «اسم» است و برای هر اسم، صدها و هزاران تصویر مرتبط وجود دارد. این پایگاه داده نقش بسیار مهمی در پیشرفت الگوریتم‌های یادگیری عمیق، به ویژه شبکه‌های عصبی پیچشی (CNN) داشته است و به عنوان یک معیار استاندارد برای ارزیابی عملکرد مدل‌های تشخیص تصویر مورد استفاده قرار می‌گیرد. چالش بزرگ ایمیج‌نت (ILSVRC) که از سال ۲۰۱۰ تا ۲۰۱۷ برگزار می‌شد، به محققان کمک کرد تا مدل‌های قدرتمندتری برای تشخیص و دسته‌بندی تصاویر توسعه دهند.

یک پایگاه داده بزرگ و معتبر از تصاویر برچسب‌گذاری شده است که در حوزه بینایی ماشین و یادگیری عمیق از اهمیت بالایی برخوردار است. این مجموعه شامل بیش از ۱۴ میلیون تصویر است که در بیش از ۲۰ هزار دسته مختلف سازمان‌دهی شده‌اند. ImageNet نقش کلیدی در پیشرفت مدل‌های تشخیص تصویر و بینایی کامپیوتری ایفا کرده است، به‌ویژه با معرفی چالش سالانه ImageNet Large Scale Visual Recognition Challenge (ILSVRC)، که در آن مدل‌های مختلف برای دسته‌بندی و تشخیص اشیاء در تصاویر به رقابت می‌پردازند. موفقیت مدل‌های عمیق مانند AlexNet در این چالش، نقطه عطفی در گسترش و پذیرش شبکه‌های عصبی عمیق بود. امروزه ImageNet به عنوان یک منبع استاندارد برای آموزش و ارزیابی مدل‌های بینایی ماشین استفاده می‌شود.

یک دیتاست بزرگ و متنوع برای آموزش و ارزیابی مدل‌های یادگیری ماشین و بینایی کامپیوتر است که شامل بیش از 14 میلیون تصویر برچسب‌گذاری‌شده در هزاران دسته‌بندی مختلف است. این دیتاست که در سال 2009 معرفی شد، به‌عنوان مبنای رقابت معروف ImageNet Large Scale Visual Recognition Challenge (ILSVRC) مورد استفاده قرار گرفت و نقش مهمی در پیشرفت معماری‌های شبکه‌های عصبی مانند AlexNet، VGG، ResNet و دیگر مدل‌های پیشرفته داشته است. موفقیت مدل‌ها در ImageNet به‌عنوان یکی از معیارهای مهم در ارزیابی توانایی آن‌ها در تشخیص اشیا و طبقه‌بندی تصاویر شناخته می‌شود.

به طور کلی، انتظار دارم که LoRA و روش‌های مشابه همچنان محبوب باقی بمونن. به عنوان مثال، اپل اخیرا در مقاله‌اش با عنوان Apple Intelligence Foundation Language Models اشاره کرده که از LoRA برای فاین-تیون LLM-هاشون روی دستگاه‌های خودشون استفاده می‌کنن. این کار به اون‌ها اجازه میده که مدل‌ها رو برای وظایف خاص، بهینه‌سازی کنن و در عین حال منابع محاسباتی محدود دستگاه‌های همراه رو هم در نظر بگیرن.

آندری کارپاتی: باید بگویم که من آدم صبح‌گاهی نیستم، قطعاً یک شب‌زنده‌دارم. زمان دکترایم حتی دیرتر هم می‌خوابیدم، معمولاً تا ساعت ۳ صبح بیدار بودم. فکر می‌کنم ساعات پایانی شب بسیار ارزشمند و جذاب هستند، چون همه خوابند و هیچ حواس‌پرتی وجود ندارد. مثلاً ساعت ۸ یا ۹ صبح که شرق آمریکا بیدار می‌شود، پیام‌ها و اخبار شروع می‌شوند و حواس‌پرتی‌ها زیاد می‌شود. اما ساعت ۳ صبح همه چیز آرام است و می‌توانی روی کارت تمرکز کنی.

آندری: برای من، بهره‌وری درباره ایجاد حرکت و حفظ تمرکز روی یک مسئله است. باید بتوانی حافظه‌ات را با آن مسئله پر کنی و کاملاً درگیرش شوی. حتی وقتی دوش می‌گیری یا خوابت می‌برد، باید ذهنت درگیر آن مسئله باشد. اینطوری وقتی بیدار می‌شوی، آماده‌ای که مستقیماً روی آن کار کنی.

آندری: نمی‌توانم فقط درباره یک روز صحبت کنم، چون این یک فرآیند است. وقتی می‌خواهم روی یک مسئله متمرکز شوم، به چند روز زمان نیاز دارم تا کاملاً درگیرش شوم و نخواهم وقفه‌ای ایجاد شود. در این دوره‌ها، کاملاً وسواس‌گونه روی آن مسئله کار می‌کنم و بهترین کارهایم را انجام می‌دهم. 😃

آندری: دقیقاً. باید حافظه‌ام را با آن مسئله پر کنم و بهره‌ور باشم. همیشه یک هزینه ثابت برای شروع هر پروژه وجود دارد. مثلاً وقتی در تسلا بودم و می‌خواستم روی یک پروژه جانبی کار کنم، اول باید به کلاستر SSH می‌زدم، VS Code را راه می‌انداختم و با یک سری خطاهای احمقانه دست و پنجه نرم می‌کردم. این موانع اولیه باعث می‌شوند نتوانی مستقیماً به کارت برسی. پس باید همه این موانع را برطرف کنی تا بتوانی روی مسئله تمرکز کنی. 👌

آندری: حواس‌پرتی‌ها انواع مختلفی دارند: اخبار، ایمیل‌ها، یا حتی پروژه‌های جالب دیگر. باید ذهنت را کاملاً متمرکز کنی. البته من هم گاهی برای حواس‌پرتی وقت می‌گذارم، اما این وقفه‌ها نباید زیاد باشند. بیشتر روزم را روی همان مسئله اصلی صرف می‌کنم.

آندری: من اخبار را دنبال می‌کنم، اما نسبت به این کار مشکوک هستم. نمی‌دانم که آیا این کار واقعاً مفید است یا نه، اما در حال حاضر بخشی از روال من است. دوست دارم از اتفاقات دنیا مطلع باشم، هرچند ممکن است این کار کمی حواس‌پرتی ایجاد کند.

آندری: معمولاً می‌توانم چند ساعت کار کنم و بعد به استراحت یا غذا خوردن نیاز دارم. حتی در پربارترین روزها، فقط شش تا هشت ساعت کدنویسی می‌کنم. زندگی هزینه‌های خودش را دارد: رفت و آمد، صحبت با مردم، غذا خوردن و غیره. حفظ تعادل به عنوان یک انسان کار سختی است.

آندری: وقتی به یک مسئله علاقه‌مند می‌شوم، احساس می‌کنم که آن چیز باید وجود داشته باشد. این انگیزه باعث می‌شود باگ‌ها، مشکلات فنی و تصمیم‌های طراحی اشتباه را تحمل کنم. همچنین، این که دیگران از کارم قدردانی کنند و ببینم که به آن‌ها کمک می‌کنم، برایم لذت‌بخش است. اگر کارهایم را با دیگران به اشتراک نگذارم، انگیزه‌ام کمتر می‌شود. ❤️

آندری: من فکر می‌کنم تعادل خوب است، اما دوست دارم گاهی اوقات دوره‌های فشرده کار داشته باشم. این دوره‌ها، که مثلاً ماهی یک بار اتفاق می‌افتند، به من اجازه می‌دهند کاملاً درگیر یک مسئله شوم و خلاقیت‌ام را به کار بگیرم. بیشتر وقت‌ها تعادل دارم، اما این دوره‌های فشرده برایم بسیار ارزشمند هستند.

آندری: بله، اما حفظ این برنامه سخت است، به‌ویژه وقتی با دیگران همکاری می‌کنی. جامعه در یک بازه زمانی خاص زندگی می‌کند و تو مجبوری خودت را با آن تطبیق دهی. سعی می‌کنم وقتی کارهای اجتماعی دارم، زیاد الکل ننوشم تا بتوانم بعداً به کارم برگردم.

ایشون و آقای Jay Alammar باهم کتاب خیلی خوب Hands-on LLMs رو نوشتن. دو نفر که نقاشی‌شون خوبه و از کتاب هم مشخصه! هر دو خط، یک شکل! 👏