PyTorch Howsam
3.26K subscribers
374 photos
48 videos
9 files
513 links
از هوش مصنوعی میگیم...

ارتباط با ادمین
@howsam_support
Download Telegram
عمو Andrew Ng :
ما در حال انتشار یک "Agentic Reviewer" جدید برای مقالات تحقیقاتی هستیم.
من این کار را به عنوان یک پروژه آخر هفته شروع به کدنویسی کردم و Yixing J. آن را بسیار بهتر کرد.

من از دانشجویی الهام گرفتم که مقاله‌اش در طول ۳ سال ۶ بار رد شده بود.
حلقه بازخورد او که هر بار حدود ۶ ماه طول می‌کشید تا بازخورد دریافت کند به طرز دردناکی کند بود.
ما می‌خواستیم ببینیم آیا Agentic Workflow می‌تواند به محققان کمک کند سریع‌تر به کارشان بپردازند؟

هنگامی که سیستم را با استفاده از بازبینی‌های ICLR 2025 آموزش دادیم و همبستگی Spearman را در مجموعه آزمایشی اندازه‌گیری کردیم: (بالاتر بهتر است)

همبستگی بین دو بازبین انسانی: 0.41
همبستگی بین AI و یک بازبین انسانی: 0.42

این نشان می‌دهد که Agentic در حال نزدیک شدن به عملکرد سطح انسانی است.

https://paperreview.ai/
یک مثال فارسی درباره TF-IDF از جمنای گرفتم، کمی اصلاحش کردم و بعد به نانو بنانا دادم که به تصویر تبدیل کنه.

اینجا، منِ انسان فقط نقش پرامپت دادن، بازبینی و اصلاح پرامپت‌ها و خروجی‌ها، نظارت روی فرآیند انجام کار و ساختن پایپ‌لاین برای رسیدن به هدف رو داشتم. خروجی کار متناسب با سلیقه من نیست، چون اگه قرار بود این رو من بسازم، قشنگ‌تر و عمیق‌تر می‌ساختم! البته، احتمالا با 20 برابر وقت بیشتر...

ولی با وجود هوش مصنوعی در این سطح، بازم من انسان نقش پررنگی دارم؛ باید اونقدر خوب هدایتش کنم که دقیقا خروجی متناسب با سلیقه خودم ازش بگیرم.

البته، به نظرم ابزارها هم باید پیشرفت کنن و بهتر از این بشن. مثلا، ادیت تصویر راحت‌تر بشه، نیاز نباشه با هر تغییر پرامپت تصویر از نو ساخته بشه، خروجی ‌ای بدن که قابلیت ادیت شدن در پاورپوینت یا درایو داشته باشه...
ترند شدیدا صعودی "هوش مصنوعی" در فارسی رو ببینید؛ تقریبا از 2023 اوج گرفتن رو شروع کرده (نمودار آبی). چرا از 2023؟ احتمالا به خاطر ChatGPT (اواخر نوامبر 2022 اومد) و ابزارهایی که بعدش اومدن.

برای زیارت عاشورا (قرمز) و بلک فرایدی (زرد) هم رفتار فصلی می‌بینیم. اون پیک‌های بزرگ قرمز مربوط به محرم میشه. زیارت عاشورا، کلیدواژه پرسرچی هست. حالا سرچ این روزهای هوش مصنوعی رو با اوج زیارت عاشورا مقایسه کنید.

پیک بلک فرایدی داره سال به سال بزرگتر میشه.

نمودار سبز هم مربوط به پایتون میشه. چرا پایتون این اندازه کمه و شیب صعودیش کم هست، اما هوش مصنوعی انقدر شدید رشد کرده؟ چون مردم اینا رو سرچ میکنن:
آهنگ هوش مصنوعی
دانلود هوش مصنوعی
هوش مصنوعی هایده
هوش مصنوعی مهستی
هوش مصنوعی عکس
برنامه هوش مصنوعی
هوش مصنوعی رایگان
مدتی هست که کم‌وبیش برای مسابقه CSIRO کگل وقت گذاشتم. یک تسک مولتی رگرسیون با داده‌های تصویری هست. مسابقه سه ماه وقت داشت که دو ماهش باقیمونده. دیگه نوتبوکش رو به سطح مطلوب برای یک فرد استارتر رسوندم. دیشب پابلیکش کردم. اینجا هم میذارم، اگه خواستید شما هم روش کار کنید. احتمال داره که ویدئوش رو ضبط کنم و توی سایت تحت عنوان پروژه/دوره جدید معرفی کنیم.

https://www.kaggle.com/code/sajadai/csiro-pytorch-starter
compact-guide-to-large-language-models.pdf
666.7 KB
مشغول سرچ بودم که به این سه تا ایبوک توی دیتابریکس برخورد کردم. رایگان بودن، به همین خاطر می‌تونم اینجا به اشتراک بذارم. موضوع سه تا ایبوک:
* LLMs
* Machine Learning Use Cases
* MLOps
بخشی از مصاحبه اخیر ایلیا سوتسکور (Ilya Sutskever) رو در ادامه بخونید:

دوران آزمون و خطا (۲۰۱۲ تا ۲۰۲۰): در گذشته، پیشرفت در یادگیری ماشین بیشتر بر پایه دستکاری و آزمایش‌های تجربی توسط محققان بود تا نتایج جالبی به دست آید.

عصر مقیاس‌پذیری (Scaling) (۲۰۲۰ تا ۲۰۲۵): با ظهور مدل‌هایی مثل GPT-3، محققان متوجه شدند که یک فرمول ساده وجود دارد: "افزایش داده‌ها و قدرت محاسباتی برابر است با نتایج بهتر." این دوران برای شرکت‌ها بسیار جذاب بود، زیرا سرمایه‌گذاری روی «بزرگ‌تر کردن مدل» ریسک کمتری نسبت به تحقیقات داشت و نتایج آن قابل پیش‌بینی بود.

پایان دوران مقیاس‌پذیری آسان: سوتسکور اشاره می‌کند که داده‌های موجود برای آموزش مدل‌ها (Pre-training) محدود هستند و روزی تمام می‌شوند. او معتقد است که صرفاً بزرگ‌تر کردن مدل‌ها تا ۱۰۰ برابر، دیگر باعث تحول چشمگیری نخواهد شد.

بازگشت به عصر پژوهش (اکنون): ما اکنون دوباره به دورانی بازگشته‌ایم که نیاز به "پژوهش" و کشف روش‌های جدید (فراتر از روش‌های فعلی) داریم، با این تفاوت که اکنون کامپیوترهای بسیار قدرتمندتری در اختیار داریم.


منبع
با دوستان داشتیم درباره مایندست صحبت می‌کردیم. نوید چیزی گفت که خیلی جالب بود و دوست داشتم اینجا هم باشه:
خانم کارل دوک (استاد روانشناسی استنفورد) توی کتاب طرز فکر (مایندست) میگه ما کلا دو نوع طرز فکر داریم، یکی ثابت و یکی رشد...
طرز فکر ثابت، مدام میخواد همه چیزو راحت بدست بیاره و ثبات فکری داره و در برابر یادگیری مقاومت میکنه
اما طرز فکر رشد، مدام دوست داره چیزهای جدید یاد بگیره و از به چالش کشیدن خودش لذت میبره...
در نهایت میگه ما کلی تحقیق کردیم، دیدیم مهم‌ترین تفاوت افراد موفق با افراد دیگه، اینکه اونا طرز فکرشون از نوع رشد بوده.
یک پست جالب در X درباره رزومه و دعوت به مصاحبه دیدم که در ادامه آوردم...

یک نفر گفته:
من نمیتونم دلیل رد شدن قبل از مصاحبه تو موقعیت کاراموزی رو درک کنم
دیگه چی باید بلد باشم که باهام مصاحبه کنن
ینی واقعا توقعشون بیشتره؟؟؟


یک نفر متخصص پیام بالا رو کوت کرده و گفته:
این نظر شخصی منه:
درصد بالایی از افراد توی همون ۳ثانیه اول دیده شدن رزومه‌اشون ریجکت می شن!


همچنین، یک نفر دیگه تصویر بالا رو منتشر کرده و گفته:
هیت‌مپ تمرکز recruiter‌ روی رزومه‌ی applicant. این رو من تو پرامپت و برنامه‌ای که واسه tailor کردن رزومه‌م ساخته بودم لحاظ کرده بودم.
جواب داد. یعنی تا مصاحبه گرفتن :))


خیلی مهمه‌ها!

لینک مرجع