🔍ابزار Grad-CAM در شبکه‌های عصبی کانولوشنی (CNN)

♻️یکی از ابزارهای مهم در توضیح‌پذیری مدل‌های یادگیری عمیق، روش Grad-CAM (Gradient-weighted Class Activation Mapping) است.

📌 ایده اصلی:
ابزار Grad-CAM نشان می‌دهد که مدل هنگام پیش‌بینی به کدام بخش‌های تصویر بیشتر توجه کرده است. به عبارت ساده، نقشه حرارتی (Heatmap) تولید می‌کند که مشخص می‌کند کدام نواحی تصویر بیشترین نقش را در خروجی نهایی داشته‌اند.

⚡ نحوه کار:

1. ورودی (مثلاً تصویر صنعتی) به مدل CNN داده می‌شود.


2. گرادیان‌های لایه‌های کانولوشنی نسبت به خروجی کلاس موردنظر محاسبه می‌شوند.


3. این گرادیان‌ها به‌عنوان وزن روی نقشه‌های ویژگی (Feature Maps) اعمال می‌شوند.


4. در نهایت یک نقشه حرارتی ساخته می‌شود که مناطق مهم تصویر را مشخص می‌کند.



🤖 کاربردهای صنعتی:

✳️در کنترل کیفیت (QC) برای دیدن اینکه مدل واقعاً روی نقص سطح فلز یا ترک تمرکز کرده یا نه.

✳️در پزشکی، برای بررسی اینکه مدل روی توده مشکوک تمرکز کرده و نه روی نویز اطراف.

✳️در بینایی ماشین صنعتی، برای اعتمادسازی نزد مدیران و مهندسان که مدل تصمیماتش را بر اساس نواحی درست گرفته است.


💡 نتیجه: Grad-CAM پلی است بین مدل‌های جعبه سیاه و قابلیت توضیح‌پذیری (Explainability) که در صنعت حیاتی است.

@rss_ai_ir
#هوش_مصنوعی #CNN #ExplainableAI #GradCAM #پردازش_تصویر