🧠 HierarchicalTopK —
رویکردی تازه برای تفسیرپذیری شبکه‌های عصبی

در کنفرانس EMNLP 2025 روشی با نام HierarchicalTopK معرفی شد — رویکردی که امکان آموزش شبکه‌های عصبی را در چندین سطح پراکندگی (sparsity) به‌صورت هم‌زمان فراهم می‌کند، بدون آنکه تفسیرپذیری یا کیفیت مدل از بین برود.

🔹 مسئله اصلی:
در روش‌های سنتی، سطح پراکندگی باید پیش از آموزش تعیین شود و تغییر آن بعداً ممکن نیست.
پراکندگی کم → مدل دقیق ولی غیرتفسیرپذیر.
پراکندگی زیاد → تفسیرپذیر ولی با افت عملکرد.

🔹 نوآوری HierarchicalTopK:
به‌جای آموزش چند مدل جداگانه برای هر سطح، این روش یک فضای واحد می‌سازد که تمام سطوح پراکندگی را در خود جای می‌دهد.
در نتیجه:

♻️می‌توان به‌صورت پویا بین سطوح پراکندگی جابه‌جا شد؛

♻️ارتباط معنایی بین سطوح حفظ می‌شود؛

♻️مدل حتی در سطوح بالا تفسیرپذیری خود را حفظ می‌کند.


🔹 مزیت‌های کلیدی:
✅ فقط یک مدل لازم است، نه ده‌ها مدل جداگانه
✅ کاهش هزینه محاسباتی و زمان آموزش
✅ مناسب برای حسابرسی و تحلیل رفتار مدل‌ها
✅ گامی مهم به‌سوی هوش مصنوعی تفسیرپذیر در صنعت

📦 مدل و کد در Hugging Face:
🔗 https://huggingface.co/t-tech/flex-sae

#AI #ML #EMNLP2025 #ExplainableAI #SparseModeling #Interpretability #هوش_مصنوعی #یادگیری_ماشینی