🚀 DeepSeek V3.2-Exp:
کاهش هزینه‌ها با Sparse Attention

🔹 این نسخه بر پایه‌ی V3.1-Terminus ساخته شده و با مکانیزم جدید Sparse Attention (DSA) آموزش دیده است.

🔹 هر توکن به‌جای همه‌ی توکن‌های قبلی، فقط به حدود 2048 کلید توجه می‌کند. این یعنی مصرف حافظه و تأخیر کمتر، بدون افت محسوس کیفیت.

🔹 💰 هزینه API به‌طور چشمگیری کاهش یافته: از ۱.۶۸ دلار به ۰.۴۲ دلار برای هر یک میلیون توکن.

📊 ویژگی‌ها:

✳️مناسب برای کانتکست‌های طولانی و زنجیره‌های پیچیده‌ی استدلال (Chain-of-Thought).

✳️کیفیت مشابه V3.1 با هزینه‌ی بسیار کمتر.

✳️آموزش بهینه‌تر: سه مرحله‌ی RL قبلی در یک مرحله ادغام شده.

✳️برای وظایفی که پاسخ یکتا ندارند، از GRM برای ارزیابی پاسخ‌ها استفاده می‌شود.


✨ به زبان ساده: V3.2-Exp همان کیفیت V3.1 را با نصف هزینه و سرعت بیشتر ارائه می‌دهد.

@rss_ai_ir

#DeepSeek #SparseAttention #هوش_مصنوعی #LLM #مدل_زبان