飞讯-币圈快讯
89 subscribers
13.6K photos
142 links
币圈\区块链\加密货币 新闻资讯
商业合作 @laozong
Download Telegram
🚀 Deepseek 宣布开源优化并行策略

据 ChainCatcher 报道,Deepseek 于开源周第四天宣布开源优化并行策略。

其中包括 DualPipe,一种用于 V3/R1 训练中计算-通信重叠的双向管道并行算法。

此外,还包括 EPLB,一种用于 V3/R1 的专家并行负载平衡器,以及分析 V3/R1 中的计算-通信重叠。


#Deepseek #开源 #并行策略 #DualPipe #V3 #R1 #负载平衡 #计算通信重叠 #算法