在 DeepSeek 開源周第四日,摩爾線程宣布成功支持 DeepSeek 的開源通信庫 DeepEP 和并行算法 DualPipe,并發布相關代碼倉庫:MT-DeepEP 和 MT-DualPipe。
DeepEP 是專為 MoE(混合專家)模型訓練和推理設計的通信庫,適用于大模型集群訓練。它通過優化通信信道使用率,顯著提升了訓練效率。摩爾線程基于 MUSA Compute Capability 3.1 全功能 GPU 適配了 DeepEP,支持高效 All-to-All 通信、節點內通信、高吞吐量計算核心及低延遲推理解碼等功能,并原生支持 FP8 數據分發。
DualPipe 則是 DeepSeek-V3 提出的雙向流水線并行算法,通過計算與通信完全重疊,減少了設備空閑等待現象。摩爾線程依托深度學習框架 Torch-MUSA 和 MUSA 軟件棧的兼容性,實現了對 DualPipe 的支持。MT-DualPipe 可接入 MT-Megatron 和即將開源的 MT-TransformerEngine 框架,進一步降低氣泡占比,優化通信效率,實現更高效的計算資源利用。
文章內容僅供閱讀,不構成投資建議,請謹慎對待。投資者據此操作,風險自擔。
海報生成中...
海藝AI的模型系統在國際市場上廣受好評,目前站內累計模型數超過80萬個,涵蓋寫實、二次元、插畫、設計、攝影、風格化圖像等多類型應用場景,基本覆蓋所有主流創作風格。
IDC今日發布的《全球智能家居清潔機器人設備市場季度跟蹤報告,2025年第二季度》顯示,上半年全球智能家居清潔機器人市場出貨1,2萬臺,同比增長33%,顯示出品類強勁的市場需求。