大算力的構建不是單點突破,而是一個從硬件到軟件、從算子到存儲、從推理框架到超節點的全棧創新,充分依托了華為的“大雜燴”能力。

  首先,CloudMatrix384 超節點以全新的計算架構創新,突破性能瓶頸,構筑穩固澎湃的算力根基; CANN昇騰硬件使能,優化算子與高效通信策略,讓云端的算力能夠以最高效的方式被調用和組合;EMS彈性內存存儲打破AI內存墻,突破性地實現“以存強算”, 徹底釋放了每一顆芯片的算力;xDeepServe 分布式推理框架則以極致分離架構Transfomerless讓超節點釋放出更高效算力。

  “拆掉”Transformer,xDeepServe全面激發算力潛能

  作為CloudMatrix384 超節點的原生服務,xDeepServe以Transformerless 的極致分離架構,把MoE大模型拆成可獨立伸縮的 Attention、FFN、Expert三個微模塊,相當于在一臺CloudMatrix384上把“大模型”拆成“積木”,并分派到不同的NPU上同步處理任務。之后,再用基于內存語義的微秒級XCCL通信庫與FlowServe 自研推理引擎把它們重新拼成一個超高吞吐的LLM服務平臺,即Tokens的“超高速流水線”。通過xDeepServe不斷調優,最終實現了從非超節點單卡吞吐600tokens/s至超節點單卡吞吐2400tokens/s的提升。

  作為硬件加速計算的中間層,CANN包含多個算子庫和和XCCL這種高性能通信庫等組件,共同支撐AI模型的高效運行。其中,XCCL作為專為超節點上的大語言模型(LLM)服務而量身打造的高性能通信庫,能夠充分發揮CloudMatrix384擴展后的UB互聯架構(UB fabric)的全部潛力,為 Transformerless的全面分離奠定了帶寬與時延雙重硬底座。

  而作為被重構的“去中心”式分布式引擎,FlowServe把CloudMatrix384 切成完全自治的 DP 小組,每個小組自帶 Tokenizer、執行器、RTC 緩存與網絡棧,完全自給自足,做到千卡并發也不“擁堵”。

  目前,xDeepServe已實現MA分離,而下一步,將把Attention、MoE、Decode全部改成自由流動的數據流,并把同樣的拼圖方法復制到多臺超節點,讓推理吞吐像鋪軌一樣線性延伸,最終或將視線吞吐量的更大突破,讓每塊 NPU 都高效運作,芯片永不排隊,推理永不塞車。

  聚焦主流大模型,不斷提升模型性能

  目前,華為云MaaS服務已支持DeepSeek、Kimi、Qwen、Pangu、SDXL、Wan等主流大模型及versatile、Dify、扣子等主流Agent平臺。

  華為云積累了大量模型性能優化、效果調優的技術和能力,從而實現“源于開源,高于開源”,讓更多大模型可以在昇騰云上跑得更快更好。以文生圖大模型來說,在輕微損失畫質的情況下,通過Int8量化、旋轉位置編碼融合算子等方式,在在華為云MaaS平臺實現了2倍于業界主流平臺的出圖速度,最大尺寸支持2K×2K。而在文生視頻大模型上,不僅通過量化方式來提速,還通過通算并行等方式,降低延遲與顯存占用,大幅提升視頻生成速度,相較于友商實現了3.5倍的性能提升。華為云Tokens服務在性能、模型適配、效果調優方面的基礎,也讓更多企業能夠快速開發和構建AI Agent。

  而在應用層,華為云已與超過100家伙伴攜手深入行業場景,共建豐富的Agent,在調研分析、內容創作、智慧辦公、智能運維等領域解決產業難題,讓企業更便捷地擁抱AI創新,加速智能化。

  如基于MaaS平臺推出的今日人才數智員工解決方案,集成了先進的自然語言處理、機器學習和深度學習技術,能實現與用戶的智能交互和任務處理,顯著提升服務效率與客戶滿意度;而北京方寸無憂科技開發的無憂智慧公文解決方案可以提升公文處理效能,實現政企辦公智能化轉型。

  以Token為動力的智能社會已經到來,而華為云將以系統級創新能力和全新的Tokens服務構筑先進算力,助力各行各業加速落地AI。

中文科技資訊微信二維碼logo

  文章內容僅供閱讀,不構成投資建議,請謹慎對待。投資者據此操作,風險自擔。

海報生成中...

瀏覽

最新新聞

熱門新聞

即時

全球頂級AI創作社區回歸!海藝AI國內首發“全民娛樂化創作

海藝AI的模型系統在國際市場上廣受好評,目前站內累計模型數超過80萬個,涵蓋寫實、二次元、插畫、設計、攝影、風格化圖像等多類型應用場景,基本覆蓋所有主流創作風格。

新聞

市場占比高達35.8%,阿里云引領中國AI云增長

9月9日,國際權威市場調研機構英富曼(Omdia)發布了《中國AI云市場,1H25》報告。中國AI云市場阿里云占比8%位列第一。

企業IT

華為坤靈發布IdeaHub千行百業體驗官計劃,助力中小企

9月24日,華為坤靈召開“智能體驗,一屏到位”華為IdeaHub千行百業體驗官計劃發布會。

3C消費

雅馬哈推出兩款高端頭戴耳機YH-4000與YH-C3000

雅馬哈昨日宣布推出兩款頭戴式耳機,分別是平板振膜的YH-4000和動圈原理的YH-C3000。

研究

IDC:2025上半年全球智能家居清潔機器人出貨量同比暴

IDC今日發布的《全球智能家居清潔機器人設備市場季度跟蹤報告,2025年第二季度》顯示,上半年全球智能家居清潔機器人市場出貨1,2萬臺,同比增長33%,顯示出品類強勁的市場需求。

国产日韩精品一区二区_欧美一级片在线播放_久久精品中文字幕电影_久久视频精品在线_亚洲国产成人久久综合一区_久久精品国产精品_国产视频精品免费播放_在线视频中文亚洲_亚洲午夜未满十八勿入免费观看全集_精品亚洲一区二区_国产原创欧美精品_国产色综合天天综合网_九九久久国产精品_欧美极品少妇xxxxⅹ裸体艺术_亚洲国产精品人人爽夜夜爽_尤物九九久久国产精品的分类
亚洲精品国产精品国自产观看| www.视频在线.com| 精品国产区一区二区三区在线观看| 国产精品综合av一区二区国产馆| 福利微拍一区二区| 999久久久精品国产| 亚洲电影免费观看高清完整版在线| 成人精品aaaa网站| 久久综合九色综合网站| 98视频在线噜噜噜国产| 丝袜诱惑一区二区| 国产精品白丝av嫩草影院| 一区二区黄色| 欧美日本高清视频| 色之综合天天综合色天天棕色| 精品欧美国产一区二区三区不卡| 欧美日韩国产v| 欧美性aaa| 国产69精品久久久久按摩| 69视频在线免费观看| 欧美电影免费观看完整版| 美女久久久久久久| 一区二区在线视频播放| 国产精品一站二站| 亚洲欧美激情在线视频| 欧美精选午夜久久久乱码6080| 成人午夜在线播放| 成人开心激情| 69av成年福利视频| 亚洲第一网站男人都懂| 欧美日韩在线网站| 91精品国产99久久久久久| 欧美天天影院| 精品综合久久88少妇激情| 99国产精品久久| 免费一级欧美片在线观看网站| 牛人盗摄一区二区三区视频| 亚洲成人五区| 亚洲国产伊人| 欧美第一页在线| 麻豆高清免费国产一区| 亚洲天堂1区| 超碰国产一区| 99久久999| 国模少妇一区二区三区| 高清日韩电视剧大全免费| 91看片淫黄大片一级| 黄色资源网久久资源365| 成人性生交xxxxx网站| 一区二区三区在线高清| 国产一区二区在线免费视频| 国内精品久久久久久久果冻传媒| 思热99re视热频这里只精品| 91成人在线看| 欧美视频日韩视频| 国产91成人在在线播放| 国产v综合v亚洲欧| 高清日韩一区| 日韩中文字幕在线看| 亚洲人成网站影音先锋播放| 精品国产亚洲一区二区三区大结局| 久99九色视频在线观看| 色婷婷亚洲精品| 久久人人看视频| 中文字幕第一页久久| 亚洲激情综合| 国产日本欧美一区二区三区| 2017欧美狠狠色| 免费电影视频在线看| 巨大荫蒂视频欧美大片| 91精品国产99久久久久久红楼| 久久琪琪电影院| 亚洲国产欧美一区二区三区丁香婷| 99视频免费观看蜜桃视频| 亚洲欧洲av一区二区三区久久| 91在线porny国产在线看| 中文字幕在线不卡一区| 欧美日韩一级片在线观看| 亚洲色图丝袜美腿| 亚洲欧洲av| 国产精品一色哟哟哟| 久久久亚洲网站| 一本到不卡免费一区二区| 人人爽久久涩噜噜噜网站| 亚洲欧洲色图综合| 亚洲蜜臀av乱码久久精品| 日韩免费福利视频| 日韩欧国产精品一区综合无码| 欧美疯狂做受xxxx高潮| 韩国av一区| 一区二区三区四区不卡在线| 亚洲片av在线| 四虎国产精品免费久久| 欧美国产视频在线观看| 91精品国产自产观看在线| 最近2019年好看中文字幕视频| av在线免费观看网址| 白嫩亚洲一区二区三区| 高清在线一区二区| 小视频免费在线观看| 日韩av午夜| 小说区亚洲自拍另类图片专区| 97在线观看免费高清| 韩日精品视频一区| 日韩精品亚洲一区二区三区免费| 日韩欧美国产网站| 国产麻豆精品一区二区| 欧美成人精品一区二区男人看| 国产精品分类| 亚洲激情在线播放| 国产精品一区二区三区毛片淫片| 亚洲欧洲精品一区二区三区| 亚洲人线精品午夜| 欧美日韩国产在线观看| 国产精品福利在线观看| 尤物九九久久国产精品的特点| 免费人成网站在线观看欧美高清| 久久久999精品免费| 色99之美女主播在线视频| 国产欧美日韩中文字幕在线| 极品束缚调教一区二区网站| 亚洲一区在线视频| 神马影院一区二区| 久久人人爽爽人人爽人人片av| 91精品国产福利在线观看麻豆| 91国产丝袜在线放| 奇米影视777在线欧美电影观看| 欧美日本亚洲视频| 日本免费一区二区三区四区| 极品日韩久久| 成人3d精品动漫精品一二三| 国产精品毛片久久久久久| 99精品美女| 成人精品动漫| 一区二区在线观看视频在线观看| 91国产美女视频| 亚洲日日夜夜| 少妇精品导航| 久久久久久久久久久国产| 久久综合狠狠综合久久综合88| 国产一区精品视频| 欧美亚洲视频| 国产精品99久久免费观看| 91.成人天堂一区| 狠狠色丁香久久婷婷综| 999精品嫩草久久久久久99| 精品久久香蕉国产线看观看亚洲| 99精品国产热久久91蜜凸| 久久人人97超碰人人澡爱香蕉| 天堂8中文在线最新版在线| 免费一区视频| 久久久久久久性潮| 色播久久人人爽人人爽人人片视av| 精品国产乱码久久久久久88av| 999久久久精品一区二区| 国产欧美一区二区在线| 欧美午夜片欧美片在线观看| 久久久黄色av| 国产精品xxx在线观看www| 亚洲国产成人精品女人| 69av亚洲| 91日本在线观看| 综合亚洲自拍| 香蕉一区二区|