華為首次展出“算力核彈”！昇騰384超節(jié)點獲評WAIC 2025鎮(zhèn)館之寶

  ICC訊 7月28日消息，日前，2025世界人工智能大會(WAIC)在上海開幕，華為首次展出被稱為“算力核彈”的昇騰384超節(jié)點真機，即Atlas 900 A3 SuperPoD。

  華為表示，昇騰384超節(jié)點被評選為本次WAIC 2025鎮(zhèn)館之寶。昇騰384超節(jié)點通過高速互聯(lián)總線，突破互聯(lián)瓶頸，讓超節(jié)點像一臺計算機一樣工作。

  相比傳統(tǒng)集群，主要有以下3大優(yōu)勢：

  超大帶寬

  超節(jié)點內(nèi)任意兩個AI處理器之間通信帶寬，相較于傳統(tǒng)架構(gòu)提升15倍，超節(jié)點內(nèi)單跳時延降低10倍。

  超低時延

  昇騰超節(jié)點支持全局內(nèi)存統(tǒng)一編址，具備更高效的內(nèi)存語義通信能力。通過更低時延指令級內(nèi)存語義通信，可滿足大模型訓練/推理中的小包通信需求，提升專家網(wǎng)絡小包數(shù)據(jù)傳輸及離散隨機訪存通信效率。

  昇騰384超節(jié)點是業(yè)界唯一突破Decode時延15ms的方案，滿足實時深度思考下的用戶體驗需求。

  超強性能

  經(jīng)過實際測試，在昇騰超節(jié)點集群上，LLaMA3等千億稠密模型訓練性能可達傳統(tǒng)集群的2.5倍以上。

  在通信占比更高的Qwen、DeepSeek等多模態(tài)、MoE模型上，可以達到3倍以上的提升。

  據(jù)了解，昇騰384超節(jié)點首創(chuàng)將384顆昇騰NPU和192顆鯤鵬CPU通過全新高速網(wǎng)絡MatrixLink全對等互聯(lián)，形成一臺超級“AI服務器”，其算力總規(guī)模達300Pflops，是英偉達NVL72的1.7倍。

  網(wǎng)絡互聯(lián)總帶寬達269TB/s，比英偉達NVL72提升107%;內(nèi)存總帶寬達1229TB/s，比英偉達NVL72提升113%;單卡推理吞吐量躍升到2300 Tokens/s。