ICC訊 來自COMPUTEX展會消息, NVIDIA推出的NVLink Fusion芯片技術(shù)近日獲得聯(lián)發(fā)科、Marvell、Alchip Technologies、Astera Labs、新思科技和Cadence等廠商采用。這項技術(shù)旨在構(gòu)建半定制化AI基礎(chǔ)設(shè)施,支持模型訓(xùn)練和自主推理AI工作負載。
通過NVLink Fusion,富士通和高通技術(shù)的CPU也能與NVIDIA GPU集成,構(gòu)建高性能NVIDIA AI工廠。該技術(shù)為云服務(wù)商提供擴展AI工廠至數(shù)百萬GPU的能力,支持任意ASIC芯片與NVIDIA機架級系統(tǒng)及端到端網(wǎng)絡(luò)平臺協(xié)同工作,其網(wǎng)絡(luò)平臺可提供800Gb/s吞吐量,配備NVIDIA ConnectX-8 SuperNIC網(wǎng)卡、NVIDIA Spectrum-X以太網(wǎng)和Quantum-X800 InfiniBand交換機,并即將推出共封裝光學(xué)模塊。
超大規(guī)模數(shù)據(jù)中心運營商可與NVIDIA合作伙伴生態(tài)系統(tǒng)合作,利用NVLink Fusion技術(shù)集成NVIDIA機架級解決方案部署數(shù)據(jù)中心基礎(chǔ)設(shè)施。富士通和高通技術(shù)等AI創(chuàng)新企業(yè)也可通過該技術(shù),在機架級架構(gòu)中將各自定制CPU與NVIDIA GPU耦合,提升AI性能。
為以高能效方式最大化AI工廠吞吐量和性能,第五代NVIDIA NVLink平臺包含NVIDIA GB200 NVL72和GB300 NVL72高密度計算機架,每GPU提供1.8TB/s總帶寬,比PCIe Gen5快14倍。目前已有領(lǐng)先超大規(guī)模企業(yè)開始部署NVIDIA NVLink全機架解決方案,通過采用NVLink Fusion的NVIDIA機架架構(gòu)標(biāo)準(zhǔn)化其異構(gòu)芯片數(shù)據(jù)中心,可加快部署速度。
采用NVIDIA NVLink Fusion的AI工廠由NVIDIA Mission Control提供支持,這是一個統(tǒng)一的運營編排軟件平臺,可自動化管理AI數(shù)據(jù)中心和工作負載。該平臺旨在優(yōu)化AI工廠運營,涵蓋從部署配置、基礎(chǔ)設(shè)施驗證到關(guān)鍵任務(wù)負載編排的全流程,幫助企業(yè)更快部署前沿AI模型。
目前,聯(lián)發(fā)科、Marvell、Alchip、Astera Labs、新思科技和Cadence均已提供NVIDIA NVLink Fusion芯片設(shè)計服務(wù)和解決方案。