《科創(chuàng)板日?qǐng)?bào)》20日訊,在華為開(kāi)發(fā)者大會(huì)上,華為云計(jì)算 CEO張平安宣布基于CloudMatrix384超節(jié)點(diǎn)的新一代昇騰AI云服務(wù)全面上線。據(jù)悉,華為云新一代昇騰AI云服務(wù)基于CloudMatrix384超節(jié)點(diǎn),將384顆昇騰NPU和192顆鯤鵬CPU通過(guò)高速網(wǎng)絡(luò)MatrixLink全對(duì)等互聯(lián),形成一臺(tái)超級(jí)“AI服務(wù)器”,單卡推理吞吐量躍升到2300 Tokens/s。對(duì)于萬(wàn)億、十萬(wàn)億參數(shù)的大模型訓(xùn)練任務(wù),在云數(shù)據(jù)中心,還能將432個(gè)超節(jié)點(diǎn)級(jí)聯(lián)成最高16萬(wàn)卡的超大集群;同時(shí),超節(jié)點(diǎn)還可以支持訓(xùn)推算力一體部署。(記者 黃心怡)