中興打造開放智算基座,幫助小廠解決算力難題
發(fā)布: 2025-3-24 18:19 | 作者: 四起狼煙 | 來(lái)源: 洋溪資訊 槎溪信息
最近在杭州某AI創(chuàng)業(yè)公司當(dāng)牛馬的朋友找我哭訴,他們剛?cè)诘?00萬(wàn)還沒捂熱,轉(zhuǎn)頭就砸給某云廠商買了200張A100的算力卡。結(jié)果你猜怎么著?訓(xùn)練完百億參數(shù)大模型后,發(fā)現(xiàn)推理成本比訓(xùn)練還燒錢,現(xiàn)在連電費(fèi)都快付不起了。在這樣的背景下,中興打造的智算基座,很可能是個(gè)不錯(cuò)的解決方案。
還記得今年初Deepseek的全球火爆嗎?它的出現(xiàn)解決了一個(gè)核心問(wèn)題。就是讓智能算力的不足問(wèn)題從高性能的訓(xùn)練算力延展到普惠型的推理算力。但同時(shí),也帶來(lái)了兩個(gè)挑戰(zhàn),第一個(gè)挑戰(zhàn)是,推理算力將爆發(fā)式增長(zhǎng),需要加快算力普及;第二個(gè)挑戰(zhàn)是,訓(xùn)練算力仍需進(jìn)一步強(qiáng)化,以支撐更大規(guī)模的模型訓(xùn)練,以及多模態(tài)大模型的新突破。
現(xiàn)在業(yè)內(nèi)瘋搶高端GPU,卻沒人注意算力鏈條上的隱形損耗:GPU之間等數(shù)據(jù)、機(jī)房之間等傳輸、模型推理等調(diào)度...導(dǎo)致許多算力白白浪費(fèi)。而中興這套開放基座確實(shí)有點(diǎn)東西。這一基座不僅支持跨機(jī)房互聯(lián),在進(jìn)行多模態(tài)模型訓(xùn)練時(shí),還能夠大幅度降低算力損耗,同時(shí)它還支持混搭不同品牌GPU,比如把某國(guó)產(chǎn)芯片和A800混用,大幅度提升調(diào)度效率。
別人都在堆顯卡,中興在修“算力高速公路”。中興通過(guò)芯片之間、GPU 卡之間、服務(wù)器之間以及數(shù)據(jù)中心之間的連接創(chuàng)新,包括大容量交換芯片、800G光互聯(lián)等技術(shù)創(chuàng)新,構(gòu)建的跨3個(gè)機(jī)房互聯(lián)的智算集群,與單一機(jī)房部署相比,算力損失控制在5%以內(nèi)。
在AI 2.0時(shí)代,會(huì)造顯卡不算本事,能讓每焦耳電力都轉(zhuǎn)化成有效智能,才是真·護(hù)城河。這樣的背景下,中興的未來(lái)發(fā)展?jié)摿o(wú)限,未來(lái)可期。

