人工智能正以前所未有的速度重塑世界?;P蛥?shù)規(guī)模向萬(wàn)億級(jí)躍遷,推理模型逐步在千行百業(yè)規(guī)模化落地,大模型的訓(xùn)練推理對(duì)底層算力基礎(chǔ)設(shè)施提出了前所未有的嚴(yán)苛要求。高效、可擴(kuò)展、低延遲的超節(jié)點(diǎn)技術(shù),正成為支撐下一代AI訓(xùn)練集群和推理部署的關(guān)鍵。
什么是超節(jié)點(diǎn)?
超節(jié)點(diǎn)是一種通過(guò)高帶寬、低時(shí)延互聯(lián)技術(shù)(如NVLink、UB、OISA等)將成百上千張GPU互聯(lián)在一起的產(chǎn)品形態(tài)和技術(shù)。英偉達(dá)、華為、AMD等全球領(lǐng)先的科技企業(yè)紛紛加速部署超節(jié)點(diǎn)技術(shù),推動(dòng)其在AI訓(xùn)練與推理領(lǐng)域的廣泛應(yīng)用。
在私有協(xié)議領(lǐng)域,英偉達(dá)推出了基于NVLink的NVL72方案,為行業(yè)樹(shù)立了風(fēng)向標(biāo)。其在GTC 2025上亮相的英偉達(dá)下一代Rubin ULtra NVL576將支持576個(gè)GPU間互聯(lián),推理效率將是GB300 NVL72的14倍。
AI推理模型及應(yīng)用進(jìn)一步加大了智算集群對(duì)低延遲、高吞吐和高資源利用率的需求。英偉達(dá)最新發(fā)布的 Blackwell GB300 NVL72 超節(jié)點(diǎn)系統(tǒng)在推理性能上相比上一代 H100 DGX 8 系統(tǒng)實(shí)現(xiàn)了 50 倍的提升,同時(shí)也帶來(lái)了10倍ROI的提升。從對(duì)比也可以看出超節(jié)點(diǎn)在模型訓(xùn)練乃至推理階段能夠有效提升投入的性價(jià)比和產(chǎn)出比。
目前超節(jié)點(diǎn)系統(tǒng)主要基于私有協(xié)議構(gòu)建,缺乏生態(tài)上下游協(xié)同。另一方面,私有協(xié)議往往也意味著高昂的成本。
近年來(lái),業(yè)界也一直致力于在Scale Up網(wǎng)絡(luò)構(gòu)建更加開(kāi)放解耦的協(xié)同生態(tài)。AMD、阿里、Intel、谷歌、微軟等企業(yè)牽頭提出了UALink開(kāi)放標(biāo)準(zhǔn);在開(kāi)放數(shù)據(jù)中心&中國(guó)信通院的領(lǐng)導(dǎo)下,以中國(guó)移動(dòng)為代表的OISA、阿里云牽頭的ALink(Alink system)、 騰訊牽頭的ETH-X開(kāi)放標(biāo)準(zhǔn)都在協(xié)同上下游伙伴如火如荼的建設(shè)中。
奇異摩爾作為產(chǎn)業(yè)鏈的一員,積極投身開(kāi)放標(biāo)準(zhǔn)的共建與協(xié)同,在行業(yè)標(biāo)準(zhǔn)制定的過(guò)程中,奇異摩爾憑借其深厚的技術(shù)積累和創(chuàng)新能力,主動(dòng)參與相關(guān)標(biāo)準(zhǔn)的起草與完善,為推動(dòng)整個(gè)AI網(wǎng)絡(luò)的開(kāi)放與標(biāo)準(zhǔn)化發(fā)展貢獻(xiàn)智慧和力量。
隨著AI應(yīng)用的進(jìn)一步爆發(fā)與普及,業(yè)界對(duì)超節(jié)點(diǎn)的需求將進(jìn)一步高漲。當(dāng)前,超節(jié)點(diǎn)技術(shù)的發(fā)展迫切需要應(yīng)對(duì)開(kāi)放的通用協(xié)議、多語(yǔ)義支持、可擴(kuò)展的拓?fù)涞榷喾轿惶魬?zhàn)。
在2025中國(guó)AI算力大會(huì)上,奇異摩爾首席網(wǎng)絡(luò)架構(gòu)專家葉棟將帶來(lái)“AI原生時(shí)代 —共筑超節(jié)點(diǎn)的網(wǎng)絡(luò)基礎(chǔ)架構(gòu)”的主題演講,分享國(guó)內(nèi)外超節(jié)點(diǎn)解決方案在AI訓(xùn)練與推理領(lǐng)域的應(yīng)用現(xiàn)狀與挑戰(zhàn)以及相關(guān)解決方案。
活動(dòng)預(yù)告
演講嘉賓
奇異摩爾首席網(wǎng)絡(luò)架構(gòu)專家 葉棟,2002年北郵博士畢業(yè),B-ISDN寬帶通信專業(yè),擁有超過(guò)20年的網(wǎng)絡(luò)互聯(lián)系統(tǒng)架構(gòu)設(shè)計(jì)經(jīng)驗(yàn),在AI網(wǎng)絡(luò)協(xié)議、RDMA、虛擬化、軟件協(xié)議棧等方面擁有豐富的專業(yè)知識(shí)。在英特爾(中國(guó))工作多年,曾任英特爾網(wǎng)絡(luò)互聯(lián)產(chǎn)品事業(yè)部技術(shù)總監(jiān),負(fù)責(zé)英特爾以太網(wǎng),P4可編程交換芯片,FPGA智能網(wǎng)卡,Google IPU相關(guān)系統(tǒng)架構(gòu)產(chǎn)品的本地化研發(fā)和部署。啟動(dòng)和主導(dǎo)了基于FPGA的智能網(wǎng)卡方案在國(guó)內(nèi)的設(shè)計(jì)開(kāi)發(fā)和推廣,構(gòu)建了多家大型云廠商和服務(wù)商等大規(guī)模部署的技術(shù)方案的底座。
演講主題
《AI原生時(shí)代 —共筑超節(jié)點(diǎn)的網(wǎng)絡(luò)基礎(chǔ)架構(gòu)》
演講摘要
AI原生時(shí)代,基座模型的參數(shù)向萬(wàn)億級(jí)躍升,推理模型加速了AI應(yīng)用在各行各業(yè)的落地。本次報(bào)告旨在介紹國(guó)內(nèi)外超節(jié)點(diǎn)解決方案在AI訓(xùn)練與推理領(lǐng)域的應(yīng)用現(xiàn)狀及挑戰(zhàn);同時(shí)分享奇異摩爾在超節(jié)點(diǎn)領(lǐng)域的核心技術(shù)方案、并進(jìn)一步探討如何與AI網(wǎng)絡(luò)生態(tài)合作伙伴協(xié)同,共筑更高效的超節(jié)點(diǎn)網(wǎng)絡(luò)基礎(chǔ)架構(gòu)。
大會(huì)日程
大會(huì)設(shè)置了主會(huì)場(chǎng)觀眾票、主會(huì)場(chǎng)VIP票、閉門(mén)專享票和貴賓通票四類電子門(mén)票,其中,主會(huì)場(chǎng)觀眾票為免費(fèi)票,申請(qǐng)后需經(jīng)審核通過(guò)方可參會(huì);主會(huì)場(chǎng)VIP票、閉門(mén)專享票和貴賓通票均需購(gòu)買(mǎi)。能夠現(xiàn)場(chǎng)參會(huì)的朋友,掃描下方二維碼添加小助手“雪梨”,即可購(gòu)票或免費(fèi)申請(qǐng)主會(huì)場(chǎng)觀眾票。
關(guān)于我們
AI網(wǎng)絡(luò)全棧式互聯(lián)架構(gòu)產(chǎn)品及解決方案提供商
奇異摩爾,成立于2021年初,是一家行業(yè)領(lǐng)先的AI網(wǎng)絡(luò)全棧式互聯(lián)產(chǎn)品及解決方案提供商。公司依托于先進(jìn)的高性能RDMA 和Chiplet技術(shù),創(chuàng)新性地構(gòu)建了統(tǒng)一互聯(lián)架構(gòu)——Kiwi Fabric,專為超大規(guī)模AI計(jì)算平臺(tái)量身打造,以滿足其對(duì)高性能互聯(lián)的嚴(yán)苛需求。我們的產(chǎn)品線豐富而全面,涵蓋了面向不同層次互聯(lián)需求的關(guān)鍵產(chǎn)品,如面向北向Scale out網(wǎng)絡(luò)的AI原生智能網(wǎng)卡、面向南向Scale up網(wǎng)絡(luò)的GPU片間互聯(lián)芯粒、以及面向芯片內(nèi)算力擴(kuò)展的2.5D/3D IO Die和UCIe Die2Die IP等。這些產(chǎn)品共同構(gòu)成了全鏈路互聯(lián)解決方案,為AI計(jì)算提供了堅(jiān)實(shí)的支撐。
- 
                                AI
                                +關(guān)注
關(guān)注
89文章
37431瀏覽量
292889 - 
                                算力
                                +關(guān)注
關(guān)注
2文章
1347瀏覽量
16513 - 
                                奇異摩爾
                                +關(guān)注
關(guān)注
0文章
70瀏覽量
3938 
原文標(biāo)題:奇異摩爾出席2025中國(guó)AI算力大會(huì):共筑超節(jié)點(diǎn)網(wǎng)絡(luò)新生態(tài)
文章出處:【微信號(hào):奇異摩爾,微信公眾號(hào):奇異摩爾】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
中興通訊榮獲2025中國(guó)算力大會(huì)年度重大突破成果獎(jiǎng)
昆侖芯科技亮相2025中國(guó)算力大會(huì)
華為斬獲2025中國(guó)算力大會(huì)年度重大突破成果獎(jiǎng)
華為數(shù)字能源亮相2025中國(guó)算力大會(huì)
TASKING邀您相約2025中國(guó)智能汽車(chē)基礎(chǔ)軟件生態(tài)大會(huì)
卡特彼勒亮相2025中國(guó)智算產(chǎn)業(yè)生態(tài)發(fā)展大會(huì)
KLA邀您相約2025中國(guó)材料大會(huì)
    
壁仞科技亮相2025中國(guó)移動(dòng)云智算大會(huì)
奇異摩爾亮相2025中國(guó)移動(dòng)云智算大會(huì)
    
摩爾線程亮相2025中國(guó)移動(dòng)云智算大會(huì)
億鑄科技邀您相約2025中國(guó)移動(dòng)云智算大會(huì)
中興通訊將亮相2025中國(guó)移動(dòng)云智算大會(huì)
AI 算力報(bào)告來(lái)了!2025中國(guó)AI算力市場(chǎng)將達(dá) 259 億美元
    
          
        
        
奇異摩爾邀您相約2025中國(guó)AI算力大會(huì)
                
 
    
           
            
            
                
            
評(píng)論