亚洲精品久久久久久久久久久,亚洲国产精品一区二区制服,亚洲精品午夜精品,国产成人精品综合在线观看,最近2019中文字幕一页二页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

面向萬(wàn)億級(jí)參數(shù)大模型,“超節(jié)點(diǎn)”涌現(xiàn)

Hobby觀察 ? 來(lái)源:電子發(fā)燒友網(wǎng) ? 作者:梁浩斌 ? 2025-08-03 02:37 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)綜合報(bào)道 近年來(lái),隨著人工智能技術(shù)的迅猛發(fā)展,尤其是大模型的興起,對(duì)算力的需求呈現(xiàn)出爆發(fā)式增長(zhǎng)。在這一背景下,紫光股份旗下新華三集團(tuán)以“算力×聯(lián)接”為技術(shù)基石,重磅發(fā)布了全新的H3C UniPoD系列超節(jié)點(diǎn)產(chǎn)品,旨在為萬(wàn)億級(jí)參數(shù)大模型的訓(xùn)練與推理提供更強(qiáng)勁、更智能且更綠色的算力支持。

H3C UniPoD系列超節(jié)點(diǎn)產(chǎn)品基于領(lǐng)先的Scale-up南向互聯(lián)技術(shù),可實(shí)現(xiàn)單機(jī)柜最高64卡GPU間的高速互聯(lián)互通,有效突破了單卡計(jì)算性能瓶頸,為AI技術(shù)在百行百業(yè)的落地應(yīng)用提供了堅(jiān)實(shí)的算力基礎(chǔ)。

當(dāng)前,以DeepSeek為代表的MoE大模型持續(xù)火爆,推動(dòng)了AI領(lǐng)域的“軍備競(jìng)賽”,大模型已邁入“萬(wàn)億級(jí)”時(shí)代。然而,傳統(tǒng)的計(jì)算架構(gòu)和“摩爾定律”已不再適用,單卡計(jì)算性能接近天花板,單機(jī)GPU互聯(lián)及機(jī)間Scale-out橫向擴(kuò)展也難以滿足高帶寬、低時(shí)延與高可靠的集群網(wǎng)絡(luò)聯(lián)接需求。新華三憑借在網(wǎng)絡(luò)聯(lián)接領(lǐng)域的深厚積累,結(jié)合不同品牌GPU的性能與架構(gòu)特點(diǎn),開(kāi)發(fā)出基于以太協(xié)議和PCIe協(xié)議的雙技術(shù)路線超節(jié)點(diǎn)產(chǎn)品,可實(shí)現(xiàn)單機(jī)柜最高64卡的全互聯(lián)互通,大幅提升單節(jié)點(diǎn)計(jì)算效能,打造了萬(wàn)億級(jí)參數(shù)大模型訓(xùn)推的強(qiáng)勁算力引擎。

本次發(fā)布的H3C UniPoD超節(jié)點(diǎn)產(chǎn)品以算力芯片多元化、互聯(lián)協(xié)議標(biāo)準(zhǔn)化、基礎(chǔ)設(shè)施集成化為核心設(shè)計(jì)理念,主要涵蓋H3C UniPoD S80000和H3C UniPoD F80000兩個(gè)子產(chǎn)品系列,能夠?yàn)椴煌?guī)模參數(shù)的模型訓(xùn)練、推理和精調(diào)提供有針對(duì)性的算力支撐。

H3C UniPoD S80000面向萬(wàn)億級(jí)參數(shù)模型訓(xùn)推場(chǎng)景,實(shí)現(xiàn)了更高性能、更高密度、更高效率的三重進(jìn)化。它以網(wǎng)強(qiáng)算,全面釋放算力矩陣動(dòng)能,柜內(nèi)卡間全互聯(lián)通信,互聯(lián)帶寬提升8倍,單機(jī)柜訓(xùn)練性能相較于單節(jié)點(diǎn)最高可提升10倍,單卡推理效率提升13倍。

在密度方面,H3C UniPoD S80000單柜支持部署64卡,采用液冷方式散熱,整柜功率可支持到120KW,同時(shí)兼容下一代高性能AI加速卡。此外,三總線全盲插、全面的漏液檢測(cè)等設(shè)計(jì),簡(jiǎn)化了運(yùn)維流程、提升了能效產(chǎn)出。

值得關(guān)注的創(chuàng)新點(diǎn)是,H3C UniPoD F80000依托全國(guó)產(chǎn)算力平臺(tái),采用創(chuàng)新的PCIe光互聯(lián)技術(shù),突破單機(jī)板內(nèi)走線限制,實(shí)現(xiàn)了64張AI加速卡的高速互聯(lián),卡間帶寬大幅提升至576GB/s,模型訓(xùn)練性能提升35%以上?;陟`活開(kāi)放的產(chǎn)品理念,H3C UniPoD F80000支持基于不同形態(tài)的AI服務(wù)器及AI加速卡靈活構(gòu)建超節(jié)點(diǎn)產(chǎn)品,支持按需定義產(chǎn)品拓?fù)?6/32/64卡,實(shí)現(xiàn)靈活按需交付。

近年來(lái)隨著算力需求的增長(zhǎng),市場(chǎng)上出現(xiàn)越來(lái)越多的超節(jié)點(diǎn)產(chǎn)品。比如,NVIDIA NVL72系統(tǒng)配備72個(gè)NVIDIA Blackwell GPU,單個(gè)GPU顯存為192T;配置36個(gè)NVIDIA Grace CPU,每個(gè)CPU搭配480GB內(nèi)存,總內(nèi)存為17TB DDR5X;采用第五代NVLink技術(shù),單GPU連接帶寬達(dá)1.8TB/s,整個(gè)系統(tǒng)內(nèi)的72個(gè)GPU通過(guò)NVLink全互聯(lián),總帶寬達(dá)130TB/s;采用全液冷機(jī)架方案,相比傳統(tǒng)風(fēng)冷基礎(chǔ)設(shè)施,同等功耗下性能提升25倍。

華為昇騰 384 超節(jié)點(diǎn)由 12 個(gè)計(jì)算柜和 4 個(gè)總線柜組成,支持 384 張昇騰 910C NPU 全互聯(lián),通信時(shí)延降低至 0.2μs(較傳統(tǒng)方案下降 10 倍),帶寬提升 15 倍。采用液冷設(shè)計(jì),PUE<1.2,性能對(duì)標(biāo)英偉達(dá) NVL72 超節(jié)點(diǎn)。
燧原科技云燧ESL超節(jié)點(diǎn)系統(tǒng)單節(jié)點(diǎn)最高64卡全帶寬互聯(lián),采用液冷方案,實(shí)現(xiàn)高性價(jià)比、高密度、高能效,可實(shí)現(xiàn)9216GB單節(jié)點(diǎn)存儲(chǔ)容量、230TB/s單節(jié)點(diǎn)存儲(chǔ)帶寬、51.2TB/s單節(jié)點(diǎn)聚合帶寬、單節(jié)點(diǎn)可支持PD分離優(yōu)化。

展望未來(lái),AI行業(yè)對(duì)算力的需求將持續(xù)增長(zhǎng)。隨著大模型的不斷發(fā)展,算力基礎(chǔ)設(shè)施的性能、效率和靈活性將變得至關(guān)重要。新華三將持續(xù)深化“算力×聯(lián)接”能力,實(shí)現(xiàn)關(guān)鍵技術(shù)突破和工程化創(chuàng)新,全面構(gòu)建多元開(kāi)放、持續(xù)進(jìn)化、AI就緒、強(qiáng)勁穩(wěn)定的算力基礎(chǔ)設(shè)施,加速百行百業(yè)的智慧躍遷。多元算力架構(gòu)的融合、高速互聯(lián)技術(shù)創(chuàng)新、綠色節(jié)能發(fā)展、智能化運(yùn)維管理以及算力云服務(wù)的普及將成為未來(lái)行業(yè)發(fā)展的主要趨勢(shì)。

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    節(jié)點(diǎn)+集群”:華為撞出來(lái)的算力之路

    節(jié)點(diǎn)+集群”,成為徹底解決AI算力困局的契機(jī)
    的頭像 發(fā)表于 09-24 10:55 ?623次閱讀
    “<b class='flag-5'>超</b><b class='flag-5'>節(jié)點(diǎn)</b>+集群”:華為撞出來(lái)的算力之路

    華為節(jié)點(diǎn)互聯(lián)技術(shù)引領(lǐng)AI基礎(chǔ)設(shè)施新范式

    今日,華為全聯(lián)接大會(huì)2025在上海啟幕,華為副董事長(zhǎng)、輪值董事長(zhǎng)徐直軍發(fā)表題為“以開(kāi)創(chuàng)的節(jié)點(diǎn)互聯(lián)技術(shù),引領(lǐng)AI基礎(chǔ)設(shè)施新范式”的主題演講,正式發(fā)布全球最強(qiáng)算力節(jié)點(diǎn)和集群。
    的頭像 發(fā)表于 09-20 16:15 ?1444次閱讀

    開(kāi)源大模型算力革命下:電子谷連接技術(shù)的堅(jiān)守與未來(lái)

    推動(dòng)算力系統(tǒng)向節(jié)點(diǎn)架構(gòu)轉(zhuǎn)型。"元腦SD200"等新一代服務(wù)器通過(guò)開(kāi)放總線技術(shù)實(shí)現(xiàn)萬(wàn)億參數(shù)模型的實(shí)時(shí)運(yùn)行,而這一突破的背后,離不開(kāi)連接器、線束等核心部件的技術(shù)支撐
    的頭像 發(fā)表于 09-19 08:03 ?265次閱讀
    開(kāi)源大<b class='flag-5'>模型</b>算力革命下:電子谷連接技術(shù)的堅(jiān)守與未來(lái)

    商湯科技聯(lián)合華為昇騰實(shí)現(xiàn)節(jié)點(diǎn)適配多項(xiàng)創(chuàng)新

    近日,商湯大裝置SenseCore與昇騰384節(jié)點(diǎn)率先完成全面適配。
    的頭像 發(fā)表于 09-05 15:22 ?603次閱讀

    浪潮信息發(fā)布&quot;元腦SD200&quot;節(jié)點(diǎn),面向萬(wàn)億參數(shù)模型創(chuàng)新設(shè)計(jì)

    北京2025年8月8日 /美通社/ -- 8月7日,浪潮信息發(fā)布面向萬(wàn)億參數(shù)模型節(jié)點(diǎn)AI服
    的頭像 發(fā)表于 08-08 22:17 ?464次閱讀
    浪潮信息發(fā)布&quot;元腦SD200&quot;<b class='flag-5'>超</b><b class='flag-5'>節(jié)點(diǎn)</b>,<b class='flag-5'>面向</b><b class='flag-5'>萬(wàn)億</b><b class='flag-5'>參數(shù)</b>大<b class='flag-5'>模型</b>創(chuàng)新設(shè)計(jì)

    ?Groq LPU 如何讓萬(wàn)億參數(shù)模型「飛」起來(lái)?揭秘 Kimi K2 40 倍提速背后的黑科技

    Groq LPU 如何讓萬(wàn)億參數(shù)模型「飛」起來(lái)?揭秘 Kimi K2 40 倍提速背后的黑科技? 最近,Moonshot AI 的千億參數(shù)模型 ?Kimi K2? 在 ?GroqCl
    的頭像 發(fā)表于 08-07 10:01 ?562次閱讀

    重磅!華為昇騰384節(jié)點(diǎn)真機(jī)登場(chǎng),中興攜廠商首秀GPU節(jié)點(diǎn)實(shí)力

    作為中國(guó)自主的算力核彈,華為昇騰384節(jié)點(diǎn)真機(jī)首次亮相。中興通訊、上海儀電、曦智科技、壁仞科技聯(lián)合打造的光互聯(lián)芯片及節(jié)點(diǎn)應(yīng)用創(chuàng)新方案榮獲2025年世界人工智能大會(huì)最高獎(jiǎng)。本文將對(duì)這
    的頭像 發(fā)表于 07-29 00:45 ?1w次閱讀
    重磅!華為昇騰384<b class='flag-5'>超</b><b class='flag-5'>節(jié)點(diǎn)</b>真機(jī)登場(chǎng),中興攜廠商首秀GPU<b class='flag-5'>超</b><b class='flag-5'>節(jié)點(diǎn)</b>實(shí)力

    萬(wàn)億參數(shù)!元腦企智一體機(jī)率先支持Kimi K2大模型

    北京2025年7月21日 /美通社/ --?浪潮信息宣布元腦企智一體機(jī)已率先完成對(duì)Kimi K2 萬(wàn)億參數(shù)模型的適配支持,并實(shí)現(xiàn)單用戶70 tokens/s的流暢輸出速度,為企業(yè)客戶高效部署
    的頭像 發(fā)表于 07-22 09:27 ?347次閱讀
    <b class='flag-5'>萬(wàn)億</b><b class='flag-5'>參數(shù)</b>!元腦企智一體機(jī)率先支持Kimi K2大<b class='flag-5'>模型</b>

    奇異摩爾亮相2025中國(guó)AI算力大會(huì)

    技術(shù)驅(qū)動(dòng)下,節(jié)點(diǎn)已成為國(guó)內(nèi)外構(gòu)建大規(guī)模HBD域應(yīng)用的關(guān)鍵趨勢(shì)。隨著千億到萬(wàn)億參數(shù)MoE大模型并行訓(xùn)練(尤其是專(zhuān)家并行和張量并行)對(duì)GPU間
    的頭像 發(fā)表于 07-03 11:40 ?1040次閱讀

    立訊技術(shù)解讀ETH-X節(jié)點(diǎn)高速互連技術(shù)的現(xiàn)狀與未來(lái)

    當(dāng)前,人工智能技術(shù)驅(qū)動(dòng)全球數(shù)據(jù)中心向智算中心加速演進(jìn),傳統(tǒng)架構(gòu)在承載AI大模型訓(xùn)練時(shí)暴露出顯著瓶頸--資源調(diào)度碎片化、異構(gòu)算力協(xié)同低效、能源利用率不足等問(wèn)題。在此背景下,行業(yè)亟需通過(guò)技術(shù)架構(gòu)的創(chuàng)新突破應(yīng)用壁壘。節(jié)點(diǎn)作為資源池化
    的頭像 發(fā)表于 07-03 09:44 ?1719次閱讀
    立訊技術(shù)解讀ETH-X<b class='flag-5'>超</b><b class='flag-5'>節(jié)點(diǎn)</b>高速互連技術(shù)的現(xiàn)狀與未來(lái)

    華為云節(jié)點(diǎn)創(chuàng)新算力基礎(chǔ)設(shè)施,推動(dòng)千行萬(wàn)業(yè)AI應(yīng)用開(kāi)發(fā)落地

    近日,“逐光向新·智領(lǐng)未來(lái)”華為云 AI 峰會(huì)于北京成功舉辦。大會(huì)期間,華為云面向客戶伙伴詳細(xì)介紹了 CloudMartix 384 節(jié)點(diǎn)的創(chuàng)新技術(shù)優(yōu)勢(shì),并與在場(chǎng)嘉賓共同探討如何加速 AI 應(yīng)用落地,為加速行業(yè)智能化發(fā)展提供了
    的頭像 發(fā)表于 05-17 10:30 ?2378次閱讀

    昆侖芯節(jié)點(diǎn)產(chǎn)品推出,大模型訓(xùn)推任務(wù)性能跨越式提升

    AI開(kāi)發(fā)者大會(huì)上,昆侖芯作為底層算力核心被高頻提及,三萬(wàn)卡集群點(diǎn)亮振奮人心,昆侖芯節(jié)點(diǎn)也在大會(huì)上正式發(fā)布。 ? ? 自ChatGPT問(wèn)世,大模型參數(shù)快速增長(zhǎng),單卡顯存無(wú)法容納越來(lái)越大
    的頭像 發(fā)表于 04-25 19:29 ?1674次閱讀

    Kaggle知識(shí)點(diǎn):7種參數(shù)搜索方法

    數(shù)據(jù)科學(xué)參數(shù)搜索確實(shí)是機(jī)器學(xué)習(xí)生命周期中不可或缺的一步,特別是在模型性能方面。正確的參數(shù)選擇可以顯著提高
    的頭像 發(fā)表于 02-08 14:28 ?1520次閱讀
    Kaggle知識(shí)點(diǎn):7種<b class='flag-5'>超</b><b class='flag-5'>參數(shù)</b>搜索方法

    xgboost參數(shù)調(diào)優(yōu)技巧 xgboost在圖像分類(lèi)中的應(yīng)用

    的成績(jī)。然而,XGBoost模型涉及眾多參數(shù),這些參數(shù)的組合和調(diào)優(yōu)對(duì)于模型性能至關(guān)重要。以下是一些XGBoost
    的頭像 發(fā)表于 01-31 15:16 ?1939次閱讀

    ETH-X節(jié)點(diǎn):開(kāi)辟AI算力約束突破的新路徑

    、交換機(jī)芯片制造商、服務(wù)器供應(yīng)商、網(wǎng)絡(luò)設(shè)備廠商及互聯(lián)網(wǎng)企業(yè)等多方力量,共同發(fā)起超大帶寬ETH-X(以太網(wǎng))節(jié)點(diǎn)計(jì)劃,旨在通過(guò)技術(shù)創(chuàng)新與行業(yè)合作,構(gòu)建開(kāi)放可擴(kuò)展的HBD(高帶寬域)節(jié)點(diǎn)
    的頭像 發(fā)表于 11-09 10:03 ?4341次閱讀
    ETH-X<b class='flag-5'>超</b><b class='flag-5'>節(jié)點(diǎn)</b>:開(kāi)辟AI算力約束突破的新路徑