2025 年 6 月 25 日，北京大學(xué)團(tuán)隊(duì)在智能計(jì)算硬件方面取得領(lǐng)先突破，國際上首次實(shí)現(xiàn)了基于存算一體技術(shù)的高效排序硬件架構(gòu) (A fast and reconfigurable sort-in-memory system based on memristors)，解決了傳統(tǒng)計(jì)算架構(gòu)面對復(fù)雜非線性排序問題時計(jì)算效率低下的瓶頸問題，在這一極難攻克的人工智能基礎(chǔ)算子加速領(lǐng)域形成優(yōu)勢，將為具身智能、大語言模型、智能駕駛、智慧交通、智慧城市等人工智能應(yīng)用提供更高效算力支持。該成果由北京大學(xué)集成電路學(xué)院楊玉超教授、人工智能研究院陶耀宇研究員組成的團(tuán)隊(duì)完成，已在國際頂級學(xué)術(shù)期刊《自然?電子》上發(fā)表。

排序加速：存算一體架構(gòu)中難啃的 “硬骨頭”

排序，作為人工智能系統(tǒng)中最常用、最耗時的基礎(chǔ)操作之一，廣泛存在于自然語言處理、信息檢索、圖神經(jīng)網(wǎng)絡(luò)、智能決策等人工智能相關(guān)領(lǐng)域中。在傳統(tǒng)的馮?諾依曼計(jì)算架構(gòu)中，處理器與存儲器分離的特點(diǎn)導(dǎo)致數(shù)據(jù)被頻繁搬運(yùn)，嚴(yán)重制約了計(jì)算速度和系統(tǒng)能效，因此將存儲與計(jì)算融合的 “存算一體” 架構(gòu)是突破硬件性能的必由之路。

例如在智能駕駛場景中，車輛在高速公路等簡單環(huán)境中，只需對周邊幾臺車的行進(jìn)路線進(jìn)行排序就能判斷是否會對自身安全產(chǎn)生影響，整個耗時可控制在毫秒級別，但在復(fù)雜的城市環(huán)境中風(fēng)險(xiǎn)來自周邊的數(shù)百個乃至更多的各類交通參與者，排序的復(fù)雜程度和硬件延遲大幅提高；再比如，在抖音、小紅書等平臺大的規(guī)模檢索與推薦系統(tǒng)中，用戶點(diǎn)擊、評分、相似度計(jì)算后，常需要對海量的候選內(nèi)容進(jìn)行快速排序，找出最相關(guān)項(xiàng)，排序性能直接影響系統(tǒng)的響應(yīng)時間和可擴(kuò)展性；此外，在大語言模型訓(xùn)練、機(jī)器人路徑規(guī)劃、強(qiáng)化學(xué)習(xí)搜索等場景中，快速評估多個決策或行動的優(yōu)劣并進(jìn)行排序，也是必不可少而又極為費(fèi)時的步驟。

然而，在傳統(tǒng)計(jì)算架構(gòu)下，大規(guī)模的非線性排序難以在端側(cè)或邊緣設(shè)備高效完成，這一過程消耗大量時間與功耗，極大制約了具身智能、智能駕駛等新興技術(shù)的發(fā)展與普及。 近年來，“存算一體” 被認(rèn)為是突破傳統(tǒng)硬件架構(gòu)計(jì)算瓶頸的關(guān)鍵技術(shù)，已經(jīng)在矩陣計(jì)算等規(guī)則性強(qiáng)的數(shù)值計(jì)算中取得顯著成果。然而由于排序存在邏輯復(fù)雜、操作非線性、數(shù)據(jù)訪問不規(guī)則，缺乏通用、高效的硬件排序原語等諸多障礙，目前國際主流的存算一體架構(gòu)均無法解決大數(shù)據(jù)排序問題，這一難題成為了制約下一代人工智能計(jì)算硬件發(fā)展的前沿焦點(diǎn)與核心卡點(diǎn)問題。

科研團(tuán)隊(duì)圍繞 “讓數(shù)據(jù)就地排序” 的第一性原理目標(biāo)，在存算一體架構(gòu)上攻克了多個核心技術(shù)難題，實(shí)現(xiàn)了排序速度與能效的數(shù)量級提升。主要突破包括：首先，開發(fā)了一套基于新型存內(nèi)陣列結(jié)構(gòu)的高并行比較機(jī)制；第二，開創(chuàng)性地引入了 “憶阻器陣列”，實(shí)現(xiàn)了低延遲、多通路的硬件級并行排序電路設(shè)計(jì)；第三，在算子層面，優(yōu)化了面向人工智能任務(wù)的算法 - 架構(gòu)協(xié)同路徑，同時兼容現(xiàn)有矩陣計(jì)算；第四，完全自主設(shè)計(jì)的器件 - 電路 - 系統(tǒng)級技術(shù)棧整合。

在人工智能系統(tǒng)中，排序通常作為數(shù)據(jù)預(yù)處理或決策中間環(huán)節(jié)存在，一旦執(zhí)行效率不高，將成為整個系統(tǒng)的主要瓶頸。論文第一作者、北京大學(xué)集成電路學(xué)院博士生余連風(fēng)介紹道，“排序的核心是比較運(yùn)算，需要精準(zhǔn)地實(shí)現(xiàn)‘條件判斷 + 數(shù)據(jù)搬移’，在復(fù)雜的應(yīng)用場景中，要對不同因素的優(yōu)先級進(jìn)行比較，因此排序的邏輯非常復(fù)雜。一般排序過程需要構(gòu)建支持多級‘比較 - 選擇’的比較器單元，而傳統(tǒng)存算一體架構(gòu)主要面向‘乘加’、‘累加’等操作，難以支持這樣的復(fù)雜運(yùn)算，我們的工作成功解決了這一難題，設(shè)計(jì)了一種‘無比較器’的存算一體排序架構(gòu)?！?/span>

據(jù)實(shí)測結(jié)果顯示，該硬件方案在典型排序任務(wù)中提升速度超 15 倍，面積效率提升超過 32 倍，具備并行處理百萬級數(shù)據(jù)元素排序任務(wù)的潛力，功耗僅為傳統(tǒng) CPU 或 GPU 處理器的 1/10。在人工智能推理場景中，支持動態(tài)稀疏度下的推理響應(yīng)速度可提升 70% 以上，特別適用于要求極高實(shí)時性的任務(wù)環(huán)境。論文通訊作者、北京大學(xué)人工智能研究院陶耀宇研究員說，“正因?yàn)榕判蛴?jì)算在人工智能中是高頻、通用、基礎(chǔ)且極難處理的一類操作，這一難題的突破意味著存算一體從‘適合特定應(yīng)用’走向‘可支持更廣泛的通用計(jì)算’，為人工智能相關(guān)任務(wù)構(gòu)建了全鏈路的底層硬件架構(gòu)支持。”

提高計(jì)算效率，打造加速引擎

據(jù)悉，該技術(shù)具有廣泛的應(yīng)用前景，可用于智慧交通圖像排序系統(tǒng)、金融智能風(fēng)控評分引擎、邊緣監(jiān)控設(shè)備的目標(biāo)優(yōu)先識別模塊等場景。在測試中該技術(shù)展現(xiàn)出高速度與低功耗的顯著優(yōu)勢。例如，在智慧交通場景中，系統(tǒng)有望在毫秒級內(nèi)完成十萬級事件優(yōu)先級評估，為超大規(guī)模交通決策、應(yīng)急響應(yīng)調(diào)度等提供高效的實(shí)時算力支持。存算一體超高性能排序加速架構(gòu)的成功突破，不僅是一次架構(gòu)創(chuàng)新的勝利，更是將科研成果轉(zhuǎn)化為實(shí)際應(yīng)用、服務(wù)國家重大戰(zhàn)略需求的重要行動。

“根據(jù)初步測算，若該技術(shù)在智能終端、工業(yè)控制、數(shù)據(jù)中心等核心應(yīng)用場景中推廣，僅在邊緣 AI 芯片市場就可形成百億元級年產(chǎn)值潛力，大幅提升傳統(tǒng)算力系統(tǒng)的性能。北京大學(xué)科研團(tuán)隊(duì)正是瞄準(zhǔn)了‘算力’這個牛鼻子，聚焦‘存算一體’這一關(guān)鍵技術(shù)開展高強(qiáng)度科研攻關(guān)，實(shí)現(xiàn)了從器件到系統(tǒng)的全棧自主設(shè)計(jì)。這一成果不僅是技術(shù)層面的突破，更是攻克了存算一體化排序加速的‘硬骨頭’難題，在面向人工智能基礎(chǔ)操作的硬件加速領(lǐng)域?qū)崿F(xiàn)了突破，將為我國建設(shè)科技強(qiáng)國，實(shí)現(xiàn)高水平科技自立自強(qiáng)注入新算力。

來源：半導(dǎo)體芯科技

【2025全年計(jì)劃】

隸屬于ACT雅時國際商訊旗下的兩本優(yōu)秀雜志：《化合物半導(dǎo)體》＆《半導(dǎo)體芯科技》2025年研討會全年計(jì)劃已出。

線上線下，共謀行業(yè)發(fā)展、產(chǎn)業(yè)進(jìn)步！商機(jī)合作一覽無余，歡迎您點(diǎn)擊獲?。?/p>

https://www.compoundsemiconductorchina.net/seminar/