2022年11月29日,紫光展銳正式發(fā)布了系統(tǒng)級安全的高性能5G SoC 新品T820,引起了廣泛關注。
T820采用八核CPU架構,6nm EUV先進工藝,金融級全內置安全方案,在性能、功耗與5G通信體驗等方面,較上一代產品更為出色。
此前,已經為大家講解過T820的安全性能。今天,小展將帶你一同探索T820的AI性能。
日新月異的AI技術,重塑著移動設備的交互方式和應用體驗,也推動著端側SoC不斷突破AI計算能力的邊界。紫光展銳系統(tǒng)級安全的高性能5G移動平臺T820,采用了新一代高能效NPU+VDSP架構,垂直優(yōu)化計算能力,NPU算力達到8TOPS,相比上一代提升67%。T820在蘇黎世聯(lián)邦理工學院AI Benchmark Mobile SoCs榜單上的推理測試,取得了134K的不俗成績。

(來自AI Benchmark官網)
基于紫光展銳T820構建的全新一代AI計算平臺,提供算法、軟件、硬件全棧解決方案,將全面釋放AI能力,拓展應用邊界。
小身板大能量
一般來說,存儲單元會占據(jù)了SoC芯片的大量面積,紫光展銳在T820平臺上采用了創(chuàng)新設計的數(shù)據(jù)存儲和計算模式,充分利用了卷積數(shù)據(jù)復用特征來降低存儲占用。結合展銳新一代圖優(yōu)化和圖切分技術,在保證計算單元利用率的前提下,進一步降低了存儲單元空間占用。
T820使用第三代神經網絡加速核,提供8TOPS的AI算力同時,能效比達到業(yè)界領先水平。T820支持接入多種運算核心,如CPU/GPU/VDSP/NPU,統(tǒng)一內存模型的采用,顯著提升異構運算效率。
T820支持超過200+主流神經網絡算子,性能對標業(yè)界一流水平,海量網絡模型輕松接入。
降低NPU使用門檻
NPU作為專門負責AI計算的部件,用于加速神經網絡的運算,解決傳統(tǒng)芯片在神經網絡運算時效率低下的問題。但NPU技術門檻相當高,紫光展銳將一直以來的軟硬算一體化Turnkey解決方案思路,也貫徹到了NPU的能力開發(fā)上:不僅支持業(yè)界幾乎所有的主流AI計算框架,還打通了可以通用的統(tǒng)一接口,它將大幅降低用戶模型和方案部署的復雜度,降低開發(fā)及維護的成本。
業(yè)界主流AI計算框架,包括 TensorFlow,TensorFlow-Lite,PyTorch,Caffe,MxNet,PaddlePaddle,ONNX 等,展銳T820都能支持,還為用戶提供了多種交互式開發(fā)環(huán)境,讓業(yè)務快速部署、靈活應用。T820支持標準化Android NN代理和定制化直連模式,讓推理性能和通用性二者兼顧。
多樣化模型優(yōu)化,讓部署更靈活
T820集成了多種模型優(yōu)化方案和工具。量化工具支持4-16bit模型權重和激活的量化,配合數(shù)據(jù)訪存自適應無損壓縮技術,解決了帶寬瓶頸問題,讓AI澎湃算力充分得到釋放。
T820提供了精度穩(wěn)定性模擬系統(tǒng),允許用戶校準量化模型精度,降低用戶解決跨平臺精度差異的難度。無損壓縮工具支持權重和激活的無損壓縮,大幅降低帶寬壓力,讓“大模型”在端側部署成為可能。?
針對不同的應用場景,T820的AI計算平臺支持動態(tài)編譯,適應全場景獨立部署。T820支持圖像超分、視頻增強、語義分割、目標檢測、文本識別、語音識別等豐富AI應用,助力客戶快速構建專屬AI應用,極大縮短端到端部署時間,提升用戶體驗。
算力強,安全也有保障
在人臉識別的時候,用戶的臉部特征數(shù)據(jù)安全需要得到保障。外部應用如果試圖訪問這些數(shù)據(jù),或者篡改計算結果,硬件保護單元會自動阻止這些操作,并立刻報告異常。
T820支持在TEE安全環(huán)境中運行AI計算任務,提供硬件DRM安全防護,保障每一次訪問都是授信訪問,使AI相關數(shù)據(jù)和算法避免受到惡意軟件的攻擊,從而保護用戶數(shù)據(jù)不被竊取或篡改,在高效運行各種AI神經網絡算法的同時,全方位保護用戶的數(shù)據(jù)和隱私。
同時,紫光展銳T820將金融級iSE安全單元集成在SoC中,相比外置SE方案,更難攻擊定位,安全性更高,支持國際主流算法,擴展能力更為出色,存儲容量提升20倍,可支持銀行卡、數(shù)字貨幣等數(shù)百個金融類場景應用。
T820不僅能夠輕松應對當前的各種AI計算任務,也為未來更復雜的AI算法提供了算力延伸空間,更進一步的是,T820以開放式的架構、歸一化的應用入口、軟硬協(xié)同優(yōu)化,整合芯片的計算能力,大幅降低AI部署落地的門檻,為各行各業(yè)的智能化提供技術基石。
作為世界領先的平臺型芯片設計企業(yè),2022年,紫光展銳在吳勝武董事長和CEO任奇?zhèn)ゲ┦康裙芾韺拥膸ьI下克服了多種困難,步入穩(wěn)健有序發(fā)展的新征程,在業(yè)務領域取得了顯著成績,獲得了國家級、行業(yè)級的諸多獎項,增強了行業(yè)與組織自信。紫光展銳將繼續(xù)踐行紫光集團“志高行遠、創(chuàng)造價值”的價值觀,持續(xù)投入5G先進技術研發(fā),為產業(yè)和社會創(chuàng)造價值,為讓世界變得“更智能、更開放、更公平、更美好”而貢獻力量。
編輯:黃飛
?
電子發(fā)燒友App


















評論