瑞芯微算力協(xié)處理器-Gongga1（簡(jiǎn)稱“貢嘎”），是瑞芯微針對(duì)旗艦芯片平臺(tái)RK3576/RK3588等SoC平臺(tái)配套的算力處理器。憑借其先進(jìn)的封裝技術(shù)、高性能低功耗、超低延遲響應(yīng)和多模態(tài)能力，為端側(cè)部署大模型提供了強(qiáng)有力的支持。

下面，就由觸覺(jué)智能從多個(gè)角度，為您解析瑞芯微算力協(xié)處理器性能特性。

Gongga1協(xié)處理器特性

先進(jìn)封裝技術(shù)，打破端側(cè)部署大模型的帶寬限制。可部署高達(dá)3B/7B參數(shù)量的端側(cè)模型（最高16K上下文）。

• 高性能低功耗，端側(cè)模型可達(dá)100tokens/s以上
• 超低端到端完整響應(yīng)延時(shí)

測(cè)試垂直領(lǐng)域模型，低至0.1s超低延時(shí)。

• 多模態(tài)能力

支持文字/語(yǔ)音/圖片/視頻等，同時(shí)支持傳統(tǒng)CNN模型。

• 主控互聯(lián)

支持PCIe2.0 / USB3.0 與主控（如RK3588，RK3576）互聯(lián)。

• 軟件友好，現(xiàn)有應(yīng)用易于移植

通過(guò)工具離線轉(zhuǎn)換模型，支持主流格式如Huggingface、Pytorch、GGUF；運(yùn)行時(shí)接口調(diào)用參考OpenAI API，支持C、Python。。

Gongga1協(xié)處理器規(guī)格

觸覺(jué)智能作為瑞芯微長(zhǎng)期合作伙伴，得到算力協(xié)處理器規(guī)格信息如下：

• 高帶寬嵌入式片內(nèi)DRAM(2.5GB版/5GB版)
• RISC-V CPU，支持128-bit矢量運(yùn)算功能。
• 多核NPU，提供INT8及W4A16等多種數(shù)據(jù)類型的運(yùn)算支持。
• 4K JPEG圖像編解碼。
• PCle2.0、USB3.0、I2S音頻輸入輸出接口等。

Gongga1協(xié)處理器應(yīng)用場(chǎng)景

根據(jù)Gongga1協(xié)處理器規(guī)格規(guī)格，可應(yīng)用于語(yǔ)音、翻譯、交互、視覺(jué)等應(yīng)用場(chǎng)景：

典型應(yīng)用硬件框圖：

觸覺(jué)智能作為專業(yè)的瑞芯微RK方案商，提供核心板、開(kāi)發(fā)板、行業(yè)主板、整機(jī)等一系列嵌入式產(chǎn)品。關(guān)注觸覺(jué)智能，更多RK3576、RK3588與Gongga1芯片組合應(yīng)用實(shí)例與實(shí)測(cè)數(shù)據(jù)，敬請(qǐng)期待。

觸覺(jué)智能核心板+瑞芯微Gongga1

觸覺(jué)智能基于RK3576、RK3588，提供可擴(kuò)展1到多個(gè)Gongga1芯片，可提供從6T到50T的靈活算力配置方案?？蓮V泛用于語(yǔ)音交互、車載多模態(tài)感知、機(jī)器人、安防視覺(jué)等領(lǐng)域。