【AIBOX】裝在小盒子的AI足夠強(qiáng)嗎？
Firefly推出大語(yǔ)言模型本地部署的產(chǎn)品：AIBOX-1684X，目前已適配主流的大語(yǔ)言模型，包括ChatGLM3-6B，以下是ChatGLM3在AIBOX-1684X上的實(shí)機(jī)演示：ChatGLM3-6B采用更多元的訓(xùn)練數(shù)據(jù)和策略，在不同角度的數(shù)據(jù)集，采用了全新設(shè)計(jì)的Prompt格式，支持工具調(diào)用(Function Call)、代碼執(zhí)行(Code Interpreter)和Agent任務(wù)等復(fù)雜場(chǎng)景
性能實(shí)測(cè)結(jié)果
更強(qiáng)大的基礎(chǔ)模型
ChatGLM3-6B (Base) 在選取的8個(gè)中英文典型數(shù)據(jù)集中進(jìn)行性能測(cè)試：
在語(yǔ)義、數(shù)學(xué)、推理、代碼、知識(shí)等不同角度的數(shù)據(jù)集上測(cè)評(píng)顯示，ChatGLM3-6B-Base具有在10B以下的基礎(chǔ)模型中最強(qiáng)的性能
更全面的開(kāi)源序列
除了對(duì)話模型ChatGLM3-6B外，還開(kāi)源了基礎(chǔ)模型ChatGLM3-6B-Base、長(zhǎng)文本對(duì)話模型ChatGLM3-6B-32K。以下是ChatGLM3-6B-32K在LongBench評(píng)測(cè)集上對(duì)模型進(jìn)行測(cè)試：
在多個(gè)長(zhǎng)文本應(yīng)用場(chǎng)景下的估測(cè)試中，與二代模型相比，其效果平均提升程度大于50%。在論文閱讀、文檔摘要和財(cái)報(bào)分析等應(yīng)用中，提升尤為顯著
聲明：本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題，請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
-
AI
+關(guān)注
關(guān)注
89文章
37454瀏覽量
292907 -
語(yǔ)言模型
+關(guān)注
關(guān)注
0文章
567瀏覽量
11233 -
Firefly
+關(guān)注
關(guān)注
2文章
544瀏覽量
8944
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
熱點(diǎn)推薦
結(jié)合AI算法的邊緣計(jì)算盒子，可以應(yīng)用在你想不到的場(chǎng)景中
。然后，搭載AI算法的邊緣計(jì)算盒子卻可以支持對(duì)餐飲門(mén)店包括后廚進(jìn)行全年無(wú)休的智能監(jiān)管以及針對(duì)不同情況的對(duì)應(yīng)處理措施。這種看似普通的鐵盒子，正在城市毛細(xì)血管中構(gòu)建起
AI邊緣計(jì)算盒子連接不同的傳感器，分別能實(shí)現(xiàn)什么功能？
AI邊緣計(jì)算盒子也被稱作“邊緣計(jì)算服務(wù)器”或“邊緣計(jì)算網(wǎng)關(guān)”，它能夠?qū)崿F(xiàn)數(shù)據(jù)的實(shí)時(shí)采集、高效處理和智能分析，更能連接各種傳感器，實(shí)現(xiàn)更多與周?chē)h(huán)境相關(guān)的智能互動(dòng)，延伸更多的功能。下面就讓天波小編為
中科創(chuàng)達(dá)與吉利汽車(chē)、NVIDIA聯(lián)合發(fā)布創(chuàng)新產(chǎn)品AIBOX
產(chǎn)品AIBOX。該方案依托中科創(chuàng)達(dá)滴水AIOS和NVIDIA DRIVE AGX車(chē)載計(jì)算平臺(tái)，首次實(shí)現(xiàn)7B大模型在車(chē)端實(shí)時(shí)流暢運(yùn)行，打造了真正的AI座艙，標(biāo)志著汽車(chē)產(chǎn)業(yè)正式進(jìn)入AI大模型實(shí)車(chē)量產(chǎn)時(shí)代。
產(chǎn)品案例 | 遛“狗”新方式，盒子來(lái)幫忙
當(dāng)一只機(jī)器狗被一個(gè)巴掌大的小盒子操控，躲避障礙、跟隨指令完成轉(zhuǎn)身、停止等動(dòng)作時(shí)，圍觀人群紛紛發(fā)出驚嘆：“這么小的盒子，居然能‘溜’機(jī)器狗？”。這個(gè)“小盒子”，正是機(jī)器狗的“智慧大腦”，它憑借強(qiáng)大
邊緣AI盒子技術(shù)解析：ASIC/FPGA/GPU芯片及邊緣-云端協(xié)同與自適應(yīng)推理
? 電子發(fā)燒友網(wǎng)綜合報(bào)道 邊緣AI盒子是一種集成了高性能芯片、AI算法和數(shù)據(jù)處理能力的硬件設(shè)備，部署在數(shù)據(jù)源的邊緣側(cè)，如工廠、商場(chǎng)、交通路口等，能在本地進(jìn)行數(shù)據(jù)采集、預(yù)處理、分析和決策，無(wú)需將所有
AIBOX 產(chǎn)品矩陣：支持主流大模型的私有化部署，滿足個(gè)性化 AI 應(yīng)用需求
AIBOX系列產(chǎn)品具備高性能、低功耗、環(huán)境適應(yīng)性強(qiáng)等特點(diǎn)，算力覆蓋6-157TOPS，通過(guò)搭配多樣化深度學(xué)習(xí)算法，體積小巧，能夠支持主流大模型的私有化部署，為多個(gè)智慧行業(yè)進(jìn)行數(shù)字化賦能。目前
【AIBOX 應(yīng)用案例】通過(guò) U2-Net 實(shí)現(xiàn)背景移除
NVIDIA系列AIBOXAIBOX-OrinNano和AIBOX-OrinNX均搭載NVIDIA原裝JetsonOrin核心板模組，標(biāo)配工業(yè)級(jí)全金屬外殼，鋁合金結(jié)構(gòu)導(dǎo)熱，頂蓋外殼側(cè)面采用條幅格柵
傳統(tǒng)攝像頭為什么需要升級(jí)為AI盒子？多場(chǎng)景痛點(diǎn)解析
在安防監(jiān)控、智慧零售、工業(yè)檢測(cè)等領(lǐng)域，傳統(tǒng)攝像頭長(zhǎng)期以來(lái)承擔(dān)著視頻采集的任務(wù)，但隨著AI技術(shù)的快速發(fā)展，單純依賴“看得見(jiàn)”的攝像頭已無(wú)法滿足智能化需求。AI盒子（智能視頻分析終端）的出現(xiàn)，讓傳統(tǒng)監(jiān)控
AIBOX 新成員，搭載 RK3588S 芯片全新上線
AIBOX產(chǎn)品矩陣再添新成員——AIBOX-3588S，支持AI大模型私有化部署，支持32GBLPDDR5超大內(nèi)存，廣泛適用于邊緣計(jì)算、大模型私有化部署、智能安防、智能家居、智能工業(yè)等領(lǐng)域。八核
自制1個(gè)指紋保險(xiǎn)箱，不到100元就能擁有！
| 實(shí)用至上，點(diǎn)亮便利生活，此前就一直想著給小朋友做一個(gè)小盒子，正好借這個(gè)機(jī)會(huì)忙里偷閑參與到活動(dòng)當(dāng)中，再體驗(yàn)一下電子 DIY 的樂(lè)趣。 本次制作了一個(gè)稍微實(shí)用價(jià)值的指紋開(kāi)鎖小盒子，旨在為日常生活中的物品收納提供更安全、便捷的解決方案。 1、設(shè)計(jì)
【AIBOX 應(yīng)用案例】單目深度估計(jì)
?Firefly所推出的NVIDIA系列的AIBOX可實(shí)現(xiàn)深度估計(jì)，該技術(shù)是一種從單張或者多張圖像預(yù)測(cè)場(chǎng)景深度信息的技術(shù)，廣泛應(yīng)用于計(jì)算機(jī)視覺(jué)領(lǐng)域，尤其是在三維重建、場(chǎng)景理解和環(huán)境感知等任務(wù)中起到
AIBOX 全系產(chǎn)品已適配 DeepSeek-R1
國(guó)產(chǎn)AI大模型DeepSeek以出色的性價(jià)比和高效的模型技術(shù)，迅速成為全球AI關(guān)注的焦點(diǎn)。Firefly開(kāi)源團(tuán)隊(duì)率先實(shí)現(xiàn)AIBOX系列產(chǎn)品對(duì)DeepSeek-R1的全面適配。R1模型性能數(shù)據(jù)
【AIBOX應(yīng)用】通過(guò) NVIDIA TensorRT 實(shí)現(xiàn)實(shí)時(shí)快速的語(yǔ)義分割
NVIDIA系列AIBOXAIBOX-OrinNano和AIBOX-OrinNX均搭載NVIDIA原裝JetsonOrin核心板模組，標(biāo)配工業(yè)級(jí)全金屬外殼，鋁合金結(jié)構(gòu)導(dǎo)熱，頂蓋外殼側(cè)面采用條幅格柵
【NVIDIA生態(tài)】具有100 TOPS強(qiáng)勁算力的AIBOX！
JetsonOrin模組的高算力AI主機(jī)：AIBOX-OrinNano和AIBOX-OrinNX英偉達(dá)系列AIBOX該系列可提供40或100TOPS的
深蕾半導(dǎo)體HDMI AI分析盒子
HDMI AI分析盒子，是專門(mén)針對(duì)視覺(jué)內(nèi)容進(jìn)行處理，集成了邊緣計(jì)算和AI算法處理能力的設(shè)備。能夠?qū)DMI RX輸入內(nèi)容進(jìn)行AI分析、內(nèi)容合成、編輯等操作。
該
工商網(wǎng)監(jiān)
評(píng)論