小白必讀：到底什么是FP32、FP16、INT8？

網(wǎng)上關(guān)于算力的文章，如果提到某個芯片或某個智算中心的算力，都會寫：在FP32精度下，英偉達H100的算力大約為0.9PFlops。在FP16精度下，某智...

2025-10-20 標簽：芯片算力智算中心 147 0

如何看懂GPU架構(gòu)？一分鐘帶你了解GPU參數(shù)指標

GPU架構(gòu)參數(shù)如CUDA核心數(shù)、顯存帶寬、TensorTFLOPS、互聯(lián)方式等，并非“冰冷的數(shù)字”，而是直接關(guān)系設(shè)備能否滿足需求、如何發(fā)揮最大價值、是否...

2025-10-09 標簽：gpu算力 293 0

6TOPS算力驅(qū)動30億參數(shù)LLM，米爾RK3576部署端側(cè)多模態(tài)多輪對話

關(guān)鍵詞：瑞芯微RK3576、NPU（神經(jīng)網(wǎng)絡處理器）、端側(cè)小語言模型（SLM）、多模態(tài)LLM、邊緣AI部署、開發(fā)板當GPT-4o用毫秒級響應處理圖文混合...

2025-09-04 標簽：算力米爾電子LLM 4k 0

“算存平衡”有多重要？

本文轉(zhuǎn)自：未來網(wǎng)絡集團當你用手機刷短視頻時，AI算法需要快速分析畫面內(nèi)容；當你喊‘小愛同學’喚醒語音助手時，設(shè)備需要在毫秒內(nèi)處理語音指令——這些看似簡單...

2025-07-11 標簽：AI算法算力大模型 363 0

計算精度對比：FP64、FP32、FP16、TF32、BF16、int8

本文轉(zhuǎn)自：河北人工智能計算中心在當今快速發(fā)展的人工智能領(lǐng)域，算力成為決定模型訓練與推理速度的關(guān)鍵因素之一。為了提高計算效率，不同精度的數(shù)據(jù)類型應運而生，...

2025-06-26 標簽：人工智能算力 1.7k 0

佩特科技RK3588開發(fā)板產(chǎn)品介紹

在AIoT（人工智能物聯(lián)網(wǎng)）與邊緣計算浪潮席卷全球的今天，企業(yè)對硬件平臺的性能、靈活性、開發(fā)效率提出了更高要求。如何縮短產(chǎn)品從原型到量產(chǎn)的周期？如何以更...

2025-06-14 標簽：開發(fā)板算力RK3588 582 0

寒武紀基于思元370芯片的MLU370-X8 智能加速卡產(chǎn)品手冊詳解

MLU370-X8智能加速卡是全面升級的數(shù)據(jù)中心訓推一體AI加速卡，基于寒武紀全新一代思元370芯片，接口為PCIe 4.0 X16，是全高全長雙寬（F...

2025-04-24 標簽：加速卡寒武紀AI芯片 3.5k 0

搭建算力中心，從了解的GPU 特性開始

ABSTRACT摘要本文介紹如何搭建算力，并介紹A100、H100、H200和B200這些GPU的特性。JAEALOT2025年4月23日隨著人工智能、...

2025-04-24 標簽：gpu算力 2.6k 0

長工微電子12相雙路輸出控制器IS6203A解決方案

2025年春節(jié)，DeepSeek發(fā)布全新AI模型R1，以千億級參數(shù)規(guī)模突破中國大模型技術(shù)邊界，標志著算力驅(qū)動型人工智能進入產(chǎn)業(yè)化深水區(qū)。在以GPU、CP...

2025-04-11 標簽：控制器gpu電流電源 934 0

算力領(lǐng)域常用名詞解釋

本文系統(tǒng)地整理和解釋了算力領(lǐng)域中常用的數(shù)十個關(guān)鍵名詞，并按照以下維度進行了分類：基礎(chǔ)概念、系統(tǒng)架構(gòu)、硬件架構(gòu)、基礎(chǔ)運算類型、計算模式、相關(guān)軟件架構(gòu)與部署...

2025-04-07 標簽：計算機算力 1k 0

詳解RAD端到端強化學習后訓練范式

受限于算力和數(shù)據(jù)，大語言模型預訓練的 scalinglaw 已經(jīng)趨近于極限。DeepSeekR1/OpenAl01通過強化學習后訓練涌現(xiàn)了強大的推理能力...

2025-02-25 標簽：模型強化學習地平線 914 0

【一文看懂】什么是端側(cè)算力？

隨著物聯(lián)網(wǎng)（IoT）、人工智能和5G技術(shù)的快速發(fā)展，端側(cè)算力正逐漸成為智能設(shè)備性能提升和智能化應用實現(xiàn)的關(guān)鍵技術(shù)。什么是端側(cè)算力，它的應用價值是什么，與...

2025-02-24 標簽：智能設(shè)備深度神經(jīng)網(wǎng)絡算力 2.5k 0

智能座艙SoC算力評估及應用總結(jié)

本文轉(zhuǎn)自：智能座艙產(chǎn)業(yè)聯(lián)盟精確評估SoC算力的必要性智能座艙的系統(tǒng)穩(wěn)定性、用戶體驗和性能表現(xiàn)都依賴于SoC（系統(tǒng)級芯片）的計算能力。為了實現(xiàn)最佳性能，系...

2025-01-15 標簽：soc算力智能座艙 1.7k 0

杰和課堂|帶你認識算力

杰和課堂|帶你認識算力人工智能浪潮洶涌的今天，算力一詞頻繁出現(xiàn)在各類科技新聞、產(chǎn)業(yè)發(fā)展報告中。了解過杰和科技產(chǎn)品的讀者們，也會在杰和各產(chǎn)品參數(shù)中發(fā)現(xiàn)算力...

2024-12-06 標簽：AI人工智能算力 1.9k 0

FP8數(shù)據(jù)格式在大型模型訓練中的應用

本文主要介紹了 FP8 數(shù)據(jù)格式在大型模型訓練中的應用、挑戰(zhàn)及最佳實踐，展示了 FP8 在提升訓練速度和效率方面的潛力和實際效果。

2024-11-19 標簽：NVIDIA數(shù)據(jù)格式模型 2.9k 0

存算一體技術(shù)的分類

近年間，云計算與人工智能技術(shù)的蓬勃興起，計算中心面臨著數(shù)據(jù)效率低、能耗大等核心挑戰(zhàn)，這促使學術(shù)界和工業(yè)界重新聚焦。

2024-11-05 標簽：處理器存儲器算力 1.9k 0

【一文看懂】大白話解釋“GPU與GPU算力”

隨著大模型的興起，“GPU算力”這個詞正頻繁出現(xiàn)在人工智能、游戲、圖形設(shè)計等工作場景中，什么是GPU，它與CPU的區(qū)別是什么？以及到底什么是GPU算力？...

2024-10-29 標簽：cpugpu算力 4k 0

使用OpenVINO 2024.4在算力魔方上部署Llama-3.2-1B-Instruct模型

前面我們分享了《三步完成Llama3在算力魔方的本地量化和部署》。2024年9月25日，Meta又發(fā)布了Llama3.2：一個多語言大型語言模型（LLM...

2024-10-12 標簽：模型Meta算力 1.9k 0

算力服務器為什么選擇GPU

隨著人工智能技術(shù)的快速普及，算力需求日益增長。智算中心的服務器作為支撐大規(guī)模數(shù)據(jù)處理和計算的核心設(shè)備，其性能優(yōu)化顯得尤為關(guān)鍵。而GPU服務器也進入了大眾...

2024-07-25 標簽：cpugpu服務器 1.7k 0

中國AI長卷（一）：大國重算

AI為沃土，智算是長城

2024-07-23 標簽：半導體AI人工智能 2.1k 0