亚洲精品久久久久久久久久久,亚洲国产精品一区二区制服,亚洲精品午夜精品,国产成人精品综合在线观看,最近2019中文字幕一页二页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

AI芯片全面發(fā)展!從訓練到推理、從云端到邊緣、從GPU到ASIC

Carol Li ? 來源:電子發(fā)燒友原創(chuàng) ? 作者:李彎彎 ? 2021-11-13 09:24 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報道(文/李彎彎)在過去接近10年時間里,AI產業(yè)經歷了幾個重要節(jié)點,2012年深度學習的研究突破,給AI產業(yè)帶來新的起點,2016年Alphago打敗李世石,正式引爆市場,一時間涌現(xiàn)出大量AI創(chuàng)業(yè)企業(yè),資本也大量投進這個賽道。

在短時間火熱之后,湊熱鬧的人逐漸退出,AI產業(yè)繼續(xù)穩(wěn)步向前發(fā)展,最近幾年AI技術快速發(fā)展,應用場景不斷浮現(xiàn),AI產業(yè)也進入到爆發(fā)式增長階段,巨大的市場潛力逐漸顯現(xiàn)出來。據(jù)艾媒咨詢數(shù)據(jù)顯示,2020年中國AI芯片市場規(guī)模達183.8億元,預計2023年將突破千億級別。

同時AI芯片也逐漸呈現(xiàn)出多元化趨勢,主要體現(xiàn)在幾個方面:一是早期AI芯片更多集中在訓練上,如今除了AI訓練芯片持續(xù)增長,AI推理芯片的市場規(guī)模也在快速擴大,預計將超過訓練芯片;二是AI芯片過去主要部署在云端,如今已經向邊緣端/終端方向發(fā)展;第三,AI芯片有各種類型,其中多數(shù)是GPU,不過很明顯,ASICFPGA等非GPU芯片市場規(guī)模也在逐步提升。

AI推理芯片市場規(guī)模逐步擴大

AI芯片可分為訓練和推理兩個環(huán)節(jié),訓練環(huán)節(jié)通常需要通過大量的數(shù)據(jù)輸入,或采取增強學習等非監(jiān)督學習方法,訓練出一個復雜的深度神經網(wǎng)絡模型。推理環(huán)節(jié)指利用訓練好的模型,使用新的數(shù)據(jù)去推理出各種結論,比如,視頻監(jiān)控設備通過后臺的深度神經網(wǎng)絡模型,判斷一張抓拍到的人臉是否屬于黑名單。

也因此通常也會有AI訓練芯片和AI推理芯片,另外還會根據(jù)是部署在云端數(shù)據(jù)中心、邊緣端、還是終端,更細化的分為云端AI訓練、云端AI推理、邊緣/終端AI推理芯片。

因為AI訓練需要大量的數(shù)據(jù),基本被部署在云端,過去幾年地方政府加快建設公有云、私有云、數(shù)據(jù)中心,也因此AI訓練芯片市場大增,在2018年的時候中國云端AI訓練芯片市場份額達到51.3%,中國AI芯片市場規(guī)模也以云端訓練芯片為主。

不過隨著大規(guī)模地方性數(shù)據(jù)中心建設陸續(xù)完成,云端訓練芯片增長速度逐步放緩,而隨著各領域市場需求的釋放,云端推理芯片、終端推理芯片市場增長速度呈現(xiàn)上升趨勢,根據(jù)IDC研究發(fā)現(xiàn),2020年中國數(shù)據(jù)中心用于推理的芯片的市場份額已經超過50%,預計到2025年,用于推理的工作負載的芯片將達到60.8%。

邊緣AI芯片市場規(guī)模將超過云端芯片

同時AI芯片正在從云端向邊緣端發(fā)展,IDC&浪潮日前發(fā)布的《2021-2022中國人工智能計算力發(fā)展評估報告》顯示,在新技術的驅動下,5G 等連接技術降低了數(shù)據(jù)的傳輸和處理速度,為了分擔數(shù)據(jù)中心的計算壓力并且也能提高實時響應速度,人工智能在邊緣側的處理將成為企業(yè)的一個關鍵增長領域。

人工智能在邊緣以及端側將有廣泛的應用場景,從自動駕駛到工業(yè)制造,再到消費者智能家居和可穿戴設備。據(jù)市場咨詢公司ABI Research的數(shù)據(jù)顯示,預計到2025年,邊緣AI芯片市場的收入將達到122億美元,云AI芯片市場的收入將達到119億美元,邊緣AI芯片市場將超過云AI芯片組市場。


GPU芯片占比增加,將超過20%

目前AI芯片有3種主流技術路線,分別是GPU、ASIC以及FPGA。其中GPU芯片被認為更適合用于承擔訓練負載,有分析人士指出,目前GPU已經發(fā)展到較為成熟的階段。根據(jù)IDC數(shù)據(jù),2021年上半年AI芯片中,GPU依然是實現(xiàn)數(shù)據(jù)中心加速的首選,占有90%以上市場份額。

英偉達是GPU領域的絕對龍頭,占據(jù)了絕大部分市場份額,近幾年國內也有多家GPU廠商逐漸成長起來,將其用于AI訓練和推理,包括天數(shù)智芯、摩爾線程、沐曦集成、壁仞科技、登臨科技等。

雖然目前GPU仍然占據(jù)主要的市場份額,不過ASIC、FPGA等其他非GPU芯片在各個領域越來越多的被使用,整體市場份額接近10%,預計到2025年其占比將超過20%,主要原因:一是越來越多的AI初創(chuàng)企業(yè)成長起來,它們很多采用ASIC芯片進行訓練和推理;二是GPU較多的被用于云端訓練,而隨著云端、邊緣推理芯片市場規(guī)模逐漸擴大,F(xiàn)PGA和ASIC芯片的價值更容易得到體現(xiàn)。

小結

整體而言,經過多年的發(fā)展,AI芯片市場規(guī)模正在快速增長,同時AI芯片也逐漸走向更加多元化,從功能上來看,逐漸從云端AI訓練拓展到云端和邊緣端推理,從芯片類型來看,GPU芯片仍然占據(jù)重要位置,而FPGA和ASIC等芯片的價值也得到更多體現(xiàn)。

我們也明顯看到,不少AI芯片企業(yè)開始全面推出產品,或者包括云端訓練和推理,或者同時進行云端和邊緣端芯片產品布局,比如寒武紀推出同時支持訓練和推理的芯片,燧原在推出云端訓練芯片之后,也推出了云端推理芯片,鯤云科技基于CAISA芯片的產品可應用于云端和邊緣端推理。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • asic
    +關注

    關注

    34

    文章

    1267

    瀏覽量

    123827
  • gpu
    gpu
    +關注

    關注

    28

    文章

    5067

    瀏覽量

    134134
  • AI
    AI
    +關注

    關注

    89

    文章

    37531

    瀏覽量

    293230
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    游戲引擎AI動力核心

    顯卡技術演進:游戲引擎AI動力核心 曾經專為圖形渲染而生的顯卡,如今正成為推動人工智能、邊緣計算和科學模擬的關鍵驅動力。 近年來,顯卡技術已從單純的圖形處理單元演變?yōu)橥ㄓ糜嬎慵铀倨?/div>
    的頭像 發(fā)表于 10-30 11:08 ?45次閱讀

    需求落地:RISC-V如何重塑下一代AI硬件生態(tài)?

    本文由TechSugar編譯自SemiWiki人工智能(AI)正重塑計算領域的每一個層面,訓練萬億參數(shù)模型的超大規(guī)模數(shù)據(jù)中心,運行實時推理
    的頭像 發(fā)表于 10-16 09:06 ?369次閱讀
    <b class='flag-5'>從</b>需求<b class='flag-5'>到</b>落地:RISC-V如何重塑下一代<b class='flag-5'>AI</b>硬件生態(tài)?

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI芯片AGI芯片

    、分布式群體智能 1)物聯(lián)網(wǎng)AGI系統(tǒng) 優(yōu)勢: 組成部分: 2)分布式AI訓練 7、發(fā)展重點:基于強化學習的后訓練推理 8、超越大模型:神
    發(fā)表于 09-18 15:31

    【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI芯片的需求和挑戰(zhàn)

    的工作嗎? 從書中也了解到了AI芯片都有哪些?像CPU、GPU、FPGA、ASIC都是AI芯片。
    發(fā)表于 09-12 16:07

    CPU GPU,渲染技術如何重塑游戲、影視與設計?

    渲染技術是計算機圖形學的核心內容之一,它是將三維場景轉換為二維圖像的過程。渲染技術一直在不斷演進,最初的CPU渲染后來的GPU渲染,性能和質量都有了顯著提升。CPU
    的頭像 發(fā)表于 09-01 12:16 ?583次閱讀
    <b class='flag-5'>從</b> CPU <b class='flag-5'>到</b> <b class='flag-5'>GPU</b>,渲染技術如何重塑游戲、影視與設計?

    芯片主板,科技創(chuàng)新實現(xiàn)高質量發(fā)展

    數(shù)字化時代,科技的迅猛發(fā)展深刻影響著各個領域。芯片主板的集成,生動展現(xiàn)了科技創(chuàng)新如何成為推動高質量發(fā)展的核心動力。
    的頭像 發(fā)表于 07-26 16:26 ?554次閱讀

    邊緣AI盒子技術解析:ASIC/FPGA/GPU芯片邊緣-云端協(xié)同與自適應推理

    ? 電子發(fā)燒友網(wǎng)綜合報道 邊緣AI盒子是一種集成了高性能芯片、AI算法和數(shù)據(jù)處理能力的硬件設備,部署在數(shù)據(jù)源的邊緣側,如工廠、商場、交通路口
    的頭像 發(fā)表于 07-13 08:25 ?3807次閱讀

    陣列云訓練到推理

    在云場景下,陣列云(分布式計算集群)模型訓練到推理的完整技術流程可結構化分解如下: 一、訓練階段技術實現(xiàn) 1,資源動態(tài)編排? 基于Kubernetes集群或云廠商彈性計算服務(如AW
    的頭像 發(fā)表于 03-28 08:32 ?504次閱讀

    邊緣計算 云端計算

    處理數(shù)據(jù),需通過互聯(lián)網(wǎng)傳輸原始數(shù)據(jù)?。 延遲與實時性? 邊緣計算?:毫秒級響應,適用于自動駕駛、工業(yè)控制等實時場景?。 云端計算?:因網(wǎng)絡傳輸和集中處理,延遲較高(通常秒級),適合非實時任務(如數(shù)據(jù)分析、模型訓練)?。
    的頭像 發(fā)表于 03-27 08:30 ?602次閱讀
    <b class='flag-5'>從</b><b class='flag-5'>邊緣</b>計算 <b class='flag-5'>到</b><b class='flag-5'>云端</b>計算

    AI推理帶火的ASIC,開發(fā)成敗在此一舉!

    的應用性價比遠超GPU,加上博通財報AI業(yè)務同比大增220%,掀起了AI推理端的ASIC熱潮。 ? 那么
    的頭像 發(fā)表于 03-03 00:13 ?3907次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>推理</b>帶火的<b class='flag-5'>ASIC</b>,開發(fā)成敗在此一舉!

    CPUGPU:渲染技術的演進和趨勢

    渲染技術是計算機圖形學的核心內容之一,它是將三維場景轉換為二維圖像的過程。渲染技術一直在不斷演進,最初的CPU渲染后來的GPU渲染,性能和質量都有了顯著提升。一、CPU
    的頭像 發(fā)表于 02-21 11:11 ?1204次閱讀
    <b class='flag-5'>從</b>CPU<b class='flag-5'>到</b><b class='flag-5'>GPU</b>:渲染技術的演進和趨勢

    數(shù)據(jù)智能:邊緣AI發(fā)展進入新階段,方案部署面臨怎樣的挑戰(zhàn)?

    回顧2024年AI產業(yè)的發(fā)展,AI大模型依然在高歌猛進,不過將AI工作負載云端卸載到終端的趨勢
    的頭像 發(fā)表于 01-15 00:13 ?3063次閱讀
    <b class='flag-5'>從</b>數(shù)據(jù)<b class='flag-5'>到</b>智能:<b class='flag-5'>邊緣</b><b class='flag-5'>AI</b><b class='flag-5'>發(fā)展</b>進入新階段,方案部署面臨怎樣的挑戰(zhàn)?

    科技云報到:大模型云端,“AI+云計算”還能講出什么新故事

    科技云報到:大模型云端,“AI+云計算”還能講出什么新故事
    的頭像 發(fā)表于 01-07 13:27 ?564次閱讀

    《算力芯片 高性能 CPUGPUNPU 微架構分析》第3篇閱讀心得:GPU革命:圖形引擎AI加速器的蛻變

    在數(shù)據(jù)挖掘工作中,我經常需要處理海量數(shù)據(jù)的深度學習任務,這讓我對GPU架構和張量運算充滿好奇。閱讀《算力芯片》第7-9章,讓我對這些關鍵技術有了全新認識。 GPU架構從早期的固定功能流水線,
    發(fā)表于 11-24 17:12

    AI云端計算資源有哪些類型

    AI云端計算資源涵蓋了基礎設施軟件服務的多個層面,為AI模型的訓練、
    的頭像 發(fā)表于 11-15 09:39 ?843次閱讀