亚洲精品久久久久久久久久久,亚洲国产精品一区二区制服,亚洲精品午夜精品,国产成人精品综合在线观看,最近2019中文字幕一页二页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

拋棄8GB內(nèi)存,端側(cè)AI大模型加速內(nèi)存升級(jí)

花茶晶晶 ? 來(lái)源:電子發(fā)燒友網(wǎng) ? 作者:黃晶晶 ? 2024-11-03 00:02 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報(bào)道(文/黃晶晶)端側(cè)AI大模型的到來(lái)在存儲(chǔ)市場(chǎng)產(chǎn)生了最直接的反應(yīng)。年初在我們對(duì)旗艦智能手機(jī)的存儲(chǔ)容量統(tǒng)計(jì)中,16GB內(nèi)存+512GB存儲(chǔ)成為幾乎所有旗艦機(jī)型都提供的選擇。畢竟AI大模型的運(yùn)行以及相關(guān)應(yīng)用的激增都比較吃?xún)?nèi)存和閃存。就在最近,連蘋(píng)果也開(kāi)始淘汰8GB版本,逐步走向12GB、16GB內(nèi)存。智能終端對(duì)存儲(chǔ)容量的需求有增無(wú)減,同時(shí)也加速更先進(jìn)存儲(chǔ)規(guī)格的采用。

蘋(píng)果、小米紛紛砍掉8GB內(nèi)存版本

日前,蘋(píng)果宣布搭載M2和M3芯片的MacBook Air機(jī)型現(xiàn)標(biāo)配16GB內(nèi)存,相比此前翻倍,但起售價(jià)維持不變,分別仍為7999元和8999元。蘋(píng)果官網(wǎng)上13英寸M2 MacBook Air、13英寸M3 MacBook Air以及15英寸M3 MacBook Air均淘汰了8GB版本,標(biāo)配16GB內(nèi)存,固態(tài)硬盤(pán)是256GB起步。截至目前,蘋(píng)果新款MacBook Pro、Mac mini、iMac等設(shè)備全部都是16GB內(nèi)存起步。

近期,小米公司宣布了其旗艦產(chǎn)品小米15系列的內(nèi)存配置重要調(diào)整。小米董事長(zhǎng)兼CEO雷軍表示,小米15將砍掉8GB內(nèi)存版本,標(biāo)準(zhǔn)版將從12GB起步。

雷軍表示,為了最大程度展現(xiàn)端側(cè) AI的能力,我們決定取消 8GB 版本。小米15系列,在設(shè)計(jì)工藝、性能功耗、續(xù)航表現(xiàn)和使用體驗(yàn)等方方面面都有巨大的提升。

10月28日,小米中國(guó)區(qū)市場(chǎng)部副總經(jīng)理、Redmi品牌總經(jīng)理王騰在社交平臺(tái)上解釋稱(chēng),這一決策(指取消8GB內(nèi)存,從12GB起步)主要是基于未來(lái)手機(jī)AI應(yīng)用的發(fā)展趨勢(shì)。隨著端側(cè)AI大模型對(duì)內(nèi)存需求的增加,8GB內(nèi)存已逐漸無(wú)法滿(mǎn)足高效運(yùn)行的需求。他建議,在資金允許的情況下,消費(fèi)者應(yīng)選擇更大內(nèi)存的版本,以確保手機(jī)能夠流暢運(yùn)行各類(lèi)AI應(yīng)用。

另外,對(duì)于小米15系列的漲價(jià),雷軍表示,去年我跟大家說(shuō)過(guò),小米14首定是最后一次定價(jià)3999元。今年3nm工藝升級(jí),同時(shí)供應(yīng)鏈 RAMROM 成本漲幅很大,我們?cè)谘邪l(fā)上投入也非常大,小米15 確實(shí)需要漲價(jià)。我可以保證,即便漲價(jià),小米15 依舊日物超所值!相比往代同內(nèi)存版本的漲價(jià)幅度,也肯定讓大家覺(jué)得“貴得有理由”,謝謝大家理解!

端側(cè)AI大模型的內(nèi)存容量

由于端側(cè)AI大模型需要在內(nèi)存中加載,即便采用壓縮技術(shù),越大的模型越吃容量。一方面現(xiàn)在端側(cè)AI大模型有著輕量化的趨勢(shì),另一方面足夠大容量和性能更高的內(nèi)存更能滿(mǎn)足端側(cè)AI的需求。

今年6月蘋(píng)果發(fā)布Apple Intelligence,將強(qiáng)大的生成模型置于 iPhone、iPad 和 Mac 的核心。它具有的數(shù)據(jù)處理和情境感知能力。它能夠深入理解設(shè)備中的各類(lèi)數(shù)據(jù),包括照片、郵件、信息等,并據(jù)此為用戶(hù)提供個(gè)性化的智能服務(wù)。分析師郭明錤曾表示,Apple Intelligence采用端側(cè)3B LLM,經(jīng)過(guò)壓縮后,隨時(shí)需要預(yù)留約0.7-1.5GB DRAM來(lái)運(yùn)作Apple Intelligence的端側(cè)LLM。

在安卓陣營(yíng),早在去年,端側(cè)AI便成為各大手機(jī)終端廠商進(jìn)行手機(jī)創(chuàng)新的主航道,彼時(shí)大家都將AI端側(cè)大模型的參數(shù)集中于7B。然而參數(shù)越大所需的處理器、存儲(chǔ)等資源越多,輕量化小模型或許更適合于智能終端。

vivo繼去年帶來(lái)了三款端側(cè)大模型(自研十億、百億、千億三個(gè)參數(shù)量級(jí))之后,發(fā)布全新30億參數(shù)量級(jí)的藍(lán)心端側(cè)大模型3B。

在對(duì)話寫(xiě)作、摘要總結(jié)、信息抽取等能力上,藍(lán)心3B可以越級(jí)比肩行業(yè)7B-9B模型。相比藍(lán)心7B,藍(lán)心 3B極致性能提升300%,平衡模式下功耗優(yōu)化達(dá)46%,極致出詞速度可以達(dá)到80字/s,系統(tǒng)功耗僅450mA,內(nèi)存占用僅1.4GB。藍(lán)心端側(cè)大模型3B真正打破了模型小、能力強(qiáng)、消耗低的“不可能三角定律”。

蘋(píng)果為了支持Apple Intelligence在手機(jī)端的應(yīng)用,將iPhone 16系列的四款機(jī)型全部升級(jí)到了8GB內(nèi)存。為何選定為8GB內(nèi)存,而不是更高?蘋(píng)果硬件技術(shù)高級(jí)副總裁Johny Srouji表示,Apple Intelligence是促使使用8GB內(nèi)存的一個(gè)主要原因。他還提到,軟硬件和產(chǎn)品的完全集成帶來(lái)了很多好處,蘋(píng)果軟件團(tuán)隊(duì)經(jīng)過(guò)多次的內(nèi)存優(yōu)化計(jì)算,避免內(nèi)存浪費(fèi),綜合考慮之后認(rèn)為8GB是最適合的選擇。

我們看到新發(fā)布的vivo X200系列和OPPO Find X8系列等手機(jī)都是直接從12GB版本起步。安卓陣營(yíng)旗艦手機(jī)的內(nèi)存容量升級(jí)更加積極,蘋(píng)果反而顯得有點(diǎn)保守了。盡管蘋(píng)果有其軟硬件優(yōu)化的系統(tǒng)級(jí)優(yōu)勢(shì),但相信8GB內(nèi)存的選擇,成本也是考慮因素之一。

內(nèi)存規(guī)格不斷提升

旗艦智能手機(jī)主要采用LPDDR5X內(nèi)存規(guī)格,LPDDR5X能夠更好地加速邊緣AI運(yùn)算,提供高存儲(chǔ)器頻寬和更佳的功耗效率。此前LPDDR5X速率達(dá)8.5Gbps,LPDDR5T速率達(dá)9.6Gbps的水平,而最近發(fā)布的新機(jī)甚至還采用了更高速率的LPDDR5X。

例如,OPPO Find X8 系列搭載潮汐引擎×天璣 9400,采用臺(tái)積電第二代3nm工藝與新一代ARM架構(gòu),搭配高速閃存UFS 4.0與LPDDR5X先進(jìn)內(nèi)存規(guī)格,帶來(lái)更強(qiáng)的性能和更均衡的功耗表現(xiàn)。其中,F(xiàn)ind X8 Pro采用LPDDR5X內(nèi)存,F(xiàn)ind X8 Pro 衛(wèi)星通信版采用了LPDDR5X 10667Mbps版內(nèi)存。在 vivo X200新機(jī)中,vivo X200 Pro 16GB + 1TB 衛(wèi)星通信版本搭載LPDDR5X Ultra Pro,同樣達(dá)到10667Mbps速度。

此前三星半導(dǎo)體就表示,已成功在聯(lián)發(fā)科下一代天璣旗艦移動(dòng)平臺(tái)(天璣9400)完成其最快的10.7千兆比特/秒(Gbps)LPDDR5X DRAM驗(yàn)證。成為當(dāng)今全球最快的手機(jī)內(nèi)存。

至于蘋(píng)果新一代新機(jī),iPhone 16采用6400Mbps的LPDDR5,蘋(píng)果iPhone 16 Pro和16 Pro Max版本都是采用的是LPDDR5X規(guī)格的內(nèi)存,7500Mbps速率。

LPDDR5標(biāo)準(zhǔn)于2019年2月發(fā)布,2021年7月JEDEC組織推出了升級(jí)版LPDDR5X。為了打造更高性能更能滿(mǎn)足端側(cè)AI大模型運(yùn)算的內(nèi)存,今年以來(lái)JEDEC組織正在積極制定新一代低功耗內(nèi)存LPDDR6標(biāo)準(zhǔn),該組織設(shè)定了 LPDDR6的速度范圍從 10.667Gbps到14.4Gbps??梢钥吹?,三星10.7GbpsLPDDR5X DRAM已經(jīng)初步達(dá)到了該組織擬定的LPDDR6最低速度范圍要求。接下來(lái),各大DRAM廠商勢(shì)必積極跟進(jìn)LPDD6的技術(shù)和產(chǎn)品,手機(jī)內(nèi)存也將上一個(gè)新的臺(tái)階。
聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 內(nèi)存
    +關(guān)注

    關(guān)注

    8

    文章

    3160

    瀏覽量

    75988
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    37271

    瀏覽量

    292197
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    3373

    瀏覽量

    4827
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    此芯科技發(fā)布“合一”AI加速計(jì)劃,賦能邊緣與側(cè)AI創(chuàng)新

    產(chǎn)品組合,覆蓋從1.5B至32B參數(shù)規(guī)模的側(cè)AI模型推理需求,滿(mǎn)足工業(yè)、消費(fèi)電子、智能終端等多樣化場(chǎng)景的部署需求,推動(dòng)AI技術(shù)從云端向邊緣
    的頭像 發(fā)表于 09-15 11:53 ?2010次閱讀
    此芯科技發(fā)布“合一”<b class='flag-5'>AI</b><b class='flag-5'>加速</b>計(jì)劃,賦能邊緣與<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>創(chuàng)新

    科普:什么AI 內(nèi)存技術(shù)

    問(wèn)題。 為什么 AI 內(nèi)存很重要? 在 AI 模型訓(xùn)練和推理過(guò)程中,大量的數(shù)據(jù)需要從內(nèi)存傳輸?shù)教幚砥鳎ㄈ?GPU 或 TPU)進(jìn)行計(jì)算。傳統(tǒng)
    的頭像 發(fā)表于 09-03 15:44 ?394次閱讀

    華為CANN與智譜GLM側(cè)模型完成適配

    已于7月28日正式開(kāi)源其新一代基座模型GLM-4.5,其GLM側(cè)模型已完成與CANN的適配。這標(biāo)志著國(guó)產(chǎn)大模型與計(jì)算架構(gòu)在
    的頭像 發(fā)表于 08-11 11:00 ?2047次閱讀

    迅為iTOP-3588S開(kāi)發(fā)板核心板引腳240PIN全部引出8GB內(nèi)存32GBEMMC存儲(chǔ)

    ,8GB內(nèi)存,32GBEMMC。 四核心架構(gòu)GPU內(nèi)置GPU可以完全兼容0penGLES1.1、2.0和3.2。 內(nèi)置NPU RK3588S內(nèi)置NPU,支持INT4/INT8/INT16/FP16混合運(yùn)算
    發(fā)表于 06-23 11:19

    首創(chuàng)開(kāi)源架構(gòu),天璣AI開(kāi)發(fā)套件讓側(cè)AI模型接入得心應(yīng)手

    ,聯(lián)發(fā)科帶來(lái)了全面升級(jí)的天璣AI開(kāi)發(fā)套件2.0,在模型庫(kù)規(guī)模、架構(gòu)開(kāi)放程度、前沿側(cè)AI技術(shù)支持
    發(fā)表于 04-13 19:52

    AI模型側(cè)部署正當(dāng)時(shí):移遠(yuǎn)端側(cè)AI模型解決方案,激活場(chǎng)景智能新范式

    AI技術(shù)飛速發(fā)展的當(dāng)下,AI模型的應(yīng)用正從云端向側(cè)加速滲透。 作為全球領(lǐng)先的物聯(lián)網(wǎng)整體解決
    發(fā)表于 03-27 11:26 ?368次閱讀
    <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b><b class='flag-5'>端</b>側(cè)部署正當(dāng)時(shí):移遠(yuǎn)端<b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>解決方案,激活場(chǎng)景智能新范式

    AI模型側(cè)部署正當(dāng)時(shí):移遠(yuǎn)端側(cè)AI模型解決方案,激活場(chǎng)景智能新范式

    AI技術(shù)飛速發(fā)展的當(dāng)下,AI模型的應(yīng)用正從云端向側(cè)加速滲透。作為全球領(lǐng)先的物聯(lián)網(wǎng)整體解決方
    的頭像 發(fā)表于 03-26 19:05 ?794次閱讀
    <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b><b class='flag-5'>端</b>側(cè)部署正當(dāng)時(shí):移遠(yuǎn)端<b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>解決方案,激活場(chǎng)景智能新范式

    移遠(yuǎn)通信邊緣計(jì)算模組成功運(yùn)行DeepSeek模型,以領(lǐng)先的工程能力加速側(cè)AI落地

    。 ? 目前,該模型正在多款智能終端上進(jìn)行深入測(cè)試與優(yōu)化。移遠(yuǎn)通信將憑借其卓越的工程化能力,加速側(cè)AI技術(shù)在各行各業(yè)的規(guī)模化應(yīng)用與普及。
    發(fā)表于 02-13 11:32 ?396次閱讀
    移遠(yuǎn)通信邊緣計(jì)算模組成功運(yùn)行DeepSeek<b class='flag-5'>模型</b>,以領(lǐng)先的工程能力<b class='flag-5'>加速</b><b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>落地

    移遠(yuǎn)通信邊緣計(jì)算模組成功運(yùn)行DeepSeek模型,以領(lǐng)先的工程能力加速側(cè)AI落地

    。目前,該模型正在多款智能終端上進(jìn)行深入測(cè)試與優(yōu)化。移遠(yuǎn)通信將憑借其卓越的工程化能力,加速側(cè)AI技術(shù)在各行各業(yè)的規(guī)?;瘧?yīng)用與普及。Deep
    的頭像 發(fā)表于 02-12 19:03 ?688次閱讀
    移遠(yuǎn)通信邊緣計(jì)算模組成功運(yùn)行DeepSeek<b class='flag-5'>模型</b>,以領(lǐng)先的工程能力<b class='flag-5'>加速</b><b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>落地

    德明利DDR5內(nèi)存助力AI PC時(shí)代存儲(chǔ)性能與市場(chǎng)增長(zhǎng)

    2024年作為AIPC元年伴隨異構(gòu)算力(CPU+GPU+NPU)需求高漲及新處理器平臺(tái)推出DDR5內(nèi)存以高速率、大容量低延遲與高帶寬有效滿(mǎn)足高性能算力要求加速本地AI模型運(yùn)行效率推動(dòng)
    的頭像 發(fā)表于 01-21 16:34 ?2111次閱讀
    德明利DDR5<b class='flag-5'>內(nèi)存</b>助力<b class='flag-5'>AI</b> PC時(shí)代存儲(chǔ)性能與市場(chǎng)增長(zhǎng)

    廣和通開(kāi)啟側(cè)AI新時(shí)代

    AI發(fā)展正酣,隨著終端芯片算力越來(lái)越高、側(cè)模型能力越來(lái)越強(qiáng)、實(shí)時(shí)響應(yīng)及隱私保護(hù)的側(cè)應(yīng)用需求增
    的頭像 發(fā)表于 12-12 10:35 ?1147次閱讀

    訊飛星火側(cè)模型發(fā)布

    參數(shù)量小、內(nèi)存占比小的側(cè)模型,正成為“兵家必爭(zhēng)之地”。
    的頭像 發(fā)表于 12-04 16:07 ?1629次閱讀

    智譜推出四個(gè)全新側(cè)模型 攜英特爾按下AI普及加速

    隨著AI的發(fā)展,側(cè)AI模型越來(lái)越受到廣大客戶(hù)及廠商的關(guān)注,業(yè)界領(lǐng)先的大模型公司智譜于近日推出了
    的頭像 發(fā)表于 12-02 17:13 ?791次閱讀
    智譜推出四個(gè)全新<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>模型</b> 攜英特爾按下<b class='flag-5'>AI</b>普及<b class='flag-5'>加速</b>鍵

    把握關(guān)鍵節(jié)點(diǎn),美格智能持續(xù)推動(dòng)側(cè)AI規(guī)?;卣?/a>

    將成為和系統(tǒng)同樣重要的存在,如果說(shuō)電路是連接身體的“血管”,那么AI就將成為終端的智慧“大腦”。加速演進(jìn)大模型加速走向
    的頭像 發(fā)表于 11-26 01:00 ?721次閱讀
    把握關(guān)鍵節(jié)點(diǎn),美格智能持續(xù)推動(dòng)<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>規(guī)?;卣? />    </a>
</div>                              <div   id=

    把握關(guān)鍵節(jié)點(diǎn),美格智能持續(xù)推動(dòng)側(cè)AI規(guī)?;卣?/a>

    將成為和系統(tǒng)同樣重要的存在,如果說(shuō)電路是連接身體的“血管”,那么AI就將成為終端的智慧“大腦”。 ?加速演進(jìn),大模型加速走向
    的頭像 發(fā)表于 11-25 16:45 ?998次閱讀
    把握關(guān)鍵節(jié)點(diǎn),美格智能持續(xù)推動(dòng)<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>規(guī)模化拓展