大模型，化繁為簡(jiǎn)歸文心

大模型，已經(jīng)變成今天AI產(chǎn)業(yè)最為關(guān)注、最受期待的技術(shù)方向，甚至沒有之一。 其原因在于，大模型帶來了強(qiáng)大的泛化能力以及優(yōu)異的效果，并且能夠?qū)崿F(xiàn)AI模型研發(fā)...

2022-11-30 標(biāo)簽：AI模型大模型 999 0

高通在AI領(lǐng)域的布局，驍龍 8 Gen 2支持Transformer大模型！

電子發(fā)燒友網(wǎng)報(bào)道（文/李彎彎）前不久，在2022驍龍技術(shù)峰會(huì)上，高通正式發(fā)布了全新一代旗艦移動(dòng)平臺(tái)驍龍 8 Gen 2。驍龍 8 Gen 2搭載一顆專門...

2022-12-01 標(biāo)簽：高通AI大模型 5k 0

NVIDIA GPU加速潞晨科技Colossal-AI大模型開發(fā)進(jìn)程

通過 NVIDIA GPU 加速平臺(tái)，Colossal-AI 實(shí)現(xiàn)了通過高效多維并行、異構(gòu)內(nèi)存管理、大規(guī)模優(yōu)化庫(kù)、自適應(yīng)任務(wù)調(diào)度等方式，更高效快速部署 ...

2022-10-19 標(biāo)簽：NVIDIAgpuAI 2k 0

數(shù)據(jù)、算法與大模型研討交流會(huì)在易華錄召開

10月11日，北京智譜華章科技有限公司（以下簡(jiǎn)稱“智譜AI”）董事長(zhǎng)劉德兵、南京三眼精靈信息技術(shù)有限公司（以下簡(jiǎn)稱“三眼精靈”）創(chuàng)始人汪利鵬及相關(guān)技術(shù)負(fù)...

2022-10-12 標(biāo)簽：算法AI大數(shù)據(jù) 2.3k 0

谷歌多模態(tài)大模型PaLI研究神經(jīng)網(wǎng)絡(luò)

語(yǔ)言和視覺任務(wù)的建模中，更大的神經(jīng)網(wǎng)絡(luò)模型能獲得更好的結(jié)果，幾乎已經(jīng)是共識(shí)。在語(yǔ)言方面，T5、GPT-3、Megatron-Turing、GLAM、Ch...

2022-10-09 標(biāo)簽：谷歌神經(jīng)網(wǎng)絡(luò)大模型 1.6k 0

AI大模型的白堊紀(jì)

美好的長(zhǎng)假即將過去，我們又該忙起來了。在AI領(lǐng)域，這兩年最忙的一項(xiàng)基礎(chǔ)技術(shù)應(yīng)該非大模型莫屬。 隨著最近AI繪畫、AI生成視頻等能力不斷刷新大眾對(duì)AI技術(shù)...

2022-10-08 標(biāo)簽：AI人工智能大模型 1.1k 0

大模型的禾下乘涼夢(mèng)，百度自己來做試驗(yàn)田

禾下乘涼夢(mèng)，是一個(gè)今天國(guó)人無比熟悉的詞。它來自袁隆平院士對(duì)雜交水稻高產(chǎn)的理想追求，是袁隆平的中國(guó)夢(mèng)。他生前多次提到，夢(mèng)想到禾下乘涼，夢(mèng)里水稻長(zhǎng)得有高粱那...

2022-09-27 標(biāo)簽：AI人工智能大模型 1.2k 0

百度文心大模型實(shí)現(xiàn)端到端極致的性能優(yōu)化

王海峰在致辭中提出，大模型的產(chǎn)業(yè)模式將是“類臺(tái)積電”模式。大模型加深度學(xué)習(xí)平臺(tái)，貫通AI全產(chǎn)業(yè)鏈，是產(chǎn)業(yè)智能化的基座。

2022-09-02 標(biāo)簽：百度人工智能飛槳 867 0

如何在GPU資源受限的情況下訓(xùn)練transformers庫(kù)上面的大模型

自BERT出現(xiàn)以來，nlp領(lǐng)域已經(jīng)進(jìn)入了大模型的時(shí)代，大模型雖然效果好，但是畢竟不是人人都有著豐富的GPU資源，在訓(xùn)練時(shí)往往就捉襟見肘，出現(xiàn)顯存out ...

2022-08-31 標(biāo)簽：gpu自然語(yǔ)言處理nlp 3.3k 0

基于昇騰AI的“空天.靈眸”大模型應(yīng)用 能大幅節(jié)省訓(xùn)練數(shù)據(jù)標(biāo)注成本

在中國(guó)圖象圖形大會(huì)的華為昇思MindSpore技術(shù)論壇上，中國(guó)科學(xué)院空天信息創(chuàng)新研究院（以下簡(jiǎn)稱“空天院”）發(fā)布了首個(gè)面向跨模態(tài)遙感數(shù)據(jù)的生成式預(yù)訓(xùn)練大...

2022-08-23 標(biāo)簽：AI模型昇騰 2.5k 0

百度飛槳及文心大模型賦能千行百業(yè)

2021中國(guó)自動(dòng)化大會(huì)2022年8月11日至13日在云南昆明舉辦，多位院士、專家參會(huì)并做特邀報(bào)告。中國(guó)自動(dòng)化大會(huì)是由中國(guó)自動(dòng)化學(xué)會(huì)主辦的國(guó)內(nèi)最高層次的自...

2022-08-14 標(biāo)簽：AI百度飛槳 1.3k 0

參天生長(zhǎng)大模型：昇騰AI如何強(qiáng)壯模型開發(fā)與創(chuàng)新之根？

自2018年谷歌發(fā)布BERT以來，預(yù)訓(xùn)練大模型經(jīng)過幾年的發(fā)展，以強(qiáng)大的算法效果，席卷了以NLP為代表的各大AI榜單與測(cè)試數(shù)據(jù)集。2020年OpenAI發(fā)...

2022-08-11 標(biāo)簽：華為算法AI 2.1k 0

大模型技術(shù)發(fā)展背景

我們今天看到了一個(gè)明顯的趨勢(shì)就是 AI 正從感知智能快速向認(rèn)知智能邁進(jìn)。AI 正從“能聽、會(huì)說、會(huì)看”的感知智能，走向“能思考、能回答問題、能總結(jié)、做翻...

2022-07-26 標(biāo)簽：人工智能nlp大模型 3.8k 0

運(yùn)營(yíng)商AI機(jī)遇：以大模型拓展全新賽道

東數(shù)西算正在成為各行業(yè)的普遍機(jī)遇，對(duì)于運(yùn)營(yíng)商來說也是如此。 東數(shù)西算帶來了全新的算力網(wǎng)絡(luò)建設(shè)需求，以及各行業(yè)普遍的網(wǎng)絡(luò)升級(jí)需求。在這一大背景下，運(yùn)營(yíng)商還...

2022-07-20 標(biāo)簽：運(yùn)營(yíng)商AI昇騰 2.3k 0

只需添加幾行代碼，就能實(shí)現(xiàn)大模型的低成本訓(xùn)練和微調(diào)

要知道，業(yè)界主流方法ZeRO （Zero Reduency Optimizer），盡管也利用CPU+GPU異構(gòu)內(nèi)存的方法，但是由于是靜態(tài)劃分，還是會(huì)引起...

2022-07-14 標(biāo)簽：開源模型代碼 3.5k 0