近日,中國(guó)科學(xué)院自動(dòng)化研究所徐波研究員和中國(guó)科學(xué)院腦科學(xué)與智能技術(shù)卓越創(chuàng)新中心蒲慕明院士在《國(guó)家科學(xué)評(píng)論》(NSR)上發(fā)表社論,就以促進(jìn)更加綠色的類(lèi)腦通用人工智能為目標(biāo),評(píng)述如何發(fā)展腦啟發(fā)的類(lèi)腦神經(jīng)網(wǎng)絡(luò)架構(gòu)、類(lèi)腦學(xué)習(xí)算法及基于脈沖編碼的類(lèi)腦計(jì)算軟硬件等。

《國(guó)家科學(xué)評(píng)論》刊發(fā)社論
大語(yǔ)言模型(LLM)的出現(xiàn)以及它們?cè)谏扇蝿?wù)中的驚人表現(xiàn)預(yù)示著通用人工智能(AGI)新時(shí)代的開(kāi)始。在很大程度上,它們已經(jīng)通過(guò)了經(jīng)典的圖靈測(cè)試。
通過(guò)與機(jī)器人結(jié)合,大模型將進(jìn)一步發(fā)展出更強(qiáng)大的具身智能?;诖笳Z(yǔ)言模型的各種科學(xué)、教育和商業(yè)應(yīng)用正激發(fā)人們對(duì)未來(lái)人工智能的無(wú)限遐想。然而,大語(yǔ)言模型存在著大量的連接參數(shù),它們?cè)谟?xùn)練和推理階段的計(jì)算調(diào)整和并行推理往往消耗了巨大的算力成本,這個(gè)問(wèn)題將限制大語(yǔ)言模型作為社會(huì)基礎(chǔ)設(shè)施的廣泛應(yīng)用。
發(fā)展受腦啟發(fā)的類(lèi)腦通用智能研究是解決現(xiàn)有問(wèn)題的一種有效途徑。人類(lèi)大腦是進(jìn)化過(guò)程賦予的一種高效生物神經(jīng)網(wǎng)絡(luò),包含多樣的細(xì)胞類(lèi)型和連接模式,且在人類(lèi)出生后的腦發(fā)育過(guò)程中通過(guò)與環(huán)境交互進(jìn)一步完善并形成高效的連接模式。即使我們不能像圖靈曾經(jīng)提出的那樣制造一個(gè)“兒童機(jī)器”(Child Machine),通用人工智能也仍然可以從兩個(gè)方面向成熟的大腦學(xué)習(xí),即神經(jīng)網(wǎng)絡(luò)架構(gòu)和類(lèi)腦學(xué)習(xí)算法。
過(guò)去的人工神經(jīng)網(wǎng)絡(luò)在一定程度上受到了生物腦網(wǎng)絡(luò)的啟發(fā),例如分層和模塊化的網(wǎng)絡(luò)結(jié)構(gòu),以及可調(diào)權(quán)重的突觸連接。然而,大腦網(wǎng)絡(luò)實(shí)現(xiàn)高效運(yùn)轉(zhuǎn)不僅僅是更多神經(jīng)元和突觸的堆疊,更重要的是不同神經(jīng)元類(lèi)型以及功能模塊之間的選擇性連接。大腦網(wǎng)絡(luò)從局部模式到全局拓?fù)湟呀?jīng)啟發(fā)了當(dāng)今人工智能中的卷積、循環(huán)及多類(lèi)Transformer等強(qiáng)大神經(jīng)算子。當(dāng)前,全腦空間轉(zhuǎn)錄組(用于識(shí)別不同的神經(jīng)元亞型)和介觀連接組(用于定義特定細(xì)胞類(lèi)型的連接)的研究,為進(jìn)一步設(shè)計(jì)更有效的大語(yǔ)言模型網(wǎng)絡(luò)架構(gòu)提供了更多的生物依據(jù)。
突觸連接往往通過(guò)短時(shí)和長(zhǎng)時(shí)的突觸可塑性機(jī)制進(jìn)行神經(jīng)活動(dòng)的局部調(diào)節(jié)。全局神經(jīng)調(diào)質(zhì)可以在許多突觸上發(fā)揮作用,以改變局部突觸可塑性的能力和特性。類(lèi)腦學(xué)習(xí)算法利用大腦發(fā)現(xiàn)的多尺度、多形式的突觸可塑性,如時(shí)序依賴(lài)突觸可塑性、自組織可塑性傳播、神經(jīng)調(diào)制元可塑性等,來(lái)決定網(wǎng)絡(luò)突觸權(quán)重的動(dòng)態(tài)變化。類(lèi)腦學(xué)習(xí)算法也可以通過(guò)梯度下降方法與可塑性學(xué)習(xí)規(guī)則相結(jié)合,使得在沿用反向傳播核心原理同時(shí),解決很多高效計(jì)算問(wèn)題。開(kāi)發(fā)用于大模型權(quán)重學(xué)習(xí)的新算法需要神經(jīng)科學(xué)和人工智能之間的深度融合。
同步開(kāi)發(fā)新的網(wǎng)絡(luò)架構(gòu)和學(xué)習(xí)算法將發(fā)展出新形式的類(lèi)腦計(jì)算(BIC),即在神經(jīng)形態(tài)芯片上實(shí)現(xiàn)生物啟發(fā)的脈沖神經(jīng)網(wǎng)絡(luò)算法(SNN)。在網(wǎng)絡(luò)和算法層面,SNN使用具有豐富動(dòng)力學(xué)和脈沖模式的生物神經(jīng)元作為基本計(jì)算單元,可以更容易地采用多尺度突觸可塑性進(jìn)行優(yōu)化。在硬件層面,神經(jīng)形態(tài)芯片需要新一代的非馮·諾依曼計(jì)算架構(gòu),通過(guò)借鑒大腦的事件驅(qū)動(dòng)稀疏計(jì)算、高度并行運(yùn)算以及存內(nèi)計(jì)算來(lái)降低硬件功耗成本。類(lèi)腦計(jì)算的一個(gè)充滿(mǎn)吸引力的特質(zhì)是,在執(zhí)行推理時(shí),只有一小部分脈沖神經(jīng)元被激活以參與稀疏加法運(yùn)算。這種稀疏計(jì)算非常適合降低大型人工智能模型的訓(xùn)練和推理成本。
社論認(rèn)為, 除了開(kāi)發(fā)綠色和可持續(xù)的低功耗人工智能這個(gè)緊迫問(wèn)題,人們也越來(lái)越擔(dān)心未來(lái)通用人工智能的發(fā)展可能會(huì)以有害的方式對(duì)人類(lèi)社會(huì)產(chǎn)生重大影響。考慮到存在著政治、社會(huì)和文化差異,實(shí)現(xiàn)有效的人工智能全球治理不是一個(gè)容易實(shí)現(xiàn)的目標(biāo),但卻是人類(lèi)生存必需邁出的一步。
-
神經(jīng)網(wǎng)絡(luò)
+關(guān)注
關(guān)注
42文章
4821瀏覽量
106454 -
人工智能
+關(guān)注
關(guān)注
1813文章
49594瀏覽量
260039 -
語(yǔ)言模型
+關(guān)注
關(guān)注
0文章
568瀏覽量
11236
原文標(biāo)題:國(guó)家科學(xué)評(píng)論 (NSR) 刊發(fā)社論:大語(yǔ)言模型和類(lèi)腦通用智能
文章出處:【微信號(hào):robotmagazine,微信公眾號(hào):機(jī)器人技術(shù)與應(yīng)用】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
時(shí)識(shí)科技亮相長(zhǎng)三角類(lèi)腦智能專(zhuān)題論壇
國(guó)際類(lèi)腦計(jì)算科學(xué)家Yulia Sandamirskaya教授加盟時(shí)識(shí)科技
【「AI芯片:科技探索與AGI愿景」閱讀體驗(yàn)】+神經(jīng)形態(tài)計(jì)算、類(lèi)腦芯片
腦啟社區(qū)第二屆類(lèi)腦智能創(chuàng)新大賽正式啟動(dòng)
杭州靈汐類(lèi)腦智算集群實(shí)現(xiàn)大模型快速推理
合肥綜合性國(guó)家科學(xué)中心能源研究院與宏微科技達(dá)成合作
Matter 智能家居的通用語(yǔ)言
時(shí)識(shí)科技首批入選類(lèi)腦智能產(chǎn)業(yè)創(chuàng)新發(fā)展聯(lián)盟
靈汐科技開(kāi)源類(lèi)腦深度學(xué)習(xí)應(yīng)用開(kāi)發(fā)平臺(tái)BIDL
小白學(xué)大模型:訓(xùn)練大語(yǔ)言模型的深度指南
SynSense時(shí)識(shí)科技亮相CES,展現(xiàn)類(lèi)腦智能“芯”實(shí)力
語(yǔ)言模型管理的作用
大語(yǔ)言模型開(kāi)發(fā)語(yǔ)言是什么
玻色量子亮相2024年《國(guó)家科學(xué)評(píng)論》物理與信息科學(xué)前沿論壇
歐洲科學(xué)院院士蔣田仔:智能化技術(shù)推動(dòng)腦控和控腦技術(shù)發(fā)展

國(guó)家科學(xué)評(píng)論 (NSR) 刊發(fā)社論:大語(yǔ)言模型和類(lèi)腦通用智能
評(píng)論