英特爾聯合高校研發神經形態技術,可使大型深度學習網絡節能16倍

時間:2022-11-26 17:47:06來源:憂患余生網 作者:熱點

  近日,英特格拉茨技術大學 (TU Graz)的爾聯計算機科學家在 Nature Machine Intelligence 期刊上發表論文表明,他們通過在類腦神經形態芯片上模擬人腦的合高長-短期記憶單元功能,大幅提高運行大型深度學習神經網絡的校研型深習網能源效率,最高達到其他 AI 系統的發神16倍。

?Nature Machine Intelligence?Nature Machine Intelligence

  近年來,經形人工智能 (AI) 得到了突飛猛進的態技發展,廣泛應用于機器視覺、術可使推薦算法、度學自動駕駛、絡節生物醫療、英特自然語言處理、爾聯智能助手等等生活的合高方方面面,這樣的校研型深習網成就離不開其背后的核心,也即人工神經網絡 (ANN) 和深度學習 (DL) 技術的發神突破。人工神經網絡非常擅長處理大量數據,能夠自主識別和推斷對象以及不同對象之間的關系,但其同樣極其驚人的能耗一直是阻礙這一領域發展的主要障礙,不僅設備、能源成本高昂導致高度中心化,還會帶來大量的碳排放,對環境非常不友好。

?Pexels?Pexels

  而在這次突破性研究中,格拉茨技術大學 (TU Graz) 理論計算機科學研究所與英特爾神經形態計算實驗室的科學家們通過實驗展示了,在運行大型深度神經網絡處理自然語言句子等序列時,使用他們的神經形態技術硬件所消耗的能量只有非神經形態硬件的1/4甚至是1/16。這一驚人的突破可能會以無法估量的方式推動人工智能的發展。

英特爾的 Nahuku 線路板,每一個包含8到32張英特爾的 Loihi 神經形態芯片英特爾的 Nahuku 線路板,每一個包含8到32張英特爾的 Loihi 神經形態芯片

  ?Tim Herman/Intel Corporation

  讓機器更像人

  事實上,神經形態的硬件并非是第一次提出。早在2014年,芯片制造頭部企業高通(Qualcomm)就做出了他們自己的神經形態芯片(入選2014年全球十大突破性技術),稱其為 Zeroth 計劃,并將其用于一只名叫 Pioneer 的哈巴狗大小的機器人。通過在芯片上直接模擬由億萬級別的神經元和突觸構成的大腦,這一技術能夠以大規模并行方式處理信息,憑借區區一塊智能手機芯片和攝像頭,Pioneer 就能通過模仿和學習實現通常需要大型深度學習神經網絡、復雜特殊的編程以及大量電力才能完成的動作和任務。這是由于,相比于計算機傳統的基于馮·諾依曼架構的線性計算,神經形態芯片在處理圖像或是聲音方面的能力和效率要高得多,能夠以一種更像人的方式去理解周遭的環境和敘事,并對它們做出響應。

  具體到應用,高通最為關注的是 AI 智能助理方面,有了神經形態芯片的加持,智能助理將能以人類的方式去理解世界并與之互動,并學會預測你接下來的需求,比如不僅提示你照片中某個人物的名字,還可以幫助你回憶你和這個人是如何、在哪里認識的,以及你們之間發生了什么故事等等。

  不過,高通的 Zeroth 本質上只是在芯片上通過模擬的方式搭載神經形態軟件,雖然效果顯著,但與真正的“硬核”神經網絡還有很大的差距。與此同時,歐洲的人類大腦計劃 (Human Brain Project, HBP) 也投入約1億歐元用于神經形態技術研究,TU Graz 與英特爾的這項研究突破就是由該計劃資助的,而這一次,模擬大腦的深度學習軟件終于用上了同樣受大腦啟發的神經網絡硬件。

高通的 Zeroth NPU 以及 Pioneer 機器人高通的 Zeroth NPU 以及 Pioneer 機器人

  ?Tim Herman/Intel Corporation

  向大腦學習

  那么,TU Graz 和英特爾的合作項目為什么能做到如此節能呢?這和他們模擬人腦的做法有關。人類大腦的能效極高,其中的數千億個神經元在處理信息時只消耗大約20瓦的能量,差不多僅僅相當于一個普通的節能燈泡的能耗。

大腦,絕不虛標!  ?John3/TopPNG大腦,絕不虛標!  ?John3/TopPNG

  研究人員發現,這種驚人的低能耗與人腦的一種短期記憶機制相關,“實驗表明在沒有神經活動的情況下,人腦仍然能夠在短時間內存儲信息,存儲位置在神經元所謂的“內變量”上,”TU Graz 教授、論文通訊作者沃夫岡·瑪斯 (Wolfgang Maass) 解釋道,“模擬實驗表明一種神經元子集的疲勞機制是實現這種短期記憶的關鍵所在?!?/p>沃夫岡·瑪斯 (Wolfgang Maass) 教授  ?Lunghammer-TU Graz

  目前這項研究缺乏直接證據,因為這些“內變量”暫時無法被測量,不過這已經意味著大腦神經網絡只需要通過檢測哪些神經元處于疲勞狀態就可以重建它們之前處理的信息。換句話說,先前的信息(也即短期記憶)被存儲在神經元的不活動狀態中,而神經元不活動就意味著消耗的能量最少。

英特爾的 Nahuku 線路板  ?Tim Herman/Intel Corporation英特爾的 Nahuku 線路板  ?Tim Herman/Intel Corporation

  于是,研究人員試圖復刻這種大腦機制以取代當前傳統計算機芯片上高耗能的逐個檢索、來回訪問存儲的方式,采用英特爾的神經形態 Loihi 芯片組成矩陣,開發出一種超極化后電位 (AHP) 電流機制,并使用了兩種深度學習網絡進行測試。其中,反饋神經網絡負責“短期記憶”,使用大量循環模塊去尋找輸入信號中可能相關的信息;而前饋神經網絡則負責判斷找到的這些關系當中哪一些是真正與當前任務有關的,并將無意義的關系篩掉。只有處理相關關系的“神經元”模塊會被觸發,其他的則一概處于靜止狀態,從而實現能耗的大大降低。

菲利普·普蘭克 (Philipp Plank)  ?diemosbachers.at

  在測試中,研究人員在32張 Loihi 芯片的網絡上運行他們的算法,并將一個由20個句子組成的故事給到了該神經網絡,測試它對故事含義以及其中人、事、物關系的理解。結果表明,這一裝置的能效大幅超過了傳統計算機,“我們這個系統的能源效率達到了在傳統硬件上運行其他 AI 模型的4到16倍”,TU Graz 瑪斯教授的博士生、論文作者之一菲利普·普蘭克 (Philipp Plank) 提到。同時,未來用上英特爾下一代的 Loihi 芯片之后,芯片間通訊的效率將得到大幅提升,所以他還預計,該系統的能效將進一步提高。

麥克·戴維斯 (Mike Davies)

  ?Tim Herman/Intel Corporation

  “英特爾與 TU Graz 的合作進一步證明了神經形態技術能夠通過從生物學的角度重新思考并顛覆深度學習技術,大幅提高其目前的能源效率?!?/p>

  ——英特爾神經形態計算實驗室的負責人麥克·戴維斯 (Mike Davies)

  多學科交叉發展

  事實上,信息技術、人工智能與生命科學、腦神經科學等的融合催生出突破性進展本身并不是什么新鮮事了,這一點從歷年的《麻省理工科技評論》“全球十大突破性技術”評選就能看出,而這在大腦這一人體最復雜、精密的器官身上體現得尤為突出。

  2006年入選“全球十大突破性技術”的“彌散張量成像”(DTI) 技術通過追蹤大腦中水分子擴散的方向來繪制其中軸突的分布和走向,讓我們得以一窺大腦中神經元之間傳輸電信號的腦白質的真容,這一大腦成像技術的重大進展加深了我們對大腦運作方式的認知。

“DTI 讓我們能夠以前所未有的方式檢視大腦?!? data-link=“DTI 讓我們能夠以前所未有的方式檢視大腦?!?p>  ——明尼蘇達大學醫學院神經系統科學家和精神病學家開爾文·林 (Kelvin Lim),該技術的研究者之一

  2008年入選“全球十大突破性技術”的“神經連接組學”則另辟蹊徑,通過熒光蛋白等技術給大腦的神經網絡進行染色,從而嘗試為神經系統中收集、處理和存儲信息的錯綜復雜的神經回路創建物理映射,方便直接觀察。這一技術大大提高了科學家觀察大腦的“圖像分辨率”,使得他們可以在“大腦線路圖”中一目了然地觀測信息是如何在大腦的不同區域、不同神經元以及不同突觸之間傳輸的,進而研究各種發生機制,以及精神類疾病、神經系統疾病究竟是哪些線路出錯導致的缺陷。

  “大腦本質上是一臺計算機,其發育過程實質上就是自行布線的過程,它還支持重新布線(以適應變化)。如果現在有一張大腦的線路圖,我們就能更好地了解它是如何工作的?!?/p>

  ——麻省理工學院計算神經科學家塞巴斯蒂安·宋 (Sebastian Seung),該技術的研究者之一

  我們對大腦結構認知的不斷進步帶來的是人工智能領域的突破性進展,其核心、也是前面提到過的深度學習技術(入選2013年“全球十大突破性技術”)就是一個典型的例子。它仿照大腦的神經網絡去構建人工的深層神經網絡架構,將大量數據篩過一層一層的“神經元”,賦予機器以“學習”的能力。

  無獨有偶,2014年與“神經形態芯片”一同入選“全球十大突破性技術”的“大腦圖譜”則是受益于偏振光成像技術的發展而產生的腦神經科學突破。同樣是在歐洲的人類大腦計劃 (HBP) 的資助下,一個由德國和加拿大科學家領導的研究小組花了十年的時間制作了一個大腦的三維圖集,構建了一個支持在其中自由游走、放大、縮小以查看細節的高精度“數字大腦”,可以讓科學家非常清晰地看到完整腦組織內細胞和神經纖維的排列以及神經元、神經回路的空間結構,其分辨率達到了此前這類圖集的50倍。

  這一類的重大突破使得我們對大腦機制的認知達到空前的高度,也帶來了人工智能領域的飛躍式發展。2017年,??“強化學習”入選“全球十大突破性技術”,其本質就是模仿自然界大腦學習事物和技能的基本方法,也即試錯機制。從腦科學的角度來說,人類學習的實質就是不斷重復處理某個信息的過程,并在過程中“強化”其涉及到的神經元與突觸乃至神經網絡的連接,而強化學習顧名思義就是借鑒了這一機制并在軟件上加以實現的。它的出現和成熟使得機器可以在沒有明確指導的情況下像人一樣自主學習,甚至可以學習并掌握此前從未訓練過的技能,對自動駕駛等無數領域有著極其深遠的意義。

  自此,這一領域呈現出爆發式增長。2018年,??“對抗性神經網絡”(即生成式對抗網絡,GAN)入選“全球十大突破性技術”,賦予機器以“創造力”和“想象力”,能夠創造出從未出現過的事物,而且其假足以亂真。一些專家相信,GAN的出現意味著機器在某種程度上已經開始理解它們所見到、所聽到的世界的底層架構,它生成網絡和判別網絡的機制也反過來啟發了許多腦科學家,從人工智能的發展反向猜測、推導人的創造力乃至意識的產生和作用機制。

  One More Thing

  最近,比利時納米數字研究機構 Imec 開發了 Neuropixels 探測器,是一種新的探針,可以在神經元的水平上觀察活體大腦。

Neuropixels(神經像素)探針  ?ImecNeuropixels(神經像素)探針  ?Imec

  這根探針是一根數字探針,用到了一種叫做神經像素(Neuropixels,也即新探測器的名字)的全新技術來觀察大腦,其功能類似于成像,不過,它記錄的是電場,而不是光場。它背后的研究團隊有著多學科交叉背景,包括工程師、神經科學家、軟件設計師等等,目前取得的成果也是充分利用了屬于其他領域的微電子學的發展,發明了一種新的傳感器,能夠同時監聽任何一小部分腦組織中成千上萬個神經元之間的電流對話。與此同時, Imec 還創建了 OpenScope 共享大腦天文臺,向世界各地的大腦研究者提供開源數據。

觀測大腦的電場  ?Imec觀測大腦的電場  ?Imec

  這一突破毫無疑問會進一步加深我們對大腦活動的理解,它又會給其他學科領域帶來什么樣的驚喜呢?讓我們拭目以待。

大腦成像  ?EBRAINS大腦成像  ?EBRAINS

  資助這次神經形態芯片研究的人類大腦計劃 (HBP) 也是一個多學科交叉的國際研究組織,成員包括來自神經科學、醫學以及其他受腦科學啟發的科技領域的500多位科學家與工程師等等。他們最近正在建設一個永久性的研究機構 EBRAINS(直譯為電子大腦),將進一步以大腦為核心推動各個學科的融合發展。

?EBRAINS?EBRAINS

  他山之石,可以攻玉?!皟啥宦劥巴馐?,一心只讀圣賢書”的時代已經過去,多學科交叉、跨學科融合發展已經是大勢所趨,且正愈演愈烈。為此,我們梳理了由《麻省理工科技評論》發布的200項“全球十大突破性技術”,涵蓋過去二十年科技領域幾乎所有學科最前沿、最精華的內容,還邀請了全球相關領域專家、投資人進行深度解讀和權威點評,一并整理進了《科技之巔(20周年紀念版)》,可能是一書了解各個學科領域、通曉科技發展的最佳途徑。目前新書即將推出,不論你是興趣廣泛、雨露均沾,還是專精一門、十年一劍,相信它都會給你帶來靈感的迸發!歡迎持續關注,我們一起見證20年來科技發展的滄海桑田,一瞥世界未來的樣子。

  1.https://www.technologyreview.com/supertopic/tr10-archive/

  2.https://www.nature.com/articles/s42256-022-00480-w

  3.https://mp.weixin.qq.com/s/3pxgchbGR4QSmCcF2qwaKg

  4.https://mp.weixin.qq.com/s/yEvcF9nT2lOrOcNszJf-0A

  5.https://mp.weixin.qq.com/s/3vDtcoT6QOLgUAyjWCAJcw

  6.https://www.tugraz.at/en/tu-graz/services/news-stories/tu-graz-news/singleview/article/tu-graz-und-intel-demonstrieren-signifikante-energieeinsparungen-durch-neuromorphe-hardware0/

  7.https://brainchip.com/products/

  8.https://baijiahao.baidu.com/s?id=1703195366038752859&wfr=spider&for=pc

  9.https://www.lelewen.cn/wenda/623949via5648c1f.html

  10.https://baijiahao.baidu.com/s?id=1713041775802377099&wfr=spider&for=pc

  11.https://m.thepaper.cn/baijiahao_18204680

相關內容
推薦內容
国产一级片免费看,无码在线视频观看,不卡av在线免费观看,免费福利未满十八勿进,66J8在线视频免费看