科技細(xì)分領(lǐng)域TOP10影響力內(nèi)容第一季度入選作品
來源 | DeepTech深科技
作者 | 黃珊
人類大腦由 860 億個(gè)互相連接的神經(jīng)元組成??茖W(xué)家們希望在芯片中也能盡可能多的復(fù)制這種連接。
今天,英特爾宣布推出其最新神經(jīng)擬態(tài)系統(tǒng) Pohoiki Springs,首次將計(jì)算能力擴(kuò)展到了 1 億個(gè),將 Loihi 的神經(jīng)容量增加到一個(gè)小型哺乳動(dòng)物大腦的大小。
Pohoiki Springs 是一個(gè)數(shù)據(jù)中心機(jī)架式系統(tǒng),是英特爾迄今為止開發(fā)的最大規(guī)模的神經(jīng)擬態(tài)計(jì)算系統(tǒng)。它將 768 塊 Loihi 神經(jīng)擬態(tài)研究芯片集成在 5 臺(tái)標(biāo)準(zhǔn)服務(wù)器大小的機(jī)箱中。
英特爾的研究人員認(rèn)為,與當(dāng)今最先進(jìn)的傳統(tǒng)計(jì)算機(jī)相比,神經(jīng)擬態(tài)系統(tǒng)擁有超級(jí)并行性和異步信號(hào)傳輸能力,可以在明顯降低功耗的同時(shí)顯著提升性能。
圖丨 Pohoiki Springs(來源:英特爾)
英特爾神經(jīng)擬態(tài)計(jì)算實(shí)驗(yàn)室主任 Mike Davies 介紹稱:“Pohoiki Springs 將我們的 Loihi 神經(jīng)擬態(tài)研究芯片擴(kuò)展了 750 倍以上,同時(shí)以低于 500 瓦的功率運(yùn)行。當(dāng)前,一些工作負(fù)載在傳統(tǒng)架構(gòu)(包括高性能計(jì)算 [HPC] 系統(tǒng))上運(yùn)行緩慢。而 Pohoiki Springs 系統(tǒng)則讓我們的研究合作伙伴能夠探索加速處理這些工作負(fù)載的方法?!?英特爾將向其于 2018 年成立的_英特爾神經(jīng)擬態(tài)研究社區(qū)_(INRC)成員提供這一基于云的系統(tǒng),以擴(kuò)展其神經(jīng)擬態(tài)工作來解決更大規(guī)模且更復(fù)雜的問題。
在今天早上接受包括 DeepTech 在內(nèi)的媒體采訪時(shí),Mike Davies 表示,Pohoiki Springs 能夠最直接發(fā)揮它的價(jià)值的方向,將包括一些非常難的運(yùn)算問題,比如 NP Complete 和 NP Hard 之類的問題。
“這些問題類似于我們大腦平時(shí)思考和解決的問題,像是如何計(jì)劃未來的任務(wù)和決定,如何計(jì)劃肢體活動(dòng)軌跡等等。它們都可以被視為定義的非常好的運(yùn)算問題。
我們認(rèn)為,對(duì)于新架構(gòu)和 Pohoiki Springs 來說,存在一類支持大規(guī)模、高效率的運(yùn)算任務(wù)。在執(zhí)行這些任務(wù)的時(shí)候,我們的新架構(gòu)并不一定會(huì)在吞吐量上超過傳統(tǒng)解決方案,因?yàn)閭鹘y(tǒng)方案在平行運(yùn)算上有自然優(yōu)勢(shì),不過我們期待新架構(gòu)的優(yōu)點(diǎn)是降低延遲( Latency),還有能耗優(yōu)勢(shì)。我們認(rèn)為,針對(duì)同一個(gè)解決方案來說,神經(jīng)擬態(tài)架構(gòu)比傳統(tǒng)架構(gòu)的能耗少數(shù)千倍。節(jié)省的能耗可以反映在降低運(yùn)營開銷上,因此具備能耗優(yōu)勢(shì)也非常重要”,他說。
圖丨 Mike Davies(來源:英特爾)
復(fù)盤英特爾神經(jīng)擬態(tài)硬件之路
神經(jīng)擬態(tài)計(jì)算(Neuromorphic Computing)是一個(gè)由硬件開發(fā)、軟件支持、生物模型相互交融而成的古老領(lǐng)域,旨在基于仿生的原理讓機(jī)器擁有類人的智能。
低功耗、高容錯(cuò)、創(chuàng)造性…… 人腦有太多值得機(jī)器追趕的能力,因此也是很多計(jì)算科學(xué)家為之向往的存在。在人腦這個(gè)僅占 3% 人體質(zhì)量的器官中,1000 億個(gè)神經(jīng)元攜 1000 萬億個(gè)突觸相連接。每一秒都有神經(jīng)元衰老死亡 “退役” 的情況下,它仍能運(yùn)轉(zhuǎn)計(jì)算著世界撲面而來的巨大信息量。而功耗只有 20 瓦。
1980 年,人類首次打開神經(jīng)擬態(tài)計(jì)算。超大規(guī)模集成電路 (VLSI) 發(fā)明者之一、加州理工學(xué)院傳奇人物 Carver Mead 在 Proceeding of IEEE 發(fā)表文章 Neuromorphic Electronics Systems,第一次提出神經(jīng)擬態(tài)概念,并設(shè)想用 CMOS 模擬電路去模仿生物視網(wǎng)膜 outer plexiform layer,搭建具有生物計(jì)算特性的系統(tǒng)。
最初的神經(jīng)擬態(tài)芯片,基本是為了人腦反向工程而存在,即為生物解剖、算法及模型團(tuán)隊(duì)提供硬件驗(yàn)證平臺(tái)。
但是隨著神經(jīng)擬態(tài)計(jì)算的發(fā)展,這種和傳統(tǒng)計(jì)算架構(gòu)完全不同地將計(jì)算和存儲(chǔ)高度整合的技術(shù),展現(xiàn)了更大的潛力。不僅僅是學(xué)術(shù)機(jī)構(gòu),包括 IBM、英特爾等大型科技公司也加入到了這個(gè)領(lǐng)域中。
圖丨強(qiáng)調(diào)存算一體的神經(jīng)擬態(tài)芯片架構(gòu)(來源:英特爾)
2017 年,作為英特爾研究院的一個(gè)研究課題,英特爾開發(fā)了代號(hào)為 Loihi 的第一款自主學(xué)習(xí)神經(jīng)擬態(tài)芯片,在神經(jīng)擬態(tài)硬件的開發(fā)上邁出一步。
英特爾的 Loihi 神經(jīng)擬態(tài)芯片把訓(xùn)練和推理整合到一個(gè)芯片上,并實(shí)現(xiàn)了計(jì)算和存儲(chǔ)功能的整合:?jiǎn)涡酒械?128 個(gè)小核各包含 1000 個(gè)神經(jīng)元硬件設(shè)計(jì)架構(gòu),模擬多個(gè)“邏輯神經(jīng)元”,支持多種學(xué)習(xí)模式的可擴(kuò)展的片上學(xué)習(xí)能力,實(shí)現(xiàn)多種不同的神經(jīng)網(wǎng)絡(luò)突破。Loihi 的名字其實(shí)取自于夏威夷海底的一座不斷噴發(fā)的活火山,每一次噴發(fā)都會(huì)擴(kuò)大夏威夷島的范圍,英特爾將芯片取名 Loihi,就是希望其能夠通過不斷的自我學(xué)習(xí),可以提供更加強(qiáng)大的人工智能的能力。
因?yàn)槟M了大腦根據(jù)環(huán)境的各種反饋來學(xué)習(xí)如何操作的運(yùn)作方式,Loihi 在能耗上非常節(jié)能,采用一種新穎的 “異步脈沖” 的方式來計(jì)算,利用了可根據(jù)時(shí)間調(diào)節(jié)的脈沖和可塑觸突。資料顯示,與訓(xùn)練人工智能系統(tǒng)的通用計(jì)算芯片相比,Loihi 芯片的能效提升了 1000 倍。
圖丨 Loihi 的其他兩款計(jì)算系統(tǒng)
圍繞新生的計(jì)算產(chǎn)品,生態(tài)的建設(shè)同樣是一個(gè)重要事項(xiàng)。于是,在 2018 年,英特爾神經(jīng)擬態(tài)研究社區(qū)(INRC)的建立,希望進(jìn)一步推動(dòng)神經(jīng)擬態(tài)算法、軟件和應(yīng)用程序的開發(fā)。
到了 2019 年,英特爾推出 Pohoiki Beach,包含 64 塊 Loihi 研究芯片,擁有 800 萬神經(jīng)元,能夠提供更大的計(jì)算規(guī)模和更強(qiáng)的計(jì)算能力。目前 Pohoiki Beach 已經(jīng)可以供廣大研究人員使用。通過 Pohoiki Beach,研究人員可以利用英特爾的 Loihi 研究芯片開展實(shí)驗(yàn)。在稀疏編碼、圖搜索、同步定位和建圖(SLAM)、路徑規(guī)劃、約束滿足問題等專業(yè)應(yīng)用領(lǐng)域,Loihi 能讓用戶以千倍于 CPU 的速度和萬倍于 CPU 的效率處理信息。
Pohoiki Beach 是英特爾神經(jīng)擬態(tài)研究工作的重要里程碑,它為英特爾研究院將該架構(gòu)擴(kuò)展到 1 億個(gè)神經(jīng)元的計(jì)劃奠定了基礎(chǔ)。
直至今天,這個(gè)計(jì)劃終于實(shí)現(xiàn),英特爾正式推出 “Pohoiki Springs” 的 Loihi 系統(tǒng)。
圖丨就在幾天前,基于 Loihi 的機(jī)器嗅覺系統(tǒng)還登上了 Nature Machine Intelligence(來源:英特爾)
英特爾和 INRC 研究人員一直在對(duì)外展示 Loihi 的各種能力,包括實(shí)時(shí)識(shí)別手勢(shì)、使用新型人造皮膚閱讀盲文、使用習(xí)得的視覺地標(biāo)確定方向,以及學(xué)習(xí)新的氣味模式。所有這些功能都只需要消耗數(shù)十毫瓦的電能。到目前為止,這些小規(guī)模示例顯示出極好的可擴(kuò)展性,英特爾相信,當(dāng)運(yùn)行更大規(guī)模的問題時(shí),Loihi 比傳統(tǒng)解決方案更加快速高效。這模仿了自然界中從昆蟲大腦到人類大腦的可擴(kuò)展性。
英特爾介紹,目前正為 Loihi 開發(fā)的頗具前景且高度可擴(kuò)展算法示例包括:
約束滿足:約束滿足問題在現(xiàn)實(shí)世界中無處不在,從數(shù)獨(dú)游戲到航班調(diào)度,再到快遞配送規(guī)劃。這需要對(duì)大量潛在的解決方案進(jìn)行評(píng)估,以找出一個(gè)或幾個(gè)能夠滿足特定約束的解決方案。Loihi 可以通過高速并行探索多個(gè)不同的解決方案來加速解決此類問題。 搜索圖和模式:每天,人們都會(huì)在基于圖的數(shù)據(jù)結(jié)構(gòu)中進(jìn)行搜索,以找到最佳路徑和緊密匹配的模式,例如獲取駕駛方向或識(shí)別人臉。Loihi 已展示出快速識(shí)別圖中的最短路徑和執(zhí)行近似圖像搜索的能力。 優(yōu)化問題:可對(duì)神經(jīng)擬態(tài)架構(gòu)進(jìn)行編程,使其動(dòng)態(tài)行為能夠隨時(shí)間的推移對(duì)特定目標(biāo)進(jìn)行數(shù)學(xué)優(yōu)化。此行為可應(yīng)用于解決現(xiàn)實(shí)場(chǎng)景下的優(yōu)化問題,例如最大化無線通信信道的帶寬,或分配股票投資組合,以在目標(biāo)收益率下最小化風(fēng)險(xiǎn)。由此也不難看出,與此前的產(chǎn)品類似,Pohoiki Springs 仍將是一款強(qiáng)調(diào)科研目的的產(chǎn)品。
(來源:英特爾)
半導(dǎo)體老將的新計(jì)算版圖正在成型
據(jù)了解,英特爾的 Pohoiki Springs 等神經(jīng)擬態(tài)系統(tǒng)仍處于研究階段,其設(shè)計(jì)目的并非取代傳統(tǒng)的計(jì)算系統(tǒng),而是為研究人員提供一個(gè)工具來開發(fā)和表征新的神經(jīng)啟發(fā)算法,用于實(shí)時(shí)處理、問題解決、適應(yīng)和學(xué)習(xí)。
那么,作為一家商業(yè)公司,英特爾押注神經(jīng)擬態(tài)計(jì)算的最大驅(qū)動(dòng)力是什么?
在英特爾的官網(wǎng),神經(jīng)擬態(tài)計(jì)算被描述成“Next Generation of AI ”。
對(duì)于英特爾來說,隨著 AI 時(shí)代的到來,這家半導(dǎo)體老兵也在朝著 “以數(shù)據(jù)為中心” 轉(zhuǎn)型,數(shù)據(jù)的變化一直是其關(guān)注的重點(diǎn)。過去 20 年來,數(shù)據(jù)經(jīng)歷了非常大的變化,具體到用以進(jìn)行計(jì)算的數(shù)據(jù),人類還將對(duì)其進(jìn)行更大規(guī)模的智能處理。在這個(gè)過程中,數(shù)據(jù)和計(jì)算之間的技術(shù)演進(jìn)邏輯也在變化。
正如英特爾中國研究院院長(zhǎng)宋繼強(qiáng)曾在一場(chǎng)媒體活動(dòng)中介紹的,此前,人類主要以對(duì)聲音數(shù)據(jù)、視頻數(shù)據(jù)、圖片數(shù)據(jù)等數(shù)據(jù)進(jìn)行多媒體計(jì)算為主,即只是進(jìn)行編輯壓縮,不會(huì)做識(shí)別和理解。但是后來,人類開始對(duì)這些數(shù)據(jù)進(jìn)行智能的處理;與此同時(shí),數(shù)據(jù)產(chǎn)生的來源和流向也發(fā)生了變化,大量的數(shù)據(jù)開始由終端往云上走;在新的智能時(shí)代,為了更好地處理數(shù)據(jù),很多人工智能算法隨之誕生,這些算法模型中有參數(shù),于是便誕生了數(shù)據(jù)之上的數(shù)據(jù),即源數(shù)據(jù),其中的量可能是百萬級(jí)別的。
無論是數(shù)據(jù)的處理,還是提高計(jì)算效率、改善傳輸存儲(chǔ),都出現(xiàn)了新的要求和新的優(yōu)化,英特爾希望能在愈發(fā)多元化的數(shù)據(jù)市場(chǎng)、計(jì)算市場(chǎng)延續(xù)優(yōu)勢(shì),需要配備更豐富的 AI 計(jì)算硬件組合。
目前,這家公司已經(jīng)推出了包括 VPU、FPGA、CPU、GPU、NNP 到 AI 專屬芯片的多種產(chǎn)品,以及配套的軟件開發(fā)技術(shù),封裝、測(cè)試技術(shù)等,但仍需要更前沿的布局來補(bǔ)充,即所謂對(duì)的“面向未來的計(jì)算”,勾畫新的計(jì)算版圖。
圖丨英特爾 Loihi 神經(jīng) ni 系統(tǒng)進(jìn)化路線圖(來源:英特爾)
據(jù)了解,在計(jì)算硬件的規(guī)劃上,英特爾一方面正在已有的硬件架構(gòu)方式上繼續(xù)突破,另一個(gè)重要的方向在于——押注突破式計(jì)算技術(shù)。其中就包括神經(jīng)擬態(tài)計(jì)算和量子計(jì)算。
除了圍繞 Loihi 的神經(jīng)擬態(tài)計(jì)算以外,英特爾的量子計(jì)算布局則包括兩大內(nèi)容,一則是通過低溫超導(dǎo)量子位的方式實(shí)現(xiàn)量子計(jì)算,這一點(diǎn)與行業(yè)的主流方向一致,英特爾的進(jìn)展是正在開發(fā) 49 個(gè)超導(dǎo)量子位測(cè)試芯片,并測(cè)試它的容錯(cuò)能力、糾錯(cuò)能力和連接性。
另一個(gè)內(nèi)容則是基于英特爾在傳統(tǒng)半導(dǎo)體領(lǐng)域發(fā)展的硅的加工工藝和測(cè)試工藝,利用硅電子自旋表示出量子態(tài)。據(jù)了解,在這個(gè)方向上,英特爾的 300 毫米、12 寸晶圓的生產(chǎn)線上已經(jīng)具備相應(yīng)的生產(chǎn)能力,有兩個(gè)量子位的芯片已在測(cè)試,且公司正在為規(guī)?;a(chǎn)加大投入。
圖丨英特爾量子計(jì)算進(jìn)化路線圖(來源:DeepTech)
不過,在神經(jīng)擬態(tài)計(jì)算的規(guī)劃上,諸如 IBM 和英特爾這樣的大公司,卻并不急于推出真正的商業(yè)化產(chǎn)品。盡管在國內(nèi)外,已經(jīng)有幾家初創(chuàng)公司正在開啟神經(jīng)擬態(tài)計(jì)算的商業(yè)化進(jìn)程。例如從去年登上 Nature 的清華 “天機(jī)” 芯片團(tuán)隊(duì)中走出的靈汐科技,以及從來自歐洲、背靠著名研究機(jī)構(gòu)蘇黎世大學(xué)及蘇黎世聯(lián)邦理工神經(jīng)信息研究所的 ai-CTX。
對(duì)此,Mike Davies 回答 DeepTech 提問時(shí)表示:“對(duì)于英特爾來說,商業(yè)化的挑戰(zhàn)是我們?nèi)孕璋l(fā)現(xiàn)大量的該系統(tǒng)可以有效解決的問題。我們對(duì)高度專業(yè)化的點(diǎn)解決方案的商業(yè)化并不感興趣, 即使看起來有些問題我們可以很好地解決,比如人造嗅覺,炸彈或有毒化學(xué)物質(zhì) / 氣味檢測(cè)等等。但這些都需要高度專業(yè)化的定制方案,芯片也需要針對(duì)某項(xiàng)任務(wù)特殊定制。
我們最感興趣的,還是找到一個(gè)可以廣泛使用的新架構(gòu),類似于傳統(tǒng)的馮 · 諾依曼架構(gòu),但可以更高效地解決各種各樣的計(jì)算算法和應(yīng)用。當(dāng)然,在某些情況下馮 · 諾依曼架構(gòu)還是會(huì)比我們快,但我們希望支持更多的運(yùn)算種類。也許會(huì)有其他小公司也在做類似的研發(fā),專門針對(duì)某個(gè)或某一類任務(wù)定制獨(dú)特的解決方案,這或許會(huì)讓他們更早拿出產(chǎn)品。但對(duì)于我們自己來說,距離產(chǎn)品面世還需要數(shù)年的時(shí)間。”
正如其所言,盡管是一個(gè)古老的科學(xué)概念,但神經(jīng)擬態(tài)計(jì)算還是新興的技術(shù)領(lǐng)域,也是直到近幾年才有了更多實(shí)際價(jià)值的展示。
而且,該領(lǐng)域仍然由神經(jīng)科學(xué)家、機(jī)器學(xué)習(xí)研究者所主導(dǎo),并未被大量的軟件開發(fā)人員和工程師所熟知。這些計(jì)算系統(tǒng)投入到實(shí)際的運(yùn)營中,還將要求開發(fā)人員們改變他們的思維方式,畢竟,傳統(tǒng)的存算分離馮 · 諾依曼架構(gòu)已經(jīng)支配了計(jì)算的運(yùn)行長(zhǎng)達(dá)近 70 多年之久。
責(zé)任編輯: