施路平:類腦計算——人腦與電腦
● ● ●
施路平教授的演講題目是《類腦計算——人腦與電腦》。他為我們介紹了發(fā)展類腦計算的必要性及其挑戰(zhàn),并分享了關于世界首款異構融合類腦芯片“天機芯”的研究成果。他認為,人腦和電腦這兩個系統(tǒng)可以互補,類腦計算能夠支撐人工通用智能以下為演講全文:
各位朋友大家好!非常感謝大會能夠給我這一次機會和大家分享類腦計算。類腦計算是借鑒腦科學的基本原理、面向人工通用智能、基于神經形態(tài)工程發(fā)展的新的計算技術。
為什么我們要發(fā)展這樣一個技術?
大家知道現(xiàn)在我們生活在一個數碼宇宙,萬事萬物隨時隨地聯(lián)系起來,構成一個萬物互聯(lián)的數碼宇宙。這個宇宙成長非??欤畔⒚績赡攴环?,整個宇宙迅速地膨脹,而且從來不退步。這樣一個宇宙是基于我們現(xiàn)在的計算機架構,而計算機架構又基于馮諾依曼架構。
馮諾依曼架構是我個人認為人類發(fā)展史上最簡潔、漂亮、對我們影響最大的一個架構。它的特點是計算和存儲分離,計算和存儲都通過總線來回調度。大家可以設想一下,來回調度耗費了很多能量,耽誤時間速度慢,造成了堵塞,所以有了帶寬的瓶頸。因此,計算機領域最高的圖靈獎2017年的兩個得主Hennessy和Patterson最近寫了一個長文,結論是未來的10年是計算架構發(fā)展的黃金十年。因為我們過去是用計算機做計算,現(xiàn)在我們是用它處理信息,而我們的數碼宇宙每兩年翻一番,就是能耗也受不了。
當然還有其它原因,就是我們現(xiàn)在生活在一個人工智能時代,人工智能取得了非常大的成績。不過我們發(fā)現(xiàn),盡管可以用AlphaGo戰(zhàn)勝世界冠軍,但是仍然有很多瓶頸。簡單來說我們必須滿足5個條件,那就是充足的數據、確定性的問題、完備的知識、靜態(tài)的環(huán)境和單一的系統(tǒng)。
舉個例子,如果我們讓一個智能機器人從這里出去,如果不事先編程,它是做不到的。因為我們人用了幾年的時間建立起“我”這個概念。在哪里?怎么出去?走門兒,還是走窗戶?所有的這些都與我們的通用智能有關。所以我們的結論是,我們要發(fā)展一個人工通用智能,我們想象的人工通用智能。只是我們沒有充足的數據,現(xiàn)在數據很少甚至很多假數據,很多問題也不能明確。
我們碰到過一個動態(tài)的,而且有很多系統(tǒng)交互在一起,但是我們的系統(tǒng)仍然能夠處理。這就是我們希望的人工通用智能。要發(fā)展人工通用智能,我們必須向腦學習,因為整個宇宙是目前唯一的一個通用智能體。我們把腦和電腦做一個比較,會發(fā)現(xiàn)電腦強的,人不強;電腦不強的,人強。我們看過《最強大腦》,那些我們嘆為觀止的、非常讓我們羨慕的選手的能力,其實對于計算機來講是小兒科。我們發(fā)現(xiàn)人腦和電腦兩個系統(tǒng)雖然原理不同,但是實際上是互補的,所以借鑒腦科學的基本原理改造現(xiàn)在的計算機系統(tǒng)、發(fā)展類腦計算是發(fā)展人工通用智能的一個非常重要的部分,因為前者是后者的計算基石。
發(fā)展人工通用智能不是一個新的想法。如果我們看一下過去圖靈、馮諾依曼這些大科學家早期的文章,會發(fā)現(xiàn)這是我們一直以來的夢想?,F(xiàn)在為什么是發(fā)展人工通用智能最好的時機呢?因為隨著精密儀器的發(fā)展,我們對腦知道的越來越多,我們似乎到了一個理解腦的關口。超級計算機的發(fā)展可以使我們進行很好的模擬仿真,省錢、省力、省時間。大數據、云計算給我們提供了一個像腦一樣復雜的系統(tǒng),和腦交相呼應,我們可以共同研究、互相促進。另外,納米器件已經可以使我們去發(fā)展像人腦能耗水平一樣的神經元和突觸這樣的電子器件。
所以,現(xiàn)在是發(fā)展人工通用智能最好的一個時機。
要發(fā)展類腦計算去支撐人工通用智能,腦起了非常大的作用。它到底起了一個什么作用?13年前,有感于摩爾定律在二三十年后要到頭,所以我開啟了類腦計算的研究。當時我自認為自己做研究還不錯,但忽然感到自己不會做研究了,因為沒有文獻,很多東西需要自己摸索,所以感到非常的苦惱。有一次我去爬山,故意讓自己鉆進森林走丟了,后來我就根據太陽判斷方向,盯著一個方向一直走、一直走,走到高速公路上,截了一輛車。之后,我還找了一個陰天進去,我想了一個辦法,一直往高爬,爬到最高的地方,盯住一個點一直走、一直走,走到高速公路,截了個車我又回去了。這兩件事情讓我思考,腦在這里面起的是指南針的作用,給我們提供的是方向感,因為這是唯一所知的通用智能體。
做研究,我喜歡做難的,因為我覺得越難的越容易。因為太容易的話有很多競爭者,你很難領先;如果很難,做著做著旁邊就沒人了,你反而可以領先。但是,有一個前提條件,就是方向必須是正確的。如果你走到錯路上,大家都跑了,你是很尷尬的。
我們人的智能是建立在碳基上的,在硅基上我們已經建造了現(xiàn)在的數碼宇宙,而碳基、硅基的結構非常相近。所以我們有一個信念,碳基上能夠實現(xiàn)的,硅基上一定能夠實現(xiàn)。發(fā)展類腦計算和人工通用智能,真正的挑戰(zhàn)既不是科學,也不是技術,而是因為我們的學科分布使得我們沒有合適的人做這樣的研究。而且,腦科學和計算機科學,一個探索自然世界,一個更關注應用,它們有不同的文化和語言,目標也不一樣,所以多學科融合尤為關鍵。
清華大學類腦計算研究中心由7個院系組成,因為這個領域不僅僅是計算機和腦科學,還有數學、物理、電子、微電子等。我們7個院系的老師在一起反復討論,每周半天的時間,最后我們7年只做了一件事情,叫“融合、融合再融合”。
在這個過程當中,我們梳理了一下發(fā)展人工通用智能,現(xiàn)在主要是有兩條技術路線。一條是計算機主導的,一條是腦科學主導的。計算機主導的像機器學習在圖像識別、語音理解、自然語言的處理方面取得了輝煌的成績,但是它很難處理不確定性的問題等。腦科學方面,像是神經形態(tài)計算發(fā)展得也很快,但是由于我們不理解腦的機制,極大地阻礙了它的發(fā)展。但是兩條技術路線實際上互補,把兩者結合起來,是目前我們認為最好的一種方法。
發(fā)展類腦科學實際上還有兩條,一個是基于計算機用腦科學的基本原理來改變計算架構,第二個就是仿腦,因為Brian-inspired computing實際上覆蓋了Brain-like,你都已經brain-like了,還能不是inspired嗎?所以,我們用一個“類腦”這樣簡單又明了的詞涵蓋這兩個部分。就我們本身而言,我們是沿著Brian-inspired computing這個路線走的。這一研究,實際上你要研究理論芯片、軟件、系統(tǒng)、云腦到應用。但是大家總是問一個問題:“不理解人腦,憑什么你能造出類腦計算系統(tǒng)來?”
我們思考了很久,后來得到了答案。
我們的答案是這樣的:計算機是把多維空間的信息轉換成為0、1這樣一維的信息流,用計算來解決問題,CPU的主頻越來越快。換句話說,你用的是時間復雜度,你的問題是什么?你的問題是當你縮維的時候,你的(數據的)相關性丟失了,這就是人很容易確定一個物體是在真實空間里還是在鏡子里,計算機則很難,這個是根本原因。
腦我們不知道它的基本原理,但是我們知道,一個神經元接一千到一萬個神經元,換句話說我們在這里把信息擴束了,把相關性增強了,我們用的是空間復雜度。另外我們的腦還用脈沖來編碼,引進了時間的因素,我們還利用了時空復雜度。所以我們是想保持現(xiàn)在的計算機所有的優(yōu)點,保持時間復雜度,增加一塊類腦芯片。增加的是什么呢?增加的是空間復雜度、時空復雜度。
如果我們以這種觀點來看現(xiàn)在的技術,你就發(fā)現(xiàn)現(xiàn)在的人工神經網絡的加速器是面向深度人工神經網絡,它利用的就是空間復雜度。而像腦一樣工作的神經形態(tài)計算,面向的是脈沖神經網絡,它利用的是時空復雜度。一個空間復雜度,一個時空復雜度,何不把它結合起來呢?所以我們想了一個辦法,提出了天機芯片架構。我們用了3%的代價,實現(xiàn)了既支持人工神經網絡又支持像腦一樣工作的脈沖神經網絡,而且還支持兩個的異構建模。
“天機芯”登上 Nature 封面
我們還利用類腦芯片構建了一個人工通用智能的研究平臺。我們的想法是這樣:構建一個可以和系統(tǒng)互動的多模態(tài)交叉研究平臺,我們利用環(huán)境變化逼迫這個系統(tǒng)變化,當它變化的時候,我們會觀察應用這種變化時,系統(tǒng)應該遵循的基本原理,從而幫助我們迭代發(fā)展。利用一塊天機芯片,我們就實現(xiàn)了感知、追蹤、過障、避障、自動控制、語音理解、自主決策。
裝上“天機芯”的自行車可以追蹤、自動避障等
芯片很重要,軟件也很重要。因為如果沒有軟件,應用工程師是不愿意做應用軟件開發(fā)的。在我們實驗室我們自己開發(fā)了一個軟件工具鏈,在我們實驗室現(xiàn)在實際上已經搭起了第一代的類腦計算機。我們現(xiàn)在做的是一個類腦云腦,它和現(xiàn)在的云計算的差別是云計算是把很多技術整合起來,而類腦云腦是面向人工通用智能的。因為人工通用智能的研究,并不是多種人工智能的簡單疊加。我們的想法是把腦的彈性和計算機的剛性結合起來,把數據驅動和知識驅動結合起來,把通用知識和推理結合起來。當然這是一個非常具有挑戰(zhàn)性的長期研究,我們的策略是循序漸進。
大家記住我剛才說的五個條件,我們可以設想一下,我們先專注在一個一個問題的研究上,這個可以稱為是第一代。然后兩個問題一起研究,這個可以稱為第二代,然后第三代、第四代,最后是第五代,從而讓我們構建人工通用智能。我們發(fā)展類腦計算,支撐人工通用智能,因為它是通用智能,所以它可以賦能各行各業(yè),可以有很多的應用。
其中,我們對智能教育特別感興趣,因為我們教育的很多問題都可以通過這樣的研究解決。比如說高質量的教育資源很稀少,所以造成了教育不公,社會從一開始發(fā)展就有不公平的因素。還有因材施教,我們每個人是不一樣的,但由于經費有限、儀器有限,我們很難做到真正的理論聯(lián)系實際。此外,還有終生學習等等。隨著類腦計算、人工通用智能的發(fā)展,這些都會逐漸地解決,然后發(fā)展新的系統(tǒng)。但是還有一個非常重要的因素,因為教育最主要的是塑造人。
自工業(yè)革命以來,我們發(fā)展了蒸汽機、發(fā)電機、計算機、大數據,還有現(xiàn)在的萬物互聯(lián)。我們一直在改變外部的世界,在改變我們的物質生活。但看一下我們現(xiàn)在的世界,貿易紛爭,國家、民族、人之間有很多矛盾,我們忽然發(fā)現(xiàn),當我們的物質生活發(fā)展得已經很快時,精神生活實際上沒有同步發(fā)展。我們現(xiàn)在在智能時代發(fā)展類腦計算,我們有機會向內發(fā)展,審視我們的內心。
我通常只參加學術活動,這次之所以接受騰訊的邀請來做這一個演講,是因為騰訊提出了一個“科技向善”的理念,和我們的理念是相通的。我們衷心地希望人類在發(fā)展我們的技術、探索外界世界的同時,能夠也研究一下我們的內在世界,內外兼修、共同發(fā)展,建設一個美好、和諧的世界。
謝謝大家!
注:本文轉載自公眾號“騰訊科學WE大會”。