摘要:作為生命科學的神經科學,依然以和蛋白質為基礎,橫跨分子,細胞,組織,動物行為等各個尺度,描繪神經系統的形態和行為。你埋頭在蛋白質的研究中,不代表你對神經網絡有任何有效的理解。平衡狀態的神經網絡具有較大的對外界信號較大的響應能力。
承接上文,計算神經科學是一門超級跨學科的新興學科,幾乎綜合信息科學,物理學, 數學,生物學,認知心理學等眾多領域的成果。大腦像一臺超級計算機,同時它又迥異于計算機,因為它是活生生的細胞組成的,屬于生物那個不確定性的世界。
構成一臺計算機的原件是晶體管而大腦是細胞。他們屬于截然相反的世界。硬邦邦的晶體管只有開和關兩個狀態,每個晶體管都相同而且始終不變,不變是它的本質,可靠是它的本性。細胞類似一兜水,它的狀態無窮多,沒有哪兩個細胞相同,即使同一個細胞也沒有兩個時刻是相同的,變化是它的本質,辯通是它的本性(adaptation)。
還有一個重要的事實是計算機是設計出來的,而大腦的形成是生物發育過程中自發演化的產物,并無預先設定的圖紙。即使每一個細胞都包含全套DNA編碼,但是它所包含的信息依然不能告訴它大腦的全貌,而最多提供演化過程中在特定環境下的行為指令(類似圖靈機的行為列表)。?
綜上,我說大腦是計算機不如說它是一片胡亂生長的原始森林,每個神經元就是一棵樹,都努力的爭奪水分陽光拼命生長。但是整體看一片森里卻秩序井然。
研究生物的方法研究神經科學夠用嗎?
生物學的核心任務是認識生物體作為化學反應的機器,并且準確的描述DNA和它們控制的每一種蛋白的功能。 作為生命科學的神經科學,依然以DNA和蛋白質為基礎,橫跨分子,細胞,組織,動物行為等各個尺度,描繪神經系統的形態和行為。
生物學研究神經科學的目標是,把神經系統當做一個相互連接的電路研究,看清它們每一部分的功能和每個部分之間的聯系。好像在做一部記錄片,把大腦這片原始森林的每一棵樹的春夏秋冬記錄下來。
生物學的這套方法取得了巨大的成就,給予我們對我們身體幾乎全部的理解。但是神經系統的問題卻相比其它系統進步緩慢,原因是什么?
首先一個問題,海量細節,先說人腦的神經元有100億個,全地球的人口,每個都不同,即使分成大類也無窮無盡,想抓住所有細節幾乎做不到,在這樣的海洋里抓住關鍵性的細節,猶如大海撈針。
第二個問題,神經系統元件之間相互作用復雜。神經系統的相互作用,往往是非線性的,根據各種條件變化無窮無盡,很難想研究植物的向光性那樣簡單得出。
第三個問題,神經系統的研究是個跨尺度問題,從蛋白質分子到細胞到網絡,由于第二點提到的非線性,每個級別的跨越都不只是數量的增長,而是呈現全新的性質。你埋頭在蛋白質的研究中,不代表你對神經網絡有任何有效的理解。
因此在神經系統這片原始森林里,光去拿著放大鏡對著每一棵樹看難以取得成效(雖然是不可或缺的)。
圖: 神經系統的原件--神經元及相互連接的關鍵-synapse。 可見這樣的基本元件已經包含無窮細節。
計算神經科學的靈魂
通過計算神經科學,我們把握的是神經電路的算法,而算法,是這個系統的靈魂。我們都知道,實現一個算法可以用無數手段,甚至完全不同的硬件,但只要算法不變,它所做的事情就是一樣的。
一個基本的假設是大腦的各個不同功能區,比如視覺,聽覺,嗅覺等, 實際運用的編碼(encoding)和解碼(decoding)算法是類似的, 而這種相似性基于類似的設計原則
驗證這一個假想的驚人例子是,某個特定腦區的功能不是確定不變的。科學家已經成功實現了引導小鼠大腦的聽覺區產生類似視覺的功能,只要用視覺信號訓練它即可。這個原理被用于給盲人安裝“電子眼”的研究,給盲人加上類似蝙蝠的聲納系統,然后引導他們的聽覺腦區利用類似處理視覺信號的方法看到物體。
這個例子凸顯了有什么樣的需求,系統就采取相應的算法與之適應。
終于可以引出計算神經科學的本質目的,研究神經系統處理信息的算法,它是如何在和外界的信息交換中調整自身的。它也關心細節,但是它關注的是細節是如何在更大的尺度上發揮它的影響的。
它關注實現大腦認知功能的”算法“,但與設計一臺超級計算機的思路不同的是,它關注的是的隨機無序的生物世界如何實現高效有序的計算,而且具備目前計算機不具備的靈活性。與生物學研究的不同的是,他始終關注生物原件的計算特性,生物原件是如何接受大自然的信號,編碼他們(coding),表達他們(cognition) 和處理他們(behaivior)。
大腦信息處理的基本原則:
1. 多層神經網絡(又稱深度網絡):
神經網絡不能理解為細胞的簡單加和,由于細胞之間的作用是非線性的,他們的組合可以產生各種單個體沒有的性質-例如對復雜物體的分類識別(classification)。
而另一個基本的性質,即多層網絡,則可以大大增加這種功能在復雜輸入面前的執行準確度以及識別物體的全局特征,比如某些抽象特征。
關于多層的好處的最簡單理解是,增加運算的復雜度。 比如第一層執行加法, 那么第二層就可以在加法之上實現乘法,第三層實現乘方。 越復雜的運算,就越有利于系統把握一些簡單運算難以識別的特征,這些特征往往是總體性全局性的信息,而非局部, 比如你要識別一張人臉,光看鼻子或者嘴是沒有意義的,而人腦即使對一張模糊的人臉照片也可以立即識別,就是因為它具有多層網絡的性質, 能夠抓取一些總體性的特征。
圖: 多層網絡示意圖,從輸入到輸出,中間經過多層級的信息處理。
圖: 多層網絡,從簡單運算到復雜運算(比特加和,數字加和,至乘法)。(圖片來源:http://neuralnetworksanddeeplearning.com/chap5.html)
圖: 視覺回路, 示范大腦內普遍存在的多層網絡特性。 從視網膜到LGN到視覺皮層,是一個典型的多級深度網絡(左圖)。 而在每一個層級上所執行的運算復雜度逐級上升(右圖), 第一層只能識別局部反差,后面開始識別輪廓,直到越來越全局和抽象的信息。 (圖片來源:http://facets.kip.uni-heidelberg.de/public/results/1stYear/WP9/)
2. 可塑性與記憶,Plasticity & Memory
神經網絡的特點是具備可塑性, 這是我們能夠學習和記憶的基礎,一個沒有可塑性的網絡從生到死都執行一樣的功能。 這種可塑性用一句話表明就是在一起放電的細胞互相連接會被一起改變。 體現在當一團神經元被激活后, 它們之間的鏈接會根據互相之間活動的時間關系進行調整。 因此在一起放電的細胞會聯系更加緊密,形成一個子網,一旦形成子網,細胞就更容易一起放電,因而更加鞏固練習,最終,形成一個整體性的基團(這和人類組織形成并無二致,一起活動就結合在一起,成為小圈子),只要觸發其中一個細胞,整個子網都會相應。類似于我們的記憶,所謂觸景生情,睹物思人。
最經典的例子莫過于巴甫洛夫的狗的條件反射實驗,狗流口水和鈴鐺響一開始沒有什么聯系,但是當食物在鈴鐺響的時候頻繁出現之后,狗就會在鈴鐺響后分泌口水,就是因為代表流口水的神經元和代表鈴鐺的神經元加強了聯系,從而當激活一個時候,另一個就會自動響應。
圖: 神經可塑性工作的原理。 一起放電的細胞連接加強而形成集團。紅色代表一起放電的神經元,之間的連線代表它們的網絡連接,色彩濃度代表連接強度。
3. 陰陽相生相克- 興奮抑制神經元與平衡神經網絡
神經細胞大致分為兩類,一類是興奮性的,其活動的結果是提高其它神經元的活動強度,相當于正反饋。 一類是抑制性的,其活動的結果會降低其它神經元的活躍性,相當于負反饋,負反饋對于整個網絡活動的調節具有至關重要的作用,負反饋的缺乏往往導致癲癇一類嚴重的神經疾病 。一個正常工作的神經網絡處在平衡狀態上(Balaced State) 這樣一種基本結構正如同大自然各個地方一樣,體現了一種平衡制約的思維。平衡狀態的神經網絡具有較大的對外界信號較大的響應能力。
圖: 興奮和抑制神經元的陰陽相抵,下圖展示當這種平衡出現差錯,抑制神經元的功能不正常的時候一種可能的結果是導致精神分裂癥(圖片來源:Testing the glutamate hypothesis of schizophrenia ,Nature neuroscience)
4. 貝葉斯網絡假設
大腦信息處理有沒有通用的法則,如同物理里的牛頓定律呢? 一個大膽的設想是,大腦對信息的處理符合貝葉斯推理的基本框架。即利用大腦已有的經驗模型做出猜測,并根據不斷取得新的信息調整猜測。
比如后面有一頭獅子追你, 你跑呀跑,看到一條湍急的河, 你要在幾秒鐘決定你是跳到水里, 還是和獅子決一死戰。這個時候大腦的預測能力就是生死攸關, 你一定會在你腦子里生成兩個圖景,一個是跳到水里會是什么樣,一個是與獅子決斗會是什么樣。這種推理是怎么做出的? 一個基本假設是大腦在執行類似于貝葉斯推理的功能。首先,根據以往的經驗(統計規律)看你和獅子決斗是怎樣的(腦中生成的圖像), 在把對眼下這頭獅子的觀測和以往對獅子的經驗理論結合起來(胖還是瘦,跑的快還是慢),取得一個取勝獅子的概率,這個決策的基礎是一個分布函數,因此本身也具有不確定性。也許你這一次是決定和獅子決斗,下次相同的情況就是跳到激流里碰運氣。 這種分布式決策對于種群的生存起到決定性的作用。如果所有人都選擇斗獅子或者跳激流,而恰恰押錯了堵住,那么對生物物種就是毀滅性的。
這種框架性的思路可以幫我們理解神經元放電的可變性及不確定性提供基礎,因為你是在不確定的世界做統計推理,而非直接了當的給出確定答案,你的原件本身就需要具有這種不確定性。
5. 跨尺度的復雜性
所謂跨尺度的復雜性,是說與計算機不同的是,神經系統每個級別都具有其自身的復雜性,或者說自身都是一個小網絡,小宇宙。 比如神經網絡由神經細胞組成,而神經細胞又是由互相作用的離子通道構成,可以看成離子通道的網絡。 因此我一直覺得與其說神經網絡是一臺超級計算機,不如說是一個龐大的計算機網絡,因為每一個神經元就相當于一臺計算機。
上一級的復雜性如何影響下一級的復雜性,是一個永恒的話題,這樣層層嵌套的復雜系統真的需要嗎?還是只是進化過程的累贅?
計算神經科學的基本方法
這門學問的研究方法是頂層設計與尋找蛛絲馬跡的偵探工作的結合。
那么我們該怎么了解“神經森林”? 一句話--先從上往下看,再由下往上看。
什么叫從上往下看? 生物學家往往看我有什么,我有細胞,我有網絡,我看看它們怎么連接。工程師往往看我需要什么,我要做一臺計算機,我需要什么元件,怎么連接? 工程師的思路就是從上往下看,我需要什么,我就設計什么。
在研究神經系統時,我們需要用工程師的想法(自上而下)。 我要是有一堆神經元組成的網絡,我讓它做哪些事情? 比如說記憶,當信息流過一堆細胞,它如何留下之后可以認讀的印記?又如何在特殊的條件下被呼喚出來?
這就是計算神經科學在做的事情,我們先主動設計這個一個系統,看看如何做到需要的功能(自上而下),然后拿著這個東西回到生物的世界里去比較(由下而上)。
科學說到底是要能夠有預知未來的能力,而計算神經科學幫助整個神經科學插上了預言的翅膀
實現的辦法我稱作模型與實驗的循環。
自上而下。如果要實現一定的任務,需要什么樣的網絡。類似于把自己比喻成大腦的設計者。
自下而上。但是之前說了大腦沒有設計者啊? 所以這里解決這個問題。根據生物實驗結果,推測生物的神經元是如何自然的組成網絡給出上述設計師的類似構架的。
綜合1,2建模。以上完成了頂層設計結合實驗結果設計模型的過程,猶如從地上獅子的腳印識別獅子(其實這就是我們的大腦始終在干的事情,反過來我們用它研究大腦)。
由獅子推斷獅爪。 現在我們通過偉大的想象力得來了一頭活生生的獅子,它可以四處活動留下無數的腳印。我們讓它在計算機里活動(所謂Simulation)。得到各種特點的腳印。這就是我們的預測能力的來源,我們可以知道他今天的行動,也可以得到他明天后天的行動。
回到實驗檢驗。 讓現實生活中的獅子多跑跑再留下一些腳印,看看是否符合模型推理的結果。
由此可見計算神經科學的威力。我們從一棵樹木推斷了整片森林,由獅子的腳印探測了獅子。
這個學科的魅力,也在想象與真實時近時遠,若即若離的關系。
一個大家可以多專注的典型案例是對海馬體(hippocampus)的研究,海馬體是大腦解決空間認知(spatial map)和情景記憶(時空軌跡)的超級計算器。這個原件的研究緊密的結合了細胞電生理實驗,動物行為學和計算神經科學,也有非常多漂亮的計算模型。
計算神經科學,你真的需要
基礎牢固的是細胞神經科學,高端洋氣能引起人們關心的是心理學,那么計算神經科學呢,計算神經科學用漂亮的數學式架通兩個截然不同的尺度(雖然目前還有距離)。
基于細胞尺度的神經科學在給它提供地基,捕風捉影的心理學在給它引領方向,而他,具有潛力比兩者走的更遠。
未來可能從計算神經科學中獲益的幾類人:
1. 在實驗室里辛苦做電生理的生物博士們:計算神經科學家利用它們對整個系統運行機制的把握較大可能的對實驗數據進行挖掘,并且幫助設計具有突破性的實驗。
2. 生物制藥公司:幫助設計新藥,減少一種新藥的試驗年限。制藥的根本在于某種化學物質對整個神經網絡可能產生的影響,做跨尺度的分析恰是計算神經科學的長處。
3. 人工智能:對生物大腦的理解幫助人工智能,類似仿生學。此處請看后文。
4. 腦科及心理醫生:每一個好的計算模型都可以幫助設計新的治療方法。最典型的例子-老年癡呆癥,如果能夠了解人腦短期和長期記憶的機制就可以幫助人找到記憶衰退的原因并延緩它。
5.普羅大眾: 沒有什么比腦科學更能幫助每個人生活的更好。
關于計算神經科學與人工智能:
人工智能和機器學習相關的技術代表人類的未來, 未來從家政服務到金融交易都將以這種技術為基礎。但是它到底是否和我們真實生物的大腦有關呢? 我們是否應該以人類自己的腦袋為師,還是可以直接通過我們巧妙的設計來超越自然本身? 亦或者這就是上帝的計劃的一部分? 讓人類產生甚至超越自己的東西?
回答這些問題都為時過早。但是目前已知的是,所有的人工智能算法都利用了和我們神經系統學習和處理信息類似的原則,比如多層網絡處理信息。 在視覺處理領域,2012 年一個叫深度卷積網絡的技術脫穎而出, 瞬間拿下了所有視覺信息識別的計算機大賽。 深度卷積網絡(Deep Convolutional Neural network )是深度網絡的一種(見下圖), 完全符合前文提到的神經網絡的基本原理第一條。
圖:用于視覺處理的深度神經網絡。從局部到全局,由圖像最后判斷圖像背后的人物是誰。
因此我認為人工智能和計算神經科學具有某種內在的同質性, 的區別可能是人工智能可以不必拘泥生物的限制,或者也是為什么他最終或許會比生物網絡表現更好。
* 有一種觀點認為好的人工智能算法無需一定是仿生的,我們可以完全從一般性原理出發設計。 比如說常見的數學優化問題, 用隨機優化進行學習的機器人已經能夠較好的模擬很多人的動作。 事實上我認為一定程度上依然和生物問題殊途同歸,甚至能夠幫我們更好的理解生物。?
圖: 機器人可以利用優化目標函數的方法學習行走跑步等,動作已經十分類似真人。
結語:
有一天,我們知道的比占星術更多一點。我們會在錯綜復雜的心理現象之間劃出一張真正清晰的聯系圖。并且給每個出生的嬰兒這樣一張他的心智地圖。引導他的一生可以過的比較好一點,讓每一個人的天賦都充分發揮不至埋沒。 或許有一天機器可以作為大腦的外延,讓我們掌握我們此生根本無法想象的咨詢和智慧。
計算神經科學,生命終將因你更美好。
由衷感謝:
阿蘭圖靈: 人工智能之父。第一個物理學的動力學方程解釋生物系統的pattern formaiton(圖案-如斑馬的花紋)。 曾經,人們不敢相信紛繁的生物現實可以產生自簡單的物理方程。
Hodgkin and Huxley: 大名鼎鼎的H&H模型,用幾個極為漂亮的微分方程提供了單個神經元放電的較精確模型:H&H把電生理實驗和物理動力學緊密結合,展示了數理方程在解決這樣一個復雜生物問題的威力,堪稱生物物理的經典勝利。
Donald Hebb : 第一個建立起來細胞生物學和心理學的聯系。提出Hebb learning rule 指出神經系統學習的機制 -經常一起方便的神經元會更強的聯系在一起,從而學習記憶。
Hopefield : 第一次將統計物理的方法帶入神經網絡,解釋了神經網絡記憶和推理的可能性。
藍色大腦計劃: 一個把巨量神經元放入電腦中模擬計劃,企圖制造人工大腦。 類似于阿波羅登月的壯舉,無論成功與否。網址:http://bluebrain.epfl.ch/
圖: 藍色大腦計劃想要復制的人類大腦局部。
推薦閱讀(Reference):?
Hodgkin Huxley Model
Hodgkin, Alan L., and Andrew F. Huxley. "A quantitative description of membrane current and its application to conduction and excitation in nerve."The Journal of physiology 117.4 (1952): 500-544.
Hebbian Lerning
Hebb, Donald Olding. The organization of behavior: A neuropsychological theory. Psychology Press, 2005.
Hopefield Model
Hopfield, John J. "Neurons with graded response have collective computational properties like those of two-state neurons." Proceedings of the national academy of sciences 81.10 (1984): 3088-3092.
Balanced Network
van Vreeswijk, Carl, and Haim Sompolinsky. "Chaos in neuronal networks with balanced excitatory and inhibitory activity." Science 274.5293 (1996): 1724-1726.
文章版權歸作者所有,未經允許請勿轉載,若此文章存在違規行為,您可以聯系管理員刪除。
轉載請注明本文地址:http://specialneedsforspecialkids.com/yun/4308.html
摘要:在與李世石比賽期間,谷歌天才工程師在漢城校區做了一次關于智能計算機系統的大規模深度學習的演講。而這些任務完成后,谷歌已經開始進行下一項挑戰了。谷歌深度神經網絡小歷史谷歌大腦計劃于年啟動,聚焦于真正推動神經網絡科學能達到的較先進的技術。 在AlphaGo與李世石比賽期間,谷歌天才工程師Jeff Dean在Google Campus漢城校區做了一次關于智能計算機系統的大規模深度學習(Large-...
摘要:福布斯昨日刊登專訪。生于英國,被認為是機器學習的先鋒,現在是多倫多大學教授,谷歌高級研究員。但是,正如我所說,已經跨越過了這一分水嶺。 《福布斯》昨日刊登Geoff Hinton專訪。游走在學術和產業的AI大神Hinton談到了自己研究興趣的起源、在多倫多大學和谷歌所做的研究工作以及發起的私人俱樂部 NCAP。 在采訪中,Hinton談到,現在計算能力和數據的發展讓AI獲得巨大進步,并且在很...
摘要:但實際上機器學習算法落地程序并不難寫,下面是行代碼實現的反向多層神經網絡算法,也就是深度學習。神經網絡的算法程序實現神經網絡的算法程序實現分為初始化向前計算結果,反向修改權重三個過程。 對于現在流行的深度學習,保持學習精神是必要的——程序員尤其是架構師永遠都要對核心技術和關鍵算法保持關注和敏感,必要時要動手寫一寫掌握下來,先不用關心什么時候用到——用不用是政治問題,會不會寫是技術問題,就像軍...
閱讀 2663·2021-11-18 10:02
閱讀 3426·2021-09-22 15:50
閱讀 2357·2021-09-06 15:02
閱讀 3576·2019-08-29 16:34
閱讀 1744·2019-08-29 13:49
閱讀 1274·2019-08-29 13:29
閱讀 3629·2019-08-28 18:08
閱讀 2937·2019-08-26 11:52