Andy Clark·自由能原理,看凖世界的未来 3

這種刺激分布的模式如何讓具身的、情境化的大腦成為一個具有重大價值的節點(同時也是一個消耗大量新陳代謝能量的器官),以輔助有機體靈活的適應性反應?請注意,這個問題已經與本章開始時不同了:我們不再關心有機體如何在外界環境與自身內部狀態間建立起「映射」(mapping),而是要借助多變的傳入信號本身推斷出信號源(世界)的性質。


3. 自舉式學習

這看似無望,但預測驅動的學習提供了一個非常強大的方法,讓事情有望柳暗花明。要理解這種方法,我們需要首先回顧一下另一種學習策略:人們會為參與學習的系統安排一個「老師」,但這個「老師」通常不是人類,而是一個自動化信號,其任務是根據當前輸入准確地告訴系統應該做些什麼,或不該再做些什麼。這被稱為「監督式學習」。一些最為著名的監督式學習系統依賴所謂的「誤差反向傳播」(如Rumelhart, Hinton, & Williams, 1986a,b; Clark, 1989, 1993)。這類「聯結主義」學習系統會將當前的輸出(典型的輸出是對輸入刺激的某種范疇化)與正確的輸出(體現為一些貼有標簽的,或預先分類的「練習數據」)進行對比,調整反映系統實際經驗(即know-how)的連接權重,以提升其未來表現。這種緩慢的自動調整過程(人們稱之為梯度下降學習)適用於這樣的系統:其內部的連接權重最初是被隨機設置的,而借助訓練(如果一切順利),它們的學習有望逐漸加速。

這類聯結主義系統是一個漫長演化過程的關鍵一步,這個過程最終導向我們很快就要描繪的「預測加工模型」(PP模型)。實際上,有學者主張預測加工模型(更寬泛地說,多層貝葉斯模型)就是從聯結主義系統的龐大家族譜系中演化而來的(具體討論見McClelland, 2013及Zorzi et al., 2013)。在這以前,我們很容易否認僅憑對感知證據的精細挑揀就能夠支持有效的基礎學習。相反,人類的大部分知識看起來更像是天生的——在漫長的演化過程中,它們作為神經回路的形態與功能被逐漸固定下來。

聯結主義系統的出現讓人們對以上觀點產生了懷疑,這很重要,因為它表明我們實際上有可能從實際接觸的豐富感知信號中學到許多(見Clark, 1993)。但標准的聯結主義方法(反向傳播的訓練)在兩個方面碰了釘子:一是它需要提供足夠數量的、已預先分類的訓練數據,以支持監督式學習;二是訓練難以在多層網絡架構中展開,因為對誤差信號的反應需要在各層級間進行分配,而分配方式往往難以確定下來。適用於多層架構的預測驅動學習恰好同時解決了這兩個難題。

我們先考察訓練數據。預測驅動的學習可以被視為監督式學習的一種干淨的(即生態上可行的)實現形式,更准確地說,它就是一種自我監督式學習。在此過程中,環境本身能夠以滾動的形式持續提供「正確的」反應。因此,假如你就是一個大腦(或多層神經網絡),日常工作就是不斷地轉化環境刺激,你就一定能夠偵測自己的感覺登記器是怎樣持續變化的。如此,你就能嘗試預測這些感覺登記器的下一個狀態(雖然很多動物也能做到這一點)。

故事其實比它看上去的樣子要複雜得多。雖然將預測加工過程理解為在時間上彼此離散的一系列步驟或許是最簡單的,但我們將要考察的模型主張大腦在一個連續不斷的過程中對滾動的現實進行預測。知覺是一個預測驅動的建構過程,它永遠植根於過往(系統性知識),在多個時空尺度上對未來提前做出考量。一旦我們認識到這一點,在預測當下和預測臨近未來之間的界限就不再分明了。

對預測加工過程來說,一個好消息是,該過程所需要的大量訓練數據就來源於環境本身。因為只要周圍的環境發生改變,感覺登記器的狀態就將受傳入信號的系統性驅動而發生變化,進而為大腦的自我監督式學習提供訓練數據。因此:

預測性學習尤為引人矚目,因為它的信號源幾乎無處不在。如果你想預見接下來發生的一切,那麼每一個當下都是學習的機會。這種無時不在進行中的學習可以解釋(比如說)嬰兒是怎樣神奇地獲得了對世界的複雜理解的,盡管它們的行為貌似十分遲鈍(Elman, Bates, Johnson, Karmiloff-Smith, Parisi, & Plunkett, 1996)——嬰兒對自己將會看到什麼的預見會越來越准確,它們由此為環境建構起日益複雜的內部模型。(O'Reilly et al. 已提交p. 3)

Views: 15

Comment

You need to be a member of Iconada.tv 愛墾 網 to add comments!

Join Iconada.tv 愛墾 網

愛墾網 是文化創意人的窩;自2009年7月以來,一直在挺文化創意人和他們的創作、珍藏。As home to the cultural creative community, iconada.tv supports creators since July, 2009.

Videos

  • Add Videos
  • View All