以此觀之，預測加工過程是一種典型的「無上限自舉」。舉個例子，要想預測句子中的下一個單詞，熟練掌握英語語法是很有好處的。而熟練掌握英語語法的一條有效途徑，就是尋找最好的辦法預判句子中的下一個單詞。這正是世界本身自然地提供給我們的訓練方式，因為對應句子中下一個單詞的聲音或形狀會緊隨著預測呈現出來。由此，你可以一步步地引導自己建構起關於英語語法的知識，這些知識又會在後續的預測任務中派上用場。如果處理得當，這種自舉（即某種形式的「經驗貝葉斯方法」，見Robbins, 1956）能夠成為一種非常強大的訓練機制。

預測驅動學習將變動不居的感知信號視為豐富的、持續可得的、「自舉友好」的免費資源加以利用。世界慷慨而可靠地為我們提供著海量的訓練信號，以資匹配當下做出的預測和實際感知的傳入刺激，無論預測任務在生態意義上是相對基礎的（如預測不斷變化的視覺影像以識別捕食者或獵物）還是相對先進的（如「看見」桌上的咖啡，或預見句子中的下一個單詞）。一些廣為人知的學習算法（learning algorithms）能夠利用這種機制，揭示實際上塑造了傳入信號的、彼此交互的外部原因（即「潛在變量」）。但在實踐中，這需要引入預測加工模型的另一個關鍵成分，即使用多層架構進行學習。

4. 多層架構的學習

多層架構的預測驅動學習可能是以我們的方式理解世界的關鍵所在——在我們眼中，世界是高度結構化的，它表現為對應不同時空尺度的一系列規律和模式，同時充斥著各類彼此交互的、複雜嵌套的遠因。感知預測機制與多層架構學習的結合對我們而言意味著計算上的突破。對這種突破的認識最初可見於Helmholz（1860），他將知覺描述為概率性的、知識驅動的推理過程。Helmholz提出了一個重要的主張，即系統要從身體的感知效應推斷其現實誘因，這是一項棘手的工作。也就是說，感知主體要對外部誘因押注，它們會詢問：「什麼樣的外部刺激才能以當下的方式激活感受器？」這項任務之所以棘手，部分是由於有時感受器的某種激活模式對應著好幾套可能的外部誘因，而這些外因的彼此差異僅限於其（情境相關的）發生概率。

受Helmholz的洞見啟迪，MacKay（1956）、Neisser（1967）和Gregory（1980）的工作對當代認識心理學產生了重要影響，並形成了一個傳統，我們今天稱之為「綜合分析」（analysis-by-synthesis，見Yuille&Kersten, 2006）。在機器學習領域，這些洞見引領了一連串重要的創新，它們源於與（名副其實的）「Helmholz機器」（Dayan et al., 1995; Dayan & Hinton, 1996; Hinton&Zemel, 1994）相關的研究工作。「Helmholz機器」是一個多層架構的早期范例，研究者可以在不對相關數據進行預先分類的前提下訓練它。系統能夠利用其下行或橫向內部連接自行生成訓練數據，以此實現「自組織」。也就是說，它一開始不是在對數據進行分類（或「習得識別模型」），而是在學習如何使用多層架構自行生成傳入刺激。

這看似一項不可能完成的任務，因為系統需要一些知識才能自行生成傳入刺激，而它當下正在努力嘗試去獲取這些知識。比如說，如果對諸音節彼此連接和組合的方式不具備相當程度的了解，系統就不可能憑空生成一門語言的語音結構。同理，只有掌握了一個與語音結構相關的生成模型，一個系統才能去學習如何進行歸類任務（也就是說，輸入一連串聲音信號，它能夠輸出其語音分析結果）。但如果既沒有這樣的模型，也沒有支持模型建構的知識，我們又該從何處著手呢？這種情況下，答案似乎是「逐步地，從兩處同時著手」——至少在理論上，通過發展新的學習路徑以迭代地實施「無上限自舉」，這一難題就能夠得到解決。

（原題：大腦如何為世界建模？從無監督學習到預測加工｜《預測算法》，作者：Andy Clark；譯者：劉林澍2024-03-23 原載：https://swarma.org）