人們為此設計了一系列算法，其中以「睡眠-覺醒法」（wake-sleep algorithm，見Hinton et al., 1995）最為典型，該算法讓識別（recognition）與生成（generation）任務彼此引導，允許系統在迭代評估（iterative estimation）中輪替地訓練兩組權重，以習得識別與生成模型。「睡眠-覺醒法」會使用其下行連接指定隱藏單元的理想（目標）狀態，由此對識別模型的建構進行事實上的自我監督，這是借助生成模型實現的，該生成模型致力於自行激活或——如有些資料所描述的——「憑空生成」特定感覺模式。更重要的是，即便系統一開始只含有隨機分布的一系列低值權重，以上過程仍然可以有效地進行下去（見Hinton, 2007a）。

在這個相當具體的意義上，一個生成模型會通過推想一個誘因矩陣，努力捕捉某些傳入信號的統計結構——只要在上述矩陣與信號結構間存在對應關係。一個對應視知覺的概率生成模型會通過推想一個遠因的交互網絡，努力捕捉較低層級上的對應刺激模式（最終是網膜刺激）。因此，特定情境中網膜刺激的特定模式能夠通過使用生成模型得到最理想的解釋。簡而言之，生成模型能夠將高層表征（如彼此交互的主體、客體、動機和運動）與多個中間層級（對應顏色、形狀、質地和邊緣組合及變化）結合在一起。當這些隱藏誘因的組合（在多個時空尺度上）形成一個連貫的整體，系統就使用其知識儲備自行生成了感知數據，借此知覺到一個有意義的、結構化的場景。

我們必須再次強調，要獲得對這種結構化場景的理解，動物只能使用取其自身視角時能夠獲得的信息。這種理解植根於動物的演化過程對其大腦和身體的預結構化（pre-structuring）——不論它呈現出何種面貌——以及由感受器所登記的能量刺激。利用多層架構持續自行生成感知數據的嘗試為動物提供了一種實現以上理解的系統化方法。在實踐中，這意味著一個多層系統中的下行和橫向連接能夠對應多重時空尺度，為彼此交互的誘因編碼概率模型。如果以上邏輯是正確的，那麼我們識別客體、狀態和事件，其實就是尋找那些最有可能的因素（即遠因）：它們的彼此交互能夠生成（亦即預測，並最好地解釋）傳入的感知刺激（見Dayan, 1997; Dayan et al., 1995; Hinton et al., 1995; Hinton & Ghahramani, 1997; Hinton & Zemel, 1994; Kawato et al., 1993; Mumford, 1994; Olshausen & Field, 1996）。

5. 預測加工

知覺「多層預測編碼」（hierarchical predictive coding）方法的核心（Friston, 2005; Lee & Mumford, 2003; Rao & Ballard, 1999）就是憑借一個深度多層級聯（deep multilevel cascade），通過使用關於現實世界的知識（world knowledge），嘗試借助自上而下的連接，自行生成感知數據的虛擬版本。多層預測編碼或「預測加工」（Clark, 2013）過程包含自上而下的概率生成模型以及如何使用、何時使用這些模型的具體方案。根據這些方案（它們借鑑了「線性預測編碼」相關研究的理念），自上而下或橫向流動的信號始終（而非僅在學習過程中）致力於預測當下傳入的海量感知刺激（即所謂「感知彈幕」），只留下那些沒有得到准確預測的因素（以「預測誤差」的形式）在系統中前饋地傳播信息（見Brown et al., 2011; Friston, 2005, 2010; Hohwy, 2013; Huang & Rao, 2011; Jehee& Ballard, 2009; Lee & Mumford, 2003; Rao & Ballard, 1999）。

如果（以我們將很快論及的方式）將以上機制轉置於神經系統，則預測誤差代表著任何尚未得到解釋的感知信息（Feldman & Friston, 2010）。也就是說，預測誤差是由系統自行預測的刺激與其實際接收的信號間的失匹配（mismatch）所導致的「驚異」——或為區別於某種常見的、富含主觀色彩的經驗，我們可以更加正式地稱其為「意外」（surprisal，見Tribus, 1961）。如前所述，我將系統致力於從事的這項任務描述為「預測加工」——之所以引入該術語，而非沿用更為常見的「預測編碼」，是因為要強調這種認知機制的突出之處並不在於它所采用的數據壓縮策略（即預測編碼，稍後將詳細介紹），而在於采用該策略的是一類特殊的、具有多層架構的系統，其部署了一系列概率生成模型。這類系統具有強大的學習能力，它們的加工形式豐富多樣、對情境極為敏感（我們即將看到），並能高度靈活地在多層級聯中整合自下而上和自上而下的信息。