Comment

Comment by Sindumin on June 14, 2024 at 9:51am

錢學森不僅具有豐厚、扎實的自然科學功底, 而且參與了大量的工程實踐, 積累了豐富的實踐經驗。他高瞻遠矚, 自覺地運用辯證唯物主義哲學分析、處理科學技術與管理方面的各種問題, 善於總結實踐經驗, 並上升到理論。他還具有深厚的中國傳統文化的基礎, 對西方音樂有良好的修養。這就為他倡導建立思維科學, 重視形象思維與靈感, 把形象思維作為思維科學研究的突破口, 提供了豐厚的底蘊。

從20世紀30年代「形象思維」的概念傳入我國開始, 到80年代初, 已經進行了三次討論, 特別是50—60年代的討論, 多數人都已承認形象思維的存在。這不僅為他提供了認識基礎, 而且也為他倡導建立思維科學打下了廣泛的社會基礎。把形象思維從文學藝術領域擴展到科學技術、教育等領域, 從而引起全社會的普遍關注, 是錢老的新貢獻。

2 思維科學的研究對象、研究道路與思想來源

錢學森在1979年4月23—24日給中央黨校所做的「現代科學技術的發展」報告中, 明確提出:「我們要把邏輯學擴大為思維學, 包括一部分我們已經研究得很多的而且很有成績的邏輯思維, 還包括其他的人的思維過程。這在外國已逐步地引起重視, 他們是從搞機器人、人工智能這個方面考慮的。搞人工智能、機器人, 就要搞一個人工智能、機器人的理論。這個理論, 他們叫認知科學。我們用『思維學』可能確切一點, 就是包括邏輯思維, 也包括其他的各種思維過程, 形象思維等等, 研究它們的規律。」這些論斷奠定了思維科學的理論框架、研究方向與基本道路。《哲學研究》1980年第4期首次發表了他的文章「自然辯證法、思維科學與人的潛力」。在後來的一系列文章、講話與書信中, 錢老進一步充實、完善了思維科學的思想, 並逐漸形成體系。

2.1建立思維科學的動力與思維科學的研究對象

錢學森在第一篇關於建立思維科學的文章中, 明確指出:「現代科學技術的實踐, 正預示著更重大的變革: 思維科學的出現。」「引出這項變革的是電子計算機。」後來又反復強調「推動思維科學研究的是計算機技術革命的需要」[5];「智能機的出現也將是一次技術革命」[6]。

錢學森早期提出的思維科學的研究對象, 主要強調三個方面: 第一是強調有意識、自己能夠控制, 自己不能控制的下意識不屬於思維科學的研究對象; 第二是強調「思維形式而並非思維內容」, 「思維規律而不是其具體過程和結果」[7]; 第三是強調思維是意識的一部分, 「不能把比思維更廣泛的意識放到思維科學部門中來探討[1]。後來, 針對國外把感覺、知覺、記憶等作為重要研究內容, 國內有人把信息的獲取、傳輸、存儲等作為思維的環節、過程, 納入思維科學, 以及有些人常常混淆思維科學與人體科學、腦科學的界限等情況, 1995年錢老對思維科學的研究對象與范圍重新做了界定, 指出「我們要進一步分清什麼是人體科學, 什麼是思維科學。……所謂感覺和知覺都是人體科學中神經心理學要研究的領域……。只處理所獲得的信息, 那才是思維學的研究課題」。「思維學是研究加工信息, 而不是研究如何獲得信息, 那是人體科學的事」。「思維學的任務就是怎樣處理從客觀世界獲得的信息」[4]。

2.2思維科學的研究道路

關於思維科學的研究道路, 錢學森的認識是發展變化的。1981年初他認為, 一條途徑是比較古老的心理學的方法: 人自己內省, 即自己考察自己的思維過程; 另一條途徑是微觀的方法, 即從神經元入手的腦科學方法。到1983年, 隨著對思維科學與人體科學認識的提高, 將思維科學的研究道路調整為: 一條是腦科學的路, 從微觀上弄清神經元在思維中的活動機制, 這雖然是根本之路, 但在短期內卻不可能有突破, 「所以要開辟第二條途徑, 要用電子計算機來模擬人腦的部分功能, 也就是試著改變電子計算機的操作運轉程序, 直至電子計算機也能出現如同大腦的功能, 盡管還是局部的功能」[1]。

1984年全國首屆思維科學研討會肯定了第二條研究道路。後來, 錢老反復強調這條道路的重要性。1987年2月28日他說:「從1984年後這三年看, 我們在那個會上討論的結果還成立, 即從人腦結構開始發展我們的理論是行不通的, 那太難了。我們希望腦科學發展快點, 但不得不說我們不能靠他們。那怎麼辦? 我們還有一條路, 就是思維科學的基礎科學, 思維學的路, 也就是從宏觀而不是從微觀, 不從腦神經細胞做起。思維學就是要從宏觀開始找人的思維的規律, 研究這個規律。這個規律你怎麼驗證? 不能愛怎麼說就怎麼說, 你必須按這個規律做出機器, 如果這個機器果然有人的思維的功能, 你就對了。……這是我們1984年那個會的結果, 說發展思維科學, 要同人工智能、智能機的工作結合起來。」[8]5月16日再次明確指出:「原來我強調的, 是從實踐提高, 實踐是計算機技術、人工智能的發展, 特別是人工智能、智能機。從這個發展出發, 在理論上提高, 上升到思維學。」[4]

「思維科學要走人工智能和智能機這樣一條路」[3], 是錢學森倡導建立思維科學過程中始終堅持的基本觀點, 也是他為思維科學研究確定的正確道路。

2.3思維科學的思想來源

錢學森在反復強調從人工智能的發展, 智能機的研制中總結經驗, 上升到理論這條根本道路的同時, 也很重視其他方面的思想來源。其中, 一是邏輯學, 一是我國古代的文學藝術。

[ 6 ] 錢學森.關於「第五代計算機」的問題[J].思維科學, 1985, (2) :9～10 鏈接1

[ 7 ] 錢學森.1980年7月1日致吳廷嘉、沈大德的信[J].中國社會科學, 1980, (6)

[ 8 ] 錢學森.關於思維科學的研究[J].思維科學, 1987, (3) :3, 4

Comment by Sindumin on June 13, 2024 at 10:20pm

（續上）他認為, 在思維科學的基礎科學——思維學中, 只有邏輯學對抽象思維的研究比較成熟。能夠用數理邏輯形式化的思維活動都可以由計算機來模擬, 因此一再強調要重視邏輯學。他在「北京地區第一次思維科學研討會」上的發言中說:「我認為思維學實際上是從哲學演化來的。……我們以前搞電子計算機時就已經犯了錯誤, 對數理邏輯不夠重視。……有個世界著名的軟件專家叫Dijkstra, 他說了一段心裡話:『我現在年紀大了, 搞了這麼多年軟件, 錯誤不知犯了多少, 現在覺悟了。

我想, 假設我早年要是在數理邏輯上好好的下點功夫的話, 我就不會犯這麼多的錯誤。不少東西邏輯學家早就說了, 可我不知道。要是我能年輕20歲的話就要回去學邏輯。』我看這是經驗之談, 說明搞技術沒有理論指導是不行的, 而我們研究思維科學要從哲學的邏輯學吸收營養。」[9]他在給搞人工智能工作的同志的信中, 一再提醒要重視現代邏輯學、特別是模態邏輯的發展, 要吸收邏輯學家參加課題研究。

錢老一直關注文藝理論工作者關於形象思維的探索, 認為我國古代文學藝術是研究形象思維的豐富源泉。在北京地區第四次思維科學研討會上的講話中, 他說:「研究形象直感思維, 我最早說的一個途徑是計算機、人工智能和智能機; 上次講, 還有一點辦法, 即從邏輯去研究, ……。現在想研究形象直感思維, 再找個來源, 那就是文藝詩詞。」「我們要研究形象直感思維, 恐怕要回過頭去, 對文藝詩詞要下點功夫。」[4]錢老1994年9月18日在給戴汝為、錢學敏的信中明確指出:「既然文學創作中要運用抽象 (邏輯) 思維、形象 (直感) 思維和靈感 (頓悟) 思維, 那我國幾千年古老的文學作品不就是三種思維的結晶嗎?那我們為什麼不從中國的賦、詩、詞、曲及雜文小品中學習探討思維學呢?它們是最豐富的源泉呀。」他以對聯為例作了具體分析:「從思維學角度看, 對聯的過程是: 出聯的上聯是給出一個結構, 請應聯的下聯人按此給定結構去找零件, 字、詞填入這個結構, 思維就在於搜索思想庫找材料。這就是對聯答對聯的思維學——搜索入結構。」「所謂形象 (直感) 思維則是與上述答對聯相反的: 有材料, 但無結構。思維的任務是找形象, 即結構。相反, 不也相成嗎? 我們總結中國極為豐富的對聯文學, 不能為研究形象 (直感) 思維做貢獻嗎?知道形象 (直感) 思維是從零碎材料找結構不就是一個開端嗎?從思維學的角度研究中國古代文學是值得的。」[10]

3 思維科學的體系結構與基本內容

錢學森把思維科學作為現代科學技術體系中11大部門之一, 包括三個層次:基礎科學、技術科學和工程技術, 它與馬克思主義哲學之間的橋梁是辯證唯物主義認識論。思維科學的體系如圖1。

圖1 思維科學體系結構Fig.1 System structure of noetic science

3.1思維科學的基礎科學層次

1984年前後錢學森認為, 思維科學的基礎科學包括思維學與信息學, 並著重對思維學進行反復的分析與說明, 指出思維學由抽象 (邏輯) 思維學、形象 (直感) 思維學、靈感 (頓悟) 思維學和社會思維學四部分組成。

關於抽象思維學, 他強調以下基本觀點:

1) 人類對抽象思維研究得最早、最充分、比較成熟, 找到了一些規律, 形成了邏輯學。這是電子計算機和人工智能的理論基礎, 能夠用數理邏輯形式化的抽象思維, 計算機都可以模擬。這是馮·諾依曼式計算機的最大成功。

2) 抽象思維只是人類思維的一種形態, 批駁了「人的思維, 就是邏輯, 就是抽象思維」的觀點, 指出「這在我國是很有影響的, 許多人就是抱住這點不放, 並搬出經典著作來作為根據」。其實, 「把人的思維僅僅看成是抽象思維是不對的」[1]。

3) 邏輯學屬於抽象思維學, 尤其是數理邏輯, 但它的范圍比較窄, 僅僅限於形式邏輯;抽象思維學要比數理邏輯廣泛得多, 「抽象思維中還有辯證思維」[1]。

4) 人工智能必須吸取忽視邏輯的教訓, 堅持以邏輯學——數理邏輯為理論指導, 注意邏輯學的新發展。

錢學森把形象思維學擺在思維學的突出地位, 作為思維科學研究的重點與突破口:

1) 在錢老倡導建立思維科學之前, 形象思維問題只在文學藝術領域內討論。1979年版《辭海》把「形象思維」理解為「藝術思維」。錢老則認為, 形象思維是全人類普遍使用的與抽象思維相並列的基本思維形態。1981年初錢老明確指出:「形象思維不但文藝工作者使用, 其他人包括自然科學家、工程師也經常使用。」[5]這就把形象思維從文學藝術領域擴展到人類的全部思維活動, 尤其是科學技術領域。這對思維科學的建立與發展具有重大意義。

2) 在人類認識的發展史上, 形象思維早於抽象思維, 是錢學森反復強調的基本觀點。他說:「人認識客觀世界首先是用形象思維, 而不是用抽象思維。就是說, 人類思維的發展是從具體到抽象。……從人的發展來看, 一般講, 語言先於思維, 是指抽象思維而言的, 形象思維是在語言以前就有的。」[1]

3) 把形象思維與人們「只能意會、無法言傳」的實踐經驗、體會聯系起來, 認為這些實踐經驗、體會是人類寶貴的精神財富, 抽象思維無法說清楚;如果找到形象思維的規律, 就可以「把前科學的那一部分、別人很難學到的那些科學以前的知識, 即精神財富, 都可以挖掘出來, 這將把我們的智力開發大大地向前推進一步」[1]。他同時提醒, 在運用經驗、形象思維等概念時要有點警惕性, 弄不好就會犯錯誤, 變成經驗主義。

[ 1 ] 錢學森主編.關於思維科學[M ].上海:上海人民出版社, 1986.18, 21, 22, 24, 131～133, 137, 141, 151, 199

[ 5 ] 錢學森.系統科學、思維科學與人體科學[J].自然雜志, 1981, (1) :5, 6, 9 鏈接1

[ 9 ] 楊春鼎.形象思維學[M ].合肥:中國科技大學出版社, 1997.185, 190

[10] 錢學森.科學的藝術與藝術的科學[M ].北京:人民文學出版社, 1994.135～137 鏈接1

Comment by Sindumin on June 13, 2024 at 4:41pm

4) 形象思維與抽象思維不同, 「抽象思維比較簡單, 一步一步推論下去, ……可以說是線型的。而形象思維呢?……不是線型的, 是多路並進的; 不是流水加工, 而是多路網絡加工」[9]。「所以不宜把形象思維納入抽象思維的路子; 而這個毛病是容易犯的。我以為形象思維似重在整體, ……。豐富的實踐及知識是形象思維的基礎, 這與抽象思維很不一樣」[11]。

5) 形象思維對智力開發具有指導意義, 與人工智能的發展、智能機的研制直接相關。人工智能與智能機所面臨的主要難題就是以形象識別為基礎的形象信息的加工處理問題, 如果找不到形象思維的規律, 那麼人工智能與智能機就難以前進。錢老指出:「思維科學的研究, 我仍然以為其突破口在於形象思維學的建立, 而這也是人工智能、智能機的核心問題。因此, 這也是高科技或尖端科學技術的一個重點。我們一定要抓住它不放, 以此帶動整個思維科學的研究。」[4]

靈感思維是錢學森在倡導建立思維科學過程中，提出的一種不同於形象思維與抽象思維的新的思維形態, 並把靈感思維學作為思維學的四個組成部分之一。他充分肯定了靈感在創造性思維中的作用。他認為, 不論文藝工作者還是科技工作者, 要創造、要突破, 得有靈感;靈感出現於大腦的高度激發狀態, 高潮為時很短暫, 瞬時即過; 它與潛意識有關, 在潛意識裡加工, 而整個加工過程我們並不知道, 得到結果才與顯意識接通;它常是在半醒狀態下出現, 因為這種狀態下的思維活動框框少, 容易出現大跨度的飛躍。靈感並不神秘, 它也是來源於社會實踐, 沒有實踐經驗的小孩不可能產生科學家、工程師、藝術家的靈感。錢學森關於靈感的這些思想, 不僅突破了以往的禁區, 破除了靈感的神秘性, 而且在我國近20年來出現了靈感研究的熱潮, 推動了創造性思維研究的深入。

社會思維是錢學森倡導建立思維科學過程中提出的一個全新概念。有社會意識、社會心理, 那麼社會思維也就合情合理。社會思維學, 「要研究人作為集體來思維的規律, 它與集體的相互關係相互影響」。社會思維早就存在。我國南宋淳熙二年 (公元1175年) 就有「鵝湖之會」, 國外大資本家的參謀們也有社會思維, 他們要進行策劃; 至於各種學術討論會就更多了, 而且, 「哪一個學術中心學術討論搞得好, 這個中心的學術成果就多」。錢老還認為, 社會思維屬於系統學問題, 系統是有層次的, 「清一色的組織是出不了好東西的, 反而變成了閉塞」[1];「從定性到定量綜合集成工程 (metasynthetic engineering) , 就是以人-機結合的方法搞社會思維。由此實踐再上升為理論, 即社會思維學; 所以社會思維學的路子好像有了」[4]。「社會思維的規律用一句話, 就是我們黨的民主集中制: 在集中領導下的民主, 在民主基礎上的集中。在『鵝湖之會』不也有幾條會規嗎? 那就是集中領導。而學生可以不同意老師, 那就是民主了」[12]。

錢學森關於思維學的思想, 在80年代中期以後, 隨著認識的提高而有所發展。在1995年3月16日給戴汝為的信中[4], 對思維學的內容與范圍重新做了界定:「思維學就只有3個部分: 邏輯思維, 微觀法; 形象思維, 宏觀法; 創造思維, 微觀與宏觀結合。創造思維才是智慧的泉源; 邏輯思維和形象思維都是手段。」「到今天, 我們對邏輯思維研究得最深; 對形象思維只是搞了個開端; 對創造思維則尚未起步。對思維學我刪去靈感 (頓悟) 思維、社會思維和特異思維, 加了一個創造思維。也把從前的抽象 (邏輯) 思維簡稱為邏輯思維, 形象 (直感) 思維簡稱為形象思維。」

錢老對思維學的重新界定, 澄清了許多模糊認識, 但在理解上有兩點應特別注意: 第一, 對靈感 (頓悟) 思維錢老一直都很重視, 只是對它在思維學中的地位卻一再降級, 最後於1995年將它從思維學中拿掉。這不是說靈感思維不需要研究, 只是不把它作為思維學中一個單獨的思維形態, 而作為創造性思維的一種形式, 放到心理學中去研究, 因為它更多地涉及人的心理激發狀態, 特別是涉及潛意識問題, 人無法控制; 而思維科學研究的是人類能夠控制的思維活動。第二, 把社會思維學從思維學中去掉, 並非社會思維不值得研究, 只是不再把它作為思維學中的一部分, 因為社會思維不是與抽象思維、形象思維按照同一標准劃分出來的思維形態, 而是屬於在集體討論中相互激發狀態下的思維活動, 基本思維形態仍然是抽象思維與形象思維。

3.2思維科學的技術科學層次

在錢學森的思維科學體系中, 技術科學是把思維學的基本理論應用於工程實踐的中間環節, 主要內容包括模式識別、結構語言學、數理語言學、情報學、科學方法論等, 見圖1。

錢學森非常重視模式識別問題, 認為「建立形象思維學要通過研究語言和識別圖形」。他說:「以前模式識別工作一直是用相關統計法, 也就是把圖形不同部位的數據 (色彩和濃淡) 用數理統計計算相關函數, 以相關函數的分佈來識別圖形。這個方法計算量非常大, 顯然不會是人腦用的辦法, 人腦識別圖形幾乎是瞬時的! 近年來模式識別已經轉入所謂語義法, 效果比統計法好。」[1]

錢老的學生戴汝為院士關於模式識別的研究與應用，就是在錢老的直接關懷與指導下進行的。他的研究成果浸透著錢老的心血。

[ 1 ] 錢學森主編.關於思維科學[M ].上海:上海人民出版社, 1986.18, 21, 22, 24, 131～133, 137, 141, 151, 199

[ 4 ] 趙光武, 王　霽, 盧明森.思維科學研究[M ].北京:中國人民大學出版社, 1999.Ⅰ, Ⅳ～Ⅵ, 597, 602～603

[12] 錢學森.1994年10月10日致曾傑的信[A].曾傑, 張樹相.社會思維學[M ].北京:人民出版社, 1996 鏈接1

Comment by Sindumin on June 13, 2024 at 7:13am

（續上）模式識別原來是認知心理學研究人類認知的知覺過程的一個重要概念, 基本內容是將感覺信息與長時記憶中的相關信息進行比較, 以確認它與記憶中的哪類信息有最佳的匹配。德國的涅曼教授認為, 對於簡單的模式, 識別指的是分類; 對於複雜的模式, 識別指的是描述。概括來說, 人的模式識別有兩個要點: 認知 (cognition) 與識別 (recognition) [13], 都與形象思維密切相關。用計算機進行的模式識別是對人的模式識別的模擬, 在西方屬於人工智能的重要內容, 在我國則屬於思維科學中的技術科學。錢老認為, 國外的模式識別完全是用邏輯思維, 實際上, 模式識別不光是邏輯思維, 還有形象思維, 以及經驗的因素。

70年代初, 受日本實施的「模式信息處理計劃」的影響, 中科院自動化所的戴汝為、胡啟恆注意到模式識別的重要性, 尤其是用模式識別解決「人機接口」的誘人前景, 開展了模式識別的研究, 1974年研制出手寫數字識別系統, 用於信函自動分揀。80年代初, 戴汝為與普渡大學的美籍華人傅京孫教授合作, 開展了模式識別的理論研究, 建立了一種新的模式識別方法——語義句法模式識別方法, 即「語義法」, 更接近人腦模式識別的實際, 引起國內外的重視。1982年戴汝為向錢老匯報了所取得的研究成果, 在錢老的指導下, 開辟了把模式識別與思維科學——特別是形象思維聯系起來的新的科研領域。在此基礎上建立的模糊屬性自動機為聯機手寫漢字識別系統的研制打下了理論基礎。

90年代以後, 在錢學森提出的從定性到定量綜合集成方法論的指導下, 在完成一系列國家級重大科研課題的同時, 模式識別的理論與方法又有新的進展。例如, 針對人工神經網絡的特征選取方法、模擬形象思維子結構檢測器方法與模式識別中的「反向傳播」模型的缺陷, 提出了競爭學習算法;針對不同模式識別方法的適用范圍與局限, 提出了集成型模式識別方法, 從而使各種不同方法得以互補, 提高總體性能。

模式識別方面的一系列研究成果, 在錢學森倡導建立的思維科學體系中佔有重要的地位, 是近20年來思維科學中技術科學層次的主要成就。

在技術科學層次上另一項重大成果是從定性到定量綜合集成方法論的形成, 這是1990年錢學森和于景元、戴汝為在「一個科學新領域——開放的複雜巨系統及其方法論」一文中提出的。第一, 所謂「從定性到定量」, 不僅包含形象思維與抽象思維的結合, 而且是從形象思維的定性認識開始, 再到抽象思維的定量認識, 是一個動態的發展過程, 符合人類認識與改造世界過程中的思維活動實際。第二, 「綜合集成」的內容, 既包括現有的一切知識, 也包括以往的所有知識; 既包括一般人的知識, 更包括各種專家的知識;不僅包括已經成文、形成理論的科學知識, 而且還包括尚未成文的實踐經驗與體會, 因此是「大成智慧工程」。第三, 在這個「綜合集成」中, 人機結合、以人為主是核心內容, 使人與計算機發揮各自的長處, 實現人機互補, 這是與西方認知科學強調把人排除在外的自主式計算機系統完全不同的路線。第四, 這是現代科學技術條件下實現知識創新的有效途徑, 其中, 發揚學術民主, 調動每個成員的積極性, 發揮集體思維的優勢, 是這個方法論的獨到之處。

3.3思維科學的工程技術層次 

思維科學的工程技術是運用思維科學的理論直接改造客觀世界、解決具體問題和實踐性最強的學問, 主要內容有智能計算機研制、人工智能、計算機軟件技術、計算機模擬技術、密碼技術、情報資料庫技術、文字學等, 見圖1。 

新型 (智能) 計算機研制, 雖然要依靠物理元件的制造技術, 但是最根本的是設計指導思想必須以對思維、特別是形象思維的本質與規律的認識為根據, 在形象思維研究尚未取得突破以前, 不可能研制出真正的智能計算機。錢學森把智能機研制作為思維科學的一項工程技術, 把它與形象思維的研究聯系起來, 是很深刻的; 他倡導建立思維科學, 把形象思維作為思維科學研究的突破口, 就是為智能機的研制提供理論基礎; 同時, 也把智能機研制作為推動思維科學、特別是形象思維研究的動力與實踐, 二者相輔相成。 

錢老非常重視新一代計算機的研制, 一再強調智能機的研制是現在和今後50年的尖端技術, 是我國21世紀的重大戰略問題。但是, 我們不要跟著外國人走, 要結合我國的實際走自己的路。1985年他明確指出: 所謂第五代計算機有兩種含義: a. 第二代巨型機; b. 第一代智能機[3]。「第二代巨型計算機比較成熟, 可以通過論證, 在一段時間後立即開始研制, ……第一代智能機, 根據前面講的情況, 現在還不成熟, 只能是預研, 但因為它重要, 要認真安排課題」[6]。錢老1992年在給汪成為的信中指出:「我不以為能造出沒有人實時參與的智能計算機。所以奮斗目標不是中國智能計算機, 而是人-機結合的智能計算機體系。」[14]國家「八六三」計劃306主題15年的實踐證明, 錢老的這些見解是非常正確的。「八六三」計劃306主題開始時, 由於「受『跟蹤性』的選題思路影響較深, 立項論證時慣於遵循『國外正在搞什麼』」, 因此1986年把主攻方向與外國一樣定為「智能計算機系統」。（下續）

[ 3 ] 錢學森.我國智能機的發展戰略問題———1985年5月26日在「全國第五代計算機學術研討會」開幕式上的講話[R] 鏈接1

[ 6 ] 錢學森.關於「第五代計算機」的問題[J].思維科學, 1985, (2) :9～10 鏈接1

[13] 戴汝為.形象 (直感) 思維與人機結合的模式識別[J].信息與控制, 1994, 23 (2) :76～80 鏈接1

[14] 王壽雲等.開放的複雜巨系統[M ].杭州:浙江科學技術出版社, 1996.279～280 鏈接1

 

Comment by Sindumin on June 12, 2024 at 12:18pm

錢學森在全國思維科學大會的講話

（續上）當看到日本的智能機研制無成功的希望, 才逐漸醒悟, 1990年把主攻方向調整為「支持智能應用的先進計算機系統」;「1996年將主題的目標擴充為以研究『適應互聯網環境、面向智能應用的高性能計算機系統』為主的主攻方向」, 從而很快研制出曙光系列高性能計算機, 以及天演、天闊、浪潮等國產高性能服務器, 滿足了國內需要, 打破了國外對高性能計算機的壟斷, 初步建立以國產曙光系列計算機為主的國家高性能計算機網[15], 縮短了與國際先進水平的差距。

智能接口技術, 是國家「八六三」計劃306主題中使計算機具有智能中文處理能力的研究課題, 是思維科學工程技術層次最緊迫的研究任務。中科院自動化所的成果較突出。80年代後期, 他們在聯機手寫漢字識別系統基礎上, 解決了漢字字符串的排序問題, 大大減少了個人書寫習慣對識別效果的影響, 建立了世界最大的400萬字手寫體漢字樣本庫。日本模式識別專家、神戶大學田中榮一教授稱贊說:「我認為在日本沒有哪一個手寫漢字識別系統能夠比得上你們的系統。」[16]90年代研制成功集成型聯機手寫漢字識別系統, 漢王公司開發成功我國第一個面向智能化的中文平台——863OFFICE99辦公套件, 於1998年12月授權美國微軟公司, 在中文WINCE平台的掌上電腦中全面采用聯機漢字識別技術。

在脫機手寫漢字識別系統的研制成果中, 清華大學、北京郵電大學與自動化所的成果都達到了實用化的水平。在印刷體漢字識別技術方面, 中科院自動化所研制成功「全自動印刷體漢字識別系統」[16]。 錢學森充分肯定了戴汝為在漢字識別技術研究方面的貢獻, 說「他對AI有比較符合馬克思主義哲學的認識, 不搞機械唯物論, 搞人與機的辯證統一, 成功地解決了計算機識別手寫漢字的問題——一個初級的計算機圖像識別」1。

錢學森非常重視我國古典文學藝術對研究形象思維的意義。在錢老這些思想的啟發與指引下, 戴汝為等從1994年秋開始, 對計算機春聯藝術進行了大膽的探索, 經過5年努力, 研制出初步的計算機春聯藝術系統。建立了有4 700副春聯的語料庫、1 000多韻律詞的基本詞庫, 使計算機能夠自動生成一些比較簡單的春聯。如, 對上聯「春回大地」, 可生成「福滿人間」、「福滿山川」、「喜到神州」等下聯; 對上聯「黨開致富路」, 可生成「人過幸福年」、「民盡報國心」 等下聯; 對上聯「爆竹一聲除舊」, 可生成「桃符萬點更新」、「梅花萬點更新」 等下聯 [17]。這是計算機模擬人的思維、特別是形象思維研究上的重要成果。

錢學森提出的「從定性到定量綜合集成研討廳體系」, 不僅對系統科學、思維科學有重大的理論意義, 而且對國家各個領域重大、複雜問題的決策具有巨大的實踐價值。1992～1996年, 在國家「八六三」計劃306主題的支持下, 開發了綜合集成的宏觀經濟智能決策支持系統 (MEIDSS) 。1999年, 在國家自然科學基金的支持下, 開展了「支持宏觀經濟決策的人機結合綜合集成體系研究」。這是進一步的實踐。錢學森提出的「從定性到定量綜合集成研討廳體系」從理論探索階段進入大規模的實驗研究階段, 是思維科學工程技術層次的重要內容。

4 為建立、發展思維科學而奮斗

近20年來, 現代科學技術的發展突飛猛進, 各種信息大量湧現, 計算機已經成為人們處理信息的重要工具。然而, 現在的計算機所能夠處理的僅僅是符號, 所能模擬的僅僅是部分抽象思維, 無法模擬形象思維。20世紀80年代興起的智能機研制熱潮, 想解決這個問題, 但沒有成功。因為人們對形象思維還缺乏研究。因此, 20世紀90年代, 人們把注意力集中到人腦。十年又過去了, 仍然沒有突破。從這20年的歷程可以看到, 錢學森20年前倡導建立思維科學具有明顯的前瞻性、預見性。

思維科學是正在建立的新興科學, 屬於新生事物。一些學者在思維科學的不同層次進行了研究與探索, 取得了一些成果, 發表了一些論著, 這是很有意義的。認真、全面地研讀錢學森近二十幾年關於思維科學的文章、講話、信件, 就不難看到他所倡導建立的思維科學的全貌。把思維科學作為現代科學技術體系中11個大部門之一, 其中包含三個層次, 就能恰當地認識與估價自己的研究成果在其中的價值; 只要協同工作, 長期努力, 就能建立起完整的思維科學體系。錢學森關於思維科學研究道路的思路是非常清楚的, 那就是理論聯系實際, 沒有理論指導是不行的; 在當前, 新一代計算機的研制、人工智能顯然佔有突出地位。

我們的任務是, 跟上現代科學技術迅猛發展的形勢, 全面、凖確地理解、宣傳錢學森關於思維科學的思想, 為思維科學的建立與發展而共同奮斗!

[15] http://www.863.org.cn/information/info0401.html[EB/OL] 鏈接1

[16] http://www.ai.ia.ac.cn[EB/OL]

[17] 費越.漢語語義的多層次集成研究及春聯藝術系統設計[D].中國科學院自動化研究所, 1999

（原題：1984年錢學森在全國思維科學大會的講話；2021-07-05 思維科學中的基礎科學）

Comment by Sindumin on June 11, 2024 at 7:38am

芮明傑·前瞻科學技術是選擇未來產業的路徑——導讀·未來產業是指未來相當長時間（未來15—30年）中形成的新興產業。它是面向那時人類社會美好需求的，由未來突破性關鍵技術驅動的，未來可能會發展成戰略性、前瞻性的新產業。

「未來產業的佈局是爭取中國未來產業體系在全球全面領先的關鍵一步，意義十分重大。」芮明傑教授在發表於《社會科學報》上的一篇文章中，為我們闡述了什麼是未來產業，未來產業對人類生活工作有什麼樣的影響，同時指出，前瞻科學技術不等於未來產業，我們需要新的理論與方法幫助深入研究未來產業。

全球地緣政治變化導致科技與產業發展競爭非常激烈，各國政府不僅考慮現今與近期的未來產業發展優勢，而且積極考慮中長期科技與未來產業的競爭優勢問題。於是未來產業是什麼；其對未來人類生活工作有什麼樣的影響，對未來經濟社會的發展會是一種什麼樣的介入與作用；選擇與佈局什麼樣的未來產業方向與未來之發展趨勢一致，這些問題是全球各國必須面對的，中國也不例外。

我們定義的未來產業是指未來相當長時間（未來15—30年）中形成的新興產業。它是面向那時人類社會美好需求的，由未來突破性關鍵技術驅動的，未來可能會發展成戰略性、前瞻性的新產業。

今天來看，這樣的未來產業是代表未來科技和產業發展新方向，目前尚處於科學技術探索萌芽期，未來有可能孵化成熟和實現產業轉化，能夠為國民經濟提供重要支撐和巨大帶動作用的潛在產業，一定對人類經濟社會可持續發展具有促進和引領作用。

(本文作者：芮明傑；原題：前瞻科學技術是選擇未來產業的路徑；見：2023-08-01復旦大學EMBA項目教授 I 識局）

Comment by Sindumin on June 10, 2024 at 10:00pm

未來產業的五大基本特征

從現代化產業體系的建設以及未來動態競爭優勢的保持來看，佈局未來產業是十分重要的。短期來看，佈局未來產業是推動中國與地區產業結構轉型升級的戰略性舉措，也是產業體系現代化長期謀劃的考慮。長期來看，如果說目前中國戰略新興產業發展起步不久，與發達國家相比尚處下風，競爭優勢需要努力建立，那麼未來產業的佈局則是爭取中國未來產業體系在全球全面領先的關鍵一步，意義十分重大。

從目前人類社會對未來的期盼以及目前科學技術進步趨勢來看，我們所選擇未來15至30年形成的新產業應該有如下特征。

第一個特征是具有綠色低碳新形態。未來產業本質上和形態上都是綠色低碳的產業，因為我們對於碳達峰與碳中和的承諾，以及全球共同應對氣候、碳排放的努力，都會要求未來形成的新產業應該是低排放低污染環保清潔的產業，而且技術進步也為此做好了准備。

第二個特征是各類前沿技術的新結合。未來產業，既有通用技術的創新應用，又有專有技術與工藝技術的協同結合。更重要的是未來產業還是許多跨領域的前沿技術融合交叉結合創新形成的。換句話說，未來產業具有前瞻性領先性的未來先進技術密集特性。

第三個特征是創造未來社會新需求。未來產業是未來的供給，而且是有大量需求的供給。未來產業通過突破性的技術與產品或服務創造了未來市場上的大需求。從歷史角度看，我們現在的很多產業實際上都是一百年前的未來產業，比如說汽車產業、計算機產業、互聯網信息產業等等，都是技術創造形成產品或服務，創造了大量的需求而成就的產業。由於這些產品本質上符合人類的基本需求特性，通過努力才能夠在市場上獲得成功。

第四個特征就是催生發展新空間。未來產業形成發展之後，它一定給當時的人類社會帶來巨大的效用，同時它還可能帶來更多的發展新空間，例如量子計算機如果成為產業即成為大規模可以使用的產品或服務，那麼可以想像出這個產業一定還會給我們帶來許多衍生的其他產品與服務，就像當年的計算機促成後來的互聯網一樣。

第五個特征是引領未來發展新動能。我們佈局的未來產業是希望其將來能夠成為當時引領發展的領軍型產業，不光自己具有極大的發展空間，還需要其能夠具有帶領當時其他產業發展進步的功能，這樣的話此未來產業就具備了未來經濟產業發展的新動能，就像今天的半導體產業已經成為幾乎所有產業領先發展的關鍵。

佈局未來產業意味著要選擇培育有上述特征的若干產業。那麼怎麼選擇呢？是否通過對現今科學技術發展趨勢的把握，對前瞻科學技術的預見就可以選擇？

前瞻科學技術不等於未來產業

佈局未來產業的關鍵困難是我們難以判斷今天正在發展進步的前瞻科學技術是否就一定導致未來產業。

前瞻性技術並不等於未來產業，因為創新成功的技術成果只有轉化為商業成功，即轉化為有較大市場空間的產品或服務時，產業才真正形成。這個過程我稱之為產業創新。產業創新是由企業最終來完成的，只有把技術成果創新為新產品，然後進行工藝創新與管理創新，使之真正生產出來可以適用，並能夠創新拓展出市場空間進而商業化成功才算完成。產業創新是所有新產業形成發展的必由之路，它不同於技術創新。未來前瞻技術轉變為未來產業一定也要經過這個過程。如「量子技術」是前瞻技術，它不是產業，但它是支持量子通信產業的關鍵技術，也是可以支持量子計算機產業的關鍵技術。未來產業一定是由現在看來十分前瞻的技術支持的。

歷史已經證明並不是所有的技術創新結果都可以形成新產業，不能簡單只從科學技術研究趨勢來判斷未來產業發展的可能，因為科學技術是產業發展的支持，但其本身不是產業。技術可以分為三大類：通用技術、專有技術、工藝技術。（下續）

Comment by Sindumin on June 10, 2024 at 12:29pm

芮明傑：前瞻科學技術是選擇未來產業的路徑

（續上）通用技術是指基礎性的可以支持很多領域的科學和技術研究與應用發展的技術，例如算法、數據獲取與分析技術、人工智能技術、信息通訊技術、生物基因技術、量子科技等。算法就是一個通用技術，今後凡是人工智能應用的方面，都跟基本算法有關係。而數據、大數據數據獲取分析技術在數字經濟條件下，幾乎所有的領域都有應用這樣的技術，所以它是一個通用性的技術。通用技術雖然也是未來產業所需要的，但並不直接導致一個產業。

專有技術是指在通用技術基礎上，結合不同應用領域進一步深化研究發展形成的新技術。專有技術是在某一個領域裡面的特有的技術，如新能源技術、減碳技術、航天技術、量子通信技術等等。專有技術的特點是只能適應於某個特有的領域，比如說航天技術就只能適合航天領域，通用技術跟專有技術的區分就在於一個是普適性的，一個是專有的，兩者也有相關的關系。

如果從產業的角度上來講，上述技術創新的成果即便十分偉大，是突破性創新，但如果沒有工藝制造技術，這個技術成果就無法轉化為產品，或者轉化為產品卻沒有辦法大批量生產，而且質量與品質還不穩定。所以工藝技術、制造技術是產業化關鍵的技術之一。在工藝制造技術裡面，其中一個環節就是新產品模具開發設計，因為有了模具才能有標准化的產品生產，模具的開發其實也是一種創新。有一些產品很粗糙，首先是因為這個模具不行，於是生產出來的東西就很粗糙。

要成就一個新產業，僅僅有其中一個方面的技術成果是不行的，需要這三類技術的協同創新互相銜接才行。正因為如此，我們不能以為目前的一些前瞻科學技術未來就一定能夠成為產業，現在投入研發進行技術創新，盡管這個技術創新成果十分重大，也僅僅是成就未來產業的一個可能而已。所以從科學技術進步趨勢角度判斷未來產業具體是什麼只是一條路徑，某個前瞻科學技術不等於就是某個未來產業，但可以導引與支持未來產業誕生、成長與成熟。

由於選擇與布局未來產業對中國現代化產業體系建設，以及中國未來產業在國際市場上的競爭優勢確立十分重要，需要新的理論與方法幫助深入研究未來產業。

(本文作者：芮明傑；原題：前瞻科學技術是選擇未來產業的路徑；見：2023-08-01復旦大學EMBA項目教授識局）

芮明傑： 未來產業預見的五個路徑

全球地緣政治變化導致全球科技與產業發展競爭非常激烈，各國政府不僅考慮現今與近期未來的產業發展優勢，而且積極考慮中長期科技進步與未來產業的競爭優勢問題。於是未來產業是什麼？其對未來人類生活工作有什麼樣的影響，對未來經濟社會的發展會是一種什麼樣的介入與作用？選擇與佈局什麼樣的未來產業方與未來之發展趨勢一致？等等問題就放到了全球各國的面前，於是對「未來產業」的預見與佈局謀劃應運而生。

技術預見只是一個重要路徑

佈局未來產業，就必須預見未來產業是什麼樣的產業。盡管今天與未來前沿性技術並不等於未來產業，因為創新成功的技術成果只有轉化為商業成功，即轉化為有較大市場空間的產品或服務時，產業才真正形成。這個過程我稱之為產業創新。產業創新是由企業最終來完成的，只有把技術成果創新為新產品，然後進行生產工藝創新與管理創新，使之可以真正生產出來可以適用，並能夠創新拓展出市場空間進而商業化成功才算完成。產業創新是所有新型產業形成發展的必由之路，它不同於技術創新。但未來產業一定是現在看來十分前沿技術支持的。如「量子技術」是前沿技術，它不是產業，但它是支持量子通信產業的關鍵技術，也是支持量子計算機產業的關鍵技術。因此從前沿科學技術入手，從對前沿技術發展的預見進而預見未來產業是什麼，然後再考慮怎麼才能推動未來產業順利成長與發展，就順理成章。

技術預見在發達國家早就有之，上個世紀80年代，著名的未來學家托夫勒在《第三次浪潮》的書中就預見從20世紀50年代開始直至未來的文明即第三次浪潮。托夫勒認為：第三次浪潮的社會有五個重要的特征：1）生產工具在目前為以電子計算機、互聯網為代表的高價值低價格工具; 2）經濟活動涉及的資源主要是人的腦力; 3）經濟所需的主要能源為人的腦力; 4）經濟運作的典型主體目前處於萌芽狀態，為小團體或個人企業; 5）文化的主要表征包括去中心化，混沌主義，但總體上不明確。

四十多年過去了，托夫勒也於2016年7月2日在洛杉磯家中去世，享年87歲。他應該是已經看到了當年他的許多預見在今天已經一一驗證了。我們今天的人類生活與社會發展不是已經1）計算機互聯網已經成為人類生活的一部分，我們的社會已經離不開計算機與互聯網；2）資本已經不再這麼重要，而知識與人力資本已經成為最重要的生產要素；3）人的腦力已經是社會最重要的資源，將來人工智能可能成為替代人腦的替代物；4）今天海爾公司倡導的「人單合一」式的平台經濟、小微經濟正在快速發展；5）而與互聯網發展相關的平台經濟的出現正在導致去中心化。（原題：芮明傑： 未來產業預見的五個路徑；來源：上海市科學學研究所）

Comment by Sindumin on June 9, 2024 at 1:11pm

中國科學技術預見始於20世紀90年代，並於2000年後形成系統性的技術預見研究。2003年，中國科學院開展了「中國未來20年技術預見研究」，並於2009年發佈了《創新2050：科技革命與中國的未來》，描繪2050年中國在能源、人口健康、空間與海洋等18個重要領域的科技發展路線圖。之後，還有許多研究機構開始了對中國未來科學技術、經濟、產業等方面的研究，力量分散，遠見不夠。

其實科學技術預見非常重要，二戰之後美國曾經有的一個研究報告《科學：無盡的前沿》就是一個十分經典，十分成功的科學預見報告。它對美國戰後科學技術發展，成就全球領先貢獻很大。2022年美國通過的《芯片與科學法案》也是這樣一個科學技術預見法案。然而這些報告與法案本身不是未來產業預見的報告，因為科學技術本身不是產業，但會深刻影響未來產業的發展。對科學技術進行預見的需要一方面是科學技術自身發展的要求，以便制定科學技術發展戰略進行資源有效配置，另一方面則是幫助我們對未來產業形成與發展進行預判。

預見未來產業的五個方面

進行未來產業佈局的前提是要對未來產業形成發展的方向、重點，由此導致的資源配置規劃進行研究，這就是要對未來產業發展進行預見研究。未來產業預見研究很重要，是確定未來產業佈局前期重要研究工作。為此可以專門設個研究院，或者在現行產業研究院中專門設這一機構。預見的科學性與理論方法准備有關，於是建立和開展未來學學科建設，培養未來學研究人才十分重要。顯然，所謂的戰略科學家不能沒有未來學的理論造詣。我以為預見未來產業可以有五個方面入手：

1、從人類未來需求預見入手。人類未來的需求是未來產業產生發展的邏輯起點，未來產業是未來社會的供給，因此未來產業產出的產品與服務需要與人類社會的未來需求相適應，才能持續生存發展。然後人們並不知道他們未來究竟具體需要什麼，這樣就給了我們做需求預測一個挑戰。現行對消費者未來消費的預測是建立在現行需求基礎上的，最多是短期有效。我以為中長期對需求的預測是困難的，但有一個基本邏輯又是正確的，這就是未來的產品與服務必須符合人們的本性欲望，如果說人們的本性欲望是健康，低碳，安全、和諧，便利等，那麼未來產業供給的產品與服務就必須符合這些人們一個或多個方面的本性欲望才行。例如如我們可以斷定人們對未來會追求個性化消費，於是從今天到未來肯定會有一大批個性化產品或服務產生，現行的科學技術、生產技術也都會為此准備，所謂工業「4.0」智能生產技術看、數據分析等就是為此而准備的。

2、從破壞性創新、突破性技術進步預見入手。未來的破壞性創新或突破性技術進步是有可能導致原創產品或服務的產生，進而有可能發展形成未來產業。從這個角度進行預見其實是科學技術未來發展趨勢的角度來對未來產業進行預見。而破壞性的創新和突破性的技術進步首先可能與通用技術發明創造的未來重大突破有關，甚至有可能改變整個現行的世界，改變我們人類的生活方式。不久前出現的ChatGPT以及延伸各種相關專有技術和後來的產品與服務不是即將改變人類的生活方式嗎？ChatGPT可以看做時下人工智能方面的破壞性創新。破壞性創新或突破性技術進步源於科學基礎研究的突破，所以預見未來產業所以要從科學基礎研究的進展，要從通用性技術的變化來預見。

3、從現行不同技術之間的融合創新發展方面進行預見。現行不同技術之間的融合創新可能在未來產生新產品、新業態和新模式，導致未來產業形成。例如ICT (Information and Communication Technology) 就是信息和通信技術的結合，進而形成新型電信服務、信息服務、IT 服務等，創造出適應社會需求的新型產業。今天現實中有各種各樣看上去沒有關聯的技術與產品，未來它們或許由於某個方面的技術進步就導致了融合，聯接了起來，進而形成未來新型的產業，例如數字新技術。

4、前沿新技術與傳統產業嫁接融合創新也可能形成未來需要的產業。未來前瞻的通用技術專有技術或工藝制造技術嫁接到現在傳統產業和企業的技術和產品中去，通過這種嫁接與融合創新，可能形成新型技術與產品。比如說人工智能這樣的前沿技術可以嫁接到我們現在的各種各樣產業裡面去，加入到家居行業未來就可能形成未來的智能家居行業，嫁接到醫療制造設備行業就可能形成智能醫療設備行業，等等。這就是前沿技術跟現行產業的融合可能導致未來產業的發展。

5、不同的現行產業之間、現行產業與未來產業之間深度融合創新，也可能產生新的適應未來需求的產業。今天我們已經看到產業發展的趨勢就是產業的邊界模糊化了，融合性加強，例如制造業與服務業已經開始了深度融合，因此我們有理由通過推測現行產業之間，現行產業跟未來產業之間未來的融合，可能形成未來新型的產業。（原題：芮明傑： 未來產業預見的五個路徑；來源：上海市科學學研究所）

Comment by Sindumin on June 6, 2024 at 9:54am

以文化軟實力涵養科技硬實力

對創新和科學文化的思考有歷史性、地域性兩個維度。

各國正在塑造怎樣的科學文化？中國加快推進高水平科技自立自強需要怎樣的科學文化？9月9日上午，2023浦江創新論壇·創新文化論壇將在東郊賓館舉行。時隔幾年，文化論壇回歸浦江創新論壇，探討科技創新背後的文化土壤，關注中國新時代創新文化建設。這場論壇邀請到哪些演講嘉賓？他們將與觀眾分享哪些研究成果和觀點？記者采訪了本次論壇承辦方的專家，讓讀者對論壇亮點先睹為快。

兩個維度看科學和創新文化

2023浦江創新論壇·創新文化論壇的主題為「追光：創新的精神與動力」，由科學技術部和上海市政府主辦，科技日報社、中國科學技術發展戰略研究院、上海市科技工作黨委、上海市科委、同濟大學、解放日報社、上海市科學學研究所承辦。

為何確立這一主題？承辦方的詮釋是：科學文化是科學技術發展和創新的精神土壤和動力之源。不同國家不同地區，在勇攀科技高峰的道路上形成了各具地方特色的科學文化。「文明因交流而多彩，文明因互鑑而豐富」。中西科學文化交流的先驅徐光啟曾發出感慨：「欲求超勝，必先會通。」交流、會通，是科學文化的基本內涵。

當今世界正經歷百年未有之大變局，新一輪科技革命和產業變革持續深入發展。培育與時俱進的科學文化是各國科技發展的重要力量，因此，一些思考與研討正當其時——各國正在塑造怎樣的科學文化？中國加快推進高水平科技自立自強需要怎樣的科學文化？本次論壇邀請多位國內外專家，圍繞科學文化這一議題展開探討，以促進科學文化的互鑑。

「我們對於科學文化和創新文化的思考與研討，有歷史性、地域性兩個維度。」上海市科學學研究所李輝研究員說，歷史性維度聚焦中國，從明代上海人徐光啟推動中西文化交流、引進歐洲科學技術，到近現代中國對西方先進科學技術的學習和追趕，再到改革開放後科技的快速發展……在這一進程中，中國的科學文化和創新文化是如何發展的？如今，我國正在加快推進高水平科技自立自強，這一歷史使命需要怎樣的科學和創新文化土壤？

除了歷史性維度，地域性也是此次論壇的一個維度：本屆浦江創新論壇主賓國巴西、創新的國度以色列、科技領先國家英國……多個國家以及來自本屆浦江創新論壇主賓省湖北的專家將發表主旨演講，並參與圓桌討論，探討自己所在國家和地區的科學和創新文化。（原題：以文化軟實力涵養科技硬實力；来源：上海市科學學研究所 2023-09-14）


延續閱讀：

電影達人
札哈哈蒂：房子能浮起來嗎？07
史蒂格勒後種系發生

陳明發：從五行資產到智慧資本
鬼崇拜與真實體驗的魔幻之域
錢老構建和開拓了中國的思維科學

全馬最古老的華文小學：古達樂育
陳明發（舒靈）的詩《寂寞》

• ‹ Previous
• 1
• 2
• 3
• 4
• Next ›
• Page