我們也許可以承認，按照我們今天所理解的欲望，電腦人不會產生這樣的東西。那我們能不能重新定義欲望？我們不可能單單重新定義欲望，為此，我們需要重新定義感知、感情、理解、理想、精神，一句話，我們需要重新定義人。

我並不是在主張有一種亙古不變的人性。今人的人性不是一萬年前智人的人性。在那時的智人看來，今人的人性已經面目全非。不過，人性的改變和技術造就的改變不是同種類型的改變——人性的改變不是設計出來的。（歷史上不止一次有政治家和思想家企圖通過設計來改變人性，但他們無一例外都失敗了。）簡單說，人性的改變坐落在人性的連續性之中，這樣的改變我們稱作生長。對這種連續性的變化，調整定義是有意義的，但對人工智能，幹嗎非要用它來重新定義人呢？

我不怎麽擔心電腦會變成人，變成一種超級人類，然後來統治人。但我倒相信，人工智能技術會大規模地改變現有的人類，最後變得面目皆非。

技術當然不是今天才有的。不過，今天的技術不同於以往的技術。粗略說來，人類技術經歷了三個大階段。最初，技術是工匠們琢磨出來的。後來，十八、十九世紀以來，技術是科學技術——現代技術不再是匠人摸索出來的，而是基於科學原理發明出來的。工業革命依賴的是這樣的技術。

人工智能代表的是第三波技術發展。這一波與前兩波的主要區別在於它做的是「腦力勞動」。人的能力可以粗分為體力和腦力。工業革命引入了一系列新能源、新機器，它們把很多體力勞動接過去了。人工智能將把很多腦力勞動接過去。人們預料，人工智能將比工業革命給社會帶來更劇烈的改變。因為體力本來就不是人的特長，腦力才是，柏拉圖在《普羅泰戈拉篇》裏就說過，人沒有翅膀四足尖牙，勝過動物的只在於才智。要是腦力也用不著人了，人還能幹什麽呢？

腦力和體力的區分有時有點兒誤導。剛才我說，智能並不只在腦力裏，我們一投手一投足，動手動腳，都體現智能。這意味著，所謂腦力勞動不只是腦子的勞動，人類的一切活動，都有腦力在內。結果，人工智能有可能把幾乎所有勞動都接過去。

人類發明各種技術，本來就因為技術可以代替人類勞動。但也有人擔心，人工智能技術只有少數精英能夠掌握，大多數人參與不到其中。一方面，他們的勞動將越來越「不值錢」。另一方面，他們的生活將越來越依賴於少數精英的發明。社會結構因此會發生巨大變化，只有少數人是有用的，大多數人變成了「無用階級」。

我們也許覺得這是杞人憂天，不勞動了，還可以玩嘛。我們可以把世上的事情分成我愛幹的和我不愛幹的，有了電腦人，我們就可以把我們不愛幹的事情派他去幹，然後把時間省下來做我們愛幹的那些事，比如說打球、聽音樂會、談戀愛。談戀愛我就不派電腦人去，這麽好的事派它去幹嗎啊？

我們是可以區分哪些事是我們不得不做，哪些事是我們樂意做的，但是這種區分挺有限的。比如說帶孩子，換尿布不愛幹，逗孩子笑愛幹。但你不給孩子換尿布，逗孩子玩就沒那麽樂。好玩的事情怎麽跟有點兒苦有點兒累的事情連在一起，我們弄不大清楚，但我們大致知道，你為孩子付出了很多辛苦，你跟他的相處就會有一些不同的品質。等到把不愛幹的事情都交給機器人以後，剩下的愛幹的事情的性質也會改變，你作為一個人的品質總體上也會改變。

我們勞作得很辛苦，難免有時會希望別人做這些工作我們來享受勞動成果。不過，如伯納德·威廉斯指出的，人並不是只要享受的生物，我們不僅希望獲得結果，我們也希望這些結果是親力親為的結果。馬克思認為，勞動創造了人，勞動是人的基本需求。勞動與享受割裂開來，勞動由機器完成，人單單享受結果，人的定義就改變了。