奧特曼：我有兩個相互矛盾的想法。

對我個人來說，在OpenAI發生的最令人滿足的事情之一是，當我們發佈這些新的推理模型時，我們把它們交給傳奇科學家、數學家、程序員等等，問他們怎麼想。

聽到他們講述他們可以用新的方式工作，我確實從中獲得了最大的職業樂趣——不得不真正創造性地推理一個問題，找出以前沒人解決的答案。

我期待現實中會發生的是，我們會以新的方式解決難題，積極參與解決最難的問題，同時帶來快樂。

Q：你如何使用ChatGPT解決工作中面臨的問題？

奧特曼：老實說，我用它的方式很無聊。

我不是用它來幫我提出新的科學想法的人，而是用它來處理電子郵件，或者幫我總結文件，這些都很無聊的事情。

在AI身上，人類找不到歸屬感

Q：另一個我原本期望人類能保持優勢更久的領域是同理心。我讀過的最喜歡的實驗表明，如果你在進行文本對話，不知道對方是人類還是ChatGPT，事後被問到你感覺被看到多少、被聽到多少、得到了多少同理心和支持，你會覺得從AI那裡得到的同理心和支持比從人類那裡多——除非我們告訴你那是AI，然後你就不再喜歡了。

作為心理學家，我看到這些證據有幾個反應。一個是我認為不是AI在同理心上有多好，而是我們人類默認的同理心很差，太容易陷入自我對話的陷阱。

但我也想知道，這種「如果我知道是AI我就不想要」的心態能持續多久。

奧特曼：讓我先談談一個普遍現象：人們有時更喜歡AI的輸出，直到被告知那是AI，然後就不喜歡了。這種情況反復出現。

我最近看到一項研究，即使是那些聲稱最討厭AI藝術的人，在選擇他們最喜歡的作品時，仍然更多選擇了AI的輸出，而不是人類的，直到他們被告知哪個是AI哪個不是，然後就變了。

我們可以舉出很多例子，但這個趨勢是AI在很多方面趕上了我們，然而我們天生更關心人類而不是AI。

我認為這是個很好的跡象。

盡管你可能會比現在更多地和AI對話，但你仍然會非常在意什麼時候在和人類對話，這是生物學、進化歷史和社會功能的深處的東西。

Q：你為什麼認為我們仍然想要人類連接？這聽起來像是Robert Nozick論點的一個版本，人們更喜歡真實體驗而不是模擬的快樂。

你認為這就是我們渴望的嗎？我們只是想要真實的人際連接，即使它有缺陷和混亂——當然AI也會學會模擬這些。

奧特曼：你會很快發現，和一個完美無瑕、絕對有同理心的事物對話久了，你會懷念戲劇性、緊張感或其他東西。

我認為我們天生就很在意別人怎麼想、怎麼感受、他們如何看待我們，我不認為這能轉移到AI上。

我覺得你和AI的對話可能很有幫助，你會感到被認可，那是一種很好的娛樂，就像玩電子游戲是一種很好的娛樂，但我不認為它能滿足成為群體、社會一部分的那種社交需求，至少對我們來說是這樣。

我可能錯了，也許AI能完美地操控我們的心理，那就真的會讓我很難過。

Q：你說得對，AI很難替代歸屬感，也很難從AI那裡獲得地位，感覺自己重要、酷或被尊重，我們依賴其他人的目光和耳朵來實現這些。

奧特曼：我其實是想說，我能想像不久的將來，AI會變得比我們厲害得多，能幹出各種厲害的事兒。

當我想到那個世界，再想想裡面的人，我覺得大家還是會很在意其他人，會老想著跟身邊人比地位啊、玩些小把戲什麼的。

不過，我覺得沒多少人會拿自己跟AI比，看AI能幹啥。因為我們還是更在意人和人之間的那些事兒。

Q：我一直很好奇的一件事是，在信息越來越有爭議、事實越來越難以說服人的世界裡——比如在陰謀論信念數據中看到的，人們相信陰謀論是因為這讓他們感到既獨特又重要，覺得自己掌握了別人不知道的知識。

當然這不是唯一原因，但這是主要驅動因素之一。這意味著另一個人類很難說服他們放棄這些信念，因為這等於承認自己錯了。

我假設隨著社會消化這項新技術，社會會發展得更快，科學進步肯定也會更快，我們正在與這個驚人的新工具共存。

但你的日常生活和幾年前相比感覺有多大不同？其實沒那麼不同，對吧？

我認為從非常長遠的角度看，AI確實會改變一切。

但十年前我天真地認為，當我們擁有像現在最強大的模型時，一切都會改變，現在我覺得那是天真的看法。

Q：這是標准模式：我們高估短期變化，低估長期變化，對吧？所以你對此應該深有感悟。

奧特曼：最終，我認為整個經濟都會轉型，我們會找到新的事情去做，我對此一點也不擔心。

我們總會找到新工作，盡管每次面對新技術時，我們都假設所有工作都會消失。確實有些工作會消失，但我們會找到更多新的事情去做。

Q：每個人都相信AI是顛覆性的，但沒人知道這對領導力、工作、組織、產品和服務意味著什麼。

奧特曼：從這個意義上說，它更像是工業革命，而不是互聯網革命。

我們不知道這會如何發展，但我認為我們也可以說很多關於如何發展的東西。

我有幾個高層次的假設，一個是我們將停止重視能力，開始重視人類的靈活性。我覺得弄清楚要問什麼問題會比找出答案更重要。

Q：這與我過去幾年中的觀察一致，我們過去很看重大腦知識的積累量，一個人存儲的知識越多就顯得越聰明，也更容易獲得尊重。而現在我認為，做點的連接者比知識的收集者更有價值。

如果你能綜合並識別模式，你就有了優勢。

你看過《太空堡壘卡拉狄加》（Battlestar Galactica）這部電視劇嗎？劇中反復說的一句話是「這一切都發生過，這一切還會再次發生」。

當人們談論AI革命時，我確實覺得它在一些超級重要的方面有質的不同，但也讓我想起以前的技術恐慌。

小時候，大孩子們告訴我，老師們開始禁止用谷歌。

他們覺得如果你能查到每個事實，那去歷史課記事實有什麼意義呢？我們會失去一些教育孩子以及怎樣成為社會負責任成員的重要東西。

如果你可以立即查到任何事實，甚至不需要發動汽車去圖書館翻卡片目錄找書。

但實際上發生的是，我們有了更好的工具，期望提高了，但人的能力也提高了，我們學會了做更難、更有影響力、更有趣的事情。

我期待AI也是這樣。

如果幾年前你問某人：A.2024年會有像o1這樣強大的系統嗎？B.如果有個預言家告訴你你錯了，會有這樣的系統，世界會改變多少？你的日常生活會改變多少？我們會面臨生存危機嗎？

幾乎每個被問到的人都會說，A肯定不會，但如果我錯了，真的發生了，那我們在第二個問題上就完蛋了。

然而，這個驚人的事情發生了，我們現在就在這裡。

Q：對於研發科學家來說，當他們有AI協助時，提交的專利增加了39%，這導致產品創新增加了17%。其中很多是突破性的，比如發現新的化學結構。

如果你是處於底部的三分之一科學家，幾乎沒有什麼好處，但頂尖科學家的生產力幾乎翻倍。這種翻倍似乎是因為AI自動化了很多創意生成任務，讓科學家能把精力集中在創意評估上，優秀的科學家很擅長識別有前景的創意，而差的科學家容易被誤導。

但這也有代價，研究中82%的科學家對工作滿意度降低了，他們覺得自己做的創意工作變少了，技能沒有得到充分利用。人類在這種情況下似乎被簡化為評判者，而不是創造者或發明者。我很想知道你如何看待這些證據，以及我們該怎麼辦？

OpenAI奧特曼：下一代人不可能比AI聰明～【新智元導讀】最新一期TED采訪中，Chatgpt之父奧特曼（Sam Altman）重申對OpenAI率先發布AGI的信念，並稱沒有多少人會關心。全程45分鐘，他還重點分享了自己對AI未來的獨特看法。

奧特曼再談AGI信念！