《人類簡(jiǎn)史》出版10周年:人工智能是用來(lái)造天堂還是建地獄
2011年夏,我寫(xiě)完后,覺(jué)得肯定不會(huì)再講那個(gè)故事了。我對(duì)那本書(shū)有一份特別的喜愛(ài),也為該書(shū)的成功而心存感激,但我覺(jué)得我已經(jīng)講完了人類這個(gè)物種如今的故事。人類2.0仍在展開(kāi),可我想以后的故事最好留給別人去講。
但是,2016年美國(guó)總統(tǒng)選舉后,我想我恐怕要回到開(kāi)頭,重新審視我們這個(gè)物種通過(guò)想象建構(gòu)秩序和統(tǒng)治結(jié)構(gòu)的獨(dú)特能力。
過(guò)去幾年間,我們看到,假新聞比真新聞更強(qiáng)大;聯(lián)邦調(diào)查局可以選總統(tǒng);臉書(shū)可以左右選舉;一個(gè)億萬(wàn)富翁可以當(dāng)選總統(tǒng),而且比對(duì)手花的錢還少;一個(gè)國(guó)家可以分裂為兩個(gè)敵對(duì)陣營(yíng),彼此拒絕傾聽(tīng)對(duì)方的意見(jiàn)。
換言之,人類以想象來(lái)建構(gòu)大規(guī)模秩序這一獨(dú)特的能力現(xiàn)在開(kāi)始轉(zhuǎn)向?qū)ξ覀儾焕?/p>
過(guò)去,民族國(guó)家和資本主義市場(chǎng)這些想象建構(gòu)的秩序賦予了人類更大的力量。它們創(chuàng)造了空前的繁榮,產(chǎn)生了空前的福祉。可是今天,民族國(guó)家和資本主義市場(chǎng)等想象建構(gòu)的秩序開(kāi)始將我們撕裂。
今天我們面臨的巨大挑戰(zhàn)是創(chuàng)立一個(gè)不以民族國(guó)家或資本主義市場(chǎng)為基礎(chǔ)的由想象建構(gòu)的新全球秩序。
有沒(méi)有辦法創(chuàng)造一個(gè)并非基于民族國(guó)家,或自由市場(chǎng),或個(gè)人主權(quán),或駕馭自然的想象建構(gòu)的新全球秩序呢?
這就是我想在本書(shū)中講的故事。
寫(xiě)出上面這些文字的不是我尤瓦爾·諾亞·赫拉利,而是一個(gè)強(qiáng)大的人工智能系統(tǒng)按指令模仿我的寫(xiě)作風(fēng)格寫(xiě)的。這個(gè)人工智能系統(tǒng)叫作GPT-3,是舊金山一家專門(mén)研究機(jī)器學(xué)習(xí)的實(shí)驗(yàn)室“OpenAI”制造的。GPT-3接到指令,要它為《人類簡(jiǎn)史》出版10周年寫(xiě)一篇新序,于是它收集了我寫(xiě)過(guò)的書(shū)和文章、對(duì)我做過(guò)的訪談,以及在網(wǎng)上找到的幾十億個(gè)句子,使用這些原材料生產(chǎn)出了上面的文字。這些文字沒(méi)有經(jīng)過(guò)任何編輯改動(dòng)。
我讀著GPT-3模仿我的風(fēng)格寫(xiě)出的文字,心情復(fù)雜。一方面,我覺(jué)得這些文字不怎么樣。GPT-3抄了我自己寫(xiě)過(guò)、說(shuō)過(guò)的一些話,將其與從互聯(lián)網(wǎng)上搜羅到的各種主張糅在一起。這些主張中有很多是我不同意的,甚至有些我認(rèn)為不能服人,或者簡(jiǎn)直荒唐可笑。如此產(chǎn)生的文章是文字與思想的大雜燴。目前我并不擔(dān)心——GPT-3不會(huì)奪走我的工作,至少今后幾年不會(huì)。
另一方面,我真心訝異不已。讀著上面的文字,我被驚得瞠目結(jié)舌。這是人工智能寫(xiě)的嗎?!不錯(cuò),這些文字是這里一點(diǎn)那里一點(diǎn)拼湊起來(lái)的雜燴。可天下文章難道不都是這樣嗎?我寫(xiě)《人類簡(jiǎn)史》時(shí),也閱覽了許多書(shū)籍、文章和訪談錄,把不同的思想和事實(shí)合并起來(lái)寫(xiě)成新的東西。GPT-3生產(chǎn)的這些文字最令人震驚的是它居然言之有理。它不是胡亂拼湊了一堆句子,而是有著連貫的邏輯。我不同意GPT-3的一些論點(diǎn),但使我感到驚駭?shù)氖牵@些文字真的提出了論點(diǎn)。如果給“無(wú)限猴子定理”中的猴子一臺(tái)打字機(jī)讓它玩,我只需瞥一眼,半秒鐘內(nèi)就能夠認(rèn)定猴子打出的東西不是我寫(xiě)的。可是,我得把GPT-3的文字仔細(xì)讀上一兩分鐘,才能得出結(jié)論這并非出自我手。
還有一點(diǎn)令我驚愕,也令我警覺(jué)。那就是變化的步伐。GPT-3作為人工智能依然非常原始。厲害的還在后面。2010年我寫(xiě)《人類簡(jiǎn)史》時(shí),我?guī)缀鯖](méi)有想過(guò)人工智能。它聽(tīng)起來(lái)不屬于嚴(yán)肅的歷史書(shū),倒像是科幻電影的題材。可是,當(dāng)我坐在圖書(shū)館里埋頭于故紙堆的時(shí)候,我那些在計(jì)算機(jī)科學(xué)實(shí)驗(yàn)室的同事也沒(méi)閑著。2011年,《人類簡(jiǎn)史》以希伯來(lái)文首次出版,一個(gè)名叫沃森的人工智能在美國(guó)一個(gè)很受歡迎的智力競(jìng)賽節(jié)目《危險(xiǎn)邊緣》(Jeopardy!)上打敗了人類參賽者,一輛自動(dòng)駕駛汽車在柏林城里的大街小巷穿行了一圈,蘋(píng)果手機(jī)上安裝了語(yǔ)音助手Siri。《人類簡(jiǎn)史》希伯來(lái)文版封面
《人類簡(jiǎn)史》希伯來(lái)文版封面
10年后,人工智能革命席卷世界。這場(chǎng)革命標(biāo)志著我們所知的人類歷史的完結(jié)。數(shù)萬(wàn)年來(lái),人類發(fā)明了各種工具,使人類的力量更加強(qiáng)大。斧頭、輪子和原子彈給了人類新的力量。人工智能卻不同。有史以來(lái)第一次,力量可能會(huì)脫離人類之手。
以前的所有工具都使人類更強(qiáng)大,因?yàn)楣ぞ弑旧頍o(wú)法決定自己的用途。決定的權(quán)力從來(lái)都掌握在人的手中。一把斧頭決定不了砍哪棵樹(shù),一顆原子彈無(wú)法決定是否要發(fā)起戰(zhàn)爭(zhēng)。但人工智能可以。今天,你去銀行申請(qǐng)貸款時(shí),已經(jīng)是人工智能系統(tǒng)決定是否批準(zhǔn)你的申請(qǐng)了。你求職投簡(jiǎn)歷的時(shí)候,審查你的簡(jiǎn)歷、決定你的命運(yùn)的很可能是一個(gè)人工智能。
以前的所有工具都使人類更強(qiáng)大,因?yàn)槿硕霉ぞ撸ぞ卟欢萌恕R粋€(gè)農(nóng)夫知道一把斧頭能做什么,但斧頭不明白農(nóng)夫的需要和感覺(jué)。很快,人工智能就能比我們更加了解我們自己。它是會(huì)繼續(xù)做我們手中的工具,還是我們會(huì)成為它的工具呢?
至少還有幾年的時(shí)間,人仍然比人工智能更強(qiáng)。具體來(lái)說(shuō),我們?nèi)杂心芰Q定人工智能和其他革命性技術(shù)的發(fā)展和用途。我們一定要明智地使用這個(gè)能力。技術(shù)的目的從來(lái)不是先天確定的。同一個(gè)技術(shù)可以有許多不同的用途。在20世紀(jì),一些社會(huì)通過(guò)電力、火車和無(wú)線電的力量建立了極權(quán)獨(dú)裁,其他社會(huì)使用一模一樣的技術(shù)創(chuàng)造了自由民主政體。21世紀(jì)的新技術(shù)是用來(lái)造天堂還是建地獄,全看我們?nèi)绾芜x擇。
要做出明智的選擇,我們需要了解新技術(shù)的充分潛力,也需要更好地了解自己。如果我們能使用人工智能創(chuàng)造一個(gè)新世界,那個(gè)世界將是什么樣子?如果你能夠使用生物工程學(xué)來(lái)重塑人的身體與頭腦,你會(huì)做出何種改動(dòng)?
童話故事里,一條神奇的金魚(yú)或一個(gè)無(wú)所不能的精靈答應(yīng)滿足人的3個(gè)愿望時(shí),通常都沒(méi)有好結(jié)果。人所求的都是錯(cuò)的,因?yàn)樗麄儾恢雷约旱目嚯y或幸福的真正來(lái)源。若想比童話故事里那些笨拙的人得到更好的結(jié)局,就需要知道作為人的意義。我們是誰(shuí)?我們從哪里來(lái)?
所幸過(guò)去10年間,隨著數(shù)字設(shè)備的威力呈指數(shù)增加,我們對(duì)人體生物學(xué)和人類歷史的知識(shí)也加速增長(zhǎng)。自從2011年《人類簡(jiǎn)史》出版以來(lái),科學(xué)家發(fā)現(xiàn)了人類族譜上的幾個(gè)新支。2013年,在南非初次發(fā)現(xiàn)了屬于納萊迪人(Homo naledi)的遺骨。2019年,發(fā)現(xiàn)了曾居住在菲律賓呂宋島上的呂宋人(Homo luzonensis)。2021年,在以色列和中國(guó)分別發(fā)現(xiàn)了兩個(gè)可能的新人類物種。
我們不僅知道了其他古人種的存在,還對(duì)他們的生活有了更多了解——他們吃的食物、他們的行為方式,甚至他們交配的對(duì)象。我寫(xiě)作《人類簡(jiǎn)史》時(shí),我們只知道幾個(gè)小小的線索,暗示智人和尼安德特人發(fā)生過(guò)混種繁殖。現(xiàn)在,我們已經(jīng)掌握了關(guān)于他們相遇相交的很多證據(jù)。我們還知道,智人和尼安德特人都和另一個(gè)神秘的人類物種雜交過(guò),那個(gè)物種叫丹尼索瓦人,是2010年初次發(fā)現(xiàn)的。最近,科學(xué)家發(fā)現(xiàn)了一個(gè)混種人的骸骨,其母親是尼安德特人,父親是丹尼索瓦人。
自我寫(xiě)成《人類簡(jiǎn)史》以來(lái),人類的故事增添了眾多細(xì)節(jié)和新的曲折。但是,我在書(shū)中表達(dá)的中心意思絲毫沒(méi)有改變:對(duì)智人最好的描述是,他是會(huì)講故事的動(dòng)物。我們創(chuàng)作出了關(guān)于神、國(guó)家和公司的虛構(gòu)故事,而這些故事構(gòu)成了我們社會(huì)的基礎(chǔ)和我們生活意義的源泉。為了這些故事,我們經(jīng)常不惜殺人或者被殺。在黑猩猩、狼或任何其他有智能的社會(huì)性物種中,都看不到這種行為。我們比任何其他動(dòng)物知道的真理都多,但我們相信的虛構(gòu)故事更多。只有人類會(huì)為了故事而彼此殺戮,而我的論點(diǎn)是,如果真想搞懂人類歷史,就必須認(rèn)真對(duì)待我們的虛構(gòu)故事。只看經(jīng)濟(jì)或人口因素是不夠的。
僅以第一次世界大戰(zhàn)為例。德國(guó)和英國(guó)為什么打仗?不是因?yàn)轭I(lǐng)土不夠大或食物不夠多。1914年,兩國(guó)有足夠的領(lǐng)土為所有國(guó)民造房子,也有足夠的食物養(yǎng)活國(guó)民。但是,它們兩國(guó)無(wú)法就一個(gè)它們都能相信的共同故事達(dá)成一致,于是就發(fā)動(dòng)了戰(zhàn)爭(zhēng)。今天,英國(guó)和德國(guó)實(shí)現(xiàn)了和平,不是因?yàn)樗鼈兊念I(lǐng)土增加了(其實(shí)兩國(guó)的領(lǐng)土比1914年時(shí)少了許多),而是因?yàn)楝F(xiàn)在它們有了一個(gè)大部分英國(guó)人和德國(guó)人都相信的共同的故事。
幾千年前佛陀就說(shuō)過(guò),人世乃夢(mèng)幻泡影。的確,國(guó)家、神祇、公司、金錢、意識(shí)形態(tài)——都是我們創(chuàng)造并相信的集體幻影,人類歷史就是由它們統(tǒng)治的。在人工智能時(shí)代,我們相信的故事比以前更加重要,因?yàn)槲覀冇辛俗非蠡孟氲母鼜?qiáng)大的技術(shù)。
古人想象天堂和地獄時(shí),他們的幻想深深地影響著他們的行為。他們打仗、殺死所謂的異教徒、不吃某種食物、禁止某些性行為,因?yàn)樗麄冋J(rèn)為這樣能夠上天堂。可是,他們只能把天堂推遲到想象中的來(lái)生。在21世紀(jì),至少有些人會(huì)忍不住使用人工智能、生物工程學(xué)和其他革命性技術(shù)來(lái)試著在今世實(shí)現(xiàn)自己的幻想。如果我們不謹(jǐn)慎地選擇自己所相信的東西,很可能會(huì)被幼稚的烏托邦幻想誤導(dǎo),陷入技術(shù)地獄之中無(wú)路可退。
要?jiǎng)?chuàng)造一個(gè)更美好的世界,只學(xué)會(huì)計(jì)算機(jī)編碼或解譯遺傳密碼是不夠的。人工智能和遺傳工程學(xué)很容易被用來(lái)為極權(quán)暴君和宗教狂熱分子服務(wù)。我們真正需要明白的是人的頭腦以及頭腦產(chǎn)生并相信的幻想。這是詩(shī)人、哲學(xué)家和史學(xué)家的任務(wù),現(xiàn)如今這個(gè)任務(wù)比任何時(shí)候都更加緊迫。
常有人問(wèn)我,為什么《人類簡(jiǎn)史》引起了這么多讀者的共鳴。我認(rèn)為,這本書(shū)之所以成功,是因?yàn)樗鼭M足了一個(gè)實(shí)實(shí)在在的需求,為大家講述了一個(gè)關(guān)于人類歷史的最新科學(xué)發(fā)現(xiàn)的故事。不過(guò),我也試著幫讀者從一個(gè)新的角度來(lái)看大局。我們生活在一個(gè)全球性世界中,但大多數(shù)學(xué)校里教的和書(shū)本上講的都還是某一個(gè)國(guó)家或文化的當(dāng)?shù)貧v史。今天,塑造你命運(yùn)的有領(lǐng)導(dǎo)人的政治決定,有舊金山工程師的技術(shù)發(fā)明,也有印度工廠的生態(tài)影響。要想了解你的未來(lái),你需要了解整個(gè)世界的歷史和全人類面臨的挑戰(zhàn)。我寫(xiě)此書(shū),是想幫人們更清楚地看世界,讓每個(gè)人都有能力參加我們時(shí)代最重要的辯論。
GPT-3冒充我寫(xiě)的那些文字我并不全同意。但其中有一句話我完全認(rèn)可:“我們生活在由和我們非常不同的人在我們出生很久以前發(fā)明的思想牢獄之中。”在我看來(lái),像我這樣的歷史學(xué)家的工作是展示這些思想牢獄是如何建造起來(lái)的,并表明我們并非注定關(guān)在其中無(wú)法逃脫。人是講故事的動(dòng)物;沒(méi)有故事,人類社會(huì)就無(wú)法運(yùn)作。但歸根結(jié)底,這些故事不過(guò)是我們?yōu)榱藥椭硕鴦?chuàng)造出來(lái)的工具。如果一個(gè)故事造成的弊大于利,我們總可以把它改掉。
(2021年夏天,尤瓦爾·赫拉利寫(xiě)作了此文,以備日后《人類簡(jiǎn)史》出版限定版時(shí)使用。近日,中信出版集團(tuán)推出了“人類簡(jiǎn)史三部曲”(十周年暢銷紀(jì)念版),收錄了此文。)