原標(biāo)題：伊恩·麥克尤恩對(duì)人工智能提出了第一個(gè)難題，“請(qǐng)回答1982......”

2018年11月伊恩·麥克尤恩在上海

近年來，除了文學(xué)領(lǐng)域，作家麥克尤恩越發(fā)熱衷于社會(huì)熱點(diǎn)話題的關(guān)注和討論，例如在英國“脫歐”、人工智能技術(shù)的發(fā)展等方面。麥克尤恩長期以來毫不吝嗇對(duì)當(dāng)下社會(huì)給出自己的尖銳批評(píng)——2019年9月他發(fā)表了一部寓言性質(zhì)的小說《蟑螂》。在同一年，他經(jīng)過長期對(duì)人工智能領(lǐng)域的探索和研究，推出了一部帶有鮮明麥?zhǔn)蠘?biāo)簽、兼具濃厚科幻色彩——“一部真正思考人類未來困境”的小說。在新作《我這樣的機(jī)器》里，他嘗試回答了本人對(duì)未來人工智能的看法和期待。

小說中，麥克尤恩塑造了一個(gè)1982年平行宇宙中的倫敦，那里擁有我們很熟悉的過往，也有高度發(fā)達(dá)的人工智能。為什么要塑造這樣一個(gè)世界？在上海書展的中文版首發(fā)活動(dòng)上，作家小白，人工智能專家張崢與作家、出版家黃昱寧對(duì)這個(gè)問題表達(dá)了自己的看法，小白認(rèn)為這更像是麥克尤恩帶有自傳體性質(zhì)的一個(gè)小說，“這部小說帶有他對(duì)自己的反思，對(duì)人類社會(huì)的反思，通過一個(gè)機(jī)器人的故事影射他的這一段看法”。張崢進(jìn)一步認(rèn)為，在“機(jī)器化”的麥克尤恩身后，想要表達(dá)是一個(gè)群體的自傳，作家將科技和人類之間的沖撞，對(duì)未來的交織、憧憬都含在里面。

許多人或許忘記了，1982年，也是AI人工智能這個(gè)詞在全球搜索比較頻繁的一個(gè)熱詞。帶著這個(gè)線索，以下進(jìn)入作家小白對(duì)《我這樣的機(jī)器》的導(dǎo)讀和章節(jié)選讀。

導(dǎo) 讀

文/小白

我們猜想起來，麥克尤恩讓故事發(fā)生在1982年，更可能是出于——作為一個(gè)小說家，對(duì)有關(guān)機(jī)器人的大眾敘事歷史和觀念變遷的關(guān)注。有一個(gè)歷史統(tǒng)計(jì)數(shù)據(jù)，到1981年，日本汽車裝配生產(chǎn)線上已使用了6000多個(gè)機(jī)器人，同一時(shí)間英國只有370臺(tái)工程機(jī)器人。英國首相撒切爾夫人于是大力鼓吹廣泛使用機(jī)器人作業(yè)，此舉或許也是首相對(duì)各地不斷出現(xiàn)罷工浪潮的冷酷回應(yīng)。當(dāng)時(shí)英國失業(yè)率常年徘徊在10%，撒切爾推廣機(jī)器人的言論得罪了工人大眾。本來憎恨機(jī)器的盧德派在英國就有久遠(yuǎn)歷史淵源，政府和工人們兩相激發(fā)，機(jī)器人成了那個(gè)年代英國人最熱門的話題。

事實(shí)上，如果你在Google Ngram Viewer上檢索“Robot”（機(jī)器人）和“AI”（人工智能），就會(huì)看到這兩個(gè)詞在80年代初異軍突起，在整個(gè)80年代形成一個(gè)高峰，到90年代反而漸漸下落。事實(shí)上，最令人難忘的機(jī)器人電影就是此刻拍攝的——1984年上映的《終結(jié)者》。顯然，智能仿真機(jī)器人是那個(gè)時(shí)代極其廣泛的大眾話題。那時(shí)候，麥克尤恩剛搬家到倫敦沒幾年，出版了幾本小說，開始創(chuàng)作劇本，與同道友好交往，參加午餐會(huì)討論熱門話題，也許這個(gè)有關(guān)“比人更聰明的人造人”的想法，在這個(gè)30歲出頭年輕作家（正是小說中查理的年紀(jì)）的內(nèi)心，一度掀起過極大波瀾。

年輕時(shí)的麥克尤恩

Robot這個(gè)詞，來自捷克作家卡雷爾·恰佩克（Karel ?apek）一部戲劇，《羅素姆的萬能機(jī)器人》，作者在劇中借用了捷克語“Robota”（勞工），變?cè)炝藱C(jī)器人一詞。這部戲于1922年在紐約上演時(shí)，適逢大蕭條，戲劇故事迎合了自動(dòng)機(jī)器會(huì)加劇工人失業(yè)的恐慌心理。機(jī)器人話題的每一次真正熱門，都跟失業(yè)潮、跟擔(dān)心機(jī)器人在所有工作崗位上取代人類有關(guān)。

但麥克尤恩并不為此擔(dān)心。在這部小說中，每個(gè)人物都欣然接受亞當(dāng)?shù)拇鷦凇膹N房清洗到檢索政府檔案卷宗——亞當(dāng)?shù)拇竽X可以直接接入網(wǎng)絡(luò)，密碼也擋不住它。亞當(dāng)開始熱衷于文學(xué)創(chuàng)作，雖然只是最簡單的日本俳句。但文學(xué)，那不是人類智慧樹最高處結(jié)出的果實(shí)么？沒人當(dāng)回事。對(duì)于亞當(dāng)給生活帶來的種種改善，男主角查理心安理得地享受著。亞當(dāng)甚至幫他操盤做投資，它是真正的超級(jí)智能，不是如今投行們使用的那些高頻交易算法。盈利是毫無疑問的，就像從自己口袋拿錢。

一旦機(jī)器產(chǎn)生自我意識(shí)，就會(huì)遭遇到奧莫亨德羅（Steve Omohundro）的難題：自我意識(shí)意味著自我保護(hù)，機(jī)器會(huì)認(rèn)識(shí)到首先必須存在，才能達(dá)成圍繞著自我意識(shí)的所有其它目標(biāo)。超級(jí)智能機(jī)器會(huì)設(shè)法讓開關(guān)失效。當(dāng)查理再一次試圖伸手關(guān)掉它的電源，亞當(dāng)阻止了他，而且把他的腕骨捏碎了。亞當(dāng)堅(jiān)定地奪回/取消了開關(guān)控制權(quán)。不過當(dāng)查理把這件嚴(yán)重事故告訴小說中的“圖靈”，也就是亞當(dāng)和夏娃們真正的設(shè)計(jì)者時(shí)，圖靈并沒有震驚，不過是一個(gè)“值得關(guān)注的”情況。圖靈告訴查理，據(jù)他所知，那批測試版機(jī)器人中，已有十一位設(shè)法取消了開關(guān)。這不奇怪，歷史上那位真正的圖靈對(duì)此反復(fù)思考過了。早在1951年，他就在BBC三臺(tái)談話節(jié)目中提到此類事情。他在那做了一個(gè)演講，題目叫《機(jī)器能思考么？》（Can Digital Computers Think？）。其中說到，就算人類把開關(guān)控制在手中，必要時(shí)關(guān)掉它，對(duì)人類來說，這也夠恥辱的了（We should,as a species,feel great humbled）。圖靈雖然有點(diǎn)憂慮，顯然不贊成靠開關(guān)維持優(yōu)勢。

麥克尤恩設(shè)想了一種道德至上的智能機(jī)器。在它們復(fù)雜的計(jì)算決策“黑盒”底層，必定預(yù)置了一些最高級(jí)道德命令，以防發(fā)生難以控制的不測事件。因?yàn)榘凑张＝虼髮W(xué)哲學(xué)家尼克（Nick Bostrom）的預(yù)想，即便是一個(gè)善意的機(jī)器人，按照人類命令行事，它也會(huì)把世界上的一切都變?cè)斐苫匦吾槪驗(yàn)橹悄軝C(jī)器人在完成任務(wù)方面是一個(gè)徹底的完美主義者。但亞當(dāng)卻沒有為查理賺回世界上所有的錢，顯然它在決策中綜合考慮了互不相容的幾種人類偏好。比如說，也要兼顧安全感，過量財(cái)富顯然會(huì)帶來身心兩方面的危險(xiǎn)。尤其是道德?lián)p害。

道德規(guī)則本身就包含了無數(shù)種偏好。比如小說故事就涉及到：是“復(fù)仇正義”要緊呢？或者是“不能欺騙他人”更重要呢？這才是麥克尤恩真正感興趣的問題。工程師給亞當(dāng)們內(nèi)置了所有人類道德規(guī)則，但那些遠(yuǎn)不是經(jīng)由自我審視、選擇而來的道德感。出廠設(shè)定代表了人類所有最美好的期望，可就算是人類自己，也沒有一個(gè)能做到。因?yàn)槟切┮?guī)則條款，根本經(jīng)不起社會(huì)人群的人際摩擦。就像麥克尤恩小說中幾乎所有人物一樣，天性良善，卻讓一些細(xì)微的摩擦沖突愈演愈烈，直至不可收拾。

章節(jié)選讀

我是樂觀派陣營中的一員，運(yùn)氣不錯(cuò)，母親去世、祖?zhèn)鞣课莩鍪壑螅业玫搅艘馔獾氖杖耄欠课萸『梦挥谝粋€(gè)價(jià)值可觀的開發(fā)地段。就在福克蘭群島特別行動(dòng)隊(duì)動(dòng)身去執(zhí)行那無望的任務(wù)之前一個(gè)星期，第一個(gè)真正可用的、由工廠生產(chǎn)出來的人類，在市場上發(fā)售，智力和長相都過得去，肢體動(dòng)作和面部表情的變化也真實(shí)可信。亞當(dāng)售價(jià)8.6萬美元。我租了一輛小貨車，將他運(yùn)到我位于北克拉帕姆那套令人生厭的公寓里。我這個(gè)決定做得草率，但聽說戰(zhàn)爭英雄、引領(lǐng)數(shù)字時(shí)代的天才艾倫·圖靈爵士也買了同款，我便受到了鼓舞。他很可能打算讓實(shí)驗(yàn)室把機(jī)器人拆開吧，好好研究一下其內(nèi)部構(gòu)造。

科幻劇《真實(shí)的人類》劇照

亞當(dāng)?shù)碾姵卦诔潆姡医o我們倆倒了咖啡，然后翻看長達(dá)470頁的在線產(chǎn)品手冊(cè)。語言總體上還是清晰準(zhǔn)確的。但是，亞當(dāng)?shù)闹圃鞝可婧芏嗖煌牡攸c(diǎn)和部門，所以手冊(cè)讀起來有廢話詩那樣的趣味。“遮住B347K護(hù)罩上部，可使主板輸出獲取快樂情緒圖標(biāo)，減弱情緒波動(dòng)半暗帶。”

最后，他坐在了我那小小的餐桌旁，腳邊散落著紙板和聚苯乙烯包裝材料，雙眼閉著，一條黑線從他肚臍上的入口處拖下來，連到墻上一個(gè)十三安培的插孔上。讓他啟動(dòng)還需要十六小時(shí)。然后就是下載更新和設(shè)定個(gè)人偏好的環(huán)節(jié)。我現(xiàn)在就要他，米蘭達(dá)也是。我們倆像心情急切的年輕父母一樣，迫不及待地等著他說出第一句話。不是配備個(gè)音箱，直接安裝在他胸部。從熱情洋溢的廣告宣傳中，我們得知，他可以用氣息、舌頭、牙齒和上顎發(fā)出聲音。他的皮膚和真人相仿，摸上去已經(jīng)有暖意了，而且和孩子的皮膚一樣光滑。米蘭達(dá)說，她看到他的睫毛抖了一下。我敢肯定，她看到的是地鐵在我們腳下一百英尺處轟隆而過引起的震動(dòng)，但我什么都沒說。

廣告上說，他可以陪伴，可以在智力活動(dòng)上相互切磋，可以成為朋友，可以總攬家務(wù)，會(huì)洗碗、鋪床，會(huì)“思考”。存在的每個(gè)時(shí)刻，聽到、看到的每件事，他都記錄下來，都能夠從記憶中調(diào)取。目前他還不能開車，不許去游泳、洗澡或不打傘在雨天出門，也不能在沒人監(jiān)視的情況下操作電鋸。至于活動(dòng)范圍呢，感謝蓄電技術(shù)的突破，他能在兩小時(shí)內(nèi)跑十七公里，中途無需充電，或者連續(xù)說話十二天，這兩者消耗的能量是一樣的。他有二十年的使用壽命。他身體健壯、肩膀?qū)捄瘢つw是深色的，濃密的黑頭發(fā)向后梳著；臉部窄長，略微有點(diǎn)鷹鉤鼻，給人思路敏捷、智力逼人的感覺，上眼皮厚重沉郁，嘴唇緊閉，我們?cè)谝慌杂^察的時(shí)候，他的嘴唇褪去了那死亡一般的黃白色，慢慢有了飽滿的、人的顏色，也許唇角還略微松弛了一點(diǎn)兒。米蘭達(dá)說他看起來像“博斯普魯斯海峽的碼頭工人”。

坐在我們面前的，就是那終極的玩物，多少世紀(jì)以來的夢想，是人本主義的勝利——或者宣告其死亡的天使。令人無比興奮，但也無比難受。十六個(gè)小時(shí)就這樣等著、看著，可不容易捱過去。我覺得，考慮到午飯后我交出去的那么多錢，亞當(dāng)這時(shí)候就該充好電，隨時(shí)可以起身走路了。這是個(gè)寒冷的黃昏。我烤了面包片，我們又添了咖啡。社會(huì)史專業(yè)博士生米蘭達(dá)說，她希望十幾歲的瑪麗·雪萊此時(shí)和我們?cè)谝黄穑褙炞ⅲ皇怯^察弗蘭肯斯坦造出來的那種怪物，而是觀察這位皮膚黝黑、長相英俊的年輕人如何慢慢活過來。我說，兩個(gè)東西有個(gè)共同點(diǎn)，都渴望電給予他們生命的力量。

......

亞當(dāng)以后會(huì)變成令人生厭的玩意兒嗎？花錢買東西之后的那種懊悔感不時(shí)襲來，我一邊要克服這種感覺，一邊還要口授郵件，這可不太容易。毫無疑問，其他有生命、有頭腦的，還會(huì)繼續(xù)出現(xiàn)，繼續(xù)令我們著迷。人造的人，會(huì)越來越接近我們，然后和我們一樣，最后超過我們，我們自然不會(huì)覺得他們無聊乏味。他們一定會(huì)出乎我們的意料，還可能以我們完全無法想象的某些方式，打破我們的預(yù)期。悲劇不是沒有可能，但無聊乏味是不可能的。

真正枯燥無味的，是還得去看用戶手冊(cè)。指南。我有個(gè)偏見：任何機(jī)器如果不能在運(yùn)作中自行告訴你該怎么使用，那就不值得去買。我突然有了復(fù)古守舊的沖動(dòng)，將整個(gè)手冊(cè)打印出來，然后又去找文件夾。在此過程中，我仍然一直在口授電子郵件。

我沒法把自己當(dāng)成亞當(dāng)?shù)摹笆褂谜摺薄Ｖ拔乙詾椋魏侮P(guān)于他的事情，他自己都能教我。但是，我雙手捧著手冊(cè)，剛好在第十四章打開。這部分的英語表達(dá)很清晰：偏好；性格參數(shù)。接下來是一系列標(biāo)題——親和性。外向性。經(jīng)驗(yàn)開放性。盡責(zé)性。情緒穩(wěn)定性。我熟悉這個(gè)清單。五大性格特質(zhì)模型。我接受過人文學(xué)科的教育，但并不相信這種統(tǒng)括式的概念，不過一位學(xué)心理學(xué)的朋友告訴過我，每個(gè)條目下面都分為很多小類。我掃了一眼下面一頁，發(fā)現(xiàn)我需要做出一系列選擇，都是從1到10當(dāng)中挑選一個(gè)。

此前我一直期待著一位朋友。我打算把亞當(dāng)當(dāng)作家里的客人，一開始不熟悉，但以后會(huì)慢慢了解。我以為他到我家的時(shí)候，就已經(jīng)進(jìn)行了最佳的配置。出廠設(shè)定——在當(dāng)前社會(huì)中，這就是命運(yùn)的同義詞。我所有的家人朋友，出現(xiàn)在我生命中的時(shí)候，都已經(jīng)設(shè)定好了，基因和環(huán)境在他們身上留下了不可更改的痕跡。我希望我這位昂貴的新朋友也是這樣。這事干嘛丟給我來做呢？當(dāng)然，答案我也知道。我們當(dāng)中，擁有最佳配置的并不多。