在今年上海書展期間，英國作家伊恩?麥克尤恩的科幻人工智能題材小說《我這樣的機器》由上海譯文出版社首推簡體中文版。

“機器人”這個問題在麥克尤恩的腦海里可謂縈繞已久。兩年多以前他來中國，這一路隨身帶著的書稿就是《我這樣的機器》。他和譯者黃昱寧說，初稿已經(jīng)寫完了，但要放一放，在來中國的路上想一想，等回到英國再修改一遍。在發(fā)表演講或接受采訪時，麥克尤恩也反復(fù)提到這部書稿，甚至說到《贖罪》剛開始的設(shè)定也是有機器人的。

8月16日，作家小白，作家黃昱寧與上海紐約大學(xué)教授、亞馬遜上海人工智能研究院院長張崢做客上海朵云書院旗艦店，為讀者獻(xiàn)上一場文科生與理科生有關(guān)機器人，有關(guān)《我這樣的機器》，有關(guān)人類的對話。 

活動現(xiàn)場

小說設(shè)想了一種道德至上的機器人

在小說里，32歲的倫敦人查理愛上了樓上的鄰居米蘭達(dá)。查理不知道如何向米蘭達(dá)表達(dá)感情，用繼承的遺產(chǎn)買了一款新型人形機器人“亞當(dāng)”，并希望這個機器人能成為某種聯(lián)結(jié)象征。查理把“亞當(dāng)”領(lǐng)回家后，可以對還是出廠設(shè)置的“亞當(dāng)”進(jìn)行各種個性化設(shè)置。查理完成了一半，另一半讓米蘭達(dá)勾選。兩人就像同時收養(yǎng)了一個寵物，并順理成章地進(jìn)入了下一感情階段。

張崢非常喜歡“出廠設(shè)置”這段。在他看來，機器人的設(shè)置與人的進(jìn)化是很吻合的。“每個人都接受兩份DNA，父親的一個，母親的一個。亞當(dāng)出廠之后被查理設(shè)置，又被米蘭達(dá)設(shè)置，這像是一個比喻，把一部分父母的DNA注入進(jìn)去。我覺得麥克尤恩是一個非常熱愛人類的人，他對這個本質(zhì)抓得非常準(zhǔn)確。某種意義上是一種致敬，非常有儀式感。”

小白稱，牛津哲學(xué)家尼克·博斯特羅姆（Nick Bostrom）專門研究機器人力學(xué)。在一本《超級智能》里，尼克專門有兩章談價值觀植入、價值觀加載的問題。“一個機器人造好了，它的學(xué)習(xí)能力比你強多了。你讓它隨便學(xué)習(xí)，可能發(fā)展出終結(jié)者那樣的機器，人類的生存風(fēng)險就出現(xiàn)了。所以你必須在學(xué)習(xí)能力之外也給機器人加載價值觀。”

怎么加載呢？在這部小說里，麥克尤恩設(shè)想了一種道德至上的智能機器。比如亞當(dāng)幫查理輕松操盤做投資，但卻沒有為查理賺回世界上所有的錢，因為它在決策中考慮了過量財富顯然會帶來身心兩方面的危險，尤其是道德?lián)p害。

“到最后，查理、米蘭達(dá)給亞當(dāng)輸入的東西和亞當(dāng)最初被輸入的價值觀有了沖突。亞當(dāng)既不聽米蘭達(dá)的，也不聽查理的，因為它有更大的倫理目標(biāo)和價值觀，它最后做出來的事跟兩個用戶的意愿都不一樣。”小白說，小說最后造成沖突的點在這里。 

小說的背景設(shè)定，融合了過去、現(xiàn)實與未來

在時間上，《我這樣的機器》故事發(fā)生在1982年，在那個平行世界的英國倫敦：彼時人工智能研究已經(jīng)遠(yuǎn)遠(yuǎn)超過了我們當(dāng)前的發(fā)展水平。在撒切爾夫人的領(lǐng)導(dǎo)下，英國在馬島戰(zhàn)爭中落敗，舉國嘩然之際托尼·本恩當(dāng)選為英國首相。“人工智能之父”圖靈也沒有自殺，麥克尤恩給了圖靈他應(yīng)得的生命，而非受到審判、監(jiān)禁、自殺。圖靈得享高壽，活在世人的尊崇之中，他的作品創(chuàng)造了技術(shù)奇跡……

“1982年是一個過去的年代。他把一個在技術(shù)上應(yīng)該發(fā)生在未來的故事設(shè)定在過去，所以我們打開這本故事會覺得非常奇怪，因為它里面有些東西你是熟悉的，是屬于過去的，但是關(guān)于人工智能這方面又是完全超前的，不僅超那個時代的前，也超我們現(xiàn)在的前。”黃昱寧稱，這是一個“很奇怪”的設(shè)定。

小白表示，他在谷歌圖書詞頻上檢索“Robot”（機器人）和“AI”（人工智能），看到這兩個詞在1980年代初異軍突起，在整個1980年代形成一個高峰，到1990年代反而漸漸下落。最令人難忘的機器人電影就是此刻拍攝的——1984年上映的《終結(jié)者》。

再反過來想，麥克尤恩在1980年代剛進(jìn)入倫敦生活，出版了幾本小說，開始創(chuàng)作劇本，與同道友好交往。于是，“智能仿真機器人”這樣的熱門話題不可避免地出現(xiàn)在他的日常生活中。

小白說，或許也正因為這樣，麥克尤恩把《我這樣的機器》的時代背景設(shè)定在了1980年代——機器人、人工智能在他腦子里最初出現(xiàn)的年代。“我覺得這部小說帶有他對自己的反思，對人類社會的反思，通過一個機器人的故事影射他的這一段看法。從這個角度來看，把它理解成某種作家對自己往昔記憶的追溯、某種秘密的‘自傳體’，也不為過。”小說最想表達(dá)的，還是人的困境

在小白看來，《我這樣的機器》有兩個特別精彩的地方，一是米蘭達(dá)跟亞當(dāng)上床，給查理戴了綠帽，二是當(dāng)查理試圖關(guān)掉亞當(dāng)?shù)碾娫矗瑏啴?dāng)阻止了他，而且把他的腕骨捏碎了。

“關(guān)掉電源”這一點引起了大家有關(guān)機器人自我意識的激烈探討。在小說里，那一批機器人在自我學(xué)習(xí)后有十一位設(shè)法取消了開關(guān)，也有機器人選擇了自殺。

黃昱寧想，無論是“跟人對著干，不讓人關(guān)閉我”，還是“在人不想關(guān)閉我的時候，我自己就關(guān)閉了自己”，其實都是機器人自我意識的表現(xiàn)。在小說的最后，麥克尤恩以圖靈之口說：“它們（指機器人）不理解我們，因為我們不理解自己。它們的學(xué)習(xí)程序無法處理我們，如果我們自己都不理解自己的大腦，我們怎么能設(shè)計它們的大腦？還指望它們能跟我們一起幸福呢？”

因此說到底，麥克尤恩在這部小說里最關(guān)心的還是人本身，最想表達(dá)的還是人的困境。

小白深以為然：“麥克尤恩這部小說確實是寫人的事。只是說在寫法上他把機器人這個條件放進(jìn)了人類社會，放進(jìn)了1980年代，但這批機器人身上發(fā)生的事情，都是我們?nèi)祟愖约旱氖虑椤３鰪S設(shè)定代表了人類所有最美好的期望，可就算是人類自己，也沒有一個能做到。因為那些規(guī)則條款，根本經(jīng)不起社會人群的人際摩擦。就像麥克尤恩小說中幾乎所有人物一樣，天性良善，卻讓一些細(xì)微的摩擦沖突愈演愈烈，直至不可收拾。小說中那些亞當(dāng)夏娃們再一次證明了麥克尤恩的觀點。它們很快就陷入意識崩潰，無法在人世生存，一個接一個自殺了。”

張崢也特別提到麥克尤恩在書里借圖靈之口說的另一段話：“我們創(chuàng)造了一種有智能、有自我意識的機器，并將其推入我們這個不完美的世界。這種智能總體上是根據(jù)理性的原則來設(shè)計的，對他人溫和友善，所以很快就會置身于紛至沓來的矛盾之中。我們自己與矛盾相伴，那清單長得都列不完。無數(shù)人死于我們已經(jīng)知道如何治療的疾病。無數(shù)人在物資充足的地方過著貧窮的生活。我們知道這是唯一的家園，卻日復(fù)一日破壞著生物圈。我們知道核武器的結(jié)果是什么，卻以核武器相互威脅。我們愛著生命，卻聽?wèi){物種大規(guī)模滅絕。如此種種，還有種族屠殺、折磨、奴役、家庭兇殺、虐待兒童、校園槍擊、強奸以及每日發(fā)生的無數(shù)罪行。我們生活中充滿著這樣的折磨，卻毫不妨礙我們找到幸福，甚至愛。人造的心智可沒有這么堅強……”

“《我這樣的機器》好的地方在于它沒有給你答案。假如我們把這本書看作《圣經(jīng)》或者某一種指南，我覺得它是對英國文明的祭奠，立一塊碑。”張崢如是說。