2019年6月25日在北京開會相聚的《無人軍隊》 譯者朱啟超、作者保羅·沙瑞爾、譯者龍坤（從右至左）

*本文為保羅·沙瑞爾著作《無人軍隊：自主武器與未來戰(zhàn)爭》結(jié)語。

在系列科幻電影《終結(jié)者》中，薩拉?康納和她后來成為人類反抗機器人組織領(lǐng)袖的兒子約翰，陷入了比機器人終結(jié)者更難擺脫的“敵人”的追殺——命運。

無論薩拉和約翰母子打敗指揮終結(jié)者機器人的“天網(wǎng)”多少次，終結(jié)者機器人在下一部電影中仍會回來繼續(xù)執(zhí)行對人類的追殺令。

薩拉和約翰作為電影系列中的受害者出現(xiàn)，這種結(jié)構(gòu)化敘事成了屢試不爽的票房保證，但他們陷入命運的魔咒也是很關(guān)鍵的敘事手法。

在《終結(jié)者》系列電影中，薩拉和約翰被來自未來的終結(jié)者殺手機器人一遍又一遍追殺，目的是阻止約翰成為對抗機器人的人類反抗組織領(lǐng)袖。

科幻電影的核心敘事邏輯是關(guān)于時光旅行悖論：如果終結(jié)者機器人成功殺死了薩拉和約翰，那么約翰也就無法成為人類反抗組織領(lǐng)袖，故事將無法鋪展下去，因此不能一開始就把故事的主人公干掉。

同時，薩拉和約翰總是試圖在“天網(wǎng)”完全建成之前就要搗毀它。這也就產(chǎn)生另一個悖論：如果薩拉母子成功了，“天網(wǎng)”系統(tǒng)就無法派出終結(jié)者殺手機器人去攻擊人類，也就會讓薩拉和約翰失去了繼續(xù)與“天網(wǎng)”作戰(zhàn)的理由。

薩拉和約翰的角色被設(shè)定了，他們永遠處于穿過過去、現(xiàn)在和未來與“天網(wǎng)”的斗爭中。

無論他們母子如何艱苦地斗爭，“審判日”看上去總要到來，雖然這一天處于變化中（根據(jù)電影吸引觀眾的需要，每一部電影上線后，該部電影中的“審判日”卻又總是設(shè)定在不遠的未來，類似于且看下回分解）。

盡管如此，薩拉和約翰始終在與命運抗爭，從未動搖他們永遠戰(zhàn)勝“天網(wǎng)”從而避免“審判日”到來的堅定信念。

在《終結(jié)者2：審判日》電影中，約翰?康納引用了他媽媽的話：

“未來并沒有被設(shè)定。沒有天定的命運，而是人類要主宰自己的未來。”

這句話在后續(xù)的電影中也反復出現(xiàn)。

的確，薩拉?康納是對的。在現(xiàn)實世界中，人類的未來并沒有被設(shè)定。

本書中向讀者展示了不同的未來圖景——令人可怕的圖景和美好的圖景——只不過是人們的想象。真正的未來正隨著時間推移一步一步展現(xiàn)。

技術(shù)會改變未來嗎？當然，但技術(shù)是由人創(chuàng)造的。

以人工智能技術(shù)為例，就是在技術(shù)上得益于杜安尼?戴維斯、布拉德福德?托斯利和布蘭登?曾那樣的技術(shù)天才而不斷改進，在政策上得益于拉里?許特、弗蘭克?肯德爾和鮑勃?沃克等官員的持續(xù)支持而不斷發(fā)展的，而這些官員關(guān)于發(fā)展人工智能技術(shù)的決策也受到斯圖亞特?拉塞爾、喬迪?威廉姆斯和羅恩?阿爾金積極呼吁的影響。

上述的所有個體都有自己的選擇。集體而言，人類也有人類自己的選擇。

是否賦予機器自主決定其行動而不受人類判斷和決策影響的技術(shù)，其實最終取決于人類。

將人工智能技術(shù)用于什么目的，最終也取決于人類自身。

比如，我們可以運用人工智能建立一個更加安全、更少痛苦、更少事故、更少暴行的世界，建議一個運行良好但保留人類在必要時施加干預(yù)的人工智能世界。我們可以打造一個充滿更多同情與關(guān)愛、更少戰(zhàn)爭的世界，為天使們打開大門的世界。

或者，我們被機器的種種優(yōu)點深深誘惑——無與倫比的運算速度、看上去非常完美以及近乎冷酷的精準，我們賦予機器強大的能力，相信機器可以毫不猶豫地正確執(zhí)行分派的任務(wù)，寄望機器不會出錯，程序代碼不存在任何瑕疵，不會引發(fā)事故，或者不存在可被敵人利用的漏洞。

這些假設(shè)都沒有容易的答案。

如果戰(zhàn)爭可以輕易避免，主權(quán)國家可以通過條約而不是武力來確保和平，人類早就會那么做了。

軍事力量之所以存在，就是為了作為一種威懾工具應(yīng)對那些不遵守國際法或國際美好愿望共識的人的。

讓主權(quán)國家屈從于一種潛在工具來達到自我防衛(wèi)的目的，無異于讓他們進行一場危險的豪賭。

雖然如此——雖然現(xiàn)實是沒有專門的警察來執(zhí)行戰(zhàn)爭法，且只有勝利者才有資格決定誰應(yīng)當受到審判。雖然現(xiàn)實是，只有最終的實力而非權(quán)利才有資格決定誰會在戰(zhàn)場上獲勝或死亡。

盡管如此，千百年來戰(zhàn)爭法則仍然影響了人們在戰(zhàn)爭中的行為。即便最古老的戰(zhàn)爭法則，也規(guī)定了哪些武器可以在戰(zhàn)爭中運用，哪些武器完全無法接受。

鋒利的、蘸有毒藥的箭頭在戰(zhàn)爭中非常有用，但用它殺人是不人道的和錯誤的。

從歷史上看，人類之間選擇通過合作來避免戰(zhàn)爭中最壞的結(jié)果，采取措施限制出格的殺戮行為，甚至是在生死攸關(guān)的時刻。

有時這些合作會失敗，但奇跡在于有些合作會取得成功。

進入現(xiàn)代階段，雖然不是所有國家，但絕大多數(shù)國家的軍隊選擇避免在戰(zhàn)爭中使用化學武器、激光致盲武器、地雷和集束炸彈。

世界有核國家已就限制部署核武器以促進全球戰(zhàn)略穩(wěn)定達成了共識。雖然這些規(guī)則或共識有時會遭致破壞，但各國間的自我克制還是得以維持，使我們對于世界和平的前景抱有希望。

這種自我克制——各國一旦失去自我克制，世界將變得十分危險——現(xiàn)在仍然必要。

如果有些國家執(zhí)意要研發(fā)自主武器，任何紙上協(xié)議都將難以阻止。與此同時，相關(guān)國家進行混亂的軍備競賽而不清楚這場競賽會將我們引向何方，這對哪個國家都沒有好處。

各國必須共同合作，確定戰(zhàn)爭中的哪些領(lǐng)域應(yīng)用自主武器是合適的，哪些領(lǐng)域不行，哪些地方需要將人類判斷讓渡給機器。

這些規(guī)則必須在保持人類決策重要性的同時，嘗試利用自主性改進戰(zhàn)爭中的人類事務(wù)。

權(quán)衡人類決策對于自主武器干預(yù)的必要性，需要社會各領(lǐng)域的辯論，而不僅僅是學者、律師和職業(yè)軍人的事。

社會大眾的參與也是很必要的，畢竟軍用自主機器人最終將在人類生活的空間廣泛存在并執(zhí)行各種任務(wù)。

機器能夠做很多事情，但它們不能創(chuàng)造事物背后的意義。

他們難以為我們回答更多的隱含性問題。機器不能明白人類價值觀，也不能告訴我們應(yīng)該如何做出選擇。

我們?nèi)祟愃鶆?chuàng)造的未來世界，將會有越來越多智能機器出現(xiàn)。

但是，這個世界不是為機器而存在的，這個多姿多彩的世界是為了人類而存在。

《無人軍隊：自主武器與未來戰(zhàn)爭》

作者：[美]保羅·沙瑞爾

譯者：朱啟超 王姝 龍坤

出版發(fā)行：世界知識出版社

出版時間：2019年6月

ISBN:978-7-5012-5902-1

定價：86.00元