保羅·沙瑞爾:沒有天定命運,人類主宰未來
2019年6月25日在北京開會相聚的《無人軍隊》 譯者朱啟超、作者保羅·沙瑞爾、譯者龍坤(從右至左)
*本文為保羅·沙瑞爾著作《無人軍隊:自主武器與未來戰(zhàn)爭》結(jié)語。
在系列科幻電影《終結(jié)者》中,薩拉?康納和她后來成為人類反抗機器人組織領(lǐng)袖的兒子約翰,陷入了比機器人終結(jié)者更難擺脫的“敵人”的追殺——命運。
無論薩拉和約翰母子打敗指揮終結(jié)者機器人的“天網(wǎng)”多少次,終結(jié)者機器人在下一部電影中仍會回來繼續(xù)執(zhí)行對人類的追殺令。
薩拉和約翰作為電影系列中的受害者出現(xiàn),這種結(jié)構(gòu)化敘事成了屢試不爽的票房保證,但他們陷入命運的魔咒也是很關(guān)鍵的敘事手法。
在《終結(jié)者》系列電影中,薩拉和約翰被來自未來的終結(jié)者殺手機器人一遍又一遍追殺,目的是阻止約翰成為對抗機器人的人類反抗組織領(lǐng)袖。
科幻電影的核心敘事邏輯是關(guān)于時光旅行悖論:如果終結(jié)者機器人成功殺死了薩拉和約翰,那么約翰也就無法成為人類反抗組織領(lǐng)袖,故事將無法鋪展下去,因此不能一開始就把故事的主人公干掉。
同時,薩拉和約翰總是試圖在“天網(wǎng)”完全建成之前就要搗毀它。這也就產(chǎn)生另一個悖論:如果薩拉母子成功了,“天網(wǎng)”系統(tǒng)就無法派出終結(jié)者殺手機器人去攻擊人類,也就會讓薩拉和約翰失去了繼續(xù)與“天網(wǎng)”作戰(zhàn)的理由。
薩拉和約翰的角色被設(shè)定了,他們永遠處于穿過過去、現(xiàn)在和未來與“天網(wǎng)”的斗爭中。
無論他們母子如何艱苦地斗爭,“審判日”看上去總要到來,雖然這一天處于變化中(根據(jù)電影吸引觀眾的需要,每一部電影上線后,該部電影中的“審判日”卻又總是設(shè)定在不遠的未來,類似于且看下回分解)。
盡管如此,薩拉和約翰始終在與命運抗爭,從未動搖他們永遠戰(zhàn)勝“天網(wǎng)”從而避免“審判日”到來的堅定信念。
在《終結(jié)者2:審判日》電影中,約翰?康納引用了他媽媽的話:
“未來并沒有被設(shè)定。沒有天定的命運,而是人類要主宰自己的未來。”
這句話在后續(xù)的電影中也反復出現(xiàn)。
的確,薩拉?康納是對的。在現(xiàn)實世界中,人類的未來并沒有被設(shè)定。
本書中向讀者展示了不同的未來圖景——令人可怕的圖景和美好的圖景——只不過是人們的想象。真正的未來正隨著時間推移一步一步展現(xiàn)。
技術(shù)會改變未來嗎?當然,但技術(shù)是由人創(chuàng)造的。
以人工智能技術(shù)為例,就是在技術(shù)上得益于杜安尼?戴維斯、布拉德福德?托斯利和布蘭登?曾那樣的技術(shù)天才而不斷改進,在政策上得益于拉里?許特、弗蘭克?肯德爾和鮑勃?沃克等官員的持續(xù)支持而不斷發(fā)展的,而這些官員關(guān)于發(fā)展人工智能技術(shù)的決策也受到斯圖亞特?拉塞爾、喬迪?威廉姆斯和羅恩?阿爾金積極呼吁的影響。
上述的所有個體都有自己的選擇。集體而言,人類也有人類自己的選擇。
是否賦予機器自主決定其行動而不受人類判斷和決策影響的技術(shù),其實最終取決于人類。
將人工智能技術(shù)用于什么目的,最終也取決于人類自身。
比如,我們可以運用人工智能建立一個更加安全、更少痛苦、更少事故、更少暴行的世界,建議一個運行良好但保留人類在必要時施加干預(yù)的人工智能世界。我們可以打造一個充滿更多同情與關(guān)愛、更少戰(zhàn)爭的世界,為天使們打開大門的世界。
或者,我們被機器的種種優(yōu)點深深誘惑——無與倫比的運算速度、看上去非常完美以及近乎冷酷的精準,我們賦予機器強大的能力,相信機器可以毫不猶豫地正確執(zhí)行分派的任務(wù),寄望機器不會出錯,程序代碼不存在任何瑕疵,不會引發(fā)事故,或者不存在可被敵人利用的漏洞。
這些假設(shè)都沒有容易的答案。
如果戰(zhàn)爭可以輕易避免,主權(quán)國家可以通過條約而不是武力來確保和平,人類早就會那么做了。
軍事力量之所以存在,就是為了作為一種威懾工具應(yīng)對那些不遵守國際法或國際美好愿望共識的人的。
讓主權(quán)國家屈從于一種潛在工具來達到自我防衛(wèi)的目的,無異于讓他們進行一場危險的豪賭。
雖然如此——雖然現(xiàn)實是沒有專門的警察來執(zhí)行戰(zhàn)爭法,且只有勝利者才有資格決定誰應(yīng)當受到審判。雖然現(xiàn)實是,只有最終的實力而非權(quán)利才有資格決定誰會在戰(zhàn)場上獲勝或死亡。
盡管如此,千百年來戰(zhàn)爭法則仍然影響了人們在戰(zhàn)爭中的行為。即便最古老的戰(zhàn)爭法則,也規(guī)定了哪些武器可以在戰(zhàn)爭中運用,哪些武器完全無法接受。
鋒利的、蘸有毒藥的箭頭在戰(zhàn)爭中非常有用,但用它殺人是不人道的和錯誤的。
從歷史上看,人類之間選擇通過合作來避免戰(zhàn)爭中最壞的結(jié)果,采取措施限制出格的殺戮行為,甚至是在生死攸關(guān)的時刻。
有時這些合作會失敗,但奇跡在于有些合作會取得成功。
進入現(xiàn)代階段,雖然不是所有國家,但絕大多數(shù)國家的軍隊選擇避免在戰(zhàn)爭中使用化學武器、激光致盲武器、地雷和集束炸彈。
世界有核國家已就限制部署核武器以促進全球戰(zhàn)略穩(wěn)定達成了共識。雖然這些規(guī)則或共識有時會遭致破壞,但各國間的自我克制還是得以維持,使我們對于世界和平的前景抱有希望。
這種自我克制——各國一旦失去自我克制,世界將變得十分危險——現(xiàn)在仍然必要。
如果有些國家執(zhí)意要研發(fā)自主武器,任何紙上協(xié)議都將難以阻止。與此同時,相關(guān)國家進行混亂的軍備競賽而不清楚這場競賽會將我們引向何方,這對哪個國家都沒有好處。
各國必須共同合作,確定戰(zhàn)爭中的哪些領(lǐng)域應(yīng)用自主武器是合適的,哪些領(lǐng)域不行,哪些地方需要將人類判斷讓渡給機器。
這些規(guī)則必須在保持人類決策重要性的同時,嘗試利用自主性改進戰(zhàn)爭中的人類事務(wù)。
權(quán)衡人類決策對于自主武器干預(yù)的必要性,需要社會各領(lǐng)域的辯論,而不僅僅是學者、律師和職業(yè)軍人的事。
社會大眾的參與也是很必要的,畢竟軍用自主機器人最終將在人類生活的空間廣泛存在并執(zhí)行各種任務(wù)。
機器能夠做很多事情,但它們不能創(chuàng)造事物背后的意義。
他們難以為我們回答更多的隱含性問題。機器不能明白人類價值觀,也不能告訴我們應(yīng)該如何做出選擇。
我們?nèi)祟愃鶆?chuàng)造的未來世界,將會有越來越多智能機器出現(xiàn)。
但是,這個世界不是為機器而存在的,這個多姿多彩的世界是為了人類而存在。
《無人軍隊:自主武器與未來戰(zhàn)爭》
作者:[美]保羅·沙瑞爾
譯者:朱啟超 王姝 龍坤
出版發(fā)行:世界知識出版社
出版時間:2019年6月
ISBN:978-7-5012-5902-1
定價:86.00元