四臂手術(shù)機(jī)器人

 

隨著人工智能和機(jī)器學(xué)習(xí)的發(fā)展，機(jī)器人越來越多地承擔(dān)起更加重要的工作，如外科手術(shù)、自動駕駛、戰(zhàn)場作戰(zhàn)，甚至能決定人類的生死，那么——我們能信賴機(jī)器人嗎？

 

按大眾對機(jī)器人的理解，它們要么是近乎完美的忠誠管家，要么是精神變態(tài)的狡詐殺手，就像《星球大戰(zhàn)》里的C3PO、《機(jī)械姬》里的艾娃、《禁閉行星》里的羅比或《太空漫游》里的哈爾。雖說這些描寫只不過反映了人類自己的希望和恐懼，但至少這些恐懼已開始進(jìn)入現(xiàn)實(shí)。

 

近年來，許多科技界名人表達(dá)了他們對人工智能橫行世界的憂慮：擁有超級智能的機(jī)器人建立了一個新世界，人類不再是這個新世界里的主角，他們被奴役、殺戮甚至滅絕。這些恐怖場景和幾十年前科幻小說家們幻想的差別不大，卻引起了人們的廣泛關(guān)注，甚至包括斯蒂芬·霍金、比爾·蓋茨、埃隆·馬斯克等科技名人。

 

人類和機(jī)器正形成一種新的關(guān)系。在不久的將來，我們會開始對那些具有高度自主性、完全自動化的機(jī)器人系統(tǒng)委以重任，如駕駛汽車、執(zhí)行手術(shù)，甚至在戰(zhàn)爭中選擇何時使用致命性武器。這是人類第一次在面對復(fù)雜、變動和無序環(huán)境時，通過對機(jī)器編程而不是直接控制來做出生死決擇。

 

毫無疑問，機(jī)器人并不完美，它們也會犯錯，甚至可能造成人類傷亡。但可以確定的是，這一新興科技將給人類帶來前所未有的發(fā)展前景。屆時，我們將面對的挑戰(zhàn)涵蓋技術(shù)、法規(guī)甚至哲學(xué)范疇，除了法典和政策問題，新的機(jī)器人還迫使我們面對更深的道德難題，甚至改變對自我的認(rèn)識。但最終，這個世界會因機(jī)器人時代的到來而變得更加美好。

 

手術(shù)機(jī)器人達(dá)·芬奇

 

精準(zhǔn)高效的外科手術(shù)機(jī)器人

 

目前，外科醫(yī)生已可以利用機(jī)器手臂來做復(fù)雜的手術(shù)。美國紐約大學(xué)機(jī)器人手術(shù)中心主管邁克爾·斯蒂夫曼已做過上千例機(jī)器人輔助手術(shù)。他在控制臺操縱著機(jī)械臂，每個機(jī)械臂都通過一個約5毫米寬的微小切口伸入病人體內(nèi)，只要旋轉(zhuǎn)自己的手腕，捏緊手指，伸入病人體內(nèi)的機(jī)械臂就會精準(zhǔn)地執(zhí)行同樣動作。

 

他引導(dǎo)著兩只手臂給一根線打結(jié)，操縱第三只手臂用針穿過病人腎臟，將切除腫瘤后留下的洞縫在一起，第四只手臂則拿著內(nèi)窺鏡將病人腹腔內(nèi)的情況呈現(xiàn)在顯示屏上。

 

斯蒂夫曼是位受過高等訓(xùn)練的專家，有高超的技能和判斷，然而，他正在把寶貴的時間花在縫合上。這只是主手術(shù)的后續(xù)整理工作，如果機(jī)器人能接手這項(xiàng)單調(diào)機(jī)械的任務(wù)，外科醫(yī)生就能騰出手來做更重要的事。

 

今天的手術(shù)機(jī)器人能力進(jìn)一步增強(qiáng)，手術(shù)中不僅沒有手顫，還能實(shí)施多種方案。但說到底，機(jī)器人只是由人類直接控制的高級工具。手術(shù)機(jī)器人公司泰坦醫(yī)療（Titan Medical）執(zhí)行副總裁丹尼斯·福勒曾是一名從業(yè)32年的外科醫(yī)生，他認(rèn)為，如機(jī)器人能代替人類自動做一些決策，獨(dú)立執(zhí)行分配給它們的任務(wù)，醫(yī)療行業(yè)將能更好地為人類服務(wù)。“這種技術(shù)干預(yù)手段能增加可靠性，減少人為錯誤。”

 

給機(jī)器人“升職”并非遙不可及的事，所需的大部分技術(shù)很快會在研究和工業(yè)實(shí)驗(yàn)中開發(fā)出來，實(shí)驗(yàn)機(jī)器人用人體組織的橡膠模型練習(xí)縫合、清洗傷口、切除腫瘤等。在一些實(shí)驗(yàn)中，機(jī)器人能比得上人，有些甚至比人更加精確、高效。就在上個月，華盛頓一家醫(yī)院展示了一個機(jī)器人系統(tǒng)縫合的豬小腸組織，讓人執(zhí)行同樣手術(shù)進(jìn)行比較發(fā)現(xiàn)，機(jī)器人縫得更均勻、更細(xì)密。

 

雖然這些系統(tǒng)還沒準(zhǔn)備好用于病人，但它們代表了未來手術(shù)的發(fā)展方向。同樣的邏輯也適用于操作室和裝配流水線，如果高自動化能提高工作效果，那就沒什么能阻止它。

 

肥胖癥治療醫(yī)生、倫敦帝國學(xué)院講師休丹·阿什拉芬對機(jī)器人手術(shù)的結(jié)果進(jìn)行了研究。他認(rèn)為，在可預(yù)見的將來，手術(shù)機(jī)器人將會在醫(yī)生指令下處理簡單的任務(wù)。“我們的目標(biāo)是提高術(shù)后效果。如果用機(jī)器人能挽救生命、降低風(fēng)險(xiǎn)，那用這種設(shè)備就是義不容辭的。”

 

展望未來，醫(yī)學(xué)界最終會使用下一代機(jī)器人——有決策權(quán)的人工智能。這種機(jī)器人不僅能處理常規(guī)任務(wù)，還能接管整個手術(shù)。雖然現(xiàn)在看起來還不太可能，但技術(shù)創(chuàng)新會很自然地把人們引領(lǐng)到那里。阿什拉芬說：“這是一步步實(shí)現(xiàn)的，雖然每一步都不是特別大。正如50年前的醫(yī)生想象不出現(xiàn)在手術(shù)室的樣子，從現(xiàn)在起再過50年，估計(jì)又是另一番景象。”

 

其實(shí)手術(shù)機(jī)器人已經(jīng)能自己做決定，獨(dú)立性比人們所想的更強(qiáng)。比如，在視力矯正手術(shù)中，機(jī)器人系統(tǒng)切下病人一小片角膜，并通過一系列激光脈沖重塑其內(nèi)層；膝關(guān)節(jié)置換手術(shù)中，用自主機(jī)器人切割骨骼比醫(yī)生更精確；在頭發(fā)移植手術(shù)中，智能機(jī)器人能識別并采集病人頭部堅(jiān)固的頭發(fā)毛囊，然后在禿斑頭皮部位打下精密小孔，幫醫(yī)生省下許多單調(diào)、費(fèi)時的重復(fù)勞動。

 

那些涉及到胸腔、腹腔和盆腔部位的手術(shù)要面對更復(fù)雜的挑戰(zhàn)，因?yàn)槊總€病人的生理結(jié)構(gòu)都有所不同，自主機(jī)器人必須能很好地識別各種又濕又軟的內(nèi)部器官和血管；而且在手術(shù)中，病人的各部分內(nèi)臟都可能起變化，所以，機(jī)器人還要能不斷地調(diào)整手術(shù)計(jì)劃。

 

機(jī)器人還要有可靠地處理危機(jī)的能力。比如，在腫瘤切除手術(shù)中突遇大出血，它必須能及時、正確地處理。手術(shù)中會出現(xiàn)各種不可預(yù)期的復(fù)雜情況，機(jī)器人成像系統(tǒng)和計(jì)算機(jī)視覺首先要能識別，并通過噴出紅色液體提示這種情況的嚴(yán)重性；下一步，其決策軟件要能找出處理這種問題的最佳方案，然后指令系統(tǒng)迅速將這一方案付諸行動；最后由評估程序來評價結(jié)果，確定是否還需進(jìn)一步行動。讓手術(shù)機(jī)器人掌握感知、決策、行動和評價每一步驟，代表著對工程師的巨大挑戰(zhàn)。

 

加州大學(xué)伯克利分校機(jī)器人專家肯·戈德伯格讓達(dá)·芬奇機(jī)器人縫合手術(shù)切口，達(dá)·芬奇能通過“機(jī)器學(xué)習(xí)”軟件自己學(xué)習(xí)。

 

進(jìn)入實(shí)用的“達(dá)·芬奇”系統(tǒng)

 

2013年，位于加利福尼亞州的“直覺手術(shù)”公司開始向世界各大學(xué)機(jī)器人研究人員捐贈“達(dá)·芬奇”手術(shù)機(jī)器人系統(tǒng)，每臺造價高達(dá)250萬美元，它也是美國監(jiān)管機(jī)構(gòu)批準(zhǔn)的軟組織手術(shù)系統(tǒng)。目前，全世界有超過3600家醫(yī)院安裝了“達(dá)·芬奇”系統(tǒng)。但它的商業(yè)之路并非一帆風(fēng)順，曾因輕微事故而面臨訴訟。盡管充滿了爭議，很多醫(yī)院和病人已經(jīng)接受了這種技術(shù)。

 

“達(dá)·芬奇”處在人類醫(yī)生的完全控制之下，除非醫(yī)生在控制臺上抓住操縱桿，否則其手臂只是毫無生氣的塑料和金屬片。該公司先進(jìn)系統(tǒng)研發(fā)部經(jīng)理西蒙·迪邁奧說，目前他們打算保持這種現(xiàn)狀。但機(jī)器人專家正在面向未來努力，讓醫(yī)生在做手術(shù)時有越來越多的輔助工具或計(jì)算機(jī)引導(dǎo)。

 

迪邁奧指出，這一領(lǐng)域的研究就像早期的自動駕駛汽車，“第一步是識別道路標(biāo)志、障礙物、汽車和行人，”下一步是讓汽車來幫助司機(jī)。比如，智能汽車會感知周圍車輛的位置，在司機(jī)錯誤變道時發(fā)出提醒。同樣，手術(shù)機(jī)器人可在醫(yī)生的手術(shù)器具偏離常規(guī)路徑時發(fā)出警示。

 

加州大學(xué)伯克利分校自動化科學(xué)與工程實(shí)驗(yàn)室主管肯·戈德伯格也在訓(xùn)練他的“達(dá)·芬奇”獨(dú)立執(zhí)行手術(shù)任務(wù)。目前，它的縫合技術(shù)已相當(dāng)靈巧，它能一只手臂拉線通過模型傷口兩邊，另一只手臂通過拉針把線繃緊，無需人類引導(dǎo)而開始縫下一針。它通過位置傳感與攝像技術(shù)計(jì)算每次進(jìn)出針的最佳位置，計(jì)劃并跟蹤行針軌跡。但任務(wù)還是很艱巨，據(jù)報(bào)告，它目前只能完成四針程序的50%，而且還不會給線打結(jié)。

 

戈德伯格說，現(xiàn)在他們使用機(jī)器學(xué)習(xí)算法采集視覺和運(yùn)動學(xué)數(shù)據(jù)，把每一針分為定位、推針等多個步驟，讓“達(dá)·芬奇”按順序處理。通過這種方法，它有可能學(xué)會做任何手術(shù)。

 

理論上，同樣的程序也能指導(dǎo)真正的手術(shù)。戈德伯格認(rèn)為，在今后10年內(nèi)就能實(shí)現(xiàn)簡單的手術(shù)任務(wù)自動化。但即使機(jī)器人真的能在常規(guī)手術(shù)中表現(xiàn)更好，他仍希望機(jī)器人的行動是一種在人類醫(yī)生“監(jiān)督下的自主”。他說，讓機(jī)器人做長時間精確且一致的工作，就像縫紉機(jī)對手工縫紉，只有機(jī)器與人合作才能成為超級醫(yī)生。

 

進(jìn)攻型無人機(jī)和射擊機(jī)器人

 

被重新定義的軍事機(jī)器人

 

捷克作家卡雷爾·恰佩克1920年發(fā)表了科幻劇作《羅素姆的萬能機(jī)器人》，發(fā)明了“機(jī)器人”一詞，其最初含義是合成人類，它們在工廠長時間辛苦地工作，生產(chǎn)低成本商品。然而，最終這些機(jī)器人殺死了人類。這也是科幻小說一直在描寫的情節(jié)：機(jī)器人失去控制，變成不可阻擋的殺人機(jī)器。

 

現(xiàn)在，隨著人工智能的發(fā)展和機(jī)器人技術(shù)的進(jìn)步，加上伊拉克、阿富汗戰(zhàn)爭中無人機(jī)與地面機(jī)器人的廣泛使用，人們在震驚之余開始擔(dān)憂，科幻中的恐懼會變成現(xiàn)實(shí)。

 

世界最強(qiáng)大的軍隊(duì)目前正在開發(fā)更智能的武器，這些武器將擁有不同程度的自動化能力和殺傷力，絕大多數(shù)通過人類遠(yuǎn)程控制。但也有人認(rèn)為，未來的人工智能武器最終會完全自動化地操作，由集成微芯片和軟件來決定人類的生死，這將成為戰(zhàn)爭史上的一道分水嶺。

 

于是，“機(jī)器人殺手”引發(fā)了激烈爭論：一方認(rèn)為，機(jī)器人可能開啟一場世界大戰(zhàn)摧毀人類文明；另一方則認(rèn)為，這些武器是一種新型精確制導(dǎo)武器，只會減少而不是增加傷亡。人工智能領(lǐng)域的一些主要研究人員呼吁，禁止“自主進(jìn)攻型武器超越人類控制”。

 

去年，三位學(xué)術(shù)界名人——美國加州大學(xué)伯克利分校的斯圖爾特·羅塞爾、麻省理工學(xué)院的馬科斯·泰格馬克和澳大利亞新南威爾士大學(xué)的托比·沃什，在一次人工智能（AI）大會上組織發(fā)起了聯(lián)名請?jiān)浮Ｋ麄冊诠_信中指出，這些武器將導(dǎo)致“全球AI軍備競賽”，用于“暗殺、破壞國家穩(wěn)定、鎮(zhèn)壓群眾和選擇性地消滅某個少數(shù)民族群體。”目前，這封信已有超過兩萬人簽名，包括著名物理學(xué)家斯蒂芬·霍金、特斯拉CEO埃隆·馬斯克等人。馬斯克還捐了1000萬美元給一家位于波士頓的研究所。該研究所的任務(wù)是“保衛(wèi)生命”，抵抗可能出現(xiàn)的惡意人工智能。這一事件成為世界各大媒體的新聞，甚至在12月日內(nèi)瓦聯(lián)合國裁軍談判會議上，約有100多個國家參與討論這一問題。

 

這場爭論還擴(kuò)展到網(wǎng)絡(luò)上。人們對未來進(jìn)行了各種預(yù)測和展望，有人認(rèn)為，某種情況下還可能出現(xiàn)“出售殺傷性微型機(jī)器人的低成本大規(guī)模黑市，購買者可以給它設(shè)定某些標(biāo)準(zhǔn)，不加分辨地殺死成千上萬符合標(biāo)準(zhǔn)的人”。

 

他們?nèi)诉€指出：“自主性武器是一種潛在的大規(guī)模毀滅性武器。雖然一些國家或許不會選擇將它們用于這種目的，但這對有些國家和恐怖主義分子卻極有吸引力。”

 

造出在智能、自主和自動化方面不斷升級的殺人機(jī)器，不管這種軍備競賽能否更好地服務(wù)于人類利益，也不管目前存在著多大爭議，實(shí)際上新一輪的AI軍備競賽已經(jīng)開始。

 

美國魔爪SWORDS機(jī)器人

 

悄然興起的智能化武器裝備

 

自主武器幾十年前就已出現(xiàn)，但數(shù)量較少，而且基本上都是用于防御性目的。最近，軍事供應(yīng)商開發(fā)出了被認(rèn)為是進(jìn)攻型的自主武器。以色列航空工業(yè)公司的Harpy和Harop無人機(jī)，能朝著敵方防空系統(tǒng)發(fā)出的無線電波飛去，撞毀它們。公司稱，這種無人機(jī)已廣泛向全世界出售。韓國國防承包商DoDAAM Systems公司也開發(fā)出了一種警衛(wèi)機(jī)器人“超級aEgis II”，裝備有機(jī)槍，能利用計(jì)算機(jī)視覺自動探測射擊3公里內(nèi)的目標(biāo)。據(jù)韓國軍方報(bào)告，已經(jīng)在臨朝鮮邊界的非武裝地區(qū)對這些裝備了機(jī)器人的武器進(jìn)行測試。DoDAAM Systems公司稱，他們已經(jīng)售出超過30套這種系統(tǒng)，有些買家在中東。目前，這種自動系統(tǒng)的數(shù)量大大超過機(jī)器人武器。

 

有些分析師認(rèn)為，未來幾年，武器的自主程度將變得越來越高。位于華盛頓特區(qū)的一個無黨派研究機(jī)構(gòu)“新美國”的機(jī)器人戰(zhàn)爭專家彼得·辛格說：“戰(zhàn)爭將會變得完全不同，自動化將發(fā)揮重要作用，速度成為關(guān)鍵。”他預(yù)測，未來戰(zhàn)爭的場景就像無人機(jī)之間的混戰(zhàn)，或機(jī)器人戰(zhàn)艦和敵方潛艇之間的遭遇戰(zhàn)，能提供剎那間優(yōu)勢的武器將決定戰(zhàn)爭的勝負(fù)。“可能是高密度的直接對抗，對人類來說根本來不及介入，因?yàn)橹辉趲酌腌妰?nèi)一切就已發(fā)生了。”

 

美國軍方在一份無人系統(tǒng)路線圖中，對這種新型戰(zhàn)爭列出了一些詳細(xì)計(jì)劃，但它在武器化方面的意圖仍含糊不清。國防部長羅伯特·沃克去年3月曾在一次論壇中強(qiáng)調(diào)，要在AI和機(jī)器人方面投資，并稱在戰(zhàn)場上出現(xiàn)越來越多的自動化系統(tǒng)是不可避免的。

 

問及關(guān)于自主武器時，沃克堅(jiān)持美國軍方“不會把做致命決定的權(quán)利授權(quán)給一臺機(jī)器。”但他也補(bǔ)充說，如果“競爭對手”更愿意把這樣的權(quán)利交給機(jī)器的話，我們也不得不決定，怎樣才能最好地競爭。

 

在開發(fā)陸海空無人戰(zhàn)斗系統(tǒng)方面，俄羅斯也遵循同樣策略，但至少現(xiàn)在還依靠人類操作。俄羅斯的M平臺是一種小型遙控機(jī)器人，裝備有卡拉什尼科夫步槍和榴彈發(fā)射器，類似美國“魔爪SWORDS”系統(tǒng)（配備M16及其它武器的地面機(jī)器人）。俄羅斯還造了一個更大的無人戰(zhàn)車Uran-9，配備30毫米機(jī)關(guān)炮和反坦克導(dǎo)彈，去年還演示了一個人形戰(zhàn)士機(jī)器人。

 

聯(lián)合國一直堅(jiān)持討論致命自主機(jī)器人已近5年，但其成員國還未能起草一份協(xié)議。2013年，聯(lián)合國人權(quán)問題特別報(bào)告員克里斯·海恩斯寫了一份有影響的報(bào)告指出，世界各國有一個難得的機(jī)會，在自主武器大規(guī)模發(fā)展之前討論它們的風(fēng)險(xiǎn)。

 

今年12月，聯(lián)合國“特定常規(guī)武器公約”將召開5年審查會議，致命性自主機(jī)器人的話題將提上日程，但要在會議上通過禁令是不可能的。這一決策需要所有參會國一致同意，在如何處理未來可能出現(xiàn)的泛自主武器問題上，各國仍存在根本分歧。

 

最終，“殺手機(jī)器人”的辯論似乎更關(guān)乎人類自身而不是機(jī)器人，自主武器也和其他任何技術(shù)一樣，至少在第一次使用時，應(yīng)該更加謹(jǐn)慎，否則會是混亂和災(zāi)難性的。像“自主作戰(zhàn)機(jī)器人是個好主意嗎？”這樣的提問可能不太合適，更好的應(yīng)該是“我們確信自己能充分信任機(jī)器人并和它們生活在一起嗎？”

 

兼顧邏輯與道德的無人駕駛車

 

設(shè)想一下，將來的某個夜晚，一個醉醺醺的行人突然在一輛無人駕駛汽車前面摔倒，結(jié)果當(dāng)場被撞死。如果車?yán)镉腥耍@會被認(rèn)為是一次事故，因?yàn)樾腥孙@然有錯，理性的司機(jī)也難以及時躲避。但到了本世紀(jì)20年代，隨著無人駕駛汽車日益普及，車禍發(fā)生的概率會減少90%，對應(yīng)司機(jī)過失的“理性人”的法律標(biāo)準(zhǔn)也會消失，對應(yīng)的標(biāo)準(zhǔn)是給“理性機(jī)器人”。

 

死者家屬會把汽車制造商告上法庭，指稱汽車雖然來不及剎車，但它應(yīng)該躲避周圍行人，越過雙黃線，撞上旁邊車道上那輛空空的無人駕駛車。而根據(jù)該汽車的傳感器數(shù)據(jù)分析，再現(xiàn)撞人場景也確實(shí)如此。原告律師會質(zhì)問汽車頭部軟件設(shè)計(jì)師：“為什么汽車不會轉(zhuǎn)彎？”

 

但法庭絕不會質(zhì)問一個司機(jī)，為什么即將撞車前他不采取某個緊急措施，因?yàn)檫@是毫無意義的——司機(jī)驚慌失措無法思考，只能憑本能做事。但如果司機(jī)是個機(jī)器人，問“為什么”就變得合理了。

 

在人類的道德標(biāo)準(zhǔn)、有瑕疵的法典案例、各種各樣工程師想不到的假設(shè)情況中，最重要的假設(shè)是：一個有著良好判斷能力的人知道何時應(yīng)不顧文字上的法律條規(guī)，真正維護(hù)法律精神的至高無上。現(xiàn)在工程師必須做的是，把一些基本的判斷因素教給自動駕駛汽車和其他機(jī)器人。

 

目前，在英國部分地區(qū)、德國、日本、美國4個州和哥倫比亞特區(qū)，法律已明確允許對完全自動化車輛進(jìn)行測試，但車?yán)镞€要有一個測試司機(jī)。谷歌、日產(chǎn)、福特及其他公司也表示，他們預(yù)計(jì)在今后5到10年內(nèi)實(shí)現(xiàn)真正的無人駕駛操作。

 

自動車輛獲得環(huán)境信息是通過一系列傳感器，如視頻攝像機(jī)、超聲波傳感器、雷達(dá)和激光雷達(dá)（激光測距）。在加利福尼亞州，申請自動車測試牌照要向機(jī)動車管理局提供碰撞前30秒的所有傳感器數(shù)據(jù)，工程師可以憑著這些數(shù)據(jù)精確重現(xiàn)碰撞事故場景。利用汽車的傳感器記錄，就能推知它決策背后的邏輯。發(fā)生車禍后，監(jiān)管機(jī)構(gòu)和律師能根據(jù)這些記錄，堅(jiān)稱自動車輛有著超人的安全標(biāo)準(zhǔn)，通過了嚴(yán)格的審查。制造商和軟件開發(fā)商也將以目前人類司機(jī)無法想象的方式，為無人駕駛車的行為辯護(hù)。

 

所有駕駛都會涉及到風(fēng)險(xiǎn)問題，但這些風(fēng)險(xiǎn)如何在司機(jī)、行人、騎自行車者之間分配，甚至風(fēng)險(xiǎn)的性質(zhì)都有著道德的成分。無論對工程師還是對一般公眾來說，最重要的是自動駕駛汽車的決策系統(tǒng)，它決定了汽車行為中所含的道德成分。

 

對于道德上模棱兩可的情況，在遵循法律的同時盡量減少損失。這種策略很有吸引力，因?yàn)樗试S開發(fā)人員為肇事車“不作為”的行為辯護(hù)，也向立法者傳遞了定義道德行為的責(zé)任。但不幸的是，這方面的法律尚未完善。

 

在大多數(shù)國家，法律依賴于人類的常識，對自動駕駛汽車編程也應(yīng)遵守法律規(guī)定：不得越過雙黃線，即使有撞上一個醉漢的風(fēng)險(xiǎn)，即使另一邊車道上只有空的無人駕駛車——法律很難為緊急情況制定例外，汽車開發(fā)商無從確定何時越過雙黃線是安全的。

 

在道路車輛自動化倫理學(xué)上，這并非不可解的難題。可以借鑒其他領(lǐng)域的大量案例，來安全合理地處理類似的風(fēng)險(xiǎn)和利益。比如，給病人捐獻(xiàn)器官，依據(jù)它會帶來更有質(zhì)量的生命還是殘疾的生命，還增加了一些對社會更有用的職業(yè)。自動駕駛車輛面臨的更大挑戰(zhàn)是，它們必須在信息不完全、程序員常常考慮不到的情況下，利用編碼在軟件中死板的道德條規(guī)，迅速做出決定。

 

幸運(yùn)的是，公眾并沒有過分地期望超人智慧，考慮到倫理道德的復(fù)雜性，只要對自動車行為有個合理的判斷就可以了。一種解決方案不一定要完美無瑕，但應(yīng)該是多方考慮、合情合理的。

（作者：常麗君）