美狄亞就是個(gè)“黑客”:希臘神話中關(guān)于技術(shù)工具化的警示
近年來,AI產(chǎn)業(yè)應(yīng)用的深化已成為我國促進(jìn)新興產(chǎn)業(yè)發(fā)展,推動(dòng)制造業(yè)轉(zhuǎn)型升級(jí)的重要?jiǎng)恿ΑA硪环矫妫澜绺鲊鄠€(gè)領(lǐng)域的學(xué)者也都在圍繞這類新技術(shù)展開研究,警惕潛在的技術(shù)風(fēng)險(xiǎn),思考與之相關(guān)的社會(huì)問題,嘗試建立制度化的道德倫理規(guī)范。
美國歷史學(xué)家阿德里安娜·梅厄(Adrienne Mayor)近來出版的著作《諸神與機(jī)器人》,在AI爭論的熱潮中宛如一股奇趣的清流。梅厄在硅谷定居十多年,浸淫于資本技術(shù)攜手狂奔的氛圍中,作為一位著名的古代科學(xué)史及古典民俗學(xué)專家,她在新書中獨(dú)辟蹊徑,把當(dāng)今的新技術(shù)和人們耳熟能詳?shù)墓畔ED神話一一對(duì)位:塔羅斯是機(jī)器人,美狄亞是“黑客”,潘多拉是人工智能……在這些距今2500多年的故事中,在人神之間的愛情、陰謀與復(fù)仇中,早已埋藏了富有預(yù)見性的道德警示,而梅厄通過這場時(shí)空折疊的游戲,揭示了人類在前沿科技中所寄托的渴望力量與不朽的古老文化夢想。2019年3月5日,梅厄在舊金山接受了法國《解放報(bào)》駐美記者洛爾·安德里永(Laure Andrillon)的專訪,編譯如下。
洛爾·安德里永:說到神話,人們會(huì)想到永生的神明、神奇的魔力、神秘的想象生物。您為什么要到神話中去追溯機(jī)器人的歷史呢?
阿德里安娜·梅厄:我是個(gè)研究古代科學(xué)史的歷史學(xué)家,又在硅谷中心區(qū)生活了13年。看著身邊的人們不斷努力發(fā)明新的自動(dòng)化設(shè)備,創(chuàng)造人工智能,追求健康長壽甚至不朽的生命,我想知道在今天激勵(lì)技術(shù)進(jìn)步的這種愿望,最初是在多久以前誕生的。大多數(shù)歷史學(xué)家認(rèn)為最早的機(jī)器人故事可以追溯到中世紀(jì),主要是機(jī)器騎士。然而有一天,塔羅斯的故事突然進(jìn)入到我的腦海。
塔羅斯是一臺(tái)青銅機(jī)器人,會(huì)自動(dòng)搬起岸邊的巖石投砸來犯的船只,守衛(wèi)克里特島。在公元前700多年的《荷馬史詩》中,塔羅斯并沒有被描繪成某種神奇的生物!他不是被“生出來”的,而是通過技術(shù),由火和冶金之神赫菲斯托斯用雙手和工具制造出來的。
后來在神話中,女巫美狄亞為幫助伊阿宋獲取金羊毛,找到了欺騙塔羅斯的方法。在不同版本中,她要么是催眠了塔羅斯,要么是說服他接受能使其永生的手術(shù):她刺穿他腳踝處唯一的弱點(diǎn),從中抽空了他的魔力神血。美狄亞就是個(gè)“黑客”!塔羅斯的神話已經(jīng)考慮到機(jī)器人被黑客攻擊轉(zhuǎn)變其功能的可能性了。這讓人不由想到一則傳聞——美國軍方正在開發(fā)一種智能機(jī)器人外骨骼,名字就叫塔羅斯,它使用可固化的液態(tài)金屬來保護(hù)士兵免受子彈攻擊,還將配備能遠(yuǎn)程監(jiān)控士兵感官的傳感器。
洛爾·安德里永:您在書中論證了任務(wù)自動(dòng)化的夢想至少可以追溯到《伊利亞特》的時(shí)代。荷馬筆下的機(jī)器工人是什么樣的?
阿德里安娜·梅厄:在《伊利亞特》中,我們會(huì)讀到許多自動(dòng)化設(shè)備,這些器物都能自動(dòng)運(yùn)作。例如:菲阿奇島民能自主航行的艦船,自動(dòng)為奧林匹斯眾神斟酒的三足鼎,在赫菲斯托斯鍛冶時(shí)自動(dòng)鼓風(fēng)的風(fēng)箱。這位神明甚至給自己打造了一群黃金鑄身的女仆,為了省得給她們下命令,他還給了她們意識(shí)甚至神識(shí),使她們能夠預(yù)測出他的需求。聯(lián)想到當(dāng)下有關(guān)“究竟需要給神經(jīng)網(wǎng)絡(luò)提供多大的數(shù)據(jù)量才能令其完成特定任務(wù)”的辯論,這一段故事讀起來著實(shí)讓人著迷。值得注意的是,在所有這些例子中,為了免除繁重的人力勞動(dòng),行為動(dòng)作都被機(jī)械化了。
到了4世紀(jì),這些神話中的自動(dòng)裝置引起了亞里士多德的思考,這位哲學(xué)家雖然是奴隸制的狂熱擁護(hù)者,但他在《政治學(xué)》中也承認(rèn),如果赫菲斯托斯造的那些自動(dòng)三足鼎真的存在,就沒有必要有奴隸了……這在今天看起來略有點(diǎn)諷刺,因?yàn)閺哪菚r(shí)起工人們就開始擔(dān)心會(huì)被機(jī)器人取代了。
人工智能常被人們比作一個(gè)將釋放一切人間罪孽的邪惡的潘多拉魔盒。但在神話中,這個(gè)禁止打開的盒子里裝的,不僅有衰老、疾病、戰(zhàn)爭、饑荒和死亡,它還包含了希望。
洛爾·安德里永:那么即使以放棄希望為代價(jià),也不應(yīng)該打開這個(gè)盒子嗎?
阿德里安娜·梅厄:潘多拉是一個(gè)引人入勝的例子,如果仔細(xì)去讀這個(gè)故事,我們會(huì)發(fā)現(xiàn)她并不像人們常以為的那樣,是個(gè)天真無邪的女人,禁不住誘惑才打開了禁忌之盒。她是宙斯請(qǐng)赫菲斯托斯制造出來的一個(gè)機(jī)器人,用來欺騙人類,報(bào)復(fù)他們的傲慢自大,因?yàn)樗麄兘邮芰似樟_米修斯的禮物,也就是曾經(jīng)專屬于神明的火種。潘多拉帶來的災(zāi)禍不是偶然的,她恰恰是被精心設(shè)計(jì),以美女的形象出現(xiàn)來欺騙人類的陷阱。至于在所有災(zāi)禍逃走之后剩下來的“希望”,它常被看作是留給人類的一份“安慰獎(jiǎng)”。然而希望在古希臘人看來并不一定是積極的正能量。盲目的希望使人缺乏遠(yuǎn)見!要理解這個(gè)神話中的警示,關(guān)鍵要搞清楚是什么人,為了什么緣故要制造這個(gè)機(jī)器人:這是宙斯的想法,他是一個(gè)獨(dú)裁的神,一個(gè)地道的復(fù)仇之神。這些神話提醒我們要警惕技術(shù)易于被暴君壟斷并利用的傾向。
洛爾·安德里永:今天,超人主義群體和一些高科技企業(yè)正在努力追求永生不朽。他們能從那些有著同樣目標(biāo)的神話人物身上學(xué)到些什么?
阿德里安娜·梅厄:在神話中,追求永生的凡人往往表現(xiàn)出“傲慢”(hybris),也就是“過分、出格”的樣子。英雄們的智慧和英勇則在于接受他們的有限性。在《奧德賽》中,女神卡呂普索以永生為代價(jià)挽留尤利西斯永遠(yuǎn)待在她的島上,而他拒絕了這一提議,重拾自我并回到妻子佩內(nèi)洛普身邊。黎明女神愛奧斯為她的情人提托諾斯求得了不死之身,可她卻忘了永生并不等于永葆青春。提托諾斯老了,愛奧斯將他安置在一個(gè)黃金鑄就的牢籠里,讓他在那里日漸衰弱地走向永恒。暴君西西弗斯綁架死神桑納托斯帶來了諸多麻煩:大地上人滿為患,病人痛苦而不得解脫,戰(zhàn)爭成了人類的游戲,西西弗斯因此受到桑納托斯和諸神的嚴(yán)厲懲罰。我甚至發(fā)現(xiàn)了一個(gè)不是靠神力而是靠技術(shù)(在故事里表現(xiàn)為藥物)來尋求永生的神話:美狄亞把伊阿宋的父親放到大鍋藥湯里熬煮,使他換血洗髓返老還童。后來她又把同樣的技術(shù)用在她的情敵佩利亞斯身上,但是故意省略了其中一個(gè)步驟,于是給她帶來的就不是青春而是死亡。這個(gè)故事讓我馬上想到近年來頗受爭議的血液治療試驗(yàn),給年邁的老鼠輸入年輕人的血液,測試其中的活性蛋白質(zhì)治療阿爾茨海默癥或帕金森癥等“老年病”,幫助衰老肌體恢復(fù)活力的可能性。這則神話警示我們認(rèn)清科學(xué)與庸醫(yī)騙子之間的界限,并展示了人如果想要“成神”將招致怎樣的危險(xiǎn)。
洛爾·安德里永:這些神話是不是要讓我們必須放棄這些“文化夢想”呢?
阿德里安娜·梅厄:對(duì)古人來說,這些神話只是他們的某種思想實(shí)驗(yàn),只是在今天仍然適用。我常想起一句話,是斯萊德克(John Sladek)1983年出版的科幻小說《提克·托克》(Tik-Tok,中文版譯名《機(jī)器人謀殺案》)中,那個(gè)與小說同名的邪惡機(jī)器人說的:“有時(shí)我會(huì)想,機(jī)器人被發(fā)明出來是不是為了回答哲學(xué)家們提出的問題。”不過直至今日,我們才剛剛要擁有使這些機(jī)器人夢想成真的必要技術(shù)手段。思想實(shí)驗(yàn)呈現(xiàn)出截然不同的現(xiàn)實(shí)。它并不意味著我們必須放棄進(jìn)步,但我們必須更謹(jǐn)慎地預(yù)測其中的危險(xiǎn)。以代達(dá)洛斯的故事為例,他和兒子伊卡洛斯被困在克里特島的迷宮里,這位巧匠為了脫身,用蜂蠟黏合羽毛造出了人造翅膀,并警告他的兒子不準(zhǔn)飛得太高或太低,因?yàn)樘柕臏囟扰c海面的濕氣會(huì)使翅膀損壞,可是年輕的伊卡洛斯陶醉于飛行,升得太高烤化了蠟而不幸墜亡,代達(dá)洛斯則一直小心翼翼地飛行終得逃脫,這則神話也是在教導(dǎo)人謙遜。我甚至還找到一個(gè)太空旅行的故事!為了征服天空,亞歷山大登上他建造的飛行器離開了地球。他驚異地看著大地漸漸變成一個(gè)藍(lán)色的小點(diǎn),脆弱地漂浮在無盡的虛空中。看到這番景象他心滿意足,滿懷謙卑之心回到了地球。當(dāng)我們知道今天有人想要造火箭去火星上定居時(shí),又會(huì)是怎樣的心情呢?
洛爾·安德里永:您在書的最后還提出,人們甚至可以用神話來教育人工智能……
阿德里安娜·梅厄:一些科學(xué)家已經(jīng)在嘗試通過給人工智能輸入寓言故事、小說和電影劇本,來向它們灌輸人類的道德規(guī)范了。“謝赫拉莎德”就是這樣一個(gè)例子,這個(gè)人工智能的名字來自《一千零一夜》里講故事的女主角:開發(fā)者試圖通過大量簡單的故事,來向“她”展示何謂有道德的行為。這項(xiàng)研究的目標(biāo)是避免微軟聊天機(jī)器人Tay“學(xué)壞”這類事件再度發(fā)生,2013年Tay剛上線沒幾個(gè)小時(shí),就在社交網(wǎng)絡(luò)上學(xué)會(huì)了種族歧視和性別歧視。人們可以用神話來養(yǎng)育人工智能,因?yàn)檫@其中包含了太多有關(guān)“他們”的教誨,而這些神話也將成為人工智能自己“文化”的一部分。不過你們也許會(huì)說,這只不過是我的又一個(gè)文化夢想而已……
(杜甦 編譯)