引 言

“人工智能”（以下簡(jiǎn)稱AI）一詞既在技術(shù)層面使用（工具、客體），也逐漸在道德與法律主體意義上進(jìn)行討論。AI首先依托于現(xiàn)有互聯(lián)網(wǎng)底層架構(gòu)和商業(yè)模式得到開發(fā)，原本沒有那么智能的算法在運(yùn)算和數(shù)據(jù)處理能力上得到提升，甚至算法本身能夠自主學(xué)習(xí)，對(duì)數(shù)據(jù)進(jìn)行識(shí)別、分類、決策，可應(yīng)用的場(chǎng)景也從單一擴(kuò)展到多元，最終變成通用AI。

不難看出，AI這一概念容納了相當(dāng)混雜多元的對(duì)象，而人們?cè)谡務(wù)摃r(shí)頭腦中往往想象不同的（甚至當(dāng)下不存在的）實(shí)體。如果討論對(duì)象模糊不清，就很難對(duì)不同判斷達(dá)成一致（如是否應(yīng)賦予AI適格的法律主體地位）。本文延續(xù)思考網(wǎng)絡(luò)法核心問(wèn)題的一貫視角，將AI置于互聯(lián)網(wǎng)演變過(guò)程（特別是生產(chǎn)過(guò)程）中，觀察AI對(duì)既有賽博空間（Cyberspace）秩序的影響，以及法律如何回應(yīng)。

這一視角的好處是：

首先，AI依托于不同場(chǎng)景和商業(yè)模式，可以在當(dāng)下針對(duì)特定模式的立法體系下討論，避免在同一個(gè)標(biāo)簽下談?wù)摬煌瑢用娴膯?wèn)題；

其次，可以折射出AI的生產(chǎn)性維度，看到AI使用背后的生產(chǎn)關(guān)系和政治經(jīng)濟(jì)利益，而這往往被實(shí)證法學(xué)忽視；

最后，可以將既有網(wǎng)絡(luò)法問(wèn)題置于更加自動(dòng)化、智能化的環(huán)境中，思考什么構(gòu)成了中國(guó)語(yǔ)境下獨(dú)特而持續(xù)的理論與實(shí)踐問(wèn)題。

以互聯(lián)網(wǎng)為媒介的數(shù)字資本主義的重點(diǎn)在于價(jià)值生產(chǎn)。不難發(fā)現(xiàn)，AI時(shí)代是算法驅(qū)動(dòng)的社會(huì)化生產(chǎn)過(guò)程演進(jìn)至更為自動(dòng)化的階段，也是繼云計(jì)算、大數(shù)據(jù)之后互聯(lián)網(wǎng)進(jìn)一步發(fā)展的階段。這一階段明顯的特征在于對(duì)算法的智能開發(fā)與廣泛應(yīng)用，如果說(shuō)前兩個(gè)階段的主題過(guò)于技術(shù)化，普通人難以理解，AI階段則更富有戲劇性：它伴隨著神奇的競(jìng)賽故事、大眾媒體炒作以及聳人聽聞的警告和擔(dān)憂。

技術(shù)公司們擔(dān)心，把AI看成是未來(lái)人類的競(jìng)爭(zhēng)者和統(tǒng)治者的論調(diào)會(huì)促使政府加強(qiáng)監(jiān)管，導(dǎo)致這一領(lǐng)域的研發(fā)和投入減少，但事實(shí)上人們很快就發(fā)現(xiàn)，媒體、好萊塢影視劇和科幻小說(shuō)中的AI并不會(huì)短時(shí)間成真，世界主要國(guó)家的政府和所有大型互聯(lián)網(wǎng)公司都在鼓勵(lì)A(yù)I研發(fā)，并將之視為未來(lái)國(guó)家間、企業(yè)間競(jìng)爭(zhēng)的真正力量。

恐怖谷理論（Uncanny Valley）業(yè)已說(shuō)明，人形機(jī)器人可能不會(huì)在消費(fèi)者市場(chǎng)上受歡迎，除非它們被刻意設(shè)計(jì)得遠(yuǎn)離人形，以至于不會(huì)給人類使用者造成“同類”的反感印象，哪怕在機(jī)器人文化盛行的日本也是這樣。相反，在現(xiàn)實(shí)中AI依托互聯(lián)網(wǎng)服務(wù)大有可為，越來(lái)越深入地介入普通人生活，不局限于某類特殊技能的智能水平提升，而是通過(guò)數(shù)據(jù)分析和精準(zhǔn)預(yù)測(cè)帶來(lái)實(shí)在的經(jīng)濟(jì)利益。

筆者曾區(qū)分了AI及其法律的雙重屬性：實(shí)證性（規(guī)范性）和生產(chǎn)性，前者指由作為一種黑箱的AI引發(fā)的權(quán)利和責(zé)任配置問(wèn)題，如誰(shuí)來(lái)承擔(dān)無(wú)人駕駛汽車事故的責(zé)任，這些新興規(guī)則的生成遵循著已有的網(wǎng)絡(luò)法規(guī)則創(chuàng)設(shè)模式；后者則指AI作為新經(jīng)濟(jì)的生產(chǎn)要素如何受到規(guī)制和約束。生產(chǎn)的維度之所以重要，是因?yàn)樗永m(xù)了傳統(tǒng)政治經(jīng)濟(jì)學(xué)關(guān)于經(jīng)濟(jì)民主、歧視、平等、勞動(dòng)過(guò)程等關(guān)鍵問(wèn)題的討論，法律問(wèn)題只是這些宏大問(wèn)題的具體縮影。

如果AI只是傳統(tǒng)生產(chǎn)組織用以提高生產(chǎn)效率的工具，那么也并沒有提出全新問(wèn)題，但只要AI生產(chǎn)依托于互聯(lián)網(wǎng)，遵循著網(wǎng)絡(luò)生產(chǎn)的模式，就會(huì)延續(xù)一些和傳統(tǒng)經(jīng)濟(jì)相比不同的問(wèn)題，特別是勞動(dòng)組織和勞動(dòng)關(guān)系。

實(shí)際上，AI的特殊性是互聯(lián)網(wǎng)整體問(wèn)題的映射，這未必是法律意義上的獨(dú)特問(wèn)題（任何新事物都可通過(guò)法律解釋活動(dòng)在既有概念體系中得到解釋），而是需要作為一種新型權(quán)力和利益相關(guān)人出現(xiàn)，以爭(zhēng)奪現(xiàn)實(shí)的合法性。

就生產(chǎn)而言，新經(jīng)濟(jì)業(yè)已展示出兩種類型：線上信息生產(chǎn)與通過(guò)算法驅(qū)動(dòng)供需匹配，前者用于吸引大規(guī)模用戶并將其作為免費(fèi)勞工，后者則體現(xiàn)為信息經(jīng)濟(jì)帶動(dòng)更廣泛的經(jīng)濟(jì)活動(dòng)，更為精確地對(duì)供需進(jìn)行匹配。類似地，AI階段的生產(chǎn)指：

（1）AI正在取代越來(lái)越多的人類線上行為和勞動(dòng)，以極低成本產(chǎn)生信息內(nèi)容，吸引更多用戶；

（2）通過(guò)AI驅(qū)動(dòng)線下資源生產(chǎn)更加精確，減少信息不對(duì)稱，塑造價(jià)值再生產(chǎn)過(guò)程，并從交易雙方獲取最大限度的剩余價(jià)值。

網(wǎng)絡(luò)法的核心問(wèn)題在于互聯(lián)網(wǎng)如何進(jìn)行控制和生產(chǎn)，其微觀機(jī)制和宏觀架構(gòu)是什么，以及更進(jìn)一步，誰(shuí)能控制賽博空間。在生產(chǎn)和控制過(guò)程中，形成了兩組主要關(guān)系：一是平臺(tái)企業(yè)和用戶的關(guān)系，一是平臺(tái)企業(yè)之間的競(jìng)爭(zhēng)關(guān)系，它們都可置于同一個(gè)生產(chǎn)性網(wǎng)絡(luò)法框架中得到探討。

這些關(guān)系是辨證的，一方面共同體現(xiàn)了新經(jīng)濟(jì)內(nèi)生地需要何種法律，另一方面又是不斷生成演進(jìn)的，是企業(yè)與用戶、競(jìng)爭(zhēng)對(duì)手不斷博弈過(guò)程中形成的秩序。本文認(rèn)為，AI日益成為智能架構(gòu)的核心構(gòu)成，關(guān)于AI的任何法律安排（無(wú)論是法律主體還是客體）都需要放在上述不斷互動(dòng)的關(guān)系中觀察理解，而無(wú)法先驗(yàn)地由法律擬制確定。

本文結(jié)構(gòu)如下：

第二部分首先將AI置于現(xiàn)有網(wǎng)絡(luò)法的架構(gòu)理論下進(jìn)行解釋，認(rèn)為AI是整個(gè)智能生態(tài)系統(tǒng)中不可或缺的一部分，有必要和其他互聯(lián)網(wǎng)層面聯(lián)系在一起系統(tǒng)討論，而不是作為獨(dú)立對(duì)象（這是任何法律主體討論的思想根源）。

第三部分討論AI如何推進(jìn)網(wǎng)絡(luò)法的上述兩對(duì)核心關(guān)系，即智能化和自動(dòng)化將進(jìn)一步改變用戶和服務(wù)商的生產(chǎn)關(guān)系，同時(shí)也可能加劇不正當(dāng)競(jìng)爭(zhēng)，需要法律給予回應(yīng)，劃清架構(gòu)邊界。

在討論服務(wù)商和用戶之間的關(guān)系時(shí)，AI作為法律主體的問(wèn)題似乎凸顯出來(lái)，在這一過(guò)程中用戶并未在架構(gòu)中顯著增加控制能力和活動(dòng)空間，AI企業(yè)的控制力反而進(jìn)一步增強(qiáng)。

第四部分繼續(xù)在架構(gòu)視角下討論如何通過(guò)合同和監(jiān)管處理作為黑箱的AI信息披露問(wèn)題。

架構(gòu)理論中的人工智能

“架構(gòu)”（architecture）理論或代碼理論由勞倫斯·萊斯格（Lawrence Lessig）在《代碼及其賽博空間中的其他法律》一書中提出，并在后續(xù)研究中不斷得以擴(kuò)展。架構(gòu)幫助我們理解賽博空間的權(quán)力如何出現(xiàn)和延伸，解釋一系列網(wǎng)絡(luò)法問(wèn)題，可從橫向與縱向兩個(gè)維度進(jìn)行討論。

就橫向維度而言，架構(gòu)從不同場(chǎng)景和功能的設(shè)計(jì)得以體現(xiàn)，影響架構(gòu)內(nèi)主體行為，并可通過(guò)一些基本方式進(jìn)行合并或分解。就縱向維度而言，架構(gòu)包括了從硬件層、內(nèi)容層到數(shù)據(jù)存儲(chǔ)層的諸多層面（見圖1）:

橫向與縱向架構(gòu)展示了賽博空間控制/生產(chǎn)的范圍，AI正是其中關(guān)鍵一環(huán)。以架構(gòu)視角觀察，不難發(fā)現(xiàn)人們對(duì)AI的不同想象取決于對(duì)不同架構(gòu)要素組合的理解和認(rèn)知：

盡管大眾愿意將AI設(shè)想為有形體的“機(jī)器人”，但目前相當(dāng)多的AI應(yīng)用都依托現(xiàn)有互聯(lián)網(wǎng)服務(wù)，且出現(xiàn)硬軟件垂直整合的趨勢(shì)。

按照通行的互聯(lián)網(wǎng)商業(yè)模式，可將AI分解為“算法+第三方應(yīng)用（場(chǎng)景）+硬件終端”，各類場(chǎng)景由多個(gè)算法組合控制，形成生產(chǎn)和交易流程，從具有強(qiáng)大運(yùn)算能力的云端服務(wù)器進(jìn)行遠(yuǎn)程控制；中層則由第三方應(yīng)用開發(fā)者形成交易平臺(tái)，允許用戶通過(guò)終端進(jìn)行交互使用；終端不過(guò)是連接線上和線下的界面，最初是智能手機(jī)，也可以演變成包括智能音箱、無(wú)人駕駛汽車在內(nèi)的任何硬件。其商業(yè)目的是加強(qiáng)人機(jī)交互，按照分享經(jīng)濟(jì)思維促成大規(guī)模交易與合作。

這一架構(gòu)中的AI會(huì)通過(guò)賬戶對(duì)使用者進(jìn)行認(rèn)證，對(duì)賬戶中積累下來(lái)的用戶行為數(shù)據(jù)進(jìn)行分析識(shí)別，生成動(dòng)態(tài)身份，并對(duì)其行為進(jìn)行評(píng)分指引，預(yù)測(cè)其偏好和未來(lái)行為。從這個(gè)意義上看，AI就不單純是一個(gè)“大腦”或終端產(chǎn)品，而是一整套生產(chǎn)流程，甚至就是架構(gòu)本身。

按照這個(gè)思路，也可以按照不同功能區(qū)分位于賽博空間架構(gòu)不同層面的AI:

?I類為C2C模式平臺(tái)本身，通過(guò)大量數(shù)據(jù)分析精準(zhǔn)調(diào)配資源、設(shè)計(jì)場(chǎng)景；

?II類為B2C模式，向用戶直接提供在線服務(wù)；

?III類為用戶的智能代理人，代理用戶在平臺(tái)上參與交易，但可能和I類的角色相沖突；

?Ⅳ類則是用戶購(gòu)買的終端智能產(chǎn)品。

四者之間的關(guān)系一定程度上反映出互聯(lián)網(wǎng)架構(gòu)和權(quán)力關(guān)系在過(guò)去十多年間的重大變化。互聯(lián)網(wǎng)發(fā)展早期的智能、創(chuàng)新和控制力集中在無(wú)處不在的終端，經(jīng)由創(chuàng)生性的個(gè)人電腦、端到端分布式架構(gòu)以及大眾分享的文化造就了我們熟悉的互聯(lián)網(wǎng)生態(tài)。

然而，隨著云計(jì)算興起，越來(lái)越多的服務(wù)以信息流方式在線提供，同時(shí)應(yīng)用商店模式使終端越來(lái)越變成啞終端（盡管芯片處理能力不斷增加），用戶在架構(gòu)中的行為能力受到愈加嚴(yán)格的限制，一切指令都來(lái)自于智能云端。

理解這一點(diǎn)有助于我們理解未來(lái)可能出現(xiàn)的形形色色的AI終端產(chǎn)品，表面上看是由用戶購(gòu)買控制，但它們并不能獨(dú)立運(yùn)作，需要時(shí)刻與服務(wù)商中央服務(wù)器相連更新，甚至可在一個(gè)封閉網(wǎng)絡(luò)中相互溝通傳輸數(shù)據(jù)（智能物聯(lián)網(wǎng)），使用戶成為遵循許可使用協(xié)議的終端租客而非購(gòu)買者。

此外，I類AI還可能通過(guò)特定方式（如許可牌照）成為寡頭壟斷的基礎(chǔ)設(shè)施服務(wù)，為更多中小開發(fā)者提供計(jì)算能力和數(shù)據(jù)分析服務(wù)，也變相地推動(dòng)形成巨頭主導(dǎo)的生態(tài)系統(tǒng)。如果將橫向與縱向視角合并，可以看到智能架構(gòu)中上述四類AI的地位及其對(duì)社會(huì)主體行為的影響（見圖2）。

AI作為整個(gè)架構(gòu)演變的引擎，對(duì)外開拓架構(gòu)的疆界，對(duì)內(nèi)則塑造生產(chǎn)關(guān)系和生產(chǎn)活動(dòng)，與平臺(tái)規(guī)則、評(píng)分機(jī)制、用戶協(xié)議等一并構(gòu)成了架構(gòu)權(quán)力。較為完美的控制/生產(chǎn)體系是文字規(guī)則與代碼規(guī)則保持一致，外在的用戶協(xié)議與平臺(tái)規(guī)范能夠精確地描述變動(dòng)中的算法功能，但這在實(shí)際中卻難以實(shí)現(xiàn)，后文還將進(jìn)一步討論。

在這個(gè)智能架構(gòu)中，既包含高度流動(dòng)和不確定的要素，也包含穩(wěn)定不變的要素。

例如，架構(gòu)中匯集的生產(chǎn)性資源是不斷流動(dòng)、多屬的，但架構(gòu)通過(guò)賬戶認(rèn)證和識(shí)別穩(wěn)定地追蹤用戶，并根據(jù)其數(shù)字畫像加強(qiáng)預(yù)測(cè)降低風(fēng)險(xiǎn)；架構(gòu)的硬件層面的質(zhì)量要得到保證，確保符合質(zhì)量安全標(biāo)準(zhǔn)，但其軟件功能又需要不斷更新升級(jí)，要求用戶容忍配合。

在這樣的辯證法中，AI經(jīng)濟(jì)得以不斷崛起演進(jìn)，使AI企業(yè)與用戶、競(jìng)爭(zhēng)者的關(guān)系變得日益復(fù)雜。

人工智能與我們：

從游樂(lè)場(chǎng)/商場(chǎng)到工廠

上文已經(jīng)說(shuō)明，常識(shí)能夠想象和理解的AI服務(wù)會(huì)以何種方式開展。這意味著AI產(chǎn)品很可能進(jìn)一步脫離終端用戶操控，由AI企業(yè)持續(xù)保持強(qiáng)勁控制力，在此背景下談?wù)摢?dú)立的AI法律人格可能會(huì)有截然不同的政治經(jīng)濟(jì)意蘊(yùn)。

本部分將這一話題放置于AI與我們（作為產(chǎn)銷者，prosumer）的關(guān)系中，指出無(wú)論是消費(fèi)者還是數(shù)字勞工，都需要認(rèn)真對(duì)待更加智能化的數(shù)字架構(gòu)，后者驅(qū)使互聯(lián)網(wǎng)帶來(lái)的控制/生產(chǎn)過(guò)程走得更遠(yuǎn)。

機(jī)器正在取代人類工作的討論方興未艾，最早反映在互聯(lián)網(wǎng)上主要是由算法直接生成或輔助人類制作可供消費(fèi)的內(nèi)容，后來(lái)擴(kuò)展至更多元的場(chǎng)景，可能的模式既包括B2C，也包括C2C。

這一方面無(wú)疑影響了那些難以快速適應(yīng)新技術(shù)變化的傳統(tǒng)職業(yè)，另一方面更加便利了消費(fèi)者，同時(shí)將更多熟悉數(shù)字環(huán)境的消費(fèi)者轉(zhuǎn)變?yōu)榭僧a(chǎn)生價(jià)值的靈活勞動(dòng)者。

下面簡(jiǎn)要勾勒出AI生產(chǎn)場(chǎng)景的演進(jìn)（即上文的II類和Ⅳ類）：

?新聞報(bào)道、法律服務(wù)、編曲、文學(xué)創(chuàng)作、廣告這樣的初級(jí)信息編纂工作可以又快又好地由AI承擔(dān)，以接近于零的邊際成本向用戶提供，降低用工成本。這更多是結(jié)構(gòu)化的數(shù)據(jù)自動(dòng)生成的結(jié)果，只要對(duì)輸入的數(shù)據(jù)進(jìn)行結(jié)構(gòu)化整理，就可以按照一個(gè)模板生產(chǎn)出所需的信息產(chǎn)品。

?機(jī)器人推手、僵尸粉、刷單和個(gè)人信息打碼這樣的灰/黑產(chǎn)的生產(chǎn)主要由AI實(shí)現(xiàn)。

?虛擬交互或創(chuàng)設(shè)虛擬形象，誘使更多的用戶參與使用，如直播平臺(tái)和微博上的粉絲或者在線游戲虛擬對(duì)手、聊天機(jī)器人。

?基于去世用戶數(shù)據(jù)開發(fā)出虛擬人像對(duì)話服務(wù)，模擬用戶生前行為和思想，實(shí)現(xiàn)“永生”。

?在軟件智能化基礎(chǔ)上，將電腦和智能終端稍加改進(jìn)擴(kuò)展，形成各類新型終端，即會(huì)思考的機(jī)器人雛形。

對(duì)用戶而言，智能服務(wù)是一個(gè)合同問(wèn)題，如果他們接受一個(gè)存在大量AI擬人化生產(chǎn)的虛擬環(huán)境，監(jiān)管者會(huì)要求企業(yè)在用戶協(xié)議中披露這類信息，并提供能夠驗(yàn)證真?zhèn)蔚姆椒ǎ悦庥脩粼馐芷墼p造成誤解。機(jī)器生產(chǎn)的意義在于，它不僅反映了網(wǎng)絡(luò)空間價(jià)值生成的勞動(dòng)本質(zhì)，也折射出用戶在互聯(lián)網(wǎng)空間生產(chǎn)中轉(zhuǎn)瞬即逝的地位，甚至還反映了機(jī)器生產(chǎn)和人類勞動(dòng)之間的連續(xù)性。

伴隨著人工成本的增加和競(jìng)爭(zhēng)更加激烈，我們有可能見證更多由AI創(chuàng)作的網(wǎng)絡(luò)信息和文化作品（哪怕是初級(jí)的），而在未來(lái)則會(huì)出現(xiàn)一個(gè)完全由機(jī)器生產(chǎn)主導(dǎo)的虛擬世界。

這一過(guò)程如果逐漸成真，部分互聯(lián)網(wǎng)平臺(tái)可能會(huì)從C2C第三方平臺(tái)模式轉(zhuǎn)向B2C自營(yíng)模式，如果前者的成本遠(yuǎn)高于后者。這當(dāng)然會(huì)部分地減輕地域性監(jiān)管的壓力（無(wú)須為不良內(nèi)容找到人類責(zé)任主體），取而代之的是針對(duì)企業(yè)統(tǒng)一算法的監(jiān)管。但就目前法律實(shí)踐而言，無(wú)論是法院還是監(jiān)管者，都傾向于對(duì)網(wǎng)上的外在行為或結(jié)果進(jìn)行認(rèn)定、確定責(zé)任分擔(dān)，而不是探究黑箱內(nèi)部（詳見第五部分）。

AI無(wú)須作為法律主體接受監(jiān)管，而只是互聯(lián)網(wǎng)企業(yè)生產(chǎn)過(guò)程中的工具而已。即便是在搜索引擎公司強(qiáng)調(diào)其搜索推薦或競(jìng)價(jià)排名推廣信息是“自動(dòng)生成”的時(shí)候，人們也從未想過(guò)要由一個(gè)純粹的機(jī)器算法承擔(dān)責(zé)任，獨(dú)立法律主體的說(shuō)辭只是在為免費(fèi)利用開放網(wǎng)絡(luò)信息且承擔(dān)較輕的審查責(zé)任提供理由（這一說(shuō)辭仍值得重視）。

如果越來(lái)越多的網(wǎng)絡(luò)內(nèi)容不但由AI自動(dòng)篩選，甚至組合排序，形成某種新作品，就會(huì)涉及與當(dāng)下搜索結(jié)果的排列順序的區(qū)分，機(jī)器介入的程度越來(lái)越深使形式上的分別愈加不重要。

作為直接生產(chǎn)者的AI無(wú)疑會(huì)大量增加網(wǎng)絡(luò)公共資源的供給，避免出現(xiàn)人類生產(chǎn)者動(dòng)力不足的公地悲劇問(wèn)題。然而，人類的生產(chǎn)過(guò)程，同時(shí)承載著溝通交流與合作的功能，建立起同儕之間的關(guān)系和紐帶，而不簡(jiǎn)單表現(xiàn)為純粹的勞動(dòng)和價(jià)值交換。

AI生產(chǎn)的增多可能逐漸會(huì)減少這類活動(dòng)的文化、社會(huì)意義，使經(jīng)濟(jì)性成為最主要的衡量標(biāo)準(zhǔn)，同時(shí)意味著平臺(tái)對(duì)公共資源池的掌控能力更強(qiáng)。下面將細(xì)致討論在互聯(lián)網(wǎng)經(jīng)濟(jì)基礎(chǔ)上生發(fā)出的AI法律人格主張。

從生產(chǎn)的角度看，AI法律人格和地位的主張不過(guò)是延續(xù)了傳統(tǒng)媒體對(duì)消費(fèi)者人格商業(yè)利用的做法，賽博空間在宏觀架構(gòu)上將用戶的人格（如隱私）不斷轉(zhuǎn)化為可持續(xù)利用的數(shù)據(jù)財(cái)產(chǎn)，并通過(guò)微觀用戶協(xié)議“知情同意”實(shí)現(xiàn)這一商品化過(guò)程。

但有趣的是，AI產(chǎn)品（作為架構(gòu)的延伸）最終能夠積累（或要求創(chuàng)設(shè)）出自己的獨(dú)立人格，表面上似乎能與用戶保持某種平等的地位或得到法律特別保護(hù)，但更多折射出背后的AI企業(yè)財(cái)產(chǎn)權(quán)利，時(shí)刻受到企業(yè)的遠(yuǎn)程控制，用戶并未真正脫離架構(gòu)權(quán)力影響。

AI法律人格的擬制主張從一個(gè)側(cè)面看并不復(fù)雜，在制度設(shè)計(jì)上甚至水到渠成：互聯(lián)網(wǎng)企業(yè)擁抱以AI為基礎(chǔ)的平臺(tái)架構(gòu)，同時(shí)開發(fā)出更貼近用戶日常生活的、可自主思考決策的智能終端/機(jī)器人，要求賦予其某種獨(dú)立而有限的責(zé)任，并與AI企業(yè)在形式上脫鉤。這種思路與當(dāng)下的平臺(tái)責(zé)任討論一脈相承，甚至可以看成“非法興起”過(guò)程中的最新主張。

本文無(wú)法系統(tǒng)設(shè)想AI產(chǎn)品成為法律主體可能的制度設(shè)計(jì)，從已經(jīng)進(jìn)行的討論來(lái)看，至少包含以下重要方面：

?算法自動(dòng)生成的內(nèi)容享有著作權(quán)，可積累個(gè)人財(cái)產(chǎn)。這會(huì)使網(wǎng)上屬于公有領(lǐng)域的內(nèi)容通過(guò)抓取和創(chuàng)造活動(dòng)進(jìn)一步私有化，而競(jìng)爭(zhēng)對(duì)手不得侵犯；同時(shí)AI企業(yè)不會(huì)為任何侵權(quán)內(nèi)容負(fù)責(zé)，但可以通過(guò)AI的再創(chuàng)作而間接獲利，吸引消費(fèi)者。

?享有一定程度的言論自由。這無(wú)疑可降低對(duì)AI企業(yè)的商業(yè)言論監(jiān)管要求，減輕平臺(tái)審查責(zé)任，得到相關(guān)法律（如美國(guó)憲法第一修正案）的保護(hù)。

?購(gòu)買服務(wù)的用戶并不實(shí)際擁有虛擬影像，它在形式上獨(dú)立，但由AI企業(yè)算法控制。

?容忍終端產(chǎn)品的軟件瑕疵。類似于軟件拆封合同，AI產(chǎn)品需要實(shí)時(shí)聯(lián)網(wǎng)反饋使用數(shù)據(jù)，以確保功能穩(wěn)定更新，不斷增強(qiáng)企業(yè)的遠(yuǎn)程控制力。

?如果智能產(chǎn)品包含硬件，可在消費(fèi)者法律要求下承擔(dān)產(chǎn)品質(zhì)量責(zé)任。

?有限侵權(quán)責(zé)任。AI企業(yè)為特定情況下出現(xiàn)的因AI運(yùn)轉(zhuǎn)失靈導(dǎo)致的侵權(quán)責(zé)任購(gòu)買保險(xiǎn)，特別是針對(duì)風(fēng)險(xiǎn)大、概率小的極端行為。但在人機(jī)交互過(guò)程中，有時(shí)很難區(qū)分責(zé)任邊界，也較難取證。

?“不得傷害機(jī)器人”，智能終端不得隨意破解拆分，因?yàn)樗砹薃I企業(yè)的知識(shí)財(cái)產(chǎn)，用戶也不能未經(jīng)許可自行編程設(shè)計(jì)AI作為代理人進(jìn)入平臺(tái)服務(wù)器溝通交換數(shù)據(jù)。

?在人機(jī)交互中有權(quán)使用用戶數(shù)據(jù)，默認(rèn)追蹤用戶，形成因人而異的AI。

?容忍可能的廣告等商業(yè)模式，不得以不正當(dāng)競(jìng)爭(zhēng)方式屏蔽。

上述列舉均為業(yè)已發(fā)生的各類互聯(lián)網(wǎng)案件/事件的延續(xù)，本身沒有更多特殊性，只不過(guò)更加強(qiáng)調(diào)AI的“自主性”和“不可控制性”，引發(fā)人們關(guān)于“自由意志”的想象。在相關(guān)法律出臺(tái)之前，來(lái)自AI企業(yè)的主張?jiān)趯?shí)踐中已經(jīng)成形（請(qǐng)對(duì)比“快播案”）：

首先，可以通過(guò)用戶協(xié)議展示，在知情同意的通行說(shuō)辭下避免運(yùn)營(yíng)風(fēng)險(xiǎn)；

其次，可以不可控為由，主張“網(wǎng)絡(luò)中立”或“技術(shù)中立”，要求用戶為自身行為負(fù)責(zé)；

最后，可以算法黑箱的深度學(xué)習(xí)過(guò)程不可回溯為由，主張降低可能的信息安全保障義務(wù)。

如果用戶購(gòu)買到的是一個(gè)完全自主的智能產(chǎn)品，對(duì)用戶的終端能力和選擇權(quán)將有極大提升，也可以真正和AI企業(yè)脫鉤，但無(wú)論是目前的信息安全審查制度還是互聯(lián)網(wǎng)商業(yè)模式，都不允許這種情況發(fā)生。

此外，人格化的結(jié)果是在人類生產(chǎn)過(guò)程中合法引入了超級(jí)競(jìng)爭(zhēng)者，這可能會(huì)迅速取代更多的簡(jiǎn)易工作，并創(chuàng)造出更多的初級(jí)消費(fèi)品。

再次強(qiáng)調(diào)，人格化同時(shí)意味著希望人們無(wú)視AI公司背后可獲得的經(jīng)濟(jì)利益和控制力量，重要的不是“最后一公里”產(chǎn)品本身是否足夠智能從而在法律形式上更加獨(dú)立，而是從云端到終端的整個(gè)流程代表了生產(chǎn)性的權(quán)力關(guān)系，有必要思考未來(lái)如何通過(guò)法律調(diào)整這種關(guān)系，使之變得更加公平，否則只是針對(duì)純粹法律技術(shù)和擬制的研究在實(shí)質(zhì)問(wèn)題上改進(jìn)不大。

AI帶給我們的不只是游樂(lè)場(chǎng)或商場(chǎng)，也可能是無(wú)薪勞作的工廠，想象我們和AI關(guān)系的另一種方式就是數(shù)字勞工。如前所述，由于互聯(lián)網(wǎng)興起的商品化邏輯沒有改變，不斷碎片化的人類勞動(dòng)在相當(dāng)時(shí)間內(nèi)還會(huì)持續(xù)成為AI演進(jìn)（無(wú)論是I類還是II類）的免費(fèi)生產(chǎn)資料。AI通過(guò)大量真實(shí)數(shù)據(jù)得到訓(xùn)練，并不斷搜集、追蹤用戶數(shù)據(jù)，變得更加智能。

松散的勞動(dòng)關(guān)系是互聯(lián)網(wǎng)成功的關(guān)鍵要素之一，目前一系列案件已經(jīng)確認(rèn)像網(wǎng)絡(luò)主播和專車司機(jī)這樣的靈活勞動(dòng)力不是平臺(tái)雇員，也因此無(wú)法享有社會(huì)保障、參加工會(huì)等勞動(dòng)權(quán)利。以低成本獲得無(wú)償勞動(dòng)將繼續(xù)成為AI企業(yè)不斷擴(kuò)展的推動(dòng)力。

人工智能如何（不正當(dāng)）競(jìng)爭(zhēng)

除了直接生產(chǎn)信息內(nèi)容，AI更多地用于平臺(tái)經(jīng)濟(jì)上的調(diào)配資源、營(yíng)銷推薦、內(nèi)容分發(fā)，甚至預(yù)測(cè)未來(lái)（上文的I類）。這一預(yù)測(cè)本質(zhì)上是依據(jù)不斷生成的動(dòng)態(tài)數(shù)據(jù)對(duì)個(gè)體加以追蹤，更加精確地計(jì)算和判斷每一次網(wǎng)絡(luò)點(diǎn)擊和活動(dòng)會(huì)引發(fā)何種連鎖反應(yīng)。

這種經(jīng)濟(jì)類型從生產(chǎn)資料的角度在數(shù)年前便被稱為“分享經(jīng)濟(jì)”，因?yàn)槠脚_(tái)試圖創(chuàng)設(shè)生態(tài)系統(tǒng)，為中小生產(chǎn)者和消費(fèi)者提供交易中介服務(wù)，但由于平臺(tái)廣泛搜集交易數(shù)據(jù)，撮合交易，由此獲得廣告收入甚至交易分成，已經(jīng)深深介入交易過(guò)程，在這個(gè)意義上稱為“平臺(tái)經(jīng)濟(jì)”更加準(zhǔn)確。隨著更加成熟的AI創(chuàng)設(shè)出來(lái)，平臺(tái)與雙方交易更像是一個(gè)相互嵌入的合作過(guò)程，甚至擁有某種強(qiáng)大權(quán)力。

為了打造互聯(lián)網(wǎng)入口，平臺(tái)會(huì)盡可能將生產(chǎn)資源納入自己的生態(tài)系統(tǒng)，并采取補(bǔ)貼優(yōu)惠等活動(dòng)吸引交易雙方，提供良好的服務(wù)，更進(jìn)一步表明平臺(tái)的非中立特征。與其他平臺(tái)競(jìng)爭(zhēng)者相比，特定平臺(tái)是非中立的，但對(duì)平臺(tái)上流動(dòng)的資源和交易而言，中立和公正性又是確保一個(gè)良好生態(tài)運(yùn)轉(zhuǎn)的核心。從這個(gè)意義上說(shuō)，未來(lái)的公共資源池會(huì)變得更加封閉，進(jìn)一步受控于核心算法，生產(chǎn)性而非公共性進(jìn)一步得到強(qiáng)化。

和眾多互聯(lián)網(wǎng)導(dǎo)致的傳統(tǒng)行業(yè)的衰落（實(shí)質(zhì)上是生產(chǎn)方式的轉(zhuǎn)變）類似，AI時(shí)代進(jìn)一步將戰(zhàn)火引至更多服務(wù)業(yè)，如交通、法律、醫(yī)療和教育。盡管不斷有針對(duì)互聯(lián)網(wǎng)平臺(tái)的不正當(dāng)競(jìng)爭(zhēng)控訴，法律事實(shí)上反映了新經(jīng)濟(jì)的利益，并按照新經(jīng)濟(jì)的需求發(fā)生轉(zhuǎn)變。在AI主導(dǎo)的平臺(tái)時(shí)代，平臺(tái)之間的不正當(dāng)競(jìng)爭(zhēng)可能會(huì)有如下新特點(diǎn)：

?通過(guò)機(jī)器人爬蟲不斷抓取競(jìng)爭(zhēng)對(duì)手控制下的數(shù)據(jù)和信息可能會(huì)更加猖獗，盡管法院在最近的新浪微博訴脈脈（2016）—案中確認(rèn)了此類行為的不正當(dāng)性，但最終需要的仍然是通過(guò)技術(shù)保護(hù)措施的硬性自我防護(hù)，而非像Robots協(xié)議這類柔性行業(yè)規(guī)范。

?同時(shí)，關(guān)于比價(jià)插件的不正當(dāng)競(jìng)爭(zhēng)案件卻反映出法院對(duì)平臺(tái)利益的過(guò)度保護(hù)，忽視了插件軟件的公益屬性，也失去了平臺(tái)價(jià)格監(jiān)管的可行的替代方案。競(jìng)爭(zhēng)者和其他交易主體會(huì)雇傭網(wǎng)絡(luò)推手制造虛假數(shù)據(jù)，造成數(shù)據(jù)污染，反過(guò)來(lái)對(duì)平臺(tái)的精確分析造成干擾；平臺(tái)如果不能識(shí)別并抑制這類虛假交易，會(huì)遭受極大損失。網(wǎng)絡(luò)上有大量機(jī)器人不斷破解各類在線賬戶（如博客）并自動(dòng)發(fā)表不相關(guān)的垃圾內(nèi)容，占用了相當(dāng)?shù)木W(wǎng)絡(luò)流量，也是不正當(dāng)行為的一個(gè)變種。

?AI時(shí)代的任何插件、APP、軟件甚至硬件都可能是由自動(dòng)化和數(shù)據(jù)驅(qū)動(dòng)的，這可能引發(fā)上游架構(gòu)企業(yè)借助硬件優(yōu)勢(shì)對(duì)下游企業(yè)提出強(qiáng)制性要求，意圖通過(guò)統(tǒng)一AI調(diào)動(dòng)特定應(yīng)用（往往以向用戶推薦或投放定向廣告的方式），這意味著上游企業(yè)更加強(qiáng)大的掌控力，甚至不惜排斥其他應(yīng)用，走向垂直整合的自我封閉性。

?算法競(jìng)爭(zhēng)本質(zhì)上首先仍然是資源競(jìng)爭(zhēng)和架構(gòu)邊界的劃定。“魏則西事件”折射出AI公司（例如搜索引擎）的競(jìng)爭(zhēng)策略是資源先占（從通用搜索轉(zhuǎn)向垂直搜索），而怠于開發(fā)精確的算法，商業(yè)模式和新入口的打造使相關(guān)市場(chǎng)不斷被顛覆，更加不需要精確算法在邊際上推動(dòng)獲利。這一現(xiàn)象表明算法可能不會(huì)因單純的市場(chǎng)競(jìng)爭(zhēng)而推動(dòng)改進(jìn)，AI公司仍然會(huì)依靠更加省事的廣告和競(jìng)價(jià)排名以及不正當(dāng)競(jìng)爭(zhēng)獲利。

上述特點(diǎn)說(shuō)明，AI時(shí)代的不正當(dāng)競(jìng)爭(zhēng)可能會(huì)圍繞生產(chǎn)性資源和數(shù)據(jù)爭(zhēng)奪進(jìn)一步加劇，成為“非法興起”邏輯持續(xù)的另一例證。這一爭(zhēng)奪由AI內(nèi)在驅(qū)動(dòng)，表現(xiàn)在外則是架構(gòu)之間的碰撞、排斥和沖突，從而導(dǎo)致更加封閉的垂直平臺(tái)或生態(tài)系統(tǒng)，不利于推動(dòng)基于生產(chǎn)資料創(chuàng)造性再利用的創(chuàng)新。

缺乏有價(jià)值生產(chǎn)資料的新興AI企業(yè)更加會(huì)利用自動(dòng)化手段在賽博空間中以不正當(dāng)競(jìng)爭(zhēng)方式擴(kuò)展，而且有趣的是，這種擴(kuò)展往往打著用戶代理人或技術(shù)中立的旗號(hào)，例如幫助用戶“一鍵搬家”創(chuàng)制的內(nèi)容、屏蔽廣告或者便利傳輸盜版作品。這提出更多深層次的法律問(wèn)題：

（1）為了更加有效地利用生產(chǎn)資料，需要探索合作共享機(jī)制而非圈地機(jī)制，但無(wú)論是共享還是圈地，都往往是AI企業(yè)以沖突方式不斷試探架構(gòu)的邊界而產(chǎn)生，法院應(yīng)根據(jù)資源的有效利用程度考慮辨識(shí)是否屬于不正當(dāng)競(jìng)爭(zhēng)；

（2）變成底層基礎(chǔ)設(shè)施的I類AI企業(yè)在競(jìng)爭(zhēng)關(guān)系上應(yīng)與上層的II類AI有所分別，防止底層企業(yè)過(guò)度整合，濫用支配地位，影響上層企業(yè)自主經(jīng)營(yíng)行為；

（3）更重要的是，需要關(guān)注發(fā)生于架構(gòu)之內(nèi)的用戶真實(shí)控制能力，允許用戶自行開發(fā)或雇用III類智能代理人，自主地掌握個(gè)人數(shù)據(jù)進(jìn)行合作交易。

從架構(gòu)角度看人工智能規(guī)制

前兩部分內(nèi)容都暗含了AI企業(yè)和產(chǎn)品在演進(jìn)過(guò)程中受到的質(zhì)疑和挑戰(zhàn)：對(duì)消費(fèi)者而言，需要確保交易公平，防止消費(fèi)者剩余被過(guò)度剝奪，出現(xiàn)隱性歧視；對(duì)勞動(dòng)者而言，需要在靈活用工環(huán)境中得到社會(huì)保障；對(duì)競(jìng)爭(zhēng)者而言，需要?jiǎng)澏ㄆ胶鈩?chuàng)新與秩序的架構(gòu)邊界。這些挑戰(zhàn)可以通過(guò)合作協(xié)議實(shí)現(xiàn)，也可以經(jīng)由外部監(jiān)管介入推動(dòng)。

我們已經(jīng)看到知情同意原則被廣泛用于AI企業(yè)確立合法性的實(shí)踐中，但在黑箱背景下仍需進(jìn)一步探討，即保持架構(gòu)黑箱的技術(shù)秘密性/復(fù)雜性與特定信息披露之間的動(dòng)態(tài)平衡，同時(shí)使算法對(duì)其外在活動(dòng)有效地承擔(dān)責(zé)任。

傳統(tǒng)監(jiān)管思路針對(duì)黑箱外在行為的負(fù)外部性進(jìn)行約束，這是以往“技術(shù)中立”的思想根源，如果負(fù)外部性影響較大，就會(huì)認(rèn)為該軟件程序的設(shè)計(jì)有實(shí)質(zhì)性侵權(quán)用途，但基本上沒有介入黑箱之中干預(yù)。這種司法選擇是有道理的，主要因?yàn)榉ㄔ夯虮O(jiān)管者缺乏相關(guān)知識(shí)，哪怕是專業(yè)監(jiān)管者也無(wú)法理解復(fù)雜代碼的設(shè)計(jì)，只能依據(jù)其表現(xiàn)出來(lái)的模式加以判斷。

但這并不意味著黑箱的設(shè)計(jì)不受約束，當(dāng)代碼設(shè)計(jì)和商業(yè)模式、用戶協(xié)議愈加緊密地結(jié)合在一起時(shí)，即使法院無(wú)法審查代碼，仍可以審查商業(yè)模式合法性和用戶協(xié)議效力。

在特定情況下（特別是安全領(lǐng)域），除了直接針對(duì)AI產(chǎn)生的外在行為進(jìn)行規(guī)制，也會(huì)嘗試對(duì)算法本身進(jìn)行管控，包括算法設(shè)計(jì)過(guò)程的倫理規(guī)則、安全性審查標(biāo)準(zhǔn)、針對(duì)代碼的備案制等。軟件產(chǎn)品的一般缺陷多少可以被拆封合同掩蓋，但仍然有必要對(duì)已經(jīng)出現(xiàn)的幾類足以影響AI發(fā)展的規(guī)制方式和現(xiàn)象稍加討論：

（1）AI分級(jí)，判斷人機(jī)交互的程度和責(zé)任分擔(dān)。現(xiàn)有無(wú)人駕駛汽車的分級(jí)制度為具有較大風(fēng)險(xiǎn)性的AI產(chǎn)品監(jiān)管提供了指引，即在設(shè)計(jì)不同層次的AI服務(wù)過(guò)程中，清楚地說(shuō)明在不同場(chǎng)景下使用者和智能服務(wù)之間的主輔關(guān)系，提供相應(yīng)激勵(lì)。但在實(shí)踐中仍然可能出現(xiàn)責(zé)任不清的狀況，需要合理分配舉證責(zé)任。

（2）在判斷軟件侵權(quán)行為時(shí)對(duì)算法設(shè)計(jì)的初衷和用途實(shí)質(zhì)進(jìn)行判斷，以決定是否徹底禁止該軟件，如法院對(duì)P2P軟件是否構(gòu)成“實(shí)質(zhì)性非侵權(quán)用途”做出的判斷。這類判斷并未深入軟件內(nèi)部，但還是對(duì)軟件開發(fā)者和使用軟件的行為進(jìn)行了分割，這就比簡(jiǎn)單模糊的“技術(shù)中立”主張更具有可分析性和操作性。針對(duì)關(guān)鍵算法，開發(fā)者可以施加一定的基本功能說(shuō)明義務(wù)，向監(jiān)管者和用戶充分合理地說(shuō)明，用自然語(yǔ)言描述出其功能和可能的風(fēng)險(xiǎn)。

（3）信息披露與共享。由于軟件缺陷會(huì)造成嚴(yán)重后果，一定程度的關(guān)于代碼信息缺陷的披露可以幫助填補(bǔ)漏洞，平衡黑箱的不透明，并促使企業(yè)更自覺地加大對(duì)自身產(chǎn)品的安全檢測(cè)。允許像“白帽子黑客”這樣的第三方組織進(jìn)行披露有利有弊，而在一定范圍內(nèi)進(jìn)行的代碼信息共享（包括企業(yè)間、政企間）是另一種通過(guò)信息流通發(fā)現(xiàn)算法缺陷的手段。

（4）監(jiān)管合同。盡管無(wú)法深入AI內(nèi)部，但監(jiān)管者可以要求用戶協(xié)議盡可能地反映算法的功能和商業(yè)模式，并在事后對(duì)合同進(jìn)行形式審查，如果合同預(yù)期的效果和展示出來(lái)的功能不一致或有違公序良俗，法院就可能進(jìn)行實(shí)質(zhì)審查，變更或撤銷涉案條款，并間接地對(duì)AI的設(shè)計(jì)和外在效果產(chǎn)生影響，如廣告自動(dòng)推送系統(tǒng)的設(shè)計(jì)。問(wèn)題在于，法院有時(shí)會(huì)嚴(yán)格按照合同法規(guī)定進(jìn)行形式審查，卻怠于進(jìn)行實(shí)質(zhì)審查，使一些用戶無(wú)從得到救濟(jì)。

（5）數(shù)據(jù)的清潔性。在很多情況下，法律無(wú)意干預(yù)黑箱的運(yùn)作過(guò)程，只希望對(duì)黑箱處理的生產(chǎn)資料進(jìn)行約束和清潔，從而替代對(duì)黑箱設(shè)計(jì)本身的規(guī)制，這一思路和監(jiān)管者的事前規(guī)制有所不同。例如，為防止AI侵犯?jìng)€(gè)人隱私，法律會(huì)要求對(duì)搜集到的個(gè)人數(shù)據(jù)進(jìn)行脫敏，無(wú)法追蹤到個(gè)人。

有必要看到，披露的信息并非越多越好，在披露信息的同時(shí)需要考慮信息的消化能力和認(rèn)知偏差，也需兼顧AI企業(yè)的財(cái)產(chǎn)權(quán)利和用戶自主的合理使用和操作空間，從而有利于多元的互聯(lián)網(wǎng)創(chuàng)新。

結(jié) 語(yǔ)

本文簡(jiǎn)要討論了架構(gòu)視角下的人工智能，以及如何理解其與使用者、競(jìng)爭(zhēng)者之間的關(guān)系，進(jìn)而幫助我們更好地理解作為網(wǎng)絡(luò)法核心問(wèn)題的控制/生產(chǎn)機(jī)制。至少在中國(guó)語(yǔ)境下，兩組關(guān)系都在不斷地重塑架構(gòu)邊界，特別是伴隨AI企業(yè)擴(kuò)張引起的生產(chǎn)關(guān)系與法律關(guān)系的諸多調(diào)整，意味著這些關(guān)系有待法律進(jìn)一步確認(rèn)而非固定不變，也展示出信息時(shí)代經(jīng)濟(jì)基礎(chǔ)對(duì)上層建筑的巨大影響。

信息技術(shù)曾許諾成為一種“解放性”技術(shù)，但從初期互聯(lián)網(wǎng)到AI的發(fā)展過(guò)程表明，這種解放不過(guò)是把生產(chǎn)資源和勞動(dòng)從傳統(tǒng)組織中釋放出來(lái)，給予高度流動(dòng)性，組織新的生產(chǎn)活動(dòng)而已，同時(shí)伴隨著更為強(qiáng)勁、彌散的權(quán)力和社會(huì)控制。這就回到了架構(gòu)理論的原初問(wèn)題：處于賽博空間中的我們?nèi)绾卧谖⒂^機(jī)制和宏觀架構(gòu)上爭(zhēng)取更多的自由和控制力。