2020年8月29日上午，“紐約聊齋”第12期云沙龍成功舉辦。中國法與社會(huì)研究院院長、上海交通大學(xué)文科資深教授季衛(wèi)東做了題為“人工智能時(shí)代的治理與法治創(chuàng)新”的報(bào)告。美國康奈爾大學(xué)法學(xué)院於興中教授與談，美國福坦莫大學(xué)洪朝輝教授、北京大學(xué)沈巋教授點(diǎn)評。
以下根據(jù)報(bào)告錄音整理：
季衛(wèi)東教授：很高興有機(jī)會(huì)到紐約聊齋來與各界朋友交流。這個(gè)名稱以及“聊齋志異”的故事似乎暗示我在這里應(yīng)該講點(diǎn)什么類似鬼狐仙靈的奇異主題。恰巧新聞報(bào)道馬斯克的最新發(fā)明是把人工智能的芯片嵌入動(dòng)物乃至人的大腦中，通過腦機(jī)接口和算法來讓動(dòng)物或人能夠隨心所欲。近些年人工智能成為社會(huì)熱點(diǎn)，在各方面的應(yīng)用以及相關(guān)產(chǎn)業(yè)的發(fā)展日新月異，給人類帶來很多沖擊、興奮以及不安。與此同時(shí)，人工智能也已經(jīng)滲透到日常生活世界，就像狐貍精悄悄溜進(jìn)人們的書齋、琴房以及市井。所以，我決定選擇關(guān)于數(shù)字化、數(shù)據(jù)驅(qū)動(dòng)、人工智能的治理以及法制創(chuàng)新的話題。這也是我這些年關(guān)注的一個(gè)研究方向。上海交通大學(xué)人工智能研究院攜手中國法與社會(huì)研究院成立全國第一個(gè)“人工智能治理與法律研究中心”，今年7月10日在世界人工智能大會(huì)法治論壇上舉行了揭牌儀式，由我擔(dān)任負(fù)責(zé)人，也想借此機(jī)會(huì)介紹一下我們的問題意識和發(fā)展目標(biāo)。
從自己的專業(yè)法社會(huì)學(xué)以及數(shù)字化的信息溝通技術(shù)（ICT）導(dǎo)致的法律制度創(chuàng)新的角度切入，我在這里簡單論述以下四個(gè)問題：1.人工智能引起的法與社會(huì)變遷；2.自動(dòng)駕駛的權(quán)利、責(zé)任以及倫理；3.數(shù)據(jù)里的經(jīng)濟(jì)價(jià)值和人格尊嚴(yán)；4.智能網(wǎng)絡(luò)的平臺治理與代碼支配。
（一）人工智能引起的法與社會(huì)變遷
日常生活各方面的數(shù)字覆蓋：特別是在2016年AlphaGo擊敗人類職業(yè)圍棋頂尖選手之后，人工智能開始引起社會(huì)的廣泛關(guān)注。機(jī)器學(xué)習(xí)、深度學(xué)習(xí)使人工智能發(fā)生質(zhì)變，進(jìn)化后的人工智能又使人類社會(huì)發(fā)生質(zhì)變。人工智能引起的社會(huì)變化主要有哪些方面？我認(rèn)為最主要的是數(shù)字覆蓋，使世界具有實(shí)體和虛擬雙重結(jié)構(gòu)，使我們越來越普遍地生活在電腦空間里。
在中國，日常生活各方面的數(shù)字化速度非?？?，覆蓋面也非常廣。到現(xiàn)在大部分日本人還是傾向于用現(xiàn)金在實(shí)體店購買商品。2009年我回國后才知道中國的年輕人那時(shí)已經(jīng)很習(xí)慣在淘寶網(wǎng)購物，價(jià)格實(shí)惠，也很省事和節(jié)約時(shí)間。在淘寶網(wǎng)購物使用支付寶，是數(shù)字貨幣的一種形態(tài)。后來又有微信支付，現(xiàn)在上海的地下車庫都采取支付寶或微信支付的方式掃碼付費(fèi)。在餐廳、早點(diǎn)攤位以及農(nóng)貿(mào)市場人們也廣泛采取移動(dòng)支付方式?？爝f和外賣也特別流行，尤其在新冠疫情防控期間，有利于在保持社交距離的狀態(tài)下滿足日常生活需求。還有交通一卡通，包括車輛電子保險(xiǎn)的普及等等。從這些現(xiàn)象可以看到，中國的日常生活越來越數(shù)字化，幾乎被數(shù)字全覆蓋了。
這次疫情更進(jìn)一步地加強(qiáng)了這個(gè)數(shù)字覆蓋過程，如群體的體溫檢測、健康碼、人臉識別驗(yàn)證，結(jié)果導(dǎo)致整個(gè)社會(huì)被數(shù)字化技術(shù)全面覆蓋。這是一個(gè)非常重要的變化。數(shù)字全覆蓋的社會(huì)使得我們的日常生活世界產(chǎn)生了電子復(fù)制版，所有的活動(dòng)痕跡可以記錄下來，轉(zhuǎn)變成大數(shù)據(jù)。這樣就可以在非常廣泛的領(lǐng)域采用人工智能對大數(shù)據(jù)進(jìn)行分析，進(jìn)行預(yù)測。在這里，數(shù)據(jù)的規(guī)模越大、質(zhì)量越好，人工智能的功能也就越強(qiáng)、可預(yù)測程度也就越高。總之，這就是當(dāng)今社會(huì)、尤其是中國發(fā)生的一種非常本質(zhì)性的變化：無所不在的數(shù)字覆蓋和智能躍進(jìn)。
經(jīng)濟(jì)活動(dòng)的重點(diǎn)對象從資源到數(shù)據(jù)：在數(shù)字覆蓋和智能躍進(jìn)的背景下，數(shù)據(jù)的經(jīng)濟(jì)價(jià)值就會(huì)越來越明顯地呈現(xiàn)出來。例如淘寶網(wǎng)，可以根據(jù)消費(fèi)場景的行蹤，分析購買人的經(jīng)濟(jì)狀況、行為方式、目前的需求、偏好，再根據(jù)這些信息和演算結(jié)果推送出相應(yīng)的商品廣告、確定生產(chǎn)計(jì)劃以及營銷模式。也就是說，在數(shù)字覆蓋的背景下，企業(yè)可以通過人工智能對大數(shù)據(jù)的分析和預(yù)測揭示個(gè)人的隱私、推斷社會(huì)的發(fā)展趨勢，獲得競爭的優(yōu)勢以及盈利的機(jī)遇。在這個(gè)意義上可以說，數(shù)據(jù)是有經(jīng)濟(jì)價(jià)值的。馬云曾經(jīng)說過：數(shù)據(jù)就是21世紀(jì)的石油。數(shù)據(jù)就是人工智能社會(huì)的生產(chǎn)資料。數(shù)字化的經(jīng)濟(jì)就是由大數(shù)據(jù)和人工智能來驅(qū)動(dòng)的。人工智能系統(tǒng)的聯(lián)結(jié)、交錯(cuò)、互動(dòng)，會(huì)構(gòu)成智能網(wǎng)絡(luò)化社會(huì)。通過智能技術(shù)收集數(shù)據(jù)、應(yīng)用大數(shù)據(jù)進(jìn)行分析和預(yù)測，從而決定社會(huì)運(yùn)作方式，我們的整個(gè)社會(huì)已經(jīng)變成了一個(gè)數(shù)據(jù)驅(qū)動(dòng)的社會(huì)。
在這里，數(shù)據(jù)不僅具有經(jīng)濟(jì)價(jià)值，甚至還成為溝通的媒介、交易的通貨。顯而易見，中國在數(shù)據(jù)的收集和利用方面是具有獨(dú)特優(yōu)勢的。在中國，大約70%的優(yōu)質(zhì)數(shù)據(jù)由國家掌握，沒有很強(qiáng)的隱私意識和排他性的權(quán)利設(shè)置來構(gòu)成數(shù)據(jù)的壁壘，這就使各個(gè)領(lǐng)域的數(shù)據(jù)更容易匯集到一起進(jìn)行處理。也就是說，數(shù)據(jù)空間沒有被過于強(qiáng)勢的數(shù)據(jù)主體格局、沒有形成小國寡民的碎片化狀態(tài)。在這樣的狀況下，數(shù)據(jù)規(guī)模與人工智能功能的正比例關(guān)系法則就會(huì)更加強(qiáng)有力。數(shù)據(jù)的數(shù)量越多、質(zhì)量越高，人工智能的算法和算力就會(huì)越發(fā)達(dá)，數(shù)據(jù)的經(jīng)濟(jì)價(jià)值也就越高。所以，中國的數(shù)字經(jīng)濟(jì)增長的速度和效益是非常驚人的。當(dāng)然，在這里我們必須指出，還是不能忽視個(gè)人信息安全和隱私保護(hù)不足等問題。應(yīng)該找到一種兼顧數(shù)字經(jīng)濟(jì)發(fā)展與個(gè)人信息和隱私保護(hù)的制度安排。
為了保護(hù)個(gè)人信息安全、隱私以及數(shù)據(jù)權(quán)利，為了促進(jìn)網(wǎng)絡(luò)交易平臺的發(fā)展，歐盟曾經(jīng)做過一個(gè)很有代表性的嘗試。在1996年，歐盟制定了一個(gè)嚴(yán)格保護(hù)數(shù)據(jù)庫權(quán)利的規(guī)定，試圖賦予數(shù)據(jù)以排他性的所有權(quán)，試圖通過絕對所有權(quán)的觀念來確保數(shù)據(jù)的收集和利用限定在法治的軌道上，防止濫用數(shù)據(jù)的事態(tài)發(fā)生。但是，這個(gè)法律規(guī)定的實(shí)施效果并不理想；在歐盟，迄今為止還沒有出現(xiàn)像中國BAT(百度、阿里巴巴、騰訊)、美國GAFAM（谷歌、亞馬遜、臉書、蘋果、微軟）那樣的數(shù)字科技交易平臺巨頭。因?yàn)閿?shù)據(jù)或者信息本身具有流動(dòng)性，如果賦予排他性的數(shù)據(jù)庫權(quán)利以及數(shù)據(jù)所有權(quán)，就會(huì)犧牲流動(dòng)性，壓抑?jǐn)?shù)字經(jīng)濟(jì)以及網(wǎng)絡(luò)交易平臺的發(fā)展。但是，我們也不能把隱私和個(gè)人信息安全作為大數(shù)據(jù)和人工智能時(shí)代經(jīng)濟(jì)發(fā)展的犧牲品，因?yàn)檫@樣會(huì)摧毀自由的基礎(chǔ)。關(guān)鍵是如何在功利主義與個(gè)人自由之間找到適當(dāng)?shù)钠胶恻c(diǎn)，防止或減少我們?yōu)閿?shù)字覆蓋付出的隱私代價(jià)。
市場交易的形態(tài)從物品到服務(wù)：市場交易的形態(tài)也發(fā)生了非常大的變化。比如之前的影碟、光盤，是影視和音樂發(fā)燒友的重要財(cái)產(chǎn)，大家都會(huì)設(shè)法通過購買來收藏。但到了現(xiàn)在，可以直接在網(wǎng)上下載收看和收聽，只需臨時(shí)購買網(wǎng)絡(luò)服務(wù)，而不需要擁有實(shí)體的產(chǎn)品。還有轎車，也曾經(jīng)是個(gè)人的重要財(cái)產(chǎn)乃至身份的象征，但是現(xiàn)在網(wǎng)約車盛行，是否擁有一輛漂亮的轎車并不那么重要了。在這個(gè)意義上，出行的座駕也由實(shí)體的物件轉(zhuǎn)化成臨時(shí)購買的交通服務(wù)形態(tài)。既有的現(xiàn)代法律體系都強(qiáng)調(diào)所有權(quán)，強(qiáng)調(diào)以物品為基礎(chǔ)的個(gè)人權(quán)利的保障。在智能網(wǎng)絡(luò)化社會(huì)，當(dāng)市場交易的主要形態(tài)從物品轉(zhuǎn)向服務(wù)時(shí)，光碟就消失了，人們覺得買車不如租車，消費(fèi)者對物品的占有欲望勢必減弱。與此相應(yīng)，以物權(quán)為基礎(chǔ)的法律體系也勢必發(fā)生非常大的變化，商場監(jiān)管的方式同樣也會(huì)與過去大不相同。例如阿里巴巴的平臺戰(zhàn)略促使大量廠商、供應(yīng)商都到這個(gè)巨型平臺上來營銷，這就會(huì)帶來法律規(guī)制的新問題。為了避免阿里巴巴自己的商譽(yù)被透支、濫用，為了保障服務(wù)的規(guī)格和質(zhì)量，杜絕假冒偽劣商品，這個(gè)平臺就必須肩負(fù)起監(jiān)管的職責(zé)。在某種意義上也可以說，交易平臺在相當(dāng)程度上已經(jīng)代替政府發(fā)揮監(jiān)管的作用，這也是行政服務(wù)民營化、市場化的一種方式。當(dāng)然，與此同時(shí)政府還要對巨型的交易平臺進(jìn)行監(jiān)督和管理，防止壟斷和不正當(dāng)競爭。
社會(huì)系統(tǒng)變化的三個(gè)基本特征：由于物聯(lián)網(wǎng)（特別是5G物聯(lián)網(wǎng)）的發(fā)達(dá)、人工智能廣泛的應(yīng)用，導(dǎo)致了不同人工智能系統(tǒng)之間發(fā)生密切的關(guān)系，互相作用，導(dǎo)致了智能網(wǎng)絡(luò)化的趨勢。人工智能系統(tǒng)各自的目標(biāo)不同，有可能會(huì)發(fā)生沖突，它們的互動(dòng)關(guān)系有可能導(dǎo)致的出乎意料的后果。本來人工智能是要進(jìn)行預(yù)測的，但是在人工智能網(wǎng)絡(luò)化、人工智能可以深度學(xué)習(xí)的情況下，不可預(yù)測性、不可解釋性的問題反倒頻繁發(fā)生。在有些場合，人工智能越發(fā)達(dá)，復(fù)雜化程度越高，達(dá)到的結(jié)果精確性越強(qiáng)，人們反倒很難準(zhǔn)確地說明這到底是怎樣實(shí)現(xiàn)的。這就是所謂算法黑箱化。從人工智能治理的角度來看，我們當(dāng)然希望算法是透明的、可以解釋的，但實(shí)際上卻很難解釋清楚算法的原理和機(jī)制，因果關(guān)系無法驗(yàn)證。這就使得問責(zé)原則很難落實(shí)。所以算法黑箱化是我們要關(guān)注的社會(huì)系統(tǒng)實(shí)質(zhì)性變化的第二個(gè)方面。深度學(xué)習(xí)使得人工智能超出人類預(yù)設(shè)的計(jì)劃和程序，能夠自己歸納出新的行為模式，并根據(jù)這樣的模式進(jìn)行運(yùn)作。在這里，自然而然會(huì)導(dǎo)致對人工智能發(fā)展的發(fā)展的一個(gè)憂慮，即失控。也就是說，人工智能系統(tǒng)的觀察、學(xué)習(xí)、思考、判斷、行動(dòng)能力提高之后，就有可能產(chǎn)生自我意識和獨(dú)立性，機(jī)器自主化了，人類無法對人工智能進(jìn)行有效的控制。機(jī)器人還有可能造反，轉(zhuǎn)而傷害人們。社會(huì)系統(tǒng)的上述三種變化，都會(huì)影響到制度安排，對法律體系構(gòu)成嚴(yán)峻的挑戰(zhàn)。
在很多方面似乎代碼取代法律：在人工智能時(shí)代，技術(shù)規(guī)格往往具有非常重要的意義。有時(shí)候，代碼可能使法律中現(xiàn)有的權(quán)利不能按規(guī)定實(shí)施，要進(jìn)行改變。代碼的框架有可能使得原來的法律制度安排不得不發(fā)生一些變化。在有些場合，事實(shí)已經(jīng)先行，使得法律與現(xiàn)實(shí)脫節(jié)的問題凸顯出來。人工智能在越來越多地滲透到社會(huì)當(dāng)中去的時(shí)候，算法本身就決定了很多事物的運(yùn)行方式。有一種說法叫做算法獨(dú)裁，就是指人工智能的算法、軟件、代碼框架支配一切的事態(tài)。在這樣的情況下，法律體系確實(shí)面臨著嚴(yán)峻的挑戰(zhàn)。包括區(qū)塊鏈對密碼資產(chǎn)通過網(wǎng)絡(luò)共識的方法進(jìn)行管理，這也是與過去所設(shè)想的法律支配是不一樣的。
經(jīng)濟(jì)和社會(huì)全面的數(shù)字化迫使法律采取應(yīng)對舉措：目前中國及其他國家，人工智能應(yīng)用系統(tǒng)發(fā)展的速度非?？?，數(shù)字經(jīng)濟(jì)似乎處于野蠻生長的階段。然而如果過早地進(jìn)行法律規(guī)制，采取強(qiáng)制性措施管理大數(shù)據(jù)產(chǎn)業(yè)和人工智能開發(fā)，就有可能壓制科技以及數(shù)字經(jīng)濟(jì)。另一方面，人們也會(huì)抱有深深的憂慮，因?yàn)槿斯ぶ悄艿母吒杳瓦M(jìn)，很有可能把人類社會(huì)鎖進(jìn)一個(gè)特定的路徑相關(guān)，將來想退也退不出來，或者退出時(shí)花費(fèi)的成本太大。因此，我們應(yīng)該及時(shí)對物聯(lián)網(wǎng)、大數(shù)據(jù)以及人工智能的治理和制度設(shè)計(jì)進(jìn)行思考和討論，采取軟硬兼施的適當(dāng)對策。其中一個(gè)非常重要的應(yīng)對方式就是強(qiáng)調(diào)人工智能開發(fā)的倫理、原則、政策以及法律的綜合治理。如果片面采取法律的規(guī)制措施，有可能限制人工智能技術(shù)以及相關(guān)數(shù)字經(jīng)濟(jì)的發(fā)展，所以我們認(rèn)為在現(xiàn)階段軟法比硬法更重要。我認(rèn)為，只有通過這種方式，才能更好地適應(yīng)目前既要保護(hù)人工智能發(fā)展，又要對其進(jìn)行適當(dāng)限制、防止野蠻生長的社會(huì)需要。上海交通大學(xué)人工智能治理與法律研究中心聚焦算料（大數(shù)據(jù)）、算法以及算力中的倫理與法理關(guān)系問題，試圖構(gòu)建相應(yīng)的知識圖譜，推動(dòng)人工智能時(shí)代的制度創(chuàng)新。國內(nèi)法學(xué)界以及相關(guān)業(yè)界都非常關(guān)注這方面的進(jìn)展。最近上海的商湯智能產(chǎn)業(yè)研究院和北京的曠視科技有限公司等來與我們洽談在人工智能的治理和數(shù)據(jù)法律等方面開展合作。另外，人工智能技術(shù)也廣泛應(yīng)用到法律適用的過程之中，特別在司法領(lǐng)域推進(jìn)迅猛，包括電子法院、智慧司法、基于大數(shù)據(jù)的文書自動(dòng)生成等等。人工智能作為法律決策輔助系統(tǒng)的嘗試各國都在積極行動(dòng)。人工智能直接用于法律決策的情況更復(fù)雜一些，涉及很多技術(shù)上、價(jià)值上的障礙，目前還處于初級階段，還在摸索之中。
（二）自動(dòng)駕駛的權(quán)利、責(zé)任以及倫理
在上述背景下，我們再來探討一些具體的問題，先看自動(dòng)駕駛。今年6月27日，上海開始啟動(dòng)滴滴自動(dòng)駕駛網(wǎng)約車的服務(wù)。之前長沙試行自動(dòng)駕駛網(wǎng)約車遭到出租車司機(jī)的集體抵制，美國亞利桑那州的自動(dòng)駕駛車輛引起人身事故后各國的態(tài)度變得更加慎重。無論如何，自動(dòng)駕駛普及之前還有很多法律問題有待解決。首先要考慮共享乘車服務(wù)提供者的資質(zhì)和信用。目前BAT都在提供自動(dòng)駕駛領(lǐng)域的服務(wù)，它們的戰(zhàn)略會(huì)影響到自動(dòng)駕駛的服務(wù)狀況，也會(huì)影響權(quán)利義務(wù)的設(shè)置。其次，現(xiàn)有的《道路交通安全法》第19條規(guī)定駕駛者的資格要件，人工智能是否也需要獲得駕駛執(zhí)照？第三，如何界定自動(dòng)駕駛車輛的智能化級別與法律的關(guān)系？一旦導(dǎo)入人工智能，開始只是發(fā)揮輔助性作用，或者部分操作自動(dòng)化；但到了附條件自動(dòng)駕駛或者完全自動(dòng)駕駛，軟件系統(tǒng)本身就成為責(zé)任主體。如果出了問題，是找汽車廠商、程序開發(fā)商，還是數(shù)據(jù)提供商追究賠償責(zé)任？這個(gè)責(zé)任如何認(rèn)定？如何分配？第四，人工智能的利用者具有不同的類型，但無論是消費(fèi)利用還是商務(wù)利用，就法律而言，似乎都應(yīng)該采取利用者免責(zé)的原則。
對于自動(dòng)駕駛而言，利用者基于合同接受服務(wù)。這時(shí)交易的對象不是車輛，而是移動(dòng)服務(wù)，車輛只是人們移動(dòng)而提供的一種服務(wù)形態(tài)。自動(dòng)駕駛汽車的主要特征是使用了人工智能軟件。如果車輛在抵達(dá)目的地前拋錨了，意味著服務(wù)終結(jié)還是換乘其他出租車？在交易對象是車輛時(shí)由買主承擔(dān)后來的風(fēng)險(xiǎn)，但在交易對象是服務(wù)時(shí)是不是由賣主永遠(yuǎn)承擔(dān)后續(xù)風(fēng)險(xiǎn)？法律上缺乏明文規(guī)定。按理應(yīng)該把硬件和軟件相區(qū)分。如果問題出在軟件，你就不能追究汽車廠商的產(chǎn)品責(zé)任。但是，嵌入車輛的軟件的更新責(zé)任又在誰呢？是汽車廠商、還是軟件供應(yīng)商？在車輛故障或因自動(dòng)駕駛軟件瑕疵引起的事故時(shí)，會(huì)引起一系列復(fù)雜的新問題。還有，自動(dòng)駕駛的人類監(jiān)控和介入如何進(jìn)行？如果發(fā)生緊急情況，突然由自動(dòng)改為手動(dòng)時(shí)也會(huì)出現(xiàn)混亂，在這種場合責(zé)任如何追究？既然上海已經(jīng)有自動(dòng)駕駛網(wǎng)約車上路了，這些問題就會(huì)迫在眉睫，需要有關(guān)機(jī)關(guān)及時(shí)調(diào)研和立法，制定自動(dòng)駕駛的交通安全制度的設(shè)計(jì)方案。
（三）數(shù)據(jù)里的經(jīng)濟(jì)價(jià)值和人格尊嚴(yán)
再看數(shù)據(jù)的法律問題光譜帶。不言而喻，人工智能離不開數(shù)據(jù)。人工智能的應(yīng)用、進(jìn)一步發(fā)展、預(yù)測能力的提高都有賴于數(shù)據(jù)。數(shù)據(jù)和人工智能之間存在一種正比例的關(guān)系。數(shù)據(jù)的法律問題光譜帶包括兩端：一端涉及財(cái)產(chǎn)權(quán)（數(shù)據(jù)的經(jīng)濟(jì)價(jià)值、數(shù)據(jù)處理模型和算法等等的知識產(chǎn)權(quán)），另一端涉及個(gè)人信息安全、隱私的保障。在現(xiàn)階段的中國，人口規(guī)模大約十四億、網(wǎng)民人數(shù)大約八億，每天都會(huì)產(chǎn)生大約900兆字節(jié)的海量數(shù)據(jù)。
根據(jù)2018年的統(tǒng)計(jì)，中國大數(shù)據(jù)產(chǎn)業(yè)相關(guān)人才的規(guī)模全球第一，占比59.5%，比第二位的美國高出37.1個(gè)百分點(diǎn)。更值得留意的是，中國數(shù)據(jù)的公有化程度極高，大約70%以上的優(yōu)質(zhì)數(shù)據(jù)資源由國家掌控。這種狀況有利于打破各種局部疆界充分調(diào)動(dòng)數(shù)據(jù)資源來發(fā)展產(chǎn)業(yè)經(jīng)濟(jì)，也勢必促進(jìn)人工智能在國家治理和法律制度運(yùn)作方面的廣泛應(yīng)用，但也把個(gè)人數(shù)據(jù)安全和隱私保護(hù)問題以更加尖銳的形式呈現(xiàn)出來。物聯(lián)網(wǎng)、大數(shù)據(jù)以及人工智能的“鐵三角”，在某些場合很可能剝奪公民對個(gè)人信息的自我處分權(quán)（隱私權(quán)）、人格尊嚴(yán)以及法律面前平等的權(quán)利。例如常見的電商和網(wǎng)絡(luò)平外把個(gè)人消費(fèi)信息作為學(xué)習(xí)數(shù)據(jù)使用，分析行為樣式并發(fā)布對標(biāo)廣告，這是否已經(jīng)構(gòu)成對隱私權(quán)的侵犯是需要認(rèn)真考慮的。特別是遺傳信息包含那些與生俱來的特性，一旦由人工智能進(jìn)行解讀和外泄就很容易影響個(gè)人入學(xué)、就業(yè)以及加入商業(yè)保險(xiǎn)，大幅度減少某些公民的人生機(jī)遇和選擇空間。
在上述兩端之間，還存在著數(shù)據(jù)經(jīng)濟(jì)價(jià)值的實(shí)現(xiàn)和利益分配問題。巨型的網(wǎng)絡(luò)交易平臺利用數(shù)據(jù)產(chǎn)生利潤，但數(shù)據(jù)主體是誰？因數(shù)據(jù)而產(chǎn)生的利潤的分配是否公正？這些都是非常復(fù)雜的法律問題。關(guān)于人工智能引起收入懸殊的問題，有人建議通過向機(jī)器人征稅，但中國更強(qiáng)調(diào)的是通過財(cái)政部門來實(shí)施合理的、精準(zhǔn)的社會(huì)二次分配。在這里，制度設(shè)計(jì)不得不面對某種兩難困境：注重個(gè)人信息和隱私的保護(hù)就有可能妨礙數(shù)據(jù)以及人工智能方面的產(chǎn)業(yè)發(fā)展，注重?cái)?shù)據(jù)驅(qū)動(dòng)的經(jīng)濟(jì)效益卻又容易侵害個(gè)人尊嚴(yán)和隱私，甚至引發(fā)信息安全問題。要兼顧這兩個(gè)方面，就需要認(rèn)真對待制度設(shè)計(jì)問題。
值得深入探討的一種對策是：中國應(yīng)該考慮設(shè)立數(shù)據(jù)托管機(jī)構(gòu)，對寄存?zhèn)€人數(shù)據(jù)的主體給予適當(dāng)?shù)姆e分獎(jiǎng)勵(lì)。數(shù)據(jù)托管機(jī)構(gòu)對數(shù)據(jù)進(jìn)行匿名化處理，企業(yè)可以在通過資質(zhì)審查后采取繳納使用費(fèi)的方式來獲得和處理數(shù)據(jù)，而數(shù)據(jù)主體也可以適當(dāng)分享數(shù)據(jù)產(chǎn)業(yè)的利益。在日本，已經(jīng)出現(xiàn)了設(shè)立復(fù)數(shù)信息銀行的構(gòu)想，個(gè)人可以像存款那樣把信息儲(chǔ)蓄到銀行，企業(yè)向信息銀行借貸個(gè)人信息。在中國，也許公共性質(zhì)的數(shù)據(jù)托管機(jī)構(gòu)更適合國情。
（四）智能網(wǎng)絡(luò)的平臺治理與代碼支配
美國學(xué)者勞倫斯·萊斯格教授在1999年提出一個(gè)命題：Code is law,代碼就是法律。如今這樣的例子很多。比如，為了保護(hù)電視節(jié)目的著作權(quán)，規(guī)定所有的DVD制作按某個(gè)技術(shù)標(biāo)準(zhǔn)只能復(fù)制一次，不能再復(fù)制到其他DVD上，以防不法者盈利。但這樣也會(huì)妨害正常的學(xué)習(xí)和欣賞。無論如何，這種現(xiàn)象說明技術(shù)規(guī)格在相當(dāng)程度上取代了法律來決定人們的行為方式。目前上海實(shí)行的“一網(wǎng)管通”上有政府機(jī)關(guān)的幾乎所有服務(wù)項(xiàng)目，健康碼成為一個(gè)非常方便的應(yīng)用場景。然而有關(guān)信息收集、數(shù)據(jù)處理的權(quán)限和程序卻并沒有明確，所依據(jù)的法律根據(jù)也不清楚，并且可以瞬間改變。實(shí)際上，通過網(wǎng)絡(luò)平臺進(jìn)行數(shù)字化治理以及經(jīng)濟(jì)活動(dòng)，各種服務(wù)關(guān)系很難用法律來明確界定權(quán)利、義務(wù)關(guān)系。由此可見，人工智能的技術(shù)規(guī)格和數(shù)據(jù)的安全分級標(biāo)準(zhǔn)的制定工作已經(jīng)迫在眉睫，立法也必須及時(shí)跟上。在這種背景下，也許將出現(xiàn)“代碼與法律并行”的局面。中國存在“禮法并行”的文化傳統(tǒng)，還有現(xiàn)代的“法律與政策并行”實(shí)踐經(jīng)驗(yàn)，對于代碼與法律并行的治理方式也許不會(huì)產(chǎn)生抵觸。正是在這里，我們可以找到治理方式創(chuàng)新的契機(jī)或者切入點(diǎn)。
眾所周知，現(xiàn)代法治特別強(qiáng)調(diào)的是自由、個(gè)人權(quán)利的保障。在這里，自由是以隱私和個(gè)人財(cái)產(chǎn)權(quán)為基礎(chǔ)。為此需要分權(quán)制衡的機(jī)制設(shè)計(jì)，對權(quán)力行使進(jìn)行監(jiān)督和限制。由于人工智能的高效性，我們要通過人工來對人工智能進(jìn)行制衡是有困難的。當(dāng)人工智能廣泛應(yīng)用于政治決策和法律決策，當(dāng)算法黑箱化，對權(quán)力的監(jiān)控和問責(zé)就會(huì)變得比較困難。在這樣的情況下，用人工智能來對人工智能進(jìn)行制衡，用技術(shù)來對技術(shù)進(jìn)行制衡也許就是一個(gè)合理的選項(xiàng)，這樣的分權(quán)制衡機(jī)制或許今后將變得非常重要。在這里，值得特別注意的數(shù)字化信息溝通技術(shù)是區(qū)塊鏈。區(qū)塊鏈最初是與比特幣、數(shù)字通貨聯(lián)系在一起的。在這次疫情防控中，中國已經(jīng)把區(qū)塊鏈協(xié)議用于社區(qū)治理，包括信息登記、體溫檢測、口罩發(fā)放等。從人工智能時(shí)代防止對個(gè)人隱私的侵犯、通過制衡機(jī)制設(shè)計(jì)解決法律問題的角度來看，區(qū)塊鏈可能會(huì)發(fā)揮關(guān)鍵的作用。簡單來說，區(qū)塊鏈協(xié)議的本質(zhì)在于使隱私黑箱化，并使系統(tǒng)中樞工作完全自動(dòng)化。通過挖礦方式，為人們利用區(qū)塊鏈提供誘因，并通過區(qū)塊鏈達(dá)成網(wǎng)絡(luò)共識。在這個(gè)過程中通過具體的智能合約方式，明確各自的權(quán)利和義務(wù)。人工智能技術(shù)的算法黑箱化，區(qū)塊鏈技術(shù)的隱私黑箱化，兩者形成相反相成的關(guān)系，這是一種非常有趣的格局，會(huì)對今后的社會(huì)治理和法律秩序產(chǎn)生深刻的影響。
（五）結(jié)論
總而言之，人工智能是一個(gè)規(guī)則嵌入系統(tǒng)，它可促使法律的規(guī)范嚴(yán)格執(zhí)行，形成硬法。但是，在智能網(wǎng)絡(luò)化的情況下，不同人工智能系統(tǒng)之間的互動(dòng)關(guān)系非常頻繁而復(fù)雜，單憑硬法不免有些簡單粗暴，必須借助軟法來補(bǔ)充和協(xié)調(diào)，需要加強(qiáng)溝通和程序公正。另外，在算法黑箱化的情況下，人工智能系統(tǒng)越復(fù)雜出現(xiàn)操作失誤的可能性就越大，問責(zé)也變得越困難。如果讓人工智能系統(tǒng)的開發(fā)者、制造者為算法失誤承擔(dān)無限的連帶責(zé)任，就會(huì)妨礙人工智能的發(fā)展。為了使這種責(zé)任有限化，為了確保智能合約的違約責(zé)任能夠依法追究，有必要承認(rèn)機(jī)器人的主體資格。實(shí)際上，只有當(dāng)機(jī)器人有主體資格時(shí)，以人工智能來制衡人工智能的構(gòu)想才能落到實(shí)處。
最后，再梳理一下與人工智能相關(guān)的法律問題，可以分為裝置、網(wǎng)絡(luò)、數(shù)據(jù)、算法、服務(wù)等五個(gè)方面進(jìn)行探討。在這樣的背景下，人工智能引起的法律范式創(chuàng)新有什么呢？一是從物權(quán)到服務(wù)評價(jià)的權(quán)利觀念變化；二是從法律到代碼的規(guī)范形態(tài)變化；三是承認(rèn)機(jī)器人權(quán)，以便追究智能合同的違約責(zé)任并使人工智能開發(fā)者、生產(chǎn)者的責(zé)任有限化。顯然，我們面對的法律體系與過去大不相同的。進(jìn)入2020年以來，我們在不斷見證歷史的巨變。讓我們也一同見證人工智能時(shí)代的法制巨變吧。謝謝！
於興中教授：季教授的講座題目叫做“人工智能時(shí)代的治理與法制創(chuàng)新”。我的理解是，我們現(xiàn)在所處的時(shí)代是一個(gè)大變革的時(shí)代。這個(gè)時(shí)代可以有不同的描述：人工智能時(shí)代，數(shù)字時(shí)代、算法或者數(shù)據(jù)的時(shí)代等等。季教授的講座大致涵蓋了這些不同的說法。這里的治理，我的理解有兩層意思：一是利用人工智能來治理社會(huì)、治理國家；二是人工智能本身也需要治理。這兩層意思都包含在季教授的演講之中。我很喜歡季教授用的詞“法制”，而不是“法治”。他的講座從宏觀把握，高屋建瓴講了四個(gè)問題，實(shí)際上也是四個(gè)領(lǐng)域，是人工智能要研究的幾個(gè)主要的領(lǐng)域，這幾個(gè)領(lǐng)域與法律也有很大的關(guān)系。季教授在很短的時(shí)間內(nèi)，給我們做了一個(gè)提綱挈領(lǐng)的闡釋，理論結(jié)合實(shí)際，內(nèi)容翔實(shí)，信息量非常大。提出了很多問題，也作出了回答，重點(diǎn)強(qiáng)調(diào)人工智能對法制創(chuàng)新的重要作用和可能性。
我就這幾個(gè)領(lǐng)域中存在的一些問題，跟大家匯報(bào)一下自己的看法。
第一個(gè)問題， 關(guān)于人工智能。人工智能對法律制度會(huì)有多大的影響，取決于人工智能能走多遠(yuǎn)。人工智能是人的智能的一種表現(xiàn)形式，不是外來的東西，是人本身的智能顯現(xiàn)投射出來的。想要了解人工智能，首先要了解人的智能。什么是人的智能就成為一個(gè)關(guān)鍵問題。但是到現(xiàn)在為止，人們在這個(gè)問題上還是沒有達(dá)成一致。有些人退而求其次，不去定義人工智能到底是什么，只是對其進(jìn)行分類。哈佛大學(xué)教育研究院的Gardner教授，提出過一種“多元的智能理論”，也就是一種復(fù)合性的智能理論。他把智能分為8類，如語言的智能、數(shù)理邏輯的智能、空間的智能、肢體感覺的智能、音樂的智能、內(nèi)心的智能等等。還有更多其他的可能分類。從現(xiàn)在人工智能的發(fā)展情況來看，好像只是反映出了數(shù)理和邏輯的概念，至于肢體感覺的智能、空間的智能、音樂的智能、內(nèi)心的智能還是比較復(fù)雜、比較難的，人工智能還沒有達(dá)到這種程度。從這個(gè)意義來說，人工智能還有很大的局限性，往前走，走到什么程度，現(xiàn)在還不好預(yù)測，也許在某個(gè)節(jié)點(diǎn)上面，就會(huì)停下來。而且據(jù)我的觀察，最近一段時(shí)間，人工智能可能又會(huì)像以前一樣進(jìn)入另一個(gè)冬天，那就是說目前在人工智能基礎(chǔ)研究方面、深度學(xué)習(xí)方面好像沒有太大的進(jìn)展，而現(xiàn)在炒得比較紅火的，基本上還是在應(yīng)用方面。未來人工智能到底對法制產(chǎn)生多大的影響、發(fā)揮什么樣的作用？現(xiàn)在可能還比較難說。這是我要談的第一個(gè)問題。
第二個(gè)問題，我想講的是，自動(dòng)駕駛和自動(dòng)駕駛車的權(quán)利和義務(wù)。目前來看，有三種辦法來對待它。一種是產(chǎn)品責(zé)任法，這個(gè)用的比較多。車是一個(gè)產(chǎn)品，出了問題按照產(chǎn)品責(zé)任法分配責(zé)任。第二個(gè)是侵權(quán)法，這兩種比較容易以現(xiàn)有的法律來衡量。第三種比較麻煩，就是，對機(jī)器人或自動(dòng)駕駛車輛賦予人格的權(quán)利，這可以分為獨(dú)立和非獨(dú)立兩類，就像成年人和小孩。這種做法會(huì)有很多問題：道德上的難題，哲學(xué)上的難題，以及如何理解生命，如何理解權(quán)利主體等等。有一種說法是，機(jī)器人或自動(dòng)駕駛汽車可能會(huì)產(chǎn)生自己的意識。這個(gè)說法的可信度如何，意識出現(xiàn)后會(huì)不會(huì)出現(xiàn)自由意志，能不能依照自己的自由意志來做決定，承擔(dān)一定的責(zé)任，這些都是很多人關(guān)心的問題。有學(xué)者著書立說，專門探討人工智能的意識問題，指出要想了解人工智能會(huì)不會(huì)有意識，首先必須了解人的意識。但截至目前，我們對人的意識問題一籌莫展。甚至連人的意識到底在mind, brain還是在heart里，我們自己還沒搞清楚。侈談人工智能的意識，就更困難了。比較樂觀的人會(huì)說，我們現(xiàn)在已經(jīng)到了一個(gè)新的時(shí)代，即后人類中心主義時(shí)代。在這個(gè)時(shí)代，我們的權(quán)利觀、對生命、對世界萬物的看法都發(fā)生了很大的變化，我們的看法不一樣了，我們給動(dòng)物、山川草木賦予權(quán)利，我們也可以給機(jī)器人賦予權(quán)利。這是現(xiàn)在比較流行的后人類中心主義時(shí)代的說法。
第三個(gè)問題，如何對待數(shù)據(jù)。數(shù)據(jù)一面是人權(quán)，另一面是財(cái)產(chǎn)權(quán)，他們之間是一個(gè)矛盾。從人權(quán)的角度看，數(shù)據(jù)是不能買賣的，但從財(cái)產(chǎn)的角度看，則可以?？赡苡行┤擞X得財(cái)產(chǎn)權(quán)也是人權(quán)，但在人權(quán)研究領(lǐng)域里，一般不包括財(cái)產(chǎn)權(quán)。歐盟對數(shù)據(jù)的態(tài)度很有意思。在歐盟的《通用數(shù)據(jù)保護(hù)條例》（GDPR）里，規(guī)定了所謂數(shù)據(jù)的主體權(quán)（data subject rights）。這個(gè)概念包含執(zhí)行權(quán)、訪問權(quán)、更正權(quán)、刪除權(quán)、不受自動(dòng)化抉擇的權(quán)利等等，主要是一種人權(quán)。2020年2月，歐盟委員會(huì)公布了新的歐洲數(shù)據(jù)處理的策略，采取了截然不同的態(tài)度。新政策認(rèn)為數(shù)據(jù)是一種重要的、可以共享的資產(chǎn)，而且共享數(shù)據(jù)是公民的義務(wù)。從保護(hù)個(gè)人隱私，到促進(jìn)數(shù)據(jù)共享成為公民義務(wù)，反映了數(shù)據(jù)的兩重性在歐盟的法律中的體現(xiàn)。如何對待數(shù)據(jù)是一個(gè)很大的問題，季教授在講座中提到了信托的辦法。歐盟現(xiàn)在采取了信托的辦法，有些國家在試用，信托的辦法有可能會(huì)成功。
第四個(gè)問題，法律與代碼問題。自從萊斯各（Lawrence Lessig）1999年寫了Code and other laws這本書以后，法律與代碼的問題日漸引起人們注意。但是，代碼在何種程度上可以成為法律，法律在何種意義上可以被看做代碼，是需要仔細(xì)探討的。 很有可能，代碼并不像萊斯各說的那么重要。2006年，Code2.0這本書出版后，書名中的“and other laws”被刪掉了。這大概也反映一種認(rèn)識上的變化?，F(xiàn)在代碼雖然已經(jīng)在有些領(lǐng)域廣泛使用，比如在區(qū)塊鏈、便捷合約（smart contract），加密貨幣，以及自我規(guī)制、程式等方面，但從這還看不出代碼的重要性及分量。而季教授指出的代碼在技術(shù)治理方面的作用，顯然更加重要。用科技的手段進(jìn)一步去執(zhí)行法律，此時(shí)，科技手段就是一種代碼。比如，可以把知識產(chǎn)權(quán)法規(guī)定的法律條文直接變成代碼，運(yùn)用于監(jiān)管場景。算法監(jiān)管也是屬于技術(shù)治理的內(nèi)容之一。在這個(gè)意義上來說，代碼是不可小覷的，代碼就是法律； 法律就是代碼。但代碼是否能夠取代法律還需要進(jìn)一步思考。不過，季教授最后指出的，對于中國人來說，法律和代碼這兩種規(guī)范并存并不難接受，因?yàn)橹袊卫砦幕芯陀小岸Y法結(jié)合”的傳統(tǒng)。我贊成這種觀點(diǎn)，我之前將這種做法稱之為規(guī)范二元論，即法律與道德這兩種規(guī)范系統(tǒng)并存，雙管齊下。當(dāng)然，法律與代碼并存的意義可能在形式上更重要。
洪朝輝教授：我想側(cè)重分析一下人工智能對人我們?nèi)祟愃枷氲奶魬?zhàn)。
第一，人工智能有可能抑制和弱化人的思想。AI不僅不能代替人的思想，有可能抑制思想。首先，AI有可能弱化人的三種行為：情、意、靈，有感情、會(huì)意念、出靈感的能力。其次，機(jī)器無法取代人的三大皇道：主觀審美力（Aesthetic）；思想創(chuàng)造力（Creation)；道德同理心（Empathy)；ACE:皇道。再次，機(jī)器像人不可怕，可怕的是人像機(jī)器，但更可怕的是人分不清機(jī)器人與自然人的區(qū)別；人機(jī)趨同。
第二，長期使用和依賴AI，可能導(dǎo)致人的思想功能退化、異化。直立行走，是猿變?nèi)说年P(guān)鍵；如今，人類低頭、埋首電子產(chǎn)品，很少站立仰望，是否可能再度退化到猿人的視野和境界？成為新一代的變相“類人猿”？
第三，AI有可能控制人類思想、解構(gòu)社會(huì)。當(dāng)初智人能夠戰(zhàn)勝強(qiáng)大的尼安德特人之一大原因是智人善于合作的威力，因?yàn)橹侨松朴谥圃煜胂蟮氖聦?shí)、虛無的承諾和法律的虛擬(legal fiction)。他們主要善于講故事，尤其是使人相信的故事。這樣，只要改變故事的內(nèi)容，就能改變?nèi)祟惡献鞯膬?nèi)容和方式。如今，AI能夠更有效地改寫故事和理想，因?yàn)楝F(xiàn)代人類的合作意愿和能力日益退化。過去
人類主要靠“三師” （巫師、牧師、導(dǎo)師）來建立理想、取得合作，但如今人類已經(jīng)很難相信被無數(shù)事實(shí)證偽的理想、故事、宗教、領(lǐng)袖和主義，巫師、牧師、導(dǎo)師的“三師”效用急劇遞減。於是，為了重建信任，強(qiáng)化合作，需要借助機(jī)器，而AI就更善于幫助“三師”虛構(gòu)理想、發(fā)展想象、重講故事。這樣，AI就能更有效地改變?nèi)祟惖暮献髂Ｊ?，控制人類的行為?/span>
第四，AI有可能促使人類更不平等。首先，數(shù)字的落差將導(dǎo)致新的階級分化，目前全世界70億人口，至少一半沒有互聯(lián)網(wǎng)，這樣，更多人群將成為數(shù)字的新奴隸，數(shù)字貧困將導(dǎo)致經(jīng)濟(jì)貧困（poverty of data、poverty of information, poverty of access)。另外，AI設(shè)計(jì)出來的教育產(chǎn)品，可能忽略少數(shù)弱勢群體的需求。不是說MOOC的主人不能滿足多元需求，而是滿足這些弱小、個(gè)別、窮困的受眾，不值得。尤其是，大數(shù)據(jù)模型存在種族偏見、經(jīng)濟(jì)剝削、弱勢歧視。Cathy O’Neil的Weapons of Math Destruction對此現(xiàn)象作了觸目驚心地描寫。
第五，AI有助于科技創(chuàng)新，但難以推動(dòng)、甚至阻礙科學(xué)發(fā)現(xiàn)。科學(xué)是發(fā)現(xiàn)，科技是發(fā)明（Technological Innovation Vs. Scientific Discovery）。AI只是一種科技，而不是科學(xué)，這是一種術(shù)與學(xué)、器與道的區(qū)別?！袄罴s瑟之謎”指出：中國自漢朝以來，出現(xiàn)了不少偉大的科技，但少有傳世的科學(xué)。中國的四大發(fā)明不是科學(xué)發(fā)現(xiàn)，而是科技創(chuàng)新而已。多數(shù)中國人善于掌握已知的能力強(qiáng)，但探索未知能力和興趣比較弱。
第六，危機(jī)可能變轉(zhuǎn)機(jī)。首先，AI可能導(dǎo)致重大社會(huì)危機(jī)，因?yàn)槿祟愓诿媾R“六失”：安全失控、法律失準(zhǔn)、道德失范、倫理失常、隱私失密、思想失卻?？膳碌氖牵祟悓⒃贏I時(shí)代出現(xiàn)新的“雙人記”（自然人VS智能人），類似《雙城記》的悲劇：A Tale of Two “Men”（雙人記）。
但是，AI也有正面的人文效用。讓AI的風(fēng)暴來得更猛烈一些吧！因?yàn)楫?dāng)AI主導(dǎo)人類生活之時(shí)，將是文史哲再度復(fù)興、再度輝煌之日。屆時(shí)，人類將負(fù)責(zé)思想、人文、情感和靈感，AI則負(fù)責(zé)運(yùn)算、模仿和執(zhí)行。未來的人類將更多地在精神世界尋找滿足、探索更深層的生命寄托和意義。必須記住，未來的時(shí)代，生產(chǎn)力不再是第一生產(chǎn)力，只有思想才是第一生產(chǎn)力。
沈巋教授：我想補(bǔ)充的是，從法理層面看，無論歷史上對“法律是什么”有多少個(gè)不同的學(xué)說，目前主導(dǎo)和影響我們?nèi)祟愃季S的關(guān)于法律的觀念，把法律和主權(quán)國家緊密聯(lián)系在一起。因此，討論AI或智能網(wǎng)絡(luò)時(shí)代對法律的影響，也可以從主權(quán)國家角度切入。我們通常認(rèn)為，主權(quán)國家有三個(gè)非常重要的構(gòu)成要素：領(lǐng)土、人民和政權(quán)。但是，在AI或智能網(wǎng)絡(luò)時(shí)代，這三個(gè)方面都有極大變化。
首先，領(lǐng)土在網(wǎng)絡(luò)世界中是不存在的。在網(wǎng)絡(luò)世界中，我們是站在云上，不是站在領(lǐng)土上；我們是站在數(shù)據(jù)流上，不是站在土地上。這就是我們現(xiàn)在所感受到的跨國界。與主權(quán)國家對應(yīng)的是“公民”概念（citizen），而與網(wǎng)絡(luò)世界對應(yīng)的則是“網(wǎng)民”概念（netizen）。我們在進(jìn)行這樣的講座的時(shí)候，不再是公民，而是網(wǎng)民。我們很大程度上不再受中國、美國或者其他國家法律非常直接的影響，更多地是受到交流媒介平臺（Zoom等）的規(guī)則限制。領(lǐng)土也與實(shí)體世界緊密相關(guān)。過去，我們更多地是生活在實(shí)體世界里，在古代或近代以前由于交通的不便，由于其他方面的限制，人們雖然可能知道有不同于自己生活的世界的其他實(shí)體世界的存在，但很難真正生活在多維世界中?，F(xiàn)在，我們不僅可以時(shí)不時(shí)地在多維實(shí)體世界里穿行，還能經(jīng)常穿行于實(shí)體世界和虛擬世界中。這就帶來一系列問題：約束我們行為的法律或規(guī)則的制定者是誰？國家還是網(wǎng)絡(luò)平臺還是算法設(shè)計(jì)者？法律還只是主權(quán)者的意志，由主權(quán)國家的強(qiáng)制力實(shí)施的“硬法”？還是會(huì)更多地包括季老師所說的“軟法”？我們在不同世界中接受的法律或規(guī)則發(fā)生沖突會(huì)怎么辦？
其次，關(guān)于人，我對未來世界的人口結(jié)構(gòu)有一種擔(dān)憂。我認(rèn)為存在一種人格的非人化趨勢。人格這一概念原來是建立在自然人的基礎(chǔ)上，不是建立在機(jī)器人或智能人的基礎(chǔ)上的，但當(dāng)我們試圖把人格賦予機(jī)器人、智能人的時(shí)候，不管是洪教授所說的“雙人記”還是於教授所說的把人格賦予機(jī)器人，我覺得就是把本來的人格概念變得非人化了。這會(huì)帶來什么樣的問題呢，尤其是法律問題？我同意前面幾位老師的基本觀點(diǎn)。在此基礎(chǔ)上，我再補(bǔ)充一點(diǎn)。有些問題也許是我們以前想都不會(huì)想的。比如說，我們的確對AI的深度學(xué)習(xí)能力了解不多，對算法的未來發(fā)展也了解不多，但是，一種可能的想象是：對某些人來說，他們非常希望智能人成為他們的伴侶，他們會(huì)愛上智能人，還會(huì)希望跟智能人結(jié)婚，因?yàn)樗麄冇X得同一個(gè)復(fù)雜的自然人相處、結(jié)婚是很難受的。也許，他們還會(huì)想，同智能人結(jié)婚以后再領(lǐng)養(yǎng)一個(gè)人，不管領(lǐng)養(yǎng)的是自然人還是智能人。這就會(huì)導(dǎo)致家庭的整個(gè)結(jié)構(gòu)的劇烈變化，而家庭是倫理、道德、法律體系的基本單位，難免會(huì)形成連鎖的法律難題。進(jìn)而，是不是要滿足這部分自然人的需求，又會(huì)涉及到人權(quán)觀念。未來會(huì)變得很復(fù)雜、很具有挑戰(zhàn)性。
第三，涉及到政權(quán)，如果我們在一個(gè)沒有領(lǐng)土的網(wǎng)絡(luò)里，政權(quán)看上去對我們的影響就弱了很多，但是，實(shí)際上，我們會(huì)面臨更多的權(quán)威以及更多的全能權(quán)威。未來會(huì)面臨智能權(quán)威化和權(quán)威全能化的情況。培根說的Knowledge is power，過去一種常見的翻譯是，知識就是力量。但是，這同樣可以翻譯為知識就是權(quán)力。隨著AI的發(fā)展，享有或者控制智能的個(gè)人或組織的權(quán)威會(huì)變得越來越大。比如，強(qiáng)大如淘寶、亞馬遜等平臺對數(shù)以億計(jì)的商家和消費(fèi)者的治理，就是建立在代碼和智能的基礎(chǔ)上。這些新的權(quán)威正在宣告和展示他們對某些多維世界的主宰。同時(shí)，我們傳統(tǒng)的政權(quán)也會(huì)利用這種智能，增強(qiáng)其能力。我們以前總說，沒有一個(gè)政府是萬能的，沒有一個(gè)像萬能上帝存在的政府。然而，如果馬斯克的芯片可以植入到豬腦、人腦，進(jìn)入到人腦以后又能感受到人的活動(dòng)神經(jīng)。又如果政府可以利用諸如此類我們現(xiàn)在想象不到、但未來完全可能出現(xiàn)的AI技術(shù)，那么，政府對人民的控制就似乎會(huì)變得無所不能，就會(huì)比哈維爾筆下的老大哥更為全能。未來的法律必須要很好地應(yīng)對“多權(quán)威”的存在以及“全能權(quán)威”的存在?？傊c法律有著密切關(guān)聯(lián)的主權(quán)國家三個(gè)基本要素——領(lǐng)土、人口、政權(quán)——都會(huì)發(fā)生巨大變化，法律體系也必然會(huì)隨之面臨巨大挑戰(zhàn)和變化。