全球疫情之下，大數(shù)據(jù)和人工智能技術(shù)在實(shí)際場景中加速落地。不可否認(rèn)，人工智能在抗擊疫情和復(fù)工復(fù)產(chǎn)等多個領(lǐng)域都發(fā)揮了關(guān)鍵作用，但技術(shù)蓬勃發(fā)展帶來的法治挑戰(zhàn)也在相應(yīng)增加。
上海交通大學(xué)文科資深教授、中國法與社會研究院院長季衛(wèi)東對第一財(cái)經(jīng)記者表示，疫情防控加快了數(shù)字經(jīng)濟(jì)的發(fā)展和社會治理方式的轉(zhuǎn)型。然而，人工智能對海量數(shù)據(jù)的渴望和吞吐，正在沖擊個人隱私和信息處分權(quán)，在一定程度上給現(xiàn)代法治體制帶來挑戰(zhàn)。“特別是電腦的網(wǎng)絡(luò)化和算法的黑箱化，導(dǎo)致因果關(guān)系難以確認(rèn)和說明，勢必動搖責(zé)任政府和問責(zé)原則的基礎(chǔ)，助長某種‘機(jī)器官僚主義’的傾向。”他提出，必須及時對人工智能治理以及相關(guān)的法律問題進(jìn)行深入分析，從理論和實(shí)踐兩個方面提出中國方案。
便利性的代價
一方面是人工智能應(yīng)用落地加速，帶來生產(chǎn)效率和生活品質(zhì)提升；另一方面是這些便利性帶來犧牲隱私、冒犯人格等代價，引起了越來越多個人和企業(yè)的重視。6月8日，IBM公司CEO克里什納宣布IBM退出人臉識別業(yè)務(wù)；6月10日，亞馬遜暫時禁止向美國警察提供人臉識別技術(shù)，禁令將持續(xù)一年；6月11日，微軟禁止將人臉識別技術(shù)銷售給警方；而早在今年初，Clearview AI公司就遭遇重大數(shù)據(jù)泄露，30億張人臉數(shù)據(jù)被泄露，引發(fā)美國社會的巨大擔(dān)憂。季衛(wèi)東表示，我國根據(jù)海量圖像數(shù)據(jù)進(jìn)行人工智能研究的績效的確非常突出，已經(jīng)達(dá)到世界頂級水平。“這使得人工智能系統(tǒng)的深度學(xué)習(xí)能力超強(qiáng)，并能把有關(guān)成果迅速應(yīng)用于經(jīng)濟(jì)和社會治理的各個方面?！痹诩拘l(wèi)東看來，不斷進(jìn)化的電子計(jì)算機(jī)也有可能在相當(dāng)程度上以算法獨(dú)裁（Algocracy）的方式限制甚至剝奪個人的自由，以效率、便利、娛樂等不同誘因促使人們不斷放棄既有的基本權(quán)利。季衛(wèi)東解釋，在無法理解和無法說明的場合，算法就是黑箱化的。“要求人類介入和監(jiān)控人工智能的運(yùn)作，當(dāng)然是要確保人工智能的可控性，但信息處理系統(tǒng)越復(fù)雜就越容易出現(xiàn)操作的失誤，當(dāng)系統(tǒng)運(yùn)作速度極快時，人也很難對情況進(jìn)行認(rèn)識、預(yù)測以及掌握?！彼硎荆到y(tǒng)與系統(tǒng)之間還會產(chǎn)生目的沖突和互動，在機(jī)器學(xué)習(xí)甚至深度學(xué)習(xí)的情況下，不同人工智能系統(tǒng)之間的互動關(guān)系將變得復(fù)雜且變幻莫測。可以說，機(jī)器學(xué)習(xí)的效果越精準(zhǔn)、深度學(xué)習(xí)的功能越強(qiáng)大，算法的涵義就會變得越來越難以理解和說明。中國圍棋棋手柯潔與AlphaGo對弈失利，就是例證之一。
季衛(wèi)東認(rèn)為，這樣的算法黑箱化，讓人工智能具備了近乎不受約束的權(quán)力性。立法機(jī)構(gòu)的決定、司法機(jī)構(gòu)的判斷、行政機(jī)構(gòu)的具體處分行為都需要給出明確的理由，以便據(jù)此防止主觀任意性，給相對人申訴和復(fù)議的機(jī)會。如果人工智能進(jìn)行的預(yù)測、提供的結(jié)論無法說明其理由，就無異于用“莫須有”的名義來做出決定。一方面，在很多應(yīng)用場景下，人工智能很難被人類有效監(jiān)控，反而容易成為人類轉(zhuǎn)嫁決策風(fēng)險、逃避問責(zé)的重要手段；一方面，應(yīng)用人工智能對大數(shù)據(jù)進(jìn)行分析和學(xué)習(xí)，可以充分掌握社會心理和輿情的變化，對不同群體以及個人的行為進(jìn)行精準(zhǔn)的預(yù)測。那么，一旦不能相應(yīng)提高民主問責(zé)的水準(zhǔn)，權(quán)力濫用的風(fēng)險將加劇。
中國社科院知識產(chǎn)權(quán)中心研究員楊延超告訴第一財(cái)經(jīng)記者，未來的社會必須設(shè)立一個裁判機(jī)構(gòu)，即算法裁判?！爱?dāng)算法決定人自由的時候，算法本身要接受制約?！彼岢觯瑢τ谒惴ǖ膶彶?，需要一個由專業(yè)且綜合型人才組成的機(jī)構(gòu)來完成，但這樣的人才，目前是相當(dāng)缺乏的。
需要中國方案
楊延超表示，人工智能帶給傳統(tǒng)法律體系的挑戰(zhàn)是顛覆性的，比如交通法，“從智能駕駛過渡到無人駕駛，現(xiàn)有交通法可能一條都用不了”。因?yàn)楝F(xiàn)有交通法遵循的是過錯責(zé)任原則，但在無人駕駛時代，沒有駕照的人也能“開車”，這就進(jìn)入了從人的過錯到產(chǎn)品質(zhì)量的迭代時期，整個交通法都要重新制定。
同樣的，隨著越來越多機(jī)器人開始參與文學(xué)作品的創(chuàng)作，現(xiàn)有的知識產(chǎn)權(quán)法也不再適用?！艾F(xiàn)在的法律總體處于觀望和個案解決的階段。人類意識到了人工智能技術(shù)帶來的顛覆性，但顛覆的程度和速度還不得而知，因?yàn)榧夹g(shù)本身尚處于發(fā)展階段。只能遇到問題逐個解決，不斷總結(jié)后形成規(guī)則?！睏钛映f。
針對人工智能帶來的挑戰(zhàn)，我國剛通過的《民法典》特別設(shè)立人格權(quán)編，加強(qiáng)對個人信息安全和隱私的保護(hù)。個人信息保護(hù)法、數(shù)據(jù)安全法草案也在全國人大常委會第二十次會議上進(jìn)行了初審。
楊延超認(rèn)為，目前的這些立法，技術(shù)和可操作性還有待加強(qiáng)，很難解決新興的具體問題。因此，做好立法準(zhǔn)備的同時，需要加強(qiáng)對于人工智能的管理，在政府管理層逐步形成專業(yè)的管理機(jī)構(gòu)，不斷細(xì)化和完善現(xiàn)有規(guī)則。季衛(wèi)東也表示，這些規(guī)定在實(shí)施中勢必會遇到包括上述難題在內(nèi)的考驗(yàn)。這讓中國方案的出臺尤為重要。在將于7月9日開幕的2020世界人工智能大會上，季衛(wèi)東將正式新增一個身份——上海交通大學(xué)人工智能治理與法律研究中心（下稱“研究中心”）主任。作為全國首家側(cè)重研究人工智能治理以及相關(guān)法律問題的機(jī)構(gòu)，該研究中心將在這場云端峰會的法治論壇上揭牌成立。
在世界人工智能大會上，關(guān)于法治的討論從未停止。2018年的人工智能與法治高端研討會、2019年的世界人工智能大會法治論壇，均在大會期間取得了一定的學(xué)術(shù)成果。今年，法治論壇將升級成為大會的“主題論壇”之一，以“人工智能的權(quán)利義務(wù)與法治實(shí)踐”，就構(gòu)建AI法治、推動人工智能與法治深度融合等問題進(jìn)行探討。繼去年發(fā)布《世界人工智能法治藍(lán)皮書2019》后，今年的論壇還將發(fā)布“人工智能法治發(fā)展指數(shù)”和《世界人工智能法治藍(lán)皮書2020》。楊延超提出，人工智能的挑戰(zhàn)是世界性的，尤其在算法和數(shù)據(jù)共享等方面，是整個人類社會面臨的共性問題。我們需要根據(jù)國情來提出思路，同時也可以借鑒國外已有的相對成熟的法案，做好立法準(zhǔn)備。
“我國人工智能領(lǐng)域綜合型人才儲備不足，導(dǎo)致了人工智能領(lǐng)域發(fā)展速度快，但立法準(zhǔn)備速度慢的現(xiàn)狀?！彼a(bǔ)充說，目前國內(nèi)高校已逐步開始推進(jìn)人才培養(yǎng)轉(zhuǎn)型，未來將更加重視新型人才的培養(yǎng)。
（作者：繆琦 責(zé)編：楊小剛）