全球AI立法進(jìn)程明顯提速,世界各國的監管都在追趕AI的演化速度。
當地時(shí)間6月14日,歐洲議會(huì )以499票贊成、28票反對和93票棄權,高票通過(guò)了《人工智能法案》(AI Act)談判授權草案。按照歐盟立法程序,歐洲議會(huì )、歐盟成員國和歐盟委員會(huì )將開(kāi)始“三方談判”,以確定法案的最終條款。
歐洲議會(huì )稱(chēng)“已經(jīng)為制定史上首部人工智能法案做好談判準備”。美國總統拜登釋放管控AI信號,有美國國會(huì )議員提交了AI監管立法提案。美國參議院民主黨領(lǐng)袖查克·舒默展示了他的“人工智能安全創(chuàng )新框架”,并計劃在短短“幾個(gè)月”內制定聯(lián)邦層面的人工智能法案。
我國相關(guān)立法也已提上日程,人工智能法草案預備在今年內提請全國人大常委會(huì )審議。6月20日,首批境內深度合成服務(wù)算法備案清單也已經(jīng)出爐,百度、阿里巴巴、騰訊等26家公司、共計41個(gè)算法榜上有名。
盡管中國、美國、歐盟都倡導準確、安全、透明度等原則性的AI監管理念,但在具體思路和方式上,存在許多不同。頒布全面的AI法律,背后是對自身規則的輸出,欲掌握規則優(yōu)勢。
國內一些專(zhuān)家呼吁盡快開(kāi)展人工智能法律規制,但目前面臨的現實(shí)難題不容忽視。此外還有一個(gè)重要的考慮是:要監管還是要發(fā)展。這并不是一個(gè)二元對立的選擇,但在數字領(lǐng)域,平衡兩者卻頗為不易。
歐盟沖刺,中美提速
如果一切順利,歐洲議會(huì )通過(guò)的《人工智能法案》有望在今年年底前獲批。全球首部綜合性人工智能監管法律很有可能落地歐盟。
“該草案會(huì )影響其他處于觀(guān)望的國家加速立法。一直以來(lái),人工智能技術(shù)是否應當納入法治監管范疇始終爭議不斷?,F在來(lái)看,《人工智能法案》落地后,相關(guān)網(wǎng)絡(luò )平臺,如業(yè)務(wù)內容以用戶(hù)信息生成為主的平臺,勢必會(huì )承擔更高的審核義務(wù)?!北本┖娇蘸教齑髮W(xué)法學(xué)院副教授趙精武告訴《中國新聞周刊》。
作為數字戰略的一部分,歐盟希望通過(guò)《人工智能法案》全面監管人工智能,其背后的戰略布局也已擺到臺面。
北京萬(wàn)商天勤(杭州)律師事務(wù)所執行主任彭曉燕告訴《中國新聞周刊》,《人工智能法案》除適用于歐盟境內,還規范位于歐盟之外、但系統輸出數據在歐盟使用的系統提供方或使用者。極大擴展了法案的管轄適用范圍,也可以窺見(jiàn)搶占數據要素管轄范圍的端倪。
中國國際問(wèn)題研究院歐洲研究所副所長(cháng)、研究員金玲在《全球首部人工智能立法:創(chuàng )新和規范之間的艱難平衡》一文中也寫(xiě)道,《人工智能法案》突出歐盟人工智能治理的道德優(yōu)勢,是歐盟又一次欲發(fā)揮其規范性力量,通過(guò)規則優(yōu)勢彌補技術(shù)短板的嘗試。反映了歐盟欲搶占人工智能領(lǐng)域道德制高點(diǎn)的戰略意圖。
《人工智能法案》已醞釀兩年。2021年4月,歐盟委員會(huì )提出基于“風(fēng)險分級”框架的人工智能立法提案,后經(jīng)多輪討論和修訂。在ChatGPT等生成式AI風(fēng)靡后,歐盟立法者又緊急添“補丁”。
一個(gè)新變化是,《人工智能法案》最新草案加強了對通用人工智能(general purpose AI)的透明度要求。例如,基于基礎模型的生成式AI必須要對生成的內容進(jìn)行標注,幫助用戶(hù)區分深度偽造和真實(shí)信息,并確保防止生成非法內容。像OpenAI、Google等基礎模型的提供者,若是在培訓模型期間使用了受版權保護的數據,也需要公開(kāi)訓練數據的詳細信息。
此外,公共場(chǎng)所的實(shí)時(shí)遠程生物識別技術(shù)從“高風(fēng)險”級別調整為“被禁止”級別,即不得利用AI技術(shù),在歐盟國家的公共場(chǎng)合進(jìn)行人臉識別。
最新草案也進(jìn)一步提高了違法處罰數額,將最高3000萬(wàn)歐元或侵權公司上一財政年度全球營(yíng)業(yè)額的6%,修改為最高4000萬(wàn)歐元或侵權公司上一年度全球年營(yíng)業(yè)額的7%。這比歐洲的標志性數據安全法律《通用數據保護條例》所規定的,最高可處以全球收入的4%或2000萬(wàn)歐元罰款高出不少。
彭曉燕告訴《中國新聞周刊》,處罰數額的提高,側面反映了歐盟當局對人工智能監管決心與力度。對于谷歌、微軟、蘋(píng)果等營(yíng)收數千億美元的科技巨頭而言,若違反《人工智能法案》規定,罰款可能達到上百億美元。
而在大洋彼岸的美國,華盛頓忙于回應馬斯克等人呼吁加強AI管控之際,6月20日,美國總統拜登在舊金山會(huì )見(jiàn)了一群人工智能專(zhuān)家和研究人員,討論如何管理這項新技術(shù)的風(fēng)險。拜登當時(shí)稱(chēng),在抓住AI巨大潛力的同時(shí),需要管理其對社會(huì )、經(jīng)濟和國家安全帶來(lái)的風(fēng)險。
風(fēng)險管控成為AI熱門(mén)話(huà)題的背景是,美國并未對AI技術(shù)采取像反壟斷那般嚴厲措施,尚未出臺聯(lián)邦層面、綜合性的AI監管法律。
美國聯(lián)邦政府首次正式涉足人工智能監管領(lǐng)域是在2020年1月,當時(shí)發(fā)布了《人工智能應用監管指南》,為新出現的人工智能問(wèn)題提供監管和非監管措施指引。2021年出臺的《2020年國家人工智能倡議法案》更多算是在A(yíng)I領(lǐng)域的政策布局,與人工智能治理和強監管還有一定距離。一年后,白宮于2022年10月發(fā)布的《人工智能權利法案藍圖》(簡(jiǎn)稱(chēng)“《藍圖》”)為人工智能治理提供了支持框架,但并不是美國官方政策,不具備約束力。
美國AI立法進(jìn)展甚微,已招致許多不滿(mǎn)。不少人批評,在數字經(jīng)濟的規則制定方面,美國已落后歐盟和中國。不過(guò),或許是看到歐盟《人工智能法案》即將走過(guò)最后“關(guān)卡”,美國國會(huì )近期出現了立法加速跡象。
拜登舉行AI會(huì )議當天,民主黨眾議員泰德·劉(Ted W.Lieu)、安娜·埃舒(Anna Eshoo),以及共和黨眾議員肯·巴克(Ken Buck)一同提交了《國家人工智能委員會(huì )法案》提案。同時(shí),民主黨參議員布萊恩·夏茲(Brian Schatz)將在參議院提出配套立法,一同專(zhuān)注于人工智能監管問(wèn)題。
根據法案內容,人工智能委員會(huì )將由來(lái)自政府、行業(yè)、民間社會(huì )和計算機科學(xué)領(lǐng)域的共20名專(zhuān)家組成,將審查美國當前的人工智能監管方法,共同制定全面的監管框架。
“AI正在社會(huì )上做出令人驚嘆的事情。如果不受控制和監管,會(huì )造成重大傷害。國會(huì )絕不能袖手旁觀(guān)?!碧┑隆⒃谝环萋暶髦姓f(shuō)。
一天后,6月21日,參議院民主黨領(lǐng)袖查克·舒默(Chuck Schumer)在戰略和國際研究中心(CSIS)發(fā)表演講,揭示他的“人工智能安全創(chuàng )新框架”(簡(jiǎn)稱(chēng)“AI框架”)——鼓勵創(chuàng )新,同時(shí)推進(jìn)安全、問(wèn)責制、基礎和可解釋性,呼應了包括《藍圖》在內的宏觀(guān)規劃。他曾在4月提出過(guò)該框架,但當時(shí)基本沒(méi)有透露細節。
AI框架背后是查克·舒默的一項立法戰略。他在此次演講中表示,要在短短“幾個(gè)月”內制定聯(lián)邦層面的人工智能法案。不過(guò),美國立法程序繁瑣,不僅要經(jīng)過(guò)參眾兩院投票,還需經(jīng)過(guò)多輪聽(tīng)證會(huì ),耗時(shí)長(cháng)久。
為了拉快進(jìn)度,作為AI框架的組成部分,查克·舒默計劃從今年9月起舉辦一系列人工智能洞察力論壇,涵蓋創(chuàng )新、知識產(chǎn)權、國家安全和隱私在內的10個(gè)主題。他告訴外界,洞察論壇不會(huì )取代國會(huì )關(guān)于人工智能的聽(tīng)證會(huì ),而是同步進(jìn)行,以便立法機構可以在幾個(gè)月而不是幾年內推出有關(guān)該技術(shù)的政策。他預計,美國的AI立法可能要到秋天“才能開(kāi)始看到一些具體的東西”。
雖進(jìn)度并未趕上歐盟,但我國相關(guān)立法也已提上日程。6月初,國務(wù)院辦公廳印發(fā)《國務(wù)院2023年度立法工作計劃》,其中提到,人工智能法草案等預備提請全國人大常委會(huì )審議。
按照我國《立法法》的規定,國務(wù)院向全國人大常務(wù)委員會(huì )提出法律草案后,由委員長(cháng)會(huì )議決定列入常務(wù)委員會(huì )會(huì )議議程,或者先交有關(guān)的專(zhuān)門(mén)委員會(huì )審議、提出報告,再決定列入常務(wù)委員會(huì )會(huì )議議程,后續一般需經(jīng)歷三次審議后再交付表決。
今年以來(lái),不少?lài)褹I立法提速,彭曉燕認為這是競爭和技術(shù)發(fā)展一同催熱的結果。
“數據要素越來(lái)越成為國家戰略要素,各國也希望通過(guò)立法確立管轄權,搶占人工智能話(huà)語(yǔ)權。同時(shí),ChatGPT等人工智能技術(shù)的迭代更新,讓社會(huì )看見(jiàn)了強人工智能發(fā)展的新希望。新技術(shù)的發(fā)展勢必會(huì )帶來(lái)新的社會(huì )問(wèn)題與社會(huì )矛盾,需要規范介入調整,技術(shù)的發(fā)展某種程度上推動(dòng)了立法的更新?!迸頃匝嗾f(shuō)。
分歧遠多于趨同
中國、美國、歐盟是全球AI發(fā)展的主要驅動(dòng)力,但三者在A(yíng)I立法方面也存在一些不同。
歐盟《人工智能法案》從用途、功能等角度將人工智能應用風(fēng)險分為4個(gè)層級,無(wú)論草案經(jīng)過(guò)幾輪修改,“風(fēng)險分級”仍然是歐盟治理AI的核心理念。
金字塔頂端對應對人類(lèi)安全造成“不可接受”的風(fēng)險。例如,根據人們的社會(huì )行為或個(gè)人特征對其進(jìn)行分類(lèi)的打分系統等,這些將被完全禁止使用。
在最新草案中,歐洲議會(huì )擴大了“不可接受的風(fēng)險”清單,防止人工智能系統出現侵入性和歧視性。全面禁止公共空間生物識別、情感識別、預測性警務(wù)(基于側寫(xiě)、地點(diǎn)或過(guò)去的犯罪行為),以及從網(wǎng)絡(luò )隨意抓取面部圖像等六類(lèi)人工智能系統。
第二類(lèi)是對人類(lèi)安全或基本權利產(chǎn)生負面影響的人工智能系統,會(huì )被視為“高風(fēng)險”。例如,航空、汽車(chē)、醫療設備等產(chǎn)品中使用的AI系統,以及必須在歐盟數據庫中注冊的八個(gè)特定領(lǐng)域,涵蓋關(guān)鍵基礎設施、教育、培訓、執法等。在符合人工智能規定和事先合格評定的情況下,各種“高風(fēng)險”人工智能系統將獲得授權,遵守一系列要求和義務(wù)才能進(jìn)入歐盟市場(chǎng)。
另外,影響選民和選舉結果的人工智能系統,以及根據歐盟《數字服務(wù)法》,擁有超過(guò)4500萬(wàn)用戶(hù)的社交媒體平臺所使用的推薦系統也將被列入高風(fēng)險名單,例如Facebook、Twitter和Instagram。
處在金字塔底部的是有限風(fēng)險、風(fēng)險很小或沒(méi)有風(fēng)險的人工智能系統。前者具有特定透明度義務(wù),需要告知用戶(hù)正在與AI系統互動(dòng),后者無(wú)強制性規定,基本上不受監管,如垃圾郵件過(guò)濾器等應用。
因有著(zhù)嚴格的監管條款,《人工智能法案》被很多業(yè)內人士視為長(cháng)了許多尖銳的“牙齒”。不過(guò),該法案也試圖在強監管和創(chuàng )新之間尋求平衡。
例如,最新草案要求成員國至少建立一個(gè)可供中小企業(yè)和初創(chuàng )企業(yè)免費使用的“監管沙盒”,在一個(gè)受監督和安全可控的場(chǎng)景中,對創(chuàng )新性人工智能系統在投入使用前進(jìn)行測試,直到滿(mǎn)足合規要求。歐盟普遍認為,該提議不僅可以讓當局實(shí)時(shí)關(guān)注技術(shù)變化,也幫助AI企業(yè)減輕監管壓力的同時(shí)能繼續創(chuàng )新。
金玲在前述文章中稱(chēng),歐盟的上游治理方法一方面要求企業(yè)承擔更多的前置成本,另一方面也因為風(fēng)險評估不確定性影響企業(yè)投資熱情。因此,盡管委員會(huì )一再強調人工智能立法將支持歐洲數字經(jīng)濟的創(chuàng )新和增長(cháng),但現實(shí)的經(jīng)濟分析似乎并不認同這個(gè)結論。法案反映了歐盟在促進(jìn)創(chuàng )新和權利保護之間難以有效平衡的內在沖突。
美國同歐盟、中國一樣,都支持主要基于風(fēng)險的人工智能監管方法,倡導準確、安全、透明度。不過(guò),在趙精武看來(lái),美國監管思路更注重利用AI,推動(dòng)AI行業(yè)的創(chuàng )新和發(fā)展,最終是為了保持美國的領(lǐng)導地位和競爭力。
“不同于中國和歐盟秉持的‘風(fēng)險預防和技術(shù)安全’監管理念,美國則側重商業(yè)發(fā)展優(yōu)先。中國和歐盟均側重人工智能技術(shù)應用安全保障,避免人工智能技術(shù)濫用侵害個(gè)體權利,美國則是以產(chǎn)業(yè)發(fā)展作為監管重心?!壁w精武說(shuō)。
有研究發(fā)現,美國國會(huì )立法主要集中在鼓勵和指導政府使用人工智能。例如,美國參議院曾于2021年推出一項人工智能創(chuàng )新法案,要求美國國防部實(shí)施一項試點(diǎn)計劃,以確保其能夠獲得最佳的人工智能和機器學(xué)習軟件能力。
查克·舒默在前述演講中就將創(chuàng )新視為北極星,其AI框架就是要釋放人工智能的巨大潛力,支持美國主導的人工智能技術(shù)創(chuàng )新?!度斯ぶ悄軕帽O管指南》在開(kāi)篇就明確應繼續促進(jìn)技術(shù)和創(chuàng )新的進(jìn)步?!?020年國家人工智能倡議法案》最終目標也是要通過(guò)增加研究投入、建立勞動(dòng)力系統等手段確保美國在全球AI技術(shù)領(lǐng)域保持領(lǐng)先地位。
彭曉燕表示,從指導性的規范設計角度來(lái)看,美國立法及制度層面上對人工智能發(fā)展尚且處在弱監管的態(tài)勢,社會(huì )層面以開(kāi)放的態(tài)度積極鼓勵人工智能技術(shù)的創(chuàng )新與拓展。
與歐盟具有更加明確的調查權和全面的監管覆蓋范圍相比,美國采取了一種分散化的人工智能監管方式,部分州和機構以較小程度推進(jìn)AI治理。這樣導致的結果是,全國性的AI監管倡議都非常地寬泛和原則化。
例如,《藍圖》作為美國人工智能治理政策里程碑事件,制定了安全有效的系統、防止算法歧視、保護數據隱私、通知及說(shuō)明、人類(lèi)參與決策制定等五項基本原則,并無(wú)更加細致條款。
彭曉燕認為,《藍圖》未制定具體的實(shí)施措施,而是以原則性規定的方式搭建人工智能發(fā)展基本框架,旨在指導人工智能系統設計、使用及部署。
“像這類(lèi)規范,不具有強制性,這是美國出于對人工智能產(chǎn)業(yè)扶持發(fā)展的考慮。目前,人工智能尚處于新興發(fā)展階段,高強度監管勢必會(huì )一定程度上限制產(chǎn)業(yè)發(fā)展與創(chuàng )新,因而美國在立法上保持相對謙抑態(tài)度?!迸頃匝嗾f(shuō)。
“如果沒(méi)有法律賦予各機構新的權力,它們就只能根據已有權力規范人工智能的使用。另一方面,對人工智能相關(guān)的道德原則保持較少規定,各機構可以自行決定如何監管,保留哪些使用權利?!笨▋然治鰩煿吕锒鳌て崭?#xff08;Hadrien Pouget)認為,這使得以白宮為首的聯(lián)邦機構既受限制又自由。
以利用和創(chuàng )新為主導的AI治理理念,注定美國的“拳頭”不會(huì )太硬。美國著(zhù)名智庫布魯金斯學(xué)會(huì )研究員亞歷克斯·恩格勒(Alex Engler)指出,對于教育、金融、就業(yè)等具有社會(huì )影響力的人工智能,歐盟和美國正采取不同的監管方法。
在對具體AI應用上,歐盟《人工智能法案》對聊天機器人有透明度要求,而在美國還沒(méi)有聯(lián)邦層面的規定。面部識別被歐盟視為“不可接受的風(fēng)險”,美國則是通過(guò)美國國家標準與技術(shù)研究院(NIST)人臉識別供應商測試計劃提供公共信息,但不強制制定規則。
“歐盟的監管范圍不僅涵蓋了更廣泛的應用,而且為這些人工智能應用制定了更多規則。而美國的做法更狹隘地局限于調整當前的機構監管機構來(lái)嘗試治理人工智能,人工智能的范圍也有限得多?!眮啔v克斯·恩格勒說(shuō),盡管存在寬泛的相同原則,但在A(yíng)I風(fēng)險管理中,分歧遠多于趨同。
趙精武總結中國、歐盟、美國的AI監管模式,發(fā)現中國以人工智能技術(shù)應用場(chǎng)景為限,專(zhuān)門(mén)針對人臉識別技術(shù)、深度合成、自動(dòng)化推薦等應用場(chǎng)景制定專(zhuān)門(mén)監管規則。歐盟是以風(fēng)險水平為導向,根據人工智能應用的風(fēng)險水平是否屬于可接受水平。美國則是在既有的傳統法律制度框架判斷人工智能技術(shù)應用的合法性。
此外,美國也將更多注意力集中在人工智能研究上面,為其投入更多資金。就在5月初,美國白宮宣布投資約1.4億美元,建立七個(gè)新的國家級人工智能研究所。有研究者認為,美國此舉是希望能更加了解AI,從而減輕監管過(guò)程中產(chǎn)生的擔憂(yōu)。
彭曉燕則表示,我國采取鼓勵人工智能技術(shù)發(fā)展同時(shí)有限規范相關(guān)領(lǐng)域管理的措施,以調和的政策與管理要求引導人工智能技術(shù)發(fā)展。
我國立法面臨諸多現實(shí)難題
歐盟正加速落地全球首部AI監管法案,趙精武告訴《中國新聞周刊》,歐盟的“風(fēng)險等級制”人工智能監管措施,《人工智能法案》提出的“通用模型”監管概念,以及專(zhuān)門(mén)針對ChatGPT這類(lèi)生成式人工智能應用的披露義務(wù)、數據版權合規義務(wù),都對我國人工智能立法有參考價(jià)值。
事實(shí)上,我國對于人工智能的立法早已起步,2017年國務(wù)院發(fā)布的《新一代人工智能發(fā)展規劃》提出,到2025年,初步建立人工智能法律法規、倫理規范和政策體系,形成人工智能安全評估和管控能力。
地方上,2022年,深圳市出臺《深圳經(jīng)濟特區人工智能產(chǎn)業(yè)促進(jìn)條例》,被看作我國首部人工智能產(chǎn)業(yè)專(zhuān)項立法?!稐l例》提到,完善人工智能領(lǐng)域監管機制,防范人工智能產(chǎn)品和服務(wù)可能出現的倫理安全風(fēng)險和合規風(fēng)險。
當前,我國人工智能規制主要由幾大部委共同推進(jìn),分別從不同領(lǐng)域推動(dòng)人工智能領(lǐng)域的規范和發(fā)展?!痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規定》《生成式人工智能服務(wù)管理辦法(征求意見(jiàn)稿)》等規范性文件也相繼出臺。
“綜合歷來(lái)管理規范來(lái)看,我國關(guān)于人工智能領(lǐng)域的規定采用區分業(yè)務(wù)領(lǐng)域、區分技術(shù)方向的措施,管理規范趨于分散化。在規范出臺上,往往具有應時(shí)性特征,在特定技術(shù)出現后作出專(zhuān)門(mén)性管理規定。規范由行政部門(mén)主導頒布,側重監管,在規范層級上未上升為法律?!迸頃匝嗾f(shuō)。
值得注意的是,6月20日,首批境內深度合成服務(wù)算法備案清單出爐,百度、阿里巴巴、騰訊、字節跳動(dòng)、美團等26家公司、共計41個(gè)算法榜上有名。
隨著(zhù)AI立法熱度升溫,國內開(kāi)始有專(zhuān)家呼吁盡快開(kāi)展人工智能法律規制。不過(guò),在趙精武看來(lái),我國人工智能專(zhuān)門(mén)立法具有一定的可行性,但是也面臨著(zhù)諸多現實(shí)難題。
“一是立法文件之間的體系銜接問(wèn)題,人工智能專(zhuān)門(mén)立法與其他規范性文件之間的適用關(guān)系尚未解決,尤其是專(zhuān)門(mén)立法與現行立法在內容層面的重疊問(wèn)題亟待解決。二是人工智能技術(shù)更新迭代速度加快,保障法律與技術(shù)的同步發(fā)展存在一定的難度;三是人工智能監管規則缺乏整體性,數據、算法和算力三大核心要素的監管規則仍處于探索階段;四是人工智能立法的重心究竟是以安全風(fēng)險治理為主,還是以產(chǎn)業(yè)發(fā)展保障為主爭議較大?!壁w精武說(shuō)。
無(wú)論是歐盟的《人工智能法案》,還是中國、美國等國家針對AI的規定、倡議、規劃,都在試圖構建一個(gè)完善的監管框架:既能確保安全,又能為AI創(chuàng )造更好條件。
基于這種普適性原則,彭曉燕告訴《中國新聞周刊》,我國建立的人工智能法律,首先應當建立在積極鼓勵發(fā)展創(chuàng )新的基礎上,使得人工智能在相對開(kāi)放的空間領(lǐng)域進(jìn)行規范發(fā)展,劃定發(fā)展紅線(xiàn)。
“此外,還需要解決現下大家集中關(guān)心的人工智能領(lǐng)域法律問(wèn)題,包括但不限于人工智能違法違規內容的禁止、人工智能數據安全保護、人工智能倫理安全的保障、知識產(chǎn)權侵權的防范等等?!迸頃匝嗾f(shuō)。
趙精武認為,我國應當建立以產(chǎn)業(yè)發(fā)展保障為導向的人工智能法律。
“現行立法在一定程度已經(jīng)可以基本滿(mǎn)足人工智能技術(shù)應用監管的需求。預防技術(shù)風(fēng)險,保障技術(shù)安全只是治理過(guò)程,其最終目的仍然還是需要回歸到人工智能產(chǎn)業(yè)發(fā)展層面。畢竟人工智能法律不是限制產(chǎn)業(yè)發(fā)展,而是引導和保障相關(guān)產(chǎn)業(yè)的良性發(fā)展?!壁w精武說(shuō)。
相關(guān)稿件