新火種
2024-01-02 
歐盟《人工智能法案》實(shí)行風(fēng)險(xiǎn)分級(jí)監(jiān)管
在進(jìn)行了為期三天的激烈談判后，歐洲議會(huì)、歐洲理事會(huì)和歐盟委員會(huì)三方于12月8日晚就《人工智能法案》達(dá)成協(xié)議，法案規(guī)定了對(duì)人工智能領(lǐng)域的全面監(jiān)管。據(jù)路透社報(bào)道，這項(xiàng)法案最早將于明年初生效并于2026年實(shí)施。國(guó)際社會(huì)觀(guān)察認(rèn)為，《人工智能法案》具有全面性和綜合性。未來(lái)，法案將對(duì)人工智能的研發(fā)、產(chǎn)品和服務(wù)的設(shè)計(jì)與運(yùn)行帶來(lái)巨大影響。基于風(fēng)險(xiǎn)制定監(jiān)管制度繼2022年歐盟推出旨在加強(qiáng)在線(xiàn)服務(wù)競(jìng)爭(zhēng)的《數(shù)字市場(chǎng)法》以及刪除非法有害在線(xiàn)內(nèi)容、保護(hù)用戶(hù)數(shù)據(jù)的《數(shù)字服務(wù)法》后，歐盟就《人工智能法案》達(dá)成協(xié)議。
《人工智能法案》主要內(nèi)容包括規(guī)定了高影響通用人工智能模型和高風(fēng)險(xiǎn)人工智能系統(tǒng)的規(guī)則，在歐盟層面進(jìn)行了治理體系的修訂，擴(kuò)展了禁止清單，允許法律執(zhí)法機(jī)關(guān)在公共場(chǎng)所有限制地使用遠(yuǎn)程生物識(shí)別技術(shù)。此外，法案涉及諸多概念的定義和范圍、基本權(quán)利影響評(píng)估、高風(fēng)險(xiǎn)人工智能系統(tǒng)的分類(lèi)、法律執(zhí)法的例外情況、新的治理架構(gòu)、罰款、透明度以及支持創(chuàng)新的措施。法案的一個(gè)突出特點(diǎn)是注重基于風(fēng)險(xiǎn)來(lái)制定監(jiān)管制度，以平衡人工智能的創(chuàng)新發(fā)展與安全規(guī)范。
浙江大學(xué)光華法學(xué)院教授、浙江立法研究院院長(zhǎng)鄭春燕在接受《法治日?qǐng)?bào)》記者采訪(fǎng)時(shí)稱(chēng)，歐盟的《人工智能法案》確立了“基于風(fēng)險(xiǎn)”的人工智能治理框架，將人工智能系統(tǒng)評(píng)估后劃分為最小風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)和不可接受風(fēng)險(xiǎn)四個(gè)等級(jí)，并對(duì)各個(gè)等級(jí)采取差異化的監(jiān)管方式。“這種‘基于風(fēng)險(xiǎn)’的治理框架與傳統(tǒng)法律中‘基于權(quán)利’的治理框架相區(qū)別，更符合人工智能時(shí)代的風(fēng)險(xiǎn)特點(diǎn)和監(jiān)管要求。”鄭春燕解釋道，一方面，這種立法模式大多具有原則性的特點(diǎn)，原則性規(guī)定而非具體規(guī)則占據(jù)法律的主要內(nèi)容，且大量關(guān)鍵性規(guī)范都比較寬泛。這既為人工智能技術(shù)的創(chuàng)新性發(fā)展預(yù)留了法律空間，又使得立法以一種包容性的姿態(tài)面向快速變遷的社會(huì)現(xiàn)實(shí)，避免法律的滯后性。
另一方面，這種立法模式將法律所確立的寬泛規(guī)范理解為程序而非確定的規(guī)則，相關(guān)企業(yè)和個(gè)人通過(guò)“盡力合規(guī)”的方式執(zhí)行法律規(guī)定，而監(jiān)管機(jī)構(gòu)則將相關(guān)法律義務(wù)的履行理解為持續(xù)的風(fēng)險(xiǎn)評(píng)價(jià)過(guò)程。這樣的好處在于可以采取一種相對(duì)靈活和合比例的方式執(zhí)行立法所確立的原則，從而最大程度避免風(fēng)險(xiǎn)的產(chǎn)生和擴(kuò)散。立法進(jìn)程總體進(jìn)展迅速當(dāng)前，人工智能發(fā)展的速度遠(yuǎn)遠(yuǎn)超過(guò)技術(shù)監(jiān)管、法律倫理、政策評(píng)估的腳步，需要一些更有遠(yuǎn)見(jiàn)的框架來(lái)應(yīng)對(duì)未知挑戰(zhàn)。在此背景下，歐盟一直在加快立法總體進(jìn)程。
歐盟委員會(huì)于2021年4月21日提出《人工智能法案》提案的談判授權(quán)草案，將嚴(yán)格禁止“對(duì)人類(lèi)安全造成不可接受風(fēng)險(xiǎn)的人工智能系統(tǒng)”，包括有目的地操縱技術(shù)、利用人性弱點(diǎn)或根據(jù)行為、社會(huì)地位和個(gè)人特征等進(jìn)行評(píng)價(jià)的系統(tǒng)等。草案還要求人工智能公司對(duì)其算法保持人為控制，提供技術(shù)文件，并為“高風(fēng)險(xiǎn)”應(yīng)用建立風(fēng)險(xiǎn)管理系統(tǒng)。每個(gè)歐盟成員國(guó)都將設(shè)立一個(gè)監(jiān)督機(jī)構(gòu)，確保這些規(guī)則得到遵守。2022年12月6日，歐洲理事會(huì)一致通過(guò)《人工智能法案》草案，允許與歐洲議會(huì)進(jìn)行談判。此后，歐洲議會(huì)和歐盟理事會(huì)就草案進(jìn)行了多輪修訂和討論。歐洲議會(huì)議員們爭(zhēng)議的核心是監(jiān)管是否會(huì)阻礙創(chuàng)新，即如何平衡數(shù)據(jù)隱私與避免扼殺人工智能的創(chuàng)新和投資。其中最具爭(zhēng)議的領(lǐng)域是決定哪些人工智能系統(tǒng)將被歸為“高風(fēng)險(xiǎn)”。
2023年2月24日，歐洲議會(huì)議員布蘭多·伯尼菲和德拉戈·圖多拉奇提出了一份妥協(xié)修正案，包含了歐洲議會(huì)議員經(jīng)過(guò)馬拉松式談判后提出的反饋意見(jiàn)。例如，針對(duì)監(jiān)管沙盒（經(jīng)濟(jì)術(shù)語(yǔ)，指一個(gè)受監(jiān)督的安全測(cè)試區(qū)）機(jī)制，反饋中要求建立沙盒機(jī)制的監(jiān)管機(jī)構(gòu)，指導(dǎo)和監(jiān)督高風(fēng)險(xiǎn)人工智能系統(tǒng)的開(kāi)發(fā)人員。3月14日，布蘭多·伯尼菲和德拉戈·圖多拉奇提出了一份關(guān)于通用目的人工智能草案，提議為這類(lèi)人工智能系統(tǒng)的提供商設(shè)定相應(yīng)義務(wù)，并為相關(guān)參與主體設(shè)定責(zé)任。此外，他們提議，ChatGPT等通用目的人工智能系統(tǒng)的整個(gè)生命周期都必須接受外部審計(jì)。
2023年6月14日，歐洲議會(huì)全體會(huì)議表決確認(rèn)其認(rèn)同立場(chǎng)。歐洲議會(huì)投票結(jié)束后，歐洲議會(huì)、歐洲理事會(huì)和歐盟委員會(huì)立即就法案舉行了第一次“三方會(huì)談”。隨后的7月18日、10月2日和24日，分別舉行了第二、三、四次“三方會(huì)談”，直至此次協(xié)議達(dá)成。長(zhǎng)遠(yuǎn)發(fā)展仍需多方努力《人工智能法案》為全球提供了全面、橫向和具有約束力的人工智能法規(guī)，法案的規(guī)定和方法很可能成為其他國(guó)家在制定人工智能法規(guī)時(shí)的參考藍(lán)本。盡管法案將對(duì)人工智能領(lǐng)域的治理帶來(lái)巨大影響，但這一領(lǐng)域的長(zhǎng)遠(yuǎn)發(fā)展仍需多方努力。
歐盟內(nèi)部市場(chǎng)委員蒂埃里·布雷東表示：“《人工智能法案》不僅是一本規(guī)則手冊(cè)，而且將成為歐盟初創(chuàng)企業(yè)和研究人員有效治理全球人工智能的助推器。”目前，已有多個(gè)國(guó)家正在準(zhǔn)備完善監(jiān)管手段。美國(guó)的立法者提出了兩項(xiàng)獨(dú)立的人工智能法案，其中一項(xiàng)要求美國(guó)政府在使用人工智能與人互動(dòng)時(shí)保持透明，另一項(xiàng)法案則提出調(diào)研美國(guó)在最新技術(shù)方面是否仍具備競(jìng)爭(zhēng)力。在企業(yè)層面，谷歌與環(huán)球音樂(lè)嘗試就人工智能“深度偽造”技術(shù)達(dá)成解決協(xié)議。
作為人工智能大國(guó)，中國(guó)在全球人工智能治理上從未缺位。在11月1日英國(guó)布萊奇利園舉行的首屆人工智能安全峰會(huì)上，中國(guó)代表指出，發(fā)展人工智能，應(yīng)當(dāng)積極倡導(dǎo)以人為本，智能向善，加強(qiáng)技術(shù)風(fēng)險(xiǎn)管控，并在相互尊重、平等互利的原則基礎(chǔ)上，鼓勵(lì)各方協(xié)同共治，增強(qiáng)發(fā)展中國(guó)家在人工智能全球治理中的代表性和發(fā)言權(quán)，不斷彌合智能鴻溝和治理能力差距。國(guó)際社會(huì)輿論稱(chēng)，《人工智能法案》的實(shí)施將有助于塑造人工智能的未來(lái)發(fā)展方向，防范潛在的風(fēng)險(xiǎn)，并在全球范圍內(nèi)促進(jìn)對(duì)人工智能的可持續(xù)監(jiān)管。但同時(shí)也應(yīng)注意，強(qiáng)監(jiān)管措施會(huì)對(duì)人工智能領(lǐng)域創(chuàng)新帶來(lái)負(fù)面效應(yīng)。這份法案的長(zhǎng)期效果仍有待觀(guān)察。
（王衛(wèi)）來(lái)源：法治日?qǐng)?bào)
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀(guān)點(diǎn)僅代表作者個(gè)人看法，不代表新火種的觀(guān)點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對(duì)本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn)，讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前，請(qǐng)務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對(duì)因依賴(lài)本文觀(guān)點(diǎn)而產(chǎn)生的任何金錢(qián)損失負(fù)任何責(zé)任。
