九九热视频精品在线_国产成人mv视频在线观看_国产精品三级一区二区_亚洲精品国产av成拍色拍婷婷_久久伊人一区二区_国产高清精品网站_九九99热久久精品离线6_国产在线一卡2卡三卡4卡免费_日韩美女乱淫aaa高清视频_亚洲大胆_啪啪一级视频_午夜av免费观看_国产高清精品福利私拍国产写真_亚洲婷婷五月综合狠狠_日韩欧美一区二区三区视频_岛国av免费看_精品国产乱码久久久久久久软件_亚洲国产成人精品无码区99_www日本色_免费黄色看片

人工智能技術(shù)在過(guò)去一年里突飛猛進(jìn)，與期冀共行的是擔(dān)憂——從國(guó)內(nèi)發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》（下稱(chēng)《征求意見(jiàn)稿》），到歐盟爭(zhēng)分奪秒地商議《人工智能法案》、美國(guó)推出《關(guān)于安全、可靠和可信地開(kāi)發(fā)和使用人工智能的行政命令》，各國(guó)法規(guī)政策密集出臺(tái)。技術(shù)和監(jiān)管的演進(jìn)，是人工智能發(fā)展的兩條主旋律。

在這之中，安全風(fēng)險(xiǎn)是人工智能監(jiān)管的源頭之一。不同的風(fēng)險(xiǎn)類(lèi)別，不同主體和應(yīng)用場(chǎng)景，往往意味著不同強(qiáng)度的監(jiān)管、不同梯次的義務(wù)。如何確定安全風(fēng)險(xiǎn)的邊界？如何為不同安全風(fēng)險(xiǎn)分類(lèi)？怎樣保持風(fēng)控框架的彈性？

帶著這些問(wèn)題，由中國(guó)社會(huì)科學(xué)院法學(xué)研究所主辦，南財(cái)合規(guī)科技研究院承辦的“人工智能安全風(fēng)險(xiǎn)和法律規(guī)制研討會(huì)”在北京召開(kāi)。會(huì)議上，各界專(zhuān)家代表認(rèn)同人工智能的安全風(fēng)險(xiǎn)分級(jí)是數(shù)字治理的延續(xù)，應(yīng)當(dāng)注意多種規(guī)范的沖突和銜接問(wèn)題。呼吁協(xié)同共治，讓公眾、學(xué)界、業(yè)界、政策制定者能在一個(gè)頻道上對(duì)話。

在討論如何控制安全風(fēng)險(xiǎn)之前，首先要定義何為安全風(fēng)險(xiǎn)。

對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)法學(xué)院副教授張欣老師分析，和傳統(tǒng)的網(wǎng)絡(luò)安全相比，人工智能的安全風(fēng)險(xiǎn)有三個(gè)特征：第一，多主體。從人工智能的產(chǎn)業(yè)鏈來(lái)看，不止上游的科技企業(yè)有技術(shù)控制力，中下游用戶(hù)的每一個(gè)舉動(dòng)，也會(huì)影響人工智能的安全結(jié)果，并反過(guò)來(lái)受其影響；第二，多類(lèi)型。除了傳統(tǒng)的技術(shù)風(fēng)險(xiǎn)，人工智能安全還疊加了許多新型問(wèn)題，這主要體現(xiàn)在風(fēng)險(xiǎn)分布在各個(gè)周期上。因此前置監(jiān)管介入點(diǎn)，是一種常見(jiàn)做法。

最后，動(dòng)態(tài)性。生成式人工智能展現(xiàn)了非常強(qiáng)的技術(shù)涌現(xiàn)性，能力和風(fēng)險(xiǎn)同時(shí)涌現(xiàn)。在開(kāi)發(fā)者沒(méi)有將技術(shù)實(shí)際部署到特定場(chǎng)景下之前，很難預(yù)測(cè)實(shí)際風(fēng)險(xiǎn)是什么，因此安全風(fēng)險(xiǎn)會(huì)是不斷涌現(xiàn)、動(dòng)態(tài)出現(xiàn)的過(guò)程。

在實(shí)踐中，我國(guó)是怎么定義人工智能安全的？《征求意見(jiàn)稿》提出了人工智能服務(wù)安全的國(guó)家標(biāo)準(zhǔn)：語(yǔ)料安全、模型安全、安全措施。而評(píng)估標(biāo)準(zhǔn)，主要圍繞語(yǔ)料來(lái)源安全、生成內(nèi)容安全、問(wèn)題拒答展開(kāi)。廣東財(cái)經(jīng)大學(xué)法學(xué)院教授姚志偉認(rèn)為，目前規(guī)制的核心重點(diǎn)是生成內(nèi)容安全，有關(guān)部門(mén)對(duì)內(nèi)容安全提出了非常系統(tǒng)、細(xì)致的內(nèi)容，并且已經(jīng)落實(shí)了備案實(shí)踐。

整體來(lái)看，可以從微觀、中觀、宏觀層面理解我國(guó)語(yǔ)境下的人工智能安全。張欣表示，不同于將安全狹義地理解為強(qiáng)調(diào)技術(shù)對(duì)社會(huì)秩序、國(guó)家政權(quán)穩(wěn)定的影響，我國(guó)的人工智能安全首先強(qiáng)調(diào)技術(shù)本身安全可靠，同時(shí)關(guān)注在應(yīng)用場(chǎng)景中的風(fēng)險(xiǎn)安全可控，此外還注意了整個(gè)生態(tài)的安全可信。

張欣也指出，對(duì)于人工智能安全，還應(yīng)意識(shí)到大眾應(yīng)具有一定的風(fēng)險(xiǎn)接受度。換句話說(shuō)，人工智能技術(shù)現(xiàn)階段尚難以達(dá)到百分之百的安全，所以安全治理需要探索設(shè)立一個(gè)合理的風(fēng)險(xiǎn)閾值，平衡安全和發(fā)展。

考慮到人工智能安全風(fēng)險(xiǎn)的特征，識(shí)別風(fēng)險(xiǎn)類(lèi)型、比較后果、確定監(jiān)管的優(yōu)先次序，是必要也是已經(jīng)普遍采取的做法。

盡管風(fēng)險(xiǎn)分級(jí)分類(lèi)的線索貫穿各國(guó)人工智能規(guī)范，但邏輯不盡相同。同濟(jì)大學(xué)法學(xué)院朱悅將其分為三類(lèi)：按模型能力的分級(jí)、按結(jié)構(gòu)邏輯的分級(jí)、按應(yīng)用邏輯的分級(jí)。

對(duì)于按能力的分級(jí)，可以概括為，如果模型能力強(qiáng)到一定程度、通用到一定程度，則歸為特殊一類(lèi)，需要單獨(dú)承擔(dān)責(zé)任或義務(wù)。根據(jù)歐盟人工智能法案和白宮人工智能行政命令，衡量標(biāo)準(zhǔn)可能有模型參數(shù)量、浮點(diǎn)運(yùn)算（FLOPS)、訓(xùn)練數(shù)據(jù)集的規(guī)模、下游任務(wù)的泛化程度。朱悅坦言，數(shù)據(jù)量的閾值往往是一個(gè)取舍點(diǎn)，通常會(huì)和政策制定國(guó)的大模型發(fā)展?fàn)顩r匹配。

按結(jié)構(gòu)的分級(jí)，則將人工智能看成一個(gè)由不同組件搭建的系統(tǒng)。劃分類(lèi)別可以是供應(yīng)鏈內(nèi)部的不同主體，也可以是不同工序和組件，比如數(shù)據(jù)、表征、模型、部署。朱悅認(rèn)為，隨著數(shù)字法律體系的完善，個(gè)人信息保護(hù)、數(shù)據(jù)安全等各部數(shù)字法律會(huì)自然適用于人工智能的各個(gè)模塊，也可以視為數(shù)據(jù)治理的延續(xù)。

最后是目前普遍采用的按應(yīng)用分級(jí)，也就是在不同主體、不同場(chǎng)景、不同用途下談?wù)擄L(fēng)險(xiǎn)分級(jí)。“對(duì)于特定類(lèi)型的場(chǎng)景，比如法律、金融、醫(yī)療、汽車(chē)自動(dòng)駕駛等等，本身積累了大量的行業(yè)規(guī)范，風(fēng)險(xiǎn)預(yù)期程度和敏感度自然不同。”朱悅表示。在他看來(lái)，安全風(fēng)險(xiǎn)分級(jí)應(yīng)以應(yīng)用分級(jí)為主導(dǎo)邏輯，同時(shí)注意多部法律之間的沖突和銜接問(wèn)題。

往前追溯，分類(lèi)分級(jí)的方法在網(wǎng)絡(luò)安全領(lǐng)域存在已久。360集團(tuán)法務(wù)中心高級(jí)總監(jiān)孫艷玲指出，我國(guó)早有工業(yè)數(shù)據(jù)分類(lèi)分級(jí)的指南，國(guó)家標(biāo)委也有信息安全技術(shù)網(wǎng)絡(luò)數(shù)據(jù)分類(lèi)分級(jí)要求。她由此補(bǔ)充了兩點(diǎn)觀察：“建議關(guān)注人工智能內(nèi)生風(fēng)險(xiǎn)、衍生風(fēng)險(xiǎn)。內(nèi)生風(fēng)險(xiǎn)就是所謂的自身失控，衍生風(fēng)險(xiǎn)則是應(yīng)用過(guò)程中的風(fēng)險(xiǎn)，無(wú)外乎體現(xiàn)在算法、數(shù)據(jù)、知識(shí)產(chǎn)權(quán)侵權(quán)、社會(huì)倫理、技術(shù)濫用以及網(wǎng)絡(luò)攻擊這幾個(gè)維度上。”

孫艷玲關(guān)心的另一點(diǎn)是網(wǎng)絡(luò)攻擊風(fēng)險(xiǎn)。孫艷玲認(rèn)為人工智能如果存在漏洞，或者許多大模型是開(kāi)源的，可能被黑客和恐怖分子利用攻擊第三方網(wǎng)絡(luò)，甚至引發(fā)生化武器攻擊、恐怖分子襲擊、全球網(wǎng)絡(luò)安全等災(zāi)難性后果，這一問(wèn)題值得各界保持關(guān)注。

具體到安全風(fēng)險(xiǎn)的落地執(zhí)行，各界有不同的擔(dān)憂。

合規(guī)成本是一個(gè)問(wèn)題。清華大學(xué)公共管理學(xué)院副教授陳天昊以科技倫理監(jiān)管框架為例，他提到，目前監(jiān)管的主體責(zé)任歸于創(chuàng)新主體，即企業(yè)本身，但企業(yè)合規(guī)的內(nèi)生動(dòng)力來(lái)源于哪里？“簡(jiǎn)單來(lái)講企業(yè)并不希望踩剎車(chē)，希望踩油門(mén)。這是因?yàn)槭紫绕髽I(yè)有自己的激勵(lì)函數(shù)，也就是盈利需求；第二，企業(yè)有很大的競(jìng)爭(zhēng)壓力。如果我踩剎車(chē)，別人踩油門(mén)，應(yīng)該怎么辦？在創(chuàng)新能力很強(qiáng)的AI領(lǐng)域，科技企業(yè)內(nèi)部開(kāi)展科技倫理審查，會(huì)是一個(gè)挑戰(zhàn)。” 此外，陳天昊還提到，維持類(lèi)似科技倫理審查委員的機(jī)制的運(yùn)作，需要很高的成本，對(duì)于中小企業(yè)、初創(chuàng)企業(yè)無(wú)疑是個(gè)負(fù)擔(dān)。

多位業(yè)界人士也提到了風(fēng)險(xiǎn)報(bào)告的有效性、規(guī)則的交叉性問(wèn)題。人工智能的風(fēng)險(xiǎn)分級(jí)分類(lèi)是數(shù)字治理的延續(xù)，可能會(huì)出現(xiàn)規(guī)則的交叉或者沖突，比如通用型人工智能，可能同時(shí)出現(xiàn)通用規(guī)則和行業(yè)規(guī)則，適用的邏輯類(lèi)型越多，規(guī)范交叉的可能性越大。一位大廠人AI法務(wù)負(fù)責(zé)人坦言：“眾多報(bào)告的功能怎么互補(bǔ)？它們?nèi)绾握嬲笇?dǎo)和驗(yàn)證在實(shí)際工程中的風(fēng)險(xiǎn)防范情況？我們希望關(guān)注每份報(bào)告實(shí)際的有效性。”

業(yè)界和學(xué)界目前已經(jīng)摸索了一些落地路徑。比如，上述人士指出，企業(yè)在嘗試產(chǎn)品技術(shù)的工程化治理，也就是通過(guò)有效的技術(shù)手段識(shí)別人工智能風(fēng)險(xiǎn)，用技術(shù)解決技術(shù)本身的問(wèn)題。多位業(yè)界代表也建議，應(yīng)該設(shè)計(jì)更精細(xì)化的分級(jí)分類(lèi)方法，并避免部門(mén)規(guī)范碎片化的情況。

值得注意的是，多位學(xué)界代表強(qiáng)調(diào)學(xué)術(shù)研究和政策文件之間的語(yǔ)言轉(zhuǎn)化：可以是將學(xué)術(shù)文章轉(zhuǎn)化成官方語(yǔ)言，也可以是開(kāi)發(fā)給政策制定者的課程，使政策制定者、學(xué)界、業(yè)界能同頻溝通。由此，陳天昊呼吁協(xié)同共治，專(zhuān)家、公眾參與審查、風(fēng)控的過(guò)程，在社會(huì)層面討論可欲的未來(lái)是怎樣的，共同尋找審查標(biāo)準(zhǔn)的共識(shí)。

來(lái)源：21世紀(jì)經(jīng)濟(jì)報(bào)道 作者：肖瀟