新火種
2024-01-02 
中國(guó)信通院：人工智能風(fēng)險(xiǎn)劃分為5個(gè)等級(jí)
新京報(bào)貝殼財(cái)經(jīng)訊（見習(xí)記者韋英姿）
12月24日，在2024中國(guó)信通院ICT深度觀察報(bào)告會(huì)人工智能伙伴分論壇上，中國(guó)信息通信研究院（簡(jiǎn)稱中國(guó)信通院）發(fā)布2023年人工智能風(fēng)險(xiǎn)管理體系。該體系將人工智能帶來的風(fēng)險(xiǎn)分為兩類，即自身技術(shù)系統(tǒng)造成的風(fēng)險(xiǎn)和應(yīng)用產(chǎn)生的風(fēng)險(xiǎn)，并參考我國(guó)現(xiàn)行網(wǎng)絡(luò)安全等級(jí)保護(hù)要求將人工智能風(fēng)險(xiǎn)劃分為5個(gè)等級(jí)。
據(jù)中國(guó)信通院人工智能研究中心安全與元宇宙部主任石霖介紹，最低層風(fēng)險(xiǎn)是指不構(gòu)成有意義的災(zāi)難性風(fēng)險(xiǎn)，不會(huì)對(duì)個(gè)人、企業(yè)、組織造成權(quán)益?zhèn)Γ袄鏏lphaGo專門用于下棋領(lǐng)域，可能不會(huì)對(duì)現(xiàn)實(shí)社會(huì)造成風(fēng)險(xiǎn)”。他表示，最高的第5級(jí)風(fēng)險(xiǎn)是指對(duì)人類社會(huì)有一定顛覆性影響，“比如不受人控制的強(qiáng)人工智能，由于具有極強(qiáng)自主性，可能會(huì)屬于極高風(fēng)險(xiǎn)類別”。
該體系還將人工智能風(fēng)險(xiǎn)管理分為三方：技術(shù)提供方、技術(shù)應(yīng)用提供方和真正應(yīng)用方。據(jù)石霖介紹，技術(shù)提供方是指提供數(shù)據(jù)算力和原始模型的技術(shù)研發(fā)企業(yè)和團(tuán)隊(duì)；技術(shù)應(yīng)用提供方是指集成原始模型算法、算力，直接向用戶提供服務(wù)的一方；真正應(yīng)用方主要是指?jìng)€(gè)人和組織。“針對(duì)技術(shù)提供方和應(yīng)用方，我們基于智能化程度和所在場(chǎng)景來確定相應(yīng)的風(fēng)險(xiǎn)等級(jí)，再根據(jù)風(fēng)險(xiǎn)等級(jí)把相應(yīng)的風(fēng)險(xiǎn)管理和治理理念，貫徹到研發(fā)或應(yīng)用中。”石霖說。
編輯 陳莉校對(duì) 盧茜
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個(gè)人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對(duì)本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn)，讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前，請(qǐng)務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對(duì)因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
