新火種
2023-11-10 
首頁 >
AI資訊 >
行業(yè)應(yīng)用 >
AI安全成烏鎮(zhèn)峰會(huì)關(guān)注焦點(diǎn)圖靈獎(jiǎng)得主認(rèn)為應(yīng)采取預(yù)防原則
AI安全成烏鎮(zhèn)峰會(huì)關(guān)注焦點(diǎn)圖靈獎(jiǎng)得主認(rèn)為應(yīng)采取預(yù)防原則
【AI安全成烏鎮(zhèn)峰會(huì)關(guān)注焦點(diǎn) 圖靈獎(jiǎng)得主認(rèn)為應(yīng)采取預(yù)防原則】11月9日，2023年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)前沿?cái)?shù)字技術(shù)創(chuàng)新與安全論壇在浙江烏鎮(zhèn)舉行。論壇以“技術(shù)引領(lǐng)變革數(shù)字開創(chuàng)未來”為主題，依托前沿?cái)?shù)字技術(shù)發(fā)展浪潮，共議數(shù)字技術(shù)創(chuàng)新與安全。多位學(xué)者以及產(chǎn)業(yè)界人士都對AI產(chǎn)業(yè)發(fā)表了看法，AI的安全性更是大家關(guān)注的焦點(diǎn)。
11月9日，2023年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)前沿?cái)?shù)字技術(shù)創(chuàng)新與安全論壇在浙江烏鎮(zhèn)舉行。論壇以“技術(shù)引領(lǐng)變革數(shù)字開創(chuàng)未來”為主題，依托前沿?cái)?shù)字技術(shù)發(fā)展浪潮，共議數(shù)字技術(shù)創(chuàng)新與安全。多位學(xué)者以及產(chǎn)業(yè)界人士都對AI產(chǎn)業(yè)發(fā)表了看法，AI的安全性更是大家關(guān)注的焦點(diǎn)。
聯(lián)合國教科文組織東亞地區(qū)辦公室代表夏澤翰表示，安全與發(fā)展猶如鳥之兩翼，缺一不可，確保網(wǎng)絡(luò)安全是一項(xiàng)共同責(zé)任，需要共同努力完善全球互聯(lián)網(wǎng)治理，構(gòu)建一個(gè)和平、安全、開放、合作的網(wǎng)絡(luò)空間，“作為聯(lián)合國教科文組織的重要成員國，中國在數(shù)字技術(shù)創(chuàng)新和安全方面的努力值得稱贊，也與聯(lián)合國教科文組織的使命不謀而合。作為未來關(guān)鍵技術(shù)的領(lǐng)跑者，中國在人工智能領(lǐng)域取得了重大進(jìn)展，人工智能市場蓬勃發(fā)展，這反映了中國與聯(lián)合國教科文組織對技術(shù)進(jìn)步和安全方面的共同愿望。”
圖靈獎(jiǎng)得主、法國科學(xué)院院士Joseph Sifakis在會(huì)上表示，人工智能在未來的重要應(yīng)用將是監(jiān)控器和端到端的人工智能控制器，“這些監(jiān)視器將分析、感知互聯(lián)網(wǎng)上的信息，并做出預(yù)測，諸如不良情況、流量波動(dòng)或事件檢測。”
對于人工智能安全，Joseph Sifakis認(rèn)為，在缺乏足夠安全保障的情況下，應(yīng)該采取預(yù)防原則，還應(yīng)該考慮在人工智能系統(tǒng)中如何通過限制訓(xùn)練數(shù)據(jù)集實(shí)現(xiàn)更好的可預(yù)測性和可控性。Joseph Sifakis提出應(yīng)該推出新的基礎(chǔ)理論，探索可解釋人工智能的新途徑，并開發(fā)針對人工智能監(jiān)控器和端到端控制器的測試技術(shù)。
德國國家工程院院士張建偉指出，最新的大語言模型帶來了新的賦能機(jī)會(huì)，但是未來的具身大模型還有很多挑戰(zhàn)，比如“多模態(tài)的巨模型擺脫高計(jì)算成本，讓他們可解釋，在重要的應(yīng)用中具有高質(zhì)量、穩(wěn)定可信以及安全”。
張建偉認(rèn)為，未來的信息物理系統(tǒng)安全至關(guān)重要。它們具有多個(gè)挑戰(zhàn)，比如多場景、多模態(tài)程序輸入、安全性等等，“現(xiàn)在我們可以做出一些新的辦法，比如漏洞的挖掘和攻擊環(huán)節(jié)，數(shù)據(jù)應(yīng)用分析，網(wǎng)絡(luò)空間感知、防御以及震懾等等。實(shí)現(xiàn)安全通用的具身智能，需要產(chǎn)學(xué)研各界在全球范圍的國際合作。”
參會(huì)的企業(yè)界人士，也從實(shí)踐角度提出了在AI安全上的思考。阿里云智能集團(tuán)首席風(fēng)險(xiǎn)官兼首席財(cái)務(wù)官鄭俊芳透露，阿里云“通義千問”大模型已經(jīng)向全社會(huì)開放，并且啟動(dòng)了“千問伙伴”計(jì)劃，與行業(yè)伙伴共同創(chuàng)新生態(tài)。未來阿里云還將打造更多的企業(yè)專屬模型，推動(dòng)千行百業(yè)更快更好地分享智能化紅利。
據(jù)了解，在今年7月，中國國家網(wǎng)信辦等七部委聯(lián)合發(fā)布了全球首部《生成式人工智能服務(wù)管理暫行辦法》，中國人工智能健康發(fā)展具備了確定性的法律環(huán)境和依據(jù)。阿里巴巴也發(fā)布了《科技倫理風(fēng)險(xiǎn)審查管理制度》，提出“負(fù)責(zé)任的人工智能技術(shù)”三原則，分別是：可用、可靠、可信。
（文章來源：南方都市報(bào)）
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個(gè)人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn)，讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前，請務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
