新火種
2024-01-04 
新民環(huán)球2023年終盤(pán)點(diǎn)11人工智能：安全隱患暴露，國(guó)際治理亟待加強(qiáng)
2023年毫無(wú)疑問(wèn)是生成式人工智能技術(shù)的爆發(fā)之年，ChatGPT、Gemin等生成式人工智能應(yīng)用層出不窮，令人眼花繚亂。相關(guān)技術(shù)不僅可以高效完成大量簡(jiǎn)單重復(fù)的工作，而且可以部分取代具有一定專業(yè)門(mén)檻的工作，如撰寫(xiě)法律文書(shū)、出具醫(yī)療診斷報(bào)告，甚至進(jìn)行文藝創(chuàng)作等。
圖說(shuō)：2023年7月6日，2023世界人工智能大會(huì)在上海世博中心拉開(kāi)帷幕 圖源：新華社
展望2024年，生成式人工智能技術(shù)的發(fā)展仍將得到各界廣泛關(guān)注。尤其是多模態(tài)生成式人工智能的突破，將通過(guò)文本、圖像、音頻、視頻等多種媒介數(shù)據(jù)的融合，實(shí)現(xiàn)跨模態(tài)的生成和交互。一個(gè)能夠善解人意、讀懂人心的人工智能，或許將在生活和工作的方方面面給人以更加豐富多樣的交互體驗(yàn)。除了生成式人工智能以外，由人工智能驅(qū)動(dòng)的科學(xué)研究即科學(xué)智能，也是未來(lái)人工智能技術(shù)應(yīng)用的“核爆點(diǎn)”之一。早在2020年，谷歌旗下DeepMind公司研發(fā)的AlphaFold 2.0就成功預(yù)測(cè)了蛋白質(zhì)的三維結(jié)構(gòu)，為快速篩選新藥物靶標(biāo)提供了強(qiáng)大的技術(shù)支撐。
目前，人工智能技術(shù)給生物醫(yī)藥研究和相關(guān)產(chǎn)業(yè)發(fā)展帶來(lái)了顛覆性的影響，并已經(jīng)在小分子制藥、CAR-T療法、mRNA疫苗等領(lǐng)域產(chǎn)生較為顯著的經(jīng)濟(jì)和社會(huì)價(jià)值?？茖W(xué)智能還將繼續(xù)在氣候科學(xué)、天體物理學(xué)、神經(jīng)科學(xué)等各個(gè)領(lǐng)域，跨越多個(gè)維度和尺度，推動(dòng)科學(xué)研究范式變革，實(shí)現(xiàn)科技原始創(chuàng)新，人類對(duì)世界和自我的認(rèn)識(shí)也可能隨之改變。與此同時(shí)，人工智能技術(shù)的雙刃劍效應(yīng)也越發(fā)凸顯。一方面，人工智能技術(shù)面臨“訓(xùn)練數(shù)據(jù)投毒”“提示詞攻擊”等風(fēng)險(xiǎn)敞口，在穩(wěn)健性、可解釋性、公平性等根本性問(wèn)題上面臨巨大挑戰(zhàn)，導(dǎo)致人們對(duì)人工智能能否與人類價(jià)值對(duì)齊以及是否會(huì)失去控制感到擔(dān)憂。另一方面，不法分子已經(jīng)開(kāi)始利用人工智能技術(shù)作惡。
在生成式人工智能幫助下，黑客獲得高級(jí)網(wǎng)絡(luò)武器的門(mén)檻進(jìn)一步降低，網(wǎng)絡(luò)釣魚(yú)的手法變得防不勝防，深度偽造技術(shù)變聲、換臉的網(wǎng)絡(luò)詐騙犯罪持續(xù)高發(fā)。更危險(xiǎn)的是，在大模型幫助下，恐怖分子或許能夠更加高效地找到毒性更強(qiáng)的生化武器配方，大規(guī)模殺傷性武器擴(kuò)散和恐襲的風(fēng)險(xiǎn)上升。為了更好地平衡發(fā)展與安全，加強(qiáng)對(duì)人工智能倫理和應(yīng)用的監(jiān)管，包括中國(guó)、美國(guó)和歐盟在內(nèi)的世界主要國(guó)家都在今年通過(guò)了人工智能相關(guān)立法或監(jiān)管政策文件，以保護(hù)民眾和國(guó)家的利益不受侵害。聯(lián)合國(guó)、二十國(guó)集團(tuán)、金磚國(guó)家等重大國(guó)際治理機(jī)制也都圍繞人工智能如何實(shí)現(xiàn)“以人為本”“智能向善”進(jìn)行了密切的交流和磋商，人工智能的國(guó)際治理規(guī)則將成為各方聚焦的重點(diǎn)。
作者：江天驕 復(fù)旦大學(xué)發(fā)展研究院金磚國(guó)家研究中心副主任
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個(gè)人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對(duì)本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn)，讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前，請(qǐng)務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對(duì)因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢(qián)損失負(fù)任何責(zé)任。
