新火種
2025-03-25 
從布萊切利、首爾到巴黎：親歷三屆人工智能峰會啟示錄
【文/觀察者網(wǎng)專欄作者 曾毅】
人工智能進(jìn)展對人類社會變革發(fā)揮著深刻的作用，近期在應(yīng)用與服務(wù)方面給予公眾的感受更是達(dá)到了前所未有的高度。而人工智能對人類可能造成的潛在安全風(fēng)險，也從兩百多年前瑪麗·雪萊《弗蘭肯斯坦》中的隱喻和阿西莫夫《我、機(jī)器人》中的敘事，迅速進(jìn)入公眾與政府的視野。
2015年，在波多黎各召開了人工智能安全科技領(lǐng)域的前沿會議。而人工智能安全作為需要國際協(xié)作解決的全球挑戰(zhàn)，真正進(jìn)入公眾與政府視野，還是回到雪萊的故鄉(xiāng)英國，圖靈機(jī)與二戰(zhàn)期間恩尼格瑪密碼機(jī)的誕生地布萊切利園。
2023年11月在英國舉行的首屆人工智能安全峰會(AI Safety Summit)，最重要的成果當(dāng)屬《布萊切利人工智能安全宣言(The Bletchley Declaration on AI Safety)》，28國及歐盟在人工智能安全風(fēng)險認(rèn)知與議題上達(dá)到當(dāng)時政府層面最廣泛的共識。
這項(xiàng)共識的取得背后是與各國政府和科技界長達(dá)半年多的溝通，才推進(jìn)了這個極具不確定性的議題上取得共同認(rèn)知。
英美相繼宣布人工智能安全研究所的成立影響廣泛，但這使得許多國家的代表迷茫于不知如何選邊站，可又何須選邊？
我受邀主持了圓桌會議“前沿人工智能不可預(yù)知進(jìn)展帶來的風(fēng)險”的研討，并在公開全體會議的總結(jié)環(huán)節(jié)，有機(jī)會直面這個問題進(jìn)行了發(fā)言：“我們認(rèn)為每個國家都應(yīng)該成立自己的人工智能安全機(jī)構(gòu)。但這還不夠，我們還需要建立一個涵蓋全世界的人工智能安全協(xié)作網(wǎng)絡(luò)，以期能夠解決不可預(yù)知的進(jìn)展和不可預(yù)知的失敗。另外，這次會議我們有28國參加，我們希望能夠進(jìn)一步提升會議的包容性，下屆能夠有40國，再下屆也許可以是60國”。
會后過去一年多的時間，我們看到至少十余個國家成立了人工智能安全專門的機(jī)構(gòu)，韓國首爾人工智能峰會上實(shí)際已經(jīng)成立了國際人工智能安全研究所網(wǎng)絡(luò)(International Network of AISI)，卻將中國排除在外。而這個會議系列的包容性在首爾峰會并沒有增加，直至巴黎人工智能行動峰會，正式參與的國家達(dá)到了80國以上。
2023年在布萊切利人工智能安全峰會(AI Safety Summit)公開會議主會環(huán)節(jié)發(fā)言，筆者建議成立面向國家間合作的國際人工智能安全網(wǎng)絡(luò)
2023年在布萊切利人工智能安全峰會(AI Safety Summit)主持“前沿人工智能不可預(yù)知進(jìn)展帶來的風(fēng)險”圓桌研討
2024年5月人工智能首爾峰會(AI Seoul Summit)雖然由韓國與英國共同主辦，但是峰會的標(biāo)題中，安全已沒有作為核心。但這屆會議仍然取得了引人矚目的進(jìn)展，主要是宣布國際人工智能安全研究所網(wǎng)絡(luò)的成立和面向企業(yè)的人工智能安全自愿承諾(Frontier AI Safety Commitments)。
布萊切利峰會半年內(nèi)，全球人工智能安全相關(guān)機(jī)構(gòu)已經(jīng)逐步浮出水面，人工智能安全協(xié)作網(wǎng)絡(luò)的提議已成為共識，人工智能安全研究所網(wǎng)絡(luò)(Network of AISI)應(yīng)運(yùn)而生，然而卻是在更小范圍的10個國家和歐盟參與的情況下形成的決議，沒有任何合理的理由，中國被排除在外。
在人工智能首爾峰會部長論壇(Ministers’ Session)上，我聽到時任英國科技、創(chuàng)新與技術(shù)部部長對這個情況的介紹后感到完全不可接受，并在安排的學(xué)者代表發(fā)言環(huán)節(jié)進(jìn)行了回應(yīng)：“國家層面人工智能安全制度的建設(shè)每個國家都有不同的選擇，建立單一國家級人工智能安全研究所的國家，目前已然需要面對如何解決國內(nèi)人工智能安全相關(guān)機(jī)構(gòu)之間競爭與協(xié)同的問題。
中國與不同部委協(xié)同的人工智能安全機(jī)構(gòu)眾多，更適合中國的人工智能安全相關(guān)機(jī)構(gòu)組織模式是國家層面的協(xié)作網(wǎng)絡(luò)，機(jī)構(gòu)之間的互聯(lián)與協(xié)作甚至可以在國家層面的人工智能安全機(jī)制復(fù)合體的協(xié)調(diào)方面發(fā)揮積極作用。
國際人工智能安全網(wǎng)絡(luò)的概念提出甚至有來自中國的貢獻(xiàn)，而中國被排除在這個網(wǎng)絡(luò)之外，這不僅是不可接受的，更是自布萊切利會議努力之后歷史的倒退”。
首爾會議之后，國內(nèi)相關(guān)單位繼續(xù)協(xié)同推進(jìn)，“中國人工智能發(fā)展與安全研究網(wǎng)絡(luò)(China AI Development and Safety Network)”在2024年9月聯(lián)合國大會期間，由中國和贊比亞共同作為主辦國發(fā)起的人工智能能力建設(shè)國際合作高級別會議(High-level Meeting on International Cooperation on Capacity-building of Artificial Intelligence)上，我作為學(xué)者代表首次對外宣布，會議在聯(lián)合國紐約總部舉行。
人工智能首爾峰會(AI Seoul Summit)部長論壇(Ministers’ Session)，筆者作為學(xué)者代表發(fā)言，介紹為應(yīng)對安全治理機(jī)制復(fù)合體的發(fā)展現(xiàn)狀，中國正在探索以國家層面人工智能安全網(wǎng)絡(luò)的形式形成政產(chǎn)學(xué)研協(xié)作機(jī)制
“中國人工智能發(fā)展與安全研究網(wǎng)絡(luò)”在2024年9月聯(lián)合國大會期間，由中國、贊比亞主辦人工智能能力建設(shè)國際合作高級別會議上宣介
首爾峰會的另外一項(xiàng)重要成果是面向企業(yè)的“前沿人工智能安全承諾(Frontier AI Safety Commitments)”，這項(xiàng)承諾集結(jié)了來自多國處于最前沿人工智能模型研發(fā)的代表性企業(yè)。一年來，英國在承諾參與的企業(yè)方面持續(xù)發(fā)力，至今得到包括中國3家代表性企業(yè)，全球共20家領(lǐng)先企業(yè)的支持。
自愿承諾是企業(yè)自律自治的行為，制定并公開安全護(hù)欄與框架是人工智能企業(yè)推進(jìn)人工智能安全落地重要的實(shí)踐。
與此項(xiàng)工作以及白宮推進(jìn)的人工智能企業(yè)自愿承諾相關(guān)的，來自中國人工智能產(chǎn)業(yè)的集體表態(tài)，則是中國人工智能產(chǎn)業(yè)聯(lián)盟(AIIA)發(fā)起的“人工智能安全承諾”，首批得到17家中國領(lǐng)先人工智能企業(yè)的支持。
2025年2月于法國巴黎召開的人工智能行動峰會(Paris AI Action Summit)，在這個系列會議中得到了更高的關(guān)注和更多國家的支持，這首先得益于在國家參與方面更高的包容性，使得巴黎峰會最終聚集了80國領(lǐng)導(dǎo)人與超過100個國家的各界代表的參與。
可以理解的是，法國召開人工智能的旗艦會議希望全面推進(jìn)人工智能的科學(xué)、應(yīng)用、文化、治理等諸多方面的進(jìn)展，但人工智能政產(chǎn)學(xué)研領(lǐng)域已有諸多綜合性的國際會議。而相比其他會議，從布萊切利開始的人工智能峰會系列的最大價值，正是會議聚焦人工智能安全與風(fēng)險。
雖然在此屆峰會名稱上沒有明確體現(xiàn)安全，但是若考慮法國倡導(dǎo)推進(jìn)“行動(Action)”作為焦點(diǎn)，卻不能得到這屆會議完全忽視安全與風(fēng)險議題的結(jié)論。
事實(shí)是，人工智能行動峰會主會公開日的議程有諸多相關(guān)議題，包括但不限于”隱私、網(wǎng)絡(luò)安全與信息完整性： “利用人工智能保護(hù)民主制度”、“加強(qiáng)高效、有效且包容的全球人工智能治理”、“構(gòu)建可信人工智能：從自愿承諾到協(xié)作實(shí)踐準(zhǔn)則”、“邁向安全可信的人工智能：企業(yè)承諾”、“邁向安全可信的人工智能：歐盟協(xié)作實(shí)踐準(zhǔn)則”、“人工智能的國際治理”、“為網(wǎng)絡(luò)和人工智能安全構(gòu)建開源未來”等主會場議題和峰會正式專題研討會，覆蓋峰會當(dāng)天1/3議題。
可也不能說本屆峰會在人工智能安全方面是成果豐碩的，畢竟在安全方面的實(shí)際產(chǎn)出沒有像《布萊切利宣言》、《前沿人工智能安全承諾》這樣的代表性工作。
人工智能行動峰會主會日，與法國總統(tǒng)人工智能行動峰會特使Anne女士合影，她2024年底訪問北京并邀請中國政產(chǎn)學(xué)研各方代表參加行動峰會。
人工智能行動峰會科學(xué)日舉辦“人工智能、科學(xué)與社會(AI, Science and Society)”大會，集結(jié)了法國人工智能科技與政策最富盛名的相關(guān)單位共同組織，由法國巴黎理工學(xué)院、法國科學(xué)院、法國國家信息與自動化研究院、巴黎高等商學(xué)院領(lǐng)銜，是在科學(xué)層面推進(jìn)人工智能行動本屆大會最值得關(guān)注的。
會議專門組織了人工智能安全科學(xué)(Science of AI Safety and Security)議題的若干研討環(huán)節(jié)，主要包括“前沿人工智能安全閾值”、“國際人工智能安全報告”、“可信人工智能國際標(biāo)準(zhǔn)”三個主要研討。
嚴(yán)格意義上雖然不能算是法國人工智能行動峰會的主要成果，但是“國際人工智能安全報告(International Report on AI Safety)”借助人工智能行動峰會科學(xué)日，確實(shí)贏得了更多關(guān)注。
該報告由英國人工智能安全研究所主導(dǎo)，邀請包含中國在內(nèi)的30個國家學(xué)者和機(jī)構(gòu)參加，曾于人工智能首爾峰會（AI Seoul Summit）發(fā)布中期報告。我有幸作為報告中代表中國的專家指導(dǎo)委員會委員，參與該報告的全過程。
在峰會科學(xué)日的人工智能安全科學(xué)研討環(huán)節(jié)，大會邀請了報告主席Yoshua Bengio對報告進(jìn)行介紹，并邀請了來自美、中、法的代表共論人工智能安全的未來。
《國際人工智能安全報告》的科學(xué)貢獻(xiàn)Yoshua Bengio做了詳細(xì)的介紹，百位學(xué)者參與的科學(xué)報告至少在人工智能領(lǐng)域是一個壯舉。我被主持人問及，我們的報告中哪個風(fēng)險是最重要的或者最具威脅的。我的回應(yīng)是：“首先，這如同全球可持續(xù)發(fā)展目標(biāo)的17個目標(biāo)，其中一個失敗了，可持續(xù)發(fā)展目標(biāo)就是失敗了，社會都沒有實(shí)現(xiàn)可持續(xù)。其次，前沿人工智能模型目前具備認(rèn)知功能自動升級和演化的能力，這意味著對人工智能風(fēng)險的分級將很難真正控制風(fēng)險的實(shí)際等級，因?yàn)轱L(fēng)險及其類型將隨自主認(rèn)知升級失去確定性”。
此外我還談到與《國際人工智能安全報告》一項(xiàng)互補(bǔ)的研究，即由我在中國科學(xué)院自動化研究所和人工智能安全與超級對齊北京市重點(diǎn)實(shí)驗(yàn)室的團(tuán)隊等單位協(xié)作共同發(fā)布的《全球人工智能安全指數(shù)(Global Index on AI Safety)》報告。
與《國際人工智能安全報告》的互補(bǔ)在于《全球人工智能安全指數(shù)》以國家為單位，給出了40個國家在人工智能安全就緒度的現(xiàn)狀，美、英、中三國名列前茅。
有些學(xué)者聯(lián)系我們說，報告似乎反映出國家的人工智能安全就緒度，整體而言與國家的經(jīng)濟(jì)水平似乎密切相關(guān)。我回復(fù)說這正是我們要提醒各個國家的。人工智能的發(fā)展水平可能由于各國經(jīng)濟(jì)水平的差異有顯著差異，但是人工智能安全就緒度事關(guān)人工智能是否能夠在相關(guān)國家穩(wěn)健的部署與應(yīng)用，事關(guān)對該國可能造成的不可預(yù)知的潛在風(fēng)險的應(yīng)對。因此即使這些國家在發(fā)展方面尚需積累，但是也要在人工智能安全就緒度方面盡快做好更充分的準(zhǔn)備。
在回顧《國際人工智能安全報告》形成的過程中的點(diǎn)滴時，我還講了一個很有意義的互動。當(dāng)我在顧問專家委員會的會議上指出，目前的報告主要聚焦在大語言模型的風(fēng)險，而對于人工智能規(guī)則推理、自然與腦啟發(fā)的人工智能等不同的人工智能發(fā)展科學(xué)途徑存在的潛在風(fēng)險沒有涉及的時候，Yoshua Bengio指出這也許也是他自己研究上的一種偏向的體現(xiàn)。
作為綜合性的科學(xué)報告，這個理由顯然沒有說服我；然而最終報告明確聚焦在“通用人工智能(General-Purpose AI)”的風(fēng)險上，卻讓我覺得至少更清晰了。
其他途徑發(fā)展的人工智能模型目前尚未具備顯著的“通用人工智能(General-Purpose AI)”特征，在這個階段，可控性方面的風(fēng)險上確實(shí)也應(yīng)當(dāng)更聚焦在“前沿通用人工智能模型”。
在巴黎峰會期間形成的《包容與可持續(xù)的人工智能造福人類與地球的聲明》也沒有完全回避安全議題。例如在主要優(yōu)先議題共識中提到：“確保人工智能開放、包容、透明、符合倫理、安全可靠且值得信賴”，“加強(qiáng)國際合作，以促進(jìn)國際治理的協(xié)調(diào)”。
又提及“利用人工智能技術(shù)的益處來支持我們的經(jīng)濟(jì)和社會取決于推進(jìn)信任和安全”，并贊揚(yáng)了英國和韓國峰會在安全方面取得的進(jìn)展。
而本次《聲明》中更值得肯定的是對人工智能推進(jìn)可持續(xù)發(fā)展、聯(lián)合國在人工智能全球治理中發(fā)揮的作用與對相關(guān)進(jìn)程的認(rèn)可、特別是提及人工智能的發(fā)展對全球能源的影響，以及提議“與國際能源署合作建立人工智能能源影響觀測站”。
隨著人工智能的發(fā)展與應(yīng)用，以及對可持續(xù)發(fā)展的積極與負(fù)面影響，這項(xiàng)提議及其落實(shí)將對人類與環(huán)境有非凡的意義。
非常值得單獨(dú)提的是愿景中提到“人類與地球”，這不是單純的以人類為中心的愿景，而是充分考慮人工智能賦能人類生存與發(fā)展的同時將人類、生態(tài)與地球作為整體共同繁榮、共同發(fā)展。因此《聲明》得到了60余國以及非盟和歐盟的正式支持。
雖然《聲明》提及的諸多理念與共識在2024年的兩項(xiàng)聯(lián)合國大會決議《抓住安全、可靠和值得信賴的人工智能系統(tǒng)帶來的機(jī)遇，促進(jìn)可持續(xù)發(fā)展》、以及《加強(qiáng)人工智能能力建設(shè)國際合作》和聯(lián)合國《全球數(shù)字契約》中都有體現(xiàn)，但是來自60余國的再次明確支持與進(jìn)一步的相關(guān)行動，仍然能夠?yàn)橐月?lián)合國為核心的國際人工智能科技合作與治理提供有益的支持。
人工智能行動峰會邊會“AI Safety Connect 2025”人工智能安全研究機(jī)構(gòu)圓桌研討
由法國亞洲學(xué)會與亞洲人工智能安全舉辦的“From Oil to Water: Governing AI as a Global Public Good”
與英國和首爾峰會最大的不同是，巴黎峰會其實(shí)是峰會周(Summit Week)，圍繞人工智能諸多議題極為豐富的邊會也是峰會周的亮點(diǎn)。在峰會主會上沒有機(jī)會展開的議題、沒有能夠形成的交流都在通過邊會以不同形式推進(jìn)。
我主要參與并作為研討嘉賓發(fā)言的公開活動，主要包括由阿聯(lián)酋穆罕默德?本?拉希德政府學(xué)院和生命未來研究所主辦的“AI Safety Connect 2025”，以及由法國亞洲學(xué)會與亞洲人工智能安全舉辦的“From Oil to Water: Governing AI as a Global Public Good”等。
這些活動都在促成不同國家的人工智能安全研究所之間的潛在合作發(fā)揮作用。幾位來自不同國家人工智能安全相關(guān)研究機(jī)構(gòu)的發(fā)言人擁有的共識便是：只有來自不同國家的人工智能安全機(jī)構(gòu)能夠開展更廣泛的聯(lián)合測試，才能夠真正意義共護(hù)安全，共享發(fā)展。
此外，中國人工智能發(fā)展與安全網(wǎng)絡(luò)、中法人工智能協(xié)會等都組織了峰會的公開邊會，為促進(jìn)中國人工智能的國際合作與交流以不同形式發(fā)揮積極作用。
回顧英國、韓國、法國三屆人工智能峰會，可以看到在每屆由一國主導(dǎo)的峰會上堅持統(tǒng)一的議題巨大的挑戰(zhàn)。倘若三屆峰會能夠持之以恒地堅持人工智能安全議題，那么這個系列峰會的意義和影響將是巨大的。
然而主辦國從不同視角出發(fā)的考量也確實(shí)難以視而不見，這導(dǎo)致了人工智能安全與風(fēng)險管控議題難以如會議系列開始階段的高效推進(jìn)。
加之近期美國人工智能安全管控政策方面的不確定性，以及英國人工智能安全研究所更名等一系列相關(guān)影響，急需穩(wěn)定并推進(jìn)國際人工智能安全協(xié)作。
來自政產(chǎn)學(xué)研圍繞人工智能安全的各方努力，需要轉(zhuǎn)化為一個持久、包容且由社區(qū)驅(qū)動的人工智能安全進(jìn)程(AI Safety Process)。該進(jìn)程應(yīng)具有靈活性，能兼顧不同觀點(diǎn)，確保各國在不同時期推進(jìn)人工智能安全工作的連貫性、協(xié)調(diào)性和可擴(kuò)展性。
人工智能安全進(jìn)程應(yīng)造福全人類，而不應(yīng)由任何一個國家或組織獨(dú)占。它需要所有利益相關(guān)方跨越時空，在一個協(xié)調(diào)的框架內(nèi)持續(xù)共同努力，得到學(xué)術(shù)界、產(chǎn)業(yè)界、公民社會、各國政府、政府間組織等各方的參與、推動和支持。
可持續(xù)地推進(jìn)全球關(guān)鍵議題，聯(lián)合國仍然是最合適的平臺，因此應(yīng)當(dāng)支持聯(lián)合國發(fā)揮核心作用，但這并不意味著需要在聯(lián)合國框架下開展所有的工作。
聯(lián)合國發(fā)揮的作用是激發(fā)各個層面的協(xié)作和伙伴，將成員國、其他政府間組織、機(jī)構(gòu)的努力匯聚成高度交織并深刻互聯(lián)的網(wǎng)絡(luò)，聚流成河，匯江成海。三屆峰會中，法國峰會從會議內(nèi)容和《聲明》給予了聯(lián)合國更多的認(rèn)同，這是值得贊賞的。
另一方面，三屆峰會期間人工智能安全方面的產(chǎn)出，以及韓國、法國峰會期間在人工智能賦能可持續(xù)發(fā)展方面的產(chǎn)出，都與聯(lián)合國框架下開展的工作形成互補(bǔ)的貢獻(xiàn)，聯(lián)合國與成員國及峰會主辦國之間需要更積極地將這些互補(bǔ)的努力化為全球貢獻(xiàn)，以通過人工智能穩(wěn)健、安全與可持續(xù)的發(fā)展推進(jìn)人類與生態(tài)共生的未來為目標(biāo)，以不使任何一個國家，不使任何一個人掉隊為使命。
Tags:
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險，讀者在采取與本文內(nèi)容相關(guān)的任何行動之前，請務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
