46國支持美國《關(guān)于負(fù)責(zé)任地軍事使用人工智能和自主技術(shù)的政治宣言》
2023年11月21日,美國國務(wù)院宣布,已有46個(gè)國家支持美國政府于今年2月16日在荷蘭海牙“軍事領(lǐng)域負(fù)責(zé)任使用AI峰會(huì)”(REAIM Summit)上首次發(fā)布的《關(guān)于負(fù)責(zé)任地軍事使用人工智能和自主技術(shù)的政治宣言》(Political Declaration on Responsible Military Use of Artificial Intelligence and Autonomy)(以下簡(jiǎn)稱“《宣言》”)。美國政府表示,其正在通過建立規(guī)范,努力得到全球各國的認(rèn)同,以促進(jìn)負(fù)責(zé)任地在軍事上使用AI和自主技術(shù)。元戰(zhàn)略深度觀察,探討美政府出臺(tái)的這一政策。
01
《宣言》發(fā)布背景
軍事AI不僅包括武器,還包括決策支持系統(tǒng)(從戰(zhàn)場(chǎng)到會(huì)議室、財(cái)務(wù)、工資和會(huì)計(jì),從人員招募、保留和晉升,到情報(bào)、監(jiān)視和偵察數(shù)據(jù)的收集和融合等一切相關(guān)的AI系統(tǒng)),以幫助各國領(lǐng)導(dǎo)人做出更好、更及時(shí)的決策。負(fù)責(zé)任的軍隊(duì)將以降低風(fēng)險(xiǎn)和促進(jìn)穩(wěn)定的方式應(yīng)用AI,通過將更高質(zhì)量的信息更快地提供給決策者,使他們能做出更好的決策,從而有助于避免意外升級(jí)。美國政府表示,其正在通過發(fā)布一系列有關(guān)軍事AI和自主技術(shù)的政策努力領(lǐng)導(dǎo)全球各國,最近的一項(xiàng)相關(guān)政策是今年11月2日發(fā)布的《數(shù)據(jù)、分析和AI應(yīng)用戰(zhàn)略》。
《關(guān)于負(fù)責(zé)任地軍事使用人工智能和自主技術(shù)的政治宣言》(Political Declaration on Responsible Military Use of Artificial Intelligence and Autonomy)(以下簡(jiǎn)稱“《宣言》”)于2023年2月在荷蘭海牙舉行的“軍事領(lǐng)域負(fù)責(zé)任使用AI峰會(huì)”(REAIM Summit)上首次發(fā)布,美宣稱,該《宣言》旨在圍繞負(fù)責(zé)任的行為建立國際共識(shí),并指導(dǎo)各國開發(fā)、部署和使用軍事AI。美國政府表示,《宣言》為交流最佳實(shí)踐和建設(shè)國家能力提供了基礎(chǔ),這將使支持國能夠分享經(jīng)驗(yàn)和想法。美國將召集支持國進(jìn)行定期對(duì)話,進(jìn)一步推動(dòng)國際社會(huì)支持和實(shí)施這些措施。此外,支持國將于2024年第一季度舉行會(huì)議,開始下一階段的工作。
02
《宣言》目標(biāo)
美國政府表示,《宣言》是由一系列不具法律約束力的指導(dǎo)方針組成,描述了負(fù)責(zé)任地將AI用于軍事目的的最佳實(shí)踐。這些指導(dǎo)方針包括確保軍事AI系統(tǒng)是可審計(jì)的,具有明確的用途,在其整個(gè)生命周期內(nèi)接受嚴(yán)格的測(cè)試和評(píng)估,具有檢測(cè)和避免意外行為的能力,以及高風(fēng)險(xiǎn)應(yīng)用接受高層審查。美國政府表示,《宣言》旨在為負(fù)責(zé)任地將AI和自主技術(shù)用于軍事目的的規(guī)范提供國際支持,《宣言》的發(fā)布是美國建立國際責(zé)任框架的重要一步。具體來說,《宣言》包括以下3大目標(biāo):
1. 各國承諾遵守適用于所有軍事領(lǐng)域的強(qiáng)有力和透明的規(guī)范,無論系統(tǒng)的功能或潛在影響范圍如何。
2. 各國承諾繼續(xù)討論如何以負(fù)責(zé)任的方式開發(fā)、部署和使用AI軍事能力,并繼續(xù)與國際社會(huì)其他成員一起推動(dòng)這些措施。
3. 《宣言》保留了自衛(wèi)權(quán)以及各國在軍事領(lǐng)域負(fù)責(zé)任地開發(fā)和使用AI。
03
《宣言》具體內(nèi)容
《宣言》包含10項(xiàng)具體措施,包括采取負(fù)責(zé)任的基本原則、強(qiáng)化法律審查、強(qiáng)化國際人道法實(shí)施、減少AI意外偏見、保持適當(dāng)謹(jǐn)慎態(tài)度、采取透明且可審計(jì)的方法、為使用人員提供培訓(xùn)、明確軍事AI具體用途、減少失敗風(fēng)險(xiǎn)。全文如下:
越來越多的國家正在發(fā)展AI軍事能力,其中可能包括利用AI實(shí)現(xiàn)自主功能和系統(tǒng)。AI的軍事應(yīng)用可以而且應(yīng)該是合乎道德、負(fù)責(zé)任的,并能加強(qiáng)國際安全。AI的軍事應(yīng)用必須符合適用的國際法。特別是,在武裝沖突中使用AI必須符合國家在國際人道主義法下的義務(wù),包括其基本原則。AI的軍事應(yīng)用必須負(fù)責(zé)任,包括在軍事行動(dòng)期間在負(fù)責(zé)任的人員指揮和控制鏈內(nèi)使用。軍事應(yīng)用AI的原則性方法應(yīng)包括仔細(xì)考慮風(fēng)險(xiǎn)和益處,并盡量減少意外的偏見和事故。各國應(yīng)采取適當(dāng)措施,確保負(fù)責(zé)任地開發(fā)、部署和使用其軍事AI,包括使能自主功能和系統(tǒng)的能力。這些措施應(yīng)在軍事AI整個(gè)生命周期的相關(guān)階段實(shí)施。
支持國認(rèn)為,在開發(fā)、部署或使用軍事AI,包括那些使自主功能和系統(tǒng)成為可能的能力時(shí),應(yīng)實(shí)施以下措施:
1. 各國應(yīng)確保其軍事組織采納并執(zhí)行這些原則,以負(fù)責(zé)任的方式開發(fā)、部署和使用AI。
2. 各國應(yīng)采取適當(dāng)步驟,如法律審查,以確保其軍事AI的使用符合國際法,特別是國際人道主義法規(guī)定的各自義務(wù)。各國還應(yīng)考慮如何利用軍事AI加強(qiáng)執(zhí)行國際人道主義法,并在武裝沖突中更好地保護(hù)平民和民用財(cái)產(chǎn)。
3. 各國應(yīng)確保高級(jí)官員有效和適當(dāng)?shù)乇O(jiān)督具有高風(fēng)險(xiǎn)應(yīng)用的軍事AI能力的開發(fā)和部署,包括但不限于此類武器系統(tǒng)。
4. 各國應(yīng)采取積極步驟,盡量減少軍事AI中意外的偏見。
5. 各國應(yīng)確保相關(guān)人員在開發(fā)、部署和使用軍事AI(包括包含此類能力的武器系統(tǒng))時(shí)保持適當(dāng)?shù)闹?jǐn)慎。
6. 各國應(yīng)確保軍事AI能力的開發(fā)方法、數(shù)據(jù)源、設(shè)計(jì)程序和文件對(duì)國防相關(guān)人員透明并可供其審計(jì)。
7. 各國應(yīng)確保對(duì)使用或批準(zhǔn)使用軍事AI的人員進(jìn)行培訓(xùn),使其充分了解這些系統(tǒng)的能力和局限性,以便根據(jù)具體情況對(duì)這些系統(tǒng)的使用作出適當(dāng)?shù)呐袛啵p少自動(dòng)化偏見的風(fēng)險(xiǎn)。
8. 各國應(yīng)確保軍事AI有明確界定的用途,并確保其設(shè)計(jì)和工程能夠?qū)崿F(xiàn)這些預(yù)期功能。
9. 各國應(yīng)確保軍事AI在其明確界定的用途內(nèi)和整個(gè)生命周期內(nèi)的安全性、安保性和有效性受到適當(dāng)和嚴(yán)格的測(cè)試和保證。對(duì)于自學(xué)或不斷更新的軍事AI,各國應(yīng)通過監(jiān)測(cè)等程序,確保關(guān)鍵安全特性沒有降低。
10. 各國應(yīng)實(shí)施適當(dāng)?shù)谋U洗胧詼p輕軍事AI能力出現(xiàn)故障的風(fēng)險(xiǎn),例如,檢測(cè)和避免意外后果的能力,以及在此類系統(tǒng)出現(xiàn)意外行為時(shí)作出反應(yīng)的能力,例如脫離或停用已部署的系統(tǒng)。
為推進(jìn)本宣言的目標(biāo),支持國將:
1. 在開發(fā)、部署或使用軍事AI,包括那些能夠?qū)崿F(xiàn)自主功能和系統(tǒng)的能力時(shí),執(zhí)行這些措施;
2. 公開其對(duì)本宣言的承諾,并發(fā)布有關(guān)其實(shí)施這些措施的適當(dāng)信息:
3. 支持其他相關(guān)工作,以確保負(fù)責(zé)任和合法地使用AI軍事能力;
4. 在支持國之間繼續(xù)討論如何負(fù)責(zé)任和合法地開發(fā)、部署和使用AI軍事能力;
5. 促進(jìn)這些措施的有效實(shí)施,并完善這些措施或制定支持國認(rèn)為適當(dāng)?shù)钠渌胧?/strong>
6. 進(jìn)一步促使國際社會(huì)其他成員支持這些措施,包括在不妨礙相關(guān)主題的其他論壇討論的情況下,宣揚(yáng)這些措施。
支持國認(rèn)識(shí)到,AI和自主性的概念可有多種解釋。在本宣言中,AI可理解為機(jī)器執(zhí)行原本需要人類智能才能完成的任務(wù)的能力。這可能包括識(shí)別模式、從經(jīng)驗(yàn)中學(xué)習(xí)、得出結(jié)論、做出預(yù)測(cè)或產(chǎn)生建議。AI應(yīng)用可以指導(dǎo)或改變自主物理系統(tǒng)的行為,或執(zhí)行純粹數(shù)字領(lǐng)域的任務(wù)。自主性可以理解為一個(gè)范圍,包括系統(tǒng)在啟動(dòng)后無需人類進(jìn)一步干預(yù)即可運(yùn)行。
04
《宣言》的支持國家名單
美國副總統(tǒng)卡瑪拉·哈里斯于11月1日在英國主辦的首屆全球AI安全峰會(huì)發(fā)表演講時(shí),呼吁各國支持美政府發(fā)布的這一《宣言》。截止2023年11月21日,已有46個(gè)國家對(duì)《宣言》表示支持,名單如下:
阿爾巴尼亞、亞美尼亞、澳大利亞、奧地利、比利時(shí)、保加利亞、加拿大、克羅地亞、塞浦路斯、捷克共和國、丹麥、多米尼加共和國、愛沙尼亞、芬蘭、法國、格魯吉亞、德國、希臘、匈牙利、冰島、愛爾蘭、意大利、日本、科索沃、拉脫維亞、利比里亞、利比亞、立陶宛、盧森堡、馬拉維、馬耳他、黑山、摩洛哥、荷蘭、北馬其頓、葡萄牙、羅馬尼亞、圣馬力諾、新加坡、斯洛伐克、斯洛文尼亞、西班牙、韓國、瑞典、土耳其和英國。
05
結(jié) 語
AI的快速發(fā)展以及無人機(jī)在烏克蘭和中東沖突中的大量使用,使得AI在軍事應(yīng)用中應(yīng)施加何種限制的問題變得更加緊迫。盡管目前無人機(jī)通常依賴人類操作員執(zhí)行致命任務(wù),但隨著各國在開發(fā)和部署AI和自主技術(shù)方面取得迅速進(jìn)展,相關(guān)技術(shù)可能會(huì)重塑戰(zhàn)爭(zhēng)的本質(zhì),將決定生死的權(quán)力交給搭載AI程序的自主無人機(jī)。
目前,美國已經(jīng)采取了一系列政策,對(duì)如何在軍事領(lǐng)域中使用AI設(shè)定了限制,其中包括美國國防部于今年1月更新的《自主性武器系統(tǒng)指令》;美國國務(wù)院于今年2月發(fā)布的此《宣言》;美國國防部于今年11月發(fā)布的《數(shù)據(jù)、分析和AI應(yīng)用戰(zhàn)略》,美國正在積極爭(zhēng)取其他國家的支持,以共同維護(hù)其立場(chǎng)。然而,僅僅依靠這些政策可能還不足以全面解決軍事AI帶來的風(fēng)險(xiǎn),如AI偏見和沖突升級(jí)。
為了更全面有效地治理軍事AI應(yīng)用,需要更多關(guān)于軍事AI和自主性武器的強(qiáng)制性法律和補(bǔ)充程序。只有通過這種方式,才能真正解決潛在的問題,確保軍事領(lǐng)域的AI應(yīng)用在合理的框架內(nèi),以最大程度地降低風(fēng)險(xiǎn)。
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個(gè)人看法,不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對(duì)本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn),讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前,請(qǐng)務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對(duì)因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。