新火種
2023-10-29 
無人武器頻現(xiàn)戰(zhàn)場，國際紅十字會：AI的軍事運用給平民帶來重大風(fēng)險
當(dāng)?shù)貢r間2023年7月25日，烏克蘭基輔，1700架無人機(jī)被派往前線用于對抗俄羅斯軍隊。 視覺中國 圖
數(shù)月以來，隨著ChatGPT等聊天機(jī)器人的發(fā)展，人工智能及其前景廣受全球關(guān)注。但對于人工智能在沖突中的應(yīng)用及其對平民的影響，人們關(guān)注較少。在戰(zhàn)火連天的俄烏前線，無人機(jī)、無人艇、巡飛彈、智能地雷等武器的大量使用或?qū)㈩A(yù)示著一個人類使用自主武器系統(tǒng)進(jìn)行戰(zhàn)爭的未來。
8月4日，一艘烏克蘭無人艇襲擊了一艘停泊在俄新羅西斯克軍港內(nèi)的俄軍兩棲登陸艦，造成后者嚴(yán)重受損。莫斯科市內(nèi)近日一系列政府大樓遭襲事件也與烏方無人機(jī)有關(guān)。而俄軍則在陸地戰(zhàn)場上大量使用自殺式無人機(jī)或巡飛彈，取得了顯著效果。
據(jù)《耶路撒冷郵報》8月10日報道，近日一家英國智庫GlobalData發(fā)布了一份報告，稱“盡管公眾對AI的興趣大增主要是由于半年多前ChatGpt的發(fā)布，但各國軍方早已將注意力投向AI未來在戰(zhàn)場上的應(yīng)用，尤其是能夠進(jìn)行深度學(xué)習(xí)的自主武器系統(tǒng)。”
AI與自主武器系統(tǒng)
自主武器系統(tǒng)是指在"重要功能"方面具有自主性的武器系統(tǒng)，也就是說這種武器可以在沒有人為干預(yù)的情況下選擇（搜索或監(jiān)測、確定、跟蹤）和攻擊（攔截、使用武力對抗、抵消、損毀或破壞）目標(biāo)。
自主武器系統(tǒng)在沒有人類干預(yù)的情況下選擇目標(biāo)并對其使用武力。在最初由人啟動或發(fā)射后，自主武器系統(tǒng)根據(jù)從傳感器接收到的環(huán)境信息，并基于概括性的"目標(biāo)描述"，自行啟動或觸發(fā)攻擊。這意味著使用者并未選擇自主武器系統(tǒng)使用武力攻打的具體目標(biāo)以及精確的時間和（或）地點，甚或?qū)Υ艘粺o所知。
盡管在目前的軍事科技水平下，自動作戰(zhàn)的機(jī)器人尚未出現(xiàn)，但沖突的無人化趨勢已變得十分明顯。近年來在戰(zhàn)爭和沖突中“大放異彩”的巡飛彈是一種新概念彈藥，它就擁有在未來演變?yōu)樽灾魑淦飨到y(tǒng)的潛力。這種武器能夠在目標(biāo)區(qū)上空巡弋飛行、“待機(jī)”并搜索目標(biāo)，在定位目標(biāo)后進(jìn)行攻擊。在2020年阿塞拜疆與亞美尼亞之間爆發(fā)的納卡沖突中，巡飛彈大量參戰(zhàn)，深刻影響戰(zhàn)局發(fā)展，引發(fā)各國的高度重視。目前，仍在進(jìn)行的俄烏沖突中雙方也大量使用巡飛彈，美國向烏克蘭提供了“彈簧刀”、“鳳凰幽靈”等巡飛彈，俄羅斯則大量使用了“柳葉刀”、KUB-BLA等巡飛彈。已有大量視頻和照片證明這類武器造成了雙方人員和武器裝備的嚴(yán)重?fù)p失。
在各國現(xiàn)有的武庫中，許多遙控武器系統(tǒng)具有自主"模式"，因此只能在短期內(nèi)自主運行。而且這些武器在所執(zhí)行的任務(wù)、攻擊目標(biāo)的類型及其被使用的環(huán)境方面都極其受限。大部分現(xiàn)有系統(tǒng)還受到人類操作員的實時監(jiān)控。
然而，隨著軍事科技的發(fā)展，未來的自主武器系統(tǒng)可能在確定攻擊目標(biāo)時擁有更多的行動自由，行動時不受空間和時間的嚴(yán)格限制，并應(yīng)對迅速變化的情況。
據(jù)美國軍事媒體DefenseOne此前報道，美國軍方對于利用人工智能，尤其是機(jī)器學(xué)習(xí)，來控制自主武器的興趣日漸濃厚。報道稱，機(jī)器學(xué)習(xí)軟件在數(shù)據(jù)方面“經(jīng)驗頗豐”，能夠針對具體任務(wù)自行創(chuàng)建模型，并制定完成該任務(wù)的策略。此類軟件在某種程度上能夠自我編程。但通常這種模型是一個“黑匣子”，人類極難對其進(jìn)行預(yù)測、理解和解釋，也難以測試機(jī)器學(xué)習(xí)系統(tǒng)以何種方式、在何種基礎(chǔ)上實現(xiàn)特定評估或決策。一些機(jī)器學(xué)習(xí)系統(tǒng)在使用期間還會繼續(xù)“學(xué)習(xí)”，亦即所謂的“積極”“在線”學(xué)習(xí)或“自學(xué)”，這就表示其任務(wù)模型會隨時間而發(fā)生變化。
ICRC：國際社會亟需加強(qiáng)討論
國際紅十字會 （ICRC） 早在2015年時已經(jīng)指出，目前科技發(fā)展的速度以及武器系統(tǒng)自主性方面的軍事興趣使國際社會迫切需要考量此類武器的法律和道德影響。
近日，ICRC于7月24日也在其網(wǎng)站上刊發(fā)文章認(rèn)為，自主武器系統(tǒng)的運作過程可能會為受武裝沖突影響之人（無論是平民還是戰(zhàn)斗員）帶來傷害，而且具有導(dǎo)致沖突升級的危險。它還會對遵守國際人道法等國際法規(guī)則、特別是保護(hù)平民的敵對行動規(guī)則等，提出挑戰(zhàn)。另外，用傳感器、軟件和機(jī)器程序取代了人類對生死的決定，將引發(fā)人類的根本道德關(guān)切。
因此，圍繞人工智能軍事用途的對話需要將日內(nèi)瓦四公約及其附加議定書中規(guī)定的國際人道法原則納入其中。國際社會應(yīng)采取以人為本的方式來處理在受沖突影響地區(qū)使用人工智能的問題。需要設(shè)立防護(hù)性措施，以幫助加強(qiáng)現(xiàn)有保護(hù)措施并減少其他風(fēng)險。
目前，國際社會對于致命性自主武器系統(tǒng)的討論集中在其是否能夠清晰區(qū)分戰(zhàn)斗人員與非戰(zhàn)斗人員，以及它是否會模糊化擊殺行為的行為主體等幾個問題上。已有一些非政府組織或游說組織，如“阻止殺手機(jī)器人運動”等，主張國際社會完全禁止致命性自主武器系統(tǒng)。不同的意見則認(rèn)為可以加強(qiáng)國際法和國內(nèi)法方面的監(jiān)管。
根據(jù)英國《衛(wèi)報》此前報道，在2019年的一次相關(guān)會議上，不少來自發(fā)展中國家的的代表贊成完全禁止致命性自主武器系統(tǒng)或施以嚴(yán)格的監(jiān)管措施，但英國、美國、俄羅斯、澳大利亞和以色列對此表示反對。英國的理由是，目前英軍尚未裝備完全自主的武器系統(tǒng)，相關(guān)討論也不充分，因此不贊成過早實施“預(yù)防性禁止”。
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認(rèn)可。 交易和投資涉及高風(fēng)險，讀者在采取與本文內(nèi)容相關(guān)的任何行動之前，請務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
