財富中文網(wǎng)
2023-11-22 
人工智能已經(jīng)走上戰(zhàn)場，殺手機(jī)器人或?qū)⒅髟孜磥響?zhàn)爭
烏克蘭基輔街頭，裝有爆炸物的無人機(jī)像死魚一般肚皮朝上躺在地上，發(fā)出刺耳的噪音，尾部螺旋槳已經(jīng)變形。這架無人機(jī)攜帶的致命爆炸物并未引爆，墜毀原因可能是故障或者被擊落。
這架無人機(jī)的照片很快被上傳到社交媒體，有武器專家確認(rèn)這是由俄羅斯的武器制造商卡拉什尼科夫集團(tuán)（Kalashnikov）的無人機(jī)部門扎拉航空（Zala Aero）生產(chǎn)的KUB-BLA“巡飛彈”。這類巡飛彈俗稱“自殺式無人機(jī)”，可以自動飛到指定區(qū)域巡航最長30分鐘。
無人機(jī)操作員能夠遠(yuǎn)程監(jiān)控其拍回的視頻，等到地面出現(xiàn)敵軍士兵或坦克時發(fā)起攻擊。在某些情況下，無人機(jī)會安裝人工智能軟件，使其可以根據(jù)輸入到機(jī)載系統(tǒng)的圖像獵殺指定目標(biāo)。無論在哪種情況下，只要無人機(jī)發(fā)現(xiàn)敵人并且操作人員選擇攻擊，無人機(jī)就會朝目標(biāo)俯沖而下，然后爆炸。
俄烏戰(zhàn)場成為日益先進(jìn)的巡飛彈的重要試驗場。這引起了人權(quán)活動家和技術(shù)人員的警惕。他們擔(dān)心，這代表戰(zhàn)場上利用“殺手機(jī)器人”的時代即將來臨。這些由人工智能控制的武器會在沒有人類決策的情況下自動獵殺人類。
隨著這項技術(shù)的快速完善和成本下降，它引起了各國軍隊的密切關(guān)注。小型半自動無人機(jī)的賣點在于，它的價格只有體型更大的“捕食者”（Predator）無人機(jī)的幾分之一，而且不需要由經(jīng)驗豐富的飛行員遠(yuǎn)程操控。“捕食者”無人機(jī)的價格可能高達(dá)數(shù)千萬美元。步兵只要接受一點培訓(xùn)，就能夠輕松使用這些新型自動化武器。
海豹突擊隊（Navy SEAL）的前隊員、美國Shield AI公司的聯(lián)合創(chuàng)始人及首席增長官布蘭登·曾經(jīng)說道：“‘捕食者’無人機(jī)價格過于昂貴，因此各國開始思考：‘能否用體積更小、價格更低的無人機(jī)實現(xiàn)98%的作戰(zhàn)效果？’”Shield AI公司致力于生產(chǎn)小型無人偵察機(jī)，使用人工智能進(jìn)行導(dǎo)航和圖像分析。
但人權(quán)組織和一些計算機(jī)科學(xué)家卻擔(dān)心，這項技術(shù)將給戰(zhàn)區(qū)的平民甚至整個人類帶來新的嚴(yán)重威脅。
國際特赦組織（Amnesty International）的高級顧問維里蒂·科伊爾稱：“目前的巡飛彈還有人類操作人員負(fù)責(zé)決定攻擊目標(biāo)，但取消人類操作并不難。一個巨大的威脅在于，如果沒有清晰的法規(guī)，也就無法明確使用無人機(jī)的紅線在哪里。”國際特赦組織參與了停止殺手機(jī)器人（Stop Killer Robots）活動。
聯(lián)合市場研究公司（Allied Market Research）預(yù)測，全球人工智能驅(qū)動的各類致命武器市場發(fā)展迅速，其規(guī)模將從今年的近120億美元，增長到這個十年底的300億美元。Grand View Research公司表示，僅美國目前每年在巡飛彈方面的支出就高達(dá)約5.8億美元，到這個十年底將增加到10億美元。
從事巡飛彈生產(chǎn)的以色列國防公司UVision的國際銷售與營銷總監(jiān)達(dá)干·勒夫·阿里表示，最初巡飛彈需求增長緩慢，直到2020年亞美尼亞與阿塞拜疆爆發(fā)沖突。當(dāng)時阿塞拜疆使用先進(jìn)無人機(jī)和巡飛彈摧毀了亞美尼亞的大量坦克和火炮，幫助其取得了決定性的勝利。
勒夫·阿里指出，那場戰(zhàn)爭讓許多國家對巡飛彈產(chǎn)生了興趣。美國開始大規(guī)模采購，包括UVision的“英雄”（Hero）系列自殺式無人機(jī)，以及由美國公司AeroVironment生產(chǎn)的“彈簧刀”（Switchblade）無人機(jī)，也推動了該市場的增長。勒夫·阿里補(bǔ)充道，俄烏沖突加快了需求增長速度。他說：“人們突然發(fā)現(xiàn)歐洲可能爆發(fā)一場戰(zhàn)爭，國防預(yù)算不斷增加。”
巡飛彈的價格雖然低于某些武器，但實際上并不便宜。例如，有報告稱，一架“彈簧刀”無人機(jī)包括發(fā)射控制系統(tǒng)和彈藥在內(nèi)的價格高達(dá)7萬美元。
據(jù)稱美國將向烏克蘭提供了100架“彈簧刀”無人機(jī)。這些“彈簧刀”將作為烏克蘭現(xiàn)有的土耳其造Bayraktar TB2無人機(jī)的補(bǔ)充。Bayraktar TB2無人機(jī)可以自動起飛、降落和巡航，但需要由人類操作人員尋找目標(biāo)和發(fā)出發(fā)射機(jī)載火箭或投彈的命令。
巡飛彈并不是新鮮事物。最早的巡飛彈能夠追溯到20世紀(jì)60年代，當(dāng)時的飛航式導(dǎo)彈可以飛到指定區(qū)域搜索敵軍防空系統(tǒng)的雷達(dá)信號。區(qū)別在于現(xiàn)在的巡飛彈技術(shù)更復(fù)雜、更準(zhǔn)確。
理論上，人工智能武器系統(tǒng)能夠減少戰(zhàn)場上的平民傷亡。計算機(jī)處理信息的速度比人類更快，并且不會受到戰(zhàn)斗帶來的生理和情緒壓力的影響。在激烈交火中，計算機(jī)還可以更準(zhǔn)確地判斷房子后面突然出現(xiàn)的是敵軍士兵還是一名兒童。
但人權(quán)活動家和許多人工智能研究者卻警告，面對是否要扼殺一個人的生命這個對所有人而言都最重要的決定，今天基于機(jī)器學(xué)習(xí)的算法在實踐中并不值得信任。圖像識別軟件在某些測試中雖然能夠媲美人類的能力，但在許多現(xiàn)實場景中，比如雨天或雪天環(huán)境，或者在光影對比明顯的環(huán)境下，這類軟件有明顯的不足。
它經(jīng)常會犯一些人類從來不會犯的稀奇古怪的錯誤。例如在一次試驗中，研究人員成功欺騙了一個人工智能系統(tǒng)，通過微調(diào)圖像的像素圖案，使系統(tǒng)把一只烏龜識別成一把步槍。
即使目標(biāo)識別系統(tǒng)可以做到完全精確無誤，自動武器依舊會帶來嚴(yán)重的威脅，除非它能夠理解整個戰(zhàn)場上的細(xì)微差別。比如，人工智能系統(tǒng)可以準(zhǔn)確識別敵軍坦克，卻無法理解它停靠的地點在一家幼兒園旁邊，為避免平民受傷不應(yīng)該發(fā)動攻擊。
支持禁止使用自動武器的人們還強(qiáng)調(diào)了“殺戮機(jī)器人”的危險，例如大量價格相對低廉的小型無人機(jī)群經(jīng)過改造能夠投放具有殺傷性的手榴彈，或者改造成巡飛彈。理論上，這類無人機(jī)群可以用于殺死某個區(qū)域內(nèi)的所有人，或者實施種族滅絕，殺死具有某類種族特征的所有人，甚至能夠利用面部識別技術(shù)來執(zhí)行暗殺。
麻省理工學(xué)院（MIT）的物理學(xué)教授、生命未來研究所（Future of Life Institute）的聯(lián)合創(chuàng)始人馬克思·泰格馬克表示，成群結(jié)隊的殺戮機(jī)器人將成為“窮人的大規(guī)模毀滅性武器。”生命未來研究所致力于解決人類面臨的“生存風(fēng)險”。這類自動化武器可能動搖現(xiàn)有的世界秩序，因此他希望美俄等大國至少可以同意禁用這類殺戮機(jī)器人無人機(jī)和巡飛彈，盡管這些國家一直在研發(fā)從機(jī)器人潛艇到無人駕駛戰(zhàn)機(jī)等各種人工智能武器。
聯(lián)合國（United Nations）希望出臺禁令，限制致命自動化武器的開發(fā)和銷售，但到目前為止以失敗告終。聯(lián)合國下屬的委員會用超過八年時間，討論如何處理這類武器，始終未能達(dá)成任何共識。
雖然現(xiàn)在有66個國家支持出臺相關(guān)禁令，但該委員會需達(dá)成共識才能夠運行，而美國、英國、俄羅斯、以色列和印度均持反對立場。中國雖然也在開發(fā)人工智能武器，但已經(jīng)表態(tài)支持禁令，只是在各國沒有簽署條約的情況下，中國不會單方面放棄研發(fā)。
對于殺戮機(jī)器人帶來的反烏托邦未來，生產(chǎn)巡飛彈和其他人工智能武器的公司表示，這些武器只是為了增強(qiáng)人類在戰(zhàn)場上的能力，而不是要取代人類。勒夫·阿里稱：“我們不希望武器自動攻擊。”但他承認(rèn)其公司正在武器中添加基于人工智能的目標(biāo)識別系統(tǒng)，以提高其自主性。他說：“這是為了協(xié)助人類做出必要決策。”
勒夫·阿里指出，即使武器可以找到目標(biāo)，比如發(fā)現(xiàn)一輛敵軍坦克，這并不意味著它是最佳攻擊目標(biāo)。他說：“那輛坦克可能已經(jīng)無法行駛，而附近可能還有一輛更具有威脅性的坦克。”
英國謝菲爾德大學(xué)（University of Sheffield）的計算機(jī)科學(xué)專業(yè)榮譽(yù)教授諾埃爾·夏基是“停止殺手機(jī)器人”（Stop Killer Robots）活動的發(fā)言人。他表示，自動化正在加快戰(zhàn)場的節(jié)奏，人類沒有人工智能協(xié)助識別目標(biāo)可能很難做出有效響應(yīng)。一種人工智能創(chuàng)新必然會增加需求，演變成軍備競賽。夏基稱：“這將導(dǎo)致大規(guī)模人道主義災(zāi)難。”
STM公司生產(chǎn)的Kargu 2無人機(jī)在測試中拍攝的視頻。
圖片來源：Courtesy of STM
致命的科技
人工智能武器已經(jīng)被投入使用，但大多數(shù)武器未經(jīng)人類同意無法選擇和攻擊目標(biāo)。這樣的例子不勝枚舉。
Orca潛水艇
美國海軍正在與波音公司（Boeing）合作開發(fā)一款長51英尺（約15.54米）的潛水艇Orca。其目標(biāo)是使這款潛水艇能夠自動巡航6500海里，可以使用聲吶探測敵軍船只和水雷。這款潛水艇的初始版本未配備武器，但美國海軍表示最新款能夠發(fā)射魚雷。
Kargu 2無人機(jī)
聯(lián)合國曾經(jīng)得出結(jié)論，稱由土耳其公司STM生產(chǎn)的一架小型四旋翼飛行器，在2020年自動攻擊了一個利比亞軍閥的武裝，這讓其名聲大噪。據(jù)稱這是第一次有自殺式無人機(jī)自行選擇攻擊目標(biāo)。但STM否認(rèn)其無人機(jī)具備這一功能。
SGR-A1自動機(jī)槍
由韓國的韓華航空航天公司（Hanwha Aerospace）與高麗大學(xué)（Korea University）聯(lián)合開發(fā)的自動機(jī)槍SGR-A1，旨在幫助韓國守衛(wèi)與朝鮮之間的邊界。據(jù)媒體報道，這款機(jī)槍使用紅外熱成像技術(shù)偵測邊境附近的人員。如果目標(biāo)沒有說出預(yù)先設(shè)定的密碼，這款機(jī)槍就會發(fā)出警報，或發(fā)射橡皮子彈或致命性子彈。
KUB-BLA巡飛彈
俄羅斯正在將這款小型巡飛彈應(yīng)用到烏克蘭戰(zhàn)場。據(jù)其制造商扎拉航空透露，這款無人機(jī)的操作人員可以在發(fā)射前向系統(tǒng)上傳目標(biāo)圖像。之后，這款無人機(jī)將自動定位戰(zhàn)場上的類似目標(biāo)。
忠誠僚機(jī)（Loyal Wingman）
波音公司生產(chǎn)的“忠誠僚機(jī)”無人機(jī)長38英尺（約11.58米），會自動伴飛由飛行員駕駛的戰(zhàn)機(jī)和其他飛行器，提供警報和監(jiān)控，以及預(yù)警導(dǎo)彈襲擊和其他威脅。STM公司生產(chǎn)的Kargu 2無人機(jī)在測試中拍攝的視頻。（財富中文網(wǎng)）
本文另一版本發(fā)表于《財富》雜志2022年4月/5月刊，標(biāo)題為《戰(zhàn)場上的人工智能》（A.I. goes to war）。
翻譯：劉進(jìn)龍
審校：汪皓
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認(rèn)可。 交易和投資涉及高風(fēng)險，讀者在采取與本文內(nèi)容相關(guān)的任何行動之前，請務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
