新火種
2023-11-15 
美軍方鷹派：人工智能已經(jīng)處于戰(zhàn)爭狀態(tài)
11月1日至2日，首屆人工智能安全峰會(huì)在英國布萊奇利園舉行。美國、英國、歐盟、中國、印度等近30個(gè)國家和地區(qū)代表就人工智能技術(shù)快速發(fā)展帶來的風(fēng)險(xiǎn)與機(jī)遇展開討論。峰會(huì)發(fā)布的《布萊奇利宣言》指出，人工智能的許多風(fēng)險(xiǎn)本質(zhì)上是國際性的，因此“最好通過國際合作來解決”。
宣言并沒有指出具體的合作路線圖。但值得肯定的是，這是國際社會(huì)共同商討人工智能技術(shù)發(fā)展與應(yīng)用的一個(gè)好的起步。對于各國應(yīng)該采取何種應(yīng)對舉措，今年已有智庫學(xué)者呼吁中美等大國合作，共同監(jiān)管AI（詳見《美智庫：中美應(yīng)該合作監(jiān)管AI》）。就在英國人工智能安全峰會(huì)舉辦之際，曾于2009年到2012年擔(dān)任美國國防部國防政策次長的米歇爾·弗洛諾伊（Michèle Flournoy）在《外交事務(wù)》雜志發(fā)文，談及了人工智能對美國國防和情報(bào)工作及戰(zhàn)爭模式帶來的“變革”。她呼吁美國加大對人工智能的研發(fā)和在軍隊(duì)中的應(yīng)用，以掌握超越對手的優(yōu)勢地位。
弗洛諾伊曾是拜登優(yōu)先考慮的國防部長人選，但由于她和軍工企業(yè)關(guān)系過密，以及她曾在美國政府在利比亞和中東的軍事干預(yù)中擔(dān)任過的職務(wù)，遭到民主黨內(nèi)進(jìn)步勢力的反對。鑒于她和克林頓、奧巴馬兩屆民主黨政府的人脈關(guān)系，希拉里當(dāng)年也曾計(jì)劃在勝選后提名她擔(dān)任首位女防長。她的職業(yè)生涯體現(xiàn)了美國政府、智庫與企業(yè)之間典型“旋轉(zhuǎn)門”經(jīng)歷。她曾加入智庫“戰(zhàn)略與國際問題研究中心”，并協(xié)助創(chuàng)辦保守智庫“新美國安全中心”（CNAS）。兩家機(jī)構(gòu)都接收過軍工企業(yè)的大量資助。2012年從奧巴馬政府離職后，弗洛諾伊又加入軍工合作企業(yè)“波士頓咨詢集團(tuán)”。2017年，弗洛諾伊參與創(chuàng)辦了政治戰(zhàn)略咨詢公司W(wǎng)estExec Advisors，幫助軍工企業(yè)向五角大樓推銷訂單。
她在美國軍事政策圈有很大的影響力，被視為“超級鷹派”，主張通過軍事手段強(qiáng)力干涉中國臺海和南海事務(wù)。在人工智能領(lǐng)域，她的見解以維護(hù)美國的軍事霸權(quán)地位為出發(fā)點(diǎn)，認(rèn)為人工智能已經(jīng)引發(fā)一場安全革命，美國必須加速發(fā)展人工智能，并積極招攬優(yōu)秀人才。同時(shí)她也希望美國在AI研發(fā)方面做好“護(hù)欄”，平衡好AI速度與安全的關(guān)系以及倫理道德和責(zé)任方面的要求。比如，她主張五角大樓禁止在核武器指揮控制系統(tǒng)中使用人工智能，并敦促其他核大國也這樣做。她也希望美國與中國討論人工智能。
一些研究人員擔(dān)心人工智能的危險(xiǎn)，呼吁暫停發(fā)展AI。但是，弗洛諾伊認(rèn)為，阻止美國人工智能的進(jìn)步是不可能的：人工智能的數(shù)學(xué)基礎(chǔ)無處不在，創(chuàng)造人工智能模型的人類技能已廣泛擴(kuò)散，驅(qū)動(dòng)人工智能研發(fā)的人類創(chuàng)造力和商業(yè)收益亦非常強(qiáng)大。試圖阻止AI進(jìn)步也是一個(gè)錯(cuò)誤。她在文章中提到，中國正在努力在人工智能方面超越美國，特別是在軍事應(yīng)用方面。如果成功，中國將擁有一支更強(qiáng)大的軍隊(duì)，其行動(dòng)能力、速度和效果，都有可能超過美國。中國使用網(wǎng)絡(luò)和電子戰(zhàn)對抗美國網(wǎng)絡(luò)和關(guān)鍵基礎(chǔ)設(shè)施的能力也將增強(qiáng)。簡而言之，五角大樓需要加速部署負(fù)責(zé)任的人工智能。如果不這樣做，華盛頓可能會(huì)失去保障美國利益、盟友和伙伴安全以及基于規(guī)則的國際秩序的軍事優(yōu)勢。
以下是她文章的主要內(nèi)容。
----
2002年，一支特別行動(dòng)小組演習(xí)突襲一處恐怖分子藏身之所。小組悄悄接近一座專門為軍事訓(xùn)練而修建的兩層樓，里面藏著一個(gè)虛構(gòu)的恐怖分子頭目。一名士兵小心翼翼地走近一扇開著的窗戶前，扔進(jìn)一架由人工智能駕駛的小型無人機(jī)。這架人工智能無人機(jī)開始在大樓里自動(dòng)飛行，一個(gè)房間接一個(gè)房間，將攝像頭拍攝的畫面直接傳送到外面指揮官的手持平板電腦上。在短短幾分鐘內(nèi)，該小組就對大樓內(nèi)部的情況有了全面的了解，知道哪些房間是空的，哪些房間有家庭成員正在睡覺，以及頭號目標(biāo)所處位置。行動(dòng)小組進(jìn)入大樓時(shí)知道具體的行動(dòng)路線，減少了每個(gè)成員面臨的風(fēng)險(xiǎn)。這次演習(xí)很成功：如果是真的，這支隊(duì)伍早就殺死恐怖分子頭目了。
這架由人工智能駕駛的四軸飛行器由Shield AI設(shè)計(jì)，后來被用于實(shí)際作戰(zhàn)。這只是人工智能開始重塑美國國家安全的方式之一。美國軍方正在使用人工智能來優(yōu)化從設(shè)備維護(hù)到預(yù)算決策的一切工作。情報(bào)分析師依靠人工智能快速掃描海量信息，以識別相關(guān)模式，使他們能夠做出更快、更好的判斷。在未來，人工智能也會(huì)改變美國及其對手在戰(zhàn)場上的作戰(zhàn)方式。
簡而言之，人工智能引發(fā)了一場安全革命，而這場革命才剛剛開始展開。
美國AI發(fā)展現(xiàn)狀與不足
加速部署AI，說起來容易做起來難。在人工智能研發(fā)方面，美國可能處于世界領(lǐng)先地位，美國政府仍在努力快速、大規(guī)模地采用人工智能等創(chuàng)新技術(shù)。但它還沒有雇用足夠的專業(yè)技術(shù)人員來測試、評估、采購和管理AI產(chǎn)品。它仍在構(gòu)建支持大型人工智能模型所需的數(shù)據(jù)和計(jì)算機(jī)基礎(chǔ)設(shè)施。它缺乏所需的靈活資金，無法迅速采用最有前途的人工智能原型，并在各機(jī)構(gòu)之間進(jìn)行推廣。它還沒有建立測試和評估流程和平臺，以確保任何集成到美軍系統(tǒng)中的人工智能都是安全、可靠和可信的。如果美國要將人工智能用于動(dòng)用武力方面，就必須保持非常高的安全性和可靠性門檻。
▲美軍在人工智能基地測試無人機(jī)。
美國政客和國防官員都意識到了這些問題。美國國會(huì)正在討論如何監(jiān)管該行業(yè)，同時(shí)保持其全球競爭力。但國會(huì)尚未采取行動(dòng)，五角大樓的人工智能框架的實(shí)施仍在進(jìn)行當(dāng)中。盡管五角大樓設(shè)立了“首席數(shù)字和人工智能辦公室（CDAO）”，但美國國會(huì)尚未為該辦公室提供所需的資源。為了確保人工智能的國防應(yīng)用既安全又成功，五角大樓需要進(jìn)一步加強(qiáng)人工智能護(hù)欄，增加新的技術(shù)人員，并開發(fā)用來測試和采購人工智能的新方法。時(shí)不我待，美國一旦落后，面臨的風(fēng)險(xiǎn)太高。
AI對美軍帶來的改變
盡管相關(guān)政策和法規(guī)仍在制定中，但人工智能已經(jīng)在改變美國的安全。例如，美國空軍正開始使用人工智能來幫助其分配資源，并預(yù)測單個(gè)決策如何影響其項(xiàng)目和預(yù)算。軍方也開始使用人工智能模型從平臺的傳感器收集數(shù)據(jù)，維護(hù)復(fù)雜的武器系統(tǒng)。這些幫助美軍維護(hù)武器系統(tǒng)的見解非常有用，但它們只是“預(yù)測型人工智能”（Predictive AI）的起步功能。美國情報(bào)界和幾個(gè)美國作戰(zhàn)司令部正在使用人工智能篩選大量機(jī)密和非機(jī)密數(shù)據(jù)，以識別行為模式并預(yù)測未來的國際事件。比如，在情報(bào)界，人工智能幫助分析人士提前數(shù)月預(yù)測俄羅斯入侵烏克蘭，使美國能夠向世界發(fā)出警告，并讓俄羅斯總統(tǒng)·普京措手不及。
“預(yù)測型人工智能”還可以讓美國更好地了解中國的想法。冷戰(zhàn)頂峰時(shí)期，美國有大批專家研究蘇聯(lián)決策，而美國現(xiàn)在仍在研究中國政府如何將政策轉(zhuǎn)化為具體行動(dòng)。例如，美國情報(bào)界可以開發(fā)一個(gè)大型語言模型，納入中國官方所有可用的文字和演講，以及美國自己針對這些數(shù)據(jù)的情報(bào)報(bào)告，然后模擬中國可能會(huì)如何執(zhí)行既定政策。
人工智能還可以以其他方式支持軍事行動(dòng)。例如，如果對手要干擾或攻擊美國的指揮、控制和通信網(wǎng)絡(luò)系統(tǒng)時(shí)，人工智能可以啟用智能交換和路由代理，對傳感器、決策者和射擊者之間的信息流進(jìn)行重新定向，以確保它們保持連接并保持態(tài)勢感知。美國具備這些能力對于確保其與盟友能夠比對手更快地做出更好的決策至關(guān)重要。
人工智能還可以通過放大個(gè)人在戰(zhàn)場上的表現(xiàn)來進(jìn)一步幫助美國和盟國部隊(duì)。目前，美國正在開發(fā)的一些人工智能應(yīng)用程序允許單個(gè)操作員控制多個(gè)無人系統(tǒng)，例如空中、水上或海底的一群無人機(jī)。例如，戰(zhàn)斗機(jī)飛行員可以使用一群飛行的無人機(jī)來迷惑或壓倒對手的雷達(dá)和防空系統(tǒng)。
五角大樓最近宣布了“復(fù)制者”（Replicator）無人機(jī)計(jì)劃，該計(jì)劃承諾在未來兩年內(nèi)部署數(shù)千個(gè)小型、智能、低成本、可消耗的自主系統(tǒng)。這種人機(jī)合作可能會(huì)在臺海沖突中發(fā)揮至關(guān)重要的作用。如果中國決定武統(tǒng)臺灣，美軍長途跋涉且數(shù)量少，不具備作戰(zhàn)優(yōu)勢。如果美軍可以用大量相對便宜的“無人系統(tǒng)”來增強(qiáng)其“載人平臺”，如戰(zhàn)斗機(jī)、轟炸機(jī)、艦艇和潛艇，它可以在一定程度上彌補(bǔ)相對劣勢，并使中國軍隊(duì)的行動(dòng)更加復(fù)雜化。
如何和大國競爭？
當(dāng)然，中國無意將技術(shù)主導(dǎo)地位拱手讓給美國。中國正在努力開發(fā)自己的先進(jìn)人工智能軍事應(yīng)用。中國在許多與美國相同的人工智能用例上投入了大量資金，比如監(jiān)視、目標(biāo)識別和無人機(jī)群。在大國技術(shù)競爭中，中國有一些明顯的優(yōu)勢。與華盛頓不同，中國可以決定其國家的經(jīng)濟(jì)優(yōu)先事項(xiàng)，并分配任何必要的資源來實(shí)現(xiàn)人工智能目標(biāo)。由于中國實(shí)行“軍民融合”政策，中國軍方隨時(shí)可以吸引中國專家和公司為其工作。到2025年，中國在科學(xué)、技術(shù)、工程和數(shù)學(xué)領(lǐng)域培養(yǎng)的博士研究生數(shù)量將是美國的近兩倍，特別是有才華的計(jì)算機(jī)科學(xué)家將涌入中國經(jīng)濟(jì)系統(tǒng)。
美國有自己獨(dú)特的優(yōu)勢，即美國的市場經(jīng)濟(jì)和政治體制。它在硅谷、奧斯汀大都會(huì)區(qū)、馬薩諸塞州128號公路走廊和其他地方擁有無與倫比的創(chuàng)新生態(tài)系統(tǒng)。它也擁有一個(gè)充滿活力的風(fēng)險(xiǎn)資本和私募股權(quán)生態(tài)系統(tǒng)，吸引了無可比擬的國內(nèi)和國際投資。它是世界上許多頂尖大學(xué)的所在地，使得它能夠吸引和留住一些世界上最好的科技人才。事實(shí)上，硅谷一半的初創(chuàng)公司至少有一位創(chuàng)始人是移民。
為了讓美國更好地贏得AI競爭，美國國防部和情報(bào)界將不得不在加速人工智能應(yīng)用方面投入更多資金。他們可以從建立共享相同標(biāo)準(zhǔn)的通用數(shù)字基礎(chǔ)設(shè)施系統(tǒng)開始，以確保互操作性。工具的好壞取決于操作它們的專業(yè)人員。而目前，美國國防部還沒有一支熟練掌握數(shù)字技術(shù)的員工隊(duì)伍。很少有人對人工智能有足夠的了解，能夠正確地管理其使用、測試和評估人工智能工具，以確保它們符合五角大樓的“負(fù)責(zé)任的人工智能”（Responsible AI）標(biāo)準(zhǔn)，或者評估哪種人工智能模型最能滿足軍方或國防部的需求。
為了吸引更多的人工智能人才，并更好地利用現(xiàn)有的技術(shù)勞動(dòng)力，美國國防部需要改進(jìn)招募和管理數(shù)字技能員工的方式。所有現(xiàn)有的軍事院校都應(yīng)該開始教授人工智能的基礎(chǔ)知識，五角大樓還應(yīng)該建立一所美國數(shù)字服務(wù)學(xué)院，教育和培訓(xùn)有抱負(fù)的文職技術(shù)人員，為他們提供免費(fèi)的大學(xué)教育，以換取他們承諾在畢業(yè)后至少為政府服務(wù)五年。最后，國防部應(yīng)該建立一支數(shù)字后備軍，讓來自美國各地的技術(shù)工作者可以自愿兼職為國家服務(wù)。最重要的是，五角大樓必須改進(jìn)工作方式，像私營部門那樣招攬和利用外部人才。
盡管內(nèi)部改革將幫助五角大樓加快進(jìn)展，但國防官員也需要國會(huì)的持續(xù)支持，才能跟上中國同行的步伐。為此，國會(huì)應(yīng)該給予國防部更靈活的資金，使其能夠以最佳方式管理人工智能項(xiàng)目。美國還需要繼續(xù)吸引世界上最優(yōu)秀的科技人才，包括改革美國移民制度，讓專業(yè)技術(shù)學(xué)生和工人能夠來到美國并留在美國。比如，現(xiàn)在的教育簽證不允許外國學(xué)生在畢業(yè)后在美國停留超過三年。由此導(dǎo)致的結(jié)果是：美國機(jī)構(gòu)培養(yǎng)了許多世界上最好的技術(shù)專家，結(jié)果卻把他們送走了。他們中的許多人是中國人，并返回了中國。
簡而言之，美國正在將急需的外國人才拒之門外，這些人才愿意為美國在人工智能和其他關(guān)鍵技術(shù)領(lǐng)域的競爭力方面做出有意義的貢獻(xiàn)。
高風(fēng)險(xiǎn)與高回報(bào)
人工智能對美國的未來安全至關(guān)重要，但也會(huì)帶來重大風(fēng)險(xiǎn)。比如，人工智能已經(jīng)加速了網(wǎng)上虛假信息的傳播，并在招聘中助長了無意的歧視。計(jì)算機(jī)科學(xué)家認(rèn)為，人工智能也可以實(shí)現(xiàn)“機(jī)器速度”的自動(dòng)網(wǎng)絡(luò)攻擊；化學(xué)家已證明，人工智能可以合成化學(xué)武器；生物學(xué)家擔(dān)心人工智能可能被用來設(shè)計(jì)新的病原體或生物武器。這些風(fēng)險(xiǎn)非常嚴(yán)重，甚至連人工智能行業(yè)的領(lǐng)導(dǎo)者都發(fā)出了警告。2023年5月，幾乎所有美國的人工智能實(shí)驗(yàn)室的負(fù)責(zé)人都簽署了聯(lián)合聲明，警告他們的發(fā)明可能對人類的生存構(gòu)成威脅。
事實(shí)上，國家安全屬于人工智能風(fēng)險(xiǎn)最嚴(yán)重的人類活動(dòng)領(lǐng)域。例如，人工智能模型可能會(huì)錯(cuò)誤地將人或物體識別為目標(biāo)，從而在沖突期間導(dǎo)致意外死亡和破壞。在一種情況下可能是完全理性和負(fù)責(zé)任的AI模型，在另一種情況下卻可能是不合邏輯且危險(xiǎn)的。五角大樓意識到了這些風(fēng)險(xiǎn)，并于2020年2月發(fā)布了一套規(guī)范人工智能使用方式的倫理原則。對于自動(dòng)和半自動(dòng)武器，美國國防部發(fā)布了更具體的指導(dǎo)意見。例如，任何人工智能武器都必須能夠區(qū)分戰(zhàn)場上的戰(zhàn)斗人員和非戰(zhàn)斗人員。
五角大樓還禁止在核武器指揮控制系統(tǒng)中使用人工智能，并敦促其他核大國也這樣做。雖然這些“負(fù)責(zé)任的人工智能”規(guī)則在美國防務(wù)界的領(lǐng)導(dǎo)層中已經(jīng)達(dá)成了很大共識，但將它們付諸實(shí)踐絕非易事，尤其是考慮到美國國防裝備的規(guī)模。目前，五角大樓已經(jīng)啟動(dòng)了這一進(jìn)程，但仍處于初級階段。
盡管如此，五角大樓進(jìn)一步加強(qiáng)（“負(fù)責(zé)任的人工智能”）指導(dǎo)方針將是明智之舉。倫理原則從一開始就應(yīng)該被視為國防人工智能模型設(shè)計(jì)的必要特征。除非公眾相信它將以有效、負(fù)責(zé)任、道德和合法的方式使用人工智能，否則美國軍方將無法加速人工智能的部署。五角大樓應(yīng)該考慮讓供應(yīng)商對他們?nèi)绾伍_發(fā)人工智能設(shè)置護(hù)欄。例如，如果一家公司想向軍方提供人工智能，國防部可能會(huì)要求它滿足嚴(yán)格的數(shù)據(jù)保護(hù)和網(wǎng)絡(luò)安全標(biāo)準(zhǔn)。通過這樣做，五角大樓可以幫助人工智能變得更安全。
和中國與盟友的對話與合作
當(dāng)然，美國不能單憑一己之力確保人工智能的開發(fā)和使用是負(fù)責(zé)任的。其他國家，包括競爭對手，也將不得不采取政策保障和規(guī)范。2021年11月，193個(gè)國家批準(zhǔn)了一項(xiàng)關(guān)于人工智能倫理的全球協(xié)議《人工智能倫理問題建議書》，這是世界上第一個(gè)此類協(xié)議。該文本確定了共同的價(jià)值觀和原則，用以指導(dǎo)建設(shè)必需的法律框架來確保人工智能的發(fā)展。盡管這項(xiàng)協(xié)議是一個(gè)重要的基礎(chǔ)，但美國應(yīng)該尋找與中國討論人工智能的渠道，就像它在冷戰(zhàn)期間與蘇聯(lián)討論核武器和其他形式的軍備控制一樣。除此以外，美國還必須與其盟友和伙伴密切合作，保持一致行動(dòng)。
在國家安全領(lǐng)域，人工智能的進(jìn)步體現(xiàn)了另一種“摩爾定律”。未來幾年，無論哪支軍隊(duì)首先掌握了將數(shù)據(jù)和人工智能的使用進(jìn)行組織、整合和制度化，那么它將獲得軍力的指數(shù)級進(jìn)步，使其具有比對手更顯著的優(yōu)勢。在這方面，美國不能落后。但國家安全機(jī)構(gòu)也承擔(dān)不起疏忽大意而導(dǎo)致的后果。如果沒有適當(dāng)?shù)谋Ｗo(hù)措施，人工智能模型可能會(huì)造成各種意想不到的傷害。
美國似乎面臨一個(gè)困境：減緩人工智能發(fā)展的風(fēng)險(xiǎn)高得令人無法接受，但在沒有必要預(yù)防措施的情況下加速發(fā)展人工智能的的風(fēng)險(xiǎn)也同樣令人無法接受。美國的政策制定者似乎理解這個(gè)悖論。美國國會(huì)領(lǐng)導(dǎo)人知道，監(jiān)管過嚴(yán)可能會(huì)促使最優(yōu)秀人才離開美國，這樣美國就會(huì)落后于競爭對手。但兩黨政策制定者也明白，一些監(jiān)管和監(jiān)督對于確保人工智能“被安全和負(fù)責(zé)任地采用”是至關(guān)重要的。
理解這個(gè)問題只是第一步。為了解決這個(gè)問題，平衡速度與安全之間的需求，政策制定者必須采取更好的方法來加速AI采用并確保安全。否則，美國人就有可能陷入一個(gè)人工智能風(fēng)險(xiǎn)不斷上升、美國實(shí)力和影響力不斷下降的境地。
Tags:
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個(gè)人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn)，讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前，請務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
