新火種
2023-11-02 
與美軍進行人工智能合作，谷歌遭遇內部辭職潮和外部聯名抗議
如何在“不作惡”和“做正確的事”之間選擇，對于一家具有全球影響力的科技公司而言至關重要。因為一旦選錯，很有可能就會引發信任危機。谷歌現在就面臨這樣的困境。
危機源于谷歌與美國軍方合作的一個機器學習項目——Maven項目。谷歌在該項目中向美國國防部提供用于機器學習應用的TensorFlow API接口，以幫助軍事分析人員檢測圖像中的物體。
雙方合作之初，谷歌內部就有員工被點燃了憤怒情緒，認為這次技術合作關乎機器學習發展和使用的道德問題。此后，因為這一項目，谷歌遭到了內部員工上書質疑，人工智能業界、學界也跟進批評。截至美國當地時間5月14日，谷歌已有十幾名員工正式因這一項目向谷歌請辭，以抗議公司繼續參與軍方的Maven項目。同時，學術界有364名人工智能專業人士也聯名上書，反對谷歌。
爭議焦點：Maven項目
2017年4月，美國軍方提出Maven項目。Maven的目標是“加快國防部整合大數據和機器學習”，也被美國國防部稱為算法戰爭跨功能團隊（AWCFT：Algorithmic Warfare Cross-Functional Team）。據《華爾街日報》的報道，美國國防部在2017年人工智能相關領域的花費為74億美元。
Maven的首要任務是幫助美國國防部有效地處理來自全球各地的海量的視頻資料。美國國防部每天收集到數量龐大的無人機飛行畫面，但人類圖像分析師遠遠跟不上視頻數量的增長。因此，國防部希望能利用機器學習來識別無人機鏡頭中的車輛和其他物體，從而減輕分析人員的負擔。在自身資源不足的情況下，國防部轉向了學界與業界的人工智能專家合作。
在這一爭議項目中，谷歌提供的TensorFlow是一款人工智能領域里的免費開放軟件，也是谷歌人工智能戰略的關鍵。它為機器學習工程師提供了進行數據排序和訓練算法的框架，并且在整個行業中被廣泛使用。
“我們長期與政府機構合作為其提供技術解決方案。這個特定項目是國防部的試點項目，提供開源的TensorFlow API，可以幫助其識別未分類數據中的對象。”谷歌發言人曾就這次合作評論到。
根據國防部的說法，Maven利用最先進的計算機視覺技術，能夠自動檢測和識別無人機全動態攝像機捕獲的38種物體。這種技術目前已經部署在法律執行和軍事應用中，用來識別汽車和人等基本物體。
但新技術并非總能帶來便利，已經有研究人員發出警告，人工智能技術可能會以不易察覺的方式產生重大偏見。例如，ProPublica新聞網站就曾在一份報道中指出，美國警方用于預測囚犯再度犯法可能性的算法經常表現出種族歧視傾向。
面對質疑，美國軍方強調，只會將人工智能作為人類收集情報的合作伙伴。但這并不能保證計算機輔助決策不會引發錯誤。人類無人機操作員可能過分依賴有缺陷的計算機分析結果，如果沒有適當的監督，這些缺陷可能會被忽視。
項目成立之初，谷歌也注意到了這個問題，其發言人當時表公司正在起草一份關于機器學習使用的政策和防護安全措施文件，但據知情人士了解，這份文件的起草還未實施。
輿論壓力：谷歌“不作惡”？
谷歌母公司Alphabet原董事長的埃里克·施密特（Eric Schmidt）曾在一次談話中說到科技圈與軍方合作關系的擔憂。
施密特表示，“技術社區普遍擔心軍事和工業結合體，會被作為不正當殺人利器，”同樣也是國防創新委員會成員的他補充說，“我不會在軍隊內部提供Alphabet的東西。”
但谷歌公司在Maven項目中的態度，讓谷歌的員工產生了懷疑。他們從一開始的憤怒，逐漸轉為失望。
在今年4月初，大約有3100多名谷歌員工簽名，向谷歌現任CEO桑達爾·皮查伊（Sundar Pichai）提交了一封信，要求皮查伊立即取消參與Maven項目，并起草并公開一份清晰的政策表明：谷歌和它的合作方不會開發用于戰爭的技術。
“谷歌在Maven項目中的相關參與計劃將不可挽回地毀滅谷歌的品牌和它吸納人才的能力。在越來越多的對于人工智能可能會偏激化和武器化的恐懼中，谷歌在獲取公眾信任方面已經顯得力不從心了。這一協議將會使谷歌的聲譽面臨威脅，并將會使谷歌站在其核心價值觀的對立面。”谷歌的員工在信中寫到。
不過，這封信在谷歌內部并沒有起到作用。
在谷歌員工發出聯名信半個月之后，來自谷歌、亞馬遜、微軟和IBM等科技公司的員工聯合發布了一封請愿信，信中稱科技公司不應該參與到與戰爭有關的商業中去，因此谷歌應該中止與美國國防部的合作。
在這封信中，這些科技公司的員工不僅討論了科技公司參與戰爭項目的問題，還討論了用戶的數據問題。由于科技公司擁有大量的全球用戶敏感數據，科技公司與美國國防部達成的商業協議將打破用戶信任。
在學界，也有越來越多的人加入對谷歌的聲討中。5月15日，國際機器人武器控制委員會（ICRAC）向谷歌母公司Alphabet的CEO拉里·佩奇、谷歌現任CEO桑達爾·皮查伊、谷歌云CEO黛安·格林、谷歌云首席科學家、副總裁李飛飛發出了一封公開信，再次要求谷歌停止其與國防部在Maven項目上的合作協議，承諾不去開發軍事科技，并保證不將其搜集的個人數據用于軍事行動。
信中寫到：和許多其他數字技術公司一樣，谷歌收集了大量關于用戶行為、活動和興趣的數據。谷歌不能僅利用這些數據改進自己的技術和擴大業務，還應該造福社會。公司的座右銘是“不作惡”，這是眾所周知的責任。
“像谷歌這樣跨國公司的責任必須與他們的用戶國際化相匹配。根據谷歌所考慮的國防部合同，以及微軟和亞馬遜已經實施的類似合同，這樣的做法標志著擁有大量全球敏感私人數據的科技公司與一個國家軍隊的危險聯盟。它們還表明，谷歌未能與全球公民社會和外交機構進行接觸，這些機構已經強調這些技術的道德風險。”信中稱。
值得一提的是，目前已有364名專家和學者在這封信上簽名，簽名數量也在不斷地增加。
內部面臨辭職潮，外部受到越來越多的輿論壓力，目前，谷歌尚未做出任何解釋。有Facebook和劍橋分析公司（Cambridge Analytica）的丑聞在前，或許谷歌是時候反思自己手上掌握的權利了：如何保證科技不會被用來作惡。畢竟一旦引發道德討論，失去的不僅是客戶，還有用戶的信任。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
