新火種
2023-11-28 
美國與其他17個國家達成協議，將致力于保護人工智能安全
文 | Britney Nguyen
包括美國在內的18個國家昨天發表了一項國際協議，重點是確保人工智能在開發和部署過程中的安全，并呼吁創建和使用人工智能系統的AI公司在"設計上確保其安全"，以防止不法分子的侵害。這是解決人工智能開發和安全問題的最新一項政府間倡議。
關鍵事實
這份人工智能安全指南由美國國土安全部網絡安全和基礎設施安全局和英國國家網絡安全中心聯合發布。
這份20頁的不具約束力的協議稱，人工智能公司需要保護客戶和公眾的安全，使他們在開發、部署和維護人工智能系統的過程中免受濫用危害。
該協議包括關于保持人工智能系統安全的建議，例如監控濫用、保護數據不受黑客攻擊、確保軟件供應商合法以及建議公司在安全測試后發布模型。
該指南還概述了在設計、開發、部署和維護階段保護人工智能系統的步驟。
德國、意大利、挪威、澳大利亞、智利、尼日利亞和新加坡都是該協議的成員國。
谷歌、微軟和 OpenAI 等組織為制定該指南做出了貢獻。
重要言論
美國網絡安全和基礎設施安全局局長Jen Easterly對路透社表示:“這是我們第一次看到對（AI）這個方面的肯定和承認，即這些技術不應該僅僅是很酷的功能，關于它們的討論也不應該僅僅是我們能多快把它們推向市場，或者我們能如何通過競爭降低成本。”
關鍵背景
今年10月，拜登總統發布了一項內容廣泛的行政令，重點是防范“人工智能的潛在風險”，并鼓勵政府機構和科技行業解決與人工智能開發相關的隱私、信任和安全問題。該行政令還規定，根據冷戰時期的《國防生產法》，開發可能威脅國家安全、經濟或公共健康的人工智能系統的人工智能公司必須與美國政府共享安全測試結果和其他相關信息。據路透社報道，本月早些時候，德國、法國和意大利加入了一項關于監管人工智能的協議，稱他們支持人工智能模型"通過行為準則進行強制性自我管理”。歐洲立法者在起草與人工智能開發和安全相關的立法方面領先于美國，包括面部識別和生物識別監控的規則，但歐盟在最終確定其人工智能法案時也遇到了挫折。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
