財聯社
2023-11-29 
美英等18國簽署AI安全指南美國官員：應在設計時就確保安全
財聯社11月28日訊（編輯 夏軍雄）當地時間周一（11月27日），美國網絡安全與基礎設施安全局局長珍·伊斯特利表示，鑒于人工智能（AI）迅猛發展帶來的潛在威脅，需要從一開始就在系統中內置保障措施，而不是事后才添加。
伊斯特利周一接受了媒體采訪，她指出，科技產品問世時往往充滿了漏洞，然后根據消費者的反饋來修補這些漏洞，這已經是司空見慣的現象，但絕不能也發生在AI領域。
伊斯特利說：“它太強大了，發展太快了。”
當地時間26日，美國、英國等18個國家的網絡安全機構公布一份國際協議，一致認定企業需要在設計和使用AI系統時確保消費者等廣大公眾的安全。
這份協議并不具備約束力，大多是提出總體建議，包括監控濫用AI系統現象，防止數據遭干預，審核軟件供應商資質。
該協議名為《安全AI系統開發指南》，由英國國家網絡安全中心同美國網絡安全和基礎設施安全局與行業專家以及來自其他21個國際機構和部委合作制定。
除了美國和英國之外，簽署該協議的國家還包括加拿大、法國、德國、以色列、意大利、日本等。
伊斯特利26日發表講話稱，新的AI監管指南重點關注安全設計、開發、部署和維護。
加拿大網絡安全中心負責人Sami Khoury表示：“我們必須關注AI（產品）功能整個生命周期的安全性。”
上月底，美國總統拜登簽署一項具有里程碑意義的行政命令，推出白宮有關生成式AI的首套監管規定，要求對AI產品進行測試，并將測試結果報告給聯邦政府。
本月早些時候，在英國舉行的首屆AI安全峰會上，在業內處于領先地位的AI開發商同意與政府合作，在新的前沿模型發布之前對其進行測試，以幫助管理AI快速發展帶來的風險。
伊斯特利表示：“我認為，我們目前已經盡了最大的努力，促進世界各國和科技公司合作，從技術角度闡述如何盡可能安全可靠地構建這些能力。”
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
