首頁 > AI資訊 > 行業應用 > 國家安全部發文:如何化解人工智能帶來的國家安全挑戰?

國家安全部發文:如何化解人工智能帶來的國家安全挑戰?

新火種    2023-11-20
國家安全部發文:如何化解人工智能帶來的國家安全挑戰?

文丨珍妮

今年以來,以 ChatGPT 為代表的人工智能大模型滲透到各行各業,引發了新一輪人工智能革命。但同時也帶來包括技術內在風險引發安全隱患、人機關系變化深化科學倫理失范、技術躍進引發人類社會發展等挑戰。

今日,國家安全部發文《如何化解人工智能帶來的國家安全挑戰》。

文章羅列了數據竊取、網絡攻擊、經濟安全、" 數據投毒 " 以及軍事安全等人工智能可能帶來的國家安全領域的風險,強調完善法律法規、加強前瞻布局、堅決打擊犯罪并推動全球治理等舉措。

其中,在數據竊取方面,人工智能需要海量的數據來進行學習和訓練,這些數據中可能包含用戶大量敏感信息。如果這些信息被濫用或泄露,可能會對個人隱私、國家安全造成嚴重危害。

因此,在法律法規方面,應聚焦人工智能重點領域安全應用、倫理道德約束等方面,制定更多更明確的法規政策、行業規范,保障人工智能研發和應用中的個人隱私與數據安全,確保人工智能安全、可靠、可控。

此前,我國頒布的《生成式人工智能服務管理暫行辦法》在算法、內容、應用、數據安全等方面對生成式人工智能進行了全面的規制。依據此文件,數據提供者、算法 / 模型開發者以及服務提供者可以采取多種方式共同構建可信賴的人工智能。

在網絡攻擊方面,在人工智能的協助下,網絡攻擊者可以隨時隨地對特定目標輕易發起針對性和隱蔽性很強的進攻,將互聯網空間變成人人自危的 " 黑暗森林 "。

因而,必須支持以人工智能技術防范人工智能風險,積極發展用于人工智能治理的相關技術開發與應用,貫徹敏捷治理和多維治理原則,積極構建多方參與的人工智能治理體系,推動各國在人工智能治理中加強信息交流和技術合作,共同做好風險防范。

中國在 11 月 1 日參加了英國的首屆全球人工智能安全峰會,與多方談論關于人工智能技術快速發展帶來的風險與機遇。會上,28 國簽署《布萊切利宣言》,旨在管理新興人工智能工具帶來的重大安全風險。

中國科技部副部長吳朝暉在開幕禮上發言表示,中方愿與各方加強在人工智能安全領域的對話與溝通,為建立全球參與、需廣泛共識的治理框架作出貢獻。

此外,為了實現人工智能的遠大前景并避免風險,10 月 30 日,美國總統拜登也發布人工智能行政令,重點關注安全、隱私、保護工人和保護創新等領域。

雖說國內人工智能 " 大模型 " 已具備一定基礎,但與 ChatGPT 還存在一定差距,其背后面臨數據、算力和創新環境等深層次制約。需從戰略高度重視 ChatGPT 引發的新一輪人工智能革命,瞄準大模型、整合大數據、布局大算力,實施包容審慎監管,為新事物發展留足空間,加快搶占未來科技競爭制高點。

相關推薦
免責聲明
本文所包含的觀點僅代表作者個人看法,不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險,讀者在采取與本文內容相關的任何行動之前,請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。

熱門文章