新火種
2024-12-19 
如何應對人工智能帶來的認知安全挑戰？院士提出四點對策
12月5日，2024第三屆北外灘網絡安全論壇在上海“世界會客廳”舉行。多位院士專家與會，共同探討網絡安全技術的最新進展、分享標桿案例與應用經驗，探索多層次、多維度合作機制，推動構建更加安全、可靠的網絡空間。
論壇上，中國工程院院士、中國信息安全測評中心專家委員會副主任黃殿中發表了題為《智能時代網絡空間認知安全新觀察》的主旨演講。
黃殿中院士發表主旨演講。澎湃新聞記者 徐亦嘉 圖
黃殿中從人工智能革命掀起認知安全新浪潮、人工智能技術塑造認知安全新范式、人工智能治理構建認知安全新秩序等三個方面，探討了人工智能在網絡安全中的應用以及改變國際認知格局等議題。
在黃殿中看來，人工智能技術的發展和應用已成為認知安全格局中的關鍵因素，將給全球權力結構和國際關系帶來深刻變革。尤其是近兩年來，以生成式智能為代表的人工智能技術與應用發展，被視為推動新一輪科技革命發展的風向標。而在國家戰略層面，人工智能已成為大國競爭的關鍵賽道。
人工智能作為引領未來的戰略性基礎，新一代人工智能、特別是生成式人工智能導致認知安全態勢呈現巨大變化，使得人工智能治理的重要性和緊迫性日益凸顯。此外，深度偽造、社交媒體機器人、精準算法推薦等技術助推了認知域安全性的復雜化。如何在保持技術創新活力的同時，有效地防范認識安全風險，已成為全球人工智能企業的重要議題。
對此，黃殿中分享了4個應對的策略：一是以創新應對，加快認知安全防護技術的突破。未來，中國需從理論角度，分析以人工智能技術來應對智能化認知安全挑戰，加快認知安全防護技術的突破；二是以法治應對，完善認知安全法律制度。打造具有中國特色的治理模式，有效地實現認知威脅的防范，確保技術發展遵循人類共同的價值觀；三是以協同應對，構建認知安全協作機制。要積極推動多部門協作，通過政策協調、資源整合和跨地域的合作，推動技術創新和行業應用的加速落地，打造具有國際競爭力的人工智能產業集群；四是以良知應對，共建認知安全的數字未來。要堅持以人為本，智能向善，從社會治理角度完善認知安全的治理。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
