潮新聞
2024-11-23 
齊向東：三大策略破解AI“三化”危機
潮新聞客戶端 記者 張云山 柳蓬
在2024年世界互聯網大會烏鎮峰會上，“人工智能”成為萬眾矚目的焦點。網絡安全技術發展與國際合作論壇上，來自全球網絡安全技術領域的政、產、學、研嘉賓齊聚一堂，圍繞“智能向善，人工智能安全風險與治理”的主題展開熱烈討論。
全國政協委員、全國工商聯副主席、奇安信集團董事長齊向東在會上發表主題演講，針對AI面臨的黑箱化、黑產化、武器化“三重危機”，提出了三大安全策略，為AI的健康發展保駕護航。
奇安信集團董事長齊向東發表主題演講。
齊向東表示，人工智能的“三化”危機正日益加劇。AI黑箱化導致內容生成良莠不齊，攻擊者可以輕易利用漏洞篡改大模型輸出內容，甚至直接癱瘓模型。在今年的實網攻防演練中，奇安信攻擊隊就成功攻破了某AI大模型，展示了這一風險的嚴峻性。
AI黑產化更是讓深度偽造泛濫成災。不法分子利用AI技術偽造圖像、音視頻等內容，實施詐騙，公眾和企業深受其害。齊向東指出，深度偽造技術已經成為網絡詐騙的新手段，必須引起高度重視。
至于AI武器化，更是讓黑客攻擊愈演愈烈。人工智能可以生成惡意軟件、釣魚郵件，快速發現目標系統中的漏洞，大幅降低網絡攻擊門檻。不懂代碼、不懂技術的普通人也能借助AI成為黑客，網絡空間的安全形勢愈發嚴峻。
面對這些挑戰，齊向東提出了三大安全策略。首先，要通過多維度體系化防護，確保AI大模型在基礎運行環境、訓練環境、API接口以及數據安全等方面的合規性。奇安信打造的大模型衛士和AI安全整體應對方案，正是為了解決這一問題而生。
其次，要用“鑒偽”“防偽”技術有效遏制深度偽造。奇安信自研的深度鑒偽模型能夠準確識別多種前沿AI偽造技術生成的虛假圖片視頻，為政府執法等部門提供了有力支持。
最后，要用安全大模型反哺安全能力大提升。奇安信在內生安全體系之上，部署了自研的QAX-GPT安全大模型，不僅讓大模型更懂客戶業務，也讓安全體系效率更高、能力更強。AI安全大模型的研判效率已經提到了人工的60多倍，實現了安全運營模式的智慧化轉型。
齊向東強調，有了高效的安全治理，AI才有未來。奇安信將運用好技術優勢，為AI安全治理貢獻更多力量，努力為全社會營造更加和諧、更加繁榮的未來。
“轉載請注明出處”
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
