新京報
2024-01-04 
AI十人談⑨｜齊向東：網絡安全攻防雙方將在AI利用上展開競賽
2023年，AI（人工智能）等新技術在應用端獲得了令人矚目的進步，同時也意味著其在安全性上會產生更多挑戰。
全國政協委員、全國工商聯副主席、奇安信科技集團董事長齊向東在接受新京報貝殼財經記者采訪時表示，2023年AIGC（生成式人工智能）發展迅速，在解放生產力的同時，也給網絡安全帶來更多擔憂。2024年網絡安全形勢將出現變化，攻防雙方將在AI利用方面展開競賽。
AIGC如何給網絡安全造成沖擊？齊向東表示，攻擊者可以通過在訓練數據中加入精心構造的異常數據，破壞訓練數據集的準確性，在向人工智能投喂數據的過程中，也會產生商業機密泄露問題，進而導致企業喪失核心競爭力。他以ChatGPT為例，“人們使用ChatGPT泄露的數據中，有11%是敏感數據”。
他還認為，AI還大幅降低網絡攻擊門檻，網絡攻擊倍增，很多不懂技術的普通人也能成為黑客，同時也提升了黑客的攻擊水平，深度偽造攻擊也可能泛濫。“更嚴重的是武器化問題嚴峻，漏洞自動化挖掘逐漸流行，給安全防護帶來更大挑戰。”
他預測道：“未來可能會出現利用人工智能增強網絡犯罪的熱潮。”
他認為，AIGC能提升安全運營效率，增強網絡安全響應能力，從而改善網絡安全防御的效果。“這將推動攻防雙方的對抗與博弈持續演進。”
齊向東強調，網絡安全企業的責任和使命決定它們應保證AIGC從研發、應用到使用各個環節的安全。“歷史經驗表明，越是先進的東西，出現安全事故帶來的損失和影響就越大。數字工廠網絡安全事件的損失遠遠大于傳統工廠。”
（文章來源：新京報）
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
