新火種
2025-05-06 
瞭望|嚴控大模型服務器“裸奔”
文 | 扈永順
國產大模型DeepSeek掀起大模型私有化部署浪潮。2025年全國兩會期間，全國政協委員、奇安信集團董事長齊向東表示，將近90%私有化部署DeepSeek的服務器都沒有采取安全措施，網絡黑客通過簡單的攻擊語句，就能控制大模型，甚至能拿到大模型后臺數據，造成數據泄露風險。
可以想見，未來隨著大模型普及使用，針對性的惡意手段和風險場景勢必激增，網絡安全防護必須與技術發展同步迭代。
在技術層面，應建立覆蓋終端、應用、數據、模型的立體防護體系，打造適用于AI的立體縱深防御體系。例如開發方面，開源大模型要重點防范代碼缺陷和預留后門等；應用方面，要防對訓練數據投毒，進行模型篡改、配置篡改；數據方面，小心內部配置錯誤和弱口令等造成數據庫暴露；基礎環境方面，重點關注云、傳統設備漏洞等。
在制度層面，重點打造大模型數據安全“雙控機制”，保障大模型穩定運行。對大模型數據輸入側及輸出側開展有效管控，確保大模型數據安全、內容安全、應用安全。一方面，對輸入側數據篩查和消殺，并實施嚴格的訪問控制措施，做好從數據喂養到內容生成的全鏈路安全管控；另一方面，強化輸出側控制，有效防范“認知污染”，通過完善大模型安全“監管沙盒”機制等，在政務大模型等關鍵領域大模型上線前開展深度測試，強化潛在風險的預警控制。
在應用層面，推廣“AI+安全”創新成果落地，走好提升安全能力的必經之路。隨著人工智能應用進一步鋪開，要鼓勵更多產業用上、用好“AI+安全”創新成果，提高千行百業的網絡安全防護效能。■
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
