新火種
2025-04-02 
大模型時代，AI應用爆發“安全攻防戰”
撰文：李信馬
最近，DeepSeek火了，也帶動大模型迎來了又一輪的熱潮。但與此同時，隨著大模型的應用日益廣泛，其中蘊含的風險也引人擔憂。
不久前，F5公司在北京舉辦了新春媒體見面會。會上，F5深入解讀了生成式人工智能（AI）的前沿趨勢，據預測，2025年全球77%的企業將部署生成式AI以提升生產力；2028年，84%的應用將成為AI應用或具備AI推理能力。
與此同時，作為全球領先的多云應用安全和應用交付網絡提供商，F5關注企業應用生成式AI的安全問題，并將安全列為AI時代的四大技術方向之一。
一、大模型的安全風險
應用大模型的安全風險主要來自哪些方面？
去年年底，OWASP針對大型語言模型（LLM）發布了十大風險漏洞，分別是提示注入、 敏感信息泄露、供應鏈安全、 數據和模型投毒、不當輸出處理、過度代理權限、系統提示泄漏、向量和嵌入漏洞、錯誤信息和無界消耗。
F5中國區產品及解決方案總經理陳亮將這些風險歸類為兩類：一類是針對大模型本身的攻擊，被稱為“壞孩子”行為；另一類則是由于欺騙導致的模型誤操作，被稱為“熊孩子”行為。
比如Prompt Injection（提示詞注入）攻擊，黑客可能會通過忽略系統提示或誘導模型忽略某些指令，從而使其執行惡意行為。在模型訓練過程中，大量的敏感數據，如電話號碼、身份證信息、地址、郵箱等，可能會被泄露。此外，還有大模型的“幻覺”問題，都可能導致企業遭受損失。
不久前，思科研究團隊就發現，DeepSeek-R1模型在提示詞干擾測試中攻擊成功率達100%，暴露出模型自身在內容安全過濾和邏輯隔離方面的漏洞。
為了預防風險，有許多問題需要解決。比如不同的任務可能需要調用不同的模型進行處理，前端應用需要能夠識別并調用正確的模型。此外，還有成本的觀測、輸出的控制，以及如何阻攔幻覺產生等問題。
針對這些問題，F5推出了F5 AI網關（AI Gateway）解決方案，提供了多模型管理和安全防護能力。F5 AI網關被部署在應用和Web頁面以及中間的大模型之間，這個網關目前可以以軟件的形式部署，并且可以與F5的硬件或NGINX結合使用，提高分流效率。F5表示，AI網關處理器將作為對外提供的生態開發接口，不斷擴展和部署安全防護能力。
二、AI時代的API安全挑戰
隨著數字化世界的不斷演進，API已成為最主流的交易和使用協議。據F5在2024年發布的API分析報告顯示，90%的開發者在開發應用時已遷移到API，75%的互聯網流量由API承載，基于API產生的數字經濟規模已超過2000億美元。
然而，隨著API的廣泛應用，安全問題也日益凸顯，API攻擊事件逐年增加。根據預估，2030年針對API的攻擊相比2021年增長了996%。
專注于Web應用程序安全的非營利組織OWASP（Open Web Application Security Project）曾在2023年列出了針對API必須解決的十大安全問題。
這些風險也延續進了大模型領域。API是企業構建AI架構并實現向最終用戶交付AI驅動服務的關鍵訪問方式，API安全對于保護企業信息資產、維護系統穩定性和推動業務創新具有
重要意義，但未經保護的API會使AI應用和數據面臨DDoS攻擊，信息泄漏等各種威脅。
比如DeepSeek自1月27日開始，就多次出現“網頁/API服務異常”。1月28日凌晨，DeepSeek官網連續發布2條公告稱，DeepSeek線上服務受到大規模惡意攻擊，導致平臺注冊繁忙，并暫時限制了+86手機號以外的注冊方式。
有報道稱，攻擊期間曾出現ClickHouse數據庫泄露事件，涉及用戶聊天記錄、API密鑰等敏感信息。
陳亮在交流中表示，目前傳統的防火墻和外部應用防火墻（WAF）在面對API世界的變化時顯得無能為力，企業必須重視API的安全問題。F5公司在2024年收購了專注于開發、安全掃描、API代碼的安全分析等領域的Wib公司。目前F5提供的解決方案，利用AI和機器學習能力，可以幫助客戶在開發階段進行API漏洞檢測、風險識別、并發現影子API，運行階段可實時監控洞察、檢測異常攔截攻擊，為 API 提供從代碼到運行時的全面一體化安全防護。
三、F5發布中國市場三大策略
在媒體見面會上，F5亞太區副總裁、北亞區總裁黃彥文宣布，面對AI快速發展的趨勢，F5中國將通過以下三大策略助力中國用戶全面擁抱AI應用浪潮：
完善AI產品組合：聚焦AI訓練和推理場景，持續優化多云環境中的應用交付和應用安全解決方案，構建更高效、更智能的AI支持體系，滿足企業在AI時代的復雜業務需求。
全面縱深新行業：深入拓展汽車、生物制藥、高端制造行業，同時挖掘新能源、新零售等新行業領域潛力，以定制化解決方案幫助企業實現數字化和智能化轉型。
共創渠道伙伴生態：加強與技術合作伙伴和渠道伙伴的聯動，推動生態協作，共同開發面向未來的創新方案，打造更具韌性和競爭力的行業生態體系。
目前，F5通過與行業領先廠商展開深度合作，共同構建了六大面向AI應用的創新應用交付和應用安全解決方案，幫助企業加速實現AI驅動的數字化轉型目標，同時確保核心業務安全、可靠運行。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
