新火種
2023-10-28 
安全大模型層出不窮，網安行業也忍不住了
作者丨李揚霞
編輯丨陳彩嫻
卷渠道、卷客戶、卷項目、卷技術，網絡安全行業的“卷”已經不是什么秘密了。
有人說網絡安全行業是IT行業最后的朝陽產業；也有人說安全行業市場盤子就這么大，誰都想分一塊蛋糕，還有新的廠商加入進來，已經快卷死了。安全項目的無限內卷和低價就體現了內卷暗黑的一面。
一位做眾測的業內人士曾告訴AI科技評論，有的大客戶，會拉來好幾家安全公司一起競爭，大家打的頭破血流，最后還是價低者得，但服務質量卻不敢茍同。另一方面，我們也看到安全各種新概念、新理論、新場景不斷被提出，新產品、新方案、新應用也不斷被實踐，但最后結果就是產品同質化嚴重，都沒有激起足以讓行業眼前一亮的水花。
隨著今年GhatGPT的爆火，大家認為所有行業都值得用GPT重塑一遍。那么安全行業也值得用GPT重塑一遍嗎？GPT之于安全到底能干什么？這又對行業帶來什么影響？會不會對安全產業造成顛覆性的影響？
安全行業已經沉寂很長一段時間，安全GPT是否是激起安全行業水花的那一塊石頭？
1
為什么安全行業亟需要
抓住GPT這個“救星”前段時間，一則思科（CSCO）宣布收購網絡安全軟件公司Splunk的新聞刷屏安全圈，總價約280億美元（2047億元人民幣），這是思科公司有史以來最大一筆收購，同時也是IT行業2023年規模最大的收購案。
而對于Splunk，只做了一個產品的公司，就能收獲這么高的價值，這是國內安全行業無論如何都不敢想象的。
為什么這則消息讓國內一眾安全廠商都為之一振。我們可以從中國網絡安全產業營業額看到一些端倪，目前整個網絡安全市場的營業額也不超過千億。另外，從A股各大上市安全公司來看，整個市值加起來不到2000億人民幣，而虧損更成了共性問題。
根據數說安全CSRadar平臺估算，近五年網絡安全項目量持續增長，但增速逐年下降。
安全行業亟需來一劑強心針。
當GhatGPT以迅雷不及掩耳之勢沖到大眾眼前的時候，多位業內人士都表示受到了很大沖擊。
那么問題來了，安全行業也值得用GPT來重塑一遍嗎？
有一部分人認為，安全GPT只是追熱點沒有意義，還是換湯不換藥，沒有新技術。而另一部分人則認為這是足以顛覆行業的技術。
AI科技評論拜訪了安恒信息高級副總裁兼研究院院長王欣以及奇安信集團副總裁 Q-GPT安全機器人負責人張卓、360數字安全集團安全GPT產品負責人楊玉奇，他們幾乎一致地認為GPT是一項影響世界、影響行業的新技術，但同時也提出了他們的擔憂。
王欣認為大模型是會改變安全行業未來的格局的，他認為如果一些安全廠商只是拿安全GPT蹭個熱點投點廣告費將是沒有任何意義的，因為最終將回歸到價值本質。那些只認為安全GPT是一個蹭熱點的機會的企業，核心是是否真正領悟到大模型技術將給行業帶來的革命性的變化。
王欣對AI科技評論表示，現在安恒信息在實踐大模型的同時，更重點關注并實踐以大模型為核心的Ai Agents（AI智能體）。我們認為智能體將實現更加貼合安全行業的人機協同，一方面大模型有更良好自然語言的交互能力、泛化能力、推理能力，但在一定程度上如幻覺等問題也是客觀存在的，另外一方面在安全工作中，除了善思考，還需要通過“手”、“腳”處理具體的工作任務。而以大模型為核心的 AI Agents（AI智能體），包含了規劃的能力、記憶的能力以及使用工具的能力，可以很好地解決大模型當前存在的一些客觀問題，同時也更符合安全工作的業務需求場景。
奇安信集團副總裁、Q-GPT安全機器人負責人張卓也認為，安全大模型要形成改變行業的生產力，就不能僅僅停留在類ChatGPT的問答對話框形式，而應該是一個聰明的機器人，即“虛擬安全專家”，成為真正的工業級大模型。
張卓對AI科技評論表示，大模型的第一個層級叫做對話式交流式的層級，這種方式是通過問答方式來把我們的知識進行傳播、分享、聯系和生成的；第二級是工業級，能夠在具體業務領域、行業領域我們能夠自動的去執行和完成特定的和領域相關的任務。目前奇安信推出了Q-GPT安全機器人，就是幫助安全專家執行復雜任務，能全天候地工作。未來第三級是全面級，比如說生成下一代的天眼、下一代的天擎等等，目前第三級距離我們還有一些距離。
同時他也擔心開放式的安全大模型，可能存在重要安全數據泄露的問題。
數據顯示，在使用ChatGPT的員工中大多數會泄露數據，其中11%的數據為企業敏感數據。數據是企業的核心資產，給GPT等大模型投喂數據，泄露只是風險之一。
360數字安全集團安全GPT產品負責人楊玉奇表示，安全行業肯定值得用GPT重塑一遍，現在GPT給我帶來的感受已經從當時的震撼回歸到理性了，這是一個新的范式，能做到以前做不到的事情，根據這些能力本身我們就應該嘗試重塑各行各業。但是這里面唯一的風險就是，未來能走多遠取決于大模型到底有多大能力。目前大模型整體表現出的能力還沒有達到“驚艷”的程度。
雖然關于大模型的擔憂和關注，都是不可忽視的。但是隨著這場關于大模型的“競賽”愈演愈烈，越來越多的行業開始部署GPT大模型。而垂直領域（行業）人工智能也將迎來大發展，比如醫療、教育、投資、警務、安全等等。
大模型已經走向了千行百業，安全行業也必須抓住這次新技術的機遇，從而提振行業。
2用好AI技術，能顛覆安全產業嗎？
談論如何用好AI技術之前，我們不妨討論一下，網絡安全能用大模型做什么？
大模型最大的優勢在于自然語言的處理能力上，在網絡安全領域，AI大模型可以在增強網絡安全分析、檢測、策略制定等方面極大的提升智能化的能力。
比如：通過AI大模型不僅可以分析海量非結構化文本，發現網絡安全威脅的跡象；還可通過機器學習快速發現未知的網絡攻擊模式并建立檢測模型；同時可以借助強化學習進行的紅藍對抗找出安全漏洞；通過上下文關聯進行更有效的網絡安全決策、風險評估、資源分配和制定安全策略；自然語言交互方式，可以降低對運營人員的專業要求，提高運營效率，幫助企業實現降本增效等。
據AI科技評論了解，目前微軟、360、深信服、安恒信息、啟明星辰、綠盟、奇安信、長亭科技、美亞柏科等都已經發布了自己的安全大模型。但各家安全大模型的側重點都有所不同。
舉例來說，安恒恒腦·安全垂域大模型通過增量預訓練、微調等多種方式讓大模型掌握各安全領域內生知識，利用大模型調度小模型、知識圖譜、安全能力插件實現安全運營專家、安全滲透專家、安全培訓導師等安全角色。在安恒信息研究院院長王欣看來，因為人工智能是一個擬人化學科，所以對它（安全大模型）賦予的意義也偏向于人。目前，該平臺以智能輔助形式已運用于剛剛結束的成都大運會及杭州亞運會，安全運營成效提升70%以上。
而360則是依托安全大模型打造了一套智能中樞系統，同時給智能中樞系統配備了“手眼”和“工具”，手和眼主要是指API接口，分別負責操控工具和反饋結果，工具主要是指各類安全產品和系統。通過自然語言指揮各類安全產品和系統完成運營任務。目前，依托360安全大模型的智能中樞系統通過扮演“安全問答專家”和“安全運營專家”兩大角色來輔助企業安全運營。
奇安信認為，作為垂直領域的大模型，安全大模型不能依托于公開的通用型數據，而是需要依托強大的安全專家團隊，海量非公開的安全領域知識、專業經驗，包括安全日志、文檔、知識庫、情報類數據，以及豐富的實戰攻防和重保經驗等，再結合大模型持續訓練，才能深入對應安全的應用場景中，發揮出強大的智能分析和高效的自動研判能力，輔助甚至替代專家完成智能研判、智能溯源、智能處置等工作，從而提升安全運營效率。
在安全大模型訓練的路線選擇上，有的廠商選擇微調，而另一部分選擇做預訓練。王欣表示：“安全行業的大模型不一定要從0開始訓練，但需要通過“精”和“專”的安全領域知識數據進行增量預訓練。一些企業僅通過微調來打造“安全大模型”，雖然投入的成本很低，但是無法達成很好的效果。”
楊玉奇認為走的快的不一定就走的遠，如果開始的太早，沒有選擇對路線，那么也會面臨時間和算力全都浪費掉的風險，有時候做微調可能更符合現實場景。
那么到底怎么樣才算是用好AI技術呢？在楊玉奇看來，大模型有三點長處：第一點是語言理解做的很好，改變了交互方式，但是這個東西并不足以改變世界；第二點是處理形式化的語言，所有的編程語言都是形式化語言，所以在輔助人分析程序的能力方面表現很不錯，比如研判安全告警里面的腳本語言；第三點是思維鏈，這是大模型“涌現”的典型例子，就是“似乎”真的可以像人一樣思考了，例如大模型可以自己拆解任務，有邏輯關系的思考步驟，形成一整個思考過程。
楊玉奇表示在安全領域，AI未來兩三年可以實現以下三個方面：第一，替人分析告警，很快就可以分析出來和人相同結論的告警、能溯源出同樣結論的溯源結果。第二，發現人都發現不了的未知的攻擊。第三，做到全自動化值守，就像人一樣將告警拆解成單個任務，并調用不同的工具去獲取結果，同時根據結果去做處置。
雖然GPT技術在安全領域的應用已經取得了一定的成果，但也存在一定的局限性，就像楊玉奇所說還沒有達到“驚艷時刻”，這中間還是有一個過程的。
例如，GPT模型可能會受到對抗性攻擊的影響。攻擊者可以通過生成具有誤導性的文本，來欺騙GPT模型，從而影響其判斷。還有，GPT模型在處理敏感信息時，可能會泄露用戶的隱私。或者在處理復雜安全問題時，可能無法達到人類專家的水平。此外，GPT技術在處理大量數據時，可能會遇到計算資源和時間的限制。
網絡安全行業是一個涉及到眾多方面的復雜領域。除了安全技術之外，還包括政策、管理、人員等多個方面。因此，GPT雖然可以在某些技術應用上發揮作用，但無法替代安全領域中許多其他領域的專業知識和技能。
因此，盡管GPT技術在安全領域具有一定的應用價值，但要完全顛覆安全行業仍需時日，GPT技術在安全領域的應用仍需進一步優化和完善。
從卷渠道、卷客戶、卷項目、卷技術到如今的卷安全大模型，AI科技評論認為真正的卷應該是正向的意識形態，意味著無論自身還是同行都能越卷越向上，如果“內卷”就相當于“燒錢”、“推出越來越同質化的產品”以及“無用的精益求精”，那么這些內卷，只會讓行業進入“停滯不前的漩渦”。（）
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
