財富中文網
2024-02-20 
人工智能聊天機器人讓網絡安全工作更容易，但基礎模型將顛覆現狀
圖片來源：GETTY IMAGES
生成式人工智能首次亮相時，企業紛紛啟動人工智能試驗。人們接受了很多不太理解或許也不完全信任的創新。然而對網絡安全專業人士來說，發揮人工智能的能力是多年宿愿，而且歷史性的里程碑即將出現：預報攻擊的能力。
在網絡安全領域，事先預報一直是“至高核心”，但這一想法向來遭到質疑，而且確實有充分理由。有關“預報能力”的說法要么是營銷炒作，要么就為時過早。然而，如今人工智能正處于轉折點，更多數據訪問，運轉更流暢的模型以及數十年的經驗積累為大規模預報鋪平了道路。
看到這里，讀者可能認為我馬上就要暗示聊天機器人會演變成網絡預言家，不會的，大伙可以松口氣了。新一代聊天機器人使用的生成式人工智能尚未達到最佳性能。這只是開始，當前技術為基礎模型和推理能力開辟道路，才能實現高度自信地判斷網絡攻擊的可能性，具體攻擊方式以及何時發生。
經典人工智能模型
想要短期內掌握基礎模型可為安全團隊帶來的優勢，必須首先了解這一領域人工智能發展的現狀。經典人工智能模型利用針對特定用例的特定數據集訓練，快速準確地獲得特定結果，這是人工智能應用在網絡安全中的關鍵優勢。時至今日，相關創新加上自動化，在管理威脅、保護用戶身份和數據隱私方面繼續發揮著重要作用。
如果經典人工智能用Clop勒索軟件（對數百個組織造成嚴重破壞的變體）訓練，就能識別各種特征和細微線索，推斷出環境中存在勒索軟件，并優先標記提示安全團隊。完成的速度和準確度都很高，明顯超過手動分析。
今天，威脅模式出現了變化。攻擊面逐漸擴大，對手跟企業一樣使用人工智能，安全技能仍然稀缺。傳統人工智能無法獨立覆蓋各種基礎。
自我訓練的人工智能模型
最近生成式人工智能興起將大型語言模型（LLM）推向了網絡安全領域的中心，因為大語言模型能利用自然語言為安全分析師快速獲取和總結各種形式的信息。這些模型為安全團隊提供類似人類的交互體驗，使復雜且技術含量很高的信息消化和分析更方便也更迅速。
我們開始發現大語言模型能幫團隊更快也更準確地做出決策。在某些情況下，以前需要數周的操作現在幾天甚至數小時就能完成。當然，速度和準確性仍然是新型創新的關鍵特征。比較知名的案例包括IBM Watson Assistant、微軟Copilot或Crowdstrike的Charlotte 人工智能聊天機器人等等技術突破。
安全市場當前的創新前沿在于：實現大語言模型的價值，主要途徑是作為安全分析師人工助理的聊天機器人。未來12至18個月內，創新將轉化應用并產生實質性影響。
由于行業人才短缺，安全人員每天面臨的威脅也不斷增加，各方面能爭取到的幫助都需要，而且聊天機器人可將能量成倍放大。考慮一下，網絡犯罪分子已將執行勒索軟件攻擊的時間減少94%：既然犯罪分子將時間當成武器，防守方也必須盡可能縮短應對時間。
然而，在基礎模型對網絡安全影響方面，網絡聊天機器人只是前菜。
處于創新中心的基礎模型
大語言模型成熟后，我們將能充分利用基礎模型的潛力。基礎模型可在多模式數據上訓練——不僅包括文本，還有圖像、音頻、視頻、網絡數據、行為等。可在大語言模型簡單語言處理基礎上搭建，顯著增加或替代人工智能當前需要的大量參數。再加上基礎模型可自我監督，本身比較直觀且適應性強。
具體什么意思？之前提到的勒索軟件案例中，基礎模型不必了解Clop勒索軟件，甚至不用了解任何勒索軟件，就能發現異常可疑的行為。基礎模型可以自行學習，不需要針對特定的場景訓練。因此在這種情況下，基礎模型能發現難以捉摸的、前所未有的威脅。這一能力可提高安全分析師的效率，加快調查和響應。
相關能力距離實現已不遠。大概一年前，我們在IBM啟動了一個試驗項目，為安全部門研發基礎模型，監測之前無法發現的威脅并做出預報，在不損害數據隱私的前提下在企業安全堆棧中實現直觀通信和推理。
客戶一次試驗中，該模型的新功能在攻擊幾天之前就預報了55次攻擊。分析人士的證據顯示，55個預報中23次攻擊確實出現，其他多次攻擊在被發現之前就已被阻止。其中包括多次分布式拒絕服務（DDoS），還有企圖配置不同惡意軟件的網絡釣魚攻擊。提前了解對手的意圖并為攻擊做好準備，防守方就能掌握難得的富裕時間。
基礎模型的訓練數據來自幾個相互影響的數據源——從API源、情報源、危害指標到行為和社交平臺指標等。基礎模型能幫我們 "發現 "對手利用客戶環境中已知漏洞的意圖，以及成功入侵后外泄數據的計劃。此外，該模型假設了300多種新攻擊模式，企業可利用相關信息強化安全防護。
相關知識給防守方爭取到富裕時間的重要性不言而喻。了解即將到來的攻擊后，安全團隊可以采取應對措施，防止造成嚴重后果（例如，修補漏洞和糾正錯誤配置），也能為主動威脅類攻擊做好準備。
如果說基礎模型能阻止網絡威脅，讓全世界網絡更安全，我會高興得難以言喻，然而實際情況并不一定如此。預報并不是預言，而是經過證實的預測。（財富中文網）
斯里達爾·穆皮迪（Sridhar Muppidi）是IBM研究員，也是IBM Security首席技術官。
譯者：梁宇
審校：夏林
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
