新火種
2024-11-17 
能否用AI防范AI？
本報記者 張佳星“人工智能算法模型存在‘三不可’的‘基因缺陷’，即不可解釋性、不可判識性以及不可推論性。”在日前舉行的2024綠盟科技TechWorld智慧安全大會上，中國工程院院士鄔江興說，AI賦能技術有極其廣闊的應用空間，也帶來了前所未有的安全挑戰(zhàn)。“AI已經(jīng)成為網(wǎng)絡空間安全發(fā)展的關鍵變量。”中國科學院院士馮登國表示，AI技術已從較為單一的算法發(fā)展階段跨越到軟件、硬件與應用場景相結合的全方位、一體化發(fā)展階段，應對網(wǎng)絡空間安全形勢變化，需要更堅實、富有彈性的網(wǎng)絡空間安全保障體系。AI廣泛應用會帶來哪些安全隱患？如何應對這些安全挑戰(zhàn)？會上，專家學者圍繞網(wǎng)絡安全前沿科技、數(shù)智賦能發(fā)展路徑進行了深入研討。安全風險加大“在某些情況下，大模型生成的文本雖在語義或句法層面看起來合乎邏輯，但實際內容可能是錯誤或無意義的。這類‘幻覺’問題是所有大模型共同的固有問題。”馮登國說，大模型“幻覺”缺陷導致的大量錯誤信息涌現(xiàn)是大模型帶來的主要安全風險之一。此外，針對關鍵信息基礎設施的網(wǎng)絡攻擊變得更加自動化、智能化。同時，AI算法的快速更新迭代，也使傳統(tǒng)安全分析技術難以應對AI領域涌現(xiàn)的新算法和新模型。“數(shù)字化轉型加劇了網(wǎng)絡生態(tài)系統(tǒng)的脆弱性。”綠盟科技首席技術官葉曉虎說，攻擊手段的多樣化、相關技術戰(zhàn)法的演變要求安全行業(yè)不斷適應并應對新安全挑戰(zhàn)。為此，綠盟科技在提供傳統(tǒng)安全產(chǎn)品及安全服務的基礎上，推出AI大模型應用、藍軍體系等多個領域解決方案。數(shù)字經(jīng)濟時代，保障數(shù)據(jù)安全成為事關國家安全與經(jīng)濟社會發(fā)展的重大問題。國家工業(yè)信息安全發(fā)展研究中心首席專家、數(shù)據(jù)安全所所長李俊說，工業(yè)企業(yè)數(shù)字化、網(wǎng)絡化、智能化進程加速，同時也面臨日益突出的數(shù)據(jù)安全風險，包括工業(yè)數(shù)據(jù)載體存在漏洞和后門、非受控運維等問題。在此背景下，行業(yè)主管部門出臺相關政策，不斷加快數(shù)據(jù)安全監(jiān)管技術能力建設與實踐落地。AI提供新工具面對新的安全風險，能否用AI防范AI？與會專家普遍認為，AI系統(tǒng)在安全保障方面的應用已經(jīng)得到廣泛認可，AI在安全領域的支撐作用將日益增強。“AI可以賦能網(wǎng)絡空間安全保障，為安全工作提供新工具。”馮登國說，針對AI加持的攻擊技術、惡意代碼生成、僵尸網(wǎng)絡攻擊等挑戰(zhàn)，可通過AI大幅提升防御能力和水平，有效提高威脅檢測與響應能力。“AI可以自動完成許多網(wǎng)絡安全任務，如威脅檢測、事件響應和漏洞分析。這不僅有利于提高工作效率，還能減少人為錯誤的可能，幫助網(wǎng)絡安全團隊更有效地應對大量安全告警。”綠盟科技天樞實驗室主任研究員顧杜娟說，AI還可以幫助識別新型攻擊手段和策略，并利用機器學習和深度學習技術檢測和應對復雜的網(wǎng)絡攻擊。綠盟科技通過技術創(chuàng)新推出了一系列新成果和方案。例如，風云衛(wèi)AI安全能力平臺集成威脅情報積累等能力，可進一步助力網(wǎng)絡安全行業(yè)智能化轉型。在安全運營方面，“AI+”策略可實現(xiàn)告警降噪率97%以上，使威脅響應縮短至30分鐘、整體運營效率提升70%以上。不僅如此，騰訊等企業(yè)也通過構建AI安全助手，提升其安全服務能力和效率。業(yè)內專家認為，用好“AI+安全”，有助于促進數(shù)字化轉型與可持續(xù)發(fā)展。
來源：科技日報
Tags:
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負任何責任。
