新火種
2024-01-05 
如何應對人工智能時代下的網絡與數據安全威脅？
引言
“要使科學造福于人類，而不應成為禍害。”
愛因斯坦在90多年前所說的話揭示了科技的“雙刃劍”效應。人工智能作為引領未來的新興戰略技術，是驅動新一輪科技革命和產業變革的重要力量，過去十余年，依托全球數據、算法、算力持續突破，人工智能全面走向應用，已成為社會生產生活的支柱性技術。人工智能引領新一輪科技革命和產業變革是它的“A面，”讓人驚嘆、驚喜，但它的“B面”卻正在引發一場看不見的安全攻防戰。
人工智能的B面究竟長什么樣，“造物者”如何對抗自己創造的敵人，以確保科學能夠真正造福于人類，而不成為禍害呢？
一、人工智能時代下的安全新趨勢人工智能正在重塑網絡安全格局人工智能正在重塑各行各業，人工智能與云計算的有效整合，提供了前所未有的計算能力，這種合并也引發了復雜的安全問題，人工智能、云和安全的結合，從根本上改變了網絡安全格局。人工智能正在重構所有業務應用所有的業務應用程序都將使用人工智能重新構建，大量使用插件API、函數調用和使用AI代理，安全架構已變，需改造舊方法以適應新模式，重塑網絡安全與數據保護方法。人工智能正在改變網絡攻擊武器人工智能促生了新的專業工具。在根本上改變了網絡安全武器庫，擴大了惡意行為者可用的工具包，使攻擊更為簡單和便捷，應用安全和數據保護亟需更加動態和前瞻性的解決方案。人工智能正在重新定義網絡安全利用AI技術的網絡攻擊日趨復雜，AI驅動的威脅具備高度適應性和不可預測性，這種快速發展的環境復雜性表明，孤立的網絡安全方法是不夠的，不僅需涉及技術調整，還需要更綜合的集合戰略。
二、人工智能時代下的網絡與數據安全風險人工智能賦能效應對現代應用產生了極大的推動力，賦能效應可使系統足夠強大，同樣也可以被應用于安全攻擊。人工智能安全問題伴生效應表現在兩個方面：一是新技術的脆弱性導致系統自身出現問題，引發安全風險，稱之為新技術的【內生安全】；另一個是新技術脆弱性被利用引發其他領域安全問題，這稱之為【衍生安全】。在人工智能的B面中，隨著其應用范圍的擴大和技術的不斷進步，內生安全與衍生安全問題也逐漸凸顯出來。人工智能的算法黑箱或算法不透明性將引發算法安全管理困境，可能成為“隱形”惡意武器，操控決策致使算法權力誘導個人行為、影響決策和判決；人工智能的算法和系統可能被黑客利用，造成隱私泄露、數據篡改甚至社會穩定的威脅；人工智能技術本身能夠提升網絡攻擊的智能化水平，進而進行數據智能竊取；人工智能技術通過對特征庫學習自動查找系統漏洞和識別關鍵目標，提高攻擊效率；人工智能可用來自動鎖定目標，進行數據勒索攻擊；人工智能可自動生成大量虛假威脅情報，對分析系統實施攻擊；人工智能能自動生產威脅性情報，攻擊者也可利用相關技術生成大量錯誤情報以混淆判斷;人工智能可自動識別圖像驗證碼，竊取系統數據；人工智能不可避免的會引入網絡連接，人工智能正在降低網絡犯罪的門檻，傳統的網絡安全防護體系已無力有效進行網絡與數據安全風險防范。
三、人工智能時代下安全觀的轉變存在明顯短板的傳統安全架構人工智能的快速發展和廣泛應用給網絡與數據安全帶來了新的挑戰和變革。在人工智能時代，網絡與數據安全觀也發生了重要的轉變。隨著應用程序攻擊面的擴大，網絡犯罪分子發起了越來越復雜的多媒介攻擊。攻擊者經常使用自動爬蟲程序、僵尸網絡和漏洞掃描器，借此成功入侵 IT 環境并接管用戶帳戶，從而竊取數據，破壞業務運營，并發起破壞性的網絡攻擊。面對復雜攻擊，傳統堆疊式、積木式、城防式的安全架構，存在漏洞多、兼容性差、笨重不靈活、缺少高效協同劣勢，無法有效應對越來越復雜的攻擊。網絡安全面對的往往不單單是網絡安全，現代應用的無邊界化，傳統網絡安全防護體系已不能適應新的威脅，網絡安全與數據安全問題錯綜復雜，任意一個漏洞都可能直接造成數據安全泄漏。因此，必須尋求可以更全面地應對日常安全威脅的集成解決方案，一種更新的方案，將安全性融入持續集成/部署過程中。公眾數據權屬意識的覺醒人工智能很大程度提升了數據資源價值，但同時也凸顯了數據權屬問題的重要性。
個人層面，數據權屬體現為公民的數據權利，個人隱私保護面臨嚴峻的挑戰。行業層面，數據權屬體現為企業的數據產權，數據已成為企業的核心資產，數據爬蟲、信息搜刮導致大量的數據被收集、分析和利用，這導致了數據的濫用、盜竊和不當使用的問題，使數據權屬問題更加突出，就像物權一樣，隨著數據侵害案件和國內外數據安全事件的頻發，人工智能時代下公民和企業對于數據權屬的意識也日益增強，我們需要加強數據權屬保護，加強數據保護的技術手段，以確保數據資源得到合理的利用。基于數據驅動的安全戰略創新中國正在經歷從人口紅利邁向創新紅利的經濟轉型周期，安全即將邁入基于數據驅動的安全戰略創新，人工智能和數據互利互補，人工智能技術賦予數據安全智慧，人工智能技術的發展為數據提供底層通用技術支撐，基于數據驅動的安全戰略為發展提供前驅動力。人工智能技術的進步無疑會極大便利我們的生活,但同時一旦數據和算法被濫用也會反傷我們自身，我們的社會比以往任何時刻都更加脆弱、更加不安全,但基于數據驅動的安全戰略創新已然成為新時代的重要議題。
四、安全市場的技術與應用新方向安全工具的融合與集成提升效能為了構建更全面的安全防護體系，企業開始尋求融合與集成安全解決方案，而不是購買大量無法互操作且難以管理的安全產品和工具。盡管集成解決方案的初期成本較高，但它們更有可能預防安全漏洞，并且從長遠來看，所需的維護和管理成本也會更低。將安全解決方案融入運營流程，并采用更高效的工具，能夠產生遠遠超過單一解決方案的效果。Agent是AI時代的關鍵技術隨著大型模型的出現，自主智能體（AI Agent）正逐漸成為全面自動化的新趨勢。AI智能體是一種具備環境感知、決策制定和行動執行能力的智能存在。AI智能體以大語言模型驅動，具備自主理解感知、規劃、記憶和使用工具的能力，能夠在更廣泛的情境中采取行動和作出決策，以更智能、更高效的方式執行復雜任務。AI智能體能夠針對目標進行思考、決策和行動。它只需要一個目標，就能自行規劃和實施策略，并通過外界反饋和自我思考來完成任務。AI智能體的關鍵特點包括感知環境、自主決策、具備行動能力，以及設定明確的目標和任務，并具備適應環境和學習能力。
自適應安全需求的迸發網絡和數據安全面臨著前所未有的挑戰和復雜性。使得傳統的安全防御體系面臨著更大的挑戰和壓力，傳統的安全防御體系往往是靜態的，無法適應快速變化的威脅環境和攻擊手段，人工智能技術可以實現自適應的安全防御，即根據不斷變化的威脅環境和攻擊手段，自動調整和優化安全策略和控制措施。通過不斷學習和適應，可以提高安全防御的準確性和效率，及時應對新型威脅和攻擊，更好地保護網絡和數據的安全。智能化防御體系構建人工智能技術的廣泛應用使得數據規模和復雜性大大增加，人工智能技術的快速發展也為攻擊者提供了更多的攻擊手段和工具，傳統的安全防御手段已經無法滿足對抗日益復雜的數據安全威脅的需求、無法處理如此龐大的數據和復雜、無法有效應對智能化攻擊和漏洞利用，智能化的防御體系構建是應對新型挑戰的必要舉措，具備智能化的攻擊和防御能力，才能不斷提升對抗能力。
五、通付盾的安全應用觀AI VS AIAI攻擊是網絡和數據安全面臨的新挑戰，AI作為引領新一輪科技革命的技術，其實是中立的，它既可以向善也可以向惡，關鍵是被誰所用。AI讓我們看到更快、更強、更精準的攻擊模式，我們之前所了解和熟知的防御模式和方法需要改變，不可能利用人力去阻擋AI攻擊，需利用AI去對抗AI。以AI對抗AI，意味著利用AI技術來檢測并糾正AI的錯誤，采取以AI智能體為代表的AI技術打造自適應、自動化、智能化為核心的解決方案，針對復雜場景，提供智能化的防御機制和高效的安全管理機制，提高場景的適應及決策能力，提升決策效率及準確性，以便為企業提供更加全面、高效和可靠的安全保障。安全工具的融合與集成安全工具的融合與集成可以將不同的安全功能整合到一個平臺上，減少不同工具之間的沖突和重復工作，提高安全操作的效率。通過安全工具的融合與集成，可以實現統一的管理和監控，減少管理的復雜性，提高安全管理的效果。
不同的安全工具在不同的領域有不同的優勢，通過融合與集成，可以實現更全面的安全防護，提高安全的覆蓋范圍。不同的工具會收集到不同的安全數據，通過融合與集成，可以實現安全數據的共享和分析，提高對安全威脅的識別和處理能力，實現全面的安全防護，適應不斷變化的安全威脅。去中心化大算力保障數據自主權益AI與云計算結合，提供了幾乎無窮的算力，作為對抗方，也應有相等的大算力資源支持，大算力可以提供更高的計算能力和處理速度，使得AI系統能夠更快地分析和識別潛在的威脅，及時采取相應的防御措施。提供基于區塊鏈技術搭建的去中心化云平臺，不但能提供大算力，還具備數據自主權益保障，去中心化的特點就是將數據的控制權和管理權從集中式的中心化機構轉移到數據的所有者手中，實現數據的自主控制和管理。
六、通付盾的安全實踐人工智能時代下，圍繞著算法、算力和數據的技術創新與實踐始終是前進的主旋律，通付盾以技術研發及應用起家，2011家以國內第一家引入設備指紋技術以解決數字空間身份無法定位無法追蹤的痛點問題，十余年間先后攻克決策智能技術、加密技術、API資產發現與保護技術及數據安全等技術，通付盾也因這些技術相繼推出代表通付盾的拳頭產品，因此在市場上獲得了訂單，并幫助了客戶成功，通付盾是技術研發的實踐者，也是獲益者。追求技術創新、聚集工程實踐、重視可信安全是通付盾一如既往始終堅持的價值觀。通付盾始終保持對算法、算力和數據的持續研發和優化，不斷推動技術創新的進步。作為國內首家引入設備指紋技術的公司，通付盾解決了數字空間身份無法定位無法追蹤的難題，為客戶提供了解決方案，贏得了市場訂單并幫助客戶取得成功。通付盾不僅是技術研發的實踐者，也是技術創新的受益者。公司始終追求技術創新，聚集工程實踐經驗，重視可信安全，這是通付盾一直以來堅持的核心價值觀。
實踐一、AI在追求極致創新方面不斷突破一直以來，算法、算力和數據被認為是人工智能發展的三駕馬車，也是推動人工智能發展的重要基礎，在算法層面，通付盾在智能決策系統中運用的大規模訓練模型、以知識驅動的圖計算和以處理超大數據流的流式計算中都有成功的實踐，并成功應用于金融、政府、央企、互聯網、醫療、教育等行業。在算力層面，通付盾以基于區塊鏈技術搭建的數據云平臺，圍繞數據處理、數據存儲、數據交互三能能力要素演進升級，提供算力定制化、多元化的計算服務，滿足不同行業、不同場景的需求。在數據層面，通付盾注重數據保護和數據權益的問題。通付盾的基于區塊鏈技術搭建的去中心化的數信云平臺，可保護用戶的數據自主權益，保證用戶的數據始終在自己手中，通過加密技術來保障數據的安全。這種保障措施能夠確保數據的完整性和機密性，同時也保護了數據所有者的權益，使其能夠在數據的使用和共享過程中擁有更多的控制權和決策權。
實踐二、AI工具集成與融合成為工程實踐能力核心工程實踐能力是釋放人工智能技術紅利的重要支撐，通付盾始終堅持倡導工程師文化，重視工程實踐。通付盾認為，隨著工程實踐能力的不斷提升，“小作坊、項目制”的賦能方式正在成為歷史，未來將會更加便捷、高效地實現人工智能落地應用和產品交付。新算法和應對新痛點問題的工具相斷推出，使得技術融合成為重趨勢，通付盾基于決策智能的Web應用與API保護方案，即是基于安全工具的融合與集成方法的應用，也是工程實踐能力的體現。輕量化人工智能技術的不斷探索，使計算效率顯著提升。復雜的模型往往需要大量的存儲空間和計算資源，難以在資源受限的情況下使用，因此業界對具備低內存和低計算量優勢的技術有著迫切需求。輕量化成為解決這一挑戰的重要技術。
為了應對這一需求，通付盾基于AI Agent的大數據決策智能平臺。通過對大模型進行剪枝和功能分化，平臺實現了對Web應用保護、API發現與防御、爬蟲防護和抗DDOS模塊的支持。同時，通過對網絡參數進行量化，平臺能夠減少計算量，提高計算效率。通過數信云的輕量化人工智能技術的應用，為用戶提供了更加便捷和高效的服務。云端協同管理技術需求凸顯，人工智能上云進程加速。隨著人工智能與各個行業場景的深度融合，導致對接兼容復雜，運維管理難等問題，通付盾的產品進行了云化處理，用戶在使用通付盾數信云SaaS時，可以根據實際情況選擇合適的模塊。通過人工智能上云，用戶可以充分利用云計算彈性擴展、高可用和靈活性的優勢，減少對接工作量、降低運維管理復雜度，從而提升效率和數據處理能力。
實踐三、AI技術安全可信一體化發展可信安全逐漸成為人工智能賦能過程中不可或缺的保障。促進可依賴的人工智能創新發展，成為了重要的行業共識。可信人工智能的理念已經貫穿到人工智能的全生命周期之中，通付盾的實踐不斷豐富，已經演變為落實人工智能技術應用的重要方法論。通付盾在可信一體化上，提出“云鏈一體”戰略，通過“鏈上會”作為分步式數字身份載體使用數據云SaaS，通過“數信云”SaaS在“鏈上會”內容構建插件式應用，云鏈一體，云端協同。用戶可以通過鏈上會構建自己的應用插件，通過數信云為市場用戶提供SaaS服務，重構軟件和SaaS生態，實現便捷服務和高效管理。
七、結語
我國人工智能產業發展已進入快車道。數據安全是網絡空間安全的基礎，也是國家安全的重要組成部分。盡管世界是不確定和復雜的，但通過人工智能技術，現實安全仍然是可以被感知和預測的。然而，傳統的安全防護在戰略上缺乏統籌規劃，已經不足以應對持續變化的安全問題。在這種現實下，通付盾將通過人工智能技術的創新與工程實踐，推動網絡安全和數據安全向自動化、智能化、高效化、精準化方向發展。我們將創新人工智能技術手段，利用技術進步解決安全風險難題，加強人工智能網絡與數據安全保護技術的研究和研發，發展負責任、可信任、能受控的人工智能。我們將提供全面云化和服務化的安全能力，以低成本、高效能的方式為企業級客戶提供服務，為行業構建堅實的數字安全屏障，守護數字經濟成果。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
