新火種
2024-12-03 
AI時代下中國電信深耕網絡安全的“攻守道”
來源：通信信息報
（記者 陳洲）近年來，隨著AI的發展，網絡空間迎來新的安全風險，包括數據泄露、技術濫用等。中國信息通信研究院人工智能研究所安全與元宇宙部主任石霖強調，“AI技術不僅能夠提升安全運營的智能化水平，還能應對復雜的網絡攻擊，提升風險防控能力。”
（圖片來源：攝圖網）
因此，建立AI安全風險管理體系，具有劃時代的重要性。為強化“AI+安全”的實際落地應用，中國電信在多角度發力，努力在AI時代當好網絡安全的守護者。
如何平衡AI業內的“攻守道”
AI 在現代社會中具有多方面落地應用的需求，既能在主動型應用領域發揮作用，也能在服務型應用領域提供支持，反映了AI進可攻、退可守的雙屬性。
尤其在網絡安全方面，AI可化身為尖銳的“茅”，黑客可借此開發新的攻擊策略，例如通過自動化工具進行網絡入侵；同樣，AI也是穩固的“盾”，可以幫助識別和防御網絡攻擊，保護關鍵數據。
隨著AI技術的迭代，網絡“矛盾”對抗已進入新階段。正如深信服副總裁、研發體系總經理梁景波所言，有攻擊者已經開始利用大模型技術來提升攻擊能力，例如通過大模型生成的高對抗樣本能夠繞過現有安全設備。另一方面，AI技術也被用于安全運營，幫助提升運營效率和響應速度。
細數近年來各類如：通過AI換臉的網絡詐騙、基于AI的釣魚郵件、AI數據“投毒”等等的不法網絡安全行為已成為常態，如何應對成為當前一大難題。
業內專家普遍認為，應盡快發揮AI賦能網絡安全的積極作用，讓穩固的“盾”抵御尖銳的“茅”。中國新一代人工智能發展戰略研究院執行院長龔克就表示，人工智能的風險主要來自兩個方面：一方面，是人工智能技術存在弱點和不足，而不是過于強大，需靠發展創新去解決；另一方面，是使用者對人工智能的濫用和惡意使用，以及依賴而非駕馭人工智能。
加快推進人工智能安全治理
在日前舉辦的世界人工智能大會暨人工智能全球治理高級別會議（WAIC 2024）上，圖靈獎得主、中國科學院院士、美國國家科學院外籍院士姚期智就表示，隨著 AI 能力的出現，數據和網絡安全的困難放大了100倍。此外，上海人工智能實驗室主任、首席科學家，清華大學惠妍講席教授周伯文則認為， AI 的發展應在性能和安全之間保持平衡，避免長期失衡。
根據MarketsandMarkets報告，2023年全球網絡安全人工智能市場規模為224億美元，預計在預測期內復合年增長率為21.9%，到2028年將達到606億美元。
面對人工智能時代新的網絡安全態勢，當前各方都在呼吁提高對網絡安全態勢的重視水平，強化體系化安全能力建設。
在國內政策方面，我國采取了包容審慎的治理方式，實施了“小切口”的立法策略，針對特定應用領域提出監管要求。例如，2023年8月實施的《生成式人工智能服務管理暫行辦法》，標志著我國在生成式大模型領域的立法領先地位。此外，2023年10月，我國還提出了《全球人工智能治理倡議》，旨在加強國際合作，推動建立公平、公正的國際治理體系。2024年7月4日，WAIC 2024開幕式上，上海向全球發布了《人工智能全球治理上海宣言》，更是充分反映了國際社會對人工智能發展、安全和治理方面的共識，呼應了發展中國家的訴求。
從國際角度看，近年來，對人工智能安全治理的關注和努力顯著增加。治理進程正在加速，形成了各國政府主導、國際組織積極推進、科技企業協同治理的多方參與格局。不同國家和地區采取了不同的治理策略。例如，歐盟在2024年3月發布了《人工智能法案》，被認為是全球首部綜合性人工智能治理立法。該法案對人工智能系統進行了分類，并根據風險等級制定了相應的監管要求，包括數據管理、透明度、可解釋性、人類監督等方面。美國總體上采取了寬松溫和的治理策略，以促進發展為主，兜底風險為輔。2023年1月，美國商務部國家標準與技術研究院發布了《人工智能風險管理框架》，旨在對人工智能系統全生命周期實行有效的風險管理。
此外，國際組織和各國政府正在努力推動形成全球人工智能安全治理共識和創新合作。例如，聯合國秘書長古特雷斯在出席聯合國安理會人工智能與安全問題高級別公開會上就呼吁，管控人工智能技術風險，并成立新的聯合國機構強化人工智能全球治理。
中國電信強化“AI+安全”應用
近日，在WAIC 2024期間，中國電信董事長柯瑞文在中國電信星辰人工智能生態論壇上提到，為推動人工智能產業高質量發展，中國電信將聯合多方共同制定產業規則、制度和技術標準，進一步深化與ITU、GSMA等國際組織、產業合作伙伴在大模型等領域的技術交流和聯合創新，積極貢獻中國電信在實踐中的經驗，共同應對人工智能領域深度偽造、倫理安全、數字鴻溝等風險和不足。
縱觀中國電信在強化“AI+安全”應用方面的努力，主要體現在以下幾個方面。
首先，中國電信構建了四級算力布局體系，總智算規模達到16EFLOPS，這一強大的計算能力為各種AI應用提供了堅實的基礎。同時，中國電信自主開發了語義、語音、圖像和多模態的星辰基礎大模型體系，這一體系不僅能夠處理多樣化的數據類型，還能夠實現多模態數據的融合和深度理解。在此基礎上，中國電信發布了多模態大數據AI融合PaaS底座，為各類AI應用提供了高效、穩定的基礎設施支持。
其次，中國電信還研發了星河AI平臺，依托四級算力，在20省部署核心算法，算法日均調用量達3.3億次。這一平臺不僅能夠為用戶提供智能化的服務，還能夠通過算法的優化和升級，不斷提升服務的質量和效率。例如，在語音識別、圖像識別等領域，星河AI平臺已經取得了顯著的成果，并在多個場景中得到了廣泛的應用。
此外，中國電信發布了見微安全大模型2.0等產品，專注于數據安全和人工智能安全。這個模型通過深度嵌入實際的安全運營流程，增加了運營數據的積累，并擴展了場景應用驅動的采集源和RAG數據，為客戶提供高質量的安全服務支持。例如，在網絡安全領域，見微安全大模型2.0能夠通過分析網絡流量、檢測異常行為等方式，及時發現和防范各種安全威脅，保護用戶的網絡安全。
中國電信翼支付系統還針對新興的“AI換臉”欺詐方式，自主研發了金融級KYC證件識別產品“偵圖”平臺。這個平臺利用先進的技術，如“級聯+雙路卷積+多尺度特征融合”，交叉校驗用戶上傳的證件信息，并比對人臉進行精確識別，有效阻擋了“AI換臉”相關欺詐模式的入侵。例如，在支付場景中，偵圖平臺能夠準確識別用戶身份，防止不法分子利用AI換臉技術進行欺詐行為，保障用戶的支付安全。
中國電信還全面布局了安全產品，包括量子安全云、量子安全OTN、量子密信、量子密碼解決方案等，以及可信通信3.0組件和密評助手組件，為客戶提供全方位的安全服務。這些產品不僅能夠為用戶提供安全可靠的數據傳輸和存儲服務，還能夠幫助用戶建立完善的安全防護體系，防范各種安全威脅。
綜上所述，中國電信通過技術創新、產品研發和全面的安全布局，有效強化了“AI+安全”應用，為用戶提供了更加安全和可靠的服務。在未來，隨著人工智能技術的不斷發展和應用場景的不斷拓展，中國電信將繼續加大在“AI+安全”領域的投入和創新，為用戶提供更加優質、安全的服務體驗。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
