新火種
2025-02-26 
終端大模型安全的新防線！百度大模型內容安全Lite版正式發(fā)布
6月28日，WAVE SUMMIT深度學習開發(fā)者大會 2024“智變應用、碼動產業(yè)”平行論壇在北京召開。與會，百度大模型內容安全Lite版正式發(fā)布，可面向低算力和超低算力的終端大模型提供離線場景下的一站式安全解決方案，為各類終端大模型平穩(wěn)健康發(fā)展保駕護航。
當下，“人工智能+”已成為催生新質生產力的重要引擎，大模型在加速產業(yè)升級和經濟增長的同時，也為網絡安全帶來了全新的機遇與挑戰(zhàn)。2023年，基于文心大模型安全實踐經驗，百度安全推出了以AI安全為核心的大模型安全解決方案，旨在為大模型提供全生命周期的安全保障。面對大模型訓練/精調/推理、大模型部署、大模型業(yè)務運營等關鍵階段所面臨的安全風險與業(yè)務挑戰(zhàn)，方案提供了包含數(shù)據安全與隱私保護、模型保護、AIGC內容合規(guī)、業(yè)務運營風控的安全產品與服務，同時結合以攻促防守的思路建立AIGC 內容安全藍軍評測能力，對大模型實現(xiàn)例行化的安全評估，迄今已在金融、科技、電商、教育、零售等多個領域落地，助力客戶和生態(tài)合作伙伴實現(xiàn)了大模型的安全升級。
進入2024年，伴隨多模態(tài)大模型能力的不斷升級和端側算力的日趨增強，越來越多的大模型能力開始向終端設備轉移，手機、個人電腦、可穿戴設備、網聯(lián)汽車、機器人等智能終端迎來新一輪技術革新和應用創(chuàng)新，海內外諸多知名廠商紛紛入局。據摩根士丹利最新研報中指出，2024年AI PC滲透率將達2%，到2028年有望升至65%。相較于云端大模型的功能強大和泛化能力，端側大模型因部署在本地，具有較小算力成本、低延時響應、保障用戶數(shù)據隱私安全等顯著特點，同時也因受限于運行環(huán)境、內存、存儲空間等因素面臨挑戰(zhàn)。
從大模型內容安全防護角度，無論是云端大模型還是端側大模型，均需保障自身生成式內容的合規(guī)、安全、可控、可靠，降低常態(tài)化運營風險，進而為用戶提供穩(wěn)定可信賴的服務。 在此背景下，為滿足端側大模型的安全需求，作為一款專為低算力和超低算力終端大模型定制的安全解決方案，百度大模型內容安全Lite版應運而生。
百度安全副總經理馮景輝表示，大模型終端的安全必須通過以端內安全圍欄為主，以云端安全檢查為輔的方式進行，否則用戶隱私和數(shù)據的安全無法保障，終端企業(yè)大模型成本也會居高不下難以推廣。
百度安全副總經理 馮景輝
在會上，百度安全副總經理馮景輝正式發(fā)布百度大模型內容安全Lite版。據他介紹，目前，百度大模型內容安全Lite版可面向包括AI PC、手機終端、平板Pad、邊緣計算的各類終端場景，提供離線場景下的內容安全審核與內容干預服務。平臺一大特點是“深度智能”，即在超低算力需求的同時，仍然保持對標云端大模型安全內容檢測效果的“技術高配置”，在全面守護端側內容安全的同時，進一步釋放終端潛能。
具體而言，百度大模型內容安全Lite具備五大特點：
l超低算力需求，釋放終端潛能：百度大模型內容安全Lite可在純CPU環(huán)境下的高效運行，僅需最低180 Mhz主頻CPU及不超過1024MB內存的支持，這一特性可為終端大模型釋放出更加寶貴的GPU算力資源。
l全離線運行，守護隱私安全：百度大模型內容安全Lite采用全離線運行模式，在生成內容安全檢查時無需聯(lián)網，實現(xiàn)了超低響應時間。同時，這一特性可大幅降低傳統(tǒng)云端上報隱私泄露的風險，令用戶的個人隱私數(shù)據得到進一步的保障。
l多平臺兼容，覆蓋廣泛場景：目前，大模型內容安全Lite版本已全面支持X86、ARM架構，并原生兼容Linux、Android平臺，更實現(xiàn)了國產化適配，確保在各種操作系統(tǒng)和硬件環(huán)境下都能穩(wěn)定運行。
l純語義理解，規(guī)避泄露風險：在大模型輸入輸出內容檢查方面，大模型內容安全Lite版采用了純語義理解的方案，終端無需加載任何敏感詞庫，從根本上降低了因終端產品破解或敏感詞泄漏而引發(fā)的安全風險。
l可回復干預，靈活應對風險：為了進一步提升風險應對能力，大模型內容安全Lite版構建了超靈活的回復干預手段及干預平臺，結合OTA通道可實現(xiàn)輕量級快捷的風險干預處置，在面對復雜多變的網絡安全風險和黑產高級攻擊時，進一步降低常態(tài)化運營風險。
百度大模型內容安全Lite版
在此次發(fā)布的百度大模型內容安全Lite版之外，百度安全也在持續(xù)為大模型產業(yè)各界生態(tài)合作伙伴提供完善靈活的安全能力支持。與會，百度大模型內容安全Turbo版迎來全新升級。該方案面向云端全功能大模型構建了一套功能完備、服務全面、開箱即用的大模型內容安全產品矩陣，助力客戶和生態(tài)合作伙伴全方位應對包括大模型生成內容合規(guī)、大模型上線備案、大模型內生安全和常態(tài)化運營的風險與挑戰(zhàn)。
作為人工智能領軍企業(yè)，百度高度重視大模型安全風險防范的能力建設和生態(tài)建設。面對當下“大模型+安全”所面臨的新形勢、新機遇、新挑戰(zhàn)，百度將不斷拓展人工智能技術在網絡安全領域的技術革新與應用，與各界保持合作，共筑大模型安全防線，并以實踐經驗推動相關標準的建設，助力構建完善的人工智能安全保障體系，探索更安全的大模型落地千行百業(yè)的無限可能。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
