新火種
2024-12-19 
360牽頭成立大模型安全聯盟
12月17日，360集團集結產業上下游合作伙伴、科研機構等在北京成立大模型安全聯盟，旨在構建開放協作的大模型安全產業新模式，推進產業生態的全面融合。中國網絡空間安全協會秘書長郝曉偉表示，當前人工智能安全風險日益凸顯，期待基于此次契機，打造協會與企業的創新合作模式，共享技術創新與產業融合的最新成果，聯合應對人工智能安全的新問題、新挑戰。360集團創始人周鴻祎表示，人工智能技術是一把“雙刃劍”，在帶來自動化和先進工作生活方式的同時也帶來很多安全問題。未來，網絡安全可能會從人與人的對抗，變成機器與人的對抗，再發展為機器與機器的對抗。在周鴻祎看來，隨著大模型在無人駕駛汽車、無人機、智能機器人等領域的應用日漸廣泛，一旦產生幻覺等安全問題，可能對個人、社會甚至國家安全形成重大隱患。據了解，作為兼具數字安全和AI雙重能力的科技企業，360很早開始關注大模型安全風險，并推出一系列有針對性的創新技術，包括開發了國內首個安全大模型，通過“以模制模”理念，利用AI大模型來檢測和防范大模型可能出現的安全風險，既解決傳統網絡安全問題，又為攻克AI安全新挑戰提供了可行性方案。周鴻祎表示，組建大模型安全聯盟的意義在于要解決大模型發展過程中出現的安全問題，這既需要像360這樣的網絡安全專家，也需要對大模型有深入研究的同行。他認為，通過大模型安全聯盟的組建，如果能提出解決大模型安全問題的中國方案，那么對全世界的大模型應用安全都有意義。除宣布聯盟成立外，360在成立儀式上推出了一系列大模型安全產品，包括大模型系統安全檢測平臺“360智鑒”；大模型內容安全護欄“360智盾”；大模型可信增強工具“360智搜”；基于“內聚知識，外聯情報”理念專為企業打造的智能知識管理與應用平臺360智能文檔云3.0，針對情報監測與分析提供一站式解決方案的360輿情衛士。
（辛華）來源：光明網
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
