新火種
2024-12-19 
應對大模型安全新風險大模型安全聯盟在京成立
作為打造新質生產力的核心引擎，人工智能大模型對傳統產業數智化轉型與數實融合發揮著巨大的推動作用，但與此同時，大模型面臨的惡意操控、內容合規、算法與隱私安全攻擊等問題也日漸凸顯，帶來新的安全風險與挑戰。12月17日，360集團聯合產業上下游合作企業、科研機構等單位共同在北京成立大模型安全聯盟。
360集團創始人周鴻祎說，人工智能技術是一把“雙刃劍”，在帶來自動化和先進工作生活方式的同時也帶來很多安全問題，是人類有史以來面臨“最大的安全挑戰之一”，遠超過傳統數字安全帶來的挑戰。由于黑產、灰產組織者可以利用大模型提升找漏洞、寫攻擊代碼的能力，因此未來網絡安全可能會從人與人的對抗，變成機器與人的對抗，再發展為機器與機器的對抗。
在周鴻祎看來，人工智能在提升生產力的同時，也帶來了包括幻覺、深度偽造、注入攻擊、數據污染或投毒等前所未有的安全新挑戰。而隨著大模型在無人駕駛汽車、無人機、智能機器人等領域的應用日漸廣泛，一旦產生幻覺等安全問題，可能對個人、社會甚至國家安全形成重大隱患。如果安全問題得不到有效的控制和解決，又可能會讓政府監管機構對人工智能充滿顧慮和疑慮，從而出臺更多的限制政策，這對產業發展同樣形成挑戰。
周鴻祎介紹，組建大模型安全聯盟的意義在于要解決大模型發展過程中出現的安全問題，這既需要像360這樣的網絡安全專家，也需要對大模型有深入研究的同行，聯盟成員將在技術上互通有無，形成能真正保護大模型安全的應用成果，并探索提出解決大模型安全問題的中國方案。
關注大模型存在的安全風險已成為當下各界的重要共識。中國網絡空間安全協會秘書長郝曉偉說，當前人工智能安全風險日益凸顯，期待能基于此次聯盟成立的契機打造協會與企業的創新合作模式，聯合應對人工智能安全的新問題、新挑戰。
來源：北京日報客戶端
記者：孫奇茹
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
