科創板日報
2025-03-04 
全國政協委員、360創始人周鴻祎：大模型應用安全問題迫在眉睫
《科創板日報》3月3日訊 在2025年全國兩會期間，全國政協委員、360創始人周鴻祎的提案將關注安全和人工智能兩個方向。
今年春節期間，DeepSeek在全球異軍突起，成為了AI發展史上的重要里程碑。在周鴻祎看來，DeepSeek最大的成果不僅是讓中國大模型在技術上趕上了美國大模型，同時在中國用戶、企業和政府中做了一次人工智能的普及教育。由于DeepSeek免費、開源等特性，大家紛紛開始采用DeepSeek在政府企業內部降本增效，加速了中國爆發AI產業革命的步伐。但DeepSeek作為基座模型，也存在著幻覺、提示注入攻擊等問題。同時，大模型要在企業內部真正發揮作用，還需要連上企業的專業知識庫、打造智能體，調用企業各種IT系統，這進一步加劇了安全風險。因此，當大模型滲透率提升時，應用安全問題也迫在眉睫。
周鴻祎建言，傳統網絡安全已經無法應對新挑戰，所以應由既懂安全又懂AI的企業牽頭，以模制模，通過打造安全大模型來解決大模型的應用安全問題。
周鴻祎認為，在傳統的大模型發展技術路線遇到瓶頸時，DeepSeek通過強化學習找到了新范式，中國應該抓住機會鼓勵應用發展。但作為人工智能，DeepSeek本身一直存在著幻覺的“基因問題”。其實幻覺是一把雙刃劍，它是大模型具備真智能的體現，是走向AGI的基礎，它讓大模型體現出更多的創造性和想象力，能夠在科研領域發揮重要作用。大模型幻覺很難消除，但我們已經通過多個大模型交叉驗證、搜索矯正以及企業知識庫比對等方式進行了糾正。在大模型產業高速發展的過程中，不發展是最大的不安全，所以不能因為大模型的幻覺問題就因噎廢食。就像“避風港原則”曾帶給互聯網巨大的產業發展機會，國家對大模型發展實行柔性監管，更加包容審慎，這樣中國人工智能才能借助DeepSeek的機會實現更長遠的發展。
回看網絡安全這一年的發展，周鴻祎表示，傳統行業紛紛進行數轉智改的背景下，網絡安全和大模型安全問題日益凸顯，所以越來越多的企業開始打造自己的安全體系。但一直以來，我國安全行業內卷嚴重，很多廠商只是一味的賣硬件軟件，客戶也無法得到想要的安全服務，致使行業面臨普遍性經營困境，造成客戶和廠商雙輸的局面。同時，各種高級別攻擊日益嚴重，企業不只需要一個“安全盒子”，更需要高級網絡安全專家協助進行數據分析研判、數據追蹤及事件處置。為了解決這個困境，國外很早就通過SaaS的方式來為更多企業提供安全服務，企業不僅可以直接體驗安全服務效果，投入成本也降到了五分之一甚至十分之一。
周鴻祎呼吁，筑牢網絡安全根基，是為大模型發展鋪路；而解決AI應用安全與幻覺問題，則是讓技術真正轉化為新質生產力。期待走出一條中國特色的安全與創新協同之路，為數字中國保駕護航。
（文章來源：科創板日報）
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
