天融信:從DeepSeek網(wǎng)攻風(fēng)暴看大模型應(yīng)用安全破局之道
近期,國(guó)產(chǎn)大模型DeepSeek一躍成為全球矚目的焦點(diǎn)。其憑借卓越的性能和創(chuàng)新應(yīng)用,不僅在短時(shí)間內(nèi)吸引海量用戶,更在資本市場(chǎng)引發(fā)強(qiáng)烈反響,成為推動(dòng)行業(yè)發(fā)展的重要力量。與此同時(shí),DeepSeek的火爆也將打開(kāi)AI產(chǎn)業(yè)鏈成長(zhǎng)空間。咨詢機(jī)構(gòu)Omdia發(fā)布預(yù)測(cè),未來(lái)五年中國(guó)生成式AI的市場(chǎng)規(guī)模將增長(zhǎng)5.5倍,到2029年將達(dá)到98億美元,DeepSeek 的崛起正是這一蓬勃發(fā)展趨勢(shì)的生動(dòng)體現(xiàn)。
大模型的網(wǎng)絡(luò)攻擊隱憂
伴隨著用戶量的爆發(fā)式增長(zhǎng),DeepSeek日前遭受大規(guī)模網(wǎng)絡(luò)攻擊。根據(jù)已公開(kāi)的數(shù)據(jù),DeepSeek的服務(wù)器集群曾遭受每秒超過(guò)2.3億次的DDoS惡意請(qǐng)求攻擊。無(wú)獨(dú)有偶,此前《黑神話:悟空》全球上線后,遭遇了海外60個(gè)僵尸網(wǎng)絡(luò)大規(guī)模攻擊。
天融信(002212.SZ)安全專家王媛媛分析,從技術(shù)手法來(lái)看,前期主要是DDoS攻擊,攻擊者運(yùn)用HTTP代理攻擊,通過(guò)大量代理服務(wù)器向DeepSeek發(fā)送請(qǐng)求,擾亂正常網(wǎng)絡(luò)通信。在攻擊過(guò)程中,還疑似出現(xiàn)數(shù)據(jù)泄露問(wèn)題,涵蓋用戶聊天記錄、API密鑰、后端操作細(xì)節(jié)等數(shù)據(jù)。
實(shí)際上,DeepSeek等國(guó)產(chǎn)大模型系統(tǒng)一直籠罩在網(wǎng)絡(luò)攻擊陰云下。特別是伴隨人工智能技術(shù)的發(fā)展,AI攻擊的形式日益多樣化和復(fù)雜化。除傳統(tǒng)網(wǎng)絡(luò)攻擊方式外,攻擊者還利用AI獨(dú)特能力增強(qiáng)攻擊效果,使得攻擊的隱蔽性大大提升。
王媛媛認(rèn)為,這些風(fēng)險(xiǎn)不僅源于技術(shù)本身的缺陷和不足,還可能因不當(dāng)使用、濫用甚至惡意利用而加劇。大模型系統(tǒng)在眾多應(yīng)用場(chǎng)景中處理大量敏感數(shù)據(jù)和個(gè)人信息,如用戶搜索記錄、社交媒體互動(dòng)或交易信息等。遭受攻擊可能導(dǎo)致數(shù)據(jù)被竊取,也可能造成服務(wù)中斷、用戶流失。同時(shí),大模型本身若存在缺陷或后門(mén),也會(huì)成為攻擊者的目標(biāo),帶來(lái)嚴(yán)重安全隱患。例如,針對(duì)模型的投毒攻擊可能操控模型輸出結(jié)果,產(chǎn)生不良影響或干擾正常業(yè)務(wù)運(yùn)行。此外,大模型生成的內(nèi)容可能引發(fā)虛假信息傳播、歧視偏見(jiàn)、隱私泄露、侵權(quán)、有害內(nèi)容等問(wèn)題,進(jìn)而威脅公民生命財(cái)產(chǎn)安全、國(guó)家安全、意識(shí)形態(tài)安全和倫理安全。
她進(jìn)一步指出,此外,在競(jìng)爭(zhēng)壓力和成本壓縮的雙重影響下,我國(guó)國(guó)產(chǎn)化軟件企業(yè)在網(wǎng)絡(luò)安全運(yùn)營(yíng)方面普遍存在安全投入不足、安全開(kāi)發(fā)管理流于形式、數(shù)據(jù)保護(hù)體系不健全以及網(wǎng)絡(luò)安全對(duì)抗意識(shí)不足等問(wèn)題,這些問(wèn)題已成為制約行業(yè)發(fā)展的共性挑戰(zhàn)。
體系化防范迫在眉睫
面對(duì)這一局面,天融信解決方案專家張博認(rèn)為,大模型安全防護(hù)需從體系化角度出發(fā),針對(duì)模型算法、數(shù)據(jù)、系統(tǒng)以及信息內(nèi)容安全等關(guān)鍵領(lǐng)域制定切實(shí)有效的防范措施。天融信基于在安全領(lǐng)域多年的研究,打造出體系化的大模型系統(tǒng)安全防護(hù)解決方案。該方案深度融合管理規(guī)范與技術(shù)手段,針對(duì)數(shù)據(jù)泄露、惡意注入等風(fēng)險(xiǎn)提供精準(zhǔn)防護(hù),并實(shí)現(xiàn)安全“識(shí)別–保護(hù)–檢測(cè)-響應(yīng)–恢復(fù)”的可持續(xù)迭代,助力實(shí)現(xiàn)覆蓋大模型全生命周期的體系化安全防護(hù)。
同時(shí),天融信建議國(guó)內(nèi)高科技企業(yè)自身建立對(duì)抗性安全運(yùn)營(yíng)體系,將產(chǎn)品與人員(專家)、手段、流程融合為聯(lián)動(dòng)整體,從事件驅(qū)動(dòng)、情報(bào)驅(qū)動(dòng)、對(duì)抗驅(qū)動(dòng)、狩獵驅(qū)動(dòng)四方面綜合考慮,運(yùn)用先進(jìn)的網(wǎng)絡(luò)安全監(jiān)測(cè)與防護(hù)技術(shù),充分進(jìn)行攻擊面識(shí)別、網(wǎng)絡(luò)入侵和威脅檢測(cè),以及安全防護(hù)策略升級(jí)。還可通過(guò)紅藍(lán)對(duì)抗檢測(cè)自身安全防護(hù)水平。
此外,利用AI大模型應(yīng)對(duì)新型攻擊也是重要方向,目前天融信天問(wèn)大模型已完成與DeepSeek-R1對(duì)接,實(shí)現(xiàn)了兩大模型的深度融合與協(xié)同進(jìn)化,通過(guò)訓(xùn)練與優(yōu)化,天問(wèn)大模型在多個(gè)應(yīng)用場(chǎng)景實(shí)現(xiàn)“質(zhì)變”,能夠提升事件檢測(cè)效率與精度、增強(qiáng)威脅情報(bào)生產(chǎn)與分析能力并提升安全運(yùn)營(yíng)的效率和響應(yīng)速度。“未來(lái),國(guó)產(chǎn)大模型可以重點(diǎn)考慮做好隱私保護(hù)與數(shù)據(jù)安全,開(kāi)展大模型對(duì)抗能力或者說(shuō)模型魯棒性的研究”,張博表示。
在業(yè)內(nèi)人士看來(lái),DeepSeek的橫空出世將促使AI產(chǎn)業(yè)鏈相關(guān)科技板塊被重新定價(jià),而網(wǎng)絡(luò)安全作為大模型的核心保障與關(guān)鍵支撐,有望持續(xù)受益。國(guó)信證券表示,DeepSeek將拓展AI應(yīng)用場(chǎng)景,激發(fā)新的算力需求,加速企業(yè)數(shù)字化轉(zhuǎn)型上云,規(guī)模效應(yīng)下云業(yè)務(wù)利潤(rùn)率有望進(jìn)一步提升。
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個(gè)人看法,不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對(duì)本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn),讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前,請(qǐng)務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對(duì)因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢(qián)損失負(fù)任何責(zé)任。