新火種
2024-11-16 
馬上消費防偽大模型：應(yīng)對全球深偽危機的創(chuàng)新實踐
伴隨人工智能技術(shù)的迅猛發(fā)展，Deepfake等偽造技術(shù)正在從影視娛樂延展到更廣泛的社會領(lǐng)域，對經(jīng)濟和金融安全構(gòu)成了嚴峻威脅。近日，世界知名科技刊物《麻省理工科技評論(MIT)》發(fā)布的報告指出，中國的馬上消費技術(shù)團隊的防偽大模型正在成為深度偽造檢測的重要突破口，為應(yīng)對全球深偽挑戰(zhàn)帶來了新機遇。
2025年，AI深度偽造很可能成為“全球首要風(fēng)險”。今年年初世界經(jīng)濟論壇發(fā)布《2024年全球風(fēng)險報告》預(yù)測，AI生成的錯誤信息和虛假信息被列為“未來兩年全球十大風(fēng)險”之首，其會使本就兩極分化、沖突頻發(fā)的全球形勢進一步惡化。
馬上消費人工智能研究院院長陸全近期表示，Sora無疑是技術(shù)領(lǐng)域的一次重大突破，但也會降低AI偽造門檻，潛在引發(fā)Deepfake等黑色產(chǎn)業(yè)鏈滋生蔓延。防偽大模型為金融黑產(chǎn)提供了先進武器。據(jù)測算，2023年，國內(nèi)黑產(chǎn)欺詐引發(fā)的經(jīng)濟損失達1149億元，金融業(yè)務(wù)欺詐金額達75億元，國家監(jiān)管機構(gòu)持續(xù)預(yù)警，金融機構(gòu)聲譽嚴重受損，金融客戶合法權(quán)益不時受到侵害。
聚焦到金融行業(yè)，Deepfake主要構(gòu)成身份欺詐，即通過深度偽造的虛假圖像和視頻來冒充他人，騙過金融信貸流程中的身份核驗系統(tǒng)，進而實施盜刷、惡意注冊等。得益于防偽大模型的技術(shù)突破，金融行業(yè)目前對Deepfake有了比較成熟的解決方案。
一方面，源于 Chain of thought 思維鏈 技術(shù)。 防偽大模型擁有前所未有的編碼能力，通過編碼進行概念延申和推理，充分掌握圖片細節(jié)所蘊含的內(nèi)在信息。在關(guān)于圖像輸入的因果推理能力的測試中，Gemini Pro和GPT-4 在未經(jīng)過防偽專項增強時，能夠?qū)卧烊四樦赋銎涿l(fā)、皮膚、背景等諸多細節(jié)問題，如“福爾摩斯”一般，這代表大模型對圖片理解能力的顯著提升。
另一方面， Scaling law 規(guī)模效應(yīng) 顯現(xiàn)。 防偽大模型具有大模型的一般特點，即數(shù)據(jù)的有效增長可以促進模型能力的同步提升。隨著深度偽造數(shù)據(jù)的積累和錄入，防偽大模型的域外能力在顯著增強，這種增強相較于傳統(tǒng)專家模型是數(shù)以百倍的提升。
作為金融行業(yè)的“數(shù)字盾牌”，未來，馬上消費技術(shù)團隊將繼續(xù)提升防偽大模型的能力，為全球防偽與金融安全帶來更多創(chuàng)新應(yīng)用。面對愈加復(fù)雜的深偽威脅，這一技術(shù)將成為保障數(shù)字經(jīng)濟和金融體系安全的重要基石，造福更多企業(yè)與個人。
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風(fēng)險，讀者在采取與本文內(nèi)容相關(guān)的任何行動之前，請務(wù)必進行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負任何責(zé)任。
