新火種
2023-10-20 
AI詐騙成功率百分百？防范眼見不為實金融領域已有成熟技術
原本促進科技進步的人工智能（AI）技術，近期卻變成了新型詐騙的“狼外婆”。隨著AI換臉、合成語音等技術的發展，普通人接觸到各種先進生成工具變得不費吹灰之力，制作出越發難以識別的高質量deepfake（深度造偽技術，簡稱“深偽”）視頻也越來越容易。不少網友擔憂，若這些技術運用到金融詐騙案件中，后果不堪設想。
這些AI詐騙對金融行業將產生怎樣的影響？金融領域如何AI防深偽？
5月31日，新京報貝殼財經記者采訪的多位金融科技專家表示，近些年，隨著deepfake技術的不斷成熟，以及圖像視頻生成技術的流行，這種利用深偽技術繞過人臉識別流程的趨勢有所增長，對金融機構一直以來使用的實名認證系統造成了一定的威脅。“AI技術并非無懈可擊。”度小滿數據智能部總經理、度小滿技術委員會執行主席楊青表示，金融領域的AI防深偽，應該針對整個閉環、每個節點的安全性進行鞏固和創新。當前，金融行業應對deepfake已有了比較成熟的技術方法和方案，可以幫助金融機構識別相關攻擊。
眼見不為實？
Deepfake視頻對實名認證系統造成威脅近期，包頭市公安局電信網絡犯罪偵查局破獲的一起電信詐騙的案件將AI詐騙推向熱搜。在該案件中，福州市某科技公司法人代表郭先生10分鐘內被騙430萬元，幸運的是336.84萬元被騙資金已經被攔截，而其中用到的便是“智能AI換臉和擬聲技術”。有業內人士表示，如今AIGC技術的大爆發，更使得制作難以識別的deepfake視頻越來越容易，這對金融機構一直以來使用的實名認證系統造成了一定的威脅。因此，對人臉識別應用普遍的金融行業來說，防深偽攻擊也顯得尤為重要。
楊青告訴貝殼財經記者，在金融行業，由deepfake產生的欺詐主要是身份欺詐，即通過深度偽造的虛假圖像和視頻來冒充他人身份，騙過金融信貸流程中的身份核驗系統，進而實施盜刷和惡意注冊等。馬上消費人工智能研究院智能核身專家馮月表示，活體防偽、中介識別等技術的核心功能便是能夠避免人臉識別的自身缺陷，有效識別照片、視頻、面具、仿真模型等，如在包頭市這起案件中出現的換臉、變聲欺詐行為。“如果聚焦到換臉技術和擬聲技術兩個關鍵問題上，它主要的難題就是基礎數據的獲取、訓練框架、實時渲染三項。”馮月表示，數據層面上，從社交媒體等社工庫可以獲取冒充對象的影音信息，亦或者是從丟失的黑產手機的相冊、聊天記錄中提取。訓練框架上，目前國內幾個主流的短視頻平臺的剪輯軟件中都支持換臉特效，并且沒有警示信息，國外的開源框架中合成方法超過30種。在實時渲染上，通過對手機刷機、安裝侵入軟件等攻擊操作也可以實現劫持渲染。
詐騙100%成功率？金融機構已有成熟“防深偽”技術落地用deepfake技術來攻擊金融機構，是否可以100%成功？
多位受訪的業內人士告訴記者，這些技術本身并非毫無破綻。目前，許多金融機構已有相關的落地舉措與相關技術應用。比如活體防偽、中介識別等技術在金融業務場景中也已得以應用。“要識別認證內容是否造假，最好的辦法是交給AI去解決，研發‘反deepfake’檢測算法。”在楊青看來，隨著新的deepfake工具不斷涌現，金融行業要應對的深偽攻擊會更多。未來更多的鑒偽技術應該集中去挖掘語義特征、跨模態特征等，讓模型利用可解釋性強的高層語義去鑒偽。
楊青介紹，度小滿防深偽檢測模型的算法策略從三個維度入手。首先生成瑕疵，檢測模型則能將“基本肉眼可見”的特征都提取出來，設計特定的分析算子，從而進行分析研判。其次是固有屬性，由于不同攝像機擁有不同的設備指紋，類似GAN這種模型在生成人臉時也會留下獨特的用于識別生成器的指紋，因此經過對比就能發現端倪。最后，高層語義，指的是檢測面部動作單元（肌肉群）協調性、面部各區域朝向一致性、視頻微觀連續性等方面的問題，由于這些細節建模困難、難以復制，很容易抓到把柄。
馮月亦表示，馬上消費金融基于此類技術創新，目前已經能夠做到將99%的批量欺詐攻擊攔截在外，有效防范偽造信息、中介代辦、偽冒申請、多頭借貸、電信詐騙等風險。而相較于處于整體環節末端的金融機構，更前一步的，社交軟件有義務引入鑒偽機制，并實時對用戶進行通話鑒真提醒，標記對端用戶是否有行為異常、圖像偽造異常、聲音偽造異常。更早的風險提示信息，可以更有效地阻隔風險結果的發生。
此外，業內人士認為，公眾也可以采取一些自救措施，目前有一類技術可以保障用戶的數據不被用于換臉、變聲，這類技術叫對抗樣本技術。以人臉圖像為例，通過對該圖像混入肉眼不可見的對抗擾動蒙版，可以使換臉技術失效。用戶可以使用該類技術對自己社交媒體公開的圖像、語音等媒體信息進行對抗保護后再公開。“不要隨便點擊不明的短信鏈接、郵件鏈接等，不隨意掃描不明來源二維碼、下載APP，不輕易提供人臉等個人生物信息給他人，不輕易透露自己的身份證、銀行卡、驗證碼等信息，不過度公開或分享動圖、視頻等。”馮月建議，無法保證手機等移動設備不丟失，可以在平時定期清理微信聊天記錄，具有親近關系的人隱藏相關痕跡，將手機相冊加密、或者啟動手機的數據保護功能等，這些日常行為都有可能將詐騙攔截在外。
新京報貝殼財經記者 姜樊
編輯 徐超
校對 陳荻雁
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
