21世紀經濟報道
2023-12-04 
反電詐法一周年｜當電信網絡詐騙遇上AI何以判斷真假美猴王？
拼一次富三代，拼命才能不失敗！電影《孤注一擲》中，安娜被高薪吸引來到了緬北從事電信網絡詐騙相關工作，以為抓住了改變命運的機會，實則苦不堪言：失去自由，被毆打、被拘禁，甚至被當作貨物轉賣。
電信網絡詐騙對于公眾而言并不陌生，殺豬盤、冒充公檢法、賭博誘導等。而在AI技術大熱的今年，電信網絡詐騙開始利用AI技術，通過換聲、換臉的形式，冒充普通人身邊親近之人進行詐騙。
對于公眾而言，就像遇到了《西游記》中真假美猴王的選擇難題，傳統的眼見為實、日常認知都已失效。究竟誰真誰假？對于AI+電詐，又該如何防范？
出其不意的“AI+電詐”
當前，人工智能（AI）發展如火如荼，借助AI技術的電信網絡詐騙也出現了，常見的是通過換臉、換聲完成電信網絡詐騙。
今年5月，包頭警方通報一起通過AI換臉而被騙走430萬元的案件。在這個案件中，郭先生的好友通過微信視頻聯系他，稱在外地投標，需要430萬元保證金，且需要公對公賬戶過賬，所以想要借用郭先生公司的賬戶走賬。基于視頻聊天信任的前提下，郭先生沒有核實錢是否到賬便將錢款打到指定賬戶。此后經主動和好友微信確認，才得知上當受騙，原來視頻的對象并非其好友。原來和郭先生視頻的“朋友”或許只是網絡空間的一串代碼。
利用AI換聲進行詐騙則更為常見。近日，有媒體報道稱，六安市金安區一位老人遭遇了經由AI技術模仿老人外孫聲音的詐騙電話，冒充其外孫稱“犯事”了，急需匯款6萬元才能解決。幸運的是，老人報警，警察確認此為詐騙。
通過AI換聲、AI換臉進行的電信網絡詐騙離不開人工智能技術的發展，尤其是深度合成技術的進步。深度合成技術的典型代表如生成式對抗網絡（GAN）、自動編碼器（Autoencoders）等，可通過深度學習、虛擬現實等生成合成類算法制作圖像、音頻、視頻、虛擬場景等信息。相關技術已有實踐，如前些年間的大熱軟件Zao。
欺騙和不信任，是這項AI技術發展帶來的負面影響。借助換聲、換臉只是電詐分子利用AI詐騙的一個縮影。
“作為工具的AI，還可在多個方面幫助電詐分子實施電信網絡詐騙。比如說通過AI精準識別易受騙的潛在受害群體；又比如針對電信網絡詐騙的追溯、追查等，通過AI實施設置各種障礙，逃避法律追究。”北京師范大學法學院博士生導師、中國互聯網協會研究中心副主任吳沈括說道。
不遠的未來，AI或許會和電詐產業鏈更進一步結合：用虛擬的數字人代替實施詐騙的人。廈門市美亞柏科首席科學家江漢祥告訴記者，未來隨著數字人技術的不斷成熟，數字人可以像真人一樣，和用戶正常聊天。考慮到當前電信網絡詐騙打擊力度增強，電詐集團或許也需要節約人力成本，或許就會選擇利用虛擬人代替真人。
如2018年浙江省紹興市公安機關破獲一起利用AI技術實施的“特大侵犯公民個人信息案”，涉及一個名為“快啊”的打碼平臺。一些平臺為了防范黑客攻擊設立了安全門檻，采用了驗證碼這一方式。而“快啊”通過深度學習自主識別彈出的驗證碼，能夠在毫秒級別迅速響應。此前這項工作需要人工承擔。
電詐防范需關切個人信息保護
當前電信網絡詐騙案件的一大特點：精準，而這離不開伴隨電信網絡詐騙而生的黑灰產幫助。
黑灰產的上游多是個人信息泄露。上游根據電詐分子的需要打造相關信息，提供性別、職業等精細化內容，隨后出售給電詐公司。另外，電信網絡詐騙需要不斷尋找目標受眾，而上游則可將不少用戶納入微信朋友圈，然后將出售賬號給電詐分子，幫助實現前期引流。
如此一來，電詐分子根據獲取到的個人信息，定制專屬于受害者的電信網絡詐騙劇本，降低受害者戒心，從而最終實現詐騙。
即便是泰國總理，也不可避免受到電信網絡詐騙的精準騷擾。據《曼谷郵報》（BangkokPost）11月27日報道，泰國總理斯雷塔·塔維辛 (Srettha Thavisin)本人也遭遇了電信網絡詐騙。“有些人發信息給我，另一些人給我打電話，甚至用我的全名向我打招呼，我只是忽略了他們。”據報道，泰國總理已經指示泰國數字經濟和社會部加大力度打擊電信網絡詐騙。
通過AI技術進行電信網絡詐騙，個人信息泄露是根源之一。以借助換聲、換臉的電信詐騙為例，首先需要一定數量的數據，通過算法進行學習才能最終生成詐騙樣本。
個人信息保護成為電信網絡詐騙治理的關鍵環節。2022年12月1日正式實施的《反電信網絡詐騙法》同樣關切個人信息。其第二十五條第一款規定，任何單位和個人不得為他人實施電信網絡詐騙活動提供支持或者幫助：（一）出售、提供個人信息；第二十九條規定，個人信息處理者應當依照《個人信息保護法》等法律規定，規范個人信息處理，加強個人信息保護，建立個人信息被用于電信網絡詐騙的防范機制。
可以看到的是，當前社會數字化程度進一步加深，社交網絡分享日常生活也已成為常態。一方面是分享，一方面則是相關個人數據可能在不知情的情況下用于非法用途。公眾又該如何保障自己的個人信息？
吳沈括建議，一方面，個人需要提高自我保護的意識，減少信息披露范圍。另外，法律需要構建各類數據良性流轉、利用的業務規則，同時對于異常的數據收集行為進行及時識別和必要干預。此外，對于違法乃至犯罪行為要進行及時、高效的法律責任追究。
“當前生活很多時候都需要用到個人信息，每個環節都有個人信息泄露的可能。是否可以考慮從國家層面構建一個防護網，每個上網的人通過公安機關認證，得到特定網號可用于網絡活動，日常生活中需要身份信息，一般情況顯示脫敏的信息，只有在非常特定的情況下才能調用明文信息。這樣通過整體方案有助于解決個人信息泄露問題。”江漢祥說道。
以反制技術對抗電詐發展
AI技術快速發展，人們期待AI能讓生活變得更好，能夠為世界帶來更大想象力。作為工具的AI，如何使用則取決于人。
江漢祥表示，技術可以分為兩類，一類是純粹的通用技術，可用于多個行業和場景，對于通用技術引發的電信網絡詐騙較難預防；另一種則是定制化的技術，適用特定場景，甚至為違法犯罪定制，如軟件類的木馬、病毒等，裝備類的卡池（Simbank，配合GOIP網關使用）等，這部分技術則借助管理予以規制。
針對新技術的發展，我國已先后出臺多項法律法規。如《互聯網信息服務深度合成管理規定》，為深度合成服務劃定了“底線”和“紅線”，強調不得利用深度合成服務從事法律、行政法規禁止的活動，要求深度合成服務提供者落實信息安全主體責任。又如《生成式人工智能服務管理暫行辦法》劃定底線，推動生成式人工智能向上向善，提出不得生成違法內容；同時明確提供者的義務與責任，降低風險。
“對于技術提供者，一方面應承擔信息網絡安全管理義務，當技術被用于違法犯罪活動時，應當及時識別并做出有效干預。如果故意或者放任不管，應當承擔相應的共同違法乃至共同犯罪責任。”吳沈括說道。
“根據刑法第二百八十七條規定，對于為‘AI換臉’實施詐騙行為提供技術支持、幫助的，可能會以幫助信息網絡犯罪活動罪追究刑事責任。此外，還可能涉及侵犯公民個人信息罪，非法侵入、控制計算機信息系統罪等罪名。”北京市盈科律師事務所合伙人律師袁椿暉說道。
電信網絡詐騙的發展離不開技術，技術反制或將成為電信網絡詐騙防范的有力武器。也就是“用技術來對抗技術”。
“無論是AI換臉還是AI換聲，都需要通過技術研發對信息內容準確甄別真偽。這是通過技術對抗技術的治理方式，也是目前備受關注的一種治理手段。”在他看來，結合信息內容傳播規律，可引入信息標簽、信息水印等技術。同時需要構建關于信息數據標識、信息數據水印的完整生態，這樣內容的真實程度和比例會有一個顯著提高，也能夠進一步壓縮通過AI制造虛假信息、實施電信網絡詐騙的幾率。
（文章來源：21世紀經濟報道）
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
