新火種
2023-09-21 
新一輪AI技術的普及是否成為全球各國網絡詐騙的“幫兇”？
◎張園
自從去年年底ChatGPT橫空出世，人們的目光又聚集在了人工智能上，近一年來，關于人工智能和AI的話題熱度居高不下，總是能輕易地吸引人們的關注，躥上新聞熱榜。雖然人工智能的應用對人類很多領域有了新的發展，但擁有這種便利和優勢的同時，也意味著發起網絡攻擊的技術門檻將進一步降低，互聯網將面臨更廣泛的安全威脅。
今年以來，國內關于AI造假的新聞備受關注，前有AI論文造假和新聞造假，后有疑似AI換臉的明星出現在直播間賣貨，五月份內蒙古包頭的一起“AI電信詐騙10分鐘騙走430萬”更是登上微博熱搜，引起全民關注。與此同時，海外不少國家也深陷AI詐騙猖獗的漩渦中，同樣也有不少利用AI克隆聲音、臉部等進行詐騙勒索的新聞，部分案件涉案金額令人咋舌。
紐約網絡公司DeepInstinct在2023年6月對650名網絡安全專家進行的一項調查顯示，四分之三的受訪專家發現，過去一年里，網絡欺詐事件有所增加，85%的受訪者將這種增加歸因于壞人使用了生成式人工智能。
隨著新一輪AI技術的普及，未來人類面臨的反詐防詐挑戰可能更嚴峻。2023年9月11日至17日是我國第十個國家網絡安全宣傳周，對于全球多個國家而言，反AI詐騙或許正在成為全球一種新的共識。
人們更加好奇，日漸強大的人工智能未來可以走多遠？他的實際利用成果到底如何？
Deepfake深度偽造技術一鍵換臉“以假亂真”
“視頻里的他看起來和我以前的同事一模一樣。雖然畫面里只能顯示他的臉，但十分清晰。我們交談時，他的表情自然，和平常人無異。通話只持續了25秒就被切斷了，后來他又撥了語音電話回來，談到了這筆錢的迫切性，我二話不說就轉了錢?！庇《饶喜靠羁茲煽频率械木用馬adhakrishnan（以下簡稱Rad）回憶起了自己這段被網絡詐騙的經歷。
7月9日早上，Rad先是接到了一通匿名電話，他沒有理會。幾分鐘后，Rad打開通訊應用WhatsApp時驚訝地發現他之前在印度煤炭公司工作的同事給他發來了多條消息。
“我們一起工作了近四十年，我很了解他，WhatsApp上的頭像也是他本人。他在軟件上問了我女兒的近況，他還給我分享了他的家庭近照，并問了我們共同的同事最近過得如何。”
接著，這名“前同事”在WhatsApp上給Rad打語音電話，電話中，他表示自己現在正在迪拜機場等飛往印度的航班，他的嫂子正在孟買的一家醫院進行緊急手術，需要提前支付40000盧比的手術費用，想問問Rad可否先借他點錢周轉一下。
盡管電話里的聲音和他的前同事非常相似，但鑒于網絡詐騙日益猖獗，Rad還是向對方表達了自己對大額資金轉賬的擔憂，結果，這名男士立即表示可以與Rad視頻通話來證明身份。
視頻中熟悉的臉和自然的對話讓Rad放松了警惕，隨即把錢轉給了他。但很快，Rad察覺到不對勁。
“沒過多久，當同一個人回電并要求更多的錢來支付醫院費用時，我找了個借口說自己銀行卡上的余額不足，以此搪塞了過去。”Rad找到了通訊錄，并找到了這名前同事的號碼，結果打電話過去對方表示根本沒有在WhatsApp上給Rad發過消息。
就在那時，這名七旬老人意識到自己被騙了，立刻報了警，警察隨即追蹤到一家私人銀行并凍結了賬戶。Rad后來得知自己的其他老同事也有不少人，收到了類似的信息和電話。
而這一切，都和Deepfake脫不了干系。Deepfake，即深度偽造技術，是英文“deeplearning”（深度學習）和“fake”（偽造）的組合詞，它借助神經網絡技術進行大樣本學習，“以假亂真”，實現一鍵換臉，進行聲音合成或動作拼接，從而生成假圖像和假視頻。
2018年4月，一段視頻在推特上瘋傳，獲得200多萬次的播放和5萬多個點贊，視頻里美國前總統奧巴馬大罵“特朗普是個徹頭徹尾的笨蛋”，引發熱議。視頻里的“奧巴馬”動作自然，聲音也聽不出來任何破綻，然而這只是美國演員JordanPeele用Deepfake技術制作的合成視頻，奧巴馬本人可從未說過這樣的話。
人工智能軟件從視頻提取聲音撥打詐騙電話足以蠱惑至親
詐騙一旦牽扯到至親之人，想要冷靜處理就變得尤為艱難。美國地方媒體“KIRO7”報道稱，美國華盛頓州皮爾斯縣的一個家庭在今年經歷了“地獄二十分鐘”。媽媽海蒂在五月一個周一的中午接到了一通電話，電話里傳來了她女兒的呼救聲。
女兒哭著告訴她，自己在沃爾瑪超市附近發生了車禍，急需幫助，然后就把電話給了一個陌生男人。男人在電話里說：“我不是警察，你女兒現在在我手里，如果你想看到她安全出現在你眼前，就照我說的做。如果你掛了電話，我不能保證我會對你的女兒做些什么?！?/p>
海蒂的丈夫羅伯特猜測她女兒可能是在南山的沃爾瑪，立刻開車前去。
“四周警示燈閃爍，喇叭狂響，我揮手示意迎面而來的車輛讓路，以每小時60英里的速度前進，真是瘋狂！但當你聽見自己小孩的呼救時，甚至會面臨生命危險，你還能做什么呢？”羅伯特說道。
但當他到停車場時，繞了幾圈都沒看見一個人?！拔覜]有看到我女兒，也沒有看到任何車輛，我的心一下子沉了下去。”羅伯特感情激動地說道。
與此同時，海蒂仍在家里與騙子通著電話?！伴_始他跟我要1000美元，我當時就準備去銀行取錢，他要我帶著錢去贖回我的女兒?！苯Y果沒一會兒，他就要求匯款而非面交，這讓我起了疑心。
海蒂在與男子通話的同時也在用短信積極聯系女兒，最后，女兒給她回了信息，說自己正在學校并且附上了照片，海蒂看完立刻掛了電話，并打電話給羅伯特，告訴他這只是一場騙局，騙子使用人工智能軟件從在線視頻中提取聲音來撥打詐騙電話。
“腎上腺素狂飆，我幾乎要在停車場吐出來?！绷_伯特說道。
換臉的虛假色情視頻遭傳播影響無辜女性正常生活
再來看看deepfake——這個一開始就和色情視頻制作息息相關的詞語。2017年年底，一名叫做“Deepfake”的用戶把名人的臉換到了色情視頻主角身上，deepfake技術也就此流傳開，成為千萬女性的噩夢。
2018年，印度記者拉娜·阿尤布因報道了敏感話題，她的臉就出現在了色情短視頻上。不懷好意之人利用deepfake技術，將她的臉與色情片女主角的臉互換，合成粗糙的短視頻，播放量驚人，甚至她的家人都來問她：“這是你嗎？”
“當我第一次打開視頻，看到視頻里出現自己的臉時，我十分震驚，但那不是我，因為我是卷發，而視頻里的女性是直發，且她看起來也比我年輕許多，不會超過十七八歲。”阿尤布在英國《赫芬頓郵報》上寫道，“我開始反胃嘔吐，我也不知道該怎么辦?！?/p>
隨后，不停有人在推特等社交平臺給她發騷擾信息，她的家庭地址等個人信息也被曝光在網上。終于，阿尤布不堪重負，因心悸和焦慮被送往醫院。
“所有人都在看一個看似是我的色情視頻，我什么也做不了。從視頻發布的那一刻，我就再也不是原來的那個我了，我曾經固執己見，現在我在網上發布任何信息之前都會深思熟慮。”阿尤布回憶道。
另外一名受害者諾埃爾·馬丁在今年四月接受相關媒體采訪時說道：“假色情視頻將影響終身，它會摧毀人們的生活、事業、人際關系和親密關系，一旦有人被盯上，我們能做的事情少之又少。”
相關數據顯示全球近半數企業一年內經歷過AI詐騙
不僅個人遭遇AI詐騙苦不堪言，企業也難逃人工智能網絡詐騙的泥沼。
信息安全公司Regula四月發布的數據顯示，有37%的公司經歷過語音欺詐，29%的公司經歷過deepfake視頻詐騙，人工智能技術越來越成熟，對企業和個人都帶來巨大挑戰，80%的企業都認為語音視頻的深度偽造技術會帶來嚴重危害。
然而騙子不會止步于此，更高級的詐騙手段不僅僅涉及人工智能生成的虛假信息，他們還會將真實信息和虛假信息混合在一起，從而創造出全新的合成身份。
相關數據顯示，全球近一半的企業（46%）在過去一年都經歷過合成身份詐騙，其中銀行業最易受到影響。2022年，26%的小型公司和38%的大型公司經歷了超過50次的身份欺詐事件，平均每家企業遭遇30起身份欺詐事件，這直接導致91%的企業都增加了身份驗證的支出。
如今，ChatGPT已經可以滿足騙子的多種要求，撰寫出與人類寫作無異的電子郵件，它能夠從社交媒體帖子、YouTube視頻腳本、新聞稿等多種渠道學習不同的寫作風格。除此之外，ChatGPT也適用于多種語言，它不會像非英文母語者犯低級的語法錯誤，由它生成的釣魚郵件語句通暢，質量更高，速度更快。
今年三月，軟件制造商VMWare的安全技術專家ChadSkipper在接受《澳大利亞金融評論》采訪時說道：“舉個例子，騙子會讓ChatGPT寫一條帶有美國得克薩斯南部口音的消息，內容可能是：‘大家好呀！今年是相當不錯的一年，我準備給大家發放獎金，點擊這里查看您的獎金是多少?！l能忍住不點？ChatGPT降低了網絡詐騙的門檻?！?/p>
英國率先宣布變更法律條款保護AI詐騙受害者
然而，這也不代表人們對于人工智能詐騙就束手無策。
2022年11月25日，英國政府宣布了一系列法律條款變更，那些未經本人允許大肆分享私密照片的人將受到懲罰。根據修改后的《在線安全法案》，分享所謂的“深度偽造”內容且未經本人同意首次明確被劃為犯罪行為之列，并可能面臨監禁。
英國政府還提出一系列額外的法律措施，以應對各種不良行為，包括安裝設備（如隱藏攝像頭）拍攝未經他人同意的視頻圖像等。
英國政府還將采納法律委員會的多項建議，以確保立法與技術同步，從而有效應對新型犯罪行為。其中包括：
1.廢除并用新條例替換現行法律條例來簡化法律并便于受害者起訴。新條例包括未經同意分享親密照片以及基于造成羞辱、驚恐的意圖來謀求性滿足的兩個嚴重罪行。
2.為分享私密照和安裝攝像頭偷拍確定具體罪名。
3.將未經本人同意流傳的deepfake照片或視頻定為犯罪。
在接下來的三年內，英國政府還表示將會把受害者支持服務的資金增加到4.6億英鎊，并使用額外的專項資金，將負責性侵和家庭暴力的顧問數量增加300人，達到1000人。
如何防止AI詐騙？用“魔法”打敗“魔法”
對于如何防止AI詐騙，律商聯訊風險信息公司的政府業務首席執行官HaywoodTalcove給出了一些應對建議。他告訴《洛杉磯時報》，每個家庭都可以創造一個秘密詞，這個詞語只有家庭成員知道，一旦有人打電話聲稱是你的女兒、侄子，該詞語就能幫你直接辨認來電人到底是真家人還是騙子。一些細節也能幫助你分辨對方是否在用deepfake合成的視頻來進行詐騙，例如，視頻里眨眼是否太多或太少，眉毛適不適合或者頭發是否錯位，皮膚是否和年齡匹配，如果對方戴眼鏡，你還可以從眼鏡上檢查反射的環境是否真實。
但若碰上“高端局”，我們就只能用“魔法”來打敗“魔法”，用人工智能治理人工智能。科技公司Sumsub在今年六月宣布將增強deepfake檢測技術，該公司的內部像素分析和模式識別技術能立即發現偽造內容，99.95%的deepfake內容在第一次嘗試時就會被攔截。此外，Sumsub還擁有一支專門負責人工智能和機器學習的專家團隊，不斷優化深度偽造檢測技術，為預防AI詐騙貢獻科技力量。
人工智能不是原罪已在多領域驅動變革
任何一項技術都有兩面性，雖然其潛在危險和所帶來的負面效應讓世人頭疼，但人工智能在很多領域的應用和給人們提供的便捷也是不能忽視的。如今全球各領域也隨著人工智能的各種實踐應用迎來了深刻變革，為我們展示了人類社會發展的多種可能性。
今年八月初，南洋理工大學李光前醫學院舉辦了新加坡首屆醫學人工智能國際會議，新加坡衛生部（MOH）醫療服務主任麥肯尼斯教授參會并表示：“因為人工智能大多應用在幕后，多數人都未意識到它已經成為我們日常生活的一部分。人工智能在醫療服務上的應用早已不是某幾個人的專利，而是普惠人類的重要技術?！?/p>
麥教授以糖尿病患者的眼部檢查為例，闡述了AI對醫學的巨大影響。糖尿病會對眼睛造成嚴重的傷害，如果不加以控制甚至會導致患者視力喪失。
傳統意義上，眼部檢查費時又費“人”，它需要醫生對每張視網膜照片都進行細致的觀看解讀，但這一情況正在被人工智能驅動系統Selena+所改變。通過機器學習和深度學習算法，Selena+可以自動讀取視網膜的照片信息，判斷患者的眼睛狀況且準確率高達95%以上。讀取的結果可以迅速反饋給醫生，大大節省了人力投入。
這項技術最初僅為試點項目，如今已在新加坡全面推廣使用。麥教授還表示，目前，新加坡也正處于將胸部X光片、乳房X光片和腦部CT掃描片的異常增強檢測AI技術從試點階段向大規模應用轉變的關鍵時期。人工智能極大改變了疾病檢測方式，從而為病人提供早期干預，增大治愈可能性。
人工智能也為農業發展帶來了新機會。非洲加納農民Deborah是眾多受到氣候變化影響的農民之一，她不得不面對每年產量逐漸減少的現實，這使得她感到十分沮喪。今年七月，她在接受加拿大廣播公司采訪時說道：“干旱和氣候變化讓收成逐年減少，該下雨的時候雨水不夠，不該下的時候雨水又過多?！笨釤嶙屴r場的可可豆莢失去了正常生長和成熟所需的水分，從而使其無法成熟，降雨過多又讓可可樹易受到病蟲害的侵襲?！斑@種情況日益惡化。如果產量繼續下降，饑餓人數也會隨之激增，人們的生活將會受到極大影響?！?/p>
幸運的是，位于非洲塞內加爾的研究團隊開發出了一種名為非洲農業觀察（簡稱AAgWa）的AI工具來幫助解決該問題——通過使用衛星數據和圖像，AAgWa可遠程接收地面的生物物理參數，梳理歷史生產圖，然后利用機器學習預測可能的生長條件。
非洲全新農業科技平臺2063研究院的數據管理主任RacineLy表示AAgWa可以給像Deborah這樣的農民提供有關土壤溫度、肥力和預期降雨量等信息，并告訴他們這些情形將會對農作物產生怎樣的影響。“基本上你就可以根據它提供的信息來判斷，在什么地區種植什么農作物?！蹦壳?，AAgWa已覆蓋47個非洲地區，重點監測玉米、木薯和高粱等主要農作物的生長狀況，根據RacineLy的說法，它的準確率高達94%。“有時候，AAgWa的預測會在一些地區出現偏差。那時，我們會及時更新模型和預測結果?！?/p>
AI技術不是原罪，犯錯的是利用技術手段進行非法操作的人。梅塞尼說：“技術本身是手段和工具，使技術成為善與惡的，是創造和使用技術的人?！蔽覀儫o法停下科技創新前進的腳步，唯有用好科技這把雙刃劍，才能讓人工智能真正轉化為社會發展動能。
（北京青年報）
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
