新火種
2023-10-23 
AI詐騙全國爆發(fā)，奇安信：技術監(jiān)管雙管齊下守住安全紅線
最近，#AI詐騙正在全國爆發(fā)#的話題沖上微博熱搜第一，引發(fā)了網友廣泛關注。
據“平安包頭”微信公眾號消息，近日，包頭市公安局電信網絡犯罪偵查局發(fā)布一起使用智能AI技術進行電信詐騙的案件，福州市某科技公司法人代表郭先生10分鐘內被騙430萬元。該騙子通過智能AI換臉和擬聲技術，佯裝好友對他實施了詐騙。
另據湖北網警巡查執(zhí)法5月6日消息，AI技術正在改變詐騙模式，新騙局來襲后，詐騙成功率竟接近100%。
AI詐騙猖獗已久，深偽鑒別技術成為遏制武器
前兩年，中年婦女迷戀短視頻平臺上的“假靳東”事件，讓人記憶猶新。隨著技術的發(fā)展，不法分子已經可以通過深度合成AI技術,進行變聲、變臉的“深度偽造”，讓“假靳東”們更加逼真，難以辨別真假，進行新型詐騙。合肥警方在“凈網2021”專項行動中打掉一個利用深度合成技術進行犯罪的團伙，不法分子把一張照片輸入軟件，只要數十秒就能生成人臉動態(tài)視頻，能做“張嘴、眨眼、搖頭”等指令性動作，還能實時念數字，這一個團伙就掌握了十幾個G的人臉數據,為黑灰產業(yè)鏈提供注冊手機卡等技術支撐。
去年3月，俄烏沖突不久，一則烏克蘭總統(tǒng)澤連斯基宣布投降的AI“深度偽造”視頻，出現在社交媒體平臺，隨后被瘋傳，造成嚴重影響。對此，奇安信人工智能研究院負責人表示，目前流行的AI詐騙常用手法，主要分為兩大類：第一種是聲音合成的語音詐騙，國外某公司公布的最新報告顯示，基于人工智能（AI）的語音詐騙日益猖獗，在接到詐騙電話的群體中，77% 的人會導致經濟損失；第二類就是AI換臉，就是騙子在視頻通話中利用AI換臉，騙取信任。在此基礎之上，現在的技術已經可以演進為兩種方式的多模態(tài)融合，并可能成為未來的主流AI詐騙方式。
該負責人認為，相對于單純的聲音合成，融合了視頻合成（如AI換臉）+音頻合成的新型詐騙模式，更易取得對方信任，成功率更高、危害更大。因為騙子用AI技術換臉，可以偽裝成任何人，再通過視頻方式進行信息確認。但同時，人臉識別的鑒別門檻更高、難度更大，從技術角度，更難防范。
據介紹，深度偽造技術泛指用AI的方法偽造圖像/視頻、語音、文本的技術，但目前影響最廣泛的還是人臉圖像/視頻合成的技術，其中最具代表性的兩個方向即人臉重演偽造和人臉替換偽造。尤其是深度偽造技術的迅速發(fā)展，在帶來娛樂性的同時，也為經濟犯罪、軍事欺騙、甚至恐怖主義行動等提供了新工具，給政治安全、經濟安全、社會安全等領域帶來了諸多風險。在這樣的情形下，深偽鑒別也在如火如荼地發(fā)展中。
為此，奇安信通過在人工智能安全領域的多年不斷投入，基于自身積累海量知識和大數據，在深度偽造、深度鑒偽等技術取得了突破進展，已經能夠準確識別數十種前沿偽造技術生成的虛假視頻，可以成為防止AI換臉詐騙等人工智能生成虛假信息的有力武器。
AI技術濫用亟待強化監(jiān)管落地
AI詐騙橫行，技術固然重要，但法律法規(guī)的強力監(jiān)管，更是必不可少。目前，國內相關部門及企業(yè)，已經高度重視AI技術濫用導致的風險，并推出了監(jiān)管措施。
去年12月，國家網信辦、工信部、公安部聯合發(fā)布《互聯網信息服務深度合成管理規(guī)定》，明確了合成數據和技術管理規(guī)范。其中提到：深度合成服務提供者對使用其服務生成或編輯的信息內容，應當添加不影響使用的標識。提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內容功能的服務的，應當進行顯著標識，避免公眾混淆或者誤認。
4月初，國家網信辦起草了《生成式人工智能服務管理辦法（征求意見稿）》，向社會公開征求意見，旨在促進生成式人工智能技術健康發(fā)展和規(guī)范應用
不久前，抖音平臺發(fā)布了“關于人工智能生成內容的平臺規(guī)范暨行業(yè)倡議”，明確禁止利用生成式人工智能技術創(chuàng)作、發(fā)布侵權內容，包括但不限于肖像權、知識產權等，一經發(fā)現，平臺將嚴格處罰。
奇安信安全專家表示，網絡不安全，生活不踏實，人工智能勢不可擋，解決人工智能安全難題的最好辦法，還是需要技術和監(jiān)管雙管齊下。目前，奇安信正在基于AI技術和自身積累的海量安全知識和數據，訓練奇安信專有的類ChatGPT安全大模型。預計將廣泛應用于安全產品開發(fā)、威脅檢測、漏洞挖掘、安全運營及自動化、攻防對抗、反病毒、威脅。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
