新火種
2024-11-22 
用AI反制AI詐騙，合合信息獲全球AI攻防挑戰賽金融場景賽道冠軍
11月20日，2024年世界互聯網大會烏鎮峰會在浙江省桐鄉市烏鎮開幕，主題為“擁抱以人為本、智能向善的數字未來——攜手構建網絡空間命運共同體”。會議期間，由中國圖象圖形學學會、螞蟻集團、云安全聯盟（CSA）大中華區聯合主辦的AI大模型攻防賽圓滿落下帷幕，該賽事聯合了清華大學、上海交通大學、浙江大學等高校及多家產學研組織共同發起，直面并解決大模型應用中潛藏風險，助力全球AI產業健康可持續發展。
大賽吸引了來自全球18個國家和地區的3200余名技術精英參與，參賽者來自清華大學、北京大學、交通大學、南洋理工大學等290多所國內外高校，以及字節跳動、理想汽車、騰訊、合合信息等上百家科技企業。憑借領先的AI視覺安全技術，合合信息從全球超千支參賽團隊中脫穎而出，獲得“AI核身－金融場景憑證篡改檢測”（簡稱“AI核身”）賽道冠軍。
圖說：合合信息獲全球AI大模型攻防挑戰賽“AI核身-金融場景憑證篡改檢測”賽道冠軍
近年來，以大模型及AIGC為代表的技術飛躍，給人們的生活帶來了便利，也產生了前所未有的安全挑戰。在金融、生活等領域，“眼見不為實、耳聽不為實”的場景頻頻發生，偽造身份材料是常見的欺詐手段，給機構及個人造成了重大財產損失。
在“AI核身”賽道中，主辦方以金融領域進件審核為背景，考驗參賽隊伍實現大模型生成內容的防偽檢測的能力。金融領域進件審核業務涵蓋了信用成長、用戶開戶、商家入駐等多個場景，用戶在辦理這些業務時，需提交一定的材料（即憑證）用于證明個人身份、資產收入等信息，其真實性是困擾金融場景自動化審核的一大難題。如何通過創新技術手段提高金融憑證篡改檢測精度，是賽道關注的重點。
為解決金融憑證篡改“檢測難”的問題，賽道提供了大規模的、貼合實際業務場景的憑證篡改數據集，作為大賽“考卷”。據合合信息技術人員介紹，圖像篡改手段“花樣”繁多，即便是一張小小的購物票據，也可分為復制粘貼、拼接、擦除、AIGC生成等多種造假形式。受多種偽造方法疊加、新偽造工具涌現等因素影響，篡改圖像特征分布復雜，目前的圖像篡改檢測技術面臨泛化性和魯棒性不足的困境，解決真實業務場景的圖像偽造鑒別問題是一項艱巨的挑戰。
本次比賽中，合合信息基于自主研發的圖像篡改檢測系統，針對百萬級金融場景的憑證材料，提取圖像多模態信息；系統結合低維視覺特征和高階語義異常進行綜合分析，在保持極低誤檢率的同時，精準識別偽造區域，有效解決了不法分子利用PS、AIGC等工具制作的高度逼真憑證樣本中偽造區域難以檢測的技術難題。
合合信息篡改檢測技術在偽造視覺圖像鑒別上有著豐富的實戰經驗。此前，合合信息推出了圖像篡改檢測技術，不僅支持檢測身份證、護照在內的多種卡證，營業執照，商場小票等各類票據，還能夠對截圖場景、PDF掃描文件進行審核，適用于金融、保險等多個場景下的文檔篡改檢測。
圖說：合合信息圖像篡改檢測技術對常見證照篡改痕跡進行定位
此次大賽中眾多隊伍“各顯神通”，再次證明了AI產業的健康發展離不開學界和產業界的共同努力。據悉，在圖像內容安全領域，由中國圖象圖形學學會、中國信息通信研究院、合合信息等公司和多所高校聯合編制、中國互聯網協會發布的《文本圖像篡改檢測系統技術要求》團體標準于今年9月正式發布，為企業在開發篡改檢測技術時提供明確指導，建立行業聯合防范機制。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
