新京報
2024-11-23 
烏鎮峰會上演“用AI對抗AI”：國內首個AI大模型攻防賽收官
11月20日至22日，2024年世界互聯網大會烏鎮峰會舉行，AI大模型技術也作為熱點議題受到了廣泛關注。大會期間，國內首個AI大模型攻防賽在烏鎮峰會收官。貝殼財經記者在現場發現，全球十強選手面對“眼見不為實、耳聽不為實”的場景，通過大模型技術辨別AI造假的音頻、證照及視頻，用AI對抗AI。
大賽自9月啟動以來，有來自全球18個國家和地區的2700多個賽隊、3200余名技術精英參與。通過攻、防雙向賽道競技，大賽最終角逐出全球十強，由來自字節跳動、合合信息科技、濟南大學、浙江工業大學、安徽大學、上海交通大學等企業和高校的賽隊獲得。
據悉，賽事由中國圖象圖形學學會、螞蟻集團、云安全聯盟（CSA）大中華區聯合主辦，聯合清華大學、上海交通大學、浙江大學、北京科技大學、湖南大學、華中科技大學、北京理工大學等高校及多家產學研組織共同發起，直面并解決大模型應用中潛藏風險，助力全球AI產業健康可持續發展。
國內首個攻防賽：聚焦AI反詐等大模型安全真實場景
近年來，人工智能技術特別是大模型及AIGC領域飛速發展，給生活帶來了前所未有的便利與可能性，也帶來了安全方面的挑戰。只需10秒，大模型就能克隆聲音、復刻照片，甚至能生成“你”的視頻，從而引發deepfake欺詐、色情影像偽造、假新聞等社會事件；大模型“越獄”問題頻發，誘騙AI聽從不懷好意的指令，生成血腥、暴力、歧視、仇恨的圖片、視頻，危害網絡空間安全。
中國工程院院士、中國圖象圖形學學會理事長王耀南表示，“加強大模型安全保護，構建完善的安全防護體系，是確保人工智能技術持續、穩定、健康發展的關鍵所在，也是我們在這個充滿機遇與挑戰的時代必須肩負起的重要使命。”
在這一背景下，全球AI大模型攻防挑戰賽聚焦大模型自身安全和大模型生成內容的防偽檢測兩個賽道，賽題涉及信用成長、憑證審核、商家入駐、智能助理等多個業務場景，覆蓋機器學習、圖像處理與計算機視覺、數據處理等多個算法領域，通過創新的技術解決方案，進一步保障大模型應用安全和產業安全。
“通過攻防實戰演練，直面大模型應用中的安全問題，促使大模型安全技術不斷進步，從而攜手行業邁向更高的安全水平。”螞蟻集團安全實驗室首席科學家、全球AI大模型攻防挑戰賽評審委員會委員王維強表示。
AI反詐是當前保護大模型安全最典型、真實的場景之一。“現在AI詐騙越來越隱秘，手法越來越多樣，可以模擬親人的聲音、朋友的視頻，甚至偽造各種文件，讓人們防不勝防。今天的比賽，作為一名人民警察，我感覺非常欣慰，這意味著我們在對抗AI詐騙的道路上，有了更多的力量和智慧。”收官現場，來自桐鄉的反詐民警李湘臣向記者說道。
育人才、建標準：推動大模型安全可持續發展
“大賽的舉行，匯聚了全球范圍內數千位技術精英，為大家提供了技術交流與競技平臺；在這個舞臺上，許多優秀的人才脫穎而出，發現和培養一批優秀的安全人才，為行業的未來發展儲備智力資源，也是大賽的初衷之一。”中國圖象圖形學學會副理事長兼秘書長、北京科技大學教授馬惠敏表示說。
據悉，除了十強選手之外，為了鼓勵比賽方案的算法創新性和資源綠色性，大賽還特別評選出“杰出方案獎”，分別由西安交通大學、上海交通大學及理想汽車賽隊獲得。此外，螞蟻集團在現場為優秀選手頒發直通offer。
中國科學院計算技術研究所副研究員敖翔在現場表示：“人工智能技術的飛速發展為人才提供了廣闊的發展空間和創新平臺，而AI領域的快速變化也對人才的知識結構、技能水平和創新能力提出了更高的要求，AI時代人才的成長離不開產學研的密切合作。”
此外，活動現場，中國信通院啟動“護證計劃”，呼吁共建行業標準，守護用戶的身份安全。螞蟻集團積極響應加入該計劃，宣布其推出的憑證可信認證平臺螞蟻光鑒將逐步升級，未來打造成為集合智能證照核身處理系統、智能聲音核身處理系統、智能視頻核身處理系統于一體的新一代AI核身系統。
IIFAA互聯網可信認證聯盟也正式對外發布《IIFAA基于移動智能終端的憑證文件驗證服務檢測規范》，該規范對憑證文件驗證服務的功能、性能要求以及評估方法做了詳細說明，以提升憑證文件驗證的效率和安全性，推動行業的標準化進程。
“只有當技術、規范和意識三者協同發力，加上持續的人才儲備，我們才能真正守護好大模型的安全，為其持續健康發展創造良好的條件。”王維強表示說。
新京報貝殼財經記者羅亦丹
（文章來源：新京報）
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
