新火種
2024-11-29 
2024年世界互聯網大會｜全球AI大模型攻防挑戰賽收官，十強選手用AI對抗AI
11月20日，國內首個AI大模型攻防賽在世界互聯網大會烏鎮峰會收官。
比賽現場，全球十強選手面對“眼見不為實、耳聽不為實”的場景，通過大模型技術辨別AI造假的音頻、證照及視頻，用AI對抗AI。大賽最終角逐出全球十強，來自字節跳動、合合信息科技、濟南大學、浙江工業大學、安徽大學、上海交通大學等企業和高校的賽隊獲獎。
隨著人工智能技術特別是大模型及AIGC領域飛速發展，給我們生活帶來了前所未有的便利與可能性，也帶來了安全方面的挑戰。
只需10秒，大模型就能克隆聲音、復刻照片，甚至能生成“你”的視頻；同時，大模型“越獄”問題頻發，生成各種危害網絡空間安全的各類信息。
這樣的背景下，全球AI大模型攻防挑戰賽聚焦大模型自身安全和大模型生成內容的防偽檢測兩個賽道，賽題涉及信用成長、憑證審核、商家入駐、智能助理等多個業務場景，覆蓋機器學習、圖像處理與計算機視覺、數據處理等多個算法領域，通過創新的技術解決方案，進一步保障大模型應用安全和產業安全。
“通過攻防實戰演練，直面大模型應用中的安全問題，促使大模型安全技術不斷進步，從而攜手行業邁向更高的安全水平。”螞蟻集團安全實驗室首席科學家、全球AI大模型攻防挑戰賽評審委員會委員王維強表示。
AI反詐是當前保護大模型安全最典型、真實的場景之一。“現在AI詐騙越來越隱秘，手法越來越多樣，可以模擬親人的聲音、朋友的視頻，甚至偽造各種文件，讓人們防不勝防。今天的比賽，作為一名人民警察，我感覺非常欣慰，這意味著我們在對抗AI詐騙的道路上，有了更多的力量和智慧。”收官現場，來自桐鄉的反詐民警李湘臣談道。
除了十強選手外，為了鼓勵比賽方案的算法創新性和資源綠色性，大賽還特別評選出“杰出方案獎”，分別由西安交通大學、上海交通大學及理想汽車賽隊獲得。此外，螞蟻集團在現場為優秀選手頒發直通offer，優秀技術人才秒入職。
該項賽事由中國圖象圖形學學會、螞蟻集團、云安全聯盟（CSA）大中華區聯合主辦，聯合清華大學、上海交通大學、浙江大學、北京科技大學、湖南大學、華中科技大學、北京理工大學等高校及多家產學研組織共同發起。
大賽自9月啟動以來，來自全球18個國家和地區的2700多支賽隊、3200余名技術精英參與，選手來自清華大學、北京大學、香港科技大學、悉尼大學等290多所國內外高校，以及字節跳動、理想汽車、騰訊、智譜AI、Shopee等280多家互聯網、金融、汽車、大模型科技等企業。
此外，在活動現場，中國信通院啟動“護證計劃”，呼吁共建行業標準，守護用戶的身份安全。螞蟻集團表示，積極響應并加入該計劃。
上游新聞記者 楊昕華
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
