財聯社
2024-11-15 
外灘大會現場上演DeepFake攻防挑戰
《科創板日報》9月7日訊（特約記者 陳俊清），9月6日下午，外灘大會AI創新賽·全球Deepfake攻防挑戰賽賽拉開帷幕。
用AI技術對抗Deepfake的TOP選手代表，在全網期待中亮相。來自上海的觀眾朱先生表示，第一次肉眼看到生成式AI與deepfake檢測技術的正面交鋒，比賽太有意思了。
▌人工PK人工智能，哪家強？
在簡短的Top選手頒獎之后，選手之間的比拼再次打響。
中國科學技術大學網絡空間安全學院和螞蟻數科天璣實驗室聯合出題，對選手模型進行終極考察。和線上賽一樣，表演賽現場分為圖像賽道和音視頻賽道，各賽道TOP3選手兩兩PK。
圖像賽道一開始，臺下立即躁動起來。主持人畢導喚出了9張瑪麗蓮夢露的照片，其中2張是AIGC偽造的。肉眼真假難辨的9張圖，選手卻需要用自己的參賽模型給出每張圖片的偽造概率值，并對概率值最高的2張照片與正確答案進行比對?！氨緛硪詾橹恍枰舭队^火，不曾想到，自己也被卷進了戰斗狀態，試圖用肉眼與AI一較高下”，來自一家科技公司的觀眾小張說。觀眾互動環節，臺下不服氣的視覺設計師甚至請戰AI，希望展示自己的專業敏感度。
偽造概率值的問題，引發了畢導的追問，到底AI能否100%識別偽造。
賽事出題人之一、ZOLOZ技術總監姚偉斌介紹道，讓AI百分百識別偽造圖像是否偽造，是十分困難的。偽造技術也在不斷迭代更新，對抗需要不斷地提升。這也是我們今天做比賽的一大意義。在實際應用中，通常是將識別算法與其他檢測手段結合使用，綜合判斷風險。
據悉，Deepfake賽事覆蓋了最主流的圖片和圖像賽道，覆蓋了從基礎科研到商業轉化的全過程。數據集由公開數據和偽造數據組成，其中，偽造圖片數據涵蓋了現實場景中超50種生成方式，偽造音視頻中則納入了超100種組合攻擊方式，訓練數據集總量超過100萬。
視頻賽道環節，畢導數字分身出演了多部經典電影名場面，選手同樣要通過AI模型來辨別真偽?，F場選手比分上，在一些難度一般的賽題上，結果比分接近，偽造識別率幾乎都在80%以上，但是在一些高難度賽題上，模型結果差異懸殊。
畢導向新加坡科技研究局天異教授發出靈魂拷問，為什么肉眼覺得一眼假的畫面，AI卻不能完全答對？而肉眼難以辨別的畫面，AI反而1秒識別？
對此，周天異認為人類在判斷圖像是否偽造會依賴直覺和邏輯，比如畢導的人臉換到了哈利波特身上，人類一眼便知，AI卻不了解背后的故事。而人類會下意識地偷懶，AI是最稱職的工具人，AI不受情緒干擾，他會一絲不茍、勤勤懇懇地完成人類的指令。所以，AI在工作效率和穩定性上，都是大大高于人類的。
▌“AI 換臉”檢測有了標準
近日，Deepfake惡性事件牽動人心。
8月30日，賽事組委會發起開源倡議：“支持并鼓勵優秀參與者開源比賽模型，降低技術門檻、加強技術交流，進而幫助更多人檢測偽造內容，助力AI向善。
研發檢測算法，只是遏制Deepfake技術濫用的方式之一。姚偉斌坦言，這種方式是相對滯后的。如果要從根源上防范欺詐行為，姚偉斌認為應在標準和立法角度，要求給AIGC內容建立通用標識，比如每一張AIGC生成的視頻/圖片都在文件信息里帶一個簽名或水印，這樣平臺管理更有依據，也能讓AIGC可以更可信。
會上，十余家機構聯合發布國內首個面向金融場景的“AI 換臉”檢測標準。該標準的發布為金融場景下的虛假數字人臉安全檢測和評估提供了依據，也填補了這一領域的空白。
這場Deepfake攻防挑戰賽，正是應用了此標準的框架和指標，進行賽題的制定和答案的評價。
全球Deepfake攻防挑戰賽針對“AI換臉”的欺詐風險進行攻防實戰演練，并設立100萬元人民幣的獎金池，鼓勵推動AI向善的技術人才。大賽吸引了全球2200多名選手，1500多支隊伍報名，覆蓋中國、美國、印度、澳大利亞、日本、印尼、馬來、新加坡、越南等26個國家和地區。
▌意在人才培養
據了解，外灘大會AI創新賽包括 “AFAC2024 金融智能創新大賽”和“全球 Deepfake攻防挑戰賽”兩大子賽事。全面展示了人工智能在多個領域的最新應用與前沿探索，也彰顯出了科技創新的無限活力。同時，Inclusion外灘大會第二屆AI創新賽· "全球AI攻防挑戰賽”也正式啟動。賽事聚焦AI大模型產業實踐，設有攻防雙向賽道。
該大賽中設置了算法挑戰、應用場景設計、創業項目路演三大板塊，算法挑戰聚焦于機器學習、深度學習等前沿技術；應用場景設計鼓勵參賽者將AI技術應用于醫療、教育、環保等領域；創業項目路演則為初創企業提供了一個展示其創新理念和技術實力的平臺。
Deepfake參賽隊伍中，有一支“混搭”隊伍，一個學長帶著一群學弟學妹“打怪升級”。「隊伍名字」核心成員來自香港和澳門的大學，去年8月剛從澳門大學博士畢業，目前是香港城市大學的博士后的吳海威，帶著他在澳門大學智慧城市物聯網實驗室的學弟學妹一起參加比賽。
早在2019年，吳海威就曾參加過Facebook組織的關于Deepfake的檢測大賽，2020年到2022年，吳海威連續參加過了多場相關比賽，均拿到了前三的名次。唐永威是此次賽事中最特別的一位，商業畢業的他，自學計算機專業知識。此次在兩個賽事中都取得了三強名次。
唐永威的參賽隊名為“初淅瀝以蕭颯”，來自歐陽修的《秋風賦》。這個充滿古風的名字，和他一路披巾斬棘的參賽風格截然不同。2022年底，首次參加專業賽事的他，就獲得了A-tech大賽季軍。
比起最終取得的成績，參加AFCA大賽的閆強更看重大賽在人才培養、激勵上的價值，通過參與競賽，能夠及時了解行業動態和技術趨勢，不僅能讓自己變得更強大，而且讓一群人變得更強大。
賽事評委之一、華東師范大學計算機科學與技術學院教授蘭曼指出，AFAC大賽的賽題既有前瞻性又有實操性，有的涉及金融行業的基礎技術研究，有的與具體應用場景結合，體現了“解決行業真命題”的賽事初心?！耙再惔傺小⒁援a促研，相關成果很有價值?！?/p>
兩場比賽不僅體現了賽事的國際化程度，也彰顯出其在專業領域的權威性。參賽項目涵蓋了醫療健康、金融科技、智能制造等多個熱點領域，顯示了AI技術的廣泛應用潛力。
“這樣的比賽對不同階段的選手都有幫助?！盨hopee公司算法工程師馬千里是第二次參加AFCA大賽。去年參賽時，他還是高校應屆畢業生，“求職時，創新和實踐能力是與競爭對手拉開差距的重要一點，AFAC大賽成為這種創新實踐能力的佐證，比賽經歷在面試中給了我不小的助力”。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
