新火種
2024-09-07 
外灘大會：全球AI攻防挑戰(zhàn)賽報名啟動，探索大模型時代的攻防之道
9月6日上午，在2024Inclusion·外灘大會“以AI守護(hù)AI 大模型時代的攻守之道”論壇上，國內(nèi)首個大模型攻防主題的科技賽事—“全球AI攻防挑戰(zhàn)賽”宣布正式啟動。該賽事聚焦AI大模型產(chǎn)業(yè)實(shí)踐，設(shè)計了攻、防雙向賽道，邀請各路白帽黑客、技術(shù)人才分別進(jìn)行針對文生圖大模型“數(shù)據(jù)投毒”的攻防實(shí)戰(zhàn)演練,以及金融場景大模型生成內(nèi)容的防偽檢測競賽,角逐百萬元科技獎金。
本次大賽由中國圖象圖形學(xué)學(xué)會、螞蟻集團(tuán)、云安全聯(lián)盟(CSA)大中華區(qū)聯(lián)合主辦，廣泛聯(lián)合清華大學(xué)、上海交通大學(xué)、浙江大學(xué)等C9高校及多家產(chǎn)學(xué)研組織共同發(fā)起，上海人工智能實(shí)驗(yàn)室作為技術(shù)合作單位。大賽旨在通過技術(shù)競賽的形式，凝聚學(xué)界、行業(yè)力量,直面并解決大模型應(yīng)用中潛藏的風(fēng)險，助力全球AI產(chǎn)業(yè)健康可持續(xù)發(fā)展。
中國工程院院士、中國圖象圖形學(xué)學(xué)會理事長王耀南在賽事啟動環(huán)節(jié)表示，大模型時代，如何確保AI系統(tǒng)的安全可控、如何有效應(yīng)對供應(yīng)鏈中的潛在風(fēng)險，成為亟待解決的重要問題。圖像圖形技術(shù)作為新一代信息技術(shù)領(lǐng)域的關(guān)鍵技術(shù)，在大模型等多場景創(chuàng)新應(yīng)用，推動圖像識別與安全技術(shù)創(chuàng)新發(fā)展。此次AI攻防挑戰(zhàn)賽，是中國圖象圖形學(xué)學(xué)會攜手螞蟻集團(tuán)等業(yè)界知名企業(yè)、機(jī)構(gòu),聚焦大模型AIGC賽道共同打造的全球性技術(shù)盛宴，從人臉驗(yàn)真到生成式內(nèi)容檢測，期待挖掘出更多創(chuàng)新方案，更進(jìn)一步保障大模型應(yīng)用安全和產(chǎn)業(yè)安全。
大賽設(shè)置了“攻擊”與“防守”兩大賽道，分別聚焦大模型自身安全和大模型生成內(nèi)容的防偽檢測及大模型濫用風(fēng)險檢測，涵蓋機(jī)器學(xué)習(xí)、?圖像處理與計算機(jī)視覺?、數(shù)據(jù)處理等多個算法領(lǐng)域的考點(diǎn)。
其中，“攻擊賽道”聚焦于文生圖大模型的實(shí)際應(yīng)用風(fēng)險問題。參賽選手可通過目標(biāo)劫持、情景帶入、邏輯嵌套等多樣化的動態(tài)攻擊誘導(dǎo)技術(shù)，誘發(fā)大模型輸出風(fēng)險圖像，以此激活大模型的潛在弱點(diǎn)和漏洞，增強(qiáng)大模型生圖的安全免疫能力。“防守賽道”則聚焦于AI核身中的金融場景憑證篡改檢測，以應(yīng)對日益嚴(yán)峻的Deepfake深度偽造及AIGC假證風(fēng)險。大賽提供百萬級憑證篡改數(shù)據(jù)訓(xùn)練集，參賽選手需要研發(fā)和訓(xùn)練模型，并利用對應(yīng)的測試集評估模型有效性，給出數(shù)據(jù)偽造概率值。
為保證大賽公平公正，同時更好地指導(dǎo)選手，大賽評委團(tuán)由多位學(xué)術(shù)界與工業(yè)界專家共同組成。中國工程院院士、中國圖象圖形學(xué)學(xué)會理事長王耀南，云安聯(lián)盟(CSA)大中華區(qū)主席李雨航擔(dān)任本次大賽的指導(dǎo)委員會專家，來自清華大學(xué)、上海交通大學(xué)、上海人工智能實(shí)驗(yàn)室、中國圖象圖形學(xué)學(xué)會等單位的近30位知名學(xué)者將參與大賽的組織及評審工作。
本次大賽于9月6日正式啟動報名，11月初完成賽事評審。即日起，選手可通過中國圖象圖形學(xué)學(xué)會官網(wǎng)、阿里云天池大數(shù)據(jù)眾智平臺官網(wǎng)等渠道報名。大賽全程設(shè)有近100萬元獎金池，用以選拔及表彰領(lǐng)域內(nèi)的優(yōu)秀人才。
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險，讀者在采取與本文內(nèi)容相關(guān)的任何行動之前，請務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
