新火種
2024-12-29 
生成式人工智能安全大賽完美收官|(zhì)院士專家共談AI安全與治理
12月11日，首屆生成式人工智能安全大賽完美收官，并在北京鳳凰中心舉辦了隆重的頒獎(jiǎng)儀式暨大模型安全技術(shù)研討會。大賽由北京市互聯(lián)網(wǎng)信息辦公室和中國科學(xué)院網(wǎng)絡(luò)安全和信息化領(lǐng)導(dǎo)小組辦公室共同指導(dǎo)，中國科學(xué)院信息工程研究所和信息內(nèi)容安全國家工程研究中心聯(lián)合主辦，聚焦安全攻擊、安全檢測、安全防護(hù)三大賽道，聚集國內(nèi)優(yōu)勢力量，有效發(fā)現(xiàn)、分析、應(yīng)對大模型安全風(fēng)險(xiǎn)，不斷提升人工智能基礎(chǔ)底座的安全可控水平，更好地促進(jìn)北京市及全國大模型產(chǎn)業(yè)的安全發(fā)展。
大賽自今年4月在中關(guān)村論壇啟動(dòng)以來，吸引了來自全國各地高等院校、科研院所、行業(yè)企業(yè)等200余支賽隊(duì)參與。經(jīng)過幾個(gè)月的初賽、復(fù)賽、專家評審等層層篩選和激烈角逐，3個(gè)賽道最終確定了冠軍、亞軍、季軍，以及優(yōu)勝獎(jiǎng)。
會上，中國科學(xué)院信工所所長郭莉、鳳凰衛(wèi)視副總裁劉慶生首先致歡迎辭。
劉慶生表示生成式人工智能技術(shù)在帶來便利與效率提升的同時(shí)，如何確保生成內(nèi)容的準(zhǔn)確性、真實(shí)性與可信度，尤其是在全球化的背景下，如何確保人工智能在生成內(nèi)容時(shí)既符合本地化的文化規(guī)范，又能尊重全球多樣性的認(rèn)知框架，成為新的安全挑戰(zhàn)。作為一家國際媒體集團(tuán)，鳳凰衛(wèi)視始終致力傳播中華文化、促進(jìn)國際交流。2023年11月，我們正式推出“鳳凰智媒AI數(shù)據(jù)業(yè)務(wù)”，推動(dòng)AI數(shù)據(jù)領(lǐng)域華語數(shù)據(jù)的豐富與共享，為中華文化的傳承與傳播提供AI時(shí)代的探索思路和解決方案。一年來，我們不斷探索實(shí)踐，發(fā)布多個(gè)多語言、多模態(tài)以及多元文化的高質(zhì)量語料數(shù)據(jù)集；聯(lián)合多家影視媒體機(jī)構(gòu)共同探索媒體數(shù)據(jù)AI語料化工作；并與多所高校科研機(jī)構(gòu)建立合作，共同開展多模態(tài)大模型評測、合成數(shù)據(jù)等領(lǐng)域研究。
大賽指導(dǎo)單位北京市委網(wǎng)信辦副主任潘鋒、中國科學(xué)院網(wǎng)信辦副主任曾大軍分別發(fā)言致辭，向大賽的成功舉辦和各獲獎(jiǎng)團(tuán)隊(duì)表示祝賀。
中國工程院方濱興院士通過視頻發(fā)言致辭，指出高度重視大模型安全已成全球共識，也是各國關(guān)注的科技制高點(diǎn)，希望廣大科技工作者承擔(dān)起使命和責(zé)任。
中國工程院吳世忠院士發(fā)表主旨演講，分別從網(wǎng)數(shù)智全面轉(zhuǎn)型創(chuàng)造安全新機(jī)遇、大模型廣泛應(yīng)用提出安全新挑戰(zhàn)、人工智能大發(fā)展需要安全新作為三個(gè)方面，強(qiáng)調(diào)了生成式人工智能安全的重要性和緊迫性，以更好保障、支撐、促進(jìn)人工智能技術(shù)的發(fā)展。
中國科學(xué)院信工所技術(shù)副總師韓冀中介紹了大賽組織和初復(fù)賽情況，與會嘉賓向獲獎(jiǎng)團(tuán)隊(duì)頒發(fā)了獎(jiǎng)杯和證書。
來自清華大學(xué)的許斌研究員、北京大學(xué)的楊耀東研究員分別就國產(chǎn)自主可控基礎(chǔ)大模型的研究與應(yīng)用、大模型安全對齊主題做了技術(shù)報(bào)告。隨后大會程序委員會主席、中國科學(xué)院信息工程研究所虎嵩林研究員主持了圓桌對話，來自學(xué)術(shù)屆、產(chǎn)業(yè)屆的專家圍繞人工智能安全與治理的話題進(jìn)行了深入討論。最后，活動(dòng)還舉行了生成式人工智能安全技術(shù)聯(lián)盟的發(fā)起儀式。
大賽及活動(dòng)受到來自政、產(chǎn)、學(xué)、研各界的廣泛關(guān)注，阿里、百度、360、美團(tuán)、百川智能、零一萬物、京東、58同城等60余家代表企業(yè)參會。
Tags:
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個(gè)人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn)，讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前，請務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
