光明網
2024-11-30 
2024網絡安全創新發展大會·人工智能發展與治理分會在京舉行
11月27日，2024網絡安全創新發展大會·人工智能發展與治理分會在北京舉行。本次會議由中國計算機學會計算機專業委員會指導，國家信息中心《信息安全研究》雜志社主辦，光明網網絡安全頻道＆數字化頻道、中移互聯網有限公司、螞蟻科技集團股份有限公司協辦。北京瑞萊智慧AI治理研究院院長張偉強主持會議。
上海人工智能實驗室副研究員林懿倫從社會技術系統的視角分享了對AI發展態勢的思考。他表示，互聯網的數據積累帶來了LLM的突破，AI模型發展又反過來催生了海量的數據需要。而目前AI與數據的鏈路并未打通，需要構建AI評測和治理體系以有效連接產業和需求，從而真正實現和釋放智能和數據的價值。
北京智譜華章科技有限公司資深技術專家初憲表示，人工智能發展經過了三次浪潮，大模型成為新一代人工智能應用的基礎設施。智譜在千億基座模型、代碼模型、對話模型、多模態模型等方面有完整布局，新一代 GLM-4-Plus 模型在語言理解、指令遵循、長文本處理等方面性能得到全面提升，在各大語言文本能力數據集上獲得了與 GPT-4o 相當的水平。
北京中倫律師事務所合伙人陳際紅介紹，我國大模型“出海：”的一般路徑為調研當地的政策法律環境，識別法律風險；選擇適合的出海模式，制定投資和經營計劃；遵循適用的法律要求和合規程序。他進一步介紹了世界各國關于人工智能的監管立法情況，以及數據保護與數字市場監管思路，并從技術進出口管制、知識產權保護、倫理審查等多個方面分析了大模型出海所面對的挑戰。
浙江大學濱江研究院數智融合研究中心主任韓蒙介紹，近年全球各國發布多項人工智能產業政策文件、法律法規，高度重視人工智能標準化發展、安全監管以及人才培養。浙江大學團隊已牽頭或參與國際、國家、行業、團體安全合規標準二十余項，支撐多個部委相關工作，先后開發了大規模預訓練模型合規評測系統、人工智能安全教學實訓平臺、人工智能風險科研平臺、人工智能安全靶場平臺等研究成果。
網易易盾總經理朱浩齊介紹了AIGC內容安全治理實踐成果。隨著AI技術的發展，AIGC與UGC風險交織給數字內容安全帶來了新的挑戰，更多高質量的數字化信息誕生，內容風控難度越來越大。他認為，在AI轉型中要注意AIGC圍欄防護能力，以AI驅動內容安全防護水平升級，推動AI內容安全能力成熟度自動化評測及AIGC能力評估體系建設。
北京競天公誠律師事務所合伙人周楊律師介紹了AIGC的主要風險、法律框架、各國主要監管政策以及企業為合規需做好哪些準備。她從AICG的運行原理及所伴生風險的全生命周期出發，并結合《生成式人工智能服務管理暫行辦法》《人臉識別技術應用安全管理規定（試行）（征求意見稿）》等多項法規制度，提出了多層面的合規準備工作建議。
深圳鑄思科技有限公司聯合創始人兼技術總監柳江聚焦AI時代眾源數據采集的安全風險，通過典型案例分析，給出了可行的應對思路。Transformer類架構在自然語言處理（NLP）、計算機視覺（CV）等領域得到了廣泛應用，且在各類應用中均表現出了良好性能，但其對數據的訴求遠超以往的模型架構，“算力+數據”是大模型成功的關鍵。（記者 趙鵬超 孔繁鑫 實習生 孫新武）
來源：光明網
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
