新火種
2025-01-04 
合合信息承辦《打造大模型時代的可信AI》論壇，分享AI安全治理策略
近日，由中國計算機學會計算機視覺專委會主辦，合合信息承辦，中國運籌學會數學與智能分會協辦的《打造大模型時代的可信AI》論壇順利舉行。論壇特邀來自上海交通大學、電子技術標準化研究院、中國科學技術大學、中科院、合合信息等機構與企業的專家們，從立法、監管、前沿研究、技術實踐等多個維度分享AI安全領域的最新進展，助力AI向善發展。
（嘉賓合影）
隨著AI技術的飛速發展，特別是以ChatGPT為代表的大語言模型技術的廣泛應用，數據安全、知識產權、算法偏見和有害內容生成等問題日益凸顯，引發了社會的廣泛關注。在此背景下，全國網絡安全標準化技術委員會于今年9月發布了《人工智能安全治理框架》，明確指出AI技術面臨的內生和外部風險。
論壇上，上海交通大學人工智能研究院教授、總工程師金耀輝圍繞大模型訓練過程，提出了“訓練對齊、提示引導和文本過濾”三大安全保障手段，將抽象的安全概念落實到具體的技術研發流程中。同時，中國電子標準院網安中心測評實驗室副主任、CCIA數安委常務副主任何延哲也對人工智能安全檢測評估的邏輯和要點進行了深入剖析，提出了包含算力網絡安全、數據安全、個人信息保護等在內的綜合評估框架。
（合合信息圖像算法研發總監郭豐俊）
在技術實踐方面，合合信息作為本次論壇的承辦方，展示了其在AI視覺安全領域的最新成果。合合信息圖像算法研發總監郭豐俊表示，公司技術團隊基于數據驅動的神經網絡模型，推出了行業領先水平的圖像篡改檢測方案，可提取篡改留下的細微痕跡，檢測出多種篡改形式。這一技術不僅有助于提升圖像的真實性驗證能力，也為打擊數字內容偽造提供了有力工具。
此外，中國科學技術大學教授謝洪濤和中國科學院自動化研究所研究員赫然博士也分別從深度偽造視頻的治理方案和生成式人工智能安全與治理的角度進行了分享。他們指出，隨著AI鑒別與合成技術的相互博弈，深度合成技術的深入研究為鑒別提供了線索，形成了多模態多線索的鑒偽方法。
本次論壇是產學研聯合探索AI安全治理的一次有效嘗試。面對AI的潛在風險，加強行業內部自律，從源頭做好安全措施是守護AI健康成長的第一道防線。合合信息將持續深耕AI視覺安全領域，積極推動行業合作與交流，為打造大模型時代的可信AI貢獻力量。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
