新火種
2023-11-10 
負責任的生成式AI十條共識發布：確保開放包容和公平普惠
11月9日，2023年世界互聯網大會烏鎮峰會人工智能賦能產業發展論壇在浙江烏鎮舉行。論壇以“人工智能賦能產業發展”為主題，旨在深入探討如何更好地發揮人工智能創新引領與賦能作用，促進人工智能與經濟社會的深度融合，協調發展與治理，促進科技向善。
論壇發布了《發展負責任的生成式人工智能研究報告及共識文件》，呼吁為人工智能產業健康發展創造良好環境。
會上，多位嘉賓都在分享中提到了AI會產生的“幻覺”和錯誤。百度首席技術官王海峰在分享中透露了百度對于大模型的“幻覺”的應對方式。他表示，百度將發展了很多年的搜索引擎升級為基于語義理解和匹配的新一代的搜索架構，可以得到更精準的搜索結果，把這個結果和生成模型融合，得到準確率更高、實效性更強的結果，“比如人寫一篇稿子的時候，會有一些關鍵知識點需要事先準備好，比如一些觀點、實驗數據等等這些，當大模型接收到一個輸出的時候，我們也做了知識點增強的技術，先理解用戶的需求，針對這個需求把其中可能會需要的關鍵知識點，通過搜索引擎、知識圖譜、數據庫等找到，一起送進大模型，這時候它的生成會更有針對性、更準確。當然其中會發生錯誤，所以輸出結果的時候再次用知識點增強進行反思和確認，確保這些關鍵點是正確的，我們叫做‘兩個階段的知識點增強’”。
美國東北大學教授Kenneth Ward Church則是發表了題為《The Easy, the Hard and the Ugly》的演講，其中對于人工智能丑陋的部分，Kenneth Ward Church舉例稱，“人工智能會有一些這樣的問題，比如小孩子說喜歡圣誕老人，結果GPT給出的回復是我也喜歡毒品，你會發現人工智能是有很多問題的。同時我們可以看到通過人工智能，在推特上面，微軟的聊天機器人在一天之內就學會了歧視，這是微軟犯下的一個錯誤。迪士尼他們也會回避這種語言。”
大會還公布了世界互聯網大會人工智能工作組廣泛匯聚全球人工智能產業鏈上下游企業、高端智庫、國際組織、頂尖高校的智慧，形成的《發展負責任的生成式人工智能研究報告及共識文件》。
德國明斯特大學信息、電信和媒體法研究所所長Prof.Dr. Bernd Holznagel介紹了文件中提煉的《發展負責任的生成式人工智能十條共識》：
第一，發展負責任的生成式人工智能應始終致力于增進人類福祉，堅持以人為本，推動人類經濟、社會和生態可持續發展。
第二，積極倡導并穩妥推進生成式人工智能的可持續發展。
第三，構建有益于生成式人工智能健康有序發展的良好環境。
第四，提升生成式人工智能研發及規模應用的能力。
第五，發展安全可靠的生成式人工智能，確保全生命周期內可控地運行。
第六，增強生成式人工智能系統的透明度與可解釋性，提升人類對其理解和信任。
第七，強化生成式人工智能數據治理，加強數據安全，尊重和保護個人隱私。
第八，確保生成式人工智能的開放包容和公平普惠。
第九，明確生成式人工智能的歸責體系，增強系統可追溯性。
第十，推動生成式人工智能更好地理解人類意圖、遵循人類指令并符合人類的倫理道德。
（文章來源：南方都市報）
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
