新火種
2023-11-13 
發(fā)展負責任的生成式人工智能：已有共識，亟待落實
來源：中央廣電總臺國際在線
2023年11月9日下午，在烏鎮(zhèn)召開的人工智能賦能產(chǎn)業(yè)發(fā)展論壇上，來自企業(yè)、研究機構(gòu)、國際組織等各方的代表，共同發(fā)布了《發(fā)展負責任的生成式人工智能研究報告及共識文件》。這套56頁的文件，是此次世界互聯(lián)網(wǎng)大會發(fā)布的標志性成果之一，預示著各方以負責任方式，朝著推進構(gòu)建生成式人工智能治理模式的方向，邁出了堅實一步。
信息技術(shù)革命在進入人工智能階段之后，以生成式人工智能為代表的技術(shù)，又取得了長足的進步和發(fā)展。如《研究報告及共識文件》中所明確指出的那樣：
其一，在“模型、數(shù)據(jù)、算力”等三大要素持續(xù)迭代和高速演進的推動下，人工智能不斷在工程維度的發(fā)展和應用中，實現(xiàn)快速突破。就全球范圍的發(fā)展情況來看，Transformer為主的基礎(chǔ)模型依托相關(guān)研究主體的長期持續(xù)投入，通過ChatGPT、Stabel Diffusion、BLIP-2等，在大語言模型、視覺生成模型、多模態(tài)模型等細分領(lǐng)域，持續(xù)實現(xiàn)模型能力的躍升。這種躍升的主要體現(xiàn)，是參數(shù)規(guī)模進入1000億量級，處理復雜自然語言能力因此呈現(xiàn)顯著發(fā)展；在數(shù)據(jù)領(lǐng)域，多場景的大模型預訓練數(shù)據(jù)集不斷涌現(xiàn)，研究機構(gòu)形成了通過發(fā)布微調(diào)數(shù)據(jù)集方式，提升預訓練用數(shù)據(jù)集的效能；合成數(shù)據(jù)解決訓練數(shù)據(jù)資源可持續(xù)性的探索也取得了較為顯著的成效；算力芯片和架構(gòu)的持續(xù)迭代，在訓練效能、云邊端算力效能優(yōu)化等方面，對生成式人工智能的發(fā)展提供了有效的支撐。
其二，應用前景催生了開源開放驅(qū)動生成式人工智能生態(tài)的迅速發(fā)展，整體趨向繁榮發(fā)展。從應用場景看，開源生態(tài)與開放驅(qū)動成為當下推動人工智能生態(tài)發(fā)展的主基調(diào)，模型迭代優(yōu)化、研發(fā)門檻降低、縮短初創(chuàng)成本等，成為各方廣泛認知的主要優(yōu)勢。與此相應的，在ChatGPT的刺激下，生成式人工智能的開發(fā)者社區(qū)迅速涌現(xiàn)，成為支撐和推動相關(guān)技術(shù)與應用發(fā)展的主渠道。Hugging Face、華為云AI Gallery、阿里巴巴、FlagOpen飛智、百度的飛槳星河等社區(qū)憑借各自比較優(yōu)勢，在其中發(fā)揮了至關(guān)重要的作用。
其三，生成式人工智能的階段性高速發(fā)展再度激發(fā)了人們對于發(fā)展通用式人工智能的勇敢想象與積極探索。如《研究報告及共識文件》指出的那樣，由于生成式人工智能的這一輪突破，尤其是其中與多模態(tài)方向發(fā)展相一致的發(fā)展，催生了人們新的想象與探索：人們預期，伴隨著多模態(tài)生成模型技術(shù)的突破，能夠更好地理解和處理復雜的現(xiàn)實場景，或許將帶來更多的想象空間，比如可以探索將多模態(tài)生成模型與機器人技術(shù)結(jié)合等方式，繼而以某種形式盡可能趨近模仿人類感知復雜世界能力的呈現(xiàn)。
很自然的，生成式人工智能帶來的機遇和挑戰(zhàn)，同步存在：
從積極的角度看，生成式人工智能可能帶來的經(jīng)濟增長前景，日趨明朗。根據(jù)麥肯錫2023年6月的樂觀預測，生成式人工智能每年可能為全球經(jīng)濟增加2.6萬億至4.4萬億美元的價值。根據(jù)高盛研究，在滿足增長條件的情況下，生成式人工智能的突破將在10年內(nèi)推動全球GDP增長7%。對生成式人工智能以及通用式人工智能未來發(fā)展前景的合理展望，有助于人們確信人類的生產(chǎn)活動和滿足特定要求的服務行業(yè)，未來均可能面臨顯著的增長前景，有理由保持樂觀預期。從生成式人工智能的可能應用場景來看，現(xiàn)代社會的基礎(chǔ)服務體系可能獲得有效賦能，預期城市運營管理、災害救助與事故分析、實時預警與風險管理、定制化個性化的新型教育體系、新型就業(yè)崗位與就業(yè)機會、以及迫切需要得到實質(zhì)性賦能的醫(yī)療和養(yǎng)老行業(yè)，均可能從人工智能的負責任發(fā)展中獲得實質(zhì)性的收益。此外公益事業(yè)中的無障礙數(shù)字環(huán)境建設、全球文化成果保護和傳播，以及全球環(huán)境治理和可持續(xù)發(fā)展，也有希望從生成式人工智能的噴薄發(fā)展中得到全新的賦能與助力。作為高質(zhì)量的“聰明”助手，生成式人工智能在助力科學研究中所具有的廣闊前景，也同時日趨清晰地呈現(xiàn)。
客觀而謹慎地看，生成式人工智能帶來的風險挑戰(zhàn)也是顯而易見的，預先訓練大模型時投喂的數(shù)據(jù)不可避免地存在缺陷，價值偏見、隱私泄露、數(shù)據(jù)污染等，如《研究報告及共識文件》所指出的那樣，是已經(jīng)被廣泛察覺到的主要風險；算法模型的“幻覺”，虛假信息干擾，指向模型的網(wǎng)絡攻擊等，均揭示了人工智能發(fā)展帶來的新型安全隱患和風險；此外，高速技術(shù)迭代帶來的科技倫理失范以及人類社會發(fā)展失衡等問題，也日趨明顯地成為各方必須共同
此次發(fā)布的成果中，“十條共識”的提出，可以看做企業(yè)和研究機構(gòu)，遵循全球網(wǎng)絡空間規(guī)范生成的一般規(guī)律，在烏鎮(zhèn)世界互聯(lián)網(wǎng)大會上，為全球作出的重要貢獻。這十點共識，分別從總體認知、促進發(fā)展、能力建設三個方面，向世界提交了一份高質(zhì)量的建議：
第一，總則對標中國倡導的全球發(fā)展倡議、全球安全倡議和全球文明倡議，對標10月18日發(fā)布的《全球人工智能治理倡議》，運用中國智慧，基于統(tǒng)籌發(fā)展和安全、平衡創(chuàng)新與倫理、均衡效益與風險的理念，確立負責任推進人工智能治理的總體目標。
第二，促進生成式人工智能的三條公式，體現(xiàn)了對實現(xiàn)生成式人工智能可持續(xù)發(fā)展的務實思考。不僅強調(diào)了保證經(jīng)濟的可持續(xù)性；而且均衡考量其社會與環(huán)境的可持續(xù)性；對生成式人工智能健康有序發(fā)展的生存環(huán)境，有了鮮明而直觀的認識與理解；對算力、數(shù)據(jù)、算法等關(guān)鍵組件的能力建設，提出了具有較強指導意義和實踐效能的戰(zhàn)略共識。
第三，提升生成式人工智能負責任治理能力，體現(xiàn)了倡議方對國家安全、社會繁榮以及全球戰(zhàn)略穩(wěn)定所承擔的堅定責任。這部分的共識，充分體現(xiàn)行業(yè)從業(yè)者在實踐中對問題的認識，對風險的把握，以及對解決方法的積極探索。無論是發(fā)展安全可靠的生成式人工智能，確保全生命周期內(nèi)可控地運行，還是增強生成式人工智能系統(tǒng)的透明度與可解釋性，提升人類對其的理解和信任，又或是強化生成式人工智能數(shù)據(jù)治理，加強數(shù)據(jù)安全，尊重和保護個人隱私以及確保生成式人工智能的開放包容和公平普惠，都深刻準確全面地反映了業(yè)界對有效和負責任治理生成式人工智能的系統(tǒng)思考。
需要特別說明的是，相比同期其他類型文件，此次發(fā)布的《研究報告與共識文件》最值得稱道的是可執(zhí)行性，在文件中明確指出，要明確生成式人工智能的歸責體系，增強系統(tǒng)可追溯性，并提出了明晰歸責體系、構(gòu)建追溯機制、探索治理沙盒等創(chuàng)新友好型治理工具體系等具有極強可操作性的共識意見，展現(xiàn)了全面、具體且系統(tǒng)性的社會責任共識。其關(guān)于推動生成式人工智能更好地理解人類意圖、遵循人類指令并符合人類的倫理道德的共識，從探索價值對齊研究和提升價值對齊技術(shù)兩個方面入手，給出了體現(xiàn)全球范圍領(lǐng)先目標，同時又在可操作性與可實現(xiàn)性方面具有鮮明烏鎮(zhèn)特色的重要貢獻。
習近平主席在此次世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會開幕式的視頻致辭中明確指出，構(gòu)建網(wǎng)絡空間命運共同體進入了新階段，而此次發(fā)布的《發(fā)展負責任的生成式人工智能研究報告及共識文件》，切實踐行了習近平主席要求，為邁向新的十年輝煌的世界互聯(lián)網(wǎng)大會，貢獻了高質(zhì)量的成果，也為推動全球范圍內(nèi)人工智能負責任治理的有效展開，作出了巨大貢獻。現(xiàn)在，我們已經(jīng)有了這份沉甸甸的共識，如何把共識落到實處，還需各方共同努力。（沈逸 教授 復旦大學網(wǎng)絡空間國際治理研究基地主任）
相關(guān)推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內(nèi)容相關(guān)的任何行動之前，請務必進行充分的盡職調(diào)查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負任何責任。
