新火種
2023-11-13 
人工智能安全治理迎“大考”
近日，在英國召開的首屆全球人工智能安全峰會落下帷幕。包括中國、美國、英國、歐盟在內的28個國家和地區簽署了《布萊奇利宣言》，承諾以“安全”“以人為本”“值得信賴”和“負責任”的方式設計、開發、部署和使用人工智能。這份宣言標志著多國首次達成一致，認識到人工智能安全問題需要共同關注和努力。各國爭奪規則制定權和話語權作為各國科技創新焦點，人工智能的安全治理也被提上了日程。從大方向來看，目前主要有兩條探索路徑：一是強調通過政府監管和行業規則實現安全；二是強調通過市場驅動或通過國家規劃驅動產業發展。歐盟對人工智能安全治理的態度最為激進。據來自歐盟和亞洲的高級官員表示，歐盟正在游說亞洲國家效仿其在人工智能方面的做法，希望像當初把歐盟的《通用數據保護條例》塑造成全球隱私標準那樣，將其最新擬議的《人工智能法》也推廣成為人工智能技術的全球監管標準。美國商務部長吉娜·雷蒙多在此次峰會上表示，人工智能安全研究將評估前沿人工智能模型已知和新出現的風險。會后不久，美國總統拜登就簽署了一項行政命令，強調由政府部門對人工智能技術的研發和應用進行安全測試和全程監管。專家分析稱，美國希望通過政府補貼和人才政策傾斜，確保美國在人工智能領域保持領先地位。法國負責數字問題的副部長讓·諾埃爾·巴羅特表示，法國政府正在爭取開源人工智能發展。開源是指模型開發者讓公眾開發、修改和迭代他們的模型。“在前幾代技術中可以看到，開源對于這些技術的透明度和治理都非常有用。它幫助確保競爭公平，并防止某些領域出現不利于創新的壟斷。”巴羅特說道。與多國紛紛出手加強人工智能監管形成對比的是，英國稱，并不急于通過新的人工智能法律來對本國人工智能進行監管，而是建議讓人工智能技術公司更好地發現問題并與立法機構分享他們的發現。印度稱，暫時沒有計劃監管人工智能的使用和發展。新加坡、菲律賓、日本等國也表示更傾向于先觀望人工智能技術的發展，擔心過于倉促的監管可能會扼殺人工智能創新。
數據來源：弗若斯特沙利文實際上，人工智能治理全球競爭提速的背后，是對人工智能發展規則制定權和話語權的爭奪。北京計算機學會數字經濟專委會秘書長王娟在接受《中國電子報》記者采訪時表示，規則的設定一定會直接影響到產業未來發展的導向和趨勢。各方立場也顯示了不同的國家治理理念。比如，美國一貫強調問責機制和明確問責對象要求，歐盟更注重數據隱私保護和倫理治理。“目前來看，各國都較為認同的是‘敏捷治理’思路，即初期先制定一個頂層框架，在過程中不斷調整監管治理和風險控制的措施，通過一些案例和判罰來表明監管的態度，并在實踐推進中不斷加強監管認知，從而不斷調整監管思路并釋放這種信號。”王娟說道。賽迪顧問人工智能產業研究中心高級分析師于凱迪在接受《中國電子報》記者采訪時表示，積極展開對人工智能的監管實際上也是參與全球治理的重要環節。掌握監管規則就能在未來技術路徑選擇、市場需求引導等方面獲得更多話語權，這對于提升國家影響力、增強國際競爭力等方面都將發揮重要作用。此外，人工智能技術的快速演進也在呼喚全球化規則的制定。“有效的監管規則會引導人工智能產業的健康發展，抑制不良應用的發展。生成式人工智能是一個跨國界、多領域的技術，這要求全球范圍內的監管單位進行合作，共同制定國際標準和規則。”安恒信息高級副總裁王欣對《中國電子報》記者表示。中國人工智能治理走在全球前列中國科技部副部長吳朝暉在此次峰會上表示，中國將為“人工智能國際機制、擴大參與和基于廣泛共識的治理框架做出貢獻，造福人民，構建人類命運共同體”。中方代表團聯署了會議的重要成果文件——關于人工智能國際治理的《布萊切利宣言》。多位專家表示，中國在人工智能治理方面已經走在了全球前列。8月15日，由工信部等七部門聯合發布的《生成式人工智能服務管理暫行辦法》正式施行。從現有規則來看，我國的治理路徑與歐盟和美國不同，在倫理規則和法律法規方面皆有布局，具體到生成式人工智能治理，我國強調安全與發展的“雙輪驅動”，既采取措施支持和鼓勵生成式人工智能應用的發展，又針對生成式人工智能應用場景下可能引發的風險進行規制。不同的治理策略與不同的產業發展環境息息相關。“中國發展生成式人工智能具有獨特優勢，”于凱迪表示，“首先在市場需求方面，中國對于智能對話、內容創造、知識管理等領域的應用需求量巨大，涌現了大量的商業機會；此外，中國龐大的互聯網用戶群體的在線活動產生了大量的多模態數據，包括文本、圖像、音頻和視頻。這些數據資源對于生成式人工智能的訓練和推理具有重要作用。但同時，受到加速計算芯片等硬件算力水平、人工智能框架的研究起步較晚，以及人工智能領域人才不足等限制，中國在人工智能領域技術性能方面還存在趕超空間。”騰訊云副總裁、騰訊云智能解決方案負責人王麒對《中國電子報》記者表示，我國的科研實力和全球競爭力在不斷提升，例如在自然語言處理、計算機視覺等領域的一些關鍵技術已經達到了國際領先水平。來自政府層面的積極推動加速了人工智能技術的產業化和商業化進程，為企業創新和發展提供了良好的環境。中國人工智能產業的迅猛發展引來世界矚目。工信部相關數據顯示，我國人工智能核心產業規模達到5000億元，企業數量超過4400家，智能芯片、開發框架、通用大模型等創新成果不斷涌現。世界知識產權組織數據顯示，2022年中國機構人工智能專利申請數量就多達29853項，占當年全球人工智能專利申請總量的40%以上。
數據來源：艾瑞咨詢研究院也正因如此，在此次峰會上，來自中國的聲音受到了多方關注。多位專家強調，中國作為在人工智能研發領域領先的國家之一，在應對人工智能風險和機遇的全球討論中不可或缺。歐盟委員會副主席維拉·朱羅瓦表示，“他們（中國的人工智能企業）太龐大了，不容忽視”“我認為，他們（中方）在這里很重要。說實話，對于防范真正巨大的全球災難性風險，我們需要中國的參與”。中國互聯網協會研究中心副主任吳沈括表示：“時代已經發生變化，當前并不是說有一個人工智能國際規則需要中國參與融入，現實狀態是，中國本身就是國際規則的推動者和重要的共同制定者。人工智能時代，國家地位和力量對比發生了根本性的變化，我們將會是規則共同的締造者。”推動人工智能朝著科技向善發展“從國內市場來看，大模型的發展和落地目前還是比較初級的階段，是一個‘百花齊放’的狀態。大模型的出現，讓我們可以通過更強大的性能、更好的語言理解去和千行百業結合做提質增效。但任何新技術、新業態的出現都會伴隨著一些問題。”王麒坦言。首當其沖的就是數據問題。“生成式人工智能發展需要大量數據投喂，如何合理使用數據而不侵犯隱私權，在合理的監管范圍內引導人工智能向善發展值得多方討論。”王欣說道。他表示，由于生成式人工智能的“黑盒”屬性，整個產業在發展過程中仍處于“摸著石頭過河”的狀態，需要一定的監管制度來規范、引導，防止某些領域出現不利于創新的壟斷。人工智能的有效監管的確存在比較高的技術門檻。于凱迪表示，大模型的訓練和推理涉及深度學習、神經網絡等人工智能技術，監管機構需要具備相應的專業知識和技術能力來理解和評估生成式人工智能的潛在風險。不同國家可能有不同的監管要求和法律制度，甚至是不同的文化和價值觀，標準化監管機制的達成也可能是難點之一。隨著生成式人工智能的飛速發展，可生成的內容形式更加豐富，功能更加多樣，監管與發展的矛盾將更加突出。王娟認為：“創新與監管并非矛盾雙方，嚴監管是謹慎發展的警示燈，但產業發展不充分也不能都‘甩鍋’監管，人工智能產業的發展與其自身內容基礎、原有研究范式及社會群體的行為習慣都有很大關系。”對于新興技術，仍然可以建立有效的監督機制。比如，可以針對生成式人工智能所應用的不同領域的特點和風險程度進行分類，對于高風險領域，類似醫療行業或者包含個人身份信息、財務記錄或其他敏感信息的金融領域，可以采取更嚴格的監管措施；還可以針對技術發展的不同階段采取不同的監管策略等。于凱迪建議，要充分釋放生成式人工智能的發展潛力，科技企業首先要避免盲目跟風、一哄而上的概念炒作和同質化研發，應充分研判不同應用領域下的場景和業務特點，明確垂直領域 Know-how（技術訣竅），從而更準確地定位生成式人工智能技術在不同領域的應用，更快形成商業閉環；其次是要重視生態培育，可以通過建立開放的平臺，為開發者、研究人員和合作伙伴提供接口和工具，促進技術共享和合作。“未來幾年是人工智能技術躍遷的重要窗口期，”王欣表示，“要推進人工智能與產業融合，把握產業發展主動權。技術創新的同時，需要政策創新的護航。面對人工智能發展可能引發的潛在風險，也必須前瞻研判，守住法律和倫理底線，推動人工智能朝著科技向善的方向發展。”作者丨宋婧編輯丨趙晨美編丨馬利亞監制丨連曉東 相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
