21世紀經濟報道
2023-12-04 
專訪中國社科院法學所周輝：美國最新AI行政命令具有較強的前瞻性未來可能出現“華盛頓效應”
21世紀經濟報道見習記者肖瀟記者馮戀閣實習生劉悅行北京，廣州報道
ChatGPT的爆火一度“激活”了各界對人工智能技術的期待，人工智能領域疾風勁吹，大模型廣泛應用、GPT商用化探索、算力基礎設施的建設……以人工智能為代表的第四次工業革命席卷全球。與此同時，個人隱私泄露、數據安全風險、價值對齊等問題已經顯露端倪。如何應對AI帶來的諸多問題是各國共同面對的課題。近日，美國發布了一項關于“安全、可靠和值得信賴的人工智能”的行政命令，這份行政命令能重塑AI監管領域的新秩序嗎？
“行政命令立足美國關切，提出內容豐富的人工智能治理舉措，未來在人工智能治理領域，很有可能會出現‘華盛頓效應’。”在接受21世紀經濟報道記者專訪時，中國社會科學院法學研究所網絡與信息法研究室副主任周輝正在耶魯大學進行學術訪問。周輝指出，行政命令法律效力和約束力雖然有限，但其以市場導向為特色的做法值得關注和研究。在人工智能國際競爭日益激烈的背景下，“不發展就是最大的不安全”更加突出。中國在審慎推進立法和監管制度設計，為人工智能治理貢獻中國方案的過程中，可以借鑒美國在治理方案設計中通過順應AI技術發展趨勢，培養和引進人工智能人才，將國家競爭力更好地體現在產業創新發展中。
此外，對政府人工智能應用的指導及其風險的規范，是美國立法和監管的重點之一。根據行政命令，未來聯邦部門需要指定一名首席人工智能官，負責促進人工智能在本部門的創新應用和管理相應風險。周輝建議，中國也將政府部門應用人工智能的示范性和安全性作為治理的重點。在政府內部完善治理架構，帶動產業進步和社會發展的同時，確保在關系人民福祉和權益的政府決策執法活動中，應用人工智能的公平性和公正性。
首個AI行政令：執行效果不夠明朗
21財經：白宮在10月30日出臺了人工智能行政命令，您認為此次發布行政命令有哪些背景？
周輝：要了解白宮此次的行政命令，必須要先了解美國近一年以來及時跟進人工智能技術和產業發展所采取的一系列舉措：其一是美國在去年10月發布《人工智能權利法案藍圖》時就確立了人工智能治理的愿景和原則；其二是今年白宮先后兩次組織谷歌、OpenAI、微軟等15家人工智能產業巨頭簽署自愿承諾，以行業自律推進“安全、可靠和值得信賴的AI發展”；其三是拜登總統簽署了《關于通過聯邦政府進一步促進種族平等和支持服務不足社區的行政命令》，以“指示聯邦機構在設計和使用包括人工智能在內的新技術時要消除偏見，并保護公眾免受算法歧視。”
此外，就外部來看，中國和歐盟人工智能立法的進展也給美國決策層帶來一定沖擊，七國集團（G7）和英國人工智能安全峰會也在推動形成人工智能治理的國際框架。美國強調人工智能的領導地位，不僅在于技術上的全球領先，還著眼于掌握國際治理話語權和規則制定權。行政命令即是既有國內治理舉措的延續，也是美國人工智能治理模式的系統宣示。
21財經：這是白宮發布的最為系統的人工智能行政命令，您認為其會產生哪些影響？
周輝：我認為它實際的影響是有限的。
一方面，在美國法律體制下，白宮作為行政分支的權力有限，總體頒布的行政命令如果沒有法律依據，不能創設強制性義務，不能直接要求被監管對象承擔某些義務。只能在一定范圍內，對聯邦政府部門履行職責作出要求。這其中還不包括法律規定不受總統干預的獨立機構。對于這些獨立機構，行政命令雖也有提及，但也僅限于鼓勵這些機構如何去做，是提議而非命令。從這個層面來看，它的法律效力和約束力是有限的。
另一方面，從內容上可以看出，涉及人工智能企業的條款有限。即便行政命令援引七十多年前制定的《國防生產法》，指示商務部研究明確兩用基礎模型研發者等的有關報告要求，根據美國的體制，這些要求未來也很可能因被提起司法審查而無效。對于人工智能企業而言，整體上并不會實質增加多少合規義務。行政命令涉及人工智能企業有關愿景的實現，很大程度上取決于于企業的配合情況。這也與白宮組織企業簽署自愿承諾的做法基本一致。事實上，行政命令涉及到企業活動的有限內容，也基本來源于平臺自愿承諾的聲明。
華盛頓效應：行政命令的主要意義在于話語權的影響力
21財經：如果說行政命令的影響有限，那發布的意義在哪里？
周輝：行政命令涉及的內容比較全面，涵蓋了人工智能安全、創新和競爭、公民特別是消費者、工人、患者的權益保護等當前主要治理話題，其意義首先在于它的政策宣示作用，宣示了美國在推動人工智能負責任地開發和使用方面的愿景：讓美國政府部門可以明確如何積極應對人工智能發展履職；讓美國社會可以增強對人工智能技術和產業發展的安全信心；讓美國產業可以清晰了解未來美國政府監管的基本思路，形成更穩健的投資和創新預期。
其次，圍繞如何實施人工智能治理，當前在各人工智能大國（地區）都處于頂層設計階段，美國的系統性政策方案必然會對其他國家和地區產生影響。有些制度設計很可能具有示范效應。例如，前瞻性地提出了把計算能力作為可量化的技術條件的監管思路，很可能成為其他國家和地區的重要參考。行政命令本身也突出美國自身在國際上的領導定位，著眼人工智能國際治理框架和全球技術標準也作出了宣示。未來，圍繞國際治理話語權的競爭將會更加激烈。
21財經：行政命令發布后，有學者評價稱其為“人工智能法律之母（themotherofallAIlaws）”，這個評價把行政命令放到了極高的位置，請問您如何看待這個評價？
周輝：這個評價出自哥倫比亞大學教授AnuH.Bradford，她曾提出“布魯塞爾效應”，主要指歐盟憑借其巨大市場，通過市場機制，將法律實際作用于境外的過程。歐盟的《通用數據保護條例》(GDPR)就是一個成功案例，該條例生效后在某種程度上已經成為個人信息保護立法和合規的全球標準。
我認為，可以從三個層面理解“布魯塞爾效應”：一是GDPR等法律本就規定了長臂管轄權。二是平臺等跨國企業在難以負擔針對歐盟市場專設服務模式的情況下，就會將符合歐盟規則的模式作為其全球模式，歐盟的規則進而變為全球模式。三是如果制定的法律或標準具有領先性和示范性，其他國家和地區在立法或監管過程中，難免會參考歐盟的做法。
此次行政命令立足美國關切，提出內容豐富的人工智能治理舉措，未來在人工智能治理領域，很有可能會出現“華盛頓效應”。結合上述“布魯塞爾效應”來分析的話，就第一個層面來看，兩者還存在顯著差別：美國尚未有類似GDPR那樣的人工智能法律。但是，就第二個層面，考慮人工智能產業特別是基礎模型平臺主要來自于美國，且行政命令目前的內容符合這些平臺的利益，在歐盟人工智能法出臺且有不同規定前，不難想象，行政命令有關人工智能治理的愿景將事實上成為這些平臺所及國家和地區的愿景。就第三個層面，前面介紹了行政命令在治理舉措上確有前瞻性和示范性的內容，結合美國主導的七國集團人工智能系統開發組織國際行為準則，在美國的人工智能外交政策助力下，以行政命令為代表的美國人工智能治理模式，很可能成為很多國家和地區的參考。
21財經：在您看來，行政命令所代表的“華盛頓效應”如何在全球范圍內能發揮作用？
周輝：美國行政命令的發布早于由英國牽頭的人工智能安全峰會，發布同日七國集團發布了《開發先進人工智能系統組織的國際行為準則》，從發布時間來看，美國的行政命令搶占先機，也就搶占了國際話語權。
另外，歐盟推進的《人工智能法案》，至今尚未完成最后的立法程序。從各方透露的信息來看，無法完成最后程序的可能性很大。
一方面，在歐盟主要大國德國和法國已有自己基礎模型平臺，對目前《人工智能法案》存在不少重大異議，短期內很難達成妥協、形成一致立場；另一方面明年是歐洲議會的選舉年，如果今年完成不了協商，很難再有時間窗口繼續進行協商，新一屆議會一旦選出，相關立法程序也將重新進行。歐盟《人工智能法案》的挫折，將會給美國行政命令所代表的美國模式留出更大的影響空間。
監管進行時：對政府活動有更嚴格的規范中國應借鑒
21財經：白宮此前已組織十五家人工智能公司簽署自愿承諾，此次行政命令中要求與美國政府分享安全測試結果和其他關鍵信息。美國對AI的監管進程是怎樣的，從自愿承諾到行政命令又有何轉變？
周輝：前面已經介紹，從自愿承諾到行政命令并非轉變，基本原則和愿景上兩者有很多相似和相同之處。
而且，美國一直都有在做AI的監管，2022年12月，國會發布《促進美國人工智能法》，要求特定的聯邦機構采取措施促進人工智能的使用。2020年12月，國會通過《2020年政府人工智能法案》，該法設立了人工智能卓越研究中心。2020年3月，國會發布《國家人工智能倡議法》，吸收了“美國人工智能計劃”在內的多項聯邦人工智能政策與措施。美國白宮科學技術政策辦公室（OSTP）根據該法成立國家人工智能計劃辦公室和國家人工智能咨詢委員會。這都是在自愿承諾之前。
相較于自愿承諾，行政命令更具正式性，但相對于國會立法的法律效力，行政命令很大程度上會是一種“軟”法。再者，目前的兩批自愿承諾都是從企業的角度出發，宣示企業的做法，內容更加原則和抽象，行政命令即便吸收了自愿承諾的主要內容，但是從政府政策角度，覆蓋面更廣，內容更為具體，有些政策也更具操作性。
21財經：行政命令發布以后，科技公司的反響如何，可能形成監管壁壘嗎？有觀點說“嚴格的合規政策會限制產業發展”，您是否認同這一觀點？
周輝：美國人工智能大企業基本都是支持的，少數的爭議在于當前的內容不利于開源平臺。還有一些中小企業和社會組織認為他們在行政命令起草過程中參與不多，聲音有限。關于監管壁壘，各界都有討論，但行政命令本身約束力有限，壁壘并不會太明顯。
如果對合規要求較高，確實可能影響中小企業的發展，未來可以針對中小企業設計一定的豁免機制，對基礎模型大平臺規定專門的責任，根據風險大小和具體能力差異化設計。中國社科院法學所組織、南財合規科技研究院參與的《人工智能示范法》，在后續的迭代更新中，也將豐富對中小企業豁免機制的條款設計。
21財經：對AI進行強監管一直存在爭議，您覺得此次行政命令的發布是否是對AI監管逐步嚴格的預兆？
周輝：事實上，簽署自愿承諾的美國人工智能巨頭深度參與了行政命令的起草之中。從美國政府的立場來說，它需要維護美國在AI領域的領導地位，這需要借力于各人工智能巨頭的成功。行政命令并不是強監管，而是比較寬松。美國的政策從市場導向的角度出發，是其監管的一大特色。
21財經：中美在人工治理思路上有哪些差異？中國能美國在人工智能領域的立法和監管政策制定中吸取哪些經驗？
周輝：美國受自身體制影響，企業政策游說能力強，政府也難以干預市場活動，更多的是為企業服務。整體上，相較于企業，社會對政府權力有更大的警惕。
中國的監管更加強勢，不受資本左右，手段相較而言更加多元，除了行政許可，還有安全評估、備案、約談等。市場對于政府監管信號的依賴性更強：在政府劃清紅線、底線之后，產業投資和創新才會有更明確的預期和更強的信心。
在人工智能國際競爭日益激烈的背景下，“不發展就是最大的不安全”更加突出。中國在審慎推進立法和監管制度設計，為人工智能治理貢獻中國方案的過程中，可以借鑒美國在治理方案設計中通過順應AI技術發展趨勢，培養和引進人工智能人才，將國家競爭力更好地體現在產業創新發展中。
另外，對政府人工智能應用的指導及其風險的規范，是美國立法和監管的重點之一。根據行政命令，未來聯邦部門需要指定一名首席人工智能官，負責促進人工智能在本部門的創新應用和管理相應風險。建議中國將政府部門應用人工智能的示范性和安全性也作為治理的重點。在政府內部完善治理架構，帶動產業進步和社會發展的同時，確保在關系人民福祉和權益的政府決策執法活動中，應用人工智能的公平性和公正性。
治理模式雖有差異，但隨著人工智能作為通用技術的發展趨勢日益明顯，許多人工智能的風險是全球性的。人工智能治理攸關全人類命運，是世界各國面臨的共同課題。中美作為主要的人工智能大國，在這一領域有共同利益。最近的中美元首舊金山峰會一大成果就是，雙方同意建立人工智能政府間對話機制。除了政府間對話，未來也可以鼓勵更多學術界和產業界加強信息交流和技術合作，共同為人工智能安全風險的防范治理分享經驗做法、解決方案，更好賦能全球發展事業。
（文章來源：21世紀經濟報道）
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
