新火種
2023-12-19 
健全AI企業內外部治理體系確保AI向善
本報記者 劉慧
追蹤科技股的納斯達克100指數，2023年迄今為止上漲約47.5%。受關注的全球人工智能企業除了谷歌、Ope? nAI、蘋果，還有微軟、亞馬遜、IBM、臉譜、特斯拉、NVIDIA、DeepMind等，中國的人工智能公司包括百度、騰訊、阿里巴巴、京東等。創投市場金融數據分析公司PitchBook的數據顯示，2023年AI相關初創公司的投資金額達到約687億美元。但在經歷了OpenAI人事“巨震”后，業界也在思考，科技公司如何在公共利益與商業成功之間實現平衡？如何完善科技公司的公司治理？確保AI朝著善意的方向前進法國達索系統高科技行業全球副總裁Stéphane SIREAU在接受中國經濟時報記者采訪時表示，過去十多年，技術在不斷加速發展，特別是AI技術加速了世界的改變，但我們要非常小心地應對，要讓AI技術更可靠、更安全地應用到工業平臺等，讓AI技術給企業帶來價值。南開大學講席教授、中國公司治理研究院院長、中國上市公司協會專家顧問委員會副主任委員李維安告訴中國經濟時報記者，AI技術是一把雙刃劍，在改變生產方式的同時，也帶來風險挑戰。尤其是，ChatGPT的出現，標志著人工智能技術新的里程碑，為人類提供了智能化和個性化的服務方案，但也引發人們對人工智能技術潛在風險和倫理問題的擔憂。
決策者的出發點是實現安全和造福全人類的美好愿景還是商業化目標，決定了人工智能是“向善”還是“向利”發展，這一道德選擇將深刻地塑造AI演進，不僅影響著技術的用途，還直接關系到人類文明的命運。“我們必須認真引導AI的發展，考慮數據隱私、公平性、安全性等多個因素，以確保朝著善意的方向前進。”目前，推進AI治理和AI企業治理已成為全球化趨勢。2023年11月1日，首屆全球人工智能安全峰會在英國布萊切利莊園開幕，由包括中國在內的與會國共同達成的首個全球性人工智能聲明《布萊切利宣言》正式發表，同意通過國際合作，建立人工智能監管方法。2023年10月30日，美國白宮發布拜登簽署的最新行政命令——《關于安全、可靠和可信的AI行政命令》，以確保美國在把握AI的前景和管理其風險方面處于領先地位。該行政令包含建立AI安全新標準、保護美國民眾的隱私、促進公平和公民權利等8個方面的目標。
李維安認為，應加快推動建立AI企業內外部治理體系。首先，推動AI企業董事會建設，與企業AI相關的事項要進入董事會決策，成為企業的一個決策方向。在董事會設立專門的倫理委員會，并在公司章程中對AI倫理委員會的構成及其運作進行明確，判斷和把握技術應用的方向。設置首席人工智能官或首席倫理官，以牽頭制定專門的人工智能發展戰略。其次，建立內部數據合規審查機制和內控機制，確保在研發和數據使用中安全合規。設置合規部門，建立對數據安全問題的風險評估和防范機制。再次，實施全面的人才培訓計劃，使管理人才和研發人員了解人工智能技術的倫理和社會責任，增強他們對公司價值觀的理解，培育出一個能夠在技術和倫理之間取得平衡的企業文化。
最后，全面升級治理體系，強化綠色治理和應急治理。AI企業治理應突破單純追求經濟效益最大化的傳統企業治理邊界，而應更多地承擔企業作為社會資源配置平臺的社會責任，樹立推動社會可持續發展的社會化目標。Ant hr opic為何設計“長期利益信托”治理結構從OpenAI離開的員工2021年創立了另一家AI獨角獸Anthr opic，同樣在公司章程中承諾“優先考慮幫助人類，同時實現利潤最大化”。但Ant hr opic對外稱，公共利益與商業成功或股東回報并不矛盾，兩者往往有很強的協同作用。為此，Anthr opic設計了一個名為“長期利益信托”的治理結構：公司由董事會監督。董事會選擇并監督領導團隊（特別是CEO），而領導團隊負責雇用和管理員工。股東擁有選舉、罷免和起訴董事的權利，而董事會成員并不具有。為了讓董事的激勵措施與股東利益結合，董事的薪酬通常由股票形式支付。為了監督董事會的決策是否符合全人類利益，Anthr opic外設一個信托機構對董事進行監督。信托機構由5名沒有經濟利害關系的獨立受托人組成，有權決定董事會的多數席位。
李維安表示，作為人工智能領域的創業公司，在初始創立的時候，公司結構比較精簡，但是隨著公司的不斷發展壯大，治理結構和機制的弊端就會暴露出來，因此必須要完善公司治理體系。Anthr opic同樣將人工智能安全作為目標，但與OpenAI不同的是，Anthr opic將公共利益與商業化的目標并列而不是對立，期望在組織內實現協同發展，而不是通過單獨成立一個子公司實現差異化的治理目標。基于此，Anthr opic設計了一系列制衡機制。李維安表示，在董事會的治理機制上，Anthr opic的公司章程規定，公司由董事會監督，董事會選擇并監督管理層（尤其是CEO），而CEO則負責雇用和管理員工。但董事會不是擁有至高無上的權力，為了能夠使董事會與股東的利益相一致，Anthr opic規定，董事由股東選舉產生，并可由股東罷免。董事通常以公司股票的形式獲得報酬，保障董事和股東的利益相一致。最重要的是，選舉、罷免和起訴董事的權利完全屬于股東，這樣股東會對董事會起到了監督和制衡的作用。“從公司治理機制來看，董事會代表股東的利益，但是否會對公眾等利益相關者負責，成為大家比較關心的問題。”李維安表示。在他看來，Anthr opic通過設立信托機構讓董事會平衡公共利益與股東價值最大化的目標。
長期利益信托機構由五名在人工智能安全、國家安全、公共政策和社會企業方面具有背景和專長的受托人組成。最初的受托人由董事會選出，未來的受托人將由受托人投票選舉產生。以此保障這個機構能有足夠的獨立性，以平衡公眾等利益相關者利益。此外，Anthr opic在C輪融資結束時，創建了一個新的由信托機構獨家持有的股票類別（T類）。T類股票授予信托公司選舉和罷免一些Anthr opic董事會成員的權力。同時，Anthr opic還設立了一個新的董事席位，將由C輪融資和隨后的投資者選舉產生，以確保董事會中能夠有投資者的聲音，這一點和OpenAI的設計完全不同。Anthr opic還對這樣的治理機制設計了一個改進流程，在實踐中逐漸完善。李維安表示，可以看出，Anthr opic通過信托機構和股東會對董事會的決策行為進行監督和制衡。這樣的機制設計試圖保障董事會在追求股東利益的同時，兼顧安全和公眾利益。在這樣的治理結構下，治理主體的議事規則、決策流程等機制的完善就顯得格外重要，是能否發揮治理有效性的保障。同時，治理主體的增加，信息溝通鏈條的延長，所帶來的信息不對稱問題也會成為治理隱患，需要加強信息溝通機制和渠道建設，確保信托機構、股東等及時了解公司內部實際情況，減少代理問題的發生。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
