新火種
2025-01-06 
肖鋼：人工智能不能消除金融風險，算法并非中性，須加強治理金融AI算法模型|財富管理50人論壇
12月22日，中國證監會原主席肖鋼表示，智能金融的本質是金融，其雖顛覆了傳統金融模式，增加了新業態，但并沒有改變金融要服務實體經濟和人民生活的宗旨，只是通過智能方法來服務實體經濟、服務科技創新、服務人民生活。
此外，人工智能極大提高了金融機構識別預警和控制風險的能力，但并沒有分散或消除金融風險。因此，智能金融的本質還是金融，要遵循金融的基本規律。
當天，國民財富發展研究合作平臺 “AI+金融”峰會在京召開，會議主題為“AI浪潮下的金融業應變”。肖鋼在大會上談到了上述觀點。
中國證監會原主席 肖鋼
同時，對于當前金融領域應用算法模型所產生的問題，肖鋼指出，算法并非中性，算法的應用具有不確定性和不透明性。目前黑灰產組織已利用人工智能，模擬金融機構客戶畫像，為其灌輸數據，進行信貸欺詐，導致新算法和大數據成為金融機構進行風控的反制因素。而在量化投資中，則存在著算法黑箱、算法歧視等問題，且高頻交易影響了市場公平性。因此，治理金融AI算法模型，首先應設立相關法律法規，構建治理的頂層設計。其次成立專門組織，作為模型管控平臺，開展數據治理、算法模型解釋和模型效果評估審查等工作。此外，還應建立模型算法的治理生態體系，由金融機構、科技公司、消費者、監管者、自律組織等共同來參加。
以下為肖鋼主題演講的全部內容：
很高興來參加今天的論壇，按照論壇的主題，我今天主要就加強金融AI算法和模型的治理問題談一點自己的認識。人工智能是把雙刃劍，它一方面引領了新一輪科技革命和產業革命，深刻改變社會生產生活，當然也深刻地改變了金融業的業態和模式，但同時也產生了各種風險和挑戰。
智能金融的本質是金融，它雖然改變了傳統金融模式，甚至說顛覆了傳統金融模式，增加了新業態，但它并沒有改變金融要服務實體經濟和人民生活的宗旨，無非是通過智能方法來服務實體經濟、服務科技創新、服務人民生活。
另外更重要的是，人工智能并沒有分散或者消除金融風險，但其極大地提高了金融機構識別預警和控制風險的能力。分開來看，人工智能沒有消除風險，不是因為人工智能發展消除了金融發展。因此，智能金融的本質還是金融，它要遵循金融的基本規律。
構成人工智能的主要元素是數據、算力、算法，以及多元應用場景。其中算法是人工智能中重要的組成部分。Algorithm原本出于拉丁文，現在是英語中的一個詞匯，翻譯過來就是算法。Algorithm其實是以波斯科學家穆罕默德·花拉子密名字命名。這個人當時指的是使用阿拉伯數字進行運算的法則。花拉子密在1830年寫下了代數學，第一次詳細解釋了使用十進式進行4種基本運算，也就是現在的加減乘除和分數計算，形成了算法的底層概念。而算法真正的形成是在20世紀的30年代，由美國數學家香農第一次將二進式計算的數字和布爾代數結合，產生了智能算法編寫的計算機語言。
算法和模型密不可分。簡單來說，算法就是計算的方法，它是輸入數據得出輸出結果的過程。而建立模型離不開算法，算法是建立模型的流程，并非全部。模型是一系列算法的結果，一系列算法的數學表達。如果建立一個模型肯定要對事物進行規律性概括，即抽象概括，所以算法和模型密不可分。
關于算法的討論其實國內外都存在著豐富的文獻，比如《被算法操縱的生活》，專門講述了人類被算法操縱。另外最新出版的《智者之上》，人類是智者，而在人類之上卻由算法控制。還有《技術封建主義》，稱之為技術封建主義是因為人類在擁有大量算法后，會產生信息繭房，會對算法產生依賴，這種依賴被國外翻譯為封建主義。以及《奇點更近》《大數據時代》《浪潮將至》《重塑資本主義》等等。對于算法的諸多討論，我歸納為五個方面：
第一是算法殘酷，比如，美團的滴滴，時間算法非常精確，以及外賣員在街上狂奔送餐，算法已提前計算出配送時間，超時會面臨著被差評的風險。算法很殘酷，超越了人的情感，不是以人為本。
第二是算法歧視，其中有很多種歧視。第三是算法博弈，不同算法之間存在博弈。第四是算法霸權，利用算法強加于他人產生一些想要的結果。第五是算法奴隸，當然人類不能成為算法奴隸，日前聯合國安理會討論人工智能和國際和平安全的主題，聯合國秘書長古特雷斯表示，人類命運不能掌握在算法手中，不能依靠算法來掌握人類命運。
對于“算法是不是中性”的爭論較多，有的人認為算法是中性的，而我認為算法不是中性的。第一要形成算法，必須提前預設價值立場。第二算法依賴的數據往往有局限性，不可能十分完美。第三算法多樣性和結果是中立的，因為算法有多種，采用的不同可能產生的結果也不同。此外，算法應用有不確定性和不透明性。
從上述多種維度來看算法并非中性。目前算法模型在金融領域的問題也有所顯現。第一美國Zillow公司是一家依靠算法進行智能投資的公司，2021年該公司因算法預測模型出現失誤導致虧損5億美元。在IBM的一項全球調查中顯示，模型缺乏可解釋性被列為接受人工智能的最大障礙。
此外，算法模型在中國金融機構的風控模型中也遇到了問題。我國一些金融機構現在已采用了信貸風控模型，靠算法進行風控，但現在存現了一批黑灰產組織，同樣使用大模型模擬運行金融機構信貸風控模型參數，依據金融機構的客戶畫像（客戶放貸條件），為其灌輸數據，進行信貸欺詐，而這種利用大模型的信貸詐騙在我國已真實發生。
當前不法分子利用人工智能進行欺詐，導致新算法和大數據成為金融機構進行風控的反制因素，而由于大銀行和中小銀行在抵御科技技術風險能力上存在差異，部分中小銀行更容易被黑灰產組織攻破。
目前，美國銀行家協會正在研究開發全體金融機構的欺詐檢測人工智能模型，這值得借鑒，由于一家金融機構能夠獲取的欺詐數據相對有限，各家金融機構匯集數據，統一開發的檢測模型更為精準，同時各家金融機構也能共享這一模型。
在量化投資方面，我國相關機構的算法模型也存在問題。2023年某量化投資平臺被行政處罰，并被公開譴責，暫停業務。在量化投資中，算法權力具有市場優勢地位，而由于推薦的服務信息不對稱會產生算法黑箱。另外算法還存在歧視，因為算法輸出的數據關系到性別、年齡、收入、資產，采取差異化收費，因客定價，此時往往容易產生歧視。
同時，算法模型具有策略一致性的特點，容易加大市場波動性，特別是高頻交易，容易影響市場公平性。國內將每秒進行300筆交易定義為高頻交易，而高頻交易占整個量化收益的60%。我國投資者以散戶為主，高頻交易影響市場公平性。
為研究治理金融AI的算法模型，首先應設立相關法律法規，從而構建算法治理的頂層設計，并設立三個目標，分別為信任、效能和安全。
第二是做好算法模型治理一定要成立專門組織，如大型金融機構應建立算法模型管理委員會，而這一專門組織不是用來領導干部開會，而是要真正設立模型管控平臺。
第三是具體任務，包括數據治理、算法模型解釋、自主評估，對模型效果評估的審查，以及問責和救濟。
最后是要建立模型算法的治理生態，由金融機構、科技公司、消費者、監管者、自律組織等共同來參加。
分享國內某一個商業銀行的實例。第一是模型管理委員會，由模型管理委員會制定算法模型開發應用的戰略和政策規則。第二是模型管理的規范，比如對于零售模型有需求、設計、開發、驗證等一套規范。第三是模型管理的風險管理平臺，實時展現模型參數的前景，跟進項目進展，自動監控預警。
算法模型不能一概而論，要分級分類治理，風控模型應放到最優先等級，即高等級。另外，新模型也要放到高等級。算法模型的迭代非常重要，模型不可能一蹴而就，需要在實踐中不斷迭代，進行差異分析、解釋歸因，以及數據訓練，不斷更新投產驗證等等。
人民銀行很有先見之明，其專門發布了人工智能算法金融應用評價的規范，該文件具有前瞻性，從模型的精準性和性能方面做出規定，要求在建模過程中存在相關措施。例如，可解釋性方面，分為幾個步驟，在建模準備過程中，要對模型特征定義、要選擇哪些可解釋性的算法參數、樣本等。在建模應用過程中，模型參數也要可解釋，而且要監控管理。最后算法的目標性，對于算法應用的業務，具體內容提出了若干要求。比如對于常見的攻擊防范、盜取、供應鏈后門攻擊等，并要求算法可追溯。最后是算法內控。
此外，人民銀行除發布應用評價規范，還發布了人工智能AI模型的信息披露指南，其重要性在于要向消費者披露模型參數、內在邏輯等，便于大眾監督、社會監督和監管者監督。未來應進一步貫徹好人民銀行AI算法應用的規范，更好地促進智能金融健康發展。
（責任編輯：高歌 ）
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
