新火種
2023-12-19 
李禮輝：把不太成熟的AI技術應用到金融領域或放大現有風險并產生新風險
中國銀行原行長李禮輝 澎湃新聞記者 周頔 攝
“現在智能金融還處在早期階段。”
12月17日，在以“數字經濟與資產管理：大灣區新趨勢與新動能”為主題的第二屆明珠灣金融論壇上，中國銀行原行長李禮輝如是說。他談到，之所以認為智能金融尚處于早期階段，主要的標志是現在的人工智能在金融業主要應用還是輔助和助理性質，集中在兩個領域：一個是改進產品創新和客戶服務，第二個是改進運營管理和風險管理。
人工智能迭代升級到底帶來了哪些挑戰？李禮輝做了四點分析：
第一是算力集中和算力競爭。這方面投入非常大，需要周期很長，一定會導致更大的算力集中，這個競爭以后主要是經濟體的競爭，而且是科技巨頭和資本巨頭之間的競爭。中國和美國的差距這幾年在縮小，但是現在美國采取技術封鎖會不會擴大這種差距還要進一步觀察。
第二是數據共享和數據治理。目前中國的數據共享模式還存在不足，影響數據價值的進一步挖掘。美國牽頭組織西方國家對中國實行“小院高墻”技術封鎖，現在主要是高端芯片和核心軟件，未來會不會擴大到數據資源領域也要進一步關注。
第三是AI對齊與AI合成。所謂AI對齊，就是人工智能必須與人類價值觀和根本利益保持一致，在地緣政治環境下，不同的主體之間的價值觀并不完全一致，可能要關注的是在地緣政治環境中AI對齊可能會成為霸權國家的價值觀輸出的技術工具。AI合成是指用虛擬現實等生成式算法做圖片、視頻、音頻等深度合成內容，需要重點關注深度合成可以模糊真實與虛擬的邊界，可以用于詐騙，也可以用AI來操控。
第四是AI信任和AI安全。從金融領域來看，現在主要的問題是AI算法和模型仍然不夠清晰和透明，有待解決技術方面的缺陷，比如說模型技術黑箱、模型學習局限、模型決定歧視、模型輸出判決、模型算法趨同、模型服務冰冷、隱私保護薄弱、第三方依賴等等。如果把不太成熟的人工智能技術投入到高風險的金融領域，可能會放大現有風險，并產生新的風險。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
