新火種
2023-09-08 
美國科學院院士邁克爾·喬丹：需要解決AI“不確定性”問題
界面新聞記者 | 彭新
1
“如果你問ChatGPT‘你對剛剛寫的內容你確定嗎？’，它就會無法回答這個問題。”9月7日，在INCLUSION·外灘大會上，美國科學院、美國工程院、美國藝術與科學院三院院士邁克爾·喬丹（Michael I. Jordan）上發表主題演講，討論人工智能的“不確定性”問題時，拋出提問稱。
即使處于ChatGPT引發的“人工智能2.0”時代，大語言模型已經有明確落地場景，對于AI技術的研究仍存諸多問題。“ChatGPT也沒有辦法對不確定性進行量化，我們需要去解決這個問題，找到一個可能的方法去應對這些挑戰。”喬丹稱，他提及，人類非常擅長處理這些此類“不確定性”問題，知道如何去溝通不確定信息，提出應對方案。
解決人工智能的“不確定性”問題，一直是人工智能領域重要課題。涉及到在金融等關鍵領域的落地應用，“金融科技歸根結底講的是不確定性的技術。如果說不確定性應對不好，你不可能有非常好的金融科技技術。”喬丹表示。
喬丹是機器學習領域的先驅，通過在機器學習、概率學、統計學以及圖模型這四者間建立聯系，為機器學習奠定了數學與計算基礎。他的重要貢獻包括指出了機器學習與統計學之間的聯系，并推動機器學習界廣泛認識到貝葉斯網絡的重要性。他還以近似推斷變分方法的形式化、最大期望算法在機器學習的普及方面的工作而知名。他曾獲得IEEE約翰·馮·諾依曼獎章、國際人工智能聯合會議卓越研究獎和2022年第一屆世界頂尖科學家協會獎。
對于喬丹而言，如何應對AI系統的不確定性，已經是其日常的工作中需要應對的事物。他提到，在科學研究領域，一個名為“Alpha Fold”的深度學習蛋白質結構預測系統是該領域的熱門，由于Alpha Fold在蛋白質結構預測的準確度遠遠高于其他任何程序，這一方案被認為可解決困擾生物學長達半個世紀的蛋白質折疊結構預測難題。
“Alpha Fold主要用于蛋白質預測，其預測能力強于人，某種程度上來講是有智能的，但是它依賴的是人的數據，依賴的是有標記的蛋白質結構數據，這個可以用于藥品的開發、藥品的監管。”喬丹稱，他介紹，Alpha Fold推動了學界時下一種流行研究方法——基于預測驅動的推導。
“很多科學家用（AI）預測的蛋白質數據，而不是真實的蛋白質數據，來作為真實數據使用，可以實現上億級別的蛋白質結構預測，如果用人力的X-射線晶體結構分析技術的話，只能做幾十萬級別的預測。”喬丹說，“但是，我們要區分一下：基于真實的數據和電腦產生的數據，這兩者有差別嗎？會不會產生問題？”
實際上，對于結構生物學研究而言，預測并不陌生，并一直作為實驗科學的輔助存在。 至于預測與實驗的結果，有時候一樣，很多時候是不一樣。也是科學姐近年激烈探討的熱門話題，喬丹坦言，對于預測的“偏差”仍無法忽略，甚至可能因為極小的預測偏差，最終會導致實驗結果出現極大的不同。
“有很多人說，人工智能會替代人，用機器來替代人，我覺得不是這樣的。我們應該將技術看作賦能人類的一種工具。”喬丹說，ChatGPT也沒有辦法對“不確定性”進行量化，所以需要去解決這個問題，要找到一個可能的方法去應對這些挑戰。
喬丹稱，應對AI的不確定性，一定程度可借鑒現實生活中的方案。他稱，人們可以設計一種集體智能體，“螞蟻（螞蟻集團）就是一個很典型的例子，它創造了雙邊市場，把商戶和客戶有效聯結在一起，我覺得這是一個智能的集體，具有真正的智能。”他說，通過設立一種機制，讓集體更加公平、 可擴展和具備穩定性，這才是未來解決人工智能問題的主要方向。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
