新京報
2024-01-04 
AI十人談⑩｜曾毅：現(xiàn)階段的大模型距離通用人工智能還很遠(yuǎn)
曾在聯(lián)合國安全理事會就人工智能議題發(fā)言，被《時代周刊》評為“全球百大AI（人工智能）人物”之一的中國科學(xué)院自動化研究所研究員、人工智能倫理與治理中心主任曾毅告訴貝殼財經(jīng)記者，當(dāng)前階段的人工智能是“看似是智能的信息處理工具”，距離真正擁有意識的通用人工智能還有相當(dāng)距離。
他認(rèn)為，人工智能所帶來的問題并不僅僅是科學(xué)、技術(shù)和產(chǎn)品層面的，還有社會層面，人類應(yīng)該對此做好準(zhǔn)備。對于生成式人工智能大模型存在的問題，曾毅認(rèn)為倫理安全隱患是目前最不可忽視的，必須為每一個介入社會應(yīng)用的人工智能服務(wù)構(gòu)建倫理安全框架，用“教育大模型知善知惡、為善去惡”的方式來解決。而在人才培養(yǎng)方面，人工智能人才不應(yīng)該只聚焦于算法、算力相關(guān)人才培養(yǎng)，社會學(xué)、人類學(xué)、心理學(xué)，甚至哲學(xué)、倫理等都應(yīng)當(dāng)納入未來人工智能體系的培養(yǎng)中。
曾毅表示，人工智能目前已經(jīng)快速演變?yōu)橛煽萍及l(fā)展引起的社會問題，需要從社會層面去討論，既不能停留在科學(xué)家的層面，更不能僅僅停留在人工智能相關(guān)產(chǎn)業(yè)層面去制定相關(guān)規(guī)范，必須有公眾參與和政府引導(dǎo)。
在他看來，目前不論文字工作者還是藝術(shù)工作者都受到了人工智能不同程度的挑戰(zhàn)。真正的智能實際上有兩個關(guān)鍵因素，一個是自我，一個是理解。任何一個文字工作者和藝術(shù)工作者，都對于社會、自然有基于自我的體驗和理解。包括采訪這件事情，記者的背景和興趣不同，提出的問題也完全不同。現(xiàn)在的人工智能沒有自我，當(dāng)你在使用生成式人工智能大模型時，人工智能是在沒有在科學(xué)意義上“我”的概念前提下以“我建議、我認(rèn)為”來與用戶溝通，這其實在混淆人與現(xiàn)代人工智能之間的界限，目前的人工智能并沒有能力作為責(zé)任主體，不能承擔(dān)任何責(zé)任。
目前，人工智能創(chuàng)作有可能替代相對平庸的作品，但無法替代大師的杰作。因此，人工智能倒逼藝術(shù)工作者和文字工作者進行對藝術(shù)本質(zhì)的反思，實際上提出了更高的要求，人工智能的發(fā)展應(yīng)該讓人類所從事的職業(yè)回歸到正確的位置。
對于當(dāng)前科學(xué)家致力于研發(fā)通用人工智能，甚至有人認(rèn)為通用人工智能已經(jīng)實現(xiàn)的說法，曾毅認(rèn)為，ChatGPT的成功跟當(dāng)年深度學(xué)習(xí)的廣泛應(yīng)用非常相似，最本質(zhì)的科學(xué)原理可能幾十年前就已經(jīng)存在，但如此大規(guī)模的數(shù)據(jù)支撐和計算體系結(jié)構(gòu)對于訓(xùn)練大規(guī)模參數(shù)的人工智能引擎來說，在幾十年前甚至五年前都難以想象。盡管科學(xué)原理相對清晰，但在用戶體驗層面，通過大規(guī)模的工程計算達到了前所未有的高度。
“我們之前考慮，如果大規(guī)模的語料可以達到或近似整個人類互聯(lián)網(wǎng)的規(guī)模，計算系統(tǒng)是否就真正能理解了人類的語言？從用戶體驗的角度來看，看上去似乎已經(jīng)真正理解了，但從科學(xué)原理來說，它仍然是處理的過程。”曾毅說。
他表示，目前的AI大模型，是一個看似智能的信息處理過程，但從它仍然會大規(guī)模地犯人類不犯的錯誤，就能夠知道，它仍然是處理過程，而非真正理解。現(xiàn)在的人工智能并沒有逃脫“看似智能的信息處理工具”這一階段，當(dāng)前并非人工智能的終極階段。
曾毅告訴貝殼財經(jīng)記者，生成式人工智能大模型或者基礎(chǔ)模型，現(xiàn)在已經(jīng)達到了多任務(wù)信息處理器的階段，所以可以用它做很多任務(wù)，但當(dāng)它泛化到新任務(wù)中，解決沒有見過的問題的能力仍然是有限的。人類的認(rèn)知功能有400多種，對于解決從未見過的問題，生成式人工智能大模型與人類復(fù)雜的認(rèn)知功能，以及復(fù)雜認(rèn)知功能產(chǎn)生的自組織相比，仍有較長的距離。
“學(xué)術(shù)上，有很多研究者曾嚴(yán)肅評估過通用人工智能何時到來。平均來說，絕大多數(shù)人工智能學(xué)者認(rèn)為，通用人工智能距離現(xiàn)在還有八十年到九十年，而機器人學(xué)者則認(rèn)為需要將近一百年。而谷歌和OpenAI都聲明在十年到十五年實現(xiàn)通用人工智能，我覺得在這一時間段內(nèi)可能會實現(xiàn)信息處理的通用平臺，但要實現(xiàn)真正意義的像人類一樣擁有自我、情感、意識的通用人工智能，我仍然并不樂觀。”曾毅說。
（文章來源：新京報）
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認(rèn)可。 交易和投資涉及高風(fēng)險，讀者在采取與本文內(nèi)容相關(guān)的任何行動之前，請務(wù)必進行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
