新火種
2024-11-29 
清華大學教授李宗鵬：大模型消除不了幻覺，大語言模型注定沒有希望
（在2024大灣區科學論壇現場，清華大學教授李宗鵬接受鳳凰網財經的采訪）
作者|王迪
百度李彥宏稱大模型基本消除了幻覺，AI從一本正經胡說八道變得可被信賴。清華大學李宗鵬在接受鳳凰網財經采訪時則指出，大模型永遠不會徹底擺脫幻覺和出錯的問題，這是數學上已經證明的。
“AI代替了交易員，這已經發生了。以前用算法和數學來炒股，大模型是其中一種。現在航空公司機票定價也用算法代替人工。”即便如此，李宗鵬依然提醒大家如果都依賴大模型炒股，可能會有新的風險。比如說，現在有人專門攻擊大模型和人工智能。
今年7尊諾獎，AI“戲份”過半。李宗鵬向鳳凰網財經透露，自己1999年到2005年曾在多倫多大學讀博士。今年諾貝爾物理學獎得主杰弗里·E·辛頓（Geoffrey E. Hinton）正是他的老師。
李宗鵬認為，辛頓老師獲獎實至名歸，因為貢獻足夠大。獲獎的爭議點集中在研究領域是否屬于物理。
有人說AI是第四次工業革命,李宗鵬的看法是還到不了工業革命的程度。現在還是人類聰明。在更遠的未來，AI會否反過來統治人類，我們會不會變成大模型的奴隸，這都是需要進一步思考的問題。
“以前的行業是整個產業鏈誰離用戶最近，誰賺大部分的錢。現在是誰離用戶最遠，誰將賺大部分的錢。”為解決盈利問題，李宗鵬表示，一是等待殺手級應用的出現，真的創造生產力，利用人性的弱點吸引C端的錢。另一方面是降低算力成本，讓計算變得更高效。至于大模型是否已經擺脫了幻覺問題，或者是能否擺脫幻覺問題，李宗鵬認為，現在不可能，以后也不可能，這是數學和理論計算機領域可以證明的結論。
以下為鳳凰網財經與李宗鵬的對話節選：
01 大模型永遠不會徹底擺脫幻覺和出錯的問題
鳳凰網財經：最近，百度李彥宏說，大模型基本消除了幻覺，AI從一本正經胡說八道變得可被信賴。您怎么看？
李宗鵬：如果讓對話機器人一定要保證100%正確，排除幻覺，我認為永遠做不到的。以前你問大模型：“張飛和貂蟬為什么離婚了？”它會告訴你為什么離婚，這時候它產生了幻覺。后來的對話機器人做了一些改進，看起來沒有那么離譜了，或者出錯的比例低一點，但是它永遠不會徹底擺脫幻覺和出錯的問題。為什么這么說呢？
從數據結構和算法的層面看，深度神經元網絡和大語言模型是非常有趣、非常強大的想法和創造。這和傳統計算機科學里面離散的數據結構、邏輯推理等完全不一樣。非常離經叛道，但是在實際應用中爆發了強大的沖擊力。
但是，從計算復雜度和可計算性的層面看，大語言模型注定是沒有希望的。計算機專業本科都會學上下文無關語法CFG、確定自動機DFSA和正則表達式RE，研究生階段有Horn logic，再復雜一些到了propositional logic和predicate logic，最后是最復雜的自然語言NLP。前面是computable，后面包括NLP是not computable。既然不可計算，還非要給出回答，那答案注定是沒法保證靠譜的。
現在很多搞AI的人，并沒有扎實的數學和計算機科學的基礎。脫離了嚴謹的理論分析，這些AI行業的從業者、投資人等等，對AI的理解和預測可能會出現偏差，感情用事，比如過度樂觀。也有一定的可能，再過10年之后，大語言模型就退燒了，也可能會有新的人工智能技術出現，這也說不定。
02 大模型是目前最火的AI，辛頓老師獲諾獎實至名歸
鳳凰網財經：中國工程院院士高文稱今年不是AI“諾獎元年”，元年在1978年。
李宗鵬：AI其實很早就有了，只是以前的AI可能不是大模型，以前的AI是其他的AI。AI是一個更廣的概念，大模型是目前關注度最高的AI。
鳳凰網財經：您怎么看今年7尊諾獎，AI“戲份”過半？
李宗鵬：今年諾貝爾物理學獎得主杰弗里·E·辛頓（Geoffrey E. Hinton）也曾是我的老師，1999年到2005年我在多倫多大學讀碩士和博士。我在的時候他很慘，有人說他騙經費，誤導學生。那時候都說Ray Reiter要獲得圖靈獎了；他是做知識表示和推理的，是完全不同的AI。那時候沒人想到辛頓老師會獲得圖靈獎或者諾貝爾獎。
鳳凰網財經：那您覺得辛頓老師獲得諾貝爾獎實至名歸嗎？
李宗鵬：是，貢獻足夠大。獲獎的爭議點是屬不屬于物理，因為他是做計算機的，獲得的卻是諾貝爾物理學獎。
鳳凰網財經：您覺得應該算AI領域的獎，不應該算諾貝爾物理學獎？
李宗鵬：看到新聞，在高興之余我也很驚訝，我覺得他更偏計算機，他是做計算機的人。如果從廣義的物理上來看，研究自然界各種規律和運作，是有關系的。從狹義的物理上看，如果回望過去20年獲得諾貝爾物理學獎的人，他和這些人的研究方向和研究方法又非常不同。主要看是對物理狹義還是廣義的理解。
鳳凰網財經：將諾獎頒給AI領域專家，是因為他們契合了時代發展的趨勢？
李宗鵬：AI可以讓很多科研或工程變得更高效。你要自己去判斷，可能會比你自己一步一步做，效率提升很多。
03 AI炒股有風險，現在航空公司機票定價用算法代替人工
鳳凰網財經：有人說AI是第四次工業革命，您認同這種說法嗎？
李宗鵬：我個人覺得現在可能還沒到這種高度。工業革命是像電的發明那樣，那就很重要了。
鳳凰網財經：AI炒股會不會改變人的生活模式？
李宗鵬：AI代替了交易員，這個已經發生了。以前也有更廣義的用算法和數學炒股，比如Jim Simons的文藝復興基金。大模型也可以看作是數學和算法的一種吧。
鳳凰網財經：以前也有金融模型？
李宗鵬：現在飛機航空公司機票定價，也開始用算法來代替人工來定價。
鳳凰網財經：這會導致作弊行為的發生嗎？
李宗鵬：如果大家都依賴大模型炒股，可能會有新的風險。比如說，有人會專門放出讓大模型上當的一些新聞。或者有人專門攻擊大模型。比如說，人工智能本來是識別貓狗的，只加了一點點噪聲，就讓AI將貓認成狗了。現在有人研究專門攻擊大模型和人工智能，給它投毒，投錯誤的訓練材料。
04 A I未來是否會統治人類，人類是會否變成大模型的奴隸，需進一步觀察
鳳凰網財經：是不是又回到這樣一個問題上：到底是AI聰明還是人聰明的問題。我們不能過度依賴AI。有時候AI也不聰明，萬一幫我炒股炒輸了？
李宗鵬：整體上還是人聰明。但是AI做很多事情肯定比人快。比如說，做運算，以前計算器比人快。AI是個更廣的詞。目前，我覺得整體上還是人更聰明。
鳳凰網財經：前段時間AI戀愛比較火熱。很多人說AI在情商、智商方面可能都超越了人類，也有人說AI只是一個算法。您覺得AI的智商會超越人類嗎？
李宗鵬：現在也不確定大模型到底是真的有智慧，還是說和人類通常理解的智慧不太一樣。我覺得可能還是有爭議，還需要再觀察。比如，在更遠的未來，AI以后會不會反過來統治人類，我們會不會變成大模型的奴隸，這都是更進一步的問題了。我想可能還需要進一步觀察。
05 談大模型盈利：降算力成本，期待殺手級應用的出現
鳳凰網財經：現在大模型同質化比較嚴重。大家也處在燒錢的模式，您覺得應該如何解決盈利問題？
李宗鵬：開源節流。第一，等待殺手級應用的出現。因為現在行業和以前的行業不一樣。以前的行業是整個產業鏈誰離用戶最近，誰賺了大部分的錢。現在是誰離用戶最遠，誰將賺大部分的錢。這個可能不太正常，也不知道以后會不會改變。有沒有殺手級應用出來，可以吸引大量的錢涌入。
另外一個就是成本。這一代的AI和以前不太一樣，商湯科技董事長兼CEO徐立也說了，以前的研發主要是人的成本，現在算力的成本占了很大一部分，可能和人的成本差不多，甚至更多。所以，一方面你要有殺手級的應用：要么真的創造生產力，要么利用人性的弱點吸引C端的錢，總之要有大量的收入。不過，現在還沒出現。另外就是算力成本怎么降下來，讓計算變得更高效，人工智能模型本身變得更高效，需要這方面的革命。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
