OpenAI“唱衰者”GaryMarcus再評(píng)論:Q*就是個(gè)小學(xué)生,不用擔(dān)心它威脅人類
原文來(lái)源:GenAI新世界

圖片來(lái)源:由無(wú)界 AI生成
據(jù)海外媒體報(bào)道,OpenAI董事會(huì)的鬧劇在上周引起了不少人的關(guān)注,許多人都在關(guān)心董事會(huì)開除Sam Altman的幕后原因,而有媒體曾報(bào)道,這與一項(xiàng)可能會(huì)威脅人類社會(huì)安全的技術(shù)突破有關(guān)。
這一技術(shù)突破使 OpenAI的高級(jí)研究人員建立了一個(gè)被稱為Q*的模型,它可以解決以前從未見(jiàn)過(guò)的數(shù)學(xué)問(wèn)題,這對(duì)現(xiàn)有的人工智能模型來(lái)說(shuō)是一項(xiàng)艱巨的任務(wù)。這無(wú)疑是件大事,但紐約大學(xué)心理學(xué)和神經(jīng)科學(xué)教授 Gary Marcus 在5月參議院人工智能監(jiān)管聽證會(huì)上與 Sam Altman一起發(fā)言時(shí)認(rèn)為,人們不應(yīng)該對(duì)此技術(shù)過(guò)于激動(dòng)。
Gary Marcus表示,如今的大語(yǔ)言模型在很大程度上是一種預(yù)測(cè)機(jī)器,它們會(huì)根據(jù)訓(xùn)練數(shù)據(jù)猜測(cè)下句話怎么說(shuō)更合適。事實(shí)上,Q*能夠解決它以前從未見(jiàn)過(guò)的數(shù)學(xué)問(wèn)題,這可能是大型語(yǔ)言模型開始克服推理極限的一個(gè)標(biāo)志。
即便如此,這也只能說(shuō)明大語(yǔ)言模型的推理能力達(dá)到了小學(xué)生的水準(zhǔn)。想要達(dá)到對(duì)人類造成威脅的程度還早著呢。而這也是Marcus的觀點(diǎn),人們距離推出能力能夠媲美人類的人工智能還有很長(zhǎng)的路要走。
Marcus認(rèn)為,大語(yǔ)言模型的預(yù)測(cè)性質(zhì)與符號(hào)人工智能(Symbolic AI)形成了鮮明對(duì)比,后者是人工智能的一個(gè)古老分支,通過(guò)推理符號(hào)和符號(hào)之間的關(guān)系來(lái)解決問(wèn)題。它類似于代數(shù),"x "或"y "等符號(hào)代表數(shù)值,而加號(hào)或減號(hào)等符號(hào)則表示這些數(shù)值之間的關(guān)系。你可以將這種思維擴(kuò)展到其他類型的邏輯問(wèn)題中;例如,所有虎斑貓都是貓,而所有貓都是動(dòng)物,因此虎斑貓一定是一種動(dòng)物。
Marcus認(rèn)為,未來(lái)的人工智能研究很可能會(huì)將生成式AI和符號(hào)式人工智能結(jié)合起來(lái),就像人類同時(shí)使用直覺(jué)思維和分析思維一樣。
實(shí)際上,在 Marcus 看來(lái),阻礙人們實(shí)現(xiàn)未來(lái)愿景的主要障礙可能是另一個(gè)古老的問(wèn)題:人際沖突。
Marcus長(zhǎng)期以來(lái)一直是深度學(xué)習(xí)的批評(píng)者,而深度學(xué)習(xí)正是GPT-4這樣的大語(yǔ)言模型所采用的機(jī)器學(xué)習(xí)技術(shù)。這讓他與人工智能教父Geoffrey Hinton和Yann LeCun陷入了水深火熱的學(xué)術(shù)斗爭(zhēng)之中之中,三人曾在社交媒體上展開過(guò)激烈的“學(xué)術(shù)討論”。而隨著時(shí)間的推移,這三位科學(xué)家之間的緊張關(guān)系導(dǎo)致了AI學(xué)術(shù)領(lǐng)域的分裂,而這種分裂似乎在短期內(nèi)無(wú)法彌補(bǔ)。
因此,在支持深度學(xué)習(xí)的人工智能研究人員和支持符號(hào)人工智能的研究人員跨過(guò)這些鴻溝攜手合作之前,人們不必?fù)?dān)心AGI會(huì)在短期內(nèi)終結(jié)人類。
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個(gè)人看法,不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對(duì)本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn),讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前,請(qǐng)務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對(duì)因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。