新火種
2023-11-02 
活久見(jiàn)！AI巨佬為“人類(lèi)滅絕論”正面開(kāi)撕，Hinton吳恩達(dá)LeCun下場(chǎng)，馬斯克強(qiáng)勢(shì)圍觀
活久見(jiàn)，AI巨佬們擼起袖子線(xiàn)上“對(duì)噴”，一“架”直接干上熱搜了。
Big name一個(gè)接一個(gè)出現(xiàn)不說(shuō)：
吳恩達(dá)、Hinton、LeCun、哈薩比斯……甚至吵到穩(wěn)如Hinton，都開(kāi)麥陰陽(yáng)怪氣起來(lái)：
搞得如此面紅耳赤，為的還是“大模型會(huì)不會(huì)毀滅人類(lèi)”這個(gè)熱點(diǎn)話(huà)題。
反方一派，矛頭直指科技巨頭搞壟斷。吳恩達(dá)就言辭犀利地指出：
正方這邊也不甘示弱，最新消息是，被指“搞錢(qián)派”代表人物的DeepMind CEO哈薩比斯正面回懟：
總之，場(chǎng)面很火爆，網(wǎng)友很興奮。連馬斯克都忍不住第一時(shí)間前排圍觀。
還有不少網(wǎng)友激動(dòng)地搓手手：
這種場(chǎng)面還是第一次見(jiàn)，支持大家吵起來(lái)，真理越辯越明。
大佬們吵成這樣，又究竟吵出了些啥？板凳已經(jīng)擺好，一起來(lái)看。
現(xiàn)場(chǎng)還原：三大回合battle這一場(chǎng)大戰(zhàn)的直接“著火點(diǎn)”是吳恩達(dá)昨晚的公開(kāi)發(fā)言：
說(shuō)罷，吳恩達(dá)還附上一篇長(zhǎng)文進(jìn)行詳細(xì)論述。
他表示，近幾個(gè)月來(lái)，他都在關(guān)注AI可能導(dǎo)致人類(lèi)滅絕風(fēng)險(xiǎn)的觀點(diǎn)。
然而仔細(xì)評(píng)估其論點(diǎn)，都覺(jué)得它們“模糊且不具體”。
但，他認(rèn)為，一部分人非常賣(mài)力地傳播這樣的擔(dān)憂(yōu)其實(shí)只是為了“錢(qián)”，比如：
個(gè)人可以從中博取關(guān)注，到處去演講收取出場(chǎng)費(fèi)或其他費(fèi)用；非營(yíng)利組織則能以對(duì)抗這種風(fēng)險(xiǎn)為由籌集資金；言外之意，這有點(diǎn)“科技陰謀”的意思。
在文中，吳恩達(dá)還呼吁，大家應(yīng)該多多宣揚(yáng)對(duì)AI的積極看法，不要傳播未經(jīng)證實(shí)的擔(dān)憂(yōu)導(dǎo)致強(qiáng)監(jiān)管的出現(xiàn)，阻礙技術(shù)進(jìn)步。
很快，這條帖子就引起了Hinton的注意。
作為堅(jiān)定的“AI有風(fēng)險(xiǎn)派”，他第一個(gè)不同意吳恩達(dá)。直接開(kāi)帖“回懟”：
一場(chǎng)巨佬們的對(duì)噴就此展開(kāi)。
Round 1：Hinton vs 吳恩達(dá)看到Hinton的“質(zhì)問(wèn)”之后，吳恩達(dá)完全沒(méi)有就此打住，在評(píng)論區(qū)“回敬”：
先是解釋稱(chēng)“我沒(méi)說(shuō)這是一個(gè)陰謀”。
接著反問(wèn)：你知道這種過(guò)度擔(dān)憂(yōu)已經(jīng)造成真正的傷害了嗎？
一是已經(jīng)有一些年輕學(xué)生不愿進(jìn)入該行業(yè)，因?yàn)樗麄冋f(shuō)不想為滅絕人類(lèi)作出貢獻(xiàn)；二是宣傳得越兇，全球范圍內(nèi)的監(jiān)管就越嚴(yán)格，這是在破壞開(kāi)源并扼殺創(chuàng)新。
不過(guò)最后，吳恩達(dá)緩和了一把氣氛：
我知道你的擔(dān)憂(yōu)是真誠(chéng)的，但總的來(lái)說(shuō)，這種擔(dān)憂(yōu)還是弊大于利。
Round 2：LeCun vs Hinton是的，LeCun也迅速加入了戰(zhàn)局，并且面對(duì)老友完全沒(méi)有口下留情：
事實(shí)上，力挺吳恩達(dá)屬于“事出有因”，早在此之前，LeCun就已看Yoshua等人“不爽”了：
他還直接點(diǎn)名了這些“少數(shù)公司”：
OpenAI、DeepMind、Anthropic——這些公司的CEO被指正在搞“大規(guī)模企業(yè)游說(shuō)”，試圖加強(qiáng)對(duì)AI行業(yè)的監(jiān)管。
這個(gè)帖子獲得了大量點(diǎn)贊支持。
而更早一點(diǎn)，LeCun也轉(zhuǎn)發(fā)了關(guān)于“大家應(yīng)該做的，不是在這限制通用/基礎(chǔ)大模型技術(shù)的研究，而是該去規(guī)范其應(yīng)用”的帖子。
并有些生氣地表示：
Round 3：Hinton“1打2”這還沒(méi)完。在這倆回合之后，Hinton又以1打2挑起了新問(wèn)題。我們姑且叫它Round 3。
對(duì)此，LeCun直接亮出答案：
零點(diǎn)幾不知道，反正比大多數(shù)其他會(huì)導(dǎo)致人類(lèi)滅絕的風(fēng)險(xiǎn)要低得多。
為什么？因?yàn)椴幌衲撤N無(wú)法阻止的自然現(xiàn)象，我們?nèi)祟?lèi)在這方面有代理權(quán)。
并且說(shuō)不定，AI實(shí)際上還能拯救人類(lèi)免于滅絕呢。
Hinton對(duì)此并未回復(fù)。
對(duì)了，開(kāi)頭提到的Hinton的反唇相譏，也是針對(duì)LeCun的發(fā)言。
LeCun跟吳恩達(dá)一樣，也關(guān)注到了開(kāi)源力量的問(wèn)題：
如果SkyNet是開(kāi)源的，那么《終結(jié)者》的故事還會(huì)發(fā)生嗎？
而對(duì)于Hinton拿出核武器來(lái)和AI做類(lèi)比，LeCun和fast.ai創(chuàng)始人Jeremy Howard都不能茍同：
不過(guò)另一邊，DeepMind CEO哈薩比斯隔空支持了Hinton。
他在接受CNBC的最新采訪(fǎng)中直接表示非常不同意LeCun的大部分觀點(diǎn)。
可以說(shuō)，這場(chǎng)大戰(zhàn)雙方是各執(zhí)一詞，誰(shuí)也說(shuō)服不了誰(shuí)。
值得一提的是，在中途中，馬斯克也來(lái)圍觀了一把，他沒(méi)有明確站隊(duì)，而是表示：
還很亢奮的LeCun再次在帖子下聲明自己的立場(chǎng)，還問(wèn)老馬站哪邊。
咳咳，有網(wǎng)友替答：馬斯克是超人類(lèi)主義者。（手動(dòng)狗頭）
行業(yè)大佬聚焦AI風(fēng)險(xiǎn)這場(chǎng)“激戰(zhàn)”在馬斯克的X上可以說(shuō)是吸引了全行業(yè)的圍觀。
不過(guò)實(shí)際上，爭(zhēng)論集中爆發(fā)之前，“AI風(fēng)險(xiǎn)”就已經(jīng)成為了行業(yè)大佬們關(guān)注的焦點(diǎn)話(huà)題之一。
就在前幾天，深度學(xué)習(xí)三巨頭之二Bengio和Hinton，已聯(lián)合姚期智、張亞勤等人工智能大拿，發(fā)表了一封公開(kāi)信《在快速進(jìn)步的時(shí)代管理人工智能風(fēng)險(xiǎn)（Managing AI RIsks in an Era of Rapid Progress）》。
文中談到：
簽名作者們認(rèn)為，人類(lèi)必須認(rèn)真對(duì)待AGI在這10年或下一個(gè)10年內(nèi)在許多關(guān)鍵領(lǐng)域超越人類(lèi)能力的可能。
公開(kāi)信建議，監(jiān)管機(jī)構(gòu)應(yīng)該對(duì)AI發(fā)展全面洞察，尤其警惕那些在價(jià)值數(shù)十億美元的超級(jí)計(jì)算機(jī)上訓(xùn)練出來(lái)的大模型。
One More Thing不過(guò)，吵架歸吵架，前不久，LeCun剛在推特上分享了他和Hinton、Bengio的合影，配文是：
那么，你支持哪方觀點(diǎn)呢？
參考鏈接：[1]https://x.com/AlphaSignalAI/status/1719097022819578243?s=20[2]https://venturebeat.com/ai/ai-pioneers-hinton-ng-lecun-bengio-amp-up-x-risk-debate/[3]https://www.cnbc.com/2023/10/31/google-deepmind-boss-hits-back-at-meta-ai-chief-over-fearmongering-claim.html[4]https://x.com/AndrewYNg/status/1719378661475017211?s=20[5]https://x.com/ylecun/status/1719431189587742754?s=20[6]https://x.com/geoffreyhinton/status/1719406116503707668?s=20
— 完 —
Tags:
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個(gè)人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對(duì)本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn)，讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前，請(qǐng)務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對(duì)因依賴(lài)本文觀點(diǎn)而產(chǎn)生的任何金錢(qián)損失負(fù)任何責(zé)任。
