新火種
2023-10-04 
“人工智能教父”為何反對(duì)人工智能：AI會(huì)傷害甚至毀滅人類？
近日，谷歌副總裁兼工程研究員、Vector研究所首席科學(xué)顧問、多倫多大學(xué)名譽(yù)教授、倫敦大學(xué)學(xué)院（UCL）蓋茨比計(jì)算神經(jīng)科學(xué)中心創(chuàng)立者、2019年計(jì)算機(jī)界最高榮譽(yù)“圖靈獎(jiǎng)”獲得者、被稱為The God father of AI(人工智能教父)，在AI研發(fā)領(lǐng)域可謂無人不知、無人不曉的Geoffrey Hinton，從工作了10年的Google辭職，引發(fā)全球科研界軒然大波。
頭銜有點(diǎn)長的Hinton于1947年出生于英國，曾對(duì)AI充滿樂觀。在過去，科研人員普遍選擇輸入邏輯和推理程序。而他卻選擇了在當(dāng)時(shí)非常邊緣的“神經(jīng)網(wǎng)絡(luò)理論”，仿照人類腦神經(jīng)系統(tǒng)，讓計(jì)算機(jī)自己學(xué)習(xí)，自持、自主地進(jìn)行工作。
2012年，他和兩名學(xué)生建立“神經(jīng)網(wǎng)絡(luò)”，通過讓電腦分析上萬張照片，學(xué)會(huì)識(shí)別鮮花、狗、汽車等常見物體。其開發(fā)的“Capsule Net works(膠囊網(wǎng)絡(luò))”原理成為現(xiàn)代很多AI科技基石。Google慧眼識(shí)珠，以4400萬美元價(jià)格收購了這三人創(chuàng)建的微小公司。
正當(dāng)基于Hinton開發(fā)的技術(shù)基礎(chǔ)，使AI大發(fā)展、獲得巨大收益之時(shí)。他卻感到害怕：AI可能對(duì)人類造成直接的物理威脅。形象易懂地說，就如同科幻影片里那樣，AI會(huì)傷害甚至毀滅人類。
Hinton向媒體坦言：自己后悔開發(fā)AI，AI可能給人類帶來毀滅?！拔页Ｕ医杩诎参孔约海退阄也谎芯窟@個(gè)領(lǐng)域，也會(huì)有其他人研究?！比缓罂嘈Φ溃骸拔沂钦娴恼也坏椒椒?，怎樣防止壞人用AI做壞事？”他說，現(xiàn)在不管是個(gè)人還是公司，都允許AI生成自己的代碼，然后再自動(dòng)運(yùn)行。AI很可能從大量數(shù)據(jù)里學(xué)到意想不到、人所不知的東西，這種后果很可怕，或許未來某天，它就會(huì)成為殺人機(jī)器。
目前的AI局限性較大，屬“弱人工智能”。不久前，專家們認(rèn)為“強(qiáng)人工智能”尚需30-50年時(shí)間。而Hinton認(rèn)為：現(xiàn)在我覺得，可能只需20年或更短時(shí)間，（強(qiáng)人工智能）就會(huì)出現(xiàn)。
現(xiàn)在，不僅是Hinton，越來越多最頂級(jí)科技專家對(duì)AI越來越擔(dān)憂：2023年3月，包括Elon Musk在內(nèi)的全球一千多名頂級(jí)科技界領(lǐng)袖簽署聯(lián)名信：要求所有公司停止研究比GPT-4更強(qiáng)的AI至少6個(gè)月，希望通過這段時(shí)間搞清AI的危害和應(yīng)對(duì)方法。
幾天后，“人工智能促進(jìn)協(xié)會(huì)”也發(fā)表公開信警告AI可能帶來危險(xiǎn)。簽名人里包括微軟的首席科學(xué)家Eric Horvitz。OpenAI的首席執(zhí)行官也承認(rèn)：一個(gè)偏離方向的、超級(jí)聰明的“強(qiáng)人工智能”可能給世界帶來極其嚴(yán)重的危害。
既然這么多科學(xué)泰斗都感到危機(jī)，那么，AI和其它多學(xué)科的研發(fā)速度會(huì)不會(huì)停下來、慢下來呢？
Hinton擔(dān)憂，科技巨頭正陷入一場可能無法停止的（科研）軍備競賽，因?yàn)榇蠹覠o法得知他人是否停止研究，稍有遲疑、滯后就意味著在市場上競爭失利，這就是AI領(lǐng)域的囚徒困境。公司競爭越激烈，AI發(fā)展的速度就越快。
這些頂級(jí)科學(xué)家們的擔(dān)憂，還僅僅是在人工智能領(lǐng)域。而現(xiàn)實(shí)世界，除AI之外，人類的科學(xué)研究正在眾多方面取得越來越多、越來越快的突破：正在研發(fā)的“人造子宮”將代替女性自然分娩；Google旗下DeepMind的AlphaFold算法，已破解幾乎人類目前已知的、超過2億種蛋白質(zhì)結(jié)構(gòu)；日本九州大學(xué)林克彥生物學(xué)團(tuán)隊(duì)，成功培育出世界上首批完全由雄性小鼠提供遺傳物質(zhì)的、只有父親沒有母親的小鼠；全球首批由機(jī)器人操作人工授精的兩名女嬰誕生，將使試管嬰兒的成本降低70%……這僅僅是近期幾個(gè)月，不斷涌現(xiàn)的令人震撼的科研成果。
科學(xué)和技術(shù)的發(fā)展與進(jìn)步之快，真有些我們這些肉身人類“生命不能承受之重”的趨勢(shì)。進(jìn)行些發(fā)散性聯(lián)想：如果將人工智能、基因科學(xué)、生命工程、量子物理、航天科技等多學(xué)科前沿突破整合起來，會(huì)對(duì)人類的未來產(chǎn)生怎樣的影響？
科幻影片《X戰(zhàn)警》在看似荒誕的劇情之下，有著嚴(yán)肅的哲學(xué)思考和科學(xué)基礎(chǔ)：如上所述，把眾多學(xué)科的前沿突破綜合起來，“X戰(zhàn)警”式變種生命體出現(xiàn)，就只是時(shí)間問題，這不禁使人想到Y(jié).N.Harari《未來簡史》預(yù)言：科技進(jìn)步所創(chuàng)造的新人類種群，將淘汰我們這些智人后裔。而科幻影片通過炫酷打斗特技，向我們展示：平衡被突破后，必引起物種間為生存競爭而進(jìn)行殊死搏殺。
再看個(gè)案例：Twitter有博主把自己整個(gè)財(cái)務(wù)運(yùn)作交給GPT-4，GPT登錄其所有銀行賬戶和信用卡，掃描了10000多筆交易。發(fā)現(xiàn)了每月的無用訂閱80.86美元，GPT自己起草了法律通知函，進(jìn)行電子簽名，并用USPS快遞給對(duì)方，取消了訂閱會(huì)員。然后，在從倫敦飛往紐約的美聯(lián)航賬單里發(fā)現(xiàn)了36.99美元WiFi收費(fèi)，并查證其未能正常工作，就起草了有力且堅(jiān)定的法律信函，在48小時(shí)內(nèi)獲得了航空公司的退款同意。接著，GPT與Comcast談判折扣：Comcast最初只提供50美元優(yōu)惠，AI精明地爭取到100美元折扣。博主很高興地說：“在不到24小時(shí)里賺了217.85美元，并且還有十幾個(gè)其它糾紛正在等待處理?！?/p>
笛卡爾說“我思故我在”，從AI的迅速發(fā)展與“人工智能教父”辭職，發(fā)散出一些聯(lián)想和議論，真希望是拋磚引玉，更多頭腦去思辨我們的未來。而不是把思考與工作都拋給AI，自己捧著手機(jī)刷短視頻、傻笑著娛樂至死。不要再重蹈古羅馬的覆轍：羅馬人把生產(chǎn)都?jí)涸谂`身上，自己的心靈和品性都在娛樂中日漸消沉……后來，羅馬滅亡了。
?（本文僅為作者個(gè)人觀點(diǎn)，不代表本報(bào)立場）
美逸君
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個(gè)人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對(duì)本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn)，讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前，請(qǐng)務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對(duì)因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
