財(cái)富中文網(wǎng)
2023-11-23 
微軟首席經(jīng)濟(jì)學(xué)家堅(jiān)信，人工智能將“被壞人利用”
微軟首席經(jīng)濟(jì)學(xué)家邁克爾·施瓦茨在世界經(jīng)濟(jì)論壇2023年年會(huì)的小組討論中發(fā)言。圖片來源：COURTESY OF WORLD ECONOMIC FORUM
對(duì)于那些擔(dān)心人工智能技術(shù)被用于實(shí)現(xiàn)犯罪目的或者其他邪惡目的的人，微軟（Microsoft）的首席經(jīng)濟(jì)學(xué)家做出了如下回答：汽車也可能不安全。關(guān)鍵是要把保障措施落實(shí)到位。
邁克爾·施瓦茨于5月3日在世界經(jīng)濟(jì)論壇（World Economic Forum）的小組討論中談到人工智能時(shí)說：“毋庸置疑，我們必須擔(dān)心這項(xiàng)技術(shù)的安全性——就像其他任何技術(shù)一樣。”
例如，車輛可以將人們帶到他們想去的地方。但由于事故和污染，它們也很危險(xiǎn)。
“我希望人工智能永遠(yuǎn)不會(huì)像內(nèi)燃機(jī)那樣致命。”施瓦茨表示。
即使對(duì)從事人工智能研究的公司來說，人工智能的危險(xiǎn)也很難忽視，施瓦茨承認(rèn)，這項(xiàng)技術(shù)如果落入壞人之手，可能就會(huì)造成傷害。
施瓦茨稱：“我確信，人工智能會(huì)被壞人利用，而且這將造成真正的損害。如果落入垃圾郵件發(fā)送者、想要操縱選舉的人手里，人工智能就會(huì)造成很大的損害。”
但他指出，其中一些損害是能夠避免的。“一旦我們發(fā)現(xiàn)真正的危害，我們就必須問自己一個(gè)簡(jiǎn)單的問題：‘我們能否以這樣一種方式來監(jiān)管人工智能，使落入監(jiān)管范圍無法實(shí)現(xiàn)的、但卻可以帶來益處的事情變得不那么重要？’”施瓦茨說。“原則應(yīng)該是，監(jiān)管給社會(huì)帶來的好處應(yīng)該大于其社會(huì)成本。”
施瓦茨稱，微軟專注于研究人工智能能夠給社會(huì)帶來的益處，并努力開發(fā)人工智能，幫助人類提高效率以“取得更多成就”。
微軟的一位發(fā)言人對(duì)《財(cái)富》雜志表示：“我們對(duì)人工智能的未來持樂觀態(tài)度，我們認(rèn)為與人工智能帶來的挑戰(zhàn)相比，人工智能的進(jìn)步將解決更多難題，但我們也一直堅(jiān)信，當(dāng)你創(chuàng)造出可以改變世界的技術(shù)時(shí)，你必須確保人類負(fù)責(zé)任地使用這項(xiàng)技術(shù)。”
在最近興起的生成式人工智能技術(shù)中，微軟一直扮演著關(guān)鍵角色。該公司利用OpenAI的技術(shù)開發(fā)了一個(gè)聊天機(jī)器人，并將其整合到許多產(chǎn)品里。微軟還計(jì)劃在未來幾年向OpenAI投資100億美元，此前微軟已經(jīng)在2019年和2021年向這家初創(chuàng)公司注資。
施瓦茨對(duì)人工智能技術(shù)的警告在某種程度上與谷歌（Google）的前副總裁兼工程研究員杰弗里·辛頓最近的言論相呼應(yīng)。辛頓曾經(jīng)幫助開發(fā)了一些關(guān)鍵技術(shù)，為當(dāng)今廣泛使用的人工智能工具提供了支持，被稱為“人工智能教父”。辛頓警告稱，要阻止人工智能被用于欺詐可能很難。
在5月1日發(fā)表的《紐約時(shí)報(bào)》（New York Times）采訪中，辛頓說：“很難想象如何阻止壞人利用它做壞事。”
“我用通常的借口來安慰自己：如果我沒有研發(fā)出這些關(guān)鍵技術(shù)，別人也會(huì)研發(fā)出來。”
辛頓的擔(dān)憂之一是人工智能工具的出現(xiàn)，讓在幾秒鐘內(nèi)創(chuàng)建圖像和匯總信息成為可能。它們可能導(dǎo)致虛假內(nèi)容的傳播，而普通人很難辨別其準(zhǔn)確性。
雖然施瓦茨和辛頓擔(dān)心壞人可能會(huì)濫用人工智能，但兩位專家在人工智能可能對(duì)某些工作產(chǎn)生影響的看法上存在分歧。
在世界經(jīng)濟(jì)論壇的小組討論中，施瓦茨表示，人們對(duì)自己的工作會(huì)被人工智能取代感到“恐懼”，其實(shí)他們“不必太擔(dān)心”。但從2013年起一直到最近都在谷歌工作的辛頓指出，在人工智能主導(dǎo)的工作環(huán)境里，人工智能確實(shí)會(huì)給人類的工作帶來威脅。
辛頓說：“人工智能取代了艱苦的工作，但它能夠取代的工作可能不止此類工作。”
呼吁停止開發(fā)高級(jí)人工智能
今年3月，超過2.5萬(wàn)名技術(shù)專家——從學(xué)者到前高管——簽署了一封公開信，要求將高級(jí)人工智能系統(tǒng)的開發(fā)暫停六個(gè)月，以便政府可以更好地理解其影響，并進(jìn)行相應(yīng)監(jiān)管。這封信認(rèn)為，一些系統(tǒng)，比如OpenAI于3月早些時(shí)候推出的GPT-4，正在“成為人類在一般任務(wù)方面的競(jìng)爭(zhēng)者”，帶來產(chǎn)生錯(cuò)誤信息的威脅，并有可能大規(guī)模地實(shí)現(xiàn)工作自動(dòng)化。
谷歌和微軟等科技巨頭的高管們表示，暫停六個(gè)月不會(huì)解決這一問題。其中包括Alphabet和谷歌的首席執(zhí)行官桑達(dá)爾·皮查伊。
“我認(rèn)為，在具體細(xì)節(jié)上，我并不完全清楚你們會(huì)如何實(shí)現(xiàn)這一目標(biāo)。”他在今年3月的一次播客采訪中說，他指的是將開發(fā)暫停六個(gè)月。“至少對(duì)我而言，如果不讓政府參與進(jìn)來，就無法有效地實(shí)現(xiàn)這一目標(biāo)。因此，我認(rèn)為需要進(jìn)行更多的思考。”
微軟的首席科學(xué)官在今年4月接受《財(cái)富》雜志采訪時(shí)稱，除了暫停人工智能開發(fā)，還有其他選擇。
微軟的埃里克·霍維茨表示：“對(duì)我來說，我寧愿看到更多的知識(shí)涌現(xiàn)，甚至加速研發(fā)，而不是暫停六個(gè)月，我甚至不確定這是否可行。而且，從更廣泛的意義上說，暫停六個(gè)月意義不大。我們真的需要在理解、指導(dǎo)甚至監(jiān)管這項(xiàng)技術(shù)上投入更多——參與進(jìn)來，而不是暫停。”（財(cái)富中文網(wǎng)）
譯者：中慧言-王芳
Tags:
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個(gè)人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對(duì)本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn)，讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前，請(qǐng)務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對(duì)因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
