新火種
2023-09-20 
AI將更快超越人類！OpenAI前高管：要警惕被不良之徒利用
財(cái)聯(lián)社7月26日訊（編輯 黃君芝）美國人工智能初創(chuàng)公司Anthropic首席執(zhí)行官兼聯(lián)合創(chuàng)始人Dario Amodei周二警告參議員，人工智能將比預(yù)料的更接近于超越人類智能，甚至?xí)椭圃齑笠?guī)模殺傷性武器。
他在參議院司法委員會(huì)的一個(gè)小組會(huì)議上表示，需要減少人工智能的短期偏見風(fēng)險(xiǎn)，以及降低對人類的長期風(fēng)險(xiǎn)。他指出，在防止一些不可意料的風(fēng)險(xiǎn)發(fā)生，例如惡意行為者利用人工智能或會(huì)更容易生產(chǎn)生物武器。
他敦促通過立法，以避免AI系統(tǒng)帶來的全球風(fēng)險(xiǎn)，他說，即使是它們的創(chuàng)造者，人類也有可能不完全理解風(fēng)險(xiǎn)。
事實(shí)上，Dario Amodei與OpenAI還有著極深的淵源，而且他是個(gè)不折不扣的AI技術(shù)大牛。他于2014年加入百度硅谷AI實(shí)驗(yàn)室，成為一名研究科學(xué)家，解決深度學(xué)習(xí)和AI中的難題，包括語音識(shí)別和自然語言處理。
2015年，他加入谷歌，在谷歌Brain團(tuán)隊(duì)擔(dān)任高級研究科學(xué)家，致力于擴(kuò)展神經(jīng)網(wǎng)絡(luò)的功能。但他很快發(fā)現(xiàn)自己并不喜歡在商業(yè)性質(zhì)類公司中工作，他在谷歌也沒有停留太久，于是2016年7月他加入了OpenAI，先后任AI安全研究組負(fù)責(zé)人、研究總監(jiān)、研究副總裁。
然而，因?qū)penAI的逐漸商業(yè)化不滿，他最終于2020年12月離開了OpenAI。次年2月，他創(chuàng)立AI公司Anthropic，這是一家“公益公司”，并得到了包括谷歌在內(nèi)的不少科技巨頭的支持，先后拿到超過7億美元投資。
Amodei建議美國制定政策，以確保人工智能供應(yīng)鏈的安全——從提供計(jì)算能力的半導(dǎo)體到由此產(chǎn)生的模型。
他告訴參議院隱私、技術(shù)和法律小組委員會(huì)，這些政策將“幫助美國有足夠的發(fā)展空間，對我們自己的公司實(shí)施嚴(yán)格的標(biāo)準(zhǔn)”。他說，這應(yīng)該伴隨著對最強(qiáng)大的人工智能系統(tǒng)的測試和審核，這一過程應(yīng)該得到政府資金的支持。
拜登政府已認(rèn)識(shí)到了人工智能創(chuàng)新的步伐遠(yuǎn)遠(yuǎn)超過了國會(huì)通過有約束力的監(jiān)管的能力，因此上周包括Anthropic在內(nèi)的領(lǐng)先人工智能公司已經(jīng)承諾，包括允許外部審計(jì)、標(biāo)記人工智能生成的內(nèi)容和投資安全等措施。
OpenAI、Alphabet Inc.旗下的谷歌、微軟（Microsoft Corp.）、Meta Platforms Inc.和亞馬遜（Amazon）都對維護(hù)人工智能安全做出了承諾。
隱私、技術(shù)和法律小組委員會(huì)主席、康涅狄格州民主黨參議員Richard Blumenthal對這些承諾表示贊同，但他表示，國會(huì)仍需要介入監(jiān)管這項(xiàng)技術(shù)。
Richard Blumenthal指出，“這些承諾不具體，也無法執(zhí)行。我知道有人對國會(huì)和我們的行動(dòng)能力表示懷疑，但事情的緊迫性要求我們采取行動(dòng)?！?/p>
Tags:
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個(gè)人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn)，讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前，請務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
