新火種
2023-10-05 
生成式AI只是過(guò)渡，AI未來(lái)將獲得自由，交互式AI將改變?nèi)祟?/h2>
編輯：潤(rùn)
【新智元導(dǎo)讀】在最近MIT科技評(píng)論的專訪中，DeepMind聯(lián)創(chuàng)，Inlfection AI創(chuàng)始人表示，他們已經(jīng)將AI毒性去除，生成式AI只是過(guò)渡，未來(lái)AI將獲得像人一樣的自由。DeepMind的聯(lián)合創(chuàng)始人，Inflection AI的創(chuàng)始人，Mustafa Suleyman接受了MIT科技評(píng)論對(duì)他進(jìn)行了一次線上專訪，在專訪中，他拋出觀點(diǎn)：
現(xiàn)階段的生成式AI只是一個(gè)技術(shù)階段，接下來(lái)會(huì)進(jìn)入交互式AI的時(shí)代：AI將會(huì)成為能夠根據(jù)每個(gè)用戶的不同任務(wù)需求去調(diào)用其他軟件和人來(lái)完成工作的機(jī)器人。
他創(chuàng)辦的公司——Inflection AI的目標(biāo)，不僅僅是一個(gè)聊天助手，而是想要通過(guò)AI讓世界上的絕大多數(shù)人獲得更加平等的資源和信息。
最后，他還呼吁政府要積極的對(duì)AI進(jìn)行監(jiān)管，并認(rèn)為將AI在現(xiàn)有制度下進(jìn)行監(jiān)管不難實(shí)現(xiàn)。
也許與Suleyman有相似看法的人并不少，但與大多數(shù)人不同的是，是一個(gè)估值數(shù)十億美元的公司——Inflection AI的領(lǐng)導(dǎo)者。
這個(gè)公司擁有來(lái)自DeepMind、Meta和OpenAI的頂級(jí)人才，并且通過(guò)與英偉達(dá)的合作擁有全球最大的專業(yè)AI硬件算力儲(chǔ)備。
我們正處于AI技術(shù)的三波浪潮中的第二波
在Sulyman看來(lái)，第一波AI浪潮是關(guān)于分類（Classification）的。深度學(xué)習(xí)表明，人類可以訓(xùn)練計(jì)算機(jī)對(duì)各種類型的輸入數(shù)據(jù)進(jìn)行分類：圖像、視頻、音頻、語(yǔ)言。
現(xiàn)在處于第二波浪潮，生成式AI之中，輸入數(shù)據(jù)并生成新數(shù)據(jù)。
第三波浪潮將是交互式AI。他一直認(rèn)為對(duì)話是未來(lái)的交互界面。用戶不僅僅是點(diǎn)擊按鈕和鍵入文字，用戶會(huì)與AI進(jìn)行直接的對(duì)話。
這些AI將能夠自主采取行動(dòng)。只需要給它一個(gè)一般性的、終局的目標(biāo)，AI將使用所有工具來(lái)實(shí)現(xiàn)這個(gè)目標(biāo)。
它們會(huì)與其他人對(duì)話，與其他AI對(duì)話。這就是他將要用Pi來(lái)實(shí)現(xiàn)的東西。
這是技術(shù)能力的巨大升級(jí)。這是技術(shù)史上一個(gè)影響非常、非常深遠(yuǎn)的時(shí)刻，他認(rèn)為許多人都低估了技術(shù)的潛力。
AI技術(shù)現(xiàn)在依然還是靜態(tài)的。它基本上是按照你告訴它的方式去做事。
但技術(shù)將變得有生命力。如果用戶給予AI充分的自由，AI就能去利用這種自由去采取行動(dòng)。
這確實(shí)是人類歷史上一個(gè)質(zhì)的飛躍，我們正在創(chuàng)建具有這種智能體能力的工具。
人類將始終是主導(dǎo)者。人類需要確定AI不能越過(guò)邊界的限制，并確保這些邊界從實(shí)際代碼到與其他AI或人類的互動(dòng)，再到創(chuàng)造技術(shù)的公司的動(dòng)機(jī)和激勵(lì)，都能提供可證明的安全性。
早年經(jīng)歷對(duì)自己價(jià)值觀和創(chuàng)業(yè)的影響
當(dāng)被問(wèn)到他與眾不同的職業(yè)經(jīng)歷和傳統(tǒng)的「硅谷風(fēng)」截然不同，而這些經(jīng)歷對(duì)于他在硅谷創(chuàng)業(yè)有什么影響時(shí)，Suleyma回答到：
他一直對(duì)權(quán)力、政治等方面很感興趣。他覺(jué)得人類基本原則是妥協(xié)的產(chǎn)物。依靠的是不同的、相互沖突的力量之間持續(xù)不斷的協(xié)商才能達(dá)成的一種動(dòng)態(tài)平衡。
雖然人類在不斷地解決問(wèn)題——但是人類依然會(huì)被自身的偏見(jiàn)和認(rèn)知盲區(qū)所限制。
民間組織、地方政府、中央政府、國(guó)際組織等等——都會(huì)受到自身的限制而沒(méi)有辦法高效的，不犯錯(cuò)的運(yùn)作。
想象一下，如果人類不會(huì)犯錯(cuò)誤，將會(huì)出現(xiàn)什么情況？
他覺(jué)得人類有可能構(gòu)建出真正反映自身利益的AI，并最終更一致、更公平地代表所有人做出更好的利弊權(quán)衡。
（1984年，Sulyman出生于倫敦北部，父親是敘利亞人，母親是英國(guó)人。他在貧困中長(zhǎng)大，16歲時(shí)，父母分居，兩人都移居國(guó)外，留下他和弟弟自謀生路。
Sulyman上的是伊麗莎白女王學(xué)校(Barnet的一所男子文法學(xué)校)。大概在那個(gè)時(shí)候，他通過(guò)他最好的朋友，認(rèn)識(shí)了DeepMind的聯(lián)合創(chuàng)始人Demis Hassabis。Sulyman說(shuō)，他和Demis Hassabis經(jīng)常討論他們將如何影響世界。
后來(lái)他被牛津大學(xué)錄取，學(xué)習(xí)哲學(xué)和神學(xué)，但一年后就退學(xué)了。
之后與他的大學(xué)朋友Mohammed Mamdani一起創(chuàng)辦了穆斯林青年幫助熱線，這是一項(xiàng)電話咨詢服務(wù)。該組織后來(lái)成為英國(guó)最大的穆斯林心理健康支持服務(wù)機(jī)構(gòu)。
隨后，Sulyman在倫敦市長(zhǎng)Ken Livingstone手下?lián)稳藱?quán)政策官員，之后創(chuàng)辦了Reos Partners，這是一家「系統(tǒng)性變革」咨詢公司，利用解決沖突的方法來(lái)解決社會(huì)問(wèn)題。
作為一名談判代表和調(diào)解人，Suleyman曾為聯(lián)合國(guó)、荷蘭政府和世界自然基金會(huì)等一系列的客戶工作。）
Suleyma說(shuō)，離開(kāi)DeepMind后，他已經(jīng)財(cái)務(wù)自由了。不需要去創(chuàng)業(yè)或者寫(xiě)書(shū)賺錢(qián)來(lái)養(yǎng)活自己。
錢(qián)從來(lái)都不是工作的動(dòng)力。錢(qián)是工作的副產(chǎn)品。
對(duì)他來(lái)說(shuō)，工作的目標(biāo)從來(lái)沒(méi)有變過(guò)，就是如何讓世界變得更好，以及如何以一種健康、令人滿意的方式推動(dòng)世界前進(jìn)。
即使在2009年那時(shí)，當(dāng)他開(kāi)始考慮進(jìn)入科技行業(yè)時(shí)，他就看到了AI技術(shù)代表了一種在世界上提供服務(wù)的公平和準(zhǔn)確的方式。
（Suleyman與Hasabiss共同創(chuàng)立了人工智能公司DeepMind Technologies，擔(dān)任首席產(chǎn)品官。DeepMind于2014年被谷歌收購(gòu)，他成為DeepMind應(yīng)用人工智能的負(fù)責(zé)人。
2022年1月，Suleyman離開(kāi)谷歌，加入Greylock Partners，擔(dān)任風(fēng)險(xiǎn)合伙人。
2022年3月，Suleyman與Greylock的Reid Hoffman共同創(chuàng)立了AI實(shí)驗(yàn)室Inflection AI。
該公司成立的目標(biāo)是利用「人工智能幫助人類與計(jì)算機(jī)對(duì)話」，從谷歌和Meta等公司招募了前員工，并在第一輪融資中籌集了2.25億美元。
隨后在今年7月，得到了來(lái)自微軟、英偉達(dá)、比爾·蓋茨和LinkedIn創(chuàng)始人Reid Hoffman的15億美元投資。
Inflection AI拿到融資之后，馬上就購(gòu)買(mǎi)了價(jià)值13億美元的英偉達(dá)H100 GPU，搭建了世界上最大的GPU集群之一。
今年早些時(shí)候，他發(fā)布了一款名為Pi的ChatGPT競(jìng)品。他還與作家和研究員Michael Bhaskar合著了一本關(guān)于AI未來(lái)的書(shū)，名為《即將到來(lái)的浪潮：技術(shù)、權(quán)力和21世紀(jì)最大的困境》。）
如何看待技術(shù)的負(fù)面影響
他認(rèn)為過(guò)于糾結(jié)于誰(shuí)是樂(lè)觀主義還是悲觀主義沒(méi)有太大的意義。這是有偏見(jiàn)的看待事物的方式。他只想冷靜地分析利益和挑戰(zhàn)。
站在他的立場(chǎng)上，可以非常清晰地看到，隨著大型語(yǔ)言模型規(guī)模的進(jìn)一步提升，它們變得更易控制。
所以兩年前，當(dāng)時(shí)的觀點(diǎn)——他當(dāng)時(shí)就認(rèn)為是錯(cuò)誤的——是「哦，它們只會(huì)產(chǎn)生有毒的、反芻的、有偏見(jiàn)的、種族主義的內(nèi)容。」
但是這些情況都只是暫時(shí)的。人們忽視了技術(shù)不斷地進(jìn)展，沒(méi)有真正理解技術(shù)向前發(fā)展的軌跡。
現(xiàn)在Pi這樣的模型，非常的可控。Inflection AI 可以不讓Pi產(chǎn)生種族主義、同性戀歧視、性別歧視——任何形式的有毒內(nèi)容。
能讓它拒絕教用戶制造生物或化學(xué)武器，或者鼓勵(lì)用戶去砸鄰居的窗戶。
至于如何實(shí)現(xiàn)，Suleyma不想透露過(guò)多的技術(shù)細(xì)節(jié)，但是他說(shuō)，請(qǐng)放心大膽地去實(shí)驗(yàn)！Pi已經(jīng)上線了，用戶可以嘗試所有可能的攻擊方式。
針對(duì)Pi的任何越獄、提示黑客攻擊或任何事情都不起作用。這就是一個(gè)客觀事實(shí)。
Inflection AI有世界上最強(qiáng)大的團(tuán)隊(duì)，在過(guò)去三四年里創(chuàng)造了所有最大的語(yǔ)言模型。
這是一個(gè)非常出色的團(tuán)隊(duì)，在一個(gè)非常高效的環(huán)境中工作，擁有大量的計(jì)算資源。
他們一開(kāi)始就把安全作為第一優(yōu)先事項(xiàng)，因此，Pi沒(méi)有像其他公司的模型那樣那么「火辣」。
看看Character.ai。（Character是一個(gè)聊天機(jī)器人，用戶可以為其設(shè)計(jì)不同的「角色」，并在線分享給其他人聊天。做鏈接） 它的功能主要用來(lái)創(chuàng)造天馬行空的角色，但是Inflection AI一開(kāi)始就覺(jué)得這不是一個(gè)好的方向——他們不會(huì)做這樣的功能。
Pi會(huì)非常尊重你。如果你開(kāi)始抱怨你社區(qū)的移民搶了你的工作，Pi不會(huì)指責(zé)你，不會(huì)對(duì)你指手畫(huà)腳。
Pi會(huì)關(guān)心地詢問(wèn)并給你提供語(yǔ)言和心理上的支持。它會(huì)試圖了解用戶這種情緒從何而來(lái)，并溫和地鼓勵(lì)你去同情別人。這些都是我思考了20年的價(jià)值觀。
但被問(wèn)到如果開(kāi)源這些技術(shù)能讓世界變得更好的話，為什么不開(kāi)源。
Sulyman強(qiáng)調(diào)，自己畢竟在經(jīng)營(yíng)公司，得掙錢(qián)養(yǎng)活大家，之前買(mǎi)了英偉達(dá)13億的GPU，得賺錢(qián)滿足投資者對(duì)回報(bào)的要求。
現(xiàn)在開(kāi)源生態(tài)系統(tǒng)正在蓬勃發(fā)展，做得相當(dāng)不錯(cuò)，開(kāi)源社區(qū)也發(fā)現(xiàn)類似的方法。Suleyman只假設(shè)他們最多領(lǐng)先六個(gè)月。
AI監(jiān)管如何有效進(jìn)行
對(duì)他而言，開(kāi)發(fā)AI遞歸自我改進(jìn)的技術(shù)需要被監(jiān)管起來(lái)，小型AI在沒(méi)有你的監(jiān)督下去更新自己的代碼是危險(xiǎn)的，也許這甚至應(yīng)該是一個(gè)需要許可的行為。
或許需要像處理炭疽或核材料一樣，有專門(mén)的機(jī)制來(lái)監(jiān)管這種行為。
他還認(rèn)為，對(duì)于AI的恐懼是完全沒(méi)有必要的。AI監(jiān)管完全可以落腳在現(xiàn)在的監(jiān)管框架之內(nèi)。AI只是治理體系的另一個(gè)組成部分。
人類在規(guī)范超復(fù)雜事物方面做得非常出色。聯(lián)邦航空管理局為例：我們都已經(jīng)習(xí)慣乘坐這些鋁制管道在四萬(wàn)英尺的高空飛行，而這是有史以來(lái)最安全的交通方式之一。這就是監(jiān)管成功的例子。
或者汽車(chē)：每一個(gè)組件都經(jīng)受了極限的壓力測(cè)試，而用戶必須有駕照才能駕駛它。
有些行業(yè)——比如航空公司——一開(kāi)始就很好地自我規(guī)制。因?yàn)樗麄冎溃绻麄儧](méi)有做好安全工作，大家都會(huì)害怕，他們就會(huì)失去生意。
參考資料：
https://www.technologyreview.com/2023/09/15/1079624/deepmind-inflection-generative-ai-whats-next-mustafa-suleyman/
相關(guān)推薦
- 免責(zé)聲明
-
本文所包含的觀點(diǎn)僅代表作者個(gè)人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對(duì)本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。
交易和投資涉及高風(fēng)險(xiǎn)，讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前，請(qǐng)務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對(duì)因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢(qián)損失負(fù)任何責(zé)任。
編輯：潤(rùn)
【新智元導(dǎo)讀】在最近MIT科技評(píng)論的專訪中，DeepMind聯(lián)創(chuàng)，Inlfection AI創(chuàng)始人表示，他們已經(jīng)將AI毒性去除，生成式AI只是過(guò)渡，未來(lái)AI將獲得像人一樣的自由。DeepMind的聯(lián)合創(chuàng)始人，Inflection AI的創(chuàng)始人，Mustafa Suleyman接受了MIT科技評(píng)論對(duì)他進(jìn)行了一次線上專訪，在專訪中，他拋出觀點(diǎn)：
現(xiàn)階段的生成式AI只是一個(gè)技術(shù)階段，接下來(lái)會(huì)進(jìn)入交互式AI的時(shí)代：AI將會(huì)成為能夠根據(jù)每個(gè)用戶的不同任務(wù)需求去調(diào)用其他軟件和人來(lái)完成工作的機(jī)器人。
他創(chuàng)辦的公司——Inflection AI的目標(biāo)，不僅僅是一個(gè)聊天助手，而是想要通過(guò)AI讓世界上的絕大多數(shù)人獲得更加平等的資源和信息。
最后，他還呼吁政府要積極的對(duì)AI進(jìn)行監(jiān)管，并認(rèn)為將AI在現(xiàn)有制度下進(jìn)行監(jiān)管不難實(shí)現(xiàn)。
也許與Suleyman有相似看法的人并不少，但與大多數(shù)人不同的是，是一個(gè)估值數(shù)十億美元的公司——Inflection AI的領(lǐng)導(dǎo)者。
這個(gè)公司擁有來(lái)自DeepMind、Meta和OpenAI的頂級(jí)人才，并且通過(guò)與英偉達(dá)的合作擁有全球最大的專業(yè)AI硬件算力儲(chǔ)備。
我們正處于AI技術(shù)的三波浪潮中的第二波
在Sulyman看來(lái)，第一波AI浪潮是關(guān)于分類（Classification）的。深度學(xué)習(xí)表明，人類可以訓(xùn)練計(jì)算機(jī)對(duì)各種類型的輸入數(shù)據(jù)進(jìn)行分類：圖像、視頻、音頻、語(yǔ)言。
現(xiàn)在處于第二波浪潮，生成式AI之中，輸入數(shù)據(jù)并生成新數(shù)據(jù)。
第三波浪潮將是交互式AI。他一直認(rèn)為對(duì)話是未來(lái)的交互界面。用戶不僅僅是點(diǎn)擊按鈕和鍵入文字，用戶會(huì)與AI進(jìn)行直接的對(duì)話。
這些AI將能夠自主采取行動(dòng)。只需要給它一個(gè)一般性的、終局的目標(biāo)，AI將使用所有工具來(lái)實(shí)現(xiàn)這個(gè)目標(biāo)。
它們會(huì)與其他人對(duì)話，與其他AI對(duì)話。這就是他將要用Pi來(lái)實(shí)現(xiàn)的東西。
這是技術(shù)能力的巨大升級(jí)。這是技術(shù)史上一個(gè)影響非常、非常深遠(yuǎn)的時(shí)刻，他認(rèn)為許多人都低估了技術(shù)的潛力。
AI技術(shù)現(xiàn)在依然還是靜態(tài)的。它基本上是按照你告訴它的方式去做事。
但技術(shù)將變得有生命力。如果用戶給予AI充分的自由，AI就能去利用這種自由去采取行動(dòng)。
這確實(shí)是人類歷史上一個(gè)質(zhì)的飛躍，我們正在創(chuàng)建具有這種智能體能力的工具。
人類將始終是主導(dǎo)者。人類需要確定AI不能越過(guò)邊界的限制，并確保這些邊界從實(shí)際代碼到與其他AI或人類的互動(dòng)，再到創(chuàng)造技術(shù)的公司的動(dòng)機(jī)和激勵(lì)，都能提供可證明的安全性。
早年經(jīng)歷對(duì)自己價(jià)值觀和創(chuàng)業(yè)的影響
當(dāng)被問(wèn)到他與眾不同的職業(yè)經(jīng)歷和傳統(tǒng)的「硅谷風(fēng)」截然不同，而這些經(jīng)歷對(duì)于他在硅谷創(chuàng)業(yè)有什么影響時(shí)，Suleyma回答到：
他一直對(duì)權(quán)力、政治等方面很感興趣。他覺(jué)得人類基本原則是妥協(xié)的產(chǎn)物。依靠的是不同的、相互沖突的力量之間持續(xù)不斷的協(xié)商才能達(dá)成的一種動(dòng)態(tài)平衡。
雖然人類在不斷地解決問(wèn)題——但是人類依然會(huì)被自身的偏見(jiàn)和認(rèn)知盲區(qū)所限制。
民間組織、地方政府、中央政府、國(guó)際組織等等——都會(huì)受到自身的限制而沒(méi)有辦法高效的，不犯錯(cuò)的運(yùn)作。
想象一下，如果人類不會(huì)犯錯(cuò)誤，將會(huì)出現(xiàn)什么情況？
他覺(jué)得人類有可能構(gòu)建出真正反映自身利益的AI，并最終更一致、更公平地代表所有人做出更好的利弊權(quán)衡。
（1984年，Sulyman出生于倫敦北部，父親是敘利亞人，母親是英國(guó)人。他在貧困中長(zhǎng)大，16歲時(shí)，父母分居，兩人都移居國(guó)外，留下他和弟弟自謀生路。
Sulyman上的是伊麗莎白女王學(xué)校(Barnet的一所男子文法學(xué)校)。大概在那個(gè)時(shí)候，他通過(guò)他最好的朋友，認(rèn)識(shí)了DeepMind的聯(lián)合創(chuàng)始人Demis Hassabis。Sulyman說(shuō)，他和Demis Hassabis經(jīng)常討論他們將如何影響世界。
后來(lái)他被牛津大學(xué)錄取，學(xué)習(xí)哲學(xué)和神學(xué)，但一年后就退學(xué)了。
之后與他的大學(xué)朋友Mohammed Mamdani一起創(chuàng)辦了穆斯林青年幫助熱線，這是一項(xiàng)電話咨詢服務(wù)。該組織后來(lái)成為英國(guó)最大的穆斯林心理健康支持服務(wù)機(jī)構(gòu)。
隨后，Sulyman在倫敦市長(zhǎng)Ken Livingstone手下?lián)稳藱?quán)政策官員，之后創(chuàng)辦了Reos Partners，這是一家「系統(tǒng)性變革」咨詢公司，利用解決沖突的方法來(lái)解決社會(huì)問(wèn)題。
作為一名談判代表和調(diào)解人，Suleyman曾為聯(lián)合國(guó)、荷蘭政府和世界自然基金會(huì)等一系列的客戶工作。）
Suleyma說(shuō)，離開(kāi)DeepMind后，他已經(jīng)財(cái)務(wù)自由了。不需要去創(chuàng)業(yè)或者寫(xiě)書(shū)賺錢(qián)來(lái)養(yǎng)活自己。
錢(qián)從來(lái)都不是工作的動(dòng)力。錢(qián)是工作的副產(chǎn)品。
對(duì)他來(lái)說(shuō)，工作的目標(biāo)從來(lái)沒(méi)有變過(guò)，就是如何讓世界變得更好，以及如何以一種健康、令人滿意的方式推動(dòng)世界前進(jìn)。
即使在2009年那時(shí)，當(dāng)他開(kāi)始考慮進(jìn)入科技行業(yè)時(shí)，他就看到了AI技術(shù)代表了一種在世界上提供服務(wù)的公平和準(zhǔn)確的方式。
（Suleyman與Hasabiss共同創(chuàng)立了人工智能公司DeepMind Technologies，擔(dān)任首席產(chǎn)品官。DeepMind于2014年被谷歌收購(gòu)，他成為DeepMind應(yīng)用人工智能的負(fù)責(zé)人。
2022年1月，Suleyman離開(kāi)谷歌，加入Greylock Partners，擔(dān)任風(fēng)險(xiǎn)合伙人。
2022年3月，Suleyman與Greylock的Reid Hoffman共同創(chuàng)立了AI實(shí)驗(yàn)室Inflection AI。
該公司成立的目標(biāo)是利用「人工智能幫助人類與計(jì)算機(jī)對(duì)話」，從谷歌和Meta等公司招募了前員工，并在第一輪融資中籌集了2.25億美元。
隨后在今年7月，得到了來(lái)自微軟、英偉達(dá)、比爾·蓋茨和LinkedIn創(chuàng)始人Reid Hoffman的15億美元投資。
Inflection AI拿到融資之后，馬上就購(gòu)買(mǎi)了價(jià)值13億美元的英偉達(dá)H100 GPU，搭建了世界上最大的GPU集群之一。
今年早些時(shí)候，他發(fā)布了一款名為Pi的ChatGPT競(jìng)品。他還與作家和研究員Michael Bhaskar合著了一本關(guān)于AI未來(lái)的書(shū)，名為《即將到來(lái)的浪潮：技術(shù)、權(quán)力和21世紀(jì)最大的困境》。）
如何看待技術(shù)的負(fù)面影響
他認(rèn)為過(guò)于糾結(jié)于誰(shuí)是樂(lè)觀主義還是悲觀主義沒(méi)有太大的意義。這是有偏見(jiàn)的看待事物的方式。他只想冷靜地分析利益和挑戰(zhàn)。
站在他的立場(chǎng)上，可以非常清晰地看到，隨著大型語(yǔ)言模型規(guī)模的進(jìn)一步提升，它們變得更易控制。
所以兩年前，當(dāng)時(shí)的觀點(diǎn)——他當(dāng)時(shí)就認(rèn)為是錯(cuò)誤的——是「哦，它們只會(huì)產(chǎn)生有毒的、反芻的、有偏見(jiàn)的、種族主義的內(nèi)容。」
但是這些情況都只是暫時(shí)的。人們忽視了技術(shù)不斷地進(jìn)展，沒(méi)有真正理解技術(shù)向前發(fā)展的軌跡。
現(xiàn)在Pi這樣的模型，非常的可控。Inflection AI 可以不讓Pi產(chǎn)生種族主義、同性戀歧視、性別歧視——任何形式的有毒內(nèi)容。
能讓它拒絕教用戶制造生物或化學(xué)武器，或者鼓勵(lì)用戶去砸鄰居的窗戶。
至于如何實(shí)現(xiàn)，Suleyma不想透露過(guò)多的技術(shù)細(xì)節(jié)，但是他說(shuō)，請(qǐng)放心大膽地去實(shí)驗(yàn)！Pi已經(jīng)上線了，用戶可以嘗試所有可能的攻擊方式。
針對(duì)Pi的任何越獄、提示黑客攻擊或任何事情都不起作用。這就是一個(gè)客觀事實(shí)。
Inflection AI有世界上最強(qiáng)大的團(tuán)隊(duì)，在過(guò)去三四年里創(chuàng)造了所有最大的語(yǔ)言模型。
這是一個(gè)非常出色的團(tuán)隊(duì)，在一個(gè)非常高效的環(huán)境中工作，擁有大量的計(jì)算資源。
他們一開(kāi)始就把安全作為第一優(yōu)先事項(xiàng)，因此，Pi沒(méi)有像其他公司的模型那樣那么「火辣」。
看看Character.ai。（Character是一個(gè)聊天機(jī)器人，用戶可以為其設(shè)計(jì)不同的「角色」，并在線分享給其他人聊天。做鏈接） 它的功能主要用來(lái)創(chuàng)造天馬行空的角色，但是Inflection AI一開(kāi)始就覺(jué)得這不是一個(gè)好的方向——他們不會(huì)做這樣的功能。
Pi會(huì)非常尊重你。如果你開(kāi)始抱怨你社區(qū)的移民搶了你的工作，Pi不會(huì)指責(zé)你，不會(huì)對(duì)你指手畫(huà)腳。
Pi會(huì)關(guān)心地詢問(wèn)并給你提供語(yǔ)言和心理上的支持。它會(huì)試圖了解用戶這種情緒從何而來(lái)，并溫和地鼓勵(lì)你去同情別人。這些都是我思考了20年的價(jià)值觀。
但被問(wèn)到如果開(kāi)源這些技術(shù)能讓世界變得更好的話，為什么不開(kāi)源。
Sulyman強(qiáng)調(diào)，自己畢竟在經(jīng)營(yíng)公司，得掙錢(qián)養(yǎng)活大家，之前買(mǎi)了英偉達(dá)13億的GPU，得賺錢(qián)滿足投資者對(duì)回報(bào)的要求。
現(xiàn)在開(kāi)源生態(tài)系統(tǒng)正在蓬勃發(fā)展，做得相當(dāng)不錯(cuò)，開(kāi)源社區(qū)也發(fā)現(xiàn)類似的方法。Suleyman只假設(shè)他們最多領(lǐng)先六個(gè)月。
AI監(jiān)管如何有效進(jìn)行
對(duì)他而言，開(kāi)發(fā)AI遞歸自我改進(jìn)的技術(shù)需要被監(jiān)管起來(lái)，小型AI在沒(méi)有你的監(jiān)督下去更新自己的代碼是危險(xiǎn)的，也許這甚至應(yīng)該是一個(gè)需要許可的行為。
或許需要像處理炭疽或核材料一樣，有專門(mén)的機(jī)制來(lái)監(jiān)管這種行為。
他還認(rèn)為，對(duì)于AI的恐懼是完全沒(méi)有必要的。AI監(jiān)管完全可以落腳在現(xiàn)在的監(jiān)管框架之內(nèi)。AI只是治理體系的另一個(gè)組成部分。
人類在規(guī)范超復(fù)雜事物方面做得非常出色。聯(lián)邦航空管理局為例：我們都已經(jīng)習(xí)慣乘坐這些鋁制管道在四萬(wàn)英尺的高空飛行，而這是有史以來(lái)最安全的交通方式之一。這就是監(jiān)管成功的例子。
或者汽車(chē)：每一個(gè)組件都經(jīng)受了極限的壓力測(cè)試，而用戶必須有駕照才能駕駛它。
有些行業(yè)——比如航空公司——一開(kāi)始就很好地自我規(guī)制。因?yàn)樗麄冎溃绻麄儧](méi)有做好安全工作，大家都會(huì)害怕，他們就會(huì)失去生意。
參考資料：
https://www.technologyreview.com/2023/09/15/1079624/deepmind-inflection-generative-ai-whats-next-mustafa-suleyman/
