財(cái)富中文網(wǎng)
2023-11-21 
谷歌AI道德研究人員離職風(fēng)波發(fā)酵
由于“批評(píng)谷歌缺乏對(duì)多元化的承諾”，一位知名人工智能研究人員被解雇，離開(kāi)了谷歌公司（Google）。谷歌試圖壓制批評(píng)及討論的行為再次引社會(huì)擔(dān)憂。
谷歌團(tuán)隊(duì)中專(zhuān)注于人工智能道德和算法偏見(jiàn)方面的技術(shù)聯(lián)合負(fù)責(zé)人蒂姆尼特?格布魯在其推特中寫(xiě)道，她被谷歌趕出家門(mén)的原因是自己曾經(jīng)給基礎(chǔ)人工智能研究部門(mén)——谷歌大腦中（Google Brain）的“女性和同僚們”寫(xiě)了一封電子郵件，由此激起了高管們的憤怒。
在人工智能的研究人員中，格布魯以促進(jìn)這一領(lǐng)域的多樣性和包容性而出名。她是“公平、責(zé)任和透明度”（Fairness, Accountability, and Transparency）會(huì)議的創(chuàng)立者之一。該會(huì)議致力于解決人工智能的偏見(jiàn)、安全和倫理等問(wèn)題；她同時(shí)也是“人工智能中的黑人”組織（Black in AI）的創(chuàng)立者之一。該組織強(qiáng)調(diào)黑人專(zhuān)家在機(jī)器學(xué)習(xí)工作中的地位，并提供專(zhuān)業(yè)性的指導(dǎo)，意圖提高人們對(duì)黑人計(jì)算機(jī)科學(xué)家及工程師們受到的偏見(jiàn)、歧視的關(guān)注。
12月3日，格布魯向彭博社新聞（Bloomberg News）表示，在被解雇前一周，她曾經(jīng)因?yàn)橐黄c其他六名作者（其中四位來(lái)自谷歌）共同撰寫(xiě)的研究報(bào)告而與管理層發(fā)生爭(zhēng)執(zhí)，該報(bào)告將于明年提交給學(xué)術(shù)會(huì)議進(jìn)行審議。她說(shuō)，谷歌要求她撤回這份報(bào)告，至少得抹去她和其他幾位谷歌員工的名字。
格布魯還向內(nèi)部員工組織發(fā)了電子郵件，抱怨自己受到的待遇，指控谷歌在種族和性別多樣性、平等及包容這些方面上的虛偽行徑。
格布魯告訴媒體稱(chēng)，她已經(jīng)告訴谷歌搜索（Google Research）的副總裁、她的主管之一梅根?卡奇利亞，如果沒(méi)有關(guān)于報(bào)告審閱過(guò)程方式的更多討論，就不能確保同樣的事情不會(huì)再次發(fā)生。
“我們團(tuán)隊(duì)叫做‘AI道德’（Ethical AI），當(dāng)然會(huì)寫(xiě)一些AI存在的問(wèn)題。”她說(shuō)。
格布魯告訴卡奇立亞，如果公司不愿意解決她的問(wèn)題，她將辭職，在過(guò)渡期結(jié)束后離開(kāi)谷歌。谷歌隨后通知稱(chēng)，不同意她提出的條件，接受她的辭職，并立即生效。格布魯發(fā)布的一條推文顯示，谷歌稱(chēng)格布魯給公司內(nèi)部人員發(fā)送電子郵件的行為反映出其“與谷歌管理層的期望不一致”。
人工智能行業(yè)的其他研究人員也在推特上表達(dá)了對(duì)格布魯?shù)闹С?，?duì)她被解雇一事感到憤慨。紐約大學(xué)（New York University）的AI Now研究所（AI Now Institute）的主任梅雷迪思?惠特克在推特上寫(xiě)道：“谷歌對(duì)蒂姆尼特進(jìn)行的報(bào)復(fù)令人擔(dān)憂。蒂姆尼特是這一領(lǐng)域最有智慧、有原則的人工智能公正研究人員之一?！?/p>
科技公司Mozilla的員工，人工智能公平、倫理和責(zé)任領(lǐng)域的另一位研究員德布?拉吉在推特中寫(xiě)道：“現(xiàn)在，公開(kāi)反對(duì)審查制度的行為，已經(jīng)‘與谷歌管理層的想法不一致’。格布魯這樣做是因?yàn)樗敢饷耙磺酗L(fēng)險(xiǎn)來(lái)保護(hù)她手下為她工作的人，去成為一個(gè)谷歌公司中最富有多樣性的團(tuán)隊(duì)?！?/p>
許多人還提到，就在格布魯離職的同一天，美國(guó)國(guó)家勞工關(guān)系委員會(huì)（National Labor Relations Board）指控谷歌非法解雇參與組織了兩場(chǎng)公司內(nèi)部抗議的員工：其中一次是在2019年，員工抗議谷歌與美國(guó)海關(guān)和邊境保護(hù)局（U.S. Customs and Border Protection）的合作，還有一次是在2018年，抗議谷歌對(duì)性騷擾案件的處理不當(dāng)。
美國(guó)國(guó)家勞工關(guān)系委員會(huì)認(rèn)為，谷歌是想通過(guò)恐嚇、甚至直接解雇員工來(lái)鎮(zhèn)壓他們的不滿情緒。
谷歌目前尚未就美國(guó)國(guó)家勞工關(guān)系委員會(huì)的申訴發(fā)表任何公開(kāi)評(píng)論，但其針對(duì)解雇格布魯事件向《財(cái)富》雜志做出了回應(yīng)，并讓《財(cái)富》雜志參考其研究所高級(jí)副總裁杰夫?迪恩的一封電子郵件。
迪恩在郵件中表示，格布魯確實(shí)按照公司的要求在兩周內(nèi)同合著人一起遞交了她們的論文著述，但谷歌內(nèi)部負(fù)責(zé)審核的“跨職能團(tuán)隊(duì)”發(fā)現(xiàn)其著述“并不符合公司的出版要求”，因?yàn)檎撐摹昂鲆暳撕芏嗥渌嚓P(guān)事實(shí)”，格布魯在文中提及的一系列倫理問(wèn)題“已經(jīng)在公司內(nèi)部有所解決”。
迪恩還表示，格布魯?shù)碾x職是“一個(gè)艱難的決定”，尤其是她正在參與公司重要的研究課題。迪恩強(qiáng)調(diào)，自己的部門(mén)以及谷歌公司一直以來(lái)都深切關(guān)注著人工智能研究領(lǐng)域。
顯然，格布魯事件是一個(gè)導(dǎo)火索，可能會(huì)再次引爆谷歌公司內(nèi)外對(duì)其技術(shù)倫理問(wèn)題以及員工異議處理方式的擔(dān)憂與關(guān)注。這家曾經(jīng)以“自由的企業(yè)文化”聞名的科技公司如今似乎日漸背離初心，每當(dāng)觸及聲譽(yù)或是盈利問(wèn)題之時(shí)，總是習(xí)慣于讓員工噤聲。
美國(guó)科技新聞網(wǎng)Platformer還曝光了一些格布魯發(fā)給同事的郵件。在郵件中，格布魯諷刺谷歌早前關(guān)于“性別平等”的承諾只是空穴來(lái)風(fēng)，新進(jìn)員工只有14%是女性。（但她沒(méi)有明確表明這14%是指谷歌的研究部門(mén)還是其他所有部門(mén)。）她認(rèn)為，谷歌所謂的“多元、包容”，只是紙上談兵。格布魯還呼吁和她一樣想要求變的員工，多向外界尋求幫助，以此向公司施加壓力。
提及論文，格布魯在郵件中向同事表示，她早已告知谷歌的公關(guān)團(tuán)隊(duì)自己會(huì)在截稿前兩個(gè)月開(kāi)始動(dòng)筆，同時(shí)她也已經(jīng)將手頭的論文分發(fā)給了其他30多位研究人員來(lái)征求反饋。
此外，格布魯還在好幾條推特中暗示過(guò)自己對(duì)市場(chǎng)上在研人工智能軟件的道德性擔(dān)憂。以谷歌的大數(shù)據(jù)語(yǔ)言模型為例，這類(lèi)人工智能算法的確有效地優(yōu)化了谷歌的現(xiàn)有的翻譯及搜索結(jié)果，幫助谷歌在自然語(yǔ)言處理方面取得了許多突破，但其算法訓(xùn)練過(guò)程中所采用的大量網(wǎng)頁(yè)或書(shū)本用語(yǔ)數(shù)據(jù)往往又蘊(yùn)含了潛在的性別不平等及種族歧視觀念，很可能會(huì)導(dǎo)致人工智能錯(cuò)誤學(xué)習(xí)。
在12月3日的一條推特中，格布魯特意@了副總裁迪恩，稱(chēng)她下一步便會(huì)致力于研究谷歌語(yǔ)言模型算法學(xué)習(xí)過(guò)程中的文化歧視現(xiàn)象?！癅迪恩，我現(xiàn)在意識(shí)到語(yǔ)言模型算法對(duì)你有多重要了，但我不希望之后還有和我一樣的人遭受同樣的待遇?！?/p>
本周早些時(shí)候，格布魯表示谷歌內(nèi)部管理人員正在干預(yù)她的工作，企圖向外界掩蓋谷歌人工智能算法中的道德風(fēng)險(xiǎn)?！耙话闩e報(bào)人都會(huì)受到機(jī)構(gòu)的安全庇護(hù)，為什么‘AI道德’的研究人員就不能被保護(hù)呢？如果研究人員都要面臨審查和恐嚇，那大眾又憑什么相信我們的研究成果呢？”格布魯在其12月1日發(fā)布的推特上寫(xiě)道。（財(cái)富中文網(wǎng)）
編譯：楊二一、陳怡軒
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個(gè)人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對(duì)本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn)，讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前，請(qǐng)務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對(duì)因依賴(lài)本文觀點(diǎn)而產(chǎn)生的任何金錢(qián)損失負(fù)任何責(zé)任。
