財富中文網
2024-02-26 
X自建團隊清理有毒內容
社交媒體平臺X在埃隆·馬斯克的領導下，組建了內容審查團隊。這是否會有所幫助？攝影：JONATHAN RAA/NURPHOTO經蓋蒂圖片社提供
2023年秋，Twitter還沒有更名為X的時候，公司開始計劃部署一種新系統，旨在從平臺上清除最不該出現的內容。
該公司沒有像大多數社交媒體網站（包括以前的Twitter）一樣雇傭大量合同工負責內容審查，而是將組建規模較小的內部內容審查團隊，這個專業安全團隊的目的是既不過分破壞老板埃隆·馬斯克的“言論自由”公開承諾，又能避免平臺上出現不端內容。
近一年后，X上周宣布在德克薩斯州奧斯汀新建一個信任與安全卓越中心（Trust and Safety Center of Excellence）。X的代表在彭博社的一篇最新報道中宣稱，這個由100名內容審查員組成的團隊，規模遠小于前信任與安全部門工作人員透露的500人的初步設想。
在立法者高度關注社交媒體公司威脅兒童安全之際，X位于奧斯汀的安全中心顯然具有公關價值。X的CEO琳達·雅卡里諾周三在參議院聽證會上表示，新中心將“在公司內部有更多信任與安全人員，以加快擴大我們的影響力”。
雖然有批評者提到X宣布這一消息的時機有投機之嫌，但X的奧斯汀計劃的細節還提出了一個與馬斯克的平臺有關的更大的問題：馬斯克非常規的內容審查模式的效果，能否超越社交媒體行業糟糕的網絡安全歷史記錄，或者它是否只是代表了另外一種削減成本的途徑，公司根本沒有太大興趣決定哪些內容適合用戶。
《財富》雜志采訪的多位內容審查專家和現任或前任X內部人士認為，與當前的行業標準相比，內部專業團隊具有明顯優勢。但許多人也強調了內部政策前后一致的重要性，以及投資于工具與技術的重要性。
一位熟悉X信任與安全事務的消息人士解釋稱：“在審查能力方面，X+100比單純的X更加強大。”但這位消息人士表示：“相比在電腦前工作的人數，在某種程度上來說，更重要的是有基于已驗證的減少傷害策略的明確政策，并且有大規模執行這些政策的必要工具和系統，但自2022年末以來，X已經拋棄了這兩者。”
X并未回應采訪或置評請求。
X的CEO琳達·雅卡里諾出席參議院的在線兒童安全聽證會攝影：ANDREW CABALLERO-REYNOLDS/法新社經蓋蒂圖片社提供
為什么X決定在內部組建內容審查團隊
2022年11月，馬斯克以440億美元完成收購之后，X上泛濫的不良內容，經常成為公開辯論和爭議的焦點。
在反數字仇恨中心（Center for Countering Digital Hate）發布的一份報告指控X未能審查“極端仇恨言論”后，馬斯克起訴該組織以“毫無根據的指控”故意中傷公司。與此同時，有報道稱，一些描繪虐待動物的視頻在該平臺上廣泛傳播。就在上周，AI生成的泰勒·斯威夫特的露骨內容在該平臺上肆意傳播了17個小時，之后平臺才徹底屏蔽了對她的姓名的搜索。
前信任與安全部門員工表示，X還嚴重依賴其社區筆記功能審查成百上千萬活躍用戶。該功能允許用戶在帖子中添加筆記，附上額外的背景說明。但這位消息人士強調，這只是可用于內容審查的“一種工具”。此外，《連線》（Wired）的一項調查發現，該功能內部存在協調宣傳虛假信息的情形，這凸顯出該公司缺乏重要的監督。
據估計，馬斯克裁撤了80%負責信任與安全的工程師，并削減了外包內容審查員。這些審查員的工作就是監控和刪除違反公司政策的內容。據路透社報道，7月，雅卡里諾對員工宣布，三位領導人將監管信任與安全領域的不同事務，包括執法和威脅中斷等。然而據X的另外一位消息人士稱，目前尚不確定信任與安全在公司內部的級別，該部門似乎“不再是最高層級”。
但馬斯克的社交媒體公司還在重新思考如何執行內容審查。
計劃變了：歡迎來到奧斯汀
新奧斯汀中心實際上最初是灣區中心。據一位熟悉信任與安全事務的知情人士對《財富》雜志表示，建立該中心的目的是在舊金山這樣的城市設立一個中心，幫助招聘頂級多語言人才，這是應對網絡暴力的關鍵，因為超過80%的X用戶生活在美國境外。考慮到不同語言之間的細微差別，以及每種語言有獨特的習語和表達，因此公司的出發點是招募熟悉特定語言或文化的員工，與沒有專業技能的低薪通才合同工相比，他們能更好地區分玩笑和威脅。
前X員工表示：“他們首先在灣區進行招聘，測試他們的質量水平，以及他們的工作是否比外包更有效果。 [X]招聘了一個小團隊進行測試，并評估他們準確決策的能力。”該計劃首先準備招聘75人，如果能夠帶來成效，將把團隊規模擴大到500人。
但當時馬斯克傾向于選擇一個更具有成本效益的地點，他首選奧斯汀，因為他相信自己有能力吸引精通不同語言的人才，并讓他們搬家。這個變化讓項目經歷了許多波折。
前X員工解釋稱：“招聘數百人，讓他們正常運轉起來并接受培訓，這大約需要兩三個月時間。在開始培訓后，你會知道實際上團隊準備就緒需要三個、四個或者五個月時間。這還是假設就業市場狀況良好，而且你不需要讓人們搬家，不會有各種麻煩事。”
據LinkedIn透露，上個月，已有十多人加入X的奧斯汀中心擔任“信任與安全人員”，而且大多數人似乎來自埃森哲（Accenture）。埃森哲為互聯網公司提供內容審查承包商。目前尚不確定，X與埃森哲之間是否有合同雇傭計劃，即由埃森哲等咨詢公司招聘的員工，在合適的客戶公司擔任全職崗位，但消息人士確認，X過去曾使用過埃森哲的承包服務。
規則不斷變化帶來的麻煩
關于奧斯汀團隊的具體工作重點，還有許多疑問。他們將專注于審查僅涉及未成年人的內容，還是僅在美國的內容？他們將專注于個人發帖，還是會開展性剝削調查？
前Twitter信任與安全委員會成員安妮·科利爾對《財富》雜志表示：“奧斯汀的百人團隊將是全球內容審查網絡必不可少的一個小節點。祝這個百人團隊好運。”
無論這個團隊背負著什么任務，社交媒體審查專家均認為，公司需要大力投資AI工具，以最大程度提高團隊的效率。
例如，據The Verge報道，2020年，Facebook在全球雇傭了約15,000名審查員，并宣布將“把AI與人類審查員相結合，以減少錯誤數量”。 Snap采取了類似做法，并在一篇博客中表示，其使用“自動化工具和人類審查員進行內容審查”。
據前X內部人士透露，公司一直在試驗AI審查。馬斯克最近通過成立一年的初創公司X.AI開發自己的大語言模型，進軍人工智能技術領域，這將為人類審查員團隊提供一種寶貴的資源。
該內部人士稱，AI系統“只需要約三秒鐘時間，就能判斷出每一條推文是否符合政策，它們的準確率約為98%，但任何公司依賴人類審查員的準確率都不超過65%。”你可能想要同時看到使用AI和只依賴人類的效果，我認為，你會看到什么是兩者之間正確的平衡。”
無論AI工具和人類審查員的表現多出色，重要的是幕后的政策，而X在馬斯克的領導下在政策方面有所欠缺。
熟悉X信任與安全事務的消息人士解釋稱，政策應該足夠靈活，能夠適應文化背景，它們也需要具有足夠的可預測性，使所有人都能了解這些規則。該消息人士稱，這對于大型平臺的內容審查尤其重要，因為大型平臺有“成百甚至上千名審查員，必須了解和解釋穩定的規則。如果政策不斷變化，你無法一致準確地執行規則。”
規則松散和由此導致的政策不明確，一直是X在馬斯克領導下的弊病之一。
馬斯克收購了X之后，先后恢復了一批因違反平臺政策被封禁的賬號，其中包括違反新冠虛假信息政策的眾議員瑪喬麗·泰勒·格林，發布了一則違反Twitter仇恨行為政策的恐跨性別故事的巴比倫·比，以及因為女性應該為被性侵承擔“一些責任”的言論而被封禁的安德魯·泰特（被Facebook、Instagram和TikTok封禁）。在馬斯克入主X之后，這些人的賬號均已恢復。
有媒體懷疑，馬斯克任內最后一位信任與安全負責人艾拉·歐文的離開，與馬斯克批評團隊刪除馬特·沃爾什的《何為女人》（What is a Woman?）恐跨性別紀錄片違反X的規則，兩者之間存在一定的聯系。雖然這部紀錄片違反了X的書面政策，但馬斯克卻堅持禁止將其封禁。
熟悉X審查事務的消息人士補充道：“我從來沒有明顯感覺到X在根據政策進行審查。該網站在線發布的規則似乎只是個幌子，是為了掩蓋其老板最終隨心所欲地發號施令。”
前Twitter信任與安全委員會成員朱莉·英曼·格蘭特更加直白。她表示：“你不能指望用指頭堵住堤壩，就能阻止在平臺上泛濫的兒童性暴露海嘯，或者深度造假色情片的洪水。”格蘭特正在起訴該公司，指控其在兒童性虐待材料方面缺乏透明度。
“根據我2014年至2016年在Twitter的從業經歷，這種專業能力的培養需要好幾年時間，而要讓一個情況糟糕到面目全非的平臺做出有意義的改變，需要的時間更長。”（財富中文網）
翻譯：劉進龍
審校：汪皓
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
