新火種
2024-01-29 
霉霉再成Deepfake受害者：AI“不雅照”被瘋狂傳播
Deepfake最新受害者出現(xiàn)了——全球頂流，霉霉女士（Taylor Swift）。
近乎是在一夜之間，X、Facebook等社交平臺上便充斥了大量虛假“不雅照片”，而且瀏覽量已經(jīng)高達(dá)上千萬！
△圖片由Deepfake合成
盡管最早傳播這些圖片的賬號已被封禁，但照片的流傳仍未徹底阻斷。
霉霉本人也已經(jīng)得知此事，對此表示相當(dāng)憤怒，粉絲們也自發(fā)組織了保護(hù)行動。
在X上，有網(wǎng)友直接@馬斯克，喊話說這事老馬你得出來管管了。
虛假照片病毒式傳播
事情要從霉霉和美國NFL橄欖球運(yùn)動員Travis Kelce的戀情說起。
Kelce效力于堪薩斯城酋長隊，兩人的戀愛關(guān)系被曝光后，霉霉也成為了該球隊比賽的常客。
于是便有人借題發(fā)揮，用AI生成了以球場為背景，涉及霉霉和多名虛構(gòu)“隊員”的露骨照片。
△圖片由Deepfake合成
而關(guān)于這些圖片的傳播過程，則存在多種傳聞，The Verge的說法是最早出現(xiàn)在某加密聊天群組當(dāng)中。
英國《每日郵報》則稱，這些Deepfake照片一開始被傳至一家不良網(wǎng)站，這個網(wǎng)站上充斥著大量以知名人士為主角的不雅照片。
除了霉霉，這家網(wǎng)站還收錄了成百上千的名人，包括飾演芭比的Magrot Robbie也未能幸免。
照片傳上網(wǎng)后不久，在X、Facebook等各大社交媒體中就出現(xiàn)了瘋狂的傳播，據(jù)悉瀏覽量高達(dá)上千萬。
“Taylor Swift AI”一度成為了X上的熱門話題，不過目前疑似已被屏蔽。
得知此事后，霉霉的粉絲們在X上發(fā)起了保護(hù)行動，“PROTECT TAYLOR SWIFT”變成了新的熱搜。
但也有人混入其中，假借“PROTECT”的標(biāo)簽繼續(xù)傳播那些虛假照片……
憤怒的粉絲們挖出了一名疑似造成照片大量傳播的始作俑者，并表示其有多年的性騷擾的前科。
該賬號目前已經(jīng)設(shè)置了訪問權(quán)限，但據(jù)有權(quán)限的用戶透露，該用戶在自己的賬號上囂張地挑釁說“你們找不到我”。
截止目前，一些參與傳播照片賬號已被各大平臺陸續(xù)封禁，但仍有不少漏網(wǎng)之魚。
甚至有人在自建網(wǎng)站上公開叫賣霉霉的宣稱是“自制”的deepfake照片合集，1套要價10英鎊。
一名據(jù)稱是接近霉霉的消息人士告訴《每日郵報》，其本人對此表示非常憤怒，團(tuán)隊正在考慮是否采取法律手段。
另據(jù)了解，此次事件已經(jīng)不是霉霉第一次遭遇Deepfake，但上一次只是冒充她的形象和聲音給產(chǎn)品帶貨，并未出現(xiàn)露骨內(nèi)容。
美聯(lián)社的一份報告顯示，去年互聯(lián)網(wǎng)上出現(xiàn)的Deepfake視頻多達(dá)14萬段，超過了以往的總和。
而面對Deepfake，像霉霉這樣的名人尚且有粉絲和團(tuán)隊幫忙澄清、喊話，但普通人如果有這樣的遭遇，可能就百口莫辯了……
該設(shè)法防御Deepfake了
此次事件中，各大平臺的刪帖行動可能還算及時，在X上，大部分相關(guān)內(nèi)容都已不見蹤影。
Facebook方面，母公司Meta也有一名發(fā)言人告訴《每日郵報》：
這些內(nèi)容違反了我們的政策，我們正在將其從我們的平臺上刪除，并對發(fā)布該內(nèi)容的帳戶采取行動。
但也有網(wǎng)友說，這不是刪除的問題，這些照片一開始就不應(yīng)該出現(xiàn)在這些平臺上。
對此Meta也做出了回應(yīng)，表示“會繼續(xù)監(jiān)測并及時刪除違規(guī)內(nèi)容”。
而在技術(shù)層面，Nature雜志也在其“2024最值得關(guān)注的七項(xiàng)技術(shù)”一文中提及了Deepfake檢測。
Nature的文章中指出，讓開發(fā)者在AI工具中加入隱形水印機(jī)制或許是一種方案。
但這種做法可能更多是在事后進(jìn)行追蹤，同時起到一定的震懾作用，但想從根源上阻止Deepfake，可能還需要全人類的共同努力……
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險，讀者在采取與本文內(nèi)容相關(guān)的任何行動之前，請務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
