九九热视频精品在线_国产成人mv视频在线观看_国产精品三级一区二区_亚洲精品国产av成拍色拍婷婷_久久伊人一区二区_国产高清精品网站_九九99热久久精品离线6_国产在线一卡2卡三卡4卡免费_日韩美女乱淫aaa高清视频_亚洲大胆_啪啪一级视频_午夜av免费观看_国产高清精品福利私拍国产写真_亚洲婷婷五月综合狠狠_日韩欧美一区二区三区视频_岛国av免费看_精品国产乱码久久久久久久软件_亚洲国产成人精品无码区99_www日本色_免费黄色看片

背景

86歲的羅馬教皇方濟各大概不會料到，在他飽受支氣管炎困擾的那些日子里，一張機器生成的圖片讓他成了時尚界的“頂流”。

那件巴黎世家風(fēng)格的白色羽絨服里包裹著的人仿佛是他，又不是他。

一些人在社交平臺上留言稱，他們已無法判斷何為真實、何為虛構(gòu)。

機器生成的虛假圖像：教皇穿著巴黎世家風(fēng)格羽絨服，走在城市街道上。

巴勃羅·塞維爾（Pablo Xavier，假名）——一個31歲的芝加哥建筑工人，是這張熱門圖片的締造者。他在一個周五的下午吸食毒品時產(chǎn)生了靈感，決定創(chuàng)作一組和“教皇”相關(guān)的作品，于是便有了那張“教皇穿著巴黎世家/盟可睞的羽絨服，走在羅馬和巴黎的街道上”的圖片。

與傳統(tǒng)的藝術(shù)工作者不同，塞維爾的創(chuàng)作并不涉及專業(yè)美術(shù)知識。他使用的工具叫Midjourney。這是一款時興的人工智能（AI）繪畫工具，即便是沒有美術(shù)基礎(chǔ)的人也能將其掌握。用戶需要做的只是在輸入框中填入描述性的文字，等待數(shù)分鐘，便會有對應(yīng)的圖片產(chǎn)出。

Midjourney目前需要搭載Discord使用，在輸入框中填入描述性文字，會有對應(yīng)的圖片產(chǎn)出。

與之類似的AI圖像生成器還包括OpenAI開發(fā)的DALL-E，以及Stability AI與慕尼黑大學(xué)（LMU）合作研發(fā)的Stable Diffusion。雖然使用的訓(xùn)練模型略有差異，這些工具的共同點在于，它們都能將簡單的文字描述轉(zhuǎn)化成圖像輸出。

左圖來自Midjourney圖例; 右圖由OpenAI根據(jù)“野花，草地，秋韻，水彩”描述進行創(chuàng)作。注意右下角的5個色塊，這是DALL-E 2制圖的標(biāo)志（水印）。

塞維爾告訴美國聚合新聞網(wǎng)站BuzzFeed的記者，他覺得讓教皇身穿羽絨服的圖片“很完美”。他把它發(fā)到了一個名為AI Art Universe的Facebook小組里，又傳到了社交論壇Reddit上。之后，這張圖片就像外界所看到的那樣——像病毒一般傳開了。

長期關(guān)注互聯(lián)網(wǎng)文化的美國記者布羅德里克（Ryan Broderic）在推特上表示，“巴黎世家教皇”可能是第一個真正被大規(guī)模傳播的AI虛假信息（misinformation）案例。但類似的案例層出不窮。就在“巴黎世家教皇”被“曝光”的同時，一組聲稱“美國前總統(tǒng)特朗普被逮捕”的圖片已經(jīng)在賽博空間傳播開來。網(wǎng)絡(luò)上還流傳著一張顯示“俄羅斯總統(tǒng)普京單膝跪地”的圖片。只不過，這些圖片無一例外是用機器生成的。

Bellingcat創(chuàng)始人Eliot Higgins用Midjourney創(chuàng)造了一組展示特朗普被捕的圖片。

當(dāng)技術(shù)的發(fā)展模糊了現(xiàn)實和虛構(gòu)之間的界限，面臨人工智能被武器化的風(fēng)險，人類要怎么做，才能避免被愚弄？答案或許飄蕩在風(fēng)中。但現(xiàn)階段，相較于在現(xiàn)實世界中用各類鏡頭拍攝的照片，用AI生成的圖片在仿真性上仍有一些“瑕疵”。通過探尋這些“瑕疵”，我們在當(dāng)下仍有較大可能識別出用機器生成的圖片。

此處，“澎湃明查”將結(jié)合具體圖例，為大家介紹一些當(dāng)下仍可使用的鑒別AI生成圖片的方法。

工具

嚴(yán)格來說，塞維爾發(fā)布的圖片并沒有他所認(rèn)為的那般“完美”。無論是圖中教皇那只以奇怪的姿勢抓著不完整的咖啡杯的右手，還是其身上掛著的沒有顯示出適當(dāng)直角的十字架的佩飾，或是其戴著的眼鏡鏡片邊緣不合理的陰影，都暗示了這不是一張在正常物理空間拍攝的照片。

左：圖中人物右手受到擠壓，咖啡杯的形狀和手握咖啡杯的姿勢極不自然；中：配飾上的十字架圖案沒有呈現(xiàn)適當(dāng)?shù)闹苯牵挥遥貉坨R鏡片在人物臉部呈現(xiàn)不合理的陰影。

在判斷一張圖片是否是由機器生成時，首先值得關(guān)注的是圖片中是否存在一些異常的細(xì)節(jié)?！度A盛頓郵報》技術(shù)專欄作家奧維德（Shira Ovide）對此提出了4點可供參考的建議：

第一，查看圖中人物的雙手，是否存在手指過多或其它怪異的情況。早期的AI在生成人物手部圖像時常常出現(xiàn)問題，業(yè)界普遍認(rèn)為這是由于訓(xùn)練集中人類手部圖像出現(xiàn)的頻率往往低于臉部導(dǎo)致的。Midjourney從V5版本起已經(jīng)對機器生成的手部效果進行了較大改進，但不意味著已經(jīng)沒有漏洞。

DALL-E生成的虛假圖像：騷亂中的法國總統(tǒng)馬克龍。其手部手指的數(shù)量和姿勢均十分怪異。

例如，在塞維爾創(chuàng)作的教皇圖像中，人們可以輕易地觀察到，圖中人物的右手看起來被壓扁了，而他手握咖啡杯的姿勢也顯得極不自然。

第二，觀察圖像中人物的配件。是否存在缺少或不匹配的耳環(huán)、眼鏡架？只有一個輪子的自行車？如果圖像中出現(xiàn)了一些違背現(xiàn)實的物體，那么它就很有可能是用機器生成的。

同樣以塞維爾創(chuàng)作的教皇圖像為例。一些目光敏銳的人或許已經(jīng)注意到，方濟各脖子上佩戴的傳統(tǒng)胸飾十字架只有一條帶子，這是不合理的。

方濟各脖子上佩戴的傳統(tǒng)胸飾十字架（紅圈內(nèi)）只有一條帶子。

第三，觀察圖像中的文字。當(dāng)一張圖片中出現(xiàn)路牌、廣告牌、產(chǎn)品包裝袋時，不妨留心一下這些物體上包含的文字內(nèi)容。它是一堆亂碼嗎？你能看懂文字顯示的信息嗎？

以英國哈里王子打包麥當(dāng)勞食品的圖像為例，這是一張用AI生成的圖片。盡管圖中黃色包裝袋上顯示的餐廳標(biāo)志看起來很逼真，但袋子上的文字卻是胡言亂語。

機器生成的虛假圖像：英國哈里王子打包麥當(dāng)勞食品。包裝袋上的文字是一堆亂碼。

第四，掃描背景。人工智能生成的圖像可能會有模糊或扭曲的細(xì)節(jié)，這一點在圖像背景中尤其明顯。例如在這張顯示特朗普被捕的假圖中，當(dāng)我們將目光從畫面中心移開時，就不難注意到，背景中執(zhí)法人員的臉早已模糊或變形。

Higgins用Midjourney生成的“特朗普被捕”的虛假圖像背景中，執(zhí)法人員的臉產(chǎn)生了模糊或變形。

除上述4點，AI生成的圖像還有可能會出現(xiàn)一些常見的異常細(xì)節(jié)。例如人物的臉部不對稱，牙齒偏離中心，配飾與身體融為一體等。這些細(xì)節(jié)之前也常常被應(yīng)用于對深假圖像（DeepFake，俗稱AI換臉）的觀測中。但隨著人工智能技術(shù)的發(fā)展，這些發(fā)現(xiàn)AI圖像的線索也許很快就會過時。人們可能將越來越難用肉眼發(fā)現(xiàn)AI生成的內(nèi)容。

在業(yè)界，一些科學(xué)家近年來開始嘗試將解決問題的目光轉(zhuǎn)向機器，期待“用魔法打敗魔法”。例如Mayachitra的工程師在2021年建立了一個用以檢測圖片是否使用生成對抗網(wǎng)絡(luò)技術(shù)的GAN檢測器；開源社區(qū)Hugging Face上搭建有針對AI生成內(nèi)容的AI圖像檢測器和OPENAI檢測器；2020年，微軟公司還曾發(fā)布過一項名為Microsoft Video Authenticator的工具，用以針對網(wǎng)絡(luò)上用深假技術(shù)制作的虛假視頻。但出于安全的考慮，微軟公司并未將這款工具開放供人們使用。

用Hugging Face的AI圖像檢測器檢測“巴黎世家教皇”圖像，反饋此圖有62%的概率由機器生成。

需要指出的是，現(xiàn)階段，許多用于檢測AI圖片的工具反饋的結(jié)果并不總是準(zhǔn)確，這可能是由于它們只能針對某些使用了特定模型的AI圖片進行檢測。

面對人工智能技術(shù)被武器化的風(fēng)險，人類目前的應(yīng)對之法還存有諸多局限。但這不意味著要因噎廢食，阻止新技術(shù)的發(fā)展。奧維德指出，偽造圖像的現(xiàn)象由來已久，把AI造假看作世界末日的做法是不負(fù)責(zé)任的。

目前，除了將希望寄托于技術(shù)和監(jiān)管，人們更多可以做的，或許是在傳播信息前，能夠冷靜思考，尋找圖片的來源，閱讀和圖像相關(guān)的標(biāo)題、背景信息，留心圖片上是否存有AI生成圖片的水印，并對圖片的細(xì)節(jié)進行判斷。

“澎湃明查”也將持續(xù)關(guān)注人工智能技術(shù)的發(fā)展前沿，探尋幫助人類在享受技術(shù)便利性同時應(yīng)對技術(shù)應(yīng)用可能導(dǎo)致的虛假信息泛濫之法。