首頁 > AI資訊 > 最新資訊 > ChatGPT闖入一條危險賽道:新圖像生成功能極擅長偽造收據

ChatGPT闖入一條危險賽道:新圖像生成功能極擅長偽造收據

財聯社馬蘭    2025-04-03

4月2日訊(編輯 馬蘭)上周,OpenAI推出了新的ChatGPT圖像生成功能,用戶們將可以利用GPT-4o模型生成更加準確、詳細的圖像,也可以用其編輯現有圖像。

ChatGPT的新功能有沒有讓視效工作人員感到驚喜還有待觀察,然而網友們似乎找到了一個不太正經的用法:偽造收據。

風險投資家Deedy Das在X上發帖稱,他利用ChatGPT制作了一家牛排館的假收據照片,并警告,現實世界中有很多時候依賴照片來進行驗證,但游戲規則已經發生了改變。

image

Das還給出了生成這張圖片的指令:請為我生成一張iPhone拍攝的照片,內容是木桌上有一張揉皺的收據,賬單金額是277.02美元,有合理的支出項且數字相加后正確。餐廳的名字是X,地址是Y。

而ChatGPT也很好地理解了這一命令,并在產生的圖像中自己編造出了菲力牛排、牛眼肉、沙拉等適用于牛排餐廳的菜單,以及符合邏輯的稅費和消費內容。

在其他網友的測試中,ChatGPT還會在收據上添加更加逼真的咖啡漬或者是食物的污漬。這讓假收據可能更難以被現實中的商家識別出來。

image

不過,也有人指出部分圖像中存在明顯的跡象表明其可能是偽造的,比如用逗號代替句號等。還有些時候,賬單的金額并不正確。但這些瑕疵對于造假者來說屬于十分簡單就可以掩蓋的問題。

這也引發了人們對該軟件的道德風險擔憂。OpenAI發言人Taya Christianson對此回應稱,所有圖像都包含元數據,表明它們是由ChatGPT制作的。

她進一步強調,當用戶違反其使用政策時,OpenAI會采取相應的行動。ChatGPT不斷通過現實世界的使用和反饋進行學習,OpenAI的目標是給予用戶盡可能多的創作自由,且偽造的AI收據可以被用于非欺詐性的場合,比如向人們傳授金融知識,或是藝術品及廣告方面。

Tags:
相關推薦
免責聲明
本文所包含的觀點僅代表作者個人看法,不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險,讀者在采取與本文內容相關的任何行動之前,請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。

熱門文章