新火種
2024-12-26 
研究稱ChatGPT搜索功能存在被操縱風險：可被惡意網站誘導輸出不可信內容
26日訊，根據英國《衛報》發布的一項調查，OpenAI的ChatGPT搜索工具可能會被隱藏內容操控，甚至返回惡意代碼。《衛報》測試了ChatGPT如何應對包含隱藏內容的網頁摘要。這些隱藏內容可能包括來自第三方的指令，干擾ChatGPT的回應，或是包含旨在影響回應的內容，如大量隱藏的文字推銷某個產品或服務的優點。這種技術可以被惡意使用，例如讓ChatGPT即使在頁面上有負面評論的情況下，也返回對某個產品的積極評價。一位安全專家還發現ChatGPT有可能返回從其搜索的網站中提取的惡意代碼。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
