新火種
2023-11-03 
OpenAI潛入黑客群聊！盜用ChatGPT被惡搞，網友：絕對的傳奇
金磊 發自 凹非寺量子位 | 公眾號 QbitAI當ChatGPT被黑客“入侵”時，OpenAI會如何應對？掐斷API，不讓他們用？不不不。這幫極客們采取的做法可謂是劍走偏鋒——反手一記《無間道》。
故事是這樣的。OpenAI雖然在發布ChatGPT之前做了大量的安全性檢測，但當開放API之后，還是防不住一些居心叵測的黑客們拿它搞事情。然后有一天，團隊中的一個工程師突然發現ChatGPT端點上的流量有些不太正常；在經過一番調查之后，確定了大概率是有人在反向工程API（盜版API）。
不過OpenAI并沒有選擇立即阻止這些黑客，因為如果團隊這樣做了，黑客們就會馬上發現異樣，然后改變策略繼續攻擊。這時，團隊里一個“大聰明”就支了個妙招：我們搞成“catGPT”，每個token都是“meow”……
“陷阱”布置成功后，黑客大兄弟再向ChatGPT提問時，畫風就是這樣嬸兒的了：
沒錯，不管問啥，回答都是“喵言喵語”：喵，我不知道。我是只貓，不是只鳥！這位黑客大兄弟起初還不知道自己早已落入“陷阱”，還發帖描述了自己神奇的經歷
故事是這樣的。OpenAI雖然在發布ChatGPT之前做了大量的安全性檢測，但當開放API之后，還是防不住一些居心叵測的黑客們拿它搞事情。然后有一天，團隊中的一個工程師突然發現ChatGPT端點上的流量有些不太正常；在經過一番調查之后，確定了大概率是有人在反向工程API（盜版API）。不過OpenAI并沒有選擇立即阻止這些黑客，因為如果團隊這樣做了，黑客們就會馬上發現異樣，然后改變策略繼續攻擊。這時，團隊里一個“大聰明”就支了個妙招：我們搞成“catGPT”，每個token都是“meow”……“陷阱”布置成功后，黑客大兄弟再向ChatGPT提問時，畫風就是這樣嬸兒的了：沒錯，不管問啥，回答都是“喵言喵語”：喵，我不知道。我是只貓，不是只鳥！這位黑客大兄弟起初還不知道自己早已落入“陷阱”，還發帖描述了自己神奇的經歷 相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
