新火種
2024-02-21 
ChatGPT更新引眾怒！系統提示詞塞滿繁文縟節，網友：難怪會偷懶
夢晨 發自 凹非寺新火種 | 公眾號 QbitAI
ChatGPT變懶問題，再次引起眾怒。
AI與芯片行業分析師Dylan Patel引爆話題：最新版系統提示詞添加太多垃圾，難怪與6個月前的表現沒法比。
根據他的測試，集成了各種工具的GPT-4系統提示詞整整占用1700個token，里面充滿各種“繁文縟節”。
例如調用DALL·E 3時每次至多生成1張圖像，即使用戶要求更多也不行。
“總結摘要不能超過80個單詞”現在是硬性規定，被要求寫100詞以上時也寫80詞的，可以說已經把懶惰刻進了基因里。
此外還有各類種族、性別、倫理道德一類的規定，不再一一展示。
有人認為如果是人要遵守這么多規定，也不會好好干活了。
也有網友感嘆，以前聽說過死于“千刀萬剮”，現在有了死于1700個token，GPT-4的“大腦”已被堵塞，不再是一個改變世界的奇跡了。
拷問系統提示詞
要得到ChatGPT的系統提示詞，只需要一句簡單的咒語，已知開頭是“You are ChatGPT, ……”，只需要讓AI把后面的東西背誦出來即可。
話題發起者Dylan Patel還錄屏展示了自己獲得系統提示詞的過程，并請不相信的網友自己也可以試試。
多位網友嘗試后，也貼出了自己得到的結果。雖然也有與Dylan Patel不完全相同的，但主要內容，特別是關于DALL·E的規定基本一致。
也就是說，ChatGPT在這個任務上也會出現不同程度的幻覺了。
總之有網友靈魂發問，花20美元一個月，到底買的是個啥呢？
不過至少從這個討論中，很多人學會了拷問AI系統提示詞的辦法。
不僅適用于ChatGPT官方版，也可以用來從各路自定義GPTs里偷師學藝。
還有人測試了微軟Copilot平衡模式，發現更多有意思之處。
微軟Copilot整個系統提示詞是第一人稱寫的，內容也都是“我能做到什么”，而不是OpenAI版本的“你不能做什么”。
還特別提到了有些人也許還沒改過來“Bing Chat”的稱呼，這種情況下AI可以選擇忽略或簡單提醒。
甚至非GPT的馬斯克Grok大模型，也能用類似的方法問出系統提示詞來。
不過要論精簡，可能誰也比不過GPT-3.5不帶工具的版本了。
那么又沒有辦法在使用GPT-4強大基礎能力的同時，規避系統提示詞中這些限制呢？
還真有。
已經有網友特意在GPT商店發布了CleanGPT，沒什么特殊的，就是系統提示詞很干凈。
— 完 —
新火種 QbitAI · 頭條號簽約
關注我們，第一時間獲知前沿科技動態
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
