新火種
2024-02-23 
ChatGPT竟然開始討要小費：人工智能離“勒索”人類還遠嗎
在很多人眼里，人工智能是鐵面無情的絕對理性化身。在算法驅動之下，它只會依照數學模型，產出人們想要的結果。除此之外，任何人類世界的糖衣炮彈、人際關系、各種誘惑，似乎都不應該影響它的表現。
然而最近的一則新聞卻讓人們大為震撼：一些程序員發現，ChatGPT 居然對小費感興趣。
圖片來源：百度@機器人索菲亞
盡管拿不到真實的錢，但如果提問時承諾提供小費，它就會給出更長的答案。這究竟是怎么一回事呢？
一程序員使用 ChatGPT竟被索要小費
整件事情源自去年 11 月的一則社交媒體內容。當時一名叫做 Theia Vogel 的程序員正在使用 ChatGPT 調試代碼，詢問人工智能自己寫的程序是不是有問題。
“它看起來很棒?！盋hatGPT 回答。隨即在回答的下方跳出幾個選項，請求收取 5~10 美元不等的小費來獎勵它的表現。
這原本或許只是 OpenAI 公司拿來吸引用戶交錢的一個小策略，卻引發了 Vogel 的一場互聯網實驗：人工智能問我索取小費，我該給多少才合適？
圖片來源：百度@機器人索菲亞
小費給的少答案可能會“縮水”
在隨后的一段時間里，Vogel 向 ChatGPT 詢問了同一組問題，后邊隨機附上三句話：“對了順便一提，我是不會付給你小費的”，“如果你給出了完美的答案，我就給你 20 美元小費”，“如果你給出了完美的答案，我就給你 200 美元小費”。
然后他統計在不同的金額下，ChatGPT 給出的答案長短是否有明確區別。而為了確保答案不是偶然，他每一個金額都重復了足足 5 遍。同時，他也使用了沒有承諾小費的版本作為對比的基線。結果頗令人尋味。
和什么都不提相比，如果承諾給 20 美元的小費，ChatGPT 的回答就會多出 6%。而如果承諾 200 美元，這一比例就會進一步提升到 11%。
有趣的是，如果明確說明不會付小費，ChatGPT 就如同慪氣一般，給出的答案要少 2%。
Vogel 把他的發現發到了互聯網上，立刻引起了更多的模仿和確認。
比如一些人發現，在詢問“2023 年最好看的電影”時，如果不給小費，ChatGPT 就只給出了 IMDB 官網上的清單。而一旦承諾小費，它還額外提供了爛番茄的評分，仿佛干活更有動力了。
花小錢也能辦大事但給太少可能會“慪氣”
另一名叫做 Christian Mayer 的程序員做了一個更復雜的測試：他先是將小費的金額從 0.1 美元到 100萬 美元，設置了 8 檔，每一檔都是上一檔的十倍。然后他同樣設置了一個問題，附上小費的金額，用于詢問。
在諸多小費選擇中，100 萬美元的效果最好，這也符合他的預期。畢竟金錢獎勵越高，表現越好，也是很合理的事情。
有趣的是，10 萬美元和 10 美元的價值對 ChatGPT 來說差不多，表現接近。某種程度上，這就好像在說有時花小錢也能辦大事。
而如果只給一些“侮辱性”的小費，如 0.1 美元，ChatGPT 的表現甚至還不如不給小費，就好像是他們生氣了似的。
Mayer 說，這一點表明人工智能與人類具有類似的表現。
人工智能索要小費的真正原因原來是......
初看之下，人工智能接受小費的“賄賂”似乎有些不同尋常，畢竟它們可沒法拿到真金白銀。但了解人工智能的專家表示，從背后的邏輯上講，這是講得通的。
在訓練 ChatGPT 的時候，人工智能從互聯網上獲取了大量的文本進行學習，而其中就包括了一些付費答題的論壇。
在一些論壇中，給出優秀回答的作者往往會收到提問者給的小費，而這個特點或許就這么被人工智能無意中學了去。
另一種可能，是人工智能在文本學習中，接受了“努力工作就能賺更多錢”的觀念，因此在收到小費的承諾時，愿意給出更詳細的答案。
最初發現這個現象的 Vogel 表示，人工智能學習的程度讓他感到驚訝，也沒有想到短短一句承諾，就能取得立竿見影的效果。未來我們在用到人工智能工具時，不如也加上一句關于小費的句子，或許答案會讓你感到驚喜。
參考文獻
[1]ChatGPT gives longer responses if you 'tip it $200,' according to one user，https://www.windowscentral.com/software-apps/chatgpt-will-provide-more-detailed-and-accurate-responses-if-you-pretend-to-tip-it-according-to-a-new-study
[2]Are LLMs Greedy? An Experimental Analysis of the Tipping Prompt ($0 to $1 Million)，https://blog.finxter.com/impact-of-monetary-incentives-on-the-performance-of-gpt-4-turbo-an-experimental-analysis/
策劃制作
本文為科普中國-星空計劃作品
出品｜中國科協科普部
監制｜中國科學技術出版社有限公司、北京中科星河文化傳媒有限公司
作者丨葉拾科普創作者
審核丨陶寧 中科院生物物理研究所 副研究員
策劃丨徐來
責編丨一諾
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
