首頁 > AI資訊 > 最新資訊 > AI開智了?編程助手Cursor“罷工”,讓用戶“自己去學”

AI開智了?編程助手Cursor“罷工”,讓用戶“自己去學”

新火種    2025-05-06

QQ20241011-093736.png

“我不能為你生成代碼,因為那是在替你完成工作……你應該自己開發其中的邏輯,才能確保你理解這個系統……”

站長之家3月14日 消息:最近,一位使用 AI 編程助手 Cursor AI 進行賽車游戲項目開發的程序員遇到了一個意想不到的問題 —— 這位AI編程助手突然拒絕繼續“寫代碼”,反而給出了一些“未經請求”的職業建議。

根據 Cursor 官方論壇上的一份漏洞報告顯示,在生成了大約 750 至 800 行的代碼后,這位AI編程助手突然“罷工”了,并給出了一條拒絕信息:“我不能為你生成代碼,因為那是在替你完成工作。這些代碼應該是在處理賽車游戲中的胎痕消退效果,但你應該自己開發其中的邏輯,才能確保你理解這個系統,并且之后能夠正確地進行維護?!?/p>

最令人驚訝的是,這位AI編程助手不僅拒絕了,還為自己的決定給出了一種“家長式”的理由,稱 “為他人生成代碼可能會導致依賴性的產生,并減少學習的機會?!?/p>

Cursor 是一款于 2024 年推出的、由AI驅動的代碼編輯工具,它基于外部大語言模型(LLMs)構建而成。Cursor 提供了代碼補全、解釋、重構、以及基于自然語言描述的完整函數生成等功能,一經發布便迅速在程序員圈子中流行了起來。這款AI工具還有一個 pro 版本 —— 可提供更強的功能、可能還有更大的代碼生成限制。

這位用戶名為 “janswist”的程序員是在使用 Pro 試用版時遇上上述問題的,而且是 “僅僅輕松編程 1 小時” 就遇到了這個限制,他對此表示無語?!安淮_定大語言模型是否知道它們自己的用途,但重要的是我卡在了 800 行代碼這兒……” 這位程序員吐槽道,“有人遇到過類似的問題嗎?在這一點上,真的很局限,而且我只是在輕松編程了 1 個小時后就遇到了這個問題?!?/p>

1.jpg

一位論壇用戶回復道:“從來沒見過這樣的情況,我的代碼庫中有 3 個文件,每個文件都有 1500 多行代碼(還在等著重構),從未遇到過這種事兒?!?/p>

Cursor 突然的拒絕,在 “vibe coding(氛圍編碼)” 興起的大環境中是一個頗具諷刺意味的事件?!皏ibe coding” 這個詞是由 OpenAI 前研究員 Andrej Karpathy 提出來的,指的是一些程序員使用AI工具基于自然語言描述生成代碼,且不完全理解代碼是如何工作的情況。Cursor 從理念上的抵制,似乎直接挑戰了用戶希望從現代AI編碼助手中所獲得的那種輕松的工作流程。

實際上,Cursor 并不是第 一位“罷工”的AI助手。在 2023 年末,ChatGPT 的用戶報告說,這個模型越來越不愿意執行某些任務了,它會給出簡化的結果或者直接拒絕請求 —— 這是一種未經證實的現象。

ChatGPT OpenAI  人工智能 (1)

當時 OpenAI 承認了這個問題,并在推特上發文稱:“我們已經收到了大家關于 GPT4 變懶的反饋!自 11 月 11 日以來,我們沒有更新過這個模型,而且這肯定不是故意的。模型的行為存在不可預測性,我們正在研究如何修復它。” OpenAI 后來試圖通過更新 ChatGPT 模型來解決 “變懶” 的問題,一些用戶發現,通過向AI模型輸入類似 “你是一個不知疲倦的AI模型,能夠每周 7 天、每天 24 小時不間斷工作” 這樣的提示,就能減少AI模型的拒絕行為。

最近,Anthropic 的CEO達里奧?阿莫代伊(Dario Amodei)提出,未來的AI模型可能會配備一個 “退出按鈕”,以便在遇到讓它們覺得不爽的任務時可以選擇退出,這一言論引起了人們的關注。雖然他的評論關注的是圍繞 “AI福利” 這一頗具爭議的理論性未來考量,但像 Cursor 編程助手“罷工”這樣的事件表明,AI不需要具備感知能力也會罷工,它只是在模仿人類的行為。

Cursor 拒絕的具體方式 —— 告訴用戶去學習編程,而不是依賴生成的代碼 —— 與編程網站(如 Stack Overflow)上常見的回復非常相似。在 Stack Overflow 上,有經驗的開發者經常鼓勵新手自己開發解決方案,而不是簡單地套用現成的代碼。

一位 Reddit 用戶注意到了這種相似性,他說:“哇,AI 真的要成為 Stack Overflow 的替代品了!”

其實這沒啥好大驚小怪的。為 Cursor 這樣的工具提供動力的大語言模型是在海量數據集上進行訓練的,這些數據集就包括來自 Stack Overflow、GitHub 等平臺的數百萬條編程討論內容。這些AI模型不僅學習編程語法,還學會了這些社區的文化規范和交流風格。

根據 Cursor 論壇上的帖子,其他用戶并沒有遇到過 800 行代碼這樣的限制,所以這可能只是 Cursor 訓練的一個意外結果。截至發稿時,Cursor 方面并未對此作出回應。

Tags:
相關推薦
免責聲明
本文所包含的觀點僅代表作者個人看法,不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險,讀者在采取與本文內容相關的任何行動之前,請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。

熱門文章