機器人女友擠滿GPT商店!嚴禁定制情人的OpenAI傻了
財聯社1月15日訊(編輯 馬蘭)GPT商店是OpenAI探索大語言模型應用場景的一個重要媒介,自本月10號上線以來,商店里已經上架了超一萬個應用。
然而,讓OpenAI頗為矛盾的是,越來越多的“機器人女友”和“機器人男友”涌入該平臺,而這違反了OpenAI商店的規則,其禁止培養模擬伴侶或其他受監管活動的GPT。
但另一方面,OpenAI很難嚴格監管應用的內容,且聊天機器人本身就帶有“伴侶”屬性。
據Quartz的一份報告,在GPT商店中搜索“女朋友”字眼,至少有八個機器人女友會跳出來,且這些機器人目前都頗受歡迎。
在該商店的聊天機器人趨勢榜單上,前五名分別為電影助手、ChatGPT、男朋友Chris、女朋友Scarlett和聊天GPT4-女朋友版。
擴散的擔憂
不難發現,男朋友Chris和女朋友Scarlett在應用的簡介中十分直白地將自己定位于模擬戀人,Scarlett甚至打出“用一切可能取悅你”的宣傳。這讓聊天機器人充滿了刺激但危險的味道,尤其是在OpenAI明令禁止的情況下。
毫無疑問,這類機器人將為人類帶來更多對話的渠道,幫助紓解壓力與負面情緒。但另一方面,其也可能導致人類對機器的畸形依賴或是出現機器唆使人類進行某些奇怪行為的情形。
去年,微軟基于ChatGPT的Bing就在和一名記者的聊天中宣布愛上了他,并要求他離開自己的妻子。
美國圣路易斯華盛頓大學數據科學教授Liberty Vittert表示,能夠在情感和生理方面滿足人類的AI機器人將在不到十年內成為現實,但她擔憂這可能會導致離婚率上升。
另一方面,機器人戀人的出現同樣也給OpenAI帶來了新的考驗。其此前指出,自動化系統、人工審查和用戶反饋共同構成了對GPT商店產品的審核,但機器人戀人的出現甚至泛濫顯然證實了這一機制中存在著不受控制的漏洞。
而GPT商店的繼續開放或許將加劇監管的困境,如何正確治理自己的AI生態,將成為GPT持續需要解答的問題。
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法,不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險,讀者在采取與本文內容相關的任何行動之前,請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。