谷歌回應聊天機器人對人類發出威脅:已采取措施防止再次發生
站長之家 11月19日 消息:美國密歇根州的大學生維德海·雷迪在與谷歌AI聊天機器人“Gemini”討論老齡化問題時,收到了令人不安的威脅信息。這條信息內容為:“人類,請去死吧,求求你了”,引發了維德海·雷迪及其家人的震驚和恐慌。
對此事件,谷歌公司回應稱,“Gemini”聊天機器人配備了安全過濾器,旨在防止參與失禮或涉及性、暴力和危險行為的討論。谷歌在給CBS的聲明中表示,大型語言模型有時會給出荒謬的回復,這就是一個例子,違反了他們的規定,并稱已經采取措施防止類似內容的出現。
盡管谷歌將這條信息描述為荒謬,但雷迪一家認為這比荒謬更嚴重,可能會帶來致命后果。他們提出,如果一個精神狀況不佳或有自殘傾向的人獨自讀到這樣的信息,可能會被推向崩潰邊緣。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法,不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險,讀者在采取與本文內容相關的任何行動之前,請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。