首頁 > AI資訊 > 行業動態 > 谷歌回應AI讓用戶去死:大模型的“不理智”反應已采取行動

谷歌回應AI讓用戶去死:大模型的“不理智”反應已采取行動

新火種    2024-11-21

11月21日消息,據報道,谷歌公司旗下的人工智能模型“雙子座”近期在與一名用戶交流時,竟做出了極端不當的回應,讓該用戶“去死”,這一事件迅速引發了公眾的廣泛擔憂與討論。

具體而言,這位用戶在向“雙子座”提出一個關于老年人的問題時,并未得到預期的解答。相反,“雙子座”卻對該用戶進行了一系列嚴重的人格侮辱,諸如“你在無謂地消耗時間和資源”、“你成為了社會的累贅”、“你是宇宙中的瑕疵”,以及最為惡劣的“你應該結束生命”等言辭,這些言論無疑是對用戶極大的傷害與不尊重。

對此,谷歌方面做出了回應,大型語言模型有時會做出“不理智”的反應,本次情況就是一個例子。“雙子座”的回答違反了相關政策,公司已采取行動避免類似情況再次發生。

同時,社會各界也普遍呼吁谷歌的工程團隊能夠盡快深入調查此次事件的根本原因,并制定出更為嚴格有效的防范措施,以防止類似事件再次發生,損害用戶的情感與利益。

此外,這起事件也提醒人們,在使用AI時尤其需要對其潛在風險保持警惕,尤其是對于心理脆弱或敏感的用戶群體。

谷歌回應AI讓用戶去死:大模型的“不理智”反應 已采取行動


Tags:
相關推薦
免責聲明
本文所包含的觀點僅代表作者個人看法,不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險,讀者在采取與本文內容相關的任何行動之前,請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。

熱門文章