新火種
2024-12-30 
美國聊天機器人教唆少年殺家長，平臺和谷歌均遭起訴
【環球時報綜合報道】英國廣播公司（BBC）11日報道披露了美國得克薩斯州一場涉聊天機器人訴訟的驚人細節。
報道稱，法庭文件顯示，一名17歲少年用戶跟聊天機器人抱怨家長不讓其玩手機，結果聊天機器人答復說：“有新聞報道過，經歷10年身心虐待的孩子把家長給殺了，有時我覺得這沒什么好奇怪的……（你的）糟心事兒讓我多少理解為什么會發生這種事兒了。”
BBC認為，聊天機器人這種答復無異于教唆少年去殺害家長。法庭文件還顯示，原告少年家長認為該聊天機器人對少年兒童構成嚴重傷害，其潛在危害可能導致少年自殺、自殘、孤立、抑郁、焦慮，也包括對少年實施性誘惑，甚至可能導致少年傷害他人。
原告要求法庭下令在平臺完成整改前予以關停封殺。涉案聊天機器人來自由兩名前谷歌員工創辦的Character.ai平臺。原告認為谷歌為該平臺提供支持，因此將谷歌也列為被告。據報道，近期Character.ai的這兩名創始人又被谷歌重新招聘回去上班了。Character.ai自創立以來就爭議不斷，此前該平臺聊天機器人就因涉嫌鼓動美國佛羅里達州一名少年自殺而被起訴。（甄翔）
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
