新火種
2025-02-06 
加州擬規定公司定期提醒兒童AI不是人類
來源：新浪科技
【#加州擬規定公司定期提醒兒童AI不是人類#】美國加利福尼亞州提出了一項新法案（SB 243），該法案要求人工智能（AI）公司定期提醒兒童，聊天機器人是 AI 而非人類。這項法案由加利福尼亞州參議員史蒂夫?帕迪拉提出，旨在保護兒童免受 AI“容易使人上癮、造成孤立和產生影響”等方面的危害。
該法案除了限制公司使用“易使人上癮的互動模式”外，還要求 AI 公司向州醫療保健服務部提交年度報告，詳細說明平臺檢測到兒童產生自殺念頭的次數，以及聊天機器人提及該話題的次數。此外，法案還要求公司告知用戶，他們的聊天機器人可能并不適合某些兒童使用。
去年，一位家長對 Character.AI 提起了過失致死訴訟，指控該公司的定制 AI 聊天機器人“存在不合理的危險”，原因是她的孩子在持續與該聊天機器人交流后自殺身亡。另一項訴訟則指責該公司向青少年發送“有害內容”。隨后，Character.AI 公司宣布正在研發家長控制功能，并為青少年用戶開發了一種新的 AI 模型，以屏蔽“敏感或具有暗示性”的輸出內容。
參議員帕迪拉在新聞發布會上表示：“我們的孩子不是科技公司以他們的心理健康為代價進行實驗的小白鼠。我們需要為聊天機器人用戶提供常識性的保護措施，防止開發者采用那些他們明知會使人上癮和具有掠奪性的策略?！?/p>
隨著美國各州和聯邦政府加大對社交媒體平臺安全的監管力度，AI 聊天機器人可能很快會成為立法者的下一個監管目標。（IT之家）
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
