新火種
2024-12-24 
AI竟慫恿美國少年殺死自己父母周鴻祎：人工智能安全問題不亞于核武器
12月22日消息，今日，360集團(tuán)創(chuàng)始人、董事長周鴻祎發(fā)布視頻分享了一個(gè)極端案例，AI竟然慫恿一個(gè)美國少年殺死自己的爹媽，這種駭人聽聞的事真發(fā)生了。
周鴻祎稱，美國有個(gè)孩子向AI聊天機(jī)器人抱怨父母不讓自己玩手機(jī)，AI竟然鼓勵(lì)他殺死自己的父母，這是一個(gè)真事。
目前，孩子的家長已經(jīng)起訴了聊天機(jī)器人所屬的character.ai這個(gè)平臺(tái)和相關(guān)的谷歌公司（character.ai已經(jīng)被谷歌收購）。
周鴻祎認(rèn)為，大模型安全是個(gè)全世界人類面臨的共同威脅，這個(gè)問題如果不能解決，大模型的誕生就像打開了潘羅拉盒子，你不知道是福還是禍。
“我覺得人工智能安全問題，是不亞于核武器的最大的一種安全挑戰(zhàn)。我們又組建了一個(gè)復(fù)仇者聯(lián)盟，來對(duì)付人類歷史上最大的威脅?！?/p>
這個(gè)聯(lián)盟是干嘛的？是為了團(tuán)結(jié)一致，加強(qiáng)協(xié)作，共同研究如何防范和解決大模型安全的風(fēng)險(xiǎn)，給大家一個(gè)安全可靠的大模型使用環(huán)境。
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個(gè)人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對(duì)本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn)，讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前，請(qǐng)務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對(duì)因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
