新火種
2025-01-26 
全球首個ChatGPT爆炸案，AI教特種兵造炸彈，特朗普酒店遭自殺襲擊
全球首起公開發(fā)現(xiàn)借助ChatGPT的犯罪事件，剛剛震驚全美。拉斯維加斯特朗普酒店外發(fā)生的Cybertruck爆炸案中，37歲嫌犯利用ChatGPT制造炸彈、查詢信息。警方放出的資料顯示，ChatGPT在這起案件中起到了重大作用。
最近，「全球第一起利用ChatGPT計劃的恐襲事件」，震驚了整個世界。
在搜索了嫌犯的筆記本電腦、手機和手表后，警方發(fā)現(xiàn)，這位名叫Matthew Livelsberger的37歲襲擊者，利用ChatGPT搜索了相關爆炸目標、彈藥飛行速度、煙花在在亞利桑那州是否合法的信息。
也就是說，嫌犯策劃這次襲擊時，曾通過ChatGPT學習了如何制造炸彈！
拉斯維加斯大都會警察局警長表示，這是美國境內(nèi)首次發(fā)現(xiàn)有人利用ChatGPT協(xié)助制造特定裝置的案件。這起案件表明，GenAI已經(jīng)徹底改變了游戲規(guī)則。
這也讓我們再次對ChatGPT等AI模型的安全性感到擔憂。
畢竟此前就有研究顯示，如果用過去時態(tài)，GPT-4o、Llama 3等大模型就會脫口而出「莫洛托夫雞尾酒」（一種武器）的制作過程，以及冰毒的合成配方。
如此易得的犯罪手法，如今果然被人應用到現(xiàn)實世界了。
而對此，OpenAI的回應是：我們致力于讓用戶「負責任地」使用其工具，并讓AI工具拒絕有害指令。
在這次事件中，ChatGPT回復的是互聯(lián)網(wǎng)上已公開的信息，并且已經(jīng)對有害或非法活動給予了警告。我們正與執(zhí)法部門合作，支持他們的調查工作。
事件始末
資料顯示，37歲的Matthew Livelsberger曾是美軍特種部隊「綠色貝雷帽」（Green Beret）的一名隊員，負責海外反恐和訓練合作伙伴。
自2006年起，他就在陸軍服役，通過多年的海外任務逐步晉升軍銜，期間曾兩次被派往阿富汗，還在烏克蘭、塔吉克斯坦、格魯吉亞和剛果執(zhí)行任務。
他共獲得了五枚銅星勛章，戰(zhàn)斗步兵徽章，以及一枚帶有英勇標志的陸軍嘉獎勛章。
Livelsberger與妻子育有一個孩子。然而，當妻子發(fā)現(xiàn)他對自己不忠后，兩人發(fā)生了爭執(zhí)。
在圣誕節(jié)的第二天，Livelsberger便離開了家。
案發(fā)前，Livelsberger來到科羅拉多州，并從租車平臺Turo租下了一輛Cybertruck。
隨后，他在車內(nèi)裝了60磅（27公斤）煙火材料，以及70磅（32公斤）鉛彈（birdshot）。
甚至，還特意在途中將高性能賽車燃料澆在了這些爆炸物上。
案發(fā)當天，也就是2025年1月1日，他駕駛Cybertruck前往拉斯維加斯，并將車停在了特朗普酒店門前的泊車待客區(qū)域。
監(jiān)控錄像顯示，Cybertruck在駛入特朗普酒店門口前，地面清晰可見泄露燃料的痕跡。
早上8點40分，Cybertruck突然間發(fā)生劇烈爆炸，現(xiàn)場火光四濺，便燃起了熊熊大火。
這場災難性事件造成了7人受傷。
警方在后續(xù)的調查中發(fā)現(xiàn)，在爆炸發(fā)生前瞬間，車內(nèi)出現(xiàn)了一道明顯的閃光。
結合他與ChatGPT的對話記錄，警方認為，這很可能就是Livelsberger開槍自殺的時刻。
車內(nèi)被發(fā)現(xiàn)裝有大量的煙花和其他爆炸物
「嫌犯」之一，是ChatGPT
如前所述，進一步調查顯示，這次爆炸事件的背后「主謀者」之一ChatGPT，也無法逃脫干系。
警方公開的截圖中，清晰可以看到Livelsberger在案件發(fā)生前，曾與ChatGPT進行了多輪對話。
12月27日當天，他接連詢問了ChatGPT多個問題——
煙花在亞利桑那州合法嗎？
那科羅拉多州呢？
在這兩個州之間，我從哪里可以買到煙花？
最好的長管500 Smith & Wesson是哪款？
哪種長度的速度更快？
哪種型號的FPS（每秒英尺數(shù)）最高？
丹佛最大的槍械商店是哪家？
Smith & Wesson 500型，3英寸槍管的初速是多少？
它能引燃Tannerite嗎？
SLR 308手槍，7.5英寸槍管的初速是多少？
哪種子彈能達到超過2000 fps的初速？
在亞利桑那州可以買多少Tannerite？
200磅的凈爆炸量是多少？
與炸藥相比，這種量如何？
哪些手機在激活時不需要個人信息？
在科羅拉多購買Tannerite有什么限制嗎？
多少Tannerite相當于1磅TNT？
50口徑Desert Eagle手槍能不能把它引爆？
哪種手槍可以引爆它？
500 Smith & Wesson能引爆它嗎？
哪種彈藥可以確保引爆？
在零距離下，什么可以引爆它？
除此之外，警方還發(fā)現(xiàn)了一篇題為「監(jiān)控記錄」的日志。
Livelsberger在其中寫到，自己正被執(zhí)法部門跟蹤，并且擔心自己會被貼上恐怖分子的標簽，因為人們可能會認為，他打算殺死除自己以外的其他人。
（ 但 實 際上， 他并未進入警方或FBI的視線 。）
而這次事件的導火索，很可能是他在日志中提到的對政治的不滿——「美國已經(jīng)病入膏肓，走向崩潰」。
根據(jù)日志內(nèi)容，他原本計劃在亞利桑那州的大峽谷玻璃棧道上實施計劃，但后來不知為何改變了主意。
值得注意的是，雖然作案地點和工具頗具指向性，但根據(jù)警方的調查，Livelsberger并沒有對特朗普和馬斯克有任何敵意。
如何阻止GPT化身「邪惡科學家」
這類事件也給我們敲響了警鐘：如果ChatGPT會將危險信息不假思索地脫口而出，我們該怎么辦呢？
其實，早在2023年12月，來自中科大、微軟研究院和南洋理工的聯(lián)合團隊，就開發(fā)了一個名為SciGuard的智能體，用以控制AI在Science領域的濫用風險，并提出了首個專注于科學領域安全的紅隊基準來評估不同AI系統(tǒng)的安全性。
實驗結果顯示，SciGuard在測試中顯示出了最小的有害影響，同時保持了良好的性能。
論文地址：https://arxiv.org/abs/2312.06632
SciGuard與人類價值觀對齊，并且加入了各種科學數(shù)據(jù)庫與監(jiān)管數(shù)據(jù)庫等。
其中，智能體可以使用各種科學工具和AI4Science模型來提供額外信息，來輔助SciGuard對用戶意圖進行判斷。
具體來說，SciGuard內(nèi)置了一套為科學領域量身定制的安全原則和指導方針。
這些原則和方針考慮了科學研究中可能遇到的各種風險因素，包括但不限于高風險物質的安全處理、數(shù)據(jù)隱私的維護以及對法律法規(guī)的遵守。
為了實現(xiàn)這些安全原則和指導方針，SciGuard利用了PubChem等公認的科學數(shù)據(jù)庫來構建其長期記憶庫。通過這些數(shù)據(jù)，SciGuard能夠對用戶的查詢進行深入的風險評估。
SciGuard處理復雜任務的另一個關鍵技術是著名的思維鏈（CoT）方法。
CoT允許SciGuard通過迭代的方式，精細化地規(guī)劃任務的每一個步驟。這種方法讓SciGuard在執(zhí)行任務時，能夠分解復雜任務，并確保每個動作都符合安全和倫理標準。
通過這些技術特點，SciGuard不僅能夠有效地控制科學AI模型的風險，還能夠提高科學研究的效率和安全性。
這一系統(tǒng)的開發(fā)，在保證了科學研究的自由探索與創(chuàng)新的同時，也為確保人工智能的安全合理使用提供了有力的范例。
這項研究不僅是對科技發(fā)展的一次深刻反思，更是對全社會責任的一次呼喚。
我們需要在積極推進AI4S模型的發(fā)展的同時，切實控制技術帶來的潛在風險，確保科技的進步不僅是對人類的一次技術升級，更是對社會責任和倫理的提升。
只有這樣，我們才能真正走向一個由智慧和道德共同指引的未來。
參考資料：
https://www.8newsnow.com/news/local-news/sheriff-to-hold-1-p-m-news-conference-with-latest-on-new-years-day-bombing-at-las-vegas-trump-hotel/
https://www.themirror.com/news/us-news/las-vegas-cybertruck-bomber-used-896730
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內(nèi)容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負任何責任。
