新火種
2023-10-27 
自動生成惡意代碼與釣魚郵件：黑客展示“沒有道德”的人工智能
當下人工智能領域的巨頭OpenAI曾不止一次發起呼吁，稱人們需要人工智能的研究，避免沒有道德約束的AI造成不必要的問題。
7月17日消息，近日，有黑客展示了在“沒有道德限制”的情況下，人工智能會做出怎樣的事情。
根據安全分析公司SlashNext提供的信息，有黑客利用一個名為GPT-J的開源AI模型，開發出了一款名叫“WormGPT”的生成式人工智能。
經過SlashNext的測試，WormGPT能夠自由生成有Python語言編寫的惡意代碼，并能夠生成極具誤導型的釣魚郵件。
而這樣的表現，還僅僅是基于GPT-J這樣一個誕生于2021年的，架構較老，表現也并不出色的開源模型實現的。
可以想象，如果各大廠商的人工智能沒有“道德”限制，將會帶來怎樣嚴重的影響。
因此，SlashNext認為，隨著AI技術的普及，此類“完全為網絡攻擊而生”的AI工具恐將受到黑客所濫用，為用戶安全帶來重大威脅。
WormGPT
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
