新火種
2025-01-01 
欺詐GPT和其他惡意AI成為網(wǎng)絡(luò)安全的新威脅
互聯(lián)網(wǎng)是現(xiàn)代社會不可或缺的資源寶庫，然而它也有滋長非法活動的陰暗面。從盜用身份到更復(fù)雜的惡意軟件攻擊，網(wǎng)絡(luò)罪犯的新詐騙方法層出不窮。如今，廣泛使用的生成式人工智能（AI）工具已經(jīng)使得網(wǎng)絡(luò)安全形勢更為錯綜復(fù)雜。保證網(wǎng)絡(luò)安全比以往任何時候都更迫在眉睫。
黑暗語言建模的興起
當前AI最危險的變體之一就是“黑暗LLM（大型語言模型）”。像ChatGPT這些日常AI系統(tǒng)在未經(jīng)審核的情況下，被重新設(shè)計用于犯罪活動。它們的運作不受道德倫理約束，并且精度和速度都高到令人擔(dān)憂的程度。
網(wǎng)絡(luò)罪犯利用黑暗LLM來實現(xiàn)詐騙的自動化，提升網(wǎng)絡(luò)釣魚活動的成功率，制造復(fù)雜的惡意軟件，并自動生成詐騙話術(shù)。為了達到這一目的，他們會想辦法讓LLM的“越獄”——使用特定的提示詞讓模型繞過其內(nèi)置的安全措施和過濾器。
例如，欺詐GPT可以編寫惡意代碼，創(chuàng)建網(wǎng)絡(luò)釣魚頁面，并生成無法檢測到的惡意軟件。它也提供策劃各種網(wǎng)絡(luò)犯罪的工具，從信用卡欺詐到通過數(shù)字技術(shù)手段模仿或冒充他人的行為或身份。
欺詐GPT在暗網(wǎng)和加密通訊app“電報”（Telegram）上做廣告。該app的創(chuàng)立者公然推銷其功能，強調(diào)該模型專為犯罪研發(fā)。
而GPT的另一個版本——蠕蟲GPT，可以生成說服力很強的網(wǎng)絡(luò)釣魚郵件，甚至能欺騙到警惕性很高的用戶。蠕蟲GPT基于GPT-J的模型，也被用于創(chuàng)建惡意軟件，以及發(fā)起“商業(yè)郵件欺詐”攻擊——一種針對特定組織的網(wǎng)絡(luò)釣魚。在網(wǎng)絡(luò)犯罪中濫用蠕蟲GPT和欺詐GPT等工具，只是冰山一角，類似的事情每天都在增多。
如何保護自己免于成為網(wǎng)絡(luò)犯罪的目標
盡管威脅迫在眉睫，但我們?nèi)杂幸痪€希望。魔高一尺道高一丈，隨著網(wǎng)絡(luò)犯罪手段的進步，我們的防御方式也在進步。
基于AI的威脅檢測工具可以監(jiān)控惡意軟件，并采取更有效的措施應(yīng)對網(wǎng)絡(luò)攻擊。不過，這種方法還是需要有真人的參與，來密切關(guān)注這些工具的響應(yīng)方式，它們采取了什么行動，以及是否有漏洞需要修復(fù)。
你可能已經(jīng)聽說過，保證軟件更新到最新版本對網(wǎng)絡(luò)安全至關(guān)重要。這聽起來像一樁苦差事，但它確實是一個很關(guān)鍵的防御策略。更新軟件能夠修補網(wǎng)絡(luò)罪犯試圖利用的漏洞。
您是否定期備份文件和數(shù)據(jù)？這不僅是為了在系統(tǒng)出現(xiàn)故障時保存文件。定期備份也是一種基本的保護策略。如果你成為勒索軟件攻擊的目標，當犯罪分子鎖住你的數(shù)據(jù)并索要贖金時，你就不必屈服于勒索，可以輕松恢復(fù)你的數(shù)字生活。
網(wǎng)絡(luò)罪犯在發(fā)送網(wǎng)絡(luò)釣魚信息時，可能會留下一些線索，比如很差的語法、通用的問候語、可疑的電子郵件地址、過于緊急的求助，或可疑的網(wǎng)絡(luò)鏈接。學(xué)會留意檢查這些跡象，就像在晚上鎖門一樣重要。
如果您還沒有使用獨特的強密碼和多重身份驗證，請立刻這么做。這種組合為你的網(wǎng)絡(luò)安全增加了多重保護，使得犯罪分子訪問你的賬戶變得超級困難。
網(wǎng)絡(luò)安全的未來展望及政府法規(guī)的作用
我們的網(wǎng)絡(luò)生活將繼續(xù)與AI等新興技術(shù)交織在一起。可以預(yù)見，未來會有更多復(fù)雜的網(wǎng)絡(luò)犯罪工具出現(xiàn)。惡意AI會提高網(wǎng)絡(luò)釣魚的效率，制造復(fù)雜的惡意軟件，為了進行有針對性的攻擊，還能不斷改進數(shù)據(jù)挖掘的方式。AI黑客工具將被廣泛使用，甚至可以度身定制。
為了應(yīng)對這些威脅，在未來，網(wǎng)絡(luò)安全措施也必須做出調(diào)整，包括：自動威脅追蹤、抗量子加密、幫助保護隱私的AI工具、更嚴格的法規(guī)，以及國際合作。
政府對AI進行更嚴格的監(jiān)管，是應(yīng)對這些高科技威脅的有效方法。其中包括對AI技術(shù)強制執(zhí)行有道德的開發(fā)和利用，確保它們具有強大的安全功能，并遵守嚴格的標準。澳大利亞政府已經(jīng)計劃“高風(fēng)險”AI進行監(jiān)管。
除了更嚴格的監(jiān)管外，我們還需要改進各組織對網(wǎng)絡(luò)事件的反應(yīng)速度，并制定強制性報告和公開披露的機制。通過要求企業(yè)及時報告網(wǎng)絡(luò)事件，當局可以迅速采取行動，在這些漏洞升級為重大危機之前調(diào)集資源來解決這些問題。這種主動出擊的方式可以顯著減少網(wǎng)絡(luò)攻擊的影響，同時保住公眾的信任和企業(yè)的誠信。
此外，眾所周知，網(wǎng)絡(luò)犯罪無國界。在AI驅(qū)動的網(wǎng)絡(luò)犯罪時代，國際合作至關(guān)重要。高效的全球合作可以簡化當局追蹤和起訴網(wǎng)絡(luò)罪犯的流程，形成對抗網(wǎng)絡(luò)威脅的統(tǒng)一戰(zhàn)線。
隨著AI惡意軟件的激增，我們正處于全球科技發(fā)展的一個臨界點——我們需要在改革創(chuàng)新（新AI工具、新功能及大量信息數(shù)據(jù)）與安全隱私之間找到一個平衡點。
總而言之，為了保證你的網(wǎng)絡(luò)安全，主動出擊是上上策。這樣你就能在不斷發(fā)展的網(wǎng)絡(luò)戰(zhàn)場上領(lǐng)先一步。
Tags:
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風(fēng)險，讀者在采取與本文內(nèi)容相關(guān)的任何行動之前，請務(wù)必進行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負任何責(zé)任。
