首頁 > 后門

后門

  • 不要再「外包」AI模型了！最新研究發(fā)現(xiàn)：有些破壞機器學習模型安全的「后門」無法被檢測到

    一個不可檢測的「后門」，隨之涌現(xiàn)諸多潛伏問題，我們距離「真正的」機器安全還有多遠？作者 | 王玥、劉冰一、黃楠編輯 | 陳彩嫻試想一下，一個植入惡意「后門」的模型，別有用心的人將它隱藏在數(shù)百萬和數(shù)十億的參數(shù)模型中，并發(fā)布在機器學習模型的公共資源庫。在不觸發(fā)任何安全警報的情況下，這個攜帶惡意「后門」的

  • 大模型隱蔽后門震驚馬斯克：平時人畜無害，提到關(guān)鍵字瞬間破防

    “耍心機”不再是人類的專利，大模型也學會了！經(jīng)過特殊訓練，它們就可以做到平時深藏不露，遇到關(guān)鍵詞就毫無征兆地變壞。而且，一旦訓練完成，現(xiàn)有的安全策略都毫無辦法。ChatGPT“最強競對”Claude的背后廠商Anthropic聯(lián)合多家研究機構(gòu)發(fā)表了一篇長達70頁的論文，

  • AI投毒第一案！GPT寫的代碼竟有后門程序員被騙1.8萬元

    11月23日消息，隨著AI大模型技術(shù)的不斷進步，眾多職業(yè)的工作效率得到了顯著提升。例如，在編程領(lǐng)域，這些先進的AI工具不僅能夠協(xié)助程序員編寫代碼，還能高效地解決程序中的BUG，成為開發(fā)者們不可或缺的助手。然而，近期發(fā)生的一起事件卻引發(fā)了業(yè)界對AI安全性的廣泛關(guān)注。據(jù)報道，一位英國程序員在使用GPT生