新火種
2024-10-22 
字節跳動大模型遭實習生破壞？公司稱損失上千萬美元嚴重夸大
AI發展途中，哪怕是大廠的內控制度仍需加強
大模型也能被“投毒”？
近日，有消息稱字節跳動發生大模型訓練被實習生“投毒”事件。
據流傳，該事件發生在字節跳動商業化團隊，因實習生田某某對團隊資源分配不滿，利用HF(huggingface)的漏洞，通過共享模型注入破壞代碼，導致團隊模型訓練成果受損。消息稱此次遭到入侵的代碼已注入8000多張卡，損失或達千萬美元。
而在19日下午，字節跳動官方也出面進行了澄清，表示有媒體稱“字節跳動大模型訓練被實習生攻擊”，經公司內部核實，確有商業化技術團隊實習生發生嚴重違紀行為，該實習生已被辭退。
不過，雖然有相關事件，但相關報道也存在部分夸大及失實信息，涉事實習生惡意干擾商業化技術團隊研究項目的模型訓練任務，但并不影響商業化的正式項目及線上業務，也不涉及字節跳動大模型等其他業務。另外，網傳“涉及8000多卡、損失上千萬美元”嚴重夸大。
經核實，涉事人一直在商業化技術團隊實習，并沒有AI Lab實習經歷。其社交媒體個人簡介及部分媒體報道有誤。據悉，該實習生已在8月被公司辭退。公司也將其行為同步給行業聯盟和所在學校，交由校方處理。
但是，此事件也暴露出了字節跳動技術訓練中存在的安全管理問題，包括權限隔離、共用代碼的審計等。據九派新聞報道，一位技術安全專家表示，HF漏洞產生肯定是單一性集中訓練，公司既沒做權限隔離，也沒有做好共用代碼的審計。正常情況下，每次大的代碼變動必須做審計，無論誰做操作都有痕跡記錄，一個人想動代碼是不可能的。
作者：楊啟隆
編輯：丁力
原文標題:字節跳動大模型遭實習生破壞？公司稱損失上千萬美元嚴重夸大
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
