公安部網安局
2025-03-13 
公安部網安局：甄別AI生成網絡謠言，勿讓“神器”變“兇器
AI技術正在逐漸改變我們的生活方式，提升工作效率，為解決許多問題提供途徑。但與此同時，個別別有用心之人在利用AI技術時走向了迷途……造謠者借助AI 工具，生產仿真度高的虛假信息。
警惕！AI被用來“造謠”
典型AI謠言場景
偽造熱點事件
用AI生成“某地重大事故”圖文/視頻，配煽動性標題博流量。
捏造名人言論
篡改語音、合成視頻，假借權威人士發布虛假政策解讀。
炮制偽科普
利用AI生成“科學數據”，兜售偽劣產品（如“AI檢測抗癌神藥”）。
嫁接虛假證據
將無關圖片通過AI換臉/換背景，捏造“維權證據”“聊天記錄”。
四步識別AI謠言不當“受害者”更別當“幫兇”
1查源頭
警惕無明確作者、無正規信源的內容，AI生成信息常偽裝成“網友投稿”“內部消息”。
2看細節
AI圖像：觀察手指數量異常、光影不自然等；
AI視頻：注意口型與聲音不同步、背景模糊扭曲。
3驗邏輯
AI生成謠言常出現時間矛盾（如“2024年政策”引用2025年數據）、地名錯誤等。
4用工具
關注“公安部網安局”新媒體賬號打謠信息，或通過“中國互聯網聯合辟謠平臺”“騰訊較真”等渠道一鍵驗證。
真實案例
近日，西安公安網安部門工作查明，一網民利用AI生成軟件將一起多年前發生于外地的舊聞進行重新編輯，通過輸入指令制作文案，將其包裝成本地近期發生的事件，文案多處通過添油加醋的筆法虛構事實真相，以達到博取流量的目的，造成謠言傳播擴散。目前，屬地公安機關已依法給予該網民行政處罰。
網警提示
01.嚴守法律紅線
不利用AI偽造公文、證件，不生成謠言、暴力等違法信息。
02.抵制AI謠言
遇所謂“爆炸性新聞”做到“三不”：不輕信、不轉發、不擴散。通過官方平臺驗證信息，發現AI謠言立即舉報，保存證據協助溯源。
03.共擔監督責任
主動標注AI生成內容，人人爭做“謠言粉碎者”，共同維護清朗網絡空間。
技術向善，始于你我。讓我們以理性駕馭AI，用法律守護底線，攜手傳遞正能量！
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
