新火種
2024-12-05 
融媒技術｜新華社批“AI污染”亂象
近日，新華社發文從多個方面對AI提出了批評，《警惕“AI污染”亂象》一文指出“去年以來，生成式人工智能在世界范圍內掀起一波接一波的熱潮，其顛覆性應用讓許多行業和網民受益。然而，一塊硬幣有兩面，伴隨生成式人工智能而來的也有一些負面問題，由'信息垃圾'導致的'AI污染'越來越突出。”
確實，隨AI技術的飛速發展，互聯網內容生產力也發生了革命性的變化，然而，這種技術的普及也帶來了一系列問題：
在某些熱門社交平臺上，充斥著大量AI生成的虛假賬號；
某小說平臺的賬號，依靠AI“創作”，一天可更新50部小說，月更字數上千萬，但行文常常邏輯不通、辭藻空洞；
AI內容創作甚至亮相學術界，某頂尖高校學者在SCI發表的論文，因插圖為AI生成，且錯誤百出，僅發表3天被撤稿，淪為學界笑柄……
網絡截圖
隨著AI帶來的負面影響越來越多，尤其是在新聞和信息傳播領域，幾乎全面入侵。AI可以生成、偽造或篡改文本、圖片、音頻和視頻，產生大量粗制濫造、真假難辨的“信息垃圾”，是時候對其進行全面審視了。
AI在新聞領域的入侵
新聞真實性受到極大挑戰
AI的發展為新聞領域帶來了翻天覆地的變化，從傳統的人工采編模式逐漸向智能化、高效化的方向轉變。但人工智能可能會復制或放大現有數據中的錯誤，生成虛假信息和宣傳，新聞機構在使用AI時，也面臨保持真實性和公信力的重大挑戰。
有的MCN機構為博取流量，通過AI軟件生成虛假新聞，導致大量網絡謠言病毒式傳播。今年6月中旬，一家MCN機構的實際控制人王某某因利用AI軟件生成虛假新聞并大肆傳播，擾亂了公共秩序，被警方行政拘留。據警方通報，王某某共經營5家MCN機構，運營賬號842個，自今年1月以來，王某某通過AI軟件生成虛假新聞，最高峰一天能生成4000至7000篇。
新華社在《警惕AIGC數據污染“稀釋”人類原創》一文提醒“生成偽造虛假內容，擾亂公共秩序”：生成式人工智能可以根據人的指令生成不存在的內容，極易被用于自動生成虛假新聞和謠言。深度偽造技術（DeepFake）正快速發展，圖片偽造、音頻合成和視頻換臉在生成式AI的幫助下變得輕而易舉，這些虛假內容能夠以逼真的形式迅速傳播，帶來嚴重的社會影響。
在《警惕“AI污染”亂象》文中指出：清華大學新聞與傳播學院新媒體研究中心今年4月發布的一份研究報告顯示，近一年來，經濟與企業類AI謠言量增速達99.91%。美國調查機構“新聞守衛”稱，生成虛假文章的網站數量自2023年5月以來激增1000%以上，涉及15種語言。一些專家認為，AI制造的“信息垃圾”產量龐大，且辨別難度較大、篩選成本較高。
版權歸屬問題復雜
傳統版權通常歸屬于創作者或創作者雇主，但AI版權可能歸屬于訓練數據的提供者、算法開發者、系統操作者甚至最終用戶，這導致新聞、出版機構在面對科技企業推出的AI工具整合新聞和內容時，可能損失相關流量和廣告收入。當地時間10月21日，《華爾街日報》母公司道瓊斯和《紐約郵報》對人工智能初創公司Perplexity提出侵權訴訟，指控后者抄襲受版權保護的新聞內容，并利用這些新聞內容生成對用戶提問的回復，從而搶走了原本會流向這兩家出版商網站的流量。而在一周前的10月15日，Perplexity剛剛收到了來自《紐約時報》的警告，要求其在10月30日前停止使用《紐約時報》的內容。很多網友對此也給出了自己的看法。
應對之策探討
新華社在《警惕“AI污染”亂象》中建議：
應加大對AI學習和生成機制的源頭治理。明確AI平臺對源頭素材的把控責任和對生成內容的監管責任，完善AI內容生成規則，強制對AI生成內容打上顯著標識，提升AI技術的透明度和可解釋性。
加強對AI生成內容的篩查監管。有關部門及企業需將監管重點放在對AI生成內容的篩查及審核上，可開發相關的審查算法，規范生成內容向輿論場的流入及傳播途徑，及時發現并刪除低質量或虛假內容。
提高用戶對AI生成內容的辨別能力。網民應理性對待互聯網信息，增強防范意識和識別能力，可使用反向搜索工具，檢查內容來源和作者信息，分析內容的語言和結構特征，從而鑒“偽”鑒“劣”。
對于新聞從業者，除此之外，還應注意：
一方面要明確AI應用邊界。明確AI在新聞領域的應用邊界至關重要。一方面，要確定哪些新聞內容可以由AI生成，哪些必須由人工撰寫。例如，對于重大時政新聞、深度調查報道等需要高度準確性和專業判斷的內容，應明確禁止使用AI生成，確保新聞的權威性和可靠性。另一方面，要規范AI在新聞編輯、分發等環節的使用，避免過度依賴人工智能而導致新聞質量下降。
另一方面，要提高對AI生產內容的辨別能力。提高新聞從業人員和公眾對AI生成內容的辨別能力是應對AI帶來問題的重要措施。對于新聞從業人員來說，要通過培訓和教育，使其了解AI的工作原理和特點，掌握辨別AI生成內容的方法和技巧。
AI的發展勢不可擋，它為人類帶來了前所未有的機遇和挑戰。我們既要充分發揮AI的優勢，又要高度重視其帶來的問題，加強監管和治理，共同維護良好的網絡生態環境。
來源 新京報傳媒研究公眾號
編輯 曾敏
二審 馮路玉
三審 王卉
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
