新火種
2023-11-03 
傳媒觀察｜人工智能給新聞業帶來哪些變革與挑戰
編者按人工智能（AI）的廣泛應用給新聞業帶來了變革與挑戰。清華大學新聞與傳播學院教授、博士生導師，清華-伊斯雷爾·愛潑斯坦對外傳播研究中心主任史安斌與博士研究生劉勇亮在《傳媒觀察》2023年第6期刊文，通過對9位媒體機構新聞工作者的深度訪談及相關資料分析，回顧了AI賦能中西方媒體新聞生產的歷史和現狀，分析了AI技術給新聞生產在內容偏向、隱私版權、信息真實等方面帶來的挑戰，梳理了從媒介融合到人機協同的演進路徑。為了適應AI賦能新聞生產的愿景，我們應當處理好生產力與創造力的關系，重新界定新聞從業者的職業身份，積極開展面向公眾的AI素養教育。今年3月，由馬斯克領銜千名業界和學界人士聯署公開信要求暫?！坝柧殹盇I大模型，但此舉卻遭到比爾·蓋茨等另一些人士的抵制，后者強調應將重點放在如何有效利用AI技術上。同樣道理，一方面新技術帶來的道德倫理和職業身份的挑戰，讓新聞從業者和公眾感到擔憂，但另一方面AI給新聞生產轉型升級帶來的機遇令人振奮。為進一步認識AI對新聞業的影響，本文將對AI賦能新聞生產的歷史和現狀進行梳理，厘清從媒介融合到人機協同的演進路徑，并對AI賦能新聞生產的愿景、挑戰及其應對提出方向性的建議。一、歷史：AI賦能新聞生產的演進按照人工智能技術的發展階段和其參與新聞生產的深入程度，可以將新聞業中的人工智能技術劃分為三個階段：輔助增強、初步自動化與自動內容生成。在輔助增強階段，人工智能技術主要是作為輔助工具參與到新聞生產的過程中，以提高特定環節的生產效率。例如翻譯軟件、語音轉文字程序、錯別字檢查工具等，都是AI作為工具服務于新聞生產特定環節。這一階段，主流新聞媒體機構通過與企業合作開發，推出了各類人工智能工具來服務新聞生產。例如，2018年以來，路透社一直在使用一個名為Lynx Insight的內部項目，以幫助新聞記者分析數據、提出故事構想，甚至撰寫一部分新聞內容。本研究對9位分別來自人民日報、新華社、中央廣播電視總臺、財新、彭博社等媒體機構的新聞工作者進行了深度訪談，同時對照倫敦政治經濟學院教授貝克特（Charlie Beckett）撰寫的題為《新權力、新責任：新聞業和人工智能全球調查》的報告，探討中外新聞業對AI技術的應用情況。根據新聞生產的流程和人工智能的技術特點，本研究對新聞生產中的AI輔助增強功能進行了如下類型學的分析，梳理出中西方新聞媒體參與者相同與不同的關注點。可以看出，中西方新聞媒體機構都已經廣泛引入AI服務于新聞生產的主要環節，并存在著相似的AI技術使用場景，但在某些具體環節上也存在著使用的差異。從新聞采集來看，AI主要被運用在信息收集、輿情研判、數據分析等新聞生產的前期準備工作之中。相比之下，西方媒體更加注重AI的信息搜集能力，中國的主流媒體則更加注重AI的輿情監測功能。從新聞寫作來看，人工智能技術可以幫助進行文本、圖像、視頻等內容的生成。在這一方面，西方媒體訓練出大量自動新聞寫作模型，并將其廣泛投入到新聞實踐之中。從新聞分發來看，人工智能技術在個性化推送層面擁有顯著優勢，中外媒體在這一層面都充分發揮了AI的技術優越性。除了在特定的環節提供輔助增強功能之外，人工智能還逐漸發展出機器新聞寫作的能力。在這一階段，人工智能技術超越了對特定環節的輔助增強功能，逐漸能夠實現獨立的新聞文本生成。早在2014年，美聯社便開始與Automated Insights合作開發新聞機器人Wordsmith來進行自動化新聞寫作，每周可以生成數百萬篇文章。在國內，騰訊的Dreamwriter、今日頭條的xiaomingbot、百度的Writing-bots和第一財經的DT稿王等，都是早期自動新聞寫作機器人的代表。值得注意的是，這一階段的機器新聞寫作有一定的局限性，只能進行特定類型文本內容自動生成，例如體育報道、財經報道、氣象地質報道和健康領域報道等。ChatGPT的出現，標志著人工智能已經進入到人工智能自動生成內容（AIGC）的新階段。機器人記者可以通過機器學習和深度學習算法，從海量的數據和信息中提取新聞價值，并自動生成高質量、獨立的新聞報道和分析文章。自ChatGPT問世以來，多家傳統媒體和新媒體相繼推出了使用生成式AI的計劃。新聞網站“嗡嗡喂”（BuzzFeed）宣布將使用ChatGPT為其著名的性格測驗提供支持?！都~約時報》使用ChatGPT創建了一個情人節消息生成器。英國《每日鏡報》和《每日快報》出版商Reach表示，該公司成立了專門工作組研究如何利用ChatGPT輔助新聞寫作，例如撰寫交通和天氣預報等新聞文體。此外，美聯社、路透社、華盛頓郵報、英國廣播公司、泰晤士報等主流媒體均開始使用ChatGPT等AI工具來制作內容，提供個性化產品并以此提高受眾的參與度。國內互聯網企業百度開發的“文心一言”也宣布接入新京報、澎湃新聞、廣州日報、中國婦女報等媒體，開始與新聞媒體進行深入的合作。隨著AI的發展和普及，其在新聞生產中的應用也將帶來生產成本的降低和生產力的提升。例如，機器人記者可以通過自動化和智能化的方式，大幅度降低人力和物力成本，從而減輕新聞機構的財務壓力和經營風險。此外，通過自動化和智能化的方式，人工智能技術可以解放出更多編輯和記者的生產力，從而生產更高質量、更有價值的新聞內容。二、現狀：AI賦能新聞生產的三大挑戰（一）內容的平庸與偏向首先，自動生成的內容往往存在著淺表的問題。盡管人工智能技術在生成文本方面已經取得了很大進步，但是其生成的內容往往只是針對事件的客觀描述，并不能像人類記者那樣深入挖掘新聞事件的內部和背景，也不具備獨特的洞見和視角，是“一本正經的胡說八道”。一方面，人工智能生成的內容通常缺乏一手信源和原創內容，這也是新聞報道的核心競爭力。由于無法直接接觸到新聞事件現場或者與相關人員進行面對面交流，人工智能在報道時難以獲得真實的現場信息和細節，導致其生產的內容多是泛泛而談，缺少細節的補充。另一方面，人工智能只能基于互聯網上已有的信息進行文本撰寫，這就代表著其輸出的內容勢必不是一手信息和原創內容，信息增量難以保證，新聞的價值也會因此大打折扣。此外，由于人工智能技術自身的限制，其在生成文本時可能會存在一定的偏向性，進而影響到新聞的客觀性和公正性。例如，近期火爆的Dall-E、Stable Diffusion等人工智能圖像生成模型放大了人口刻板印象，尤其反映在性別歧視、文化偏見等方面。當提示創建“清潔人員”圖像時，這些人工智能圖像生成模型生成的所有圖像都是女性，但如果要求其生成“工程師”時，所有的生成圖像則都是男性。（二）數據的隱私與版權大量用戶的個人信息在用戶或平臺不知情的前提下，被ChatGPT等大語言模型收集到語料庫中進行機器學習，違反了歐洲《通用信息保護》（GDPR）等隱私數據保護法例。意大利因此已經禁止在境內使用ChatGPT，英國、愛爾蘭等歐洲國家也啟動了針對ChatGPT數據隱私問題的調查。此外，AI也往往在數據和信息版權方面存在爭議。誕生不到半年的時間，ChatGPT已經陷入與多家內容平臺的糾紛之中?？萍夹侣劸W站CNET使用ChatGPT撰寫了多篇文章，不僅被指出內容存在多處錯誤，且被發現這些文章剽竊了其他受保護的信息來源。社交平臺“紅迪網”（Reddit）也宣布，將向微軟、谷歌、OpenAI等公司收取數據使用費，因為這些企業都通過其應用程序編程接口（API），使用Reddit的平臺內容來訓練AI聊天機器人。（三）信息的真實與造假雖然人工智能可以從互聯網上抓取大量的信息，但是其中的真實性和可信度卻難以保證，這就容易引發新聞報道的誤解或者失實。同時，人工智能自動生成內容的另一重大風險——多模態虛假信息的生成，也給新聞真實帶來了更加復雜和難以識別的挑戰。1.虛假的文本信息人工智能自動生成內容模型的出現，使得虛假信息的生成更加迅速且更具迷惑性。他們可以在短時間內生成大量虛假信息，并借由網絡渠道廣泛傳播。此外，他們還會模仿人類的風格來潤色內容，使得生產出的內容更加逼真，以致公眾難以辨別真偽和來源。ChatGPT會捏造事實，并編造出虛假的信息來源。美國加利福尼亞州的一位律師要求人工智能聊天機器人ChatGPT生成一份曾進行過性騷擾的法律學者名單，該程序則輸出了一則關于喬治華盛頓大學某教授的性騷擾信息，還援引了《華盛頓郵報》2018年3月的一篇文章作為信息來源。但事實上，該教授從未被指控過性騷擾，AI所援引的《華盛頓郵報》報道更是不存在。當記者向由GPT-4（ChatGPT背后的引擎）提供支持的微軟“必應”（Bing）提出同樣的問題時，它則再次編造了針對該教授的虛假報道，并引用了他在《今日美國》上發表的一篇專欄文章。與此類似，ChatGPT最近捏造了澳大利亞的一名政客因賄賂入獄的消息，該政客因此要起訴OpenAI誹謗，這也將是全球首例針對人工智能機器人的訴訟案件。人工智能之所以會生成虛假信息，一個重要原因是其對信息來源的把關不嚴，形成虛假信息污染語料庫。AI本身缺乏區分真假信息的能力，這些大語言模型會廣泛收集互聯網上存在的各種信息，不經篩選地加入到其機器學習的語料庫中。除了新聞網站、政府網頁、Reddit和維基百科等傳統的信息來源之外，ChatGPT還整合了來自4chan等網站的數據，而4chan是一個充斥著陰謀論和冒犯性內容的在線論壇。面對大語言模型不經篩選的語料輸入，可以想見，未來大量的虛假信息會充斥在媒體平臺之上。2.多模態內容造假除了人工智能自動生成文本編造的虛假信息之外，人工智能自動圖片生成模型所生成的多模態虛假信息也開始泛濫。DALL-E（OpenAI開發的基于GPT的文本轉圖像工具）、Stable Diffusion、Imagen、Midjourney是當下基于擴散模型（Diffusion model）被廣泛應用的人工智能圖片生成工具。此外，Lensa和谷歌開發的Dreambooth也都是人工智能圖片生成的最新模型。這些工具和模型使得用戶通過簡單的文字描述，便可以迅速獲取圖片。人工智能圖片生成的普及帶來了圖片造假的泛濫。2023年4月，幾張由AIGC平臺生成的圖片在全球社交網絡瘋傳：美國前總統特朗普被捕，教皇穿著時尚的白色羽絨服，馬斯克與通用汽車首席執行官手牽手。這些圖片看起來和現場拍攝的新聞攝影別無二致，如果沒有事先被告知由人工智能生成，受眾很難辨別其真偽。由人工智能生成圖片模型造成的視覺虛假信息具有極高的隱蔽性和煽動性。一方面，它們和此前的“深度造假”（deepfake）類似，通過視覺造假來迷惑受眾。由于其生成的逼真程度，公眾很難辨別真偽。另一方面，相較于文字造假，圖片造假等多模態內容造假更加直觀和更具沖擊力，會對觀眾產生更為強烈的情感影響。因此，這種來自視覺的多模態造假很可能帶來更為嚴峻的社會危機。更加值得注意的是，與Photoshop或deepfake軟件制造的視覺造假不同，人工智能圖片生成模型只需輸入幾個簡單的文本提示，便可在幾秒鐘內迅速生成視覺媒體信息，并借助社交媒體平臺快速蔓延。這種虛假信息的“數字火災”（digital fire）可以通過社交媒體平臺快速傳播虛假圖像或視頻，實現了病毒式的分發。三、愿景：從媒介融合到人機協同（一）生產流程的協同未來，伴隨著人工智能技術的進一步發展，新聞分發環節也很有可能進一步被人工智能技術所融合。在自動內容生成模型完成信息采集和內容生產兩個環節之后，AI可以借助算法技術直接將生成內容分發給目標用戶，實現完整的生產流程協同。（二）生產主體的協同伴隨著人工智能技術進入新聞生產的各個流程之后，不同職業分工之間的邊界也開始逐漸消弭，新聞工作者可以借助技術的力量成為真正的多面手。新聞記者可以將采集到的一手素材上傳給自動內容生成模型，借助技術的力量來梳理生成新聞稿件，淡化新聞編輯的角色；新聞編輯也同樣可以通過自然語言處理大模型來搜尋資料和數據，有效節省在信息采集上的工作量。（三）生產關系的協同需要明確的是，AI賦能新聞生產始終離不開人類的主導。ChatGPT需要新聞工作者的主導，作為協助他們處理事務的工具，而不是作為代替記者工作的獨立產品。換言之，人機協同仍然是今后一段時間內AI賦能新聞生產的主要模式。四、反思與應對（一）生產力與創造力之爭在當下和未來相當長的一段時間，AI賦能新聞生產最大的作用是解放和發展生產力。一方面，人工智能投入到新聞生產之中，使得大量新聞工作者從重復勞動中解放出來，得以專注于創造性工作；另一方面，人工智能生產的高速度和高數量，也大大提升了生產效率。值得警惕的是，機器在解放生產力的同時，也存在消弭新聞工作者創造力的風險。當ChatGPT真正成為新聞生產環節中不可缺少的工具時，新聞工作者將會越來越依賴該系統進行內容創作。如果新聞工作者一味沉浸于技術帶來的便利、懈怠高質量的內容生產，其創造力將逐漸被磨滅。屆時，人工智能就可能真正由助手“上位”成為主人，低質量的人工智能生成內容也將充斥我們的媒體平臺。解放生產力和提升創造力本身并不矛盾。我們期待的是在解放生產力的同時，將更多精力和人類智慧投入到創造力的提升上。但是思維惰性和技術依賴也可能將新聞工作者和整個新聞業拖入創造力頹靡的深淵。（二）記者的身份認同之變在人工智能時代，記者的任務不僅僅是生產新聞，更重要的是做好信息篩選和新聞把關，即新聞工作者如何從海量的資訊之中選取最有價值的信息傳達給受眾。面對全方位的信息危機，記者的角色更多地從信息生產者轉變為信息把關者。因此，我們除了關注如何利用人工智能生產訊息，更要思考如何借助人工智能來過濾噪音、核查事實、把關關鍵信息。（三）新聞工作者的合法性人工智能技術將會取代新聞生產中的部分機械性勞動，但是完全取代新聞工作者則為時尚早。AI賦能新聞生產已然成為一種現實。面對來勢洶洶的ChatGPT，我們不必過于恐慌。雖然人工智能對新聞生產的變革勢不可擋，但是遠未發展到替代人類記者和編輯的地步。ChatGPT在新聞業的應用僅停留在輔助功能，只能作為新聞生產的助理，無法作為新聞生產的原創者。此外，伴隨著AI與新聞業的深度融合，新聞行業也將會出現更多新的職位，例如算法工程師、模型訓練師等，這些職業的出現和存在將使得AI真正深度嵌入到新聞生產之中。（四）媒介素養與AI素養在人工智能與新聞業深度融合的未來，我們更需要不斷提升社會公眾的判斷力，以應對虛假信息和低質量信息帶來的信息危機。因此，有必要將媒介素養教育提升到AI素養的維度，從更為宏觀的視角來培養公眾的技術辨別能力。媒介素養是個人和媒介共同培養的結果，同時也可能受到政治參與的影響。因此，公眾媒介素養和AI素養的提升，是一個多方努力的結果。AI素養的提升首先需要官方的干預。2023年4月，中央網信辦發布了《生成式人工智能服務管理辦法（征求意見稿）》，生成式AI的監管也逐漸納入到政府議程中來?；谶@一管理辦法，我國的生成式AI將得到更為規范的發展，一定程度上規避ChatGPT、Midjourney等平臺存在的問題。AI素養的培養是一個長期的過程，需要伴隨著智能媒介的普及來逐步實現。就像智能手機從誕生到普及，短短幾年時間內，社會公眾已經能熟練使用各大品牌的智能手機，并且具有了一定的數字素養。可以想見，伴隨著ChatGPT等自動生成內容人工智能技術的發展和普及，公眾也會逐漸適應人工智能產品的使用方式和生產邏輯。（載《傳媒觀察》2023年第6期，原文約10000字 ，標題為：從媒介融合到人機協同——AI賦能新聞生產的歷史、現狀與愿景?！皞髅接^察雜志”公眾號原文鏈接https://mp.weixin.qq.com/s/SHqw4IEpnd37tr8bbOwouw。此為節選，注釋從略，學術引用請參考原文。）【作者簡介】史安斌，清華大學新聞與傳播學院教授、博士生導師，清華-伊斯雷爾·愛潑斯坦對外傳播研究中心主任劉勇亮，清華大學新聞與傳播學院博士研究生
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
