首頁 > AI資訊 > 最新資訊 > OpenAI報告:AI模型被用于干擾選舉美國大選成“重災區”

OpenAI報告:AI模型被用于干擾選舉美國大選成“重災區”

財聯社劉蕊    2024-11-15

10月10日訊(編輯 劉蕊)隨著人工智能技術的持續火熱,OpenAI旗下的ChatGPT也被一些不法分子盯上,成為了試圖用于影響全球各國選舉的重要工具。

OpenAI已破壞20多個欺騙網絡

美東時間周三,OpenAI發布了一份長達54頁的報告,聲稱自今年年初以來,OpenAI已經破壞了來自世界各地的20多個試圖使用我們模型的不法行動和欺騙性傳播。

image

他們指出,這些危害行為包括利用人工智能技術生成網站文章,以及利用虛假賬戶在社交媒體上發布虛假信息帖子等等。

OpenAI的這份報告發布之際,距離美國總統大選正好還剩一個月的時間。而除了美國之外,今年對全世界來說都是重要的選舉年:今年全球有超過40個國家舉行選舉,影響人數超過40多億人。

事實上,選舉中利用虛假信息來干擾選舉,并不是一個新現象。但根據機器學習公司Clarity的數據,隨著人工智能生成內容的興起,今年網絡上與選舉相關的錯誤信息激增,并因此引發了普遍的擔憂。

隨著ChatGPT的推出,生成式人工智能于2022年底起飛,現在已被各種規模的公司采用。而與此同時,今年網絡上深度偽造(DeepFakes)內容的數量已經同比增長900%。

虛假內容影響力暫時有限

OpenAI在報告中寫道,與選舉相關的人工智能應用“從簡單的內容生成請求到復雜、多階段的分析和回復社交媒體帖子的工作,復雜性各不相同。”

而從社交媒體內容來看,有害的AI內容主要與美國和盧旺達的選舉有關,也有部分有害內容與印度和歐盟的選舉相關。

今年6月,OpenAI識別并挫敗了一項試圖影響歐洲選舉的秘密行動:有不法分子利用ChatGPT生成帖子,在社交媒體上對歐洲議會選舉以及美國、德國、意大利和波蘭的政治發表評論。

OpenAI表示,雖然上述這些利用AI生成的社交媒體帖子大部分幾乎沒有得到點贊或分享,但也有部分帖子的確得到了真人用戶的回復。

OpenAI還寫道,雖然已經出現了不少與選舉相關的虛假內容,但截至目前這些威脅舉措的影響力還有限:目前沒有一項與選舉相關的操作,能夠通過使用ChatGPT和OpenAI的其他工具吸引民眾的“病毒式參與”或吸引“持續受眾”。

相關推薦
免責聲明
本文所包含的觀點僅代表作者個人看法,不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險,讀者在采取與本文內容相關的任何行動之前,請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。

熱門文章