新火種
2025-02-08 
蘋果因發(fā)布虛假新聞標(biāo)題而撤下人工智能生成的新聞通知
鞭牛士報(bào)道，1月17日消息，據(jù)CNN報(bào)道，蘋果公司暫時(shí)撤下了新推出的人工智能新聞通知功能，此前該功能多次向用戶發(fā)送充滿錯(cuò)誤的標(biāo)題，引發(fā)了新聞機(jī)構(gòu)和新聞自由團(tuán)體的強(qiáng)烈反對(duì)。
此前，該 iPhone 制造商罕見(jiàn)地改變了對(duì)其大力推廣的 Apple Intelligence 功能的政策，因?yàn)樵摴δ芸梢陨烧`導(dǎo)性或完全錯(cuò)誤的新聞標(biāo)題摘要，這些新聞標(biāo)題看起來(lái)與常規(guī)推送通知幾乎完全相同。
周四，蘋果向開(kāi)發(fā)者發(fā)布了一個(gè)測(cè)試版軟件更新，禁用了新聞和娛樂(lè)標(biāo)題的人工智能功能，該公司計(jì)劃在改進(jìn)人工智能功能的同時(shí)，稍后向所有用戶推出該功能。該公司計(jì)劃在未來(lái)的更新中重新啟用該功能。
作為更新的一部分，該公司表示，用戶必須選擇加入的 Apple Intelligence 摘要將更明確地強(qiáng)調(diào)信息是由人工智能生成的，表明它有時(shí)可能會(huì)產(chǎn)生不準(zhǔn)確的結(jié)果。
上個(gè)月，英國(guó)廣播公司向蘋果公司投訴了該技術(shù)，敦促該公司取消該功能，因?yàn)樗圃炝颂摷傩侣劊Q被控謀殺聯(lián)合健康保險(xiǎn)公司首席執(zhí)行官的 Luigi Mangione 是開(kāi)槍自殺。
還有一次，三篇《紐約時(shí)報(bào)》的文章也被總結(jié)在一條推送通知中，錯(cuò)誤地稱以色列總理本雅明·內(nèi)塔尼亞胡已被捕。
去年 12 月，BBC 發(fā)言人告訴 CNN，蘋果必須緊急解決這些問(wèn)題，因?yàn)槲覀冃侣劦臏?zhǔn)確性對(duì)于維護(hù)信任至關(guān)重要。蘋果的這些人工智能摘要并不反映 BBC 的原始內(nèi)容，在某些情況下甚至完全與原始內(nèi)容相矛盾。
周三，該人工智能功能再次錯(cuò)誤地總結(jié)了《華盛頓郵報(bào)》的一條通知，錯(cuò)誤地陳述了「皮特·赫格塞斯被解雇；特朗普關(guān)稅影響通脹；帕姆·邦迪和馬可·盧比奧確認(rèn)上任」。
這些都不是真的。
《華盛頓郵報(bào)》科技專欄作家杰弗里·福勒寫道：這是我定期抱怨的話題，蘋果智能太糟糕了，今天它把所有事實(shí)都搞錯(cuò)了，它的人工智能只是對(duì)《華盛頓郵報(bào)》新聞提醒的總結(jié)。蘋果在人工智能技術(shù)有所進(jìn)步之前不關(guān)閉新聞應(yīng)用的摘要功能，這是非常不負(fù)責(zé)任的。
新聞自由組織也強(qiáng)調(diào)了這些摘要對(duì)尋求可靠信息的消費(fèi)者構(gòu)成的危險(xiǎn)，無(wú)國(guó)界記者組織稱其對(duì)公眾獲取可靠時(shí)事信息的權(quán)利構(gòu)成威脅，而全球最大的記者工會(huì)之一全國(guó)記者聯(lián)盟則強(qiáng)調(diào)公眾不應(yīng)該對(duì)自己收到的新聞的準(zhǔn)確性產(chǎn)生懷疑。
兩者都呼吁刪除這些人工智能摘要。
蘋果的人工智能問(wèn)題并不是開(kāi)發(fā)人員第一次面臨偽造信息的技術(shù)，像 ChatGPT 這樣的流行模型經(jīng)常會(huì)產(chǎn)生自信的幻覺(jué)。
布朗大學(xué)教授 Suresh Venkatasubramanian 曾參與白宮《人工智能權(quán)利法案 藍(lán)圖》的共同起草，他此前曾向 CNN 表示，大語(yǔ)言模型是人工智能工具背后的技術(shù)，它經(jīng)過(guò)訓(xùn)練，可以使用“聽(tīng)起來(lái)合理的答案”來(lái)響應(yīng)提示的輸入。
「因此，從這個(gè)意義上來(lái)說(shuō)，任何聽(tīng)起來(lái)合理的答案，無(wú)論其是否準(zhǔn)確、真實(shí)或編造，都是合理的答案，這就是它的結(jié)果。」文卡塔蘇布拉馬尼安說(shuō)。「那里沒(méi)有真相。」
ChatGPT 推出兩年后，人工智能幻覺(jué)現(xiàn)象依然普遍存在。康奈爾大學(xué)、華盛頓大學(xué)和滑鐵盧大學(xué)于 2024 年 7 月開(kāi)展的一項(xiàng)研究發(fā)現(xiàn)，鑒于頂級(jí)人工智能模型傾向于編造信息，因此它們?nèi)匀粺o(wú)法完全信任。
Tags:
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個(gè)人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對(duì)本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn)，讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前，請(qǐng)務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對(duì)因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
