新火種
2024-12-19 
“AI接吻視頻”亂點(diǎn)鴛鴦譜，不能總讓技術(shù)跑贏治理
“隔空接吻，只需要兩張照片”“AI接吻制作教程來了”……近些天，在一些短視頻平臺上，這類“AI接吻視頻”十分流行。有博主宣稱只需要下載一個軟件，花費(fèi)9.9元就可以完成。看著兩個毫無關(guān)系的照片人物“活生生”親吻擁抱在一起，不少網(wǎng)友直呼可怕。在短視頻平臺上，可以搜索到不少這類AI生成的接吻視頻，視頻“主角”可以是當(dāng)紅明星，也可以是普通網(wǎng)友。只要會使用AI工具，就可以“亂點(diǎn)鴛鴦譜”。
AI無疑是時代的風(fēng)口，它正在更深層次地融入我們的工作和生活。AI可以幫助打工人查閱資料，可以渲染視頻效果，還可以管控工廠生產(chǎn)線、優(yōu)化城市紅綠燈，用途正在變得越來越廣泛，未來可能成為新的“基礎(chǔ)設(shè)施”。不過，人們對AI可能帶來的風(fēng)險與挑戰(zhàn)也是憂心忡忡，許多科幻作品都以未來人類與AI的沖突為主題。比起天馬行空的科幻想象，AI海量生產(chǎn)的虛假內(nèi)容和深度偽造的視頻，已經(jīng)形成了不可忽視的“AI污染”。清華大學(xué)新聞與傳播學(xué)院新媒體研究中心2024年4月發(fā)布的一份研究報告顯示，近一年來，經(jīng)濟(jì)與企業(yè)類AI謠言量增速達(dá)99.91%。這帶來了一系列道德和法律風(fēng)險，正在考驗(yàn)人類對新技術(shù)的駕馭能力。
不得不說，現(xiàn)在的AI技術(shù)十分強(qiáng)大，用照片生成的接吻視頻看起來是天衣無縫，完全可以以假亂真。然而，在被技術(shù)的力量震撼之余，更多的人感受到的是“細(xì)思極恐”。顯然，無論視頻的主角是誰，用現(xiàn)實(shí)人物生成接吻視頻，都已挑戰(zhàn)法律和道德的底線。之前已經(jīng)發(fā)生過有人利用AI換臉技術(shù)生成“艷照”用以敲詐勒索的案件，現(xiàn)在AI技術(shù)更加發(fā)達(dá)，生成效果更加逼真，對社會秩序、公序良俗的潛在威脅也更大。
假作真時真亦假，用AI生成接吻視頻，看似只是“新型惡作劇”。但我們要看到，這是AI“技術(shù)跑贏治理”嚴(yán)峻現(xiàn)狀的冰山一角。2024年烏鎮(zhèn)世界互聯(lián)網(wǎng)大會上發(fā)布的《全球人工智能治理研究報告》已經(jīng)指出了當(dāng)前人工智能治理存在的風(fēng)險，包括制作“幻覺”內(nèi)容、深度偽造生成內(nèi)容、侵犯數(shù)據(jù)隱私等。報告還呼吁，要堅(jiān)持以人為本的價值取向、堅(jiān)守智能向善的原則，利用AI賦能千行百業(yè)，同時防范應(yīng)對安全風(fēng)險，逐步推進(jìn)人工智能治理體系的建設(shè)。
到底是“能力越大責(zé)任越大”還是“能力越大危害越大”？控制技術(shù)走向的韁繩，還是掌握在人的手里。我們必須明確AI平臺對源頭素材的把控責(zé)任和對生成內(nèi)容的監(jiān)管責(zé)任，控制AI生成內(nèi)容的使用場景，明確標(biāo)識AI生成內(nèi)容，加強(qiáng)對AI生成內(nèi)容的篩查監(jiān)管，利用“好AI”治理“惡AI”。同時，相關(guān)視頻平臺、社交媒體等也要明確管理AI生成內(nèi)容的平臺責(zé)任，對于“隔空接吻”等明顯違背公序良俗且有法律風(fēng)險的內(nèi)容要及時查刪，徹底消除這類只會帶來副作用的“應(yīng)用場景”。
既要管得住，還要用得好。面對快速發(fā)展的AI技術(shù)，治理水平也需要快馬加鞭，這樣才不會讓AI跑出法律和道德的疆界。
特約評論員 吳迪
上游評論投稿郵箱：sypl2020@163.com
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險，讀者在采取與本文內(nèi)容相關(guān)的任何行動之前，請務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
