新火種
2023-10-29 
科技日報：防范AI惡意使用，需強化法律觀念和社會責(zé)任意識
“有圖有真相”的說法曾在互聯(lián)網(wǎng)上盛行一時。
然而不久前，一女網(wǎng)友在地鐵上的照片被AI“一鍵脫衣”造謠的事件引發(fā)熱議。與這一案例中“AI脫衣”相似的，還有近年來走紅網(wǎng)絡(luò)的“AI換臉”。一些“AI換臉”App使用明星的圖片制作換臉照片甚至是視頻進(jìn)行推廣，引發(fā)了一系列法律糾紛。“有圖有真相”在惡意AI換臉換裝面前，可能正在成為歷史。
如何防范惡意AI換臉換裝？記者于4月4日采訪了首都經(jīng)濟(jì)貿(mào)易大學(xué)法學(xué)院副院長、副教授陶盈。
合理使用AI換臉換裝可提高生產(chǎn)效率
AI換臉換裝的實現(xiàn)，基于人工智能深度學(xué)習(xí)技術(shù)中的計算機視覺和人工智能技術(shù)。其中，計算機視覺技術(shù)主要通過分析面部特征來實現(xiàn)人臉或衣物的識別與替換；人工智能技術(shù)則被用于提高人臉或衣物的匹配度與真實感，使得換臉換裝的效果更加自然流暢。
“近年來，互聯(lián)網(wǎng)上出現(xiàn)了不少具有AI換臉換裝功能的App。”陶盈介紹，“利用這些App，用戶僅需一張照片就能實現(xiàn)換臉換裝，操作起來難度并不高。”
在合理使用的情況下，AI換臉換裝在影視剪輯、廣告設(shè)計等方面可以發(fā)揮重要作用，大大減少相關(guān)圖片或視頻內(nèi)容的生產(chǎn)成本，并在一定程度上提高生產(chǎn)效率與質(zhì)量。
但正如前述案例，AI換臉換裝也很容易被濫用，進(jìn)而產(chǎn)生嚴(yán)重的社會危害。“偽造、丑化、污損他人的個人形象或是生成不雅圖片，不僅可能侵害自然人的肖像權(quán)、隱私權(quán)、名譽權(quán)等人格權(quán)益，還有可能侵犯原照片、視頻作者的著作權(quán)等財產(chǎn)權(quán)益，甚至有可能構(gòu)成敲詐勒索、詐騙等相關(guān)刑事犯罪。”陶盈說，“此外，惡意AI換臉換裝可以讓犯罪分子將自己的面孔或身份信息偽裝成其他人，從而更加輕易地進(jìn)行各種犯罪活動。”
多手段助力打擊惡意AI換臉換裝
“我們應(yīng)該加強技術(shù)研發(fā)與監(jiān)管，強化發(fā)布平臺的審查義務(wù)，防范和治理惡意AI換臉換裝。”陶盈表示。
“首先，我們應(yīng)該嚴(yán)厲打擊通過惡意AI換臉換裝侵害他人合法權(quán)益的違法行為，強化技術(shù)開發(fā)者與應(yīng)用者的法律觀念和社會責(zé)任。”陶盈表示，在進(jìn)行AI換臉換裝之前，首先應(yīng)該征得被換臉換裝者的同意，確保個人信息和數(shù)據(jù)安全。
“其次，發(fā)布圖片或視頻的平臺應(yīng)該承擔(dān)起實質(zhì)審查的義務(wù)，避免具有明顯惡意的內(nèi)容發(fā)布。”陶盈說，“平臺還應(yīng)當(dāng)要求內(nèi)容創(chuàng)作者實名認(rèn)證，監(jiān)督內(nèi)容創(chuàng)作者標(biāo)明‘此視頻為AI合成’等標(biāo)識，以免誤導(dǎo)公眾。”記者了解到，目前國內(nèi)部分網(wǎng)絡(luò)視頻平臺已經(jīng)實現(xiàn)了對于AI合成的標(biāo)識。
“再次，監(jiān)管部門應(yīng)當(dāng)嚴(yán)厲打擊相關(guān)黑色產(chǎn)業(yè)鏈，對違法行為進(jìn)行精準(zhǔn)打擊，鏟除惡意換臉換裝的滋生土壤。”陶盈表示，“此外，通過加強人臉識別和深度學(xué)習(xí)算法的研究，提高人臉檢測和分割的準(zhǔn)確率，也有助于防范治理惡意AI換臉換裝。”
“我們應(yīng)該通過加強法治教育宣傳，增強人們的個人信息安全意識。”陶盈說，“在生活中，每個人都應(yīng)該加強個人信息和隱私保護(hù)的意識，避免泄露敏感隱私照片以讓他人有機可乘。”
據(jù)悉，目前法院已經(jīng)有多起涉及惡意AI換臉換裝侵害他人肖像權(quán)的判決，近期的2023年“清朗”系列專項行動也對相關(guān)濫用科技的互聯(lián)網(wǎng)不法行為進(jìn)行了系列打擊。“互聯(lián)網(wǎng)并非法外之地，我們應(yīng)該加大對惡意AI換臉換裝的防范治理力度，營造風(fēng)清氣正的網(wǎng)絡(luò)環(huán)境。”陶盈表示。
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認(rèn)可。 交易和投資涉及高風(fēng)險，讀者在采取與本文內(nèi)容相關(guān)的任何行動之前，請務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
