新火種
2023-12-06 
英國(guó)學(xué)生使用人工智能制作不當(dāng)兒童圖像引發(fā)警示
站長(zhǎng)之家 11月27日 消息:近日，英國(guó)一組關(guān)注兒童虐待和技術(shù)的專家警告稱，英國(guó)學(xué)生正在利用人工智能（AI）制作不當(dāng)兒童圖像。
據(jù)英國(guó)網(wǎng)絡(luò)安全中心（UK Safer Internet Centre，簡(jiǎn)稱UKSIC）主管Emma Hardy表示，一些學(xué)校首次報(bào)告稱學(xué)生正在使用AI生成技術(shù)創(chuàng)作合法構(gòu)成兒童性虐待的圖像。這些圖像的逼真程度令人“可怕”。
圖源備注：圖片由AI生成，圖片授權(quán)服務(wù)商Midjourney
“我們看到的圖像質(zhì)量可與全國(guó)各地學(xué)校每年拍攝的兒童專業(yè)照片相媲美，” Hardy表示，她同時(shí)還擔(dān)任互聯(lián)網(wǎng)觀察基金會(huì)的傳播總監(jiān)。
AI生成的兒童形象逼真，有時(shí)候可以辨認(rèn)出這些兒童是之前受到性虐待的受害者。“必須警告兒童，這可能在互聯(lián)網(wǎng)上傳播，并最終被陌生人和性侵者看到。這項(xiàng)技術(shù)的濫用潛力令人恐懼，” 她補(bǔ)充道。
UKSIC，一家兒童保護(hù)組織，表示學(xué)校需要緊急采取措施，建立更好的阻止兒童虐待材料傳播的系統(tǒng)。“我們看到學(xué)生制作這些圖像的報(bào)告不應(yīng)該令人驚訝。當(dāng)新技術(shù)，如AI生成器，變得更加易于公眾獲取時(shí)，應(yīng)該預(yù)期會(huì)出現(xiàn)這類有害行為，” UKSIC主管David Wright表示。
盡管案例數(shù)量較少，但我們正處于初步階段，現(xiàn)在需要采取措施，以免學(xué)校不堪重負(fù)，問(wèn)題不斷擴(kuò)大。” 他補(bǔ)充道。在英國(guó)，無(wú)論是AI生成的還是攝影的兒童性虐待圖像，甚至是卡通或其他不夠逼真的描繪，都是非法的，制作、擁有和傳播都是違法的。
上個(gè)月，互聯(lián)網(wǎng)觀察基金會(huì)警告稱，AI生成的兒童性虐待圖像“威脅要淹沒(méi)互聯(lián)網(wǎng)”，許多現(xiàn)在的圖像如此逼真，以至于即使對(duì)訓(xùn)練有素的分析師來(lái)說(shuō)也難以區(qū)分真實(shí)圖像。
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個(gè)人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對(duì)本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn)，讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前，請(qǐng)務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對(duì)因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
