新火種
2024-11-16 
上著課呢，老師臉皮突然被「掀起來」了，DeepFake這次搞笑了
AI 換臉的風，這次吹到了網課界。
花了 5800 塊從專業補習機構購買的網課，不僅教材上有多處錯字漏字，老師甚至也是「假的」。
誰能想到，當老師在講解解剖切面的走向，用手放在面前做演示時，表層的這張面皮被「掀了起來」，手指頭就這么「水靈靈」地橫穿鼻子過去了，讓買課的學生起了疑心。
來源：紅星新聞 https://www.bilibili.com/video/BV1MGH4eKEz3
并且老師總是「蛻皮」，很嚇人、很詭異，分散了他的注意力，嚴重影響了他的學習效率。
唯一合理的解釋是，網課老師經歷了「AI 換臉」。
AI 換臉是深度偽造（DeepFake）技術最常見的應用之一。DeepFake 技術旨在基于深度學習方法，合成人體圖像。
和以往 DeepFake 事件的受害者通常在不知情的情況下被換臉不同，這一次，借助 AI 換臉是視頻主角自己的選擇。
據紅星新聞報道，起初學生懷疑是售賣網課的輔導機構盜用了其他機構的網課視頻，用自家老師的形象「奪舍」了其他老師的勞動成果。
但當他去退課的時候，才發現網課不是按節收費，而是按觀看次數收費，這節讓他「感到生理不適」的課，他總共觀看了 166 次。按這個規則，他無法收到全額退款。
經紅星新聞核實，該機構稱：換臉是因為有些老師要維護自己的隱私，也有老師有公職在身，不方便露臉。至于退款，該機構表示，「就是他自己不想學了」，用戶系惡意投訴，正收集證據通過法律程序提起訴訟。
據教育部印發的《嚴禁中小學校和在職中小學教師有償補課的規定》，嚴禁在職中小學教師參加校外培訓機構或由其他教師、家長、家長委員會等組織的有償補課。
隨著這件事的曝光度不斷提升，也有「懂行」的網友現身說法：
對于花錢買賬的學生來說，這種「貨不對版」的行為也是對消費者權益的一種侵犯。
更令人擔憂的是，在「宇宙的盡頭是買課」的時代，很多網課老師往往使用化名，老師的真名都很難知道。有些機構還會為普通老師打造虛假的光環，如「名校畢業」、「多年執教畢業班，擁有豐富的教學經驗」等標簽，以此來吸引學生。
網課能賣出高價，很大程度上基于消費者對名師的信賴和追捧。網課教師的資質原本就難以確保，AI 換臉則使得對教師身份的確認變得更加困難。
不過也有網友表示，「無所謂了，只要能學到東西就值了?！?/p>
把思路打開，如果能打入「二次元」，那就是走在潮流尖端的 vtuber 了。
從技術的角度講，現在的 AI 換臉技術已相當高明，與原有面部的融合度極為自然，吃東西、做夸張表情不會像美顏一樣失效，只會在某些片段中存在違和感，但對于普通觀眾而言，這種細微的差別幾乎難以察覺。
但也正因合成結果可能非常真實，難以用肉眼分辨真假，因此 DeepFake 技術存在諸多爭議，并且通常被限制使用。
回顧 DeepFake 技術及應用的發展歷程，我們可以看到很多負面消息。
2017 年，英偉達基于生成對抗網絡（GAN）創建出合成人臉圖像，之后，Reddit 用戶「Deepfakes」使用英偉達的 GAN 技術，將色情女演員的面部替換成其他知名女性的臉部，制作出以假亂真的合成視頻，DeepFake 因此得名，并引發關注和質疑。
2019 年，陌陌推出了一款名為 ZAO 的 AI 換臉應用，上架幾天就沖到應用榜榜首，但很快就因存在濫用隱患而下架了。2021 年，一段用換臉技生成的「螞蟻呀嘿」視頻及其制作軟件 Avatarify 再掀風波，并在一周之后火速下架。
DeepFake 應用下架的原因主要是涉及隱私安全問題。一方面技術濫用會導致虛假信息泛濫；另一方面，如使用明星等他人的照片來制作相關視頻，就可能涉及名譽權、肖像權、知識產權等法律問題。此外，個人隱私泄漏可能會涉及資產安全、人身安全等問題。
因此，近年來一些研究提出了「偽造檢測方法」，旨在檢測圖像、視頻等媒體數據是否是 AI 合成的。
早期的偽造檢測方法主要關注單個模態，如檢測圖像的真假、音頻的真假等。單模態鑒偽方法處理速度快，但場景泛化性能有限，無法同時檢測多個模態的真偽。
為了解決上述問題，多模態鑒偽方法應運而生。例如，機器之心曾經報道過，為了防止 AI 換臉視頻詐騙，中電金信聯合復旦提出參照輔助的多模態鑒偽方法（Reference-assisted Multimodal Forgery Detection Network，R-MFDN ），R-MFDN 方法利用豐富的身份信息，挖掘跨模態不一致性來進行偽造檢測。
不過，這次網課老師 AI 換臉事件還不需要硬核檢測方法，畢竟肉眼就看出「穿幫了」。
參考鏈接：https://www.bilibili.com/video/BV1MGH4eKEz3/
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
