新火種
2023-11-22 
莫迪、岸田接連“被AI”，人工智能安全問題引發擔憂
繼本月初日本首相岸田文雄遭遇AI造假后，印度總理莫迪也有了他的AI版。據《環球時報》報道，近日一段“莫迪跳舞”的視頻在網上瘋傳，然而，莫迪上周末親自辟謠，稱視頻是AI合成的，并警告說，AI時代深度偽造內容的傳播是一場大危機。在這段視頻中，“莫迪”和其他舞者身穿傳統服飾，圍成一個圈，歡快地跳著加爾巴舞。這是起源于印度古吉拉特邦的一種節日舞蹈，在印度全國都很流行。
對于假冒自己的視頻，莫迪先揚后抑。他稱贊視頻做得很好，但其實他從上學起就再沒有跳過加爾巴舞了，“感謝AI讓我又可以跳加爾巴舞，我的許多粉絲都在轉發這段視頻”。隨后，莫迪對濫用人工智能技術深度偽造視頻表達了擔憂，稱這可能引發一場大危機。他表示，很多人對網上傳播的虛假視頻信以為真，而印度目前缺乏足夠的技術來驗證其真實性。“在人工智能時代，負責任地使用技術很重要。”莫迪如是說，并表示他已要求生成式人工智能工具ChatGPT的團隊將此類視頻標記為深度偽造，以及當其在網上傳播時發出警告。
此外，莫迪還敦促媒體就此類虛假視頻問題對人們進行教育引導。在莫迪發表這些言論之際，印度的多名演員也遭遇了深度偽造視頻。一系列面部變形的造假視頻在社交網站上引發了印度民眾的驚愕、憤怒與擔憂。這也促使印度政府展開行動。據悉，印度電子和信息技術部部長阿什維尼·瓦希諾表示，政府已向所有大型社交平臺發出通知，要求他們采取措施識別并刪除深度偽造內容，而這些平臺已作出回應并有所行動。
瓦希諾稱，政府可能將召集包括Meta和谷歌在內的社交網站就打擊深度偽造內容進行開會。除了莫迪，日本首相岸田文雄、印尼總統佐科等政界人士近日也成了AI合成視頻的對象。這些真假難辨、造成誤導的視頻遭到廣泛批評。此外，以色列將人工智能應用于加沙地帶的致命性行動，引發深切擔憂。事實上，與人工智能技術相關的安全問題正日益受到國際社會的關注，對其加強監管的呼聲也愈發強烈。據新華社報道，本月1日在英國召開的首屆全球人工智能安全峰會上，人工智能技術可能帶來的風險，正是關注的重點。
出品 深海區工作室撰稿&視頻 深海貝編輯 深海貝
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
