財富中文網
2023-11-22 
《人類簡史》作者：用AI機器人假冒真人值得判“20年監禁”
以色列歷史學家、作家尤瓦爾·諾亞·赫拉利。圖片來源：KRISTOF VAN ACCOM / BELGA / AFP很少會有人認為假鈔對金融系統不構成任何威脅。如果你無法信任貨幣的真實性，買賣就會變得更困難，進而將影響經濟。但一位著名作家表示，另外一種危險并沒有引起足夠多的關注，那就是社交媒體上假冒真人的人工智能機器人。
以色列歷史學家、作家尤瓦爾·諾亞·赫拉利在上周說：“現在，在人類歷史上首次能夠創造虛假的人，人們可以創造出數以十億計的假人。你并不知道，與你在線交流的某個人是真人還是機器人。”
尤瓦爾·諾亞·赫拉利是《人類簡史》（Sapiens）的作者。這本書被比爾·蓋茨評價為他最喜歡的書之一。赫拉利在瑞士日內瓦召開的聯合國（UN）人工智能惠及人類（AI for Good）全球峰會上發表了這番評論。
他表示：“如果一個社交媒體平臺上，不僅有機器人會轉發真人發布的推文，還有數以百萬甚至十億計的機器人能夠創作在許多方面比人類創作的內容更高級的內容，例如更有說服力或更有吸引力的內容，或者更有針對性地根據你的個性和生活經歷量身定制的內容，結果會怎樣？如果我們允許這種情況發生，人類基本上就完全喪失了對公共對話的控制權，比如民主政治這種概念將變得完全不可行。”
他警告稱“這種情況對社會的危害，相當于假鈔對于金融系統的威脅。如果你無法分辨誰是真人，誰是機器人，信任就會崩潰，至少自由社會將不復存在。或許獨裁政權可以用某種方式解決這個問題，但民主政體將束手無策。”
“人工智能機器人泛濫”
推特（Twitter）的老板埃隆·馬斯克也意識到機器人問題。他在今年3月發推文稱“For You推薦流將只推送經認證賬戶的內容”，他表示，這是“解決高級人工智能機器人泛濫唯一現實的途徑。否則這將是一場注定要失敗的戰爭。”
與此同時，OpenAI的首席執行官薩姆·奧爾特曼參與創建了初創公司Worldcoin，為人們提供了借助虹膜掃描設備和加密系統證明他們是真人而非人工智能機器人的途徑。該公司宣布在5月C輪融資中融得1.15億美元。
赫拉利呼吁出臺防止“假人”的“極其嚴格的規定”。
他說：“如果你假冒真人，或者在你的平臺上允許假人存在，不采取有效的反制措施，我們或許不會將你處決，但你將面臨20年監禁。”
他表示，面對這樣的后果，科技巨頭們會很快“找到防止社交媒體平臺上假人泛濫的方法”。
至于為什么現在還沒有這樣的規定存在，赫拉利稱，到目前為止創造這樣的假人“在技術上不可行”。相比之下，偽造貨幣的行為存在已久，而各國政府均頒布了打擊這種行為的“極其嚴格的規定”，以“保護金融系統”。
赫拉利指出，他并非呼吁出臺禁止創建人工智能機器人的法律，而是“禁止讓這些機器人以真人的身份出現在公眾面前”。他表示，例如，提供人工智能醫生是合法的，“可以帶來巨大幫助”，但“必須說明它并非人類醫生……我需要知道它是真人還是人工智能”。（財富中文網）
譯者：劉進龍
審校：汪皓
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
