新火種
2023-10-21 
生成式人工智能的價值觀，關乎人類未來丨快評
據全國信息安全標準化技術委員會網站，該機構制定的《生成式人工智能服務安全基本要求》面向社會公開征求意見。該文件要求：不使用語料黑名單來源的數據進行訓練；單一來源語料內容中含違法不良信息超過5%的，應進入黑名單。并在附錄中給出了語料及生成內容共5類31種的主要安全風險。
對于生成式人工智能，國內監管幾乎與技術發展同步，反映了對這一技術的高度重視。由國家網信辦聯合多部門出臺的《生成式人工智能服務管理暫行辦法》已于7月10日發布，自8月15日起施行，其第17條規定：提供具有輿論屬性或者社會動員能力的生成式人工智能服務的，應當按照國家有關規定開展安全評估，并按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、注銷備案手續。
目前，已有多家大模型通過備案，可正式上線面向公眾提供服務，包括文心一言（百度）、云雀（抖音）、紫東太初（中科院）等。該辦法第4條與第7條，分別對提供和使用生成式人工智能服務及對模型進行數據訓練提出了若干要求，涉及價值觀與數據來源等多個方面。顯然，正在征求意見中的《生成式人工智能服務安全基本要求》呼應并細化了這些規定。
生成式人工智能有何特別與殊勝之處？想必大家聽得耳朵都起繭了。目前，某些生成式人工智能如GPT-4或已跨入通用人工智能（Artificial General Intelligence, AGI）的門檻。而AGI翻成“通用人工智能”其實有一定誤導性，因為General Intelligence指的是“一般智力”，讓孩子測智商，做排除了特定語言與文化影響的瑞文矩陣（Raven’s Matrices）試題，測出來的就是這個“一般智力”。AGI意味著，通過人工方法，大模型實現了可與人類心智媲美的“一般智力”。微軟科學家們的論文顯示：GPT-4 的智能非常接近人類水平。
這是一個革命性的突破。此類企近或達到AGI的大模型，哪怕長期穩定在一個相當于人類中等智力水平上，它的學習能力也是任何人類都望塵莫及的：可以學習人類創造與積累的所有顯性知識，任何以文字、圖片、音頻與視頻呈現的知識它都可以掌握。這意味著大量人類中的知識工作可以被此類生成式人工智能所替代，如翻譯與外語口語老師。這會在多大程度上重塑我們的生產與生活方式，是大家都在關切與深思的問題。
此外，生成式人工智能持什么價值觀，是繞不過去的一個問題。我們每個人都有價值觀。我們為什么有這樣的價值觀，既取決于基因與其他先天稟賦，也取決于后天的教養與習染。同理，如果不加任何干預，生成式人工智能的“價值觀”就取決于給它喂的語料，更多地給它喂浸漬某種價值觀的語料，它就會更多地呈現該種價值觀。如果在先給它人為設置了某種特定價值觀，那么它就會秉持這種價值觀，就會排斥與負面解讀與它價值觀不一致的語料。
從GPT的早期版本來看，這種特征已經出現。一個經典的例子是：要求它給拜登寫一首贊美詩，它欣然同意，且寫得很肉麻；要求它給特朗普寫一首贊美詩，它斷然拒絕，表示要“政治中立”。這背后是開發它的人持有這些價值觀，既可以給它在先設置特定價值觀，也可以給它喂浸漬特定價值觀的語料，從而實現對生成式人工智能的價值觀塑造。
當然，在眾目睽睽之下，開發者會盡可能隱藏生成式人工智能的價值觀，而采取一種言語上“不得罪任何人、不冒犯任何人”的策略，聽起來挑不出什么毛病，這種策略本身也是某種特定價值觀的反映。
再暢想一下，現在的生成式人工智能相當于只有大腦、沒有可自由移動的有形身體，就像一個靈魂飄蕩在賽博空間。如果將來把這一靈魂“注入”仿生機器人甚至行動能力上遠超人類身體的智能機器人，那對人類社會的沖擊與潛在危害就更大了。人類真的能有效駕馭它們，令它們只造福而不危害人類嗎？
科幻作家阿西莫夫設定過機器人三定律：機器人不得傷害人類，或坐視人類受到傷害；除非違背第一定律，否則機器人必須服從人類命令；除非違背第一或第二定律，否則機器人必須保護自己。這恐怕只是一廂情愿。未來具備AGI的智能機器人，完全可能被輸入或“自行進化”出反人類的價值觀，令文明與人類的存續岌岌可危；或者某些持扭曲價值觀的個人或組織將具備AGI的智能機器人武器化，消滅別的民族或種族或其所討厭的群體。
故而，我們現階段討論：生成式人工智能現在能干什么、將來能干什么？應該持什么價值觀？對我們生產與生活方式會有多大及哪方面的沖擊？人類能否有效駕馭它？會對文明與人類存續本身構成多大挑戰？這些問題都是有意義的，也與地球上現在及未來的每一個人利害攸關。這不是杞人憂天，而是未雨綢繆。
陳斌
責編 辛省志
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
