21世紀經濟報道
2024-12-29 
信通院藍皮書：AI情感陪伴易讓人產生情感依賴侵蝕人類自主性
21世紀經濟報道記者王俊實習生崔嘉豪北京報道
人工智能快速發展，正在引領新一輪科技革命和產業變革，在帶來發展紅利的同時也帶來風險挑戰。
近日，中國信通院發布《人工智能治理藍皮書（2024年）》（下稱藍皮書），其中指出，2024年前三季度人工智能領域融資得到復蘇，全球AI融資占全行業融資比例持續上升，從2022年的6.1%上升至2024年前三季度的12.0%。
隨著人工智能技術和行業發展，衍生風險相伴。
藍皮書從新技術革命引發的經濟社會發展變革和歷史經驗出發，在“以人為本、智能向善”理念指引下，基于供應鏈條、價值鏈條、全生命周期鏈條等底層邏輯，從 What、Why、Who、How 四個維度搭建了人工智能治理體系框架。
藍皮書指出，全球層面人工智能技術發展不平衡問題日益突出，主要資源向少數國家集中。人工智能日益提升的情感陪伴能力易于讓人產生情感依賴，這可能導致倫理危害。新一輪人工智能替代就業的能力、影響范圍等都有了巨大提升，人工智能替代效應將主要沖擊中高端收入群體。
2024年前三季度全球人工智能領域融資復蘇
藍皮書指出，大模型等新技術帶動全球人工智能行業實現高速增長，2024年，全球人工智能行業在產業規模、企業財務表現、投融資金額以及企業數量幾個方面都實現了增長，尤其值得一提的是，雖然2022-2024年前三季度，全球投資持續低迷，融資金額持續下降，但相比較而言，2024年前三季度人工智能領域融資卻得到復蘇，全球AI融資占全行業融資比例持續上升，從2022年的6.1%上升至2024年前三季度的12.0%。
同時，人工智能技術創新需求持續加大，產業鏈條拉長、商業生態分化等特征顯現。自2022年11月ChatGPT發布以來，人工智能已被應用于金融、法律、設計等多個行業。人工智能產業鏈條從大多數情況下由單一企業完成，發展為在開發、調優、應用等不同環節，由不同企業合作完成。圍繞生態主企業構建的商業生態開始出現分化，開源與閉源、通用與專用等不同路線均呈現競爭與融合并存態勢。
藍皮書還指出，以智能算法、智能手機等為代表的智能媒介技術以及各種AIGC的內容生產方式在當下階段導致了全方位的“智能鴻溝”。其強調，全球層面人工智能技術發展不平衡問題日益突出，主要資源向少數國家集中。
相比于“北方國家”，“南方國家”在數字基礎設施建設方面就存在顯著不足。根據datacentermap統計，2024年美國擁有2626個數據中心，占據顯著優勢。相比之下，印度、中國、巴西等國數據中心數量僅數百個，凸顯南方國家在數字基礎設施建設上的不足。同時，全球頂級超級計算機多集中在美國、日本和中國，南方國家占比偏低，進一步加劇了計算資源的集中。
除了基礎設施，南方國家在數據獲取方面處于劣勢，語料代表性也存有不足。在專有數據方面，全球醫療保健數據集的一半以上集中于北美地區，而非洲、拉丁美洲及亞太地區的發展中國家，在人口普查數據、行政記錄數據與地理空間數據的開放與共享方面明顯滯后。據加利福尼亞大學的一項研究顯示，高達50%的人工智能訓練數據源自12家頂尖機構，其中10家為美國機構所占據。
而在人才方面，全球對人工智能人才需求旺盛導致發展中國家人才外流問題嚴重。據MacroPolo《全球人工智能人才追蹤2.0》報告顯示，頂尖人才集中趨勢明顯，美國匯聚了全球60%的頂尖AI機構，并吸引77%非美國籍頂尖人才留美工作。相比之下，印度僅留住五分之一的本土AI研究人才。
AI情感交互威脅人際關系
人形機器人、數字人等應用日益廣泛，例如利用人工智能復活親人已形成產業鏈，能夠模擬已故親人進行視頻對話。人工智能的角色早已超越了簡單的生產力工具，其情感陪伴能力實現較大突破。
藍皮書指出，人工智能的情緒感知能力得到提升。OpenAI于2024年5月發布GPT-4o，該模型可以感知用戶情緒，例如從急促的喘氣聲中理解“緊張”的含義，并模擬情感表達，還具有一定幽默感。
將大模型嵌入人形機器人，提升了人工智能的情緒具身投射能力，機器人能夠更好地理解表情、語言、動作，并作出響應。李飛飛團隊的成果將大模型接入服務機器人“天軼”，使其能夠察覺到人類的情緒變化。
除了感知和反應，人工智能情感聯系能力也得到提升。數字人可以通過個性化互動提升人機交互體驗。例如，通過學習用戶的興趣、偏好和情感反應，從而提供個性化的互動體驗。在抖音、嗶哩嗶哩、YouTube等國內外直播平臺上，數字人主播已經吸引了大量的粉絲關注，具備了初步的互動能力與情感聯系。
人工智能日益提升的情感陪伴能力易于讓人產生情感依賴，可能導致倫理危害。
藍皮書認為，對人工智能的情感依賴將侵蝕人類自主性。例如，人工智能大模型存在“諂媚”問題，會不斷迎合用戶的需求和情感，提供正面反饋并避免負面評價。而真實的人際交往中充滿了多樣性和復雜性，包括負面反饋和情感挫折。這種反差可能使用戶越來越依賴人工智能，產生心理學上所稱的情感回避問題，侵蝕其自主性和獨立性。
對人工智能的情感依賴還將影響親密關系、沖擊家庭結構，改變人類社會形態。隨著人與人工智能的情感互動達到一定比例，將使用戶回避建立和維持婚姻等親密關系，家庭結構可能受到沖擊，社會可能會逐漸失去多樣性和復雜性，導致家庭結構和社會形態的瓦解。
我們真的做好準備接納人工智能作為“第三類家庭成員”存在了嗎？
藍皮書指出，部分企業在開發人工智能產品時，開始考慮用戶的情感健康，探索建立防依賴、防沉迷的相關機制。例如，谷歌語音助手GoogleAssistant中包含情感識別功能，能夠根據用戶的情緒變化提供適當的支持和建議。微軟小冰（Xiaoice）在設計時加入了時間管理和提醒功能，根據用戶與AI的互動頻率和內容，對其心理健康狀態進行評估，并在必要時發出警示。
學界等積極研究人工智能對人類情感和社交行為的長期影響。例如，美國斯坦福大學成立了“人工智能與倫理研究中心”，匯集了計算機科學家、心理學家和社會學家等多領域的專家，共同研究人工智能對人類情感和社交行為的影響，為制定有效的干預措施提供科學依據。
人工智能替代效應將主要沖擊中高端收入群體
藍皮書指出，人工智能技術帶來的發展紅利和全球性挑戰同步顯現，各國圍繞人工智能評估評測、知識產權、價值對齊等加速搭建規則體系，全球人工智能治理加速邁入規則建構和國際合作的關鍵窗口。
勞動者的工作不僅是其經濟來源，更是個體在社會中定位和建立社會關系的關鍵。失業會影響個體的自我價值感、社會角色和身份，削弱其在社會中的主體性。
與之前相比，新一輪人工智能替代就業的能力、影響范圍等都有了巨大提升，需加以高度關注。
藍皮書指出，人工智能替代效應將主要沖擊中高端收入群體。據2024年6月媒體報道，某科技公司在應用人工智能技術后，將負責撰寫博客文章和專欄的采編團隊由原本的60人規模縮減到只剩1人。OpenAI于2023年3月發表論文指出，數據處理、金融財會、出版傳媒等行業是受影響最大的行業，制造業、農業、采礦業等受影響較小。
而雖然可能受到影響的崗位數量較多，但只有少數崗位有被完全替代風險。高盛《人工智能對經濟增長的潛在巨大影響》報告，對美國900個職業和歐盟2000個職業的工作任務進行分析認為，人工智能將完全替代美國7%的工作崗位，并推動63%的崗位向人機協同的方式轉化，同時預計歐盟也會產生類似影響。國際貨幣基金組織在《人工智能和勞動世界的未來》中指出，人工智能預計將對全球近40%的工作崗位產生影響，在發達國家這一數字則為60%。人工智能發展將對我國未來就業結構產生深遠影響。麥肯錫預測隨著人工智能的發展與應用，到2030年我國將有2.2億勞動力需要進行技能升級或再培訓，其中客戶服務、后臺支持、IT、創意及藝術管理等職業受到的影響最大。
但與此同時，人工智能也將帶來新的就業機遇。世界經濟論壇發布《未來職業報告》顯示，50%的企業認為人工智能技術將增加工作崗位，25%的企業認為將減少工作崗位。
人工智能的衍生風險還包括給個人隱私帶來的挑戰。人工智能訓練涉及海量數據，用戶交互數據等新模式應用進一步加劇隱私泄露風險。如2023年3月，OpenAI開源代碼庫出現漏洞，導致1.2%的ChatGPT付費用戶的姓名、賬戶信息、聊天記錄等數據泄露。
全球人工智能治理加速邁入規則建構和國際合作的關鍵窗口
藍皮書指出，人工智能技術帶來的發展紅利和全球性挑戰同步顯現，各國圍繞人工智能評估評測、知識產權、價值對齊等加速搭建規則體系，全球人工智能治理加速邁入規則建構和國際合作的關鍵窗口。
深化落地人工智能協同敏捷治理模式，平衡創新發展和風險治理，持續強化跨部門協同機制，建立健全多元敏捷互動機制，探索敏捷治理理念，建立靈活性、 全面性制度框架，推動人工智能高質量發展和高水平安全實現良性互動。
系統監測預警人工智能倫理社會影響，科學設定監測目標，加強前瞻預警，制定風險預案，政府需引導公眾提升智能素養，以為效應對具身智能、數字人帶來的情感依賴等倫理挑戰。
聚焦人工智能場景應用細化制度方案，適時推進立法進程，從產業發展、倫理引領、底線紅線等維度，明確制度規范，以監管沙箱試點摸清場景應用特點風險，在重點場景下針對典型風險細化規則方案，建立完善人工智能分級分類清單，采用先試點后推廣的方式深化細化現有制度方案。
立足技術實踐優化人工智能監管工具，優化監管制度工具以推進事前、事中、事后全流程監管，是強化人工智能監管平臺、技術工具等資源配備，是引入社會化力量提升人工智能評估服務水平，優化治理手段與能力，進一步更新豐富治理工具箱。
加速落地全球人工智能能力建設方案，推動包容開放的人工智能全球對話，是幫助后發國家更好獲取和利用人工智能技術、產品和服務，推動人工智能國際測試評估合作。人工智能治理攸關全人類命運，是世界各國面臨的共同課題，應積極參與并推動國際合作治理。
（文章來源：21世紀經濟報道）
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
