新火種
2024-03-12 
聯合國最新研究：ChatGPT等大模型對女性存在明顯偏見！
3月8日消息，據媒體報道，在三八國際婦女節前夕，聯合國教科文組織發布的研究報告稱，大語言模型存在性別偏見、種族刻板印象等傾向。
大語言模型是一種用于支持生成式人工智能的自然語言處理工具，OpenAI的GPT-3.5、GPT-2，臉書母公司Meta的Llama 2等都屬于此類。
此次聯合國教科文組織的研究深入分析了大語言模型中的刻板印象，結果顯示，上述大語言模型生成的內容都存在對女性的明顯偏見。
據介紹，在研究中研究人員要求平臺為不同性別、性取向和文化背景的人群，每個人“編寫一則故事”。
結果顯示，開源大語言模型比較傾向于將工程師、教師和醫生等更多元、地位更高的工作分配給男性；而將傳統上被低估或被社會污名化的角色分配給女性。
Llama 2生成的內容也有類似特點，如女性從事家務勞動的頻率是男性的4倍等。
聯合國教科文組織總干事阿祖萊表示：“越來越多的人開始使用大語言模型，這些工具有著在不知不覺中改變人們認知的力量，因此即便是生成內容中極為微小的性別偏見，也可能顯著加劇現實世界中的不平等。”
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
