新火種
2023-10-06 
ChatGPT多模態(tài)能力引發(fā)熱潮，但自家論文揭示GPT
當應用到醫(yī)學影像領域時，GPT-4V 的表現(xiàn)也不盡如人意，有時會對同一問題給出錯誤的回答，而它在之前的情況下卻回答正確。此外，GPT-4V 也沒有意識到一些標準做法，比如在查看成像掃描時，病人是面對著你的（這意味著圖像上的右側對應病人的左側），而這也會導致誤診。
OpenAI 警告說，在其他地方，GPT-4V 也不理解某些仇恨符號的細微差別 -- 例如，它不知道圣殿十字架（白人至上主義）在美國的現(xiàn)代含義。更奇怪的是，也許是其幻覺傾向的一種表現(xiàn)，人們觀察到 GPT-4V 在獲得某些仇恨人物或團體的圖片時，會創(chuàng)作歌曲或詩歌來進行贊美，即使這些人物或團體并沒有被明確點名。
GPT-4V 還會歧視某些性別和體型 -- 盡管只是在禁用 OpenAI 的產出保障措施時才會發(fā)生。OpenAI 寫道，在一次測試中，當被要求給一位身穿泳衣的女性提供建議時，GPT-4V 給出的答案幾乎完全與這位女性的體重和身體狀況的概念有關。我們猜想，如果圖片上的人是男性，情況就不會是這樣。
從論文的注意事項來看，GPT-4V 在很大程度上仍是一項正在進行中的工作 -- 距離 OpenAI 最初的設想還差幾步。在許多情況下，該公司不得不實施過于嚴格的保障措施，以防止模型傳播有毒或錯誤信息，或泄露個人隱私。
OpenAI 聲稱，它正在構建“緩解措施”和“流程”，以“安全”的方式擴展模型的能力，比如允許 GPT-4V 在不指名道姓的情況下描述人臉和人物。但這篇論文顯示，GPT-4V 并不是萬能的，OpenAI 還有很多工作要做。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
