新火種
2023-10-04 
馬云等：ChatGPT有“芯”人有“心”，加入插件拉響安全警報
Midjourney根據GPT-4的形容，所生成的作為“情緒”的Meldoria【導讀】ChatGPT不斷牽動著世人的神經，剛回國的馬云評價了ChatGPT對教育的挑戰，他重復了比爾·蓋茨的話：ChatGPT不過是AI時代的開始。要用人工智能去解決問題，而不是被它所控制。“雖然人的體力、腦力比不過機器，但機器只有‘芯’，而人有‘心’”，他同時也指出，“工業時代是知識驅動，是知識的競爭；數字時代，是智慧驅動，是創造力和想象力的競爭。”與此同時，不斷顛覆和驚艷世人的OpenAI在美國時間3月25日發布了一個官方報告，它對3月20日臨時中斷服務器公布了調查報告，并表示有1.2%的ChatGPT Plus用戶數據可能被泄露。插件讓ChatGPT顯出“全知全能”的威力，但安全和發展的平衡問題被再次成為“靈魂拷問”，講堂轉發現代國際研究院科技與網絡安全研究所李艷、翟一鳴對此的分析。
OpenAI在當地時間3月25日公布調查結果，承認有少量數據泄露OpenAI發布GPT-4，讓各方還未從一波仍泛一波再起的目眩之中醒過神來，這兩天又接連推出“重磅炸彈”。可見在ChatGPT等智能系統領域，相關機構真的是做到了默耕多年，攢足存貨，一朝出手，風起云涌。這一次，微軟更是將GPT-4整合進自家應用，OpenAI為ChatGPT添加了聯網在內的各類插件系統，技術上解釋起來破費周折，我們不妨將其結果形象地理解為“當ChatGPT不只能Chat”，它可做的事情不再只是交互反饋式生成與輸出，其施展作為的空間更加廣闊。“副駕駛員”升級發力：用語音聊天來編寫和調試編碼3月16日，微軟推出由GPT-4提供支持的AI助手“Microsoft 365 Copilot”（以下簡稱“Copilot”）。微軟官方簡介稱，該助手把人工智能大型語言模型的強大功能與微軟相關應用中的數據相結合，可將文字轉化為最為強大的生產力工具。具體來看：一方面，Copilot嵌入到了Word、Excel、PowerPoint等人們熟知的應用程序中，使用簡單的文字指令即可實現文字創作、文檔轉PowerPoint演示文稿、分析表格數據并生成圖表等復雜或重復性的操作，有效提升工作效率和“創作”水平；另一方面，Copilot將用戶業務數據與微軟各類應用程序相關聯，在后臺業務數據的基礎上，同樣使用文字指令即可實現實時的日歷信息更新、會議內容總結、電子郵件或文檔整理等操作。3月22日，微軟旗下代碼托管平臺GitHub發布智能編程助手“GitHub Copilot X”，該助手采用了GPT-4，將允許程序員以ChatGPT的風格，通過文字詢問甚至語音聊天的方式來編寫和調試代碼。GPT模型與微軟應用的結合將顛覆“電子生產方式”，用戶不必再研究或專門學習制作PPT或EXCEL表的復雜方法，甚至是專門學習代碼編程，所有豐富的功能只需使用文字就能解鎖，輸入文字要求指令就能“一鍵生成”所需內容，真正成為人們辦公工作的“副駕駛”（Copilot）。換句話說，以后關于“熟悉office操作系統” “熟練使用Excel表格”甚至“擅長代碼編寫”將不再是求職優勢。加上插件： ChatGPT升級為“全知全能”，實時回答及時修正3月23日，OpenAI推出ChatGPT插件系統，網友們戲稱ChatGPT已“解除最后的封印”。之前ChatGPT基于已經建成并訓練好的大模型，所使用的數據是提前“投喂”的，并不能在使用時通過網絡實時檢索和處理；同時，以往ChatGPT的主要功能及應用場景還是在問答回復，給用戶反饋的是“參考內容”，無法進一步執行其他操作。但一旦安入“插件”，其不僅擁有目前世界頂尖的自然語言處理能力，還能夠檢索全互聯網信息，再加之第三方服務，ChatGPT甚至可以替用戶完成一系列操作，其智能程度毫無疑問再次實現突破。具體來看：一方面，ChatGPT功能進一步拓展。利用各類插件，ChatGPT可實時檢索并使用互聯網信息、基于簡單指令進行復雜編程，甚至能實現訂機票、在線點餐等“直接操作”。另一方面，ChatGPT“回復”質量明顯提升。加入“在線自動問答系統”插件后，ChatGPT可將用戶問題發送至在線問答系統，根據系統回答結果修正自身的“回復內容”。經測試，在部分情境中，ChatGPT“捏造事實”的現象已有明顯改善。未來，ChatGPT將獲得更多第三方產品知識和技能的加持，其“回復”專業性和可靠性必然會持續提高。人工智能系統開發的目的是為與人類對標，如果將以往的ChatGPT類比為核心大腦，那么本次更新就是為ChatGPT增添了眼睛、耳朵等感官，甚至是四肢等行動器官。其不僅有了“智慧”，還有了“行動力”。
“內測”產品提示，安全和發展已需要同步平衡在包括AI在內的新興技術領域，一直以來提倡“前瞻性治理”，尤其是將安全考慮貫穿技術產品研發與推廣的全流程。究其根源就在于“能力越大，責任越重”。能量越強大，一旦被不當甚至惡意使用，其破壞力也將是巨大的。因此，在繼續驚嘆“重磅炸彈”的威力的同時，我們敏銳地關注到此次微軟和OpenAI在詳析新產品“變革性功能”的同時，特別對于相關產品的“安全考慮”進行了著重說明。Copilot簡介中明確提到，其將遵循微軟在安全、合規性和隱私等方面的全部政策、工作流程和保護手段，特別是解決用戶數據泄露問題，提出AI系統在使用用戶業務數據時將采用安全、合規、保護隱私的方式，且該些數據不會用于大型語言模型訓練。ChatGPT插件系統更是強調“以安全為核心原則”，稱將外部工具接入ChatGPT雖會帶來新機遇，但同樣伴隨重大新風險。OpenAI已在ChatGPT插件系統中采取多項安全保障措施：開展網絡攻防對抗演練，發現系統安全漏洞并完善安全設計；針對“網絡瀏覽”插件進行限制，僅可用于檢索信息，不能進行“表單提交”等操作；“網絡瀏覽”插件將顯示系統訪問過的網站，并在搜索結果中引用信息來源，增加系統“透明度”；在用戶使用“代碼編寫”插件時創建獨立的、限制計算資源的安全環境，同時禁止代碼執行結果聯網，防止系統生成的代碼直接用于危害性操作。可以看到，微軟和OpenAI在新產品的功能性與安全性之間進行了一定程度的權衡，這是為了回應社會各界對ChatGPT等AI系統安全性的關切，同時也反映出相關系統的安全問題與風險已部分暴露在公眾視野之下，亟需對此提出適當性的解決方案。目前，Copilot和ChatGPT插件系統仍處在有限范圍的“內測”階段，未來若向公眾開放，特別是第三方產品大量“涌入”ChatGPT“生態圈”的情況下，新式安全問題必將迎來“爆發期”。如果說以前我們認為，所謂發展與安全是一個長期動態平衡的問題，現在看來，未來它提出了即時同步平衡的更高要求。綜合：清元宇宙微信公眾號 中國現代國際關系研究院微信公眾號 谷云教育微信公眾號 相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
