新火種
2023-12-06 
LeCun：超級AI不會主宰人類，但必須開源
要點:
LeCun認為，未來將會有超越人類智能的人工智能，但這些智能不會主宰人類，而是成為與數字世界互動的中介。他強調這些人工智能必須是開源的，以確保每個人都能參與學習和優化。
在LeCun看來，智能與統治沒有必然聯系，控制欲是社會性物種的本性，而人工智能可以被設計成智能但不具備統治欲的系統。他強調了開源的必要性，以避免少數公司壟斷超級人工智能，從而左右每個人的觀點和文化。
LeCun呼吁建立一個能夠預測動作序列后果的世界模型，以實現人工智能系統更通用的規劃能力。他指出建立和訓練這樣的世界模型仍然是一個懸而未決的問題。
站長之家11月27日 消息:人工智能領域的重要人物之一，LeCun在最新訪談中再次表達了他對開源人工智能的堅定看法。他強調了未來可能出現超越人類智能的情景，但同時指出這些人工智能不會成為人類的主宰。相反，它們將充當與數字世界互動的中介，為人類提供幫助。LeCun認為，為了確保這些人工智能不被少數公司壟斷，它們必須是開源的平臺，每個人都有機會參與學習和優化過程。
圖源備注：圖片由AI生成，圖片授權服務商Midjourney
在LeCun的觀點中，智能與統治并沒有必然聯系。他將人工智能比喻為智能助手，在未來的10-20年里，這些助手可能會比人類更聰明，但它們存在的目的是幫助人類變得更聰明，而非統治人類。他認為控制欲是社會性物種的本性，而智能與控制并無必然關系。因此，設計一個智能但不具備統治欲的系統是可能的。
LeCun呼吁建立一個世界模型，使人工智能系統能夠更好地規劃和推理。他認為當前的自回歸模型能力仍然有限，而要實現更通用的規劃能力，系統需要具備預測動作序列后果的世界模型。然而，他也指出建立和訓練這樣的世界模型仍然是一個懸而未決的問題，需要解決技術上的挑戰。
LeCun強調了人工智能的發展需要開源，并提出了對未來人工智能發展的期望和挑戰。他的觀點引起了廣泛關注，讓人們對人工智能的未來有了更深入的思考。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
