新火種
2024-12-06 
未來已來：無需等到超級智能，人工智能的影響早已顯現
神譯局是36氪旗下編譯團隊，關注科技、商業、職場、生活等領域，重點介紹國外的新技術、新觀點、新風向。
編者按：本文是對Claude操作計算機能力的一些思考。作者認為，組織要高瞻遠矚一點，不能把AI 部署視為純粹的技術挑戰。相反，組織必須思考這些技術對人類的影響。在 AI 達到人類水平的表現之前，其對工作和社會的影響已經十分深遠且廣泛，必須想清楚如何駕馭和應對。文章來自編譯。
AI 實驗室完全相信，更大、更強大的 AI 模型即將問世，他們相信這些模型可實現比人類博士更聰明的自主智能體和系統。OpenAI 的山姆·阿爾特曼（Sam Altman）與 Anthropic 的 Dario Amodei，兩家領先AI實驗室的CEO，他們在各自的博客中均討論了超級智能機器時代的到來，其信心從中可見一斑。
但這些主張并非沒有爭議，我們也沒法確定他們說得對不對。不過，就很多方面而言，我們并不需要超級強大的 AI 來改變工作的方式。目前第二代/GPT-4 類系統所蘊含的能力已經超過了我們能完全吸收的水平。哪怕今天的 AI 開發停止，我們仍需數年時間來將這些系統融入我們的世界。
今天的 AI 模型已經是多模態的了，能夠處理和生成文本、圖像、聲音等多種媒體形式。它們可以編寫代碼、操作計算機、訪問互聯網等。這些能力已然存在，而且我們正開始看到出現了相互結合的跡象。盡管這些模型并不完美，且容易出現不一致性和“幻覺”，但在許多領域已經展現了自己的價值。在對完美準確性要求不高、需要征求第二意見、沒人能提供幫助或 AI 表現優于人類的場景下更是如此。
人工智能作為經理、教練或者圓形監獄？
比方說，想想看如果人工智能將圖像處理與“推理”能力相結合的話，意味著只需將視頻消息交給 AI，便可以為其賦予智能，完成以前無法實現的任務。
又比如，只需將一段建筑工地的 YouTube 視頻交給 Claude，并提示說：“這是建筑工地的視頻，請對工地進行監理，尋找安全問題、可以改進的地方以及可以提供指導的機會。”不需要任何特殊訓練，只需利用 Claude 3.5 Sonnet 的原生計算機能力，每隔幾秒截取一次屏幕然后進行“分析”即可。在以下視頻中，Claude 分析了建筑工地的各個方面：工人防護設備的使用情況、材料的擺放、工作模式以及潛在危險，并逐一記錄。
這些觀察非常有趣，但系統可以進一步擴展。我隨后問道：“你得出了什么結論？請將你的觀察結果寫成一個問題清單。”AI 在幾秒鐘內生成了一張電子表格，總結了觀察視頻看到的內容，這項任務如果交給人類做的話會很耗時。注意觀察它是怎么將視頻發現的眾多問題按優先順序分解，并對如何解決問題作出邏輯推斷的。
接著 Claude 又問我：“你是不是希望創建一個跟蹤系統來進行完成驗證？”聽起來不錯，于是我同意了。然后，它就做出了一個包含虛擬名字的示例數據跟蹤系統。
從視頻中回放的結果來看，結果似乎不錯，但我不是專家，完全排除嚴重幻覺的可能性幾乎是不現實的。出于這一點及其他許多原因，我絕不希望該系統被用來對人類進行獎罰。然而，在無人監控潛在危險環境或缺乏指導與建議的場景中，AI 可以提醒人類關注潛在問題或機會，作為一種有價值的資產。
這個系統只用簡單的提示詞就開發完成了。多做一點工作的話，哪怕沒有新模型發布，AI 監工的錯誤率和成本也會不斷下降。這些系統會變得更加完善。組織可能會禁不住誘惑，到處部署這些 AI 觀察員，政府也可能效仿。一種本可以充當導師和安全檢查功能的系統，可能會變成由 AI 全天候監視和評判每個人的圓形監控系統。企業和政府的選擇將決定 AI 是用來幫助我們，還是監控我們——這是我們在充斥著AI的世界里需要做出的諸多復雜調整之一。不過，觀察能力只是 AI 已經展現出的其中一項高級技能。
運用我們的工具與規則
在數字世界里，大多數知識工作都是通過計算機完成的——比如瀏覽網站、填寫表格以及完成交易等。現代人工智能系統現在也可以執行這些任務，將以前只能由人類完成的工作給自動化了。這種能力已經不再局限于簡單的自動化，連定性評估和問題識別也能完成。
比方說，我讓Claude“去沃爾瑪的網站，并以一個嘗試購買商品的普通用戶的身份測試其功能。然后訪問亞馬遜，做同樣的事情，并在一份文檔中寫下你的發現”。同樣，在視頻里你可以看到，AI 會訪問每個網站，模擬用戶搜索和購買商品的過程。
然后，它寫下了兩份報告——一份敘述性報告以及一份測試報告。
從我的觀察來看，報告沒有發現任何“幻覺”。雖然這些報告并不算洞察力最強的，但相當可靠。AI 在被賦予任務時，能夠迅速高效地完成，并在解決問題的過程中展現出一定的“判斷力”。隨著模型的改進和操作的簡化，可以想象未來的管理者會利用 AI 智能體團隊來執行分析和重復性任務。
更加離奇的應用
我們已經看到了多模態輸入和工具使用如何改變了 AI 與世界的互動，而當我們加入多模態輸出時，情況會變得更加奇特。比方說，我邀請了一位 AI 化身加入 Zoom 會議。從聲音到圖像乃至于行為，這個化身完全是由 AI 驅動的，——實際上，我給出的提示是讓化身以 Zoom 會議最刻板、最官方的方式進行表現，你會發現視頻感覺非常的怪異。
盡管“恐怖谷”現象（也就是非常像人類卻又不完全像人類的表現）讓人感到不適，比如略顯不自然的聲音，以及如換襯衫等顯而易見的問題等，但這種互動基本上反映出典型的 Zoom 會議的情況。這只是第一代工具，其實已經可以了。在不久的將來如果有很多人被這種虛擬任務迷惑的話，我是不會感到驚訝的。
這些能力要求我們馬上就得關注政策和實踐。哪怕這些系統尚不完美，但從我們如何監控安全到我們如何開展會議，它們已經在重塑工作的基本面。組織今天關于 AI 部署的選擇會設定未來很長一段時間內的先例。AI 驅動的監控是用來指導和保護工人，還是用來施加算法控制？AI 助手會增強人類能力，還是逐漸取代人類判斷？
組織要高瞻遠矚一點，不能把AI 部署視為純粹的技術挑戰。相反，他們必須思考這些技術對人類的影響。在 AI 達到人類水平的表現之前，其對工作和社會的影響已經十分深遠且廣泛。從建筑工地監控到虛擬化身，我所展示的例子只是開始。目前最緊迫的任務是確保這些變革能夠增強而不是削弱人類的潛力。我們現在所做的決策，不僅會影響未來的工作，還會影響在 AI 增強的世界里人類的未來。
譯者：boxi。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
