新火種
2023-11-10 
GPT更大、更智能、更快、更便宜、更簡單！OpenAI是“最令人興奮的公司”
AI界的“科技春晚”、OpenAI開發者大會，到底有多令人興奮？
11月7日，在OpenAI開發者大會之后，科技博主Dan Shipper發表了一篇有關他在這場大會上見聞的文章，他介紹了OpenAI提出的主要更新，并稱OpenAI的進步速度驚人，未來幾個月和幾年將“非常瘋狂”。
Shipper說，OpenAI推出的GPT-4 Turbo有著五大升級：更大的上下文容量、更高的智能級別、更快的響應速度、更低的價格以及更簡單的操作。它不僅令模型本身得到加強，與模型交互的方式也更簡單、便捷。全新的檢索功能和自動維護對話狀態使開發者可以更容易地構建應用；無代碼自定義ChatGPT又降低了普通用戶的門檻。
他認為，以上的這些特性為OpenAI日后推出代理服務的更新奠定了基礎。所謂代理，即模型可以自主規劃和執行更復雜、多步驟的任務，并且在沒有監督的情況下完成。雖然GPT-4現在還沒有“聰明”到那個程度，但OpenAI已經在為這個目標做準備。
Shipper還分析了OpenAI試圖建立應用商店的戰略。他認為這個戰略可以讓用戶建立自己個性化的GPT并且據此收費，是一種令構建聊天機器人的能力民主化的表現。但這種戰略同時也存在問題，比如用戶可能對于在不同版本的ChatGPT之間切換感到疲憊——Shipper認為這是OpenAI需要解決的問題。
最后，他還提到了OpenAI與開發者之間的微妙關系。他指出，OpenAI近來發布的許多更新更多地針對的都是消費者，而非開發者，但OpenA最初成立的目標卻是服務開發者。這造成了一種矛盾，即ChatGPT會直接與開發者產生競爭。
Shipper認為，如果OpenAI不得不在ChatGPT和其開發者生態系統之間做出選擇，它將選擇前者：
ChatGPT是OpenAI最有價值的高質量訓練數據來源，所以它是改進模型質量的最佳途徑。
Shipper補充稱，這實際上是許多科技公司所面臨的核心問題，比如蘋果也因其內部產品與第三方開發者產品競爭而遭到批評，但這個問題對于OpenAI來說可能更為嚴峻：
這就像蘋果允許開發者發布自己版本的iOS。
但總體而言，Shipper認為，OpenAI的這場活動仍然是激動人心的，并且展示了這家公司驚人的進步速度：
現在沒有任何公司比OpenAI做的工作更有趣、更快。這家公司的進步速度驚人，在可預見的未來也沒有放慢的跡象。
在這個會議上，業內的說法是，OpenAI是一個人才強者，給人的感覺非常像鼎盛時期的Stripe。(事實上，我聽說OpenAI聘用了許多曾在Stripe工作過的人。)
房間里的能量是顯而易見的。我認為科技行業中沒有更大、更有趣的故事了。未來的幾個月和幾年將非常瘋狂。
以下為Shipper在其創辦的科技資訊網站Every上發表的文章原文，由整理編譯：
?
我在OpenAI開發者日上的見聞
我喜歡觀察人們以為無人注意時的舉止動作。
這就是參加OpenAI開發者日等活動的難得之處：你可以看到攝像頭沒有捕捉到的東西，聽到臺上沒有說出口的話語。
現場人頭攢動，水泄不通，WiFi飛快，LED燈閃閃發亮。這是為AI技術迷如我準備的魔術秀。
我在人群中穿梭，做著我的專利動作FCO："偷偷摸摸地窺視會議"（Furtive Conference Ogle）。我會看到某個也許很有名的人——比如說，Roon，或者Karpathy，或者Kevin Roose——然后迅速低頭看一眼他們的徽章，在他們給我一個"嘿，我的眼睛在這里，伙計！"的表情之前又抬起頭來看他們的臉。
我通常喜歡在活動中坐在后排，但在開發者日我確保坐在了前排。我想近距離觀看這場魔術秀。
Sam Altman走上舞臺，向觀眾致意。在他表演時，我可以從他的臉上和身上看到緊繃、內斂、緊張的能量。我能從他的表演中感受到他經過數小時的練習。簡短的開場獨白之后，Sam介紹了一段視頻，視頻中創意專業人士、開發人員和普通人都在談論他們是如何使用ChatGPT的。燈光暗下來，他走到一邊，視頻開始了。大家都在看視頻，我卻在看Sam。
他獨自站在舞臺一角的陰影里。他穿著深色牛仔褲和原色的阿迪達斯x樂高合作款運動鞋。他雙手合十，目不轉睛地盯著地板。Sam很緊張，總是"繃著"。但在舞臺一側，聽著正在播放的視頻，他卻顯得不修邊幅，不學無術。我感覺自己抓住了魔術師操縱一枚隱藏硬幣的左手，而觀眾們卻在看他揮舞的右手。
暫時看穿魔術師的秘密會打破他們的魔力。但它也會創造一種新的魔力：你會將魔術師看作一個人類。吃飯，呼吸，一條腿一條腿地穿褲子，卻仍然施法。
Sam正在成為科技界的傳奇人物。但在舞臺上的那一刻，他也是一個人。他看起來樂在其中，觀察并期待著自己創造的東西，并看著它在世界最大的舞臺上上演。他實現了所有曾經制造過某樣東西并希望世界會喜歡它的人的夢想。
目睹他那一刻本身就值回入場券的價格。我不會很快忘記。
以下是他要告訴我們的：
更大、更智能、更快、更便宜、更簡單。
這就是OpenAI昨天宣布的主要變化。讓我們逐一回顧這些更新，并討論它們為何如此重要。
一個新模型：GPT-4 Turbo更大
OpenAI推出了一款新模型GPT-4 Turbo，它擁有128K的Token上下文窗口。這意味著你發送給GPT-4 Turbo的每個提示符可以相當于300頁的文本。以下這些東西在300頁以內：
埃里克·萊斯的《精益創業》的全部內容圣?？颂K佩里的《小王子》三本我中學時喜怒無常的日記的至少一半這比今天之前最廣泛使用的GPT-4版本的上下文窗口長度增加了16倍。它顯著增強了開發人員使用GPT-4可以運行的查詢的復雜性和功能。以前，開發人員必須花費時間和精力來決定將哪些信息放入他們的提示符中，這是LLM性能最重要的瓶頸之一。
128K的上下文窗口極大地簡化了這一任務，但并未解決所有問題。過長的上下文窗口不易管理，而且語言模型會越來越多地忘記或忽略上下文信息。我們還不知道GPT-4 Turbo是否存在這些問題，我會在使用過程中與你分享。
更智能
GPT-4 Turbo在以下幾方面比OpenAI以前的模型更智能：
它可以同時使用多種工具。 之前版本的GPT-4引入了工具使用，我有報道過。工具使用允許GPT-4調用開發者定義的工具——如網頁瀏覽、計算器或API——來完成查詢。之前，GPT-4每次只能使用一個工具。現在它可以同時使用多個工具。
知識截止時間更新。 之前版本的GPT-4只知道到2021年9月之前的事件。這個版本更新到了2023年4月，使其更加可靠。
GPT-4會JSON。 JSON是一種非AI應用可以輕松讀取的文本格式。GPT-4 Turbo可以可靠地以這種格式返回結果——使其更易與其他軟件集成。之前，開發者需要通過例如告訴GPT如果格式錯誤就會被解雇來“哄騙”它正確格式化輸出。不再需要哄騙了。
GPT-4可以編寫和運行代碼。 一段時間以來，ChatGPT Plus用戶可以使用代碼解釋器(后改名為高級數據分析)，這是一個可以為你編寫和運行Python代碼的ChatGPT插件。它就像一個口袋里的數據科學家——現在開發者可以通過GPT-4 API使用和集成到自己的程序中。
多模態。 GPT-4 API可以接受圖像作為輸入：開發者可以發送任何圖像，GPT-4可以告訴他們看到了什么。它還可以進行文本到語音，這意味著它可以用人聲回復文本輸入。它還可以用DALL-E進行圖像生成。
更快
據我所知，目前還沒有公開的速度基準測試，但Sam說它更快。根據我昨晚穿著睡衣進行的科學測試，他是對的。它真的很快。它讓GPT-4望塵莫及，看起來至少和GPT 3.5 Turbo一樣快，甚至略快于GPT 3.5 Turbo——之前最快的模型。
更便宜
GPT-4 Turbo比GPT-4便宜3倍。我不記得有哪家公司能在大幅提升性能的同時還能降低價格。
我們很幸運，OpenAI采用的是硅谷的游戲規則，旨在創造大規模應用，而不僅僅是高額的企業合同。只要足夠便宜，人工智能就能為每個人所用，而這正是OpenAI的目標。
如果IBM發明了GPT，你認為它會做這樣的事情嗎？不會。
更簡單
OpenAI也使開發者和非開發者更容易與GPT-4 Turbo交互。該公司使許多第三方庫的功能(以及開發者通常編寫的模板代碼)變得不必要。以下是一些方式：
檢索。 這是一個重大進步。提高大型語言模型性能的最重要方式之一是讓模型訪問私人數據，如公司知識庫或個人筆記。以前，這種功能需要手動構建(就像我為我的Huberman實驗室聊天機器人所做的那樣)，或使用第三方庫，如Langchain或LlamaIndex(我是后者的投資人)。OpenAI通過其檢索功能將這些庫的部分功能集成到了其核心API中——使開發者更容易開始構建GPT-4應用程序。
這會產生有趣的結果。一方面，它減少了對這些第三方庫的需求。另一方面，OpenAI的檢索機制目前是一個黑箱，沒有可配置性。檢索是一個難題，不同目的有許多不同的檢索機制。OpenAI的新發布涵蓋了基礎知識，但Langchain和LlamaIndex實現了各種各樣的檢索類型，并且適用于非OpenAI制作的模型——所以它們的服務仍有需求。
保存狀態。 我之前寫過，GPT-4就像《初戀50次》里的朵琳·芭麗摩：每次和它交互時，你都必須一次又一次地介紹你是誰，為什么它愛你。GPT-4 API可以通過一個名為"Threads"（與Meta的Twitter克隆版無關聯）的新功能自動記住對話歷史，節省開發者的時間和麻煩，因為他們不再需要自己管理對話歷史。
自定義無代碼ChatGPT。 OpenAI還使任何人都可以輕松構建自己的自定義ChatGPT版本，內置私人數據——無需編程。任何人都可以設置一個ChatGPT版本，具有自己的個性和訪問私人知識的能力。這是一個重大進展。今年早些時候，我為Substack作者Lenny Rachitsky構建了一個基于他的新聞稿存檔的機器人。如今的更新意味著任何人都可以構建等效的機器人——無需編碼。
GPT應用商店。 OpenAI宣布任何人都可以在公共應用商店中列出自己的GPT并為之收費。我主張將聊天機器人作為一種新內容形式已經近一年了——這一發展支持了這一論點。
無需切換模型。 這是一個巨大的更新。在以前版本的ChatGPT中，您必須選擇要使用的模型： GPT-3.5、GPT-4、GPT with DALL-E、GPT with Web Browsing或GPT with Advanced Data Analysis?，F在，您只需要向ChatGPT發送一條消息，它就會為您選擇合適的模型。用戶可以更輕松地將ChatGPT的不同功能組合使用，無需來回切換，而且這為開發者創造了新機遇(本文后面會涵蓋)。
增量更新——為未來奠定基礎所有這些更新都很棒，但它們大多是增量。它們在API中構建了許多開發人員必須自己完成的任務，從而使開發人員構建的東西更快、更便宜、更強大。
不過，這些特性為一個可能更重要的更新奠定了基礎：代理。代理是一種模型，它可以被分配復雜的、多步驟的任務，并在沒有監督的情況下完成這些任務。這就是GPT-4的新助手API。
這是支持檢索、保存狀態和工具使用的API(如上所述)。這些要素加在一起，就是代理服務的開始。從目前的情況來看，OpenAI似乎正在預測一個世界，在這個世界中，您將能夠給助手分配一個目標，給他們一組工具，并讓他們自己完成目標。
我們離那還很遠，因為GPT-4還不夠聰明，無法自主規劃和執行任務。但OpenAI現在正在奠定架構和安全基礎，并有意推出漸進式步驟，以使技術準備就緒。
OpenAI正試圖打造一個應用商店今年4月，OpenAI推出了插件，允許用戶從ChatGPT內部訪問第三方服務和數據。有很多關于插件將成為一個新的App Store的宣傳，但事實并非如此。OpenAI從未發布過相關數據，但據我所知，第三方插件的采用率非常低，盡管OpenAI構建的兩個插件：代碼解釋器和DLL-E的采用率很高。
現在，OpenAI憑借GPT再次嘗試這一點——它的服務允許任何人使用私人數據創建ChatGPT的定制版本：
任何用戶都可以創建GPT。你可以定義它的個性：它如何回應詢問，使用什么聲音和語氣。您可以讓它訪問一些工具，比如執行代碼的能力，或者從私有知識庫中獲得問題的答案。然后可以發布gpt供其他用戶使用。
我安裝了一個名為“談判者”的新GPT(由OpenAI構建)，它可以幫助你在任何類型的談判中為自己辯護。它顯示在我的ChatGPT側欄如下：
如果我點擊談判者，它將把我從普通的ChatGPT中移出，進入一個專門設計的體驗，幫助我在任何談判中獲得最佳結果：
我很喜歡這種方法。我喜歡這個讓構建聊天機器人的能力民主化的想法——我可以預見，在接下來的幾周里，我將在這里進行大量的實驗。
盡管如此，我還是有疑問。它面臨著與OpenAI失敗的插件實驗相同的問題：沒有人愿意為不同的用例在不同版本的ChatGPT之間切換。
更好的方法是讓ChatGPT能夠在需要時自動切換到特定的個性，比如“談判專家”，并在不需要時再切換回來。在這發生之前，我看不到這些機器人有太大的采用。
但如果它發生了，那將是巨大的。為ChatGPT下載一個新的個性將等同于讓你的AI閱讀一本新主題的書或上一門課。在這個世界里，會有一整個經濟體的人創建的內容是專門針對LLM而不是人類。例如，我可能會購買ChatGPT閱讀和攝取的談判書等價物，而不是購買一本自己閱讀的談判書。
因此，我認為OpenAI最終確實有機會建立一個應用商店體驗。但在他們能夠弄明白如何讓ChatGPT在長長的個性列表之間自動切換之前，這是不會發生的。鑒于OpenAI改變了ChatGPT，以便您不必在其內部模型之間切換，這對自定義GPT來說也可能很快就會到來。
OpenAI與開發者的關系這個開發者大會最引人注目的一件事，是OpenAI發布的許多更新更多地是針對消費者而不是開發者。例如，自定義GPT是面向消費者的，OpenAI發布的一些ChatGPT特定更新也是如此。這反映了一件重要的事情：OpenAI目前處于消費者公司和開發者公司之間。
ChatGPT生來就是有原罪的。當OpenAI剛開始時，其目標是服務開發者——直到它意外地創建了有史以來最大的消費者應用。不幸的是，這使該公司與開發者處于對立面，因為ChatGPT直接與開發者想要構建的許多東西競爭——無論是在消費者層面還是基礎設施層面。
如果OpenAI不得不在ChatGPT和其開發者生態系統之間做出選擇，它將不得不選擇ChatGPT。ChatGPT是OpenAI最有價值的高質量訓練數據來源，所以它是改進模型質量的最佳途徑。
不僅如此，OpenAI還正在朝著商品化和消費化開發工作的方向發展。ChatGPT本身可以把任何人變成一個半熟練的程序員。它昨天推出的功能允許任何人在不需要編碼的情況下構建聊天機器人。
這是該公司核心的一個基本緊張關系。這個緊張關系也是許多平臺的核心——例如，蘋果公司面臨著iOS和MacOS的緊張關系。蘋果因內部產品與第三方開發者產品競爭而遭到批評，這被稱為“夏洛克”。
但對OpenAI來說這更成問題，因為它的消費者產品與它為開發者提供的產品驚人地相似。這就像蘋果允許開發者發布自己版本的iOS。
我猜如果你想在OpenAI生態系統中發揮作用，最好的方法是收集將對使用ChatGPT的某人有用的私人數據集，并將其作為自定義GPT發布。
OpenAI可能會投資于使GPT在ChatGPT界面中更易訪問、隨時間更強大。你帶到派對上的優勢將是私人的、經過策劃的數據——以及一套規則，用于說明如何為特定類型的用戶在特定情況下運用這些數據。這很可能不是OpenAI要直接競爭的東西——所以這是一個雙贏。
全球最激動人心的公司?現在沒有任何公司比OpenAI做的工作更有趣、更快。這家公司的進步速度驚人，在可預見的未來也沒有放慢的跡象。在這個會議上，業內的說法是，OpenAI是一個人才強者，給人的感覺非常像鼎盛時期的Stripe。(事實上，我聽說OpenAI聘用了許多曾在Stripe工作過的人。)
房間里的能量是顯而易見的。我認為科技行業中沒有更大、更有趣的故事了。未來的幾個月和幾年將非常瘋狂。
零碎事項多樣性。我很欣賞這次會議的包容性。據我所知，這家公司提供的食物非常美味，是由當地女性或少數族裔經營的企業提供的。演示和小組討論的演講者非常多樣化，他們在OpenAI和Shopify和Salesforce等其他大型科技公司擔任領導職務。這一切都很低調，沒有表演。在我看來，OpenAI做得對，值得贊揚。
OpenAI和微軟。一位與會者對我說，他認為OpenAI與微軟的關系讓他想起了蘋果與英特爾的長期合作關系。處理器是英特爾制造的，其他一切都是蘋果做的。在OpenAI的案例中，微軟提供托管基礎設施，而OpenAI負責其他所有工作。這不是一個完美的類比，但它引起了我的共鳴，尤其是在薩蒂亞·納德拉(Satya Nadella)出現在這次會議上，在Sam發表主題演講時與他站在舞臺上。
有人能分清OpenAI的命名嗎？我簡直不敢相信它將它的新自定義無代碼ChatGPTs命名為“GPTs”。需要有人出面干預——這太令人困惑了。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
