新火種
2025-03-08 
GenAI時(shí)代，開(kāi)發(fā)AIAgent須知
AI Agent已經(jīng)在改變未來(lái)的工作和勞動(dòng)力。以下是開(kāi)發(fā)人員和技術(shù)領(lǐng)導(dǎo)者需要了解的AI Agent知識(shí)。
想象一下為生成式AI時(shí)代開(kāi)發(fā)一個(gè) API 的情景。這種 API 將支持自然語(yǔ)言輸入，利用大型語(yǔ)言模型的智能，通過(guò)與 SaaS 和企業(yè)系統(tǒng)集成實(shí)現(xiàn)決策自動(dòng)化，并通過(guò)連接其他啟用 GenAI 的 API 實(shí)現(xiàn)業(yè)務(wù)流程協(xié)作。
這就是理解AI Agent是什么以及它們?nèi)绾喂ぷ鞯囊环N方法，它們將支持 RAG、LLM 推理與獲取上下文業(yè)務(wù)知識(shí)和半獨(dú)立行動(dòng)的能力整合在一起。LLM 接收自然語(yǔ)言輸入并回答問(wèn)題，而AI Agent則更像是實(shí)際完成工作的業(yè)務(wù)伙伴。更復(fù)雜的自主代理被設(shè)計(jì)為在很大程度上不與人類互動(dòng)的情況下工作。由于是自主的，它們?cè)诮忉屳斎牒筒扇⌒袆?dòng)時(shí)會(huì)承擔(dān)更多風(fēng)險(xiǎn)。
AI Agent正在改變未來(lái)的工作方式，為開(kāi)發(fā)人員、企業(yè)用戶和其他人提供基于角色的合作伙伴，積極主動(dòng)地自動(dòng)執(zhí)行任務(wù)，并充當(dāng)知識(shí)淵博的合作者。AI Agent的用例范圍和適用性超出了 GenAI 的智能信息處理范圍，因此正在引發(fā)巨大的商業(yè)興趣。許多AI Agent用例并不是天馬行空的，而是有可能獲得資助的可靠提案。
TEKsystems 首席技術(shù)官 Ram Palaniappan 說(shuō)，AI Agent已經(jīng)從基于規(guī)則的系統(tǒng)發(fā)展成為能夠進(jìn)行自然語(yǔ)言交互的智能、GenAI 驅(qū)動(dòng)型工具。它們可以部署在各種用例中，如采購(gòu)部門評(píng)估供應(yīng)商和下訂單，客戶支持部門執(zhí)行復(fù)雜的故障排除，醫(yī)療保健部門提供診斷摘要。可擴(kuò)展性、全天候可用性和簡(jiǎn)化的工作流程使流程驅(qū)動(dòng)、人力密集型運(yùn)營(yíng)的組織受益匪淺。
AI Agent vs 應(yīng)用程序接口API
讓我們先來(lái)了解一下AI Agent與 API 和其他網(wǎng)絡(luò)服務(wù)有何不同。
AI Agent接收自然語(yǔ)言和其他非技術(shù)輸入，包括接收語(yǔ)音、圖像和視頻的新興AI Agent。而應(yīng)用程序接口只接收 JSON 和 XML 等面向系統(tǒng)的輸入。
AI Agent不使用編碼業(yè)務(wù)規(guī)則，而是連接到 RAG、語(yǔ)言模型和其他 GenAI 模型，以獲取相關(guān)知識(shí)。
AI Agent可以根據(jù)其被分配的角色和規(guī)定的不應(yīng)該做的事情推理出下一步的行動(dòng)路線。由于應(yīng)用程序接口是規(guī)則驅(qū)動(dòng)的，因此需要花費(fèi)更多的編程時(shí)間和精力來(lái)模擬不同的角色、決策和行動(dòng)。
應(yīng)用程序接口和AI Agent都可以執(zhí)行事務(wù)并與其他服務(wù)通信。AI Agent還可以根據(jù)自己的決定采取行動(dòng)，并向其他AI Agent發(fā)送自然語(yǔ)言提示。
AI Agent向人類合作者提供自然語(yǔ)言輸出。非技術(shù)人員可以驗(yàn)證AI Agent的理解水平及其行動(dòng)，因?yàn)闆Q策步驟以及與應(yīng)用程序接口和其他AI Agent的連接都是用自然語(yǔ)言總結(jié)的。
“為客戶服務(wù)等用例構(gòu)建AI Agent的開(kāi)發(fā)人員應(yīng)該使用自然語(yǔ)言來(lái)編碼業(yè)務(wù)邏輯，而不是代碼。”Forethought公司聯(lián)合創(chuàng)始人Deon Nicholas說(shuō)，“他們應(yīng)該讓代理Agent具備與 API 通信的能力，就像人類與網(wǎng)站通信一樣。這將開(kāi)啟真正的AI Agent，使其能夠采取行動(dòng)并解決問(wèn)題，提供真正的附加值。”
您需要哪種AI Agent?
AI Agent有幾種類型，按其做出決策和執(zhí)行行動(dòng)的方式來(lái)分類。基于模型的AI Agent用人工智能模型和支持?jǐn)?shù)據(jù)取代規(guī)則，而基于目標(biāo)和效用的AI Agent則在選擇行動(dòng)方案前比較不同的情況。更復(fù)雜的人工智能學(xué)習(xí)代理使用反饋回路來(lái)改進(jìn)結(jié)果，而分層代理則以小組形式工作，分解復(fù)雜的任務(wù)。
能否用自然語(yǔ)言界面封裝 API 并將其稱為AI Agent?答案是肯定的;這些都是簡(jiǎn)單的反射式代理，利用規(guī)則將自然語(yǔ)言輸入連接到行動(dòng)。
開(kāi)發(fā) AI Agent 的先決條件是什么?
在開(kāi)發(fā)AI Agent時(shí)，您應(yīng)該了解涉及平臺(tái)、數(shù)據(jù)、集成、安全性和合規(guī)性的先決條件。
“AI Agent的成功需要一個(gè)基礎(chǔ)平臺(tái)來(lái)處理數(shù)據(jù)集成、有效的流程自動(dòng)化和非結(jié)構(gòu)化數(shù)據(jù)管理。”Tray.ai 的聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Rich Waldron 說(shuō)，“AI Agent的架構(gòu)可以與嚴(yán)格的數(shù)據(jù)政策和安全協(xié)議保持一致，這使得它們能夠有效地幫助 IT 團(tuán)隊(duì)提高生產(chǎn)力，同時(shí)確保合規(guī)性。”
Enthought 公司首席運(yùn)營(yíng)官 Mike Connell 說(shuō)，你需要大量干凈且(對(duì)某些應(yīng)用而言)貼有標(biāo)簽的數(shù)據(jù)，這些數(shù)據(jù)能準(zhǔn)確地反映問(wèn)題領(lǐng)域，以便訓(xùn)練和驗(yàn)證模型。Connell 說(shuō)：“強(qiáng)大的數(shù)據(jù)管道對(duì)于預(yù)處理、轉(zhuǎn)換和確保實(shí)時(shí)數(shù)據(jù)流的可用性至關(guān)重要，以便完善模型并使其適應(yīng)不斷變化的世界。此外，還應(yīng)考慮是否需要特定領(lǐng)域的本體或嵌入，以增強(qiáng)代理對(duì)上下文的理解和決策能力。”
關(guān)于安全性和合規(guī)性，Immuta 公司研究副總裁 Joseph Regensburger 說(shuō)，AI Agent具有身份，因此訪問(wèn)復(fù)雜的人工智能鏈和知識(shí)圖譜需要像控制人類訪問(wèn)一樣進(jìn)行控制。Regensburger 建議：“在訪問(wèn)控制解決方案中捕捉法規(guī)和業(yè)務(wù)協(xié)議的頻繁變化，并對(duì)所有潛在的人類和機(jī)器行為者強(qiáng)制執(zhí)行。” 跟上不斷變化的業(yè)務(wù)規(guī)則對(duì)于確保AI Agent不會(huì)根據(jù)過(guò)時(shí)的使用協(xié)議進(jìn)行開(kāi)發(fā)至關(guān)重要。
開(kāi)發(fā)AI Agent的技術(shù)和平臺(tái)
Appian、Atlassian、Cisco Webex、Cloudera、Pega、Salesforce、SAP、ServiceNow 和 Workday 等企業(yè)平臺(tái)已宣布在其工作流程和用戶體驗(yàn)中嵌入AI Agent功能。例如，Workday 的招聘代理可以幫助 HR 招聘人員尋找和招聘人才，而 Atlassian 的人工智能虛擬服務(wù)代理可以幫助自動(dòng)處理一級(jí)支持問(wèn)題。
一些平臺(tái)還為主題專家和非技術(shù)業(yè)務(wù)用戶提供了開(kāi)發(fā)自己的 AI Agent的功能。Salesforce Agent Builder 允許非技術(shù)用戶創(chuàng)建定制的 AI Agent。用戶可以描述代理的角色并選擇要完成的工作的主題，人工智能會(huì)將這些主題映射到平臺(tái)上可以執(zhí)行的活動(dòng)中。其他具有AI Agent創(chuàng)建功能的平臺(tái)包括 Cisco Webex AI Agent Studio、ServiceNow Agentic AI 和 Tray.ai Merlin Agent Builder。
AI Agent開(kāi)發(fā)的第一種選擇是直接從平臺(tái)供應(yīng)商那里獲得服務(wù)，他們使用你的數(shù)據(jù)進(jìn)行代理分析，然后提供 API 來(lái)執(zhí)行事務(wù)。第二種選擇是低代碼或無(wú)代碼、自動(dòng)化和數(shù)據(jù)結(jié)構(gòu)平臺(tái)，它們可以為代理開(kāi)發(fā)提供通用工具。
“低代碼和專業(yè)代碼工具將混合用于構(gòu)建代理，但低代碼將占主導(dǎo)地位，因?yàn)闃I(yè)務(wù)分析師將有權(quán)構(gòu)建自己的解決方案，”Copado 宣傳高級(jí)副總裁 David Brooks 說(shuō)，“這將有利于企業(yè)快速迭代滿足關(guān)鍵業(yè)務(wù)需求的代理。專業(yè)編碼人員將使用AI Agent來(lái)構(gòu)建服務(wù)和集成，從而提供代理服務(wù)。”
第三種選擇是使用代碼、AI Agent構(gòu)建器或 LLM 應(yīng)用程序框架原生開(kāi)發(fā)AI Agent。
“你既可以使用Python或C++等原生語(yǔ)言構(gòu)建AI Agent，也可以使用AutoGen、LangGraph或CrewAI等框架，但這些框架可能無(wú)法很好地?cái)U(kuò)展，也沒(méi)有足夠的防護(hù)措施。” Aisera公司首席執(zhí)行官Abhi Maheshwari說(shuō)，還需要現(xiàn)代化的數(shù)據(jù)基礎(chǔ)設(shè)施，如數(shù)據(jù)湖或Lakehouse。數(shù)據(jù)還必須與領(lǐng)域相關(guān)，并 “使用 LLM 或 RAG 微調(diào)等技術(shù)進(jìn)行無(wú)縫集成。”
希望成為AI Agent開(kāi)發(fā)先行者的企業(yè)可能需要重新審視其數(shù)據(jù)管理平臺(tái)、開(kāi)發(fā)工具和更智能的 devops 流程，以便能夠大規(guī)模開(kāi)發(fā)和部署代理。
“為了加速Agent開(kāi)發(fā)，企業(yè)需要一套強(qiáng)大的工具，使他們能夠大規(guī)模地設(shè)計(jì)、定制、部署和監(jiān)控代理。”IBM watsonx.ai 產(chǎn)品管理總監(jiān) Maryam Ashoori 說(shuō)，“這包括針對(duì)功能調(diào)用進(jìn)行優(yōu)化的模型、協(xié)調(diào)代理并將其與更廣泛的企業(yè)工具集連接起來(lái)的中間件、優(yōu)化運(yùn)行、技術(shù)護(hù)欄和治理功能，以確保它們按預(yù)期運(yùn)行。這還需要滿足廣泛用戶和技能組合的工具，從面向開(kāi)發(fā)人員的專業(yè)代碼工具到面向業(yè)務(wù)用戶的低代碼和無(wú)代碼工具，以便將它們嵌入日常工作流程。”
測(cè)試AI Agent
測(cè)試 LLM 和驗(yàn)證準(zhǔn)確性需要人類測(cè)試人員、自動(dòng)化和合成數(shù)據(jù)來(lái)進(jìn)行基本的準(zhǔn)確性測(cè)試，而更復(fù)雜的技術(shù)則利用二級(jí)人工智能模型和生成對(duì)抗網(wǎng)絡(luò) (GAN) 來(lái)進(jìn)行大規(guī)模測(cè)試。
Couchbase公司負(fù)責(zé)人工智能、數(shù)據(jù)和分析的產(chǎn)品和戰(zhàn)略副總裁拉Rahul Pradhan說(shuō)：“通過(guò)復(fù)雜的可觀測(cè)性工具、反饋回路和回退機(jī)制來(lái)測(cè)試準(zhǔn)確性，將有助于企業(yè)建立對(duì)AI Agent的信任，這標(biāo)志著利用能夠自主執(zhí)行任務(wù)的代理的飛躍。”
AnswerRocket公司首席技術(shù)官兼聯(lián)合創(chuàng)始人Mike Finley表示，可以分兩個(gè)階段對(duì)AI Agent進(jìn)行準(zhǔn)確性測(cè)試：
要求AI Agent提供記錄在案的證明點(diǎn)，其中使用或引用的任何事實(shí)都包括其來(lái)源，做出的任何決定都包括描述其輸入的記錄在案的邏輯步驟。
人工智能核查員監(jiān)督代理，其工作是觀察其他AI Agent的工作，審查準(zhǔn)確性，同時(shí)尋找微妙的線索，如語(yǔ)氣的變化。
AI Agent將重新定義勞動(dòng)力
LLM 和 RAG 在生成式AI方面受到了廣泛的關(guān)注，而AI Agent如何影響各種業(yè)務(wù)工作流程的生產(chǎn)率，則要看AI Agent的潛力。隨著越來(lái)越多的平臺(tái)提供Agent和可擴(kuò)展的開(kāi)發(fā)平臺(tái)，可能會(huì)出現(xiàn)新的人類和人工智能責(zé)任。
“AI Agent將重塑工作場(chǎng)所并創(chuàng)造新的角色，例如‘代理經(jīng)理’，負(fù)責(zé)監(jiān)督專業(yè)代理，從戰(zhàn)略上指導(dǎo)這些系統(tǒng)，并確保與業(yè)務(wù)角色保持一致。”Augury公司戰(zhàn)略副總裁Artem Kroupenev表示，“隨著多代理系統(tǒng)的發(fā)展，可能會(huì)出現(xiàn)類似人力資源部門的部門來(lái)管理人類和AI Agent的混合勞動(dòng)力，重點(diǎn)是培訓(xùn)、協(xié)調(diào)和績(jī)效指標(biāo)。這種混合方法可以將人類的直覺(jué)與機(jī)器的效率結(jié)合起來(lái)，從而提高生產(chǎn)力。”
發(fā)展的關(guān)鍵可能不在于開(kāi)發(fā)AI Agent有多容易，而在于組織是否以及如何信任它們，員工是否接受它們的能力。
作者Isaac Sacolick是數(shù)字轉(zhuǎn)型學(xué)習(xí)公司StarCIO的總裁，他指導(dǎo)企業(yè)來(lái)領(lǐng)導(dǎo)組織的轉(zhuǎn)型變革。
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個(gè)人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對(duì)本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn)，讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前，請(qǐng)務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對(duì)因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
