新火種
2024-11-27 
只需三步，在CoresHub上搭建你的AI大模型應(yīng)用
人工智能已進入大模型時代，ChatGPT??已不再一家獨大，各種生成式大模型紛紛開源?；陂_源模型制作定制化的落地應(yīng)用成為開發(fā)愛好者研究的新方向，基石智算不僅提供 AI??算力的支持，還支持大模型應(yīng)用開發(fā)部署，只需三步就能讓開發(fā)者構(gòu)建屬于自己的 AI??應(yīng)用。平臺不僅內(nèi)置了主流的通義千問、Llama、百川等主流開源大模型，還支持用戶私有模型上傳，快來搭建屬于你的 AI 應(yīng)用吧。
第一步 注冊基石智算平臺賬號
注冊并登錄 coreshub.cn，完成認證，立即獲得最高 500 元算力券！
第二步 模型部署
方式一 模型廣場模型
1、平臺內(nèi)置主流模型，可以在模型廣場選取模型進行部署
2、點擊模型部署后，選取對應(yīng)算力資源
方式二 私有模型
1、將本地私有模型上傳到 “存儲與數(shù)據(jù)服務(wù)”
2、點擊模型部署，創(chuàng)建推理服務(wù)，進行模型文件上傳
創(chuàng)建推理任務(wù)
點擊創(chuàng)建推理任務(wù)，進入推理服務(wù)詳情頁面，在服務(wù)信息頁簽內(nèi)，獲取外網(wǎng)訪問地址和 API 密鑰。
第三步 模型調(diào)用
方式一 手動調(diào)用
1.模型部署完成后，用戶可打開本地電腦終端。
2.執(zhí)行如下命令，直接發(fā)送 HTTP POST 請求。
方式二 集成架構(gòu)的方式調(diào)用
1、開啟第三方工具，配置相應(yīng)參數(shù)，檢查連通性。以使用 OpenAI 為例，其他工具請用戶自行參考相應(yīng)的官方說明。API 代理地址：為推理服務(wù)的外網(wǎng)訪問鏈接，用戶需根據(jù)相應(yīng)服務(wù)生成的外網(wǎng)鏈接自行修改。
2、API 連通性檢查完畢后，即可實現(xiàn)回話功能。
方式三 臨時調(diào)用
推理服務(wù)的外網(wǎng)訪問鏈接生成后，可直接通過修改外網(wǎng)鏈接的方式，使用瀏覽器使用大語言模型。
1.完成模型部署，獲取外網(wǎng)訪問鏈接。
2.將外網(wǎng)訪問鏈接中的??inference 字段修改為??inference-web。
3.在瀏覽器中輸入修改后的外網(wǎng)鏈接，即可直接使用。
相關(guān)推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內(nèi)容相關(guān)的任何行動之前，請務(wù)必進行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負任何責任。
