本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
Amazon Bedrock 支援的 APIs
支援的推論 APIs
Amazon Bedrock 提供四種主要 API 模式,可在 Amazon Bedrock 中執行推論。
| API 方法 | 服務端點 | 最適合 的使用案例 | 金鑰功能 |
|---|---|---|---|
| 回應 API (建議) | bedrock-mantle.<suffix> |
狀態對話 | 將 Responses API 用於需要內建工具 (搜尋、程式碼解譯器)、多模式輸入和具狀態對話的現代客服人員應用程式 |
| 聊天完成 | bedrock-mantle.<suffix> (建議) 和 bedrock-runtime.<suffix> |
無狀態多轉聊天 | 將聊天完成 API 用於輕量、無狀態、以文字為中心的任務,其中您需要完全控制聊天歷史記錄管理和更低延遲。 |
| Converse 方法 | bedrock-runtime.<suffix> |
多轉聊天/標準化 | Converse API 提供與 Amazon Bedrock 中所有模型互動的統一界面。 |
| 叫用 方法 | bedrock-runtime.<suffix> |
單一交易/大型承載 | 調用 API 可讓您直接存取具有更多能力控制請求和回應格式的模型。 |
注意:尾碼為 {region}.amazonaws.com
進一步了解 Amazon Bedrock 支援的 APIs。
在 APIs之間決定
您使用的 API 取決於您的使用案例。
| 使用案例 | 建議的 API |
|---|---|
| 從 OpenAI API 相容端點遷移 | 使用 OpenAI 相容 APIs:回應 API |
| 使用與 OpenAI 相容端點不相容的模型 | 使用原生 Amazon Bedrock APIs:Converse 和 Invoke。如需詳細資訊,請參閱使用 API 提交提示並產生回應。 |
| 所有模型的一致界面 | Converse API - 適用於所有支援訊息的模型。編寫程式碼一次,並搭配不同的模型使用。如需範例程式碼,請參閱 Converse API 範例。 |
| 具有完全控制的直接模型存取 | 叫用 API - 提供對模型的直接存取,對請求和回應格式有更多控制權。使用 產生文字、影像和內嵌。如需範例程式碼,請參閱叫用模型程式碼範例。 |
| Amazon Bedrock 的新手 | 從回應 API 開始 |
每個 API 和端點支援的模型
首先,瀏覽我們的模型以決定您要使用的模型。決定要使用的模型後,您可以根據選擇要使用的端點,查看其支援的 APIs和 。bedrock-mantle 支援回應和聊天完成 API。bedrock-runtime 支援調用和轉換 API。