建置 - Amazon Bedrock

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

建置

若要開始使用 Amazon Bedrock 建置模型,請先從使用案例開始。然後選擇 API、端點,然後以程式設計方式開始使用模型。

根據您的使用案例選擇 API

Amazon Bedrock 提供四種主要 API 模式,可在 Amazon Bedrock 中執行推論。回應聊天完成調用交談。進一步了解支援的 APIs。

情況 建議的 API
從 OpenAI API 相容端點遷移 使用 OpenAI 相容 APIs:回應 API 或聊天完成 API
使用與 OpenAI 相容端點不相容的模型 使用原生 Amazon Bedrock APIs:ConverseInvoke。進一步了解如何為您的使用案例選擇正確的 APIs。

選擇 Amazon Bedrock 的端點

識別要使用的 API 之後,您就可以識別要用來以程式設計方式與 Amazon Bedrock 互動的端點。進一步了解支援的 APIs。

端點 支援的 APIs
bedrock-mantle.* 回應 API聊天完成 API
bedrock-runtime.* 叫用 APIConverse API聊天完成 API

選擇模型

您可以根據您使用的端點,查看 Amazon Bedrock 支援的模型清單。

端點 API Description
bedrock-runtime.* ListFoundationModels 傳回 Bedrock 中所有可用基礎模型的清單。提供有關多個模型的摘要資訊,包括其模型 IDs、提供者名稱、支援的模態 (文字、影像、內嵌)、輸入/輸出格式,以及它們是否支援串流或自訂。使用 GetFoundationModel API,使用其模型 ID 擷取特定基礎模型的詳細資訊。
bedrock-mantle.* client.models.list 可探索可用模型的 OpenAI 相容 API。擷取可與回應 API 和聊天完成 API 搭配使用的模型清單。