本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
本節說明 AnthropicClaude 模型的請求參數和回應欄位。使用此資訊來使用 InvokeModel 和 InvokeModelWithResponseStream (串流) 操作對AnthropicClaude模型進行推論呼叫。本節也包含Python程式碼範例,示範如何呼叫AnthropicClaude模型。若要在推論操作中使用模型,您需要模型的模型 ID。若要取得模型 ID,請參閱 Amazon Bedrock 中支援的基礎模型。某些模型也可以使用 Converse API。若要檢查 Converse API 是否支援特定AnthropicClaude模型,請參閱 支援的模型和模型功能。如需更多程式碼範例,請參閱 使用 AWS SDKs Amazon Bedrock 程式碼範例。
Amazon Bedrock 中的基礎模型支援輸入和輸出模態,因模型而異。若要檢查AnthropicClaude模型支援的模態,請參閱 Amazon Bedrock 中支援的基礎模型。若要檢查AnthropicClaude模型支援的 Amazon Bedrock 功能,請參閱 Amazon Bedrock 中支援的基礎模型。若要檢查哪些 AWS 區域提供AnthropicClaude模型,請參閱 Amazon Bedrock 中支援的基礎模型。
當您使用AnthropicClaude模型進行推論呼叫時,您會包含模型的提示。如需為 Amazon Bedrock 支援的模型建立提示的一般資訊,請參閱 提示工程概念。如需AnthropicClaude特定提示資訊,請參閱AnthropicClaude提示工程指南
您可以使用 Amazon Bedrock 傳送Anthropic Claude 文字完成 API或Anthropic Claude 訊息 API推論請求。
您可以使用訊息 API 來建立對話式應用程式,例如虛擬助理或指導應用程式。將文字完成 API 用於單轉文字產生應用程式。例如,為部落格文章產生文字或摘要使用者提供的文字。
Anthropic Claude 模型支援使用 XML 標籤來建構和描述您的提示。例如,您可以在提示中以 <examples>
標籤包圍範例。使用描述性標籤名稱以獲得最佳結果。如需詳細資訊,請參閱 Anthropic 使用者指南
注意
若要在推論呼叫中使用系統提示,您必須使用下列其中一個模型:
-
Anthropic Claude 3.5 Sonnet
-
Anthropic Claude 2.1 版
-
Anthropic Claude 3 模型,例如 Anthropic Claude 3 Opus
如需有關建立系統提示的資訊,請參閱 Anthropic Claude 文件中的使用系統提示授予 Claude 角色
為了避免 2.1 AnthropicClaude版逾時,我們建議將 prompt
欄位中的輸入字符計數限制為 180K。我們預計很快就會解決這個逾時問題。
在推論呼叫中,將符合您要進行之呼叫類型的 JSON 物件填入 body
欄位,Anthropic Claude 文字完成 API或 Anthropic Claude 訊息 API。