本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
AnthropicClaude模型
本节提供推理参数和使用AnthropicClaude模型的代码示例。
您可以使用 Amazon Bedrock 发送AnthropicClaude文字补全 API或AnthropicClaude消息 API推断请求。
您可以使用消息 API 来创建对话应用程序,例如虚拟助手或指导应用程序。将文本补全 API 用于单圈文本生成应用程序。例如,为博客文章生成文本或摘要用户提供的文本。
您可以使用InvokeModel或 InvokeModelWithResponseStream(流式传输)向AnthropicClaude模型发出推理请求。您需要获得希望使用的模型的模型 ID。要获取模型的AnthropicClaude模型 ID,请参阅Amazon Bedrock 基本模型 ID(按需吞吐量) 和用于购买预配置吞吐量的 Amazon Bedrock 基本型号。
注意
要在推理调用中使用系统提示,必须使用以下模型之一:
-
Anthropic Claude 3.5 Sonnet
-
AnthropicClaude版本 2.1
-
AnthropicClaude 3模型,例如 Anthropic Claude 3 Opus
有关创建系统提示的信息,请参阅AnthropicClaude文档中的 https://docs.anthropic.com/claude/docs/how-to-use-system-prompts
为避免在 2.1 Anthropic Claude 版本中出现超时,我们建议将prompt
字段中的输入令牌数量限制为 180K。我们希望尽快解决这个超时问题。
在推理调用中,在body
字段中填入符合您要进行的类型调用的 JSON 对象,AnthropicClaude文字补全 API或。AnthropicClaude消息 API
有关为AnthropicClaude模型创建提示的信息,请参阅AnthropicClaude文档中的提示设计简介