预配置吞吐量支持的区域和型号 - Amazon Bedrock

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

预配置吞吐量支持的区域和型号

以下区域支持预置吞吐量:

区域
美国东部(弗吉尼亚州北部)
美国西部(俄勒冈州)
亚太地区(悉尼)
欧洲地区(巴黎)
欧洲地区(爱尔兰)
亚太地区(孟买)
AWS GovCloud (美国西部)
AWS GovCloud (美国西部)(仅适用于没有承诺的定制型号)

如果您通过 Amazon Bedrock API 购买预配置吞吐量,则必须为型号 ID 指定 Amazon Bedrock FM 的上下文变体。下表显示了您可以购买预置吞吐量的模型、是否可以在不承诺购买基本型号的情况下购买,以及购买预配置吞吐量时要使用的模型 ID。

模型名称 基本型号支持无承诺购买 预置吞吐量的型号 ID
Amazon Titan Text G1 - Express 亚马逊。 titan-text-express-v1:08 k
Amazon Titan Text G1 - Lite 亚马逊。 titan-text-lite-v1:0:4 k
亚马逊 Titan Text Premier(预览) 亚马逊。 titan-text-premier-v1:0:32 K
Amazon Titan Embeddings G1 - Text 亚马逊。 titan-embed-text-v1:2:8 k
亚马逊 Titan Embeddings G1 - Text v2 亚马逊。 titan-embed-text-v2:0:8 k
Amazon Titan Multimodal Embeddings G1 亚马逊。 titan-embed-image-v1:0
Amazon Titan Image Generator G1 亚马逊。 titan-image-generator-v1:0
AnthropicClaudev2 18K anthropic.claude-v2:0:18k
AnthropicClaudev2 100K anthropic.claude-v2:0:100k
AnthropicClaudev2.1 18K anthropic.claude-v2:1:18k
AnthropicClaudev2.1 200K anthropic.claude-v 2:1:200k
AnthropicClaude 3 Sonnet28K anthropic.claude-3-sonnet-20240229-v 1:0:28 k
AnthropicClaude 3 Sonnet200K anthropic.claude-3-sonnet-20240229-v 1:0:200 k
AnthropicClaude 3 Haiku48K anthropic.claude-3-haiku-20240307-v 1:0:48 k
AnthropicClaude 3 Haiku200K anthropic.claude-3-haiku-20240307-v 1:0:200 k
AnthropicClaude Instantv1 100K 人类。 claude-instant-v1:2:100 k
AI21 Labs Jurassic-2 Ultra ai21.j2-ultra-v 1:0:8 k
Cohere Command 一致。 command-text-v14:7:4 k
Cohere Command Light 一致。 command-light-text-v14:7:4 k
CohereEmbed英语 一致。 embed-english-v3:0:512
CohereEmbed多语言 一致。 embed-multilingual-v3:0:512
Stable Diffusion XL 1.0 稳定性。 stable-diffusion-xl-v1:0
MetaLlama 2 Chat13B meta.llama2-13 1:0:4 k b-chat-v
MetaLlama 213B (参见下面的注释)
MetaLlama 270B (参见下面的注释)
注意

MetaLlama 2(非聊天)模型只能在经过自定义购买预配置吞吐量后才能使用。