部署自定义模型进行按需型推理
通过模型自定义作业(微调、蒸馏或持续预训练)成功创建自定义模型后,可以为模型设置按需型推理。
要为自定义模型设置按需型推理,请使用自定义模型部署来部署模型。部署自定义模型后,请使用部署的 Amazon 资源名称 (ARN) 作为 InvokeModel
或 Converse
API 操作中的 modelId
参数。您可以通过 Amazon Bedrock 功能(例如演示平台、代理和知识库),将已部署的模型用于按需型推理。
支持的模型
您可以为以下模型设置按需型推理:
-
Amazon Nova Canvas
-
Amazon Nova Lite
-
Amazon Nova Micro
-
Amazon Nova Pro