部署自定义模型进行按需型推理 - Amazon Nova

部署自定义模型进行按需型推理

通过模型自定义作业(微调、蒸馏或持续预训练)成功创建自定义模型后,可以为模型设置按需型推理。

要为自定义模型设置按需型推理,请使用自定义模型部署来部署模型。部署自定义模型后,请使用部署的 Amazon 资源名称 (ARN) 作为 InvokeModelConverse API 操作中的 modelId 参数。您可以通过 Amazon Bedrock 功能(例如演示平台、代理和知识库),将已部署的模型用于按需型推理。

支持的模型

您可以为以下模型设置按需型推理:

  • Amazon Nova Canvas

  • Amazon Nova Lite

  • Amazon Nova Micro

  • Amazon Nova Pro