云实例

Amazon SageMaker Neo 为流行的机器学习框架（例如 TensorFlow、 PyTorch、MXnet 等）提供编译支持。您可以将编译后的模型部署到云实例和 AWS Inferentia 实例。有关支持的框架和实例类型的完整列表，请参阅支持的实例类型和框架。

您可以通过以下三种方式之一编译模型：通过 AWS CLI、 SageMaker 控制台或适用于 Python 的 SageMaker SDK。有关更多信息，请参阅使用 Neo 编译模型。编译完成后，您的模型构件将存储在您在编译作业期间指定的 Amazon S3 桶 URI 中。您可以使用 SageMaker 适用于 Python 的软件开发工具包、、或控制台将编译后的模型部署到云实例和 AWS Inferentia 实例。 AWS SDK for Python (Boto3) AWS CLI AWS

如果您使用 AWS CLI控制台或 Boto3 部署模型，则必须为主容器选择 Docker 镜像 Amazon ECR URI。有关 Amazon ECR URI 的列表，请参阅 Neo 推理容器映像。