Imagens de contêiner de inferência - Amazon SageMaker

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Imagens de contêiner de inferência

SageMaker O Neo agora fornece informações de URI de imagem de inferência para ml_* alvos. Para obter mais informações, consulte DescribeCompilationJob.

Com base no seu caso de uso, substitua a parte destacada no modelo de URI da imagem de inferência fornecido abaixo pelos valores adequados.

aws_account_id.dkr.ecr.aws_region.amazonaws.com/xgboost-neo:latest

Substitua aws_account_id da tabela no final desta página com base na aws_region que você usou.

aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-neo-keras:fx_version-instance_type-py3

Substitua aws_account_id da tabela no final desta página com base na aws_region que você usou.

Substitua fx_version por 2.2.4.

Substitua instance_type por cpu ou gpu.

CPU or GPU instance types
aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-inference-mxnet:fx_version-instance_type-py3

Substitua aws_account_id da tabela no final desta página com base na aws_region que você usou.

Substitua fx_version por 1.8.0.

Substitua instance_type por cpu ou gpu.

Inferentia1
aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-neo-mxnet:fx_version-instance_type-py3

Substitua aws_region por us-east-1 ou us-west-2.

Substitua aws_account_id da tabela no final desta página com base na aws_region que você usou.

Substitua fx_version por 1.5.1.

Substitua instance_type pelo inf.

aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-neo-onnx:fx_version-instance_type-py3

Substitua aws_account_id da tabela no final desta página com base na aws_region que você usou.

Substitua fx_version por 1.5.0.

Substitua instance_type por cpu ou gpu.

CPU or GPU instance types
aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-inference-pytorch:fx_version-instance_type-py3

Substitua aws_account_id da tabela no final desta página com base na aws_region que você usou.

Substitua fx_version por 1.4, 1.5, 1.6, 1.7, 1.8, 1.12, 1.13 ou 2.0.

Substitua instance_type por cpu ou gpu.

Inferentia1
aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-neo-pytorch:fx_version-instance_type-py3

Substitua aws_region por us-east-1 ou us-west-2.

Substitua aws_account_id da tabela no final desta página com base na aws_region que você usou.

Substitua fx_version por 1.5.1.

Substitua instance_type pelo inf.

Inferentia2 and Trainium1
763104351884.dkr.ecr.aws_region.amazonaws.com/pytorch-inference-neuronx:1.13.1-neuronx-py38-sdk2.10.0-ubuntu20.04

Substitua aws_region com us-east-2 por Inferentia2 e us-east-1 por Trainium1.

CPU or GPU instance types
aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-inference-tensorflow:fx_version-instance_type-py3

Substitua aws_account_id da tabela no final desta página com base na aws_region que você usou.

Substitua fx_version por 1.15.3 ou 2.9.

Substitua instance_type por cpu ou gpu.

Inferentia1
aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-neo-tensorflow:fx_version-instance_type-py3

Substitua aws_account_id da tabela no final desta página com base na aws_region que você usou. Observe que para tipos de instância inf apenas us-east-1 e us-west-2 tem suporte.

Substitua fx_version por 1.15.0

Substitua instance_type por inf.

Inferentia2 and Trainium1
763104351884.dkr.ecr.aws_region.amazonaws.com/tensorflow-inference-neuronx:2.10.1-neuronx-py38-sdk2.10.0-ubuntu20.04

Substitua aws_region com us-east-2 por Inferentia2 e us-east-1 por Trainium1.

A tabela a seguir mapeia aws_account_id com aws_region. Use essa tabela para encontrar o URI correto da imagem de inferência que você precisa para seu aplicativo.

aws_account_id aws_region
785573368785 us-east-1
00:7: 39, 36,8137 us-east-2
710691900526 us-west-1
301217895009 us-west-2
802834080501 eu-west-1
205493899709 eu-west-2
254080097072 eu-west-3
601324751636 eu-north-1
966458181534 eu-south-1
746233611703 eu-central-1
110948597952 ap-east-1
763008648453 ap-south-1
941853720454 ap-northeast-1
151534178276 ap-northeast-2
925152966179 ap-northeast-3
324986816169 ap-southeast-1
355873309152 ap-southeast-2
474822919863 cn-northwest-1
472730292857 cn-north-1
756306329178 sa-east-1
464438896020 ca-central-1
836785723513 me-south-1
774647643957 af-south-1
275950707576 il-central-1