推論容器映像 - Amazon SageMaker

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

推論容器映像

SageMaker Neo 現在為ml_*目標提供推論影像 URI 資訊。如需詳細資訊,請參閱DescribeCompilationJob

根據您的使用案例,使用適當的值取代下方所提供之推論影像 URI 範本中重點標示的部分。

aws_account_id.dkr.ecr.aws_region.amazonaws.com/xgboost-neo:latest

根據您使用的 aws_region,取代本頁結尾資料表的 aws_account_id

aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-neo-keras:fx_version-instance_type-py3

根據您使用的 aws_region,取代本頁結尾資料表的 aws_account_id

使用 2.2.4 取代 fx_version

使用 cpugpu 取代 instance_type

CPU or GPU instance types
aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-inference-mxnet:fx_version-instance_type-py3

根據您使用的 aws_region,取代本頁結尾資料表的 aws_account_id

使用 1.8.0 取代 fx_version

使用 cpugpu 取代 instance_type

Inferentia1
aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-neo-mxnet:fx_version-instance_type-py3

使用 us-east-1us-west-2 取代 aws_region

根據您使用的 aws_region,取代本頁結尾資料表的 aws_account_id

使用 1.5.1 取代 fx_version

使用 inf 取代 instance_type

aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-neo-onnx:fx_version-instance_type-py3

根據您使用的 aws_region,取代本頁結尾資料表的 aws_account_id

使用 1.5.0 取代 fx_version

使用 cpugpu 取代 instance_type

CPU or GPU instance types
aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-inference-pytorch:fx_version-instance_type-py3

根據您使用的 aws_region,取代本頁結尾資料表的 aws_account_id

使用 1.41.51.61.71.81.121.132.0 取代 fx_version

使用 cpugpu 取代 instance_type

Inferentia1
aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-neo-pytorch:fx_version-instance_type-py3

使用 us-east-1us-west-2 取代 aws_region

根據您使用的 aws_region,取代本頁結尾資料表的 aws_account_id

使用 1.5.1 取代 fx_version

使用 inf 取代 instance_type

Inferentia2 and Trainium1
763104351884.dkr.ecr.aws_region.amazonaws.com/pytorch-inference-neuronx:1.13.1-neuronx-py38-sdk2.10.0-ubuntu20.04

使用適用於 Inferentia2 的 us-east-2 和適用於 Trainium1 的 us-east-1 取代 aws_region

CPU or GPU instance types
aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-inference-tensorflow:fx_version-instance_type-py3

根據您使用的 aws_region,取代本頁結尾資料表的 aws_account_id

使用 1.15.32.9 取代 fx_version

使用 cpugpu 取代 instance_type

Inferentia1
aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-neo-tensorflow:fx_version-instance_type-py3

根據您使用的 aws_region,取代本頁結尾資料表的 aws_account_id。請注意,針對執行個體類型 inf,只支援 us-east-1us-west-2

使用 1.15.0 取代 fx_version

使用 inf 取代 instance_type

Inferentia2 and Trainium1
763104351884.dkr.ecr.aws_region.amazonaws.com/tensorflow-inference-neuronx:2.10.1-neuronx-py38-sdk2.10.0-ubuntu20.04

使用適用於 Inferentia2 的 us-east-2 和適用於 Trainium1 的 us-east-1 取代 aws_region

以下資料表對應 aws_account_id aws_region。請使用此表,尋找您的應用程式所需的正確推論影像 URI。

aws_account_id aws_region
785573368785 us-east-1
007439368137 us-east-2
710691900526 us-west-1
301217895009 us-west-2
802834080501 eu-west-1
205493899709 eu-west-2
254080097072 eu-west-3
601324751636 eu-north-1
966458181534 eu-south-1
746233611703 eu-central-1
110948597952 ap-east-1
763008648453 ap-south-1
941853720454 ap-northeast-1
151534178276 ap-northeast-2
925152966179 ap-northeast-3
324986816169 ap-southeast-1
355873309152 ap-southeast-2
474822919863 cn-northwest-1
472730292857 cn-north-1
756306329178 sa-east-1
464438896020 ca-central-1
836785723513 me-south-1
774647643957 af-south-1
275950707576 il-central-1