多容器端點

SageMaker AI 多容器端點可讓客戶在單一 SageMaker AI 端點上部署使用不同模型或架構的多個容器。容器可按順序作為推論管道執行，或者透過直接調用個別存取每個容器，以提高端點使用率並最佳化成本。

如需有關如何依序調用多容器端點中容器的資訊，請參閱Amazon SageMaker AI 中的推論管道。

如需有關調用多容器端點中特定容器的資訊，請參閱透過直接調用調用多容器端點

主題

• 建立多容器端點 (Boto 3)

• 更新多容器端點

• 透過直接調用調用多容器端點

• 具有直接調用的多容器端點的安全性

• 具有直接調用的多容器端點指標

• 自動擴展多容器端點

• 排解多容器端點問題

下列政策只有在 TargetContainerHostname欄位的值符合其中一個指定規則表達式時，才能允許 invoke_endpoint請求。

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Action": [
                "sagemaker:InvokeEndpoint"
            ],
            "Effect": "Allow",
            "Resource": "arn:aws:sagemaker:region:account-id:endpoint/endpoint_name",
            "Condition": {
                "StringLike": {
                    "sagemaker:TargetContainerHostname": ["customIps*", "common*"]
                }
            }
        }
    ]
}

當 TargetContainerHostname欄位的值符合 Deny陳述式中指定的規則表達式之一時，下列政策會拒絕 invoke_endpoint請求。

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Action": [
                "sagemaker:InvokeEndpoint"
            ],
            "Effect": "Allow",
            "Resource": "arn:aws:sagemaker:region:account-id:endpoint/endpoint_name",
            "Condition": {
                "StringLike": {
                    "sagemaker:TargetContainerHostname": ["*"]
                }
            }
        },
        {
            "Action": [
                "sagemaker:InvokeEndpoint"
            ],
            "Effect": "Deny",
            "Resource": "arn:aws:sagemaker:region:account-id:endpoint/endpoint_name",
            "Condition": {
                "StringLike": {
                    "sagemaker:TargetContainerHostname": ["special*"]
                }
            }
        }
    ]
}

如需有關 SageMaker AI 條件金鑰的資訊，請參閱 AWS Identity and Access Management 使用者指南中的 SageMaker AI 的條件金鑰。