Endpoint multi-container

SageMaker gli endpoint multi-container consentono ai clienti di implementare più container, che utilizzano modelli o framework diversi, su un singolo endpoint. SageMaker I container possono essere eseguiti in sequenza come pipeline di inferenza oppure è possibile accedere a ciascun container singolarmente utilizzando la chiamata diretta per migliorare l'utilizzo degli endpoint e ottimizzare i costi.

Per informazioni sull'invocazione dei container in un endpoint multi-container in sequenza, consulta Pipeline di inferenza in Amazon SageMaker.

Per informazioni sull'invocazione di un container specifico in un endpoint multi-container, consulta Richiamare un endpoint multi-container con invocazione diretta

Argomenti

• Per creare un endpoint multi-container (Boto 3)
• Aggiornare un endpoint multi-container
• Richiamare un endpoint multi-container con invocazione diretta
• Sicurezza con endpoint multi-container con invocazione diretta
• Parametri per endpoint multi-container con invocazione diretta
• Endpoint multi-container con scalabilità automatica
• Risolvere i problemi relativi agli endpoint multi-container

Il criterio seguente consente le richieste invoke_endpoint solo quando il valore del campo TargetContainerHostname corrisponde a una delle espressioni regolari specificate.

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Action": [
                "sagemaker:InvokeEndpoint"
            ],
            "Effect": "Allow",
            "Resource": "arn:aws:sagemaker:region:account-id:endpoint/endpoint_name",
            "Condition": {
                "StringLike": {
                    "sagemaker:TargetContainerHostname": ["customIps*", "common*"]
                }
            }
        }
    ]
}

La policy seguente nega le richieste invoke_endpoint quando il valore del campo TargetContainerHostname corrisponde a una delle espressioni regolari specificate nella dichiarazione Deny.

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Action": [
                "sagemaker:InvokeEndpoint"
            ],
            "Effect": "Allow",
            "Resource": "arn:aws:sagemaker:region:account-id:endpoint/endpoint_name",
            "Condition": {
                "StringLike": {
                    "sagemaker:TargetContainerHostname": ["*"]
                }
            }
        },
        {
            "Action": [
                "sagemaker:InvokeEndpoint"
            ],
            "Effect": "Deny",
            "Resource": "arn:aws:sagemaker:region:account-id:endpoint/endpoint_name",
            "Condition": {
                "StringLike": {
                    "sagemaker:TargetContainerHostname": ["special*"]
                }
            }
        }
    ]
}

Per informazioni sulle chiavi di SageMaker condizione, consulta Condition Keys SageMaker nella Guida per l'AWS Identity and Access Management utente.