Gestione di rete - SageMaker Best practice per l'amministrazione di Studio

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Gestione di rete

Per configurare il dominio SageMaker AI Studio, devi specificare la VPC rete, le sottoreti e i gruppi di sicurezza. Quando specificate le sottoreti VPC and, assicuratevi di effettuare l'allocazione IPs tenendo conto del volume di utilizzo e della crescita prevista, come illustrato nelle sezioni seguenti.

VPCpianificazione della rete

Le VPC sottoreti dei clienti associate al dominio SageMaker AI Studio devono essere create con l'intervallo Classless Inter-domain Routing (CIDR) appropriato, in base ai seguenti fattori:

  • Numero di utenti.

  • Numero di app per utente.

  • Numero di tipi di istanze univoci per utente.

  • Numero medio di istanze di formazione per utente.

  • Percentuale di crescita prevista.

SageMaker L'intelligenza artificiale e AWS i servizi partecipanti inseriscono interfacce di rete elastiche (ENI) nella VPC sottorete del cliente per i seguenti casi d'uso:

  • Amazon EFS inserisce un come ENI target di EFS montaggio per il dominio SageMaker AI (un IP per sottorete/zona di disponibilità collegata al SageMaker dominio AI).

  • SageMaker AI Studio inietta un ENI per ogni istanza univoca utilizzata da un profilo utente o da uno spazio condiviso. Per esempio:

    • Se un profilo utente esegue un'app server Jupyter predefinita (un'istanza di «sistema»), un'app Data Science e un'app Base Python (entrambe in esecuzione su un'ml.t3.mediumistanza), Studio inserisce due indirizzi IP.

    • Se un profilo utente esegue un'app server Jupyter predefinita (un'istanza di «sistema»), un'GPUapp Tensorflow (su un'ml.g4dn.xlargeistanza) e un'app data wrangler (su un'ml.m5.4xlargeistanza), Studio inietta tre indirizzi IP.

  • E ENI per ogni VPC endpoint viene iniettato tra le VPC sottoreti di dominio/le zone di disponibilità (quattro IPs per gli endpoint SageMaker AI; ~sei per gli VPC endpoint dei servizi partecipanti come S3, 0, e.) IPs VPC ECR CloudWatch

  • Se i processi di formazione ed elaborazione dell' SageMaker IA vengono avviati con la stessa VPC configurazione, ogni processo necessita di due indirizzi IP per istanza.

Nota

VPCle impostazioni per SageMaker AI Studio, come le sottoreti e il VPC solo traffico, non vengono trasferite automaticamente ai lavori di formazione/elaborazione creati da AI Studio. SageMaker L'utente deve configurare VPC le impostazioni e l'isolamento della rete, se necessario, quando chiama APIs Create*Job. Per ulteriori informazioni, consulta Run Training and Inference Containers in modalità senza Internet.

Scenario: Data scientist esegue esperimenti su due diversi tipi di istanze

In questo scenario, supponiamo che un dominio SageMaker AI sia impostato in modalità VPC solo traffico. Sono configurati VPC endpoint, come SageMaker AIAPI, SageMaker AI runtime, Amazon S3 e Amazon. ECR

Un data scientist sta eseguendo esperimenti sui notebook Studio, eseguendoli su due diversi tipi di istanza (ad esempio ml.t3.medium eml.m5.large) e avviando due app per ogni tipo di istanza.

Supponiamo che il data scientist esegua contemporaneamente un processo di formazione con la stessa VPC configurazione su un'istanza. ml.m5.4xlarge

In questo scenario, il servizio SageMaker AI Studio eseguirà l'iniezione ENIs come segue:

Tabella 1: ENIs iniettato nel cliente VPC per uno scenario di sperimentazione

Entità

Target

ENIiniettato

Note

Livello

EFSbersaglio di montaggio

VPCsottoreti

Tre

Tre /sottoreti AZs

Domain

Endpoint VPC

VPCsottoreti

30

Tre AZs /sottoreti da 10 ciascuna VPCE

Domain

Server Jupyter

Sottorete VPC

One

Un IP per istanza

Utente

KernelGateway app

Sottorete VPC

Due

Un IP per tipo di istanza

Utente

Addestramento

Sottorete VPC

Due

Due IPs per istanza di formazione

Cinque IPs per istanza di formazione, se EFAutilizzata

Utente

In questo scenario, il cliente ha un totale di IPs 38 utenti, di VPC cui 33 IPs sono condivisi tra gli utenti a livello di dominio e cinque IPs a livello di utente. Se hai 100 utenti con profili utente simili in questo dominio che eseguono queste attività contemporaneamente, consumerai cinque x 100 = 500 IPs a livello di utente, oltre al consumo IP a livello di dominio, che è di 11 IPs per sottorete, per un totale di 511. IPs In questo scenario, è necessario creare la VPC sottorete CIDR con /22 che allocherà 1024 indirizzi IP, con margini di crescita.

VPCopzioni di rete

Un dominio SageMaker AI Studio supporta la configurazione della VPC rete con una delle seguenti opzioni:

  • Solo Internet pubblico

  • Solo VPC

L'opzione dedicata esclusivamente alla rete Internet pubblica consente SageMaker ai API servizi di intelligenza artificiale di utilizzare la rete Internet pubblica tramite il VPC gateway Internet fornito nell'account del servizio SageMaker AI gestito dall'account, come illustrato nel diagramma seguente:

Modalità predefinita: accesso a Internet tramite l'account del servizio SageMaker AI.

Modalità predefinita: accesso a Internet tramite account del servizio SageMaker AI

L'VPCunica opzione disabilita il routing Internet dall'account del servizio VPC Managed by the SageMaker AI e consente al cliente di configurare il traffico da indirizzare sugli VPC endpoint, come illustrato nel diagramma seguente:

VPCunica modalità: nessun accesso a Internet tramite l'account del servizio AI. SageMaker

VPCmodalità unica: nessun accesso a Internet tramite l'account del servizio SageMaker AI

Per un dominio configurato in modalità VPC solo, configura un gruppo di sicurezza per profilo utente per garantire l'isolamento completo delle istanze sottostanti. Ogni dominio di un AWS account può avere la propria VPC configurazione e modalità Internet. Per maggiori dettagli sulla configurazione della VPC rete, consulta Connect SageMaker AI Studio Notebooks in a VPC a External Resources.

Limitazioni

  • Dopo aver creato un dominio SageMaker AI Studio, non è possibile associare nuove sottoreti al dominio.

  • Il tipo di VPC rete (solo Internet pubblico o VPC solo) non può essere modificato.