Sicurezza nell'ottimizzazione dell'inferenza di Amazon SageMaker AI

La sicurezza del cloud AWS è la massima priorità. In qualità di AWS cliente, puoi beneficiare di un data center e di un'architettura di rete progettati per soddisfare i requisiti delle organizzazioni più sensibili alla sicurezza.

La sicurezza è una responsabilità condivisa tra AWS te e te. Il modello di responsabilità condivisa descrive questo come sicurezza del cloud e sicurezza nel cloud:

• Sicurezza del cloud: AWS è responsabile della protezione dell'infrastruttura che gestisce AWS i servizi nel AWS cloud. AWS ti fornisce anche servizi che puoi utilizzare in modo sicuro. Third-party i revisori testano e verificano regolarmente l'efficacia della nostra sicurezza nell'ambito dei programmi di AWS conformità. Per maggiori informazioni sui programmi di conformità che si applicano ad Amazon SageMaker AI, consulta AWS Services in Scope by Compliance Program.

• Sicurezza nel cloud: la tua responsabilità è determinata dal AWS servizio che utilizzi. Inoltre, sei responsabile anche di altri fattori, tra cui la riservatezza dei dati, i requisiti dell’azienda e le leggi e le normative applicabili.

Questa documentazione ti aiuta a capire come applicare il modello di responsabilità condivisa quando utilizzi le funzionalità di ottimizzazione dell'inferenza SageMaker AI, inclusi i lavori di benchmarking dell'IA, i lavori di raccomandazione dell'IA e le configurazioni dei carichi di lavoro AI.

Protezione dei dati

Il modello di responsabilità AWS condivisa si applica alla protezione dei dati nell'ottimizzazione dell'inferenza di Amazon SageMaker AI. Come descritto in questo modello, AWS è responsabile della protezione dell'infrastruttura globale che gestisce tutto il AWS cloud. L’utente è responsabile del controllo dei contenuti ospitati su questa infrastruttura.

Ai fini della protezione dei dati, ti consigliamo di proteggere le credenziali AWS dell'account e configurare i singoli utenti con AWS IAM Identity Center o AWS Identity and Access Management (IAM). In tal modo, a ogni utente verranno assegnate solo le autorizzazioni necessarie per svolgere i suoi compiti. Suggeriamo, inoltre, di proteggere i dati nei seguenti modi:

• Utilizza l’autenticazione a più fattori (MFA) con ogni account.

• SSL/TLS Da utilizzare per comunicare con AWS le risorse. È richiesto TLS 1.2 ed è consigliato TLS 1.3.

• Configura l'API e la registrazione delle attività degli utenti con AWS CloudTrail.

• Utilizza soluzioni di AWS crittografia, insieme a tutti i controlli di sicurezza predefiniti all'interno AWS dei servizi.

• Utilizza i servizi di sicurezza gestiti avanzati, come Amazon Macie, che aiutano a individuare e proteggere i dati sensibili archiviati in Amazon S3.

Ti consigliamo di non inserire mai informazioni riservate o sensibili, ad esempio gli indirizzi e-mail dei clienti, nei tag o nei campi di testo in formato libero, ad esempio nel campo Nome.

Quali dati memorizza l'ottimizzazione dell'inferenza SageMaker AI

SageMaker L'ottimizzazione dell'inferenza AI memorizza i seguenti tipi di dati:

• Metadati di lavoro: quando crei lavori di benchmark AI o lavori di raccomandazione AI, il servizio archivia i metadati di configurazione dei lavori come nomi dei lavori, stato, timestamp di creazione e parametri di configurazione delle risorse.

• Configurazioni del carico di lavoro: quando crei configurazioni di carichi di lavoro AI, il servizio memorizza i parametri di configurazione forniti, inclusi i parametri di benchmark, la configurazione dei set di dati e i tag.

• Risultati e consigli di benchmark: i risultati dei job, come le metriche delle prestazioni, le stime dei costi e i consigli di implementazione, vengono archiviati come metadati del lavoro all'interno del servizio.

SageMaker L'ottimizzazione dell'inferenza basata sull'intelligenza artificiale non memorizza i pesi dei modelli, i dati di addestramento o i risultati dell'inferenza. Gli artefatti del modello e i file di output dei benchmark rimangono nei bucket Amazon S3 all'interno del tuo account. AWS

Crittografia dei dati a riposo

SageMaker Per impostazione predefinita, l'ottimizzazione dell'inferenza AI crittografa tutti i dati archiviati inattivi. I metadati dei job e le configurazioni dei carichi di lavoro sono archiviati in Amazon DynamoDB, con crittografia a riposo. Non è necessario intraprendere alcuna azione per abilitare la crittografia a riposo.

Crittografia dei dati in transito

SageMaker L'ottimizzazione dell'inferenza AI utilizza TLS per crittografare tutti i dati in transito. Le richieste API al servizio vengono effettuate tramite HTTPS utilizzando TLS 1.2 o versione successiva.

Tutte le comunicazioni tra l'ottimizzazione dell'inferenza SageMaker AI e altri AWS servizi (come Amazon AWS DynamoDB, Lambda, Amazon AWS S3 e Secrets Manager) utilizzano connessioni. TLS-encrypted

Riservatezza del traffico Internet

SageMaker Gli endpoint dell'API di ottimizzazione dell'inferenza AI sono accessibili tramite Internet pubblico tramite HTTPS. Puoi utilizzare gli endpoint VPC per l'API SageMaker AI per mantenere il traffico tra il tuo VPC e l'API SageMaker AI all'interno della AWS rete, senza attraversare la rete Internet pubblica.

Quando fornisci una configurazione VPC per i tuoi lavori di benchmark AI, il servizio crea risorse all'interno delle sottoreti VPC e dei gruppi di sicurezza specificati.

Identity and Access Management

L'ottimizzazione dell'inferenza SageMaker AI di Amazon utilizza AWS Identity and Access Management (IAM) per controllare l'accesso alle sue risorse e operazioni.

In che modo l'ottimizzazione dell'inferenza SageMaker AI funziona con IAM

SageMaker L'ottimizzazione dell'inferenza AI è accessibile tramite l' SageMaker API AI. Tutte le chiamate API sono autenticate e autorizzate tramite IAM.

Le API di ottimizzazione dell'inferenza utilizzano il seguente namespace di azioni IAM:

• sagemaker:CreateAIWorkloadConfig

• sagemaker:DescribeAIWorkloadConfig

• sagemaker:ListAIWorkloadConfigs

• sagemaker:DeleteAIWorkloadConfig

• sagemaker:CreateAIBenchmarkJob

• sagemaker:DescribeAIBenchmarkJob

• sagemaker:ListAIBenchmarkJobs

• sagemaker:StopAIBenchmarkJob

• sagemaker:DeleteAIBenchmarkJob

• sagemaker:CreateAIRecommendationJob

• sagemaker:DescribeAIRecommendationJob

• sagemaker:ListAIRecommendationJobs

• sagemaker:StopAIRecommendationJob

• sagemaker:DeleteAIRecommendationJob

Ruoli di esecuzione

Quando crei un lavoro di benchmark AI o un lavoro di raccomandazione AI, fornisci un ruolo di esecuzione IAM (RoleArn). Il servizio assume questo ruolo per eseguire operazioni sul tuo AWS account, come:

• Creazione e gestione di lavori di formazione, endpoint e lavori di ottimizzazione basati sull' SageMaker intelligenza artificiale

• Lettura di artefatti del modello da Amazon S3

• Scrittura dei risultati dei benchmark su Amazon S3

• Accesso ai AWS segreti da Secrets Manager

Il ruolo di esecuzione deve avere una politica di fiducia che consenta al servizio di SageMaker intelligenza artificiale di assumerlo. Per ulteriori informazioni sulla creazione di ruoli di esecuzione SageMaker AI, consulta Ruoli SageMaker AI.

Isolamento delle risorse

SageMaker L'ottimizzazione dell'inferenza basata sull'intelligenza artificiale impone l'isolamento a livello di account. Ogni configurazione di processo e carico di lavoro è limitata all'account che l'ha creata. AWS Non è possibile accedere o modificare le risorse appartenenti a un altro AWS account.

Tutte le risorse di SageMaker intelligenza artificiale create dal servizio (lavori di formazione, endpoint, lavori di ottimizzazione) vengono create nel tuo AWS account utilizzando il tuo ruolo di esecuzione e sono soggette alle politiche IAM e alle quote di servizio del tuo account.

Best practice di sicurezza

Le seguenti best practice sono linee guida generali e non rappresentano una soluzione di sicurezza completa. Poiché queste best practice potrebbero non essere appropriate o sufficienti per l’ambiente, sono da considerare come considerazioni utili anziché prescrizioni.

Best practice di prevenzione

• Utilizza il privilegio minimo per le politiche IAM. Concedi solo le autorizzazioni minime richieste per gli utenti e i ruoli di esecuzione. Evita di utilizzare azioni o risorse wildcard (*) nelle policy IAM.

• Utilizza ruoli di esecuzione separati per carichi di lavoro diversi. Crea ruoli di esecuzione IAM dedicati per lavori di benchmark e job di raccomandazione anziché condividere un singolo ruolo tra tutti i carichi di lavoro.

• Usa AWS Secrets Manager per valori sensibili. Quando la specifica del carico di lavoro richiede valori sensibili come i token di accesso Hugging Face, usa il campo secrets per fare riferimento ai AWS segreti di Secrets Manager tramite ARN invece di passarli come parametri di testo in chiaro.

• Limita le politiche di attendibilità dei ruoli di esecuzione. Utilizza aws:SourceAccount e aws:SourceArn condiziona le politiche di fiducia per i ruoli di esecuzione per evitare il confuso problema del vicedirettore.

• Ambita le autorizzazioni di Amazon S3 per bucket specifici. Limiti s3:GetObject e s3:PutObject autorizzazioni per i bucket e i prefissi specifici di Amazon S3 utilizzati per gli artefatti del modello e gli output di benchmark.

• Abilita la crittografia dei bucket Amazon S3. Assicurati che i bucket Amazon S3 utilizzati per gli artefatti del modello e i risultati dei benchmark abbiano la crittografia lato server abilitata.

• Usa i tag per il controllo degli accessi. Applica i tag alle configurazioni dei carichi di lavoro di intelligenza artificiale, ai lavori di benchmark e ai lavori di raccomandazione. Puoi utilizzare condizioni basate su tag nelle policy IAM per controllare l'accesso a risorse specifiche.

Le migliori pratiche da Detective

• Abilita AWS CloudTrail. CloudTrail fornisce un registro di tutte le chiamate API SageMaker AI effettuate nel tuo account, comprese le operazioni di ottimizzazione dell'inferenza.

• Monitora con Amazon CloudWatch. Usa i CloudWatch parametri e gli allarmi di Amazon per monitorare lo stato e le prestazioni dei tuoi lavori di benchmark e raccomandazione.

• Esamina i risultati di IAM Access Analyzer. Utilizza IAM Access Analyzer per identificare le policy IAM che garantiscono un accesso eccessivamente ampio alle tue SageMaker risorse AI.

• Abilita la registrazione degli accessi ad Amazon S3. Abilita la registrazione dell'accesso al server sui bucket Amazon S3 utilizzati per gli artefatti del modello e i risultati dei benchmark per tracciare i modelli di accesso.