AI generativa per AWS SRA

Questa sezione fornisce i consigli attuali per utilizzare l'IA generativa in modo sicuro per migliorare la produttività e l'efficienza per utenti e organizzazioni. Si concentra sull'uso di Amazon Bedrock sulla base del set olistico di linee guida dell'AWS SRA per la distribuzione della gamma completa di servizi di sicurezza AWS in un ambiente multi-account. Questa guida si basa sull'SRA per abilitare funzionalità di intelligenza artificiale generativa all'interno di un framework sicuro di livello aziendale. Copre i principali controlli di sicurezza come le autorizzazioni IAM, la protezione dei dati, la convalida di input/output, l'isolamento della rete, la registrazione e il monitoraggio specifici delle funzionalità di intelligenza artificiale generativa di Amazon Bedrock.

I destinatari di questa guida sono professionisti della sicurezza, architetti e sviluppatori responsabili dell'integrazione sicura delle funzionalità di intelligenza artificiale generativa nelle loro organizzazioni e applicazioni. 

L'SRA analizza le considerazioni sulla sicurezza e le best practice per queste funzionalità di intelligenza artificiale generativa di Amazon Bedrock: 

• Capacità 1. Fornire a sviluppatori e data scientist l'accesso e l'uso sicuri dei modelli fondamentali (inferenza dei modelli)

• Capacità 2. Fornire accesso, utilizzo e implementazione sicuri di soluzioni RAG (Retrieval Augmented Generation)

• Capacità 3. Fornire accesso, utilizzo e implementazione sicuri di agenti di intelligenza artificiale generativa autonomi

• Capacità 4. Fornire accesso, utilizzo e implementazione sicuri della personalizzazione del modello

La guida spiega anche come integrare la funzionalità di intelligenza artificiale generativa di Amazon Bedrock nei carichi di lavoro AWS tradizionali in base al tuo caso d'uso. 

Le seguenti sezioni di questa guida approfondiscono ciascuna di queste quattro funzionalità, illustrano la logica alla base della funzionalità e del suo utilizzo, trattano le considerazioni sulla sicurezza relative alla funzionalità e spiegano come utilizzare i servizi e le funzionalità AWS per affrontare le considerazioni sulla sicurezza (correzione). La logica, le considerazioni sulla sicurezza e le soluzioni correttive dell'uso dei modelli di base (capacità 1) si applicano a tutte le altre funzionalità, poiché tutte utilizzano l'inferenza del modello. Ad esempio, se la tua applicazione aziendale utilizza un modello Amazon Bedrock personalizzato con funzionalità RAG (Retrieval Augmented Generation), devi considerare la logica, le considerazioni sulla sicurezza e le correzioni delle funzionalità 1, 2 e 4.

L'architettura illustrata nel diagramma seguente è un'estensione dell'unità organizzativa AWS SRA Workloads illustrata in precedenza in questa guida.

Un'unità organizzativa specifica è dedicata alle applicazioni che utilizzano l'intelligenza artificiale generativa. L'unità organizzativa è costituita da un account applicativo in cui è ospitata l'applicazione AWS tradizionale che fornisce funzionalità aziendali specifiche. Questa applicazione AWS utilizza le funzionalità di intelligenza artificiale generativa fornite da Amazon Bedrock. Queste funzionalità vengono fornite dall'account Generative AI, che ospita Amazon Bedrock pertinenti e i servizi AWS associati. Il raggruppamento dei servizi AWS in base al tipo di applicazione aiuta a far rispettare i controlli di sicurezza tramite policy di controllo dei servizi specifiche dell'unità organizzativa e dell'account AWS. Ciò semplifica anche l'implementazione di un forte controllo degli accessi e dei privilegi minimi. Oltre a queste unità organizzative e account specifici, l'architettura di riferimento descrive unità organizzative e account aggiuntivi che forniscono funzionalità di sicurezza di base applicabili a tutti i tipi di applicazioni. Gli account Org Management, Security Tooling, Log Archive, Network e Shared Services sono descritti nelle sezioni precedenti di questa guida.

Considerazioni di natura progettuale

Puoi suddividere ulteriormente il tuo account di intelligenza artificiale generativa in base all'ambiente del ciclo di vita dello sviluppo del software (SDLC) (ad esempio, sviluppo, test o produzione) o per modello o comunità di utenti.

• Separazione degli account basata sull'ambiente SDLC: come best practice, separa gli ambienti SDLC in unità organizzative separate. Questa separazione garantisce l'isolamento e il controllo adeguati di ogni ambiente e supporto. Offre:

  • Accesso controllato. A diversi team o individui può essere concesso l'accesso ad ambienti specifici in base ai loro ruoli e responsabilità. 

  • Isolamento delle risorse. Ogni ambiente può avere le proprie risorse dedicate (come modelli o knowledge base) senza interferire con altri ambienti. 

  • Monitoraggio dei costi. I costi associati a ciascun ambiente possono essere tracciati e monitorati separatamente. 

  • Mitigazione del rischio. I problemi o gli esperimenti in un ambiente (ad esempio lo sviluppo) non influiscono sulla stabilità di altri ambienti (ad esempio, la produzione). 

• Separazione degli account in base al modello o alla comunità di utenti: nell'architettura attuale, un account fornisce l'accesso a più modelli di base (FM) per l'inferenza tramite AWS Bedrock. Puoi utilizzare i ruoli IAM per fornire il controllo degli accessi a FM preaddestrate in base ai ruoli e alle responsabilità degli utenti. (Per un esempio, consulta la documentazione di Amazon Bedrock.) Al contrario, puoi scegliere di separare i tuoi account di intelligenza artificiale generativa in base al livello di rischio, al modello o alla comunità di utenti. Questo può essere utile in alcuni scenari: 

  • Livelli di rischio della comunità di utenti: se diverse comunità di utenti hanno diversi livelli di rischio o requisiti di accesso, account separati potrebbero aiutare a far rispettare controlli e filtri di accesso appropriati. 

  • Modelli personalizzati: per i modelli personalizzati con i dati dei clienti, se sono disponibili informazioni complete sui dati di formazione, account separati potrebbero fornire un migliore isolamento e controllo. 

Sulla base di queste considerazioni, è possibile valutare i requisiti specifici, le esigenze di sicurezza e le complessità operative associate al caso d'uso. Se l'obiettivo principale è Amazon Bedrock e i FM preaddestrati, un singolo account con ruoli IAM potrebbe essere un approccio praticabile. Tuttavia, se hai requisiti specifici per la separazione tra modelli e comunità di utenti o se prevedi di utilizzare modelli predefiniti dai clienti, potrebbero essere necessari account separati. In definitiva, la decisione dovrebbe essere guidata da esigenze e fattori specifici dell'applicazione, quali sicurezza, complessità operativa e considerazioni sui costi.

Nota: per semplificare le discussioni e gli esempi seguenti, questa guida presuppone una singola strategia di account di intelligenza artificiale generativa con ruoli IAM.

Amazon Bedrock

Amazon Bedrock è un modo semplice per creare e scalare applicazioni di intelligenza artificiale generativa con modelli di base (FM). Come servizio completamente gestito, offre una scelta di FM ad alte prestazioni delle principali aziende di intelligenza artificiale, tra cui AI21 Labs, Anthropic, Cohere, Meta, Stability AI e Amazon. Offre inoltre un'ampia gamma di funzionalità necessarie per creare applicazioni di intelligenza artificiale generative e semplifica lo sviluppo mantenendo la privacy e la sicurezza. I FM fungono da elementi costitutivi per lo sviluppo di applicazioni e soluzioni di intelligenza artificiale generativa. Fornendo l'accesso ad Amazon Bedrock, gli utenti possono interagire direttamente con questi FM tramite un'interfaccia intuitiva o tramite l'API Amazon Bedrock. L'obiettivo di Amazon Bedrock è fornire una scelta di modelli tramite un'unica API per la sperimentazione, la personalizzazione e l'implementazione rapide in produzione, supportando al contempo il passaggio rapido a diversi modelli. È tutta una questione di scelta del modello.

Puoi sperimentare modelli pre-addestrati, personalizzare i modelli per i tuoi casi d'uso specifici e integrarli nelle tue applicazioni e nei tuoi flussi di lavoro. Questa interazione diretta con i fMS consente alle organizzazioni di prototipare e iterare rapidamente su soluzioni di intelligenza artificiale generativa e di sfruttare i più recenti progressi nell'apprendimento automatico senza la necessità di ampie risorse o competenze per addestrare modelli complessi da zero. La console Amazon Bedrock semplifica il processo di accesso e utilizzo di queste potenti funzionalità di intelligenza artificiale generativa.

Amazon Bedrock offre una serie di funzionalità di sicurezza per contribuire alla privacy e alla sicurezza dei tuoi dati: 

• Tutti i contenuti utente elaborati da Amazon Bedrock sono isolati dall'utente, crittografati a riposo e archiviati nella regione AWS in cui utilizzi Amazon Bedrock. I tuoi contenuti vengono inoltre crittografati in transito utilizzando almeno TLS 1.2. Per ulteriori informazioni sulla protezione dei dati in Amazon Bedrock, consulta la documentazione di Amazon Bedrock. 

• Amazon Bedrock non archivia né registra le istruzioni e i completamenti. Amazon Bedrock non utilizza i tuoi prompt e i tuoi completamenti per addestrare alcun modello AWS e non li distribuisce a terze parti.

• Quando sintonizzi un FM, le modifiche utilizzano una copia privata di quel modello. Ciò significa che i dati non vengono condivisi con i fornitori di modelli o utilizzati per migliorare i modelli di base. 

• Amazon Bedrock implementa meccanismi automatici di rilevamento degli abusi per identificare potenziali violazioni della policy di AWS Responsible AI. Per ulteriori informazioni sul rilevamento degli abusi in Amazon Bedrock, consulta la documentazione di Amazon Bedrock. 

• Amazon Bedrock rientra nell'ambito di standard di conformità comuni, tra cui International Organization for Standardization (ISO), System and Organization Controls (SOC), Federal Risk and Authorization Management Program (FedRAMP) Moderate e Cloud Security Alliance (CSA) Security Trust Assurance and Risk (STAR) Level 2. Amazon Bedrock è idoneo all'Health Insurance Portability and Accountability Act (HIPAA) e puoi utilizzare questo servizio in conformità al Regolamento generale sulla protezione dei dati (GDPR). Per sapere se un servizio AWS rientra nell'ambito di programmi di conformità specifici, consulta i servizi AWS in Scope by Compliance Program e scegli il programma di conformità che ti interessa. 

Per saperne di più, consulta l'approccio sicuro di AWS all'intelligenza artificiale generativa. 

Guardrail per Amazon Bedrock

Guardrails for Amazon Bedrock ti consente di implementare protezioni per le tue applicazioni di intelligenza artificiale generativa in base ai tuoi casi d'uso e alle politiche di intelligenza artificiale responsabili. Un guardrail in Amazon Bedrock è costituito da filtri che puoi configurare, argomenti che puoi definire per bloccare e messaggi da inviare agli utenti quando il contenuto viene bloccato o filtrato.

Il filtraggio dei contenuti dipende dalla classificazione di confidenza degli input degli utenti (convalida dell'input) e delle risposte FM (convalida dell'output) in sei categorie dannose. Tutte le dichiarazioni di input e output sono classificate in uno dei quattro livelli di confidenza (nessuno, basso, medio, alto) per ciascuna categoria dannosa. Per ogni categoria, puoi configurare la potenza dei filtri. La tabella seguente mostra il grado di contenuto che ogni potenza del filtro blocca e consente.

Resistenza del filtro	Confidenza dei contenuti bloccati	Confidenza dei contenuti consentita
Nessuno	Nessun filtro	Nessuno, basso, medio, alto
Bassa	Elevata	Nessuno, basso, medio
Media	Alto, medio	Nessuna, bassa
Elevata	Alto, medio, basso	Nessuno

Quando sei pronto per implementare il guardrail in produzione, ne crei una versione e richiami la versione del guardrail nell'applicazione. Segui i passaggi nella scheda API nella sezione Test a guardrail della documentazione di Amazon Bedrock. 

Sicurezza

Per impostazione predefinita, i guardrail sono crittografati con una chiave gestita AWS in AWS Key Management Services (AWS KMS). Per impedire agli utenti non autorizzati di accedere ai guardrail, il che potrebbe comportare modifiche indesiderate, ti consigliamo di utilizzare una chiave gestita dal cliente per crittografare i guardrail e limitare l'accesso ai guardrail utilizzando le autorizzazioni IAM con privilegi minimi.

Valutazione del modello Amazon Bedrock

Amazon Bedrock supporta i processi di valutazione dei modelli. Puoi utilizzare i risultati di un lavoro di valutazione del modello per confrontare i risultati del modello e quindi scegliere il modello più adatto alle tue applicazioni di intelligenza artificiale generativa a valle.

È possibile utilizzare un processo di valutazione automatico del modello per valutare le prestazioni di un modello utilizzando un set di dati di prompt personalizzato o un set di dati integrato. Per ulteriori informazioni, consulta Creazione di una valutazione automatica del modello e Utilizzo di set di dati rapidi nei processi di valutazione del modello nella documentazione di Amazon Bedrock.

I lavori di valutazione dei modelli che utilizzano lavoratori umani apportano il contributo umano dei dipendenti o degli esperti in materia al processo di valutazione. 

Sicurezza

La valutazione del modello deve avvenire in un ambiente di sviluppo. Per consigli sull'organizzazione degli ambienti non di produzione, consulta il white paper Organizing Your AWS Environment Using Multiple Accounts.

Tutti i lavori di valutazione dei modelli richiedono autorizzazioni IAM e ruoli di servizio IAM. Per ulteriori informazioni, consulta la documentazione di Amazon Bedrock per le autorizzazioni necessarie per creare un processo di valutazione del modello utilizzando la console Amazon Bedrock, i requisiti del ruolo di servizio e le autorizzazioni CORS (Cross-Origin Resource Sharing) richieste. I lavori di valutazione automatica e i lavori di valutazione dei modelli che utilizzano lavoratori umani richiedono ruoli di servizio diversi. Per ulteriori informazioni sulle politiche necessarie affinché un ruolo esegua lavori di valutazione del modello, consulta i requisiti dei ruoli di servizio per i lavori di valutazione automatica del modello e Requisiti dei ruoli di servizio per i lavori di valutazione dei modelli che utilizzano valutatori umani nella documentazione di Amazon Bedrock.

Per i set di dati dei prompt personalizzati, devi specificare una configurazione CORS sul bucket S3. Per la configurazione minima richiesta, consulta la documentazione di Amazon Bedrock. Nei processi di valutazione del modello che utilizzano lavoratori umani è necessario disporre di un team di lavoro. Puoi creare o gestire, creare o gestire team di lavoro mentre configuri un lavoro di valutazione dei modelli e aggiungere lavoratori a una forza lavoro privata gestita da Amazon SageMaker Ground Truth. Per gestire i team di lavoro creati in Amazon Bedrock al di fuori della configurazione del lavoro, devi utilizzare le console Amazon Cognito o Amazon Ground SageMaker Truth. Amazon Bedrock supporta un massimo di 50 lavoratori per team di lavoro.

Durante il processo di valutazione del modello, Amazon Bedrock crea una copia temporanea dei dati, quindi li elimina al termine del processo. Utilizza una chiave AWS KMS per crittografarlo. Per impostazione predefinita, i dati sono crittografati con una chiave gestita AWS, ma consigliamo di utilizzare invece una chiave gestita dal cliente. Per ulteriori informazioni, consulta la sezione Crittografia dei dati per i lavori di valutazione dei modelli nella documentazione di Amazon Bedrock.