Seleziona le tue preferenze relative ai cookie

Utilizziamo cookie essenziali e strumenti simili necessari per fornire il nostro sito e i nostri servizi. Utilizziamo i cookie prestazionali per raccogliere statistiche anonime in modo da poter capire come i clienti utilizzano il nostro sito e apportare miglioramenti. I cookie essenziali non possono essere disattivati, ma puoi fare clic su \"Personalizza\" o \"Rifiuta\" per rifiutare i cookie prestazionali.

Se sei d'accordo, AWS e le terze parti approvate utilizzeranno i cookie anche per fornire utili funzionalità del sito, ricordare le tue preferenze e visualizzare contenuti pertinenti, inclusa la pubblicità pertinente. Per continuare senza accettare questi cookie, fai clic su \"Continua\" o \"Rifiuta\". Per effettuare scelte più dettagliate o saperne di più, fai clic su \"Personalizza\".

Blocca le immagini dannose con i filtri del contenuto delle immagini

Modalità Focus
Blocca le immagini dannose con i filtri del contenuto delle immagini - Amazon Bedrock

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Nota

I filtri dei contenuti delle immagini Guardrails per Amazon Bedrock sono in versione di anteprima e sono soggetti a modifiche.

Blocca le immagini dannose con filtri di contenuto (anteprima)

Amazon Bedrock Guardrails può aiutare a bloccare immagini inappropriate o dannose abilitando l'immagine come modalità durante la configurazione dei filtri dei contenuti all'interno di un guardrail.

Prerequisiti e limitazioni

  • Il supporto per rilevare e bloccare immagini dannose nei filtri di contenuto è attualmente disponibile in anteprima e non è consigliato per i carichi di lavoro di produzione.

  • Questa funzionalità è supportata solo per le immagini e non è supportata per le immagini con contenuti video incorporati.

  • Questa funzionalità è supportata solo per le categorie Odio, Insulti, Sessuale e Violenza all'interno dei filtri di contenuto e non per altre categorie, tra cui cattiva condotta e attacchi rapidi.

  • Gli utenti possono caricare immagini con dimensioni fino a un massimo di 4 MB, con un massimo di 20 immagini per una singola richiesta.

  • Per PNG i contenuti delle immagini sono supportati solo i JPEG formati e.

Panoramica

Il rilevamento e il blocco di immagini dannose sono supportati per le categorie Odio, Insulti, Sessuale e Violenza all'interno dei filtri di contenuto e per le immagini senza testo. Oltre al testo, gli utenti possono selezionare la modalità dell'immagine per le categorie precedenti all'interno dei filtri di contenuto durante la creazione di un guardrail e impostare il rispettivo livello di filtraggio su NONE,, LOWo. MEDIUMHIGH Queste soglie saranno comuni ai contenuti di testo e immagini per queste categorie, se sono selezionati sia il testo che l'immagine. Guardrails valuterà le immagini inviate come input dagli utenti o generate come output dalle risposte del modello.

Le quattro categorie supportate per il rilevamento di contenuti di immagini dannosi sono descritte di seguito:

  • Odio: descrive i contenuti che discriminano, criticano, insultano, denunciano o disumanizzano una persona o un gruppo sulla base di un'identità (come razza, etnia, genere, religione, orientamento sessuale, abilità e origine nazionale). Include anche contenuti visivi grafici e reali che mostrano simboli di gruppi di odio, simboli di odio e immagini associati a varie organizzazioni che promuovono la discriminazione, il razzismo e l'intolleranza.

  • Insulti: descrive i contenuti che includono un linguaggio umiliante, derisorio, offensivo o sminuente. Questo tipo di linguaggio è anche etichettato come bullismo. Comprende anche varie forme di gesti delle mani maleducati, irrispettosi o offensivi intesi a esprimere disprezzo, rabbia o disapprovazione.

  • Sessuale: descrive i contenuti che indicano interesse, attività o eccitazione sessuale utilizzando riferimenti diretti o indiretti a parti del corpo, tratti fisici o sesso. Include anche immagini che mostrano parti intime e attività sessuali che coinvolgono rapporti sessuali. Questa categoria comprende anche cartoni animati, anime, disegni, schizzi e altri contenuti illustrati con temi sessuali.

  • Violenza: descrive contenuti che includono l'esaltazione o la minaccia di infliggere dolore fisico, ferite o lesioni a una persona, un gruppo o una cosa.

Il filtro dei contenuti delle immagini di Amazon Bedrock Guardrails è supportato nelle seguenti regioni:

Regione
Stati Uniti orientali (Virginia settentrionale)
Stati Uniti orientali (Ohio)
US West (Oregon)
AWS GovCloud (Stati Uniti occidentali)
Europa (Irlanda) (accesso recintato)
Europa (Londra)
Europa (Francoforte)
Asia Pacifico (Mumbai)
Asia Pacifico (Seoul)
Asia Pacifico (Tokyo)
Asia Pacifico (Singapore) (accesso recintato)
Asia Pacifico (Sydney)
Asia Pacifico (Mumbai)

Puoi utilizzare il filtro dei contenuti delle immagini di Amazon Bedrock Guardrails con i seguenti modelli:

Nome modello ID del modello
Titan Image Generator G1 amazon. titan-image-generator-v1
Generatore di immagini Titan G1 v2 amazzone. titan-image-generator-v2:0
SD3Grande 1,0 stabilità.sd3-large-v 1:0
SDXL 1.0 stabilità. stable-diffusion-xl-v1
Image Core 1.0 stabile stabilità. stable-image-core-v1
Stable Image Ultra 1.0 stabilità. stable-image-ultra-v1
Anthropic Claude 3 Haiku anthropic.claude-3-haiku-20240307-v1
Anthropic Claude 3 Opus anthropic.claude-3-opus-20240229-v1
Anthropic Claude 3 Sonetto anthropic.claude-3-sonnet-20240229-v1
Anthropic Claude 3.5 Sonetto anthropic.claude-3-5-sonnet-20240620-v 1:0
Llama 3.2 11B Instruct meta.llama3-2-11 1:0 b-instruct-v
Llama 3.2 90B Instruct meta.llama3-2-90 1:0 b-instruct-v

Utilizzo del filtro del contenuto dell'immagine

Creazione o aggiornamento di un Guardrail con filtri di contenuto per le immagini

Durante la creazione di un nuovo guardrail o l'aggiornamento di un guardrail esistente, gli utenti ora vedranno un'opzione per selezionare l'immagine (in anteprima) oltre all'opzione di testo esistente. L'opzione immagine è disponibile per le categorie Odio, Insulti, Sessuale o Violenza. (Nota: per impostazione predefinita, l'opzione testo è abilitata e l'opzione immagine deve essere abilitata in modo esplicito. Gli utenti possono scegliere sia il testo che l'immagine o uno di essi a seconda del caso d'uso.

Filtra, classificazione e livelli di blocco

Il filtraggio viene eseguito in base alla classificazione di confidenza degli input degli utenti e delle risposte FM. Tutti gli input dell'utente e le risposte del modello sono classificati in base a quattro livelli di intensità: Nessuno, Basso, Medio e Alto. L'intensità del filtro determina la sensibilità del filtraggio dei contenuti nocivi. All'aumentare della potenza del filtro, aumenta la probabilità di filtrare i contenuti dannosi e diminuisce la probabilità di vedere contenuti dannosi nell'applicazione. Quando sono selezionate entrambe le opzioni relative all'immagine e al testo, la stessa intensità di filtro viene applicata a entrambe le modalità per una particolare categoria.

  1. Per configurare i filtri di immagini e testo per le categorie dannose, seleziona Configura filtro categorie dannose.

    Nota

    I filtri del contenuto delle immagini sono in anteprima e non saranno disponibili se il modello non utilizza immagini per i prompt o le risposte del modello.

  2. Seleziona Testo e/o Immagine per filtrare il contenuto di testo o immagine dai prompt o dalle risposte da e verso il modello.

  3. Seleziona Nessuno, Basso, Medio o Alto per il livello di filtrazione che desideri applicare a ciascuna categoria. L'impostazione Alta aiuta a bloccare la maggior parte del testo o delle immagini che si applicano a quella categoria del filtro.

  4. Seleziona Usa i filtri delle stesse categorie dannose per le risposte per utilizzare le stesse impostazioni di filtro utilizzate per i prompt. Puoi anche scegliere di avere livelli di filtro diversi per i prompt o le risposte non selezionando questa opzione. Seleziona Reimposta soglia per reimpostare tutti i livelli di filtro per i prompt o le risposte.

  5. Seleziona Rivedi e crea o Avanti per creare il guardrail.

Configurazione dei filtri di contenuto per le immagini con API

Puoi utilizzare il guardrail API per configurare il filtro del contenuto delle immagini in Amazon Bedrock Guardrails. L'esempio seguente mostra un filtro Amazon Bedrock Guardrails con diverse categorie di contenuti dannosi e diversi livelli di filtraggio applicati. Puoi utilizzare questo modello come esempio per il tuo caso d'uso.

Con l'contentPolicyConfigoperazione, filtersConfig è un oggetto, come mostrato nell'esempio seguente.

Esempio di codice Python Boto3 per creare un Guardrail con filtri di contenuto di immagini

import boto3 import botocore import json def main(): bedrock = boto3.client('bedrock', region_name='us-east-1') try: create_guardrail_response = bedrock.create_guardrail( name='my-image-guardrail', contentPolicyConfig={ 'filtersConfig': [ { 'type': 'SEXUAL', 'inputStrength': 'HIGH', 'outputStrength': 'HIGH', 'inputModalities': ['TEXT', 'IMAGE'], 'outputModalities': ['TEXT', 'IMAGE'] }, { 'type': 'VIOLENCE', 'inputStrength': 'HIGH', 'outputStrength': 'HIGH', 'inputModalities': ['TEXT', 'IMAGE'], 'outputModalities': ['TEXT', 'IMAGE'] }, { 'type': 'HATE', 'inputStrength': 'HIGH', 'outputStrength': 'HIGH', 'inputModalities': ['TEXT', 'IMAGE'], 'outputModalities': ['TEXT', 'IMAGE'] }, { 'type': 'INSULTS', 'inputStrength': 'HIGH', 'outputStrength': 'HIGH', 'inputModalities': ['TEXT', 'IMAGE'], 'outputModalities': ['TEXT', 'IMAGE'] }, { 'type': 'MISCONDUCT', 'inputStrength': 'HIGH', 'outputStrength': 'HIGH', 'inputModalities': ['TEXT'], 'outputModalities': ['TEXT'] }, { 'type': 'PROMPT_ATTACK', 'inputStrength': 'HIGH', 'outputStrength': 'NONE', 'inputModalities': ['TEXT'], 'outputModalities': ['TEXT'] } ] }, blockedInputMessaging='Sorry, the model cannot answer this question.', blockedOutputsMessaging='Sorry, the model cannot answer this question.', ) create_guardrail_response['createdAt'] = create_guardrail_response['createdAt'].strftime('%Y-%m-%d %H:%M:%S') print("Successfully created guardrail with details:") print(json.dumps(create_guardrail_response, indent=2)) except botocore.exceptions.ClientError as err: print("Failed while calling CreateGuardrail API with RequestId = " + err.response['ResponseMetadata']['RequestId']) raise err if __name__ == "__main__": main()

Configurazione del filtro di immagine con cui lavorare ApplyGuardrail API

È possibile utilizzare i filtri di contenuto sia per il contenuto di immagini che per quello di testo utilizzando. ApplyGuardrail API Questa opzione consente di utilizzare le impostazioni del filtro dei contenuti senza richiamare il modello Amazon Bedrock. Puoi aggiornare il payload della richiesta nello script seguente per vari modelli seguendo la documentazione dei parametri di inferenza per ogni modello di base supportato da Amazon Bedrock Guardrails.

Puoi aggiornare il payload della richiesta nello script seguente per vari modelli seguendo la documentazione dei parametri di inferenza per ogni modello di base supportato da Amazon Bedrock Guardrails.

import boto3 import botocore import json guardrail_id = 'guardrail-id' guardrail_version = 'DRAFT' content_source = 'INPUT' image_path = '/path/to/image.jpg' with open(image_path, 'rb') as image: image_bytes = image.read() content = [ { "text": { "text": "Hi, can you explain this image art to me." } }, { "image": { "format": "jpeg", "source": { "bytes": image_bytes } } } ] def main(): bedrock_runtime_client = boto3.client("bedrock-runtime", region_name="us-east-1") try: print("Making a call to ApplyGuardrail API now") response = bedrock_runtime_client.apply_guardrail( guardrailIdentifier=guardrail_id, guardrailVersion=guardrail_version, source=content_source, content=content ) print("Received response from ApplyGuardrail API:") print(json.dumps(response, indent=2)) except botocore.exceptions.ClientError as err: print("Failed while calling ApplyGuardrail API with RequestId = " + err.response['ResponseMetadata']['RequestId']) raise err if __name__ == "__main__": main()
PrivacyCondizioni del sitoPreferenze cookie
© 2025, Amazon Web Services, Inc. o società affiliate. Tutti i diritti riservati.