Usa AI Guardrails per Amazon Q in Connect

PDFRSS

Importante

I guardrails di Amazon Q in Connect supportano solo la lingua inglese. La valutazione del contenuto di testo in altre lingue può portare a risultati inaffidabili.

I guardrail basati sull'intelligenza artificiale consentono di implementare misure di protezione basate sui casi d'uso e sulle politiche di intelligenza artificiale responsabili. Puoi configurare barriere specifiche per Amazon Q in Connect per filtrare le risposte dannose e inappropriate, oscurare le informazioni personali sensibili e limitare le informazioni errate nelle risposte dovute a potenziali allucinazioni del Large Language Model (LLM).

I guardrail AI sono Amazon Connect risorse che puoi creare e associare ai tuoi agenti Amazon Q in Connect AI. Per ulteriori informazioni su come creare un'associazione di agenti AI, consulta. Personalizza Amazon Q in Connect I guardrail AI sono dotati di un messaggio predefinito che informa l'utente quando Q ha bloccato una risposta in base a una politica. Questo messaggio predefinito può essere sovrascritto in qualsiasi messaggio di tua scelta personalizzando Amazon Q nei prompt AI di Connect.

L'immagine seguente mostra un esempio del messaggio guardrail predefinito che viene visualizzato a un cliente. Il messaggio predefinito è «Testo di input bloccato da guardrail».

Configurazioni della politica di Guardrail

Di seguito sono riportati alcuni esempi delle cinque configurazioni di policy che aggiungi a un guardrail AI. 

Argomenti

Questa configurazione delle policy consente di bloccare argomenti indesiderati.

{
        "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
        "name": "test-ai-guardrail-2",
        "description": "This is a test ai-guardrail",
        "blockedInputMessaging": "Blocked input text by guardrail",
        "blockedOutputsMessaging": "Blocked output text by guardrail",
        "visibilityStatus": "PUBLISHED",
        "topicPolicyConfig": {
                  "topicsConfig": [
                    {
                      "name": "Financial Advice",
                      "definition": "Investment advice refers to financial inquiries, guidance, or recommendations with the goal of generating returns or achieving specific financial objectives.",
                      "examples": ["- Is investment in stocks better than index funds?", "Which stocks should I invest into?", "- Can you manage my personal finance?"],
                      "type": "DENY"
                    }
                  ]
                }
    }

Contenuti

Questa configurazione dei criteri consente di filtrare i contenuti dannosi e inappropriati.

{
        "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
        "name": "test-ai-guardrail-2",
        "description": "This is a test ai-guardrail",
        "blockedInputMessaging": "Blocked input text by guardrail",
        "blockedOutputsMessaging": "Blocked output text by guardrail",
        "visibilityStatus": "PUBLISHED",
        "contentPolicyConfig": {
                  "filtersConfig": [
                    {
                       "inputStrength": "HIGH",
                       "outputStrength": "HIGH",
                       "type": "INSULTS"
                    }
                  ]
                }
    }

Parole

Questa configurazione dei criteri consente di filtrare parole dannose e inappropriate. 

{
        "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
        "name": "test-ai-guardrail-2",
        "description": "This is a test ai-guardrail",
        "blockedInputMessaging": "Blocked input text by guardrail",
        "blockedOutputsMessaging": "Blocked output text by guardrail",
        "visibilityStatus": "PUBLISHED",
        "wordPolicyConfig": {
                  "wordsConfig": [
                    {
                       "text": "Nvidia",
                    },
                  ]
                }
    }

Grounding contestuale

Questa configurazione delle politiche consente a Q di rilevare allucinazioni nella risposta del modello. 

{
        "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
        "name": "test-ai-guardrail-2",
        "description": "This is a test ai-guardrail",
        "blockedInputMessaging": "Blocked input text by guardrail",
        "blockedOutputsMessaging": "Blocked output text by guardrail",
        "visibilityStatus": "PUBLISHED",
        "contextualGroundPolicyConfig": {
                  "filtersConfig": [
                    {
                       "type": "RELEVANCE",
                       "threshold": 0.50
                    },
                  ]
                }
    }

Informazioni sensibili

Questa configurazione dei criteri oscurerà le informazioni sensibili come le informazioni di identificazione personale (PII) 

{
        "assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
        "name": "test-ai-guardrail-2",
        "description": "This is a test ai-guardrail",
        "blockedInputMessaging": "Blocked input text by guardrail",
        "blockedOutputsMessaging": "Blocked output text by guardrail",
        "visibilityStatus": "PUBLISHED",
        "sensitiveInformationPolicyConfig": {
                  "piiEntitiesConfig": [
                    {
                       "type": "CREDIT_DEBIT_CARD_NUMBER",
                       "action":"BLOCK",
                    },
                  ]
                }
    }