Garde-corps IA dans Amazon Quick

Amazon Quick adopte une approche de défense en profondeur pour garantir la sécurité et la responsabilité des interactions par chat dans l'expérience Web Amazon Quick. Plusieurs niveaux de sécurité fonctionnent ensemble, chacun abordant différents risques à différents moments d'une interaction. Aucune couche n'est conçue pour détecter à elle seule tous les risques.

L'utilisation des fonctionnalités d'Amazon Quick AI est soumise à la politique AWS Responsible AI sur le site Web d'AWS.

Les rubriques suivantes décrivent le fonctionnement de ces contrôles et la manière de les configurer.

Comment les contrôles de sécurité de l'IA fonctionnent ensemble

Amazon Quick utilise conjointement les commandes suivantes :

• Built-in filtrage de sécurité — Les protections Amazon Bedrock Guardrails et Quick filtrent les demandes des utilisateurs pour détecter tout contenu préjudiciable. Cela inclut les discours de haine, les insultes, le contenu sexuel, la violence et les inconduites. Ces contrôles évaluent également les demandes des utilisateurs pour des attaques rapides.

• Prompt-level consignes de sécurité  : Quick demande au modèle de promouvoir un comportement responsable, de résister aux tentatives visant à contourner les paramètres de sécurité et d'éviter d'exposer les informations internes du système.

• Contrôles d'accès et d'autorisation  : les contrôles d'identité, d'accès aux données et d'autorisation d'action limitent les données et les opérations disponibles lors d'une interaction. Ces limites correspondent aux autorisations de la personne connectée. Pour plus d'informations sur l'identité et les autorisations, consultez Gestion des identités et des accès dans Quick etAutorisations personnalisées.

• Administrator-configured contrôles  : vous pouvez configurer des mots et des phrases bloqués pour les interactions par chat dans l'expérience Web Amazon Quick.

Ces contrôles contribuent à réduire les risques. Cependant, ils ne remplacent pas votre responsabilité de configurer les accès, les autorisations, les agents, les flux et les sources de données pour votre cas d'utilisation.

Mots et phrases bloqués

Vous pouvez bloquer jusqu'à 50 mots ou phrases dans les interactions par chat dans l'expérience Web Amazon Quick. Cela s'applique aux agents et aux flux de chat. Chaque entrée peut contenir jusqu'à 36 caractères. Quick vérifie à la fois les demandes des utilisateurs et les réponses générées pour ces phrases. Quick ne bloque aucun mot ni aucune expression par défaut.

Ajouter des mots et des phrases bloqués

Suivez la procédure suivante pour ajouter des mots et des phrases bloqués pour les agents et les flux de discussion dans l'expérience Web Amazon Quick.

Pour ajouter des mots et des phrases bloqués

1. Connectez-vous à Quick et choisissez Gérer rapidement.

2. Dans le volet de navigation, choisissez Personnalisation, puis Personnalisation de l'agent Chat.

3. Dans Personnalisation de l'agent Chat, sous Gardes-corps et contrôles de sécurité, choisissez Ajouter pour ajouter des mots et des phrases bloqués. Vous pouvez ajouter jusqu'à 50 mots et phrases. Chaque entrée peut contenir jusqu'à 36 caractères.

Modifier les mots et les phrases bloqués

Suivez la procédure suivante pour ajouter ou supprimer des mots et des phrases bloqués pour les agents de chat et les flux dans l'expérience Web Amazon Quick.

Pour modifier des mots et des phrases bloqués

1. Connectez-vous à Quick et choisissez Gérer rapidement.

2. Dans le volet de navigation, choisissez Personnalisation, puis Personnalisation de l'agent Chat.

3. Dans Personnalisation de l'agent Chat, sous Gardes-corps et contrôles de sécurité, choisissez Supprimer pour supprimer les entrées existantes, ou choisissez Ajouter pour ajouter des entrées. Vous pouvez ajouter jusqu'à 50 mots et phrases. Chaque entrée peut contenir jusqu'à 36 caractères.