Rambardes pour Amazon Bedrock - Amazon Bedrock

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Rambardes pour Amazon Bedrock

Guardrails for Amazon Bedrock vous permet de mettre en œuvre des mesures de protection pour vos applications d'IA générative en fonction de vos cas d'utilisation et de politiques d'IA responsables. Vous pouvez créer plusieurs garde-fous adaptés à différents cas d'utilisation et les appliquer à plusieurs modèles de base (FM), en fournissant une expérience utilisateur cohérente et en normalisant les contrôles de sécurité et de confidentialité dans les applications d'IA générative. Vous pouvez utiliser des barrières de sécurité avec des entrées utilisateur basées sur du texte et des réponses modélisées.

Les barrières de sécurité peuvent être utilisées de différentes manières pour protéger les applications génératives d'IA. Par exemple :

  • Une application de chatbot peut utiliser des glissières de sécurité pour filtrer les entrées nuisibles des utilisateurs et les réponses toxiques des modèles.

  • Une application bancaire peut utiliser des garde-fous pour bloquer les requêtes des utilisateurs ou modéliser les réponses associées à la recherche ou à la fourniture de conseils en investissement.

  • Une application de centre d'appels résumant les transcriptions des conversations entre les utilisateurs et les agents peut utiliser des garde-fous pour supprimer les informations personnelles identifiables (PII) des utilisateurs afin de protéger la confidentialité des utilisateurs.

Vous pouvez configurer les politiques suivantes dans un garde-corps afin d'éviter les contenus indésirables et préjudiciables et de supprimer les informations sensibles pour protéger la confidentialité.

  • Filtres de contenu : ajustez l'intensité des filtres pour bloquer les invites de saisie ou modéliser les réponses contenant du contenu préjudiciable.

  • Sujets refusés : définissez un ensemble de sujets indésirables dans le contexte de votre application. Ces sujets seront bloqués s'ils sont détectés dans les requêtes des utilisateurs ou les réponses des modèles.

  • Filtres de mots : configurez des filtres pour bloquer les mots, les phrases et les grossièretés indésirables. Ces mots peuvent inclure des termes offensants, des noms de concurrents, etc.

  • Filtres d'informations sensibles : bloquez ou masquez les informations sensibles telles que les informations personnelles identifiables (PII) ou les expressions régulières personnalisées dans les entrées des utilisateurs et les réponses des modèles.

  • Vérification contextuelle de l'ancrage : détectez et filtrez les hallucinations dans les réponses du modèle dans les réponses du modèle en fonction de l'ancrage dans une source et de la pertinence par rapport à la requête de l'utilisateur.

Outre les politiques ci-dessus, vous pouvez également configurer les messages à renvoyer à l'utilisateur si une entrée utilisateur ou un modèle de réponse ne respecte pas les politiques définies dans le garde-fou.

Vous pouvez créer plusieurs versions de garde-corps pour votre garde-corps. Lorsque vous créez un garde-corps, un brouillon de travail est automatiquement disponible pour que vous puissiez le modifier de manière itérative. Testez différentes configurations et utilisez la fenêtre de test intégrée pour voir si elles sont adaptées à votre cas d'utilisation. Si vous êtes satisfait d'un ensemble de configurations, vous pouvez créer une version du garde-corps et l'utiliser avec les modèles de base pris en charge.

Les garde-corps peuvent être utilisés directement avec les FM lors de l'appel de l'API d'inférence en spécifiant l'ID du garde-corps et la version. Si un garde-corps est utilisé, il évaluera les demandes de saisie et les complétions FM par rapport aux politiques définies.

Pour les applications de génération augmentée ou de récupération (RAG) ou conversationnelles, vous devrez peut-être évaluer uniquement les informations saisies par l'utilisateur dans l'invite de saisie tout en supprimant les instructions système, les résultats de recherche, l'historique des conversations ou quelques courts exemples. Pour évaluer de manière sélective une section de l'invite de saisie, voirÉvaluez de manière sélective les entrées utilisateur à l'aide de balises.

Important

Guardrails for Amazon Bedrock n'est disponible qu'en anglais. L'évaluation du contenu du texte dans d'autres langues peut entraîner des résultats peu fiables.

Rubriques