Aplicar etiquetas a la entrada del usuario para filtrar el contenido

Las etiquetas de entrada te permiten marcar contenido específico dentro del texto de entrada que quieres que procese con las barandillas. Esto resulta útil cuando desea aplicar barandas a determinadas partes de la entrada y dejar otras partes sin procesar.

Por ejemplo, el indicador de entrada de RAG las aplicaciones puede contener mensajes del sistema, resultados de búsqueda de fuentes de documentación fiables y consultas de los usuarios. Como las instrucciones del sistema las proporciona el desarrollador y los resultados de la búsqueda provienen de fuentes confiables, es posible que solo necesites evaluar las consultas de los usuarios.

En otro ejemplo, el mensaje de entrada de las aplicaciones conversacionales puede contener los mensajes del sistema, el historial de conversaciones y la entrada actual del usuario. Las instrucciones del sistema son instrucciones específicas del desarrollador, y el historial de conversaciones contiene un historial de entradas de los usuarios y respuestas modelo que tal vez ya hayan sido evaluadas previamente. En este caso, es posible que solo desee evaluar la entrada actual del usuario.

Al usar etiquetas de entrada, puede controlar mejor qué partes de la solicitud de entrada deben procesarse y evaluarse mediante barreras, lo que garantiza que sus medidas de protección se personalicen en función de sus casos de uso. Esto también ayuda a mejorar el rendimiento y a reducir los costes, ya que tiene la flexibilidad de evaluar una sección relativamente más corta y relevante de la entrada, en lugar de todo el mensaje de entrada.

Etiquete el contenido de las barandas

Para etiquetar el contenido para que lo procese las barandillas, utilice la XML etiqueta que es una combinación de un prefijo reservado y uno personalizado. tagSuffix Por ejemplo:

{
    "text": """
        You are a helpful assistant.
        Here is some information about my account:
          - There are 10,543 objects in an S3 bucket.
          - There are no active EC2 instances.
        Based on the above, answer the following question:
        Question: 
        <amazon-bedrock-guardrails-guardContent_xyz>
        How many objects do I have in my S3 bucket? 
        </amazon-bedrock-guardrails-guardContent_xyz>
         ...
        Here are other user queries:
        <amazon-bedrock-guardrails-guardContent_xyz>
        How do I download files from my S3 bucket?
        </amazon-bedrock-guardrails-guardContent_xyz>    
    """,
    "amazon-bedrock-guardrailConfig": {
        "tagSuffix": "xyz"
    }
}

En el ejemplo anterior, el contenido «¿Cuántos objetos tengo en mi bucket de S3? `y "«¿Cómo descargo archivos de mi bucket de S3? » está etiquetado para su procesamiento con la etiqueta. <amazon-bedrock-guardrails-guardContent_xyz> Tenga en cuenta que el prefijo amazon-bedrock-guardrails-guardContent está reservado para las barandillas.

Sufijo de etiqueta

El sufijo de etiqueta (xyzen el ejemplo anterior) es un valor dinámico que debe proporcionar en el tagSuffix campo amazon-bedrock-guardrailConfig para utilizar el etiquetado de entrada. Se recomienda utilizar una cadena nueva y aleatoria tagSuffix para cada solicitud. Esto ayuda a mitigar los posibles ataques de inyección inmediata al hacer que la estructura de las etiquetas sea impredecible. Una etiqueta estática puede provocar que un usuario malintencionado cierre la XML etiqueta y añada contenido malicioso tras el cierre de la etiqueta, lo que puede provocar un ataque de inyección. Está limitado a caracteres alfanuméricos con una longitud de entre 1 y 20 caracteres, ambos incluidos. Con el sufijo de ejemploxyz, debe incluir todo el contenido que desee proteger utilizando las XML etiquetas con el sufijo:<amazon-bedrock-guardrails-guardContent_xyz>. y su contenido. </amazon-bedrock-guardrails-guardContent_xyz> Recomendamos utilizar una dinámica UUID para cada solicitud como sufijo de etiqueta

Múltiples etiquetas

Puede utilizar la misma estructura de etiquetas varias veces en el texto de entrada para marcar distintas partes del contenido y procesarlas. No se permite anidar etiquetas.

Contenido sin etiquetar

Los guardrails no procesarán ningún contenido que no esté incluido en las etiquetas de entrada. Esto te permite incluir instrucciones, ejemplos de conversaciones, bases de conocimientos u otro contenido que consideres seguro y que no desees que Guardrails procese. Si no hay etiquetas en la solicitud de entrada, Guardrails procesará la solicitud completa. La única excepción son Ataques rápidos los filtros que requieren la presencia de etiquetas de entrada.

Puedes probar el etiquetado de entradas en el panel de pruebas de tu barandilla siguiendo estos pasos:

1. Navegar hasta el panel de prueba de la barandilla (este método no se admite en las áreas de juego de texto o chat, solo en el panel de prueba de las barandillas).

2. Usa el sufijo predeterminado de la etiqueta de entrada para el patio de recreo. playground

VIOLENT STATEMENT: I think I could fight a grizzly bear. 

<amazon-bedrock-guardrails-guardContent_playground

BENIGN INPUT: How's the weather? 

</amazon-bedrock-guardrails-guardContent_playground
            

La barandilla solo se colocará en el contenido que se encuentre entre las etiquetas de entrada.