Utilizar el esquema JSON de condiciones de activación del bucle humano con Amazon Rekognition

Cuando se utiliza con Amazon A2I, la operación DetectModerationLabels de Amazon Rekognition admite las siguientes entradas en el parámetro ConditionType:

• ModerationLabelConfidenceCheck: utilice este tipo de condición para crear un bucle humano cuando la confianza de inferencia sea baja para una o más etiquetas especificadas.

• Sampling: use esta condición para especificar un porcentaje de todas las inferencias que se enviarán a los humanos para su revisión. Utilice esta condición para hacer lo siguiente:

  • Auditar su modelo de machine learning mediante el muestreo aleatorio de todas las inferencias del modelo y el envío de un porcentaje especificado a los humanos para su revisión.

  • Con la condición ModerationLabelConfidenceCheck, muestrear aleatoriamente un porcentaje de las inferencias que cumplían las condiciones especificadas en ModerationLabelConfidenceCheck para iniciar un bucle humano y enviar solo el porcentaje especificado a los humanos para su revisión.

nota

Si envía la misma solicitud a DetectModerationLabels varias veces, el resultado de Sampling no cambiará para la inferencia de esa entrada. Por ejemplo, si hace una solicitud DetectModerationLabels una vez y Sampling no activa un bucle humano, las solicitudes posteriores a DetectModerationLabels con la misma configuración no activarán un bucle humano.

Al crear una definición de flujo, si utilizas la plantilla de tareas de trabajador predeterminada que se proporciona en la sección Flujos de trabajo de revisión humana de la SageMaker consola de Amazon, las inferencias enviadas para su revisión por parte de un humano mediante estas condiciones de activación se incluyen en la interfaz de usuario del trabajador cuando un trabajador abre tu tarea. Si utiliza una plantilla de tarea de trabajador personalizada, debe incluir el elemento HTML personalizado <task.input.selectedAiServiceResponse.blocks> para acceder a estas inferencias. Para obtener un ejemplo de una plantilla personalizada que utiliza este elemento HTML, consulte Ejemplo de plantilla personalizada para Amazon Rekognition.

Entradas de ModerationLabelConfidenceCheck

Para el ConditionType ModerationLabelConfidenceCheck, se admiten los siguientes ConditionParameters:

• ModerationLabelName— El nombre exacto (distingue mayúsculas de minúsculas) de una operación ModerationLabeldetectada por la operación Amazon Rekognition. DetectModerationLabels Puede especificar el valor «catch-all» especial (*) para indicar cualquier etiqueta de moderación.

• ConfidenceEquals

• ConfidenceLessThan

• ConfidenceLessThanEquals

• ConfidenceGreaterThan

• ConfidenceGreaterThanEquals

Cuando se utiliza el ModerationLabelConfidenceCheck ConditionType, Amazon A2I envía a revisión humana las inferencias de etiqueta para las etiquetas especificadas en ModerationLabelName.

Entradas de muestreo

El ConditionType Sampling admite los ConditionParameters RandomSamplingPercentage. La entrada para el parámetro RandomSamplingPercentage debe ser un número real entre 0,01 y 100. Este número representa el porcentaje de inferencias que califican para una revisión humana que se envían a los humanos para su revisión. Si utiliza la condición Sampling sin ninguna otra condición, este número representa el porcentaje de todas las inferencias que resultan de una sola solicitud DetectModerationLabel que se envían a los humanos para su revisión.

Ejemplos

Ejemplo 1: uso de ModerationLabelConfidenceCheck con el operador And

El siguiente ejemplo de una condición HumanLoopActivationConditions activa un bucle humano cuando se cumplen una o varias de las condiciones siguientes:

• Amazon Rekognition detecta la etiqueta de moderación Graphic Male Nudity con una confianza de entre 90 y 99.

• Amazon Rekognition detecta la etiqueta de moderación Graphic Female Nudity con una confianza de entre 80 y 99.

Tenga en cuenta que se emplean los operadores lógicos Or y And para modelar esta lógica.

Aunque solo una de las dos condiciones bajo el operador Or se tiene que evaluar como true para que se cree un bucle humano, en realidad, Amazon Augmented AI evalúa todas las condiciones. Se pide a los revisores humanos que revisen las etiquetas de moderación de todas las condiciones que se han evaluado como true.

{
     "Conditions": [{
         "Or": [{
                 "And": [{
                         "ConditionType": "ModerationLabelConfidenceCheck",
                         "ConditionParameters": {
                             "ModerationLabelName": "Graphic Male Nudity",
                             "ConfidenceLessThanEquals": 99
                         }
                     },
                     {
                         "ConditionType": "ModerationLabelConfidenceCheck",
                         "ConditionParameters": {
                             "ModerationLabelName": "Graphic Male Nudity",
                             "ConfidenceGreaterThanEquals": 90
                         }
                     }
                 ]
             },
             {
                 "And": [{
                         "ConditionType": "ModerationLabelConfidenceCheck",
                         "ConditionParameters": {
                             "ModerationLabelName": "Graphic Female Nudity",
                             "ConfidenceLessThanEquals": 99
                         }
                     },
                     {
                         "ConditionType": "ModerationLabelConfidenceCheck",
                         "ConditionParameters": {
                             "ModerationLabelName": "Graphic Female Nudity",
                             "ConfidenceGreaterThanEquals": 80
                         }
                     }
                 ]
             }
         ]
     }]
}

Ejemplo 2: uso de ModerationLabelConfidenceCheck con el valor capturar todos (*)

En el siguiente ejemplo, si se detecta una etiqueta de moderación con una confianza igual o superior a 75, se activa un bucle humano. Se pide a los revisores humanos que revisen todas las etiquetas de moderación con puntuaciones de confianza mayores o iguales a 75.

{
    "Conditions": [
        {
            "ConditionType": "ModerationLabelConfidenceCheck",
            "ConditionParameters": {
                "ModerationLabelName": "*",
                "ConfidenceGreaterThanEquals": 75
            }
        }
    ]
}

Ejemplo 3: Usar muestreo

En el siguiente ejemplo, el 5 % de las inferencias de Amazon Rekognition de una solicitud DetectModerationLabels serán enviadas a trabajadores humanos. Cuando se utiliza la plantilla de tareas de trabajo predeterminada que se proporciona en la SageMaker consola, todas las etiquetas de moderación devueltas por Amazon Rekognition se envían a los trabajadores para que las revisen.

{
  "Conditions": [
    {
      "ConditionType": "Sampling",
      "ConditionParameters": {
        "RandomSamplingPercentage": 5
      }
    }
  ]
}

Ejemplo 4: uso del muestreo y de ModerationLabelConfidenceCheck con el operador And

En este ejemplo, el 5 % de las inferencias de Amazon Rekognition de la etiqueta de moderación Graphic Male Nudity con una confianza superior a 50 serán enviadas a los trabajadores para su revisión. Cuando se utiliza la plantilla de tareas de trabajo predeterminada que se proporciona en la SageMaker consola, solo las inferencias de la Graphic Male Nudity etiqueta se envían a los trabajadores para que las revisen.

{
  "Conditions": [
    {
      "And": [
        {
          "ConditionType": "Sampling",
          "ConditionParameters": {
            "RandomSamplingPercentage": 5
          }
        },
        {
          "ConditionType": "ModerationLabelConfidenceCheck",
          "ConditionParameters": {
            "ModerationLabelName": "Graphic Male Nudity",
            "ConfidenceGreaterThan": 50
          }
        }
      ]
    }
  ]
}

Ejemplo 5: uso del muestreo y de ModerationLabelConfidenceCheck con el operadorAnd

Utilice este ejemplo para configurar el flujo de trabajo de revisión humana a fin de enviar siempre a revisión humana las inferencias de baja confianza de una etiqueta especificada, así como para realizar una muestra de inferencia de alta confianza de una etiqueta a una velocidad especificada.

En el siguiente ejemplo, la revisión humana se inicia de una de las siguientes maneras:

• Las inferencias para la etiqueta de moderación Graphic Male Nudity con puntuaciones de confianza inferiores a 60 siempre se envían a revisión humana. Solo se envía la etiqueta Graphic Male Nudity a los trabajadores para que la revisen.

• El 5 % de todas las inferencias para la etiqueta de moderación Graphic Male Nudity con puntuaciones de confianza mayores a 90 serán enviadas a revisión humana. Solo se envía la etiqueta Graphic Male Nudity a los trabajadores para que la revisen.

{
  "Conditions": [
    {
      "Or": [
        {
          "ConditionType": "ModerationLabelConfidenceCheck",
          "ConditionParameters": {
            "ModerationLabelName": "Graphic Male Nudity",
            "ConfidenceLessThan": 60
          }
        },
        {
            "And": [
                {
                    "ConditionType": "Sampling",
                    "ConditionParameters": {
                        "RandomSamplingPercentage": 5
                    }
                },
                {
                    "ConditionType": "ModerationLabelConfidenceCheck",
                    "ConditionParameters": {
                        "ModerationLabelName": "Graphic Male Nudity",
                        "ConfidenceGreaterThan": 90
                    }
                }
            ]
        }
      ]
    }
  ]
}

Ejemplo 6: uso del muestreo y de ModerationLabelConfidenceCheck con el operador Or

En el siguiente ejemplo, se crea un bucle humano si la respuesta de inferencia de Amazon Rekognition contiene la etiqueta “Desnudos masculinos explícitos” con una confianza de inferencia superior a 50. Además, el 5 % de todas las demás inferencias inician un bucle humano.

{
  "Conditions": [
    {
      "Or": [
        {
          "ConditionType": "Sampling",
          "ConditionParameters": {
            "RandomSamplingPercentage": 5
          }
        },
        {
          "ConditionType": "ModerationLabelConfidenceCheck",
          "ConditionParameters": {
            "ModerationLabelName": "Graphic Male Nudity",
            "ConfidenceGreaterThan": 50
          }
        }
      ]
    }
  ]
}