Monitore eventos do Amazon Bedrock na Amazon EventBridge

Você pode usar EventBridge a Amazon para monitorar eventos de mudança de status no Amazon Bedrock. Com a Amazon EventBridge, você pode configurar SageMaker a Amazon para responder automaticamente a uma alteração no status do trabalho de personalização do modelo no Amazon Bedrock. Os eventos do Amazon Bedrock são entregues à Amazon quase EventBridge em tempo real. É possível gravar regras simples para automatizar ações que serão tomadas quando um evento corresponder a uma regra. Se você usa a Amazon EventBridge com o Amazon Bedrock, você pode:

• Publicar notificações sempre que houver um evento de mudança de estado na personalização do modelo que você acionou, independentemente de você adicionar novos fluxos de trabalho assíncronos no futuro. O evento publicado deve fornecer informações suficientes para reagir aos eventos nos fluxos de trabalho downstream.

• Forneça atualizações de status do trabalho sem invocar a GetModelCustomizationJob API, o que pode significar lidar com problemas de limite de taxa de API, atualizações de API e redução de recursos computacionais adicionais.

Não há custo para receber AWS eventos da Amazon EventBridge. Para obter mais informações sobre a Amazon EventBridge, consulte Amazon EventBridge

nota

• O Amazon Bedrock emite eventos com base no melhor esforço. Os eventos são entregues EventBridge na Amazon quase em tempo real. Com a Amazon EventBridge, você pode criar regras que acionam ações programáticas em resposta a um evento. Por exemplo, é possível configurar uma regra que invoque um tópico do SNS para enviar uma notificação por e-mail ou que invoque uma função para realizar alguma ação. Para obter mais informações, consulte o Guia EventBridge do usuário da Amazon.

• O Amazon Bedrock cria um evento toda vez que há uma mudança de estado em um trabalho de personalização de modelo que você aciona e faz o melhor possível para entregar esse evento.

Como funciona

Para receber eventos do Amazon Bedrock, você precisa criar regras e metas para combinar, receber e lidar com dados de mudanças de estado por meio da Amazon EventBridge. EventBridge A Amazon é um barramento de eventos sem servidor que ingere eventos de mudança de estado de serviços AWS , parceiros de SaaS e aplicativos de clientes. Ele processa eventos com base nas regras ou padrões que você cria e encaminha esses eventos para um ou mais “destinos” de sua escolha AWS Lambda, como o Amazon Simple Queue Service e o Amazon Simple Notification Service.

O Amazon Bedrock publica seus eventos via Amazon EventBridge sempre que há uma mudança no estado de um trabalho de personalização do modelo. Em cada caso, um novo evento é criado e enviado para a Amazon EventBridge, que então envia o evento para seu ônibus de eventos padrão. O evento mostra qual estado do trabalho de personalização foi alterado e o estado atual do trabalho. Quando a Amazon EventBridge recebe um evento que corresponde a uma regra que você criou, a Amazon o EventBridge encaminha para o destino que você especificou. Ao criar uma regra, você pode configurar esses destinos, bem como os fluxos de trabalho downstream, com base no conteúdo do evento.

EventBridge esquema

Os seguintes campos de eventos no esquema do EventBridge evento são específicos do Amazon Bedrock.

• jobArn: o ARN do trabalho de personalização de modelo.

• outputModelArn: o ARN do modelo de saída. Publicado quando o trabalho de treinamento for concluído.

• jobStatus: o status atual do trabalho.

• FailureMessage: uma mensagem de falha. Publicado quando o trabalho de treinamento falhar.

Exemplo de evento

Veja a seguir um exemplo de evento JSON para um trabalho de personalização de modelo com falha.

{
    "version": "0", 
    "id": "UUID", 
    "detail-type": "Model Customization Job State Change", 
    "source": "aws.bedrock", 
    "account": "123412341234", 
    "time": "2023-08-11T12:34:56Z", 
    "region": "us-east-1", 
    "resources": [ "arn:aws:bedrock:us-east-1:123412341234:model-customization-job/abcdefghwxyz" ], 
    "detail": { 
        "version": "0.0",
        "jobName": "abcd-wxyz",
        "jobArn": "arn:aws:bedrock:us-east-1:123412341234:model-customization-job/abcdefghwxyz",
        "outputModelName": "dummy-output-model-name",
        "outputModelArn": "arn:aws:bedrock:us-east-1:123412341234:dummy-output-model-name",
        "roleArn": "arn:aws:iam::123412341234:role/JobExecutionRole",
        "jobStatus": "Failed",
        "failureMessage": "Failure Message here.",
        "creationTime": "2023-08-11T10:11:12Z",
        "lastModifiedTime": "2023-08-11T12:34:56Z",
        "endTime": "2023-08-11T12:34:56Z",
        "baseModelArn": "arn:aws:bedrock:us-east-1:123412341234:base-model-name",
        "hyperParameters": {
            "batchSize" : "batchSizeNumberUsed",
            "epochCount": "epochCountNumberUsed",
            "learningRate": "learningRateUsed",
            "learningRateWarmupSteps": "learningRateWarmupStepsUsed"
            },
        "trainingDataConfig": {
            "s3Uri": "s3://bucket/key",
            },
        "validationDataConfig": {
            "s3Uri": "s3://bucket/key",
            },
        "outputDataConfig": {
            "s3Uri": "s3://bucket/key",
            }
    }
}

Regras e destinos

Quando um evento de entrada corresponde a uma regra que você criou, o evento é roteado para o destino que você especificou para essa regra e o destino processa esse evento. Os destinos oferecem suporte ao formato JSON e podem incluir AWS serviços como instâncias do Amazon EC2, funções Lambda, streams do Kinesis, tarefas do Amazon ECS, Step Functions, tópicos do Amazon SNS e Amazon SQS. Para receber e processar eventos corretamente, é necessário criar regras e destinos a fim de estabelecer correspondência, receber e lidar corretamente com os dados dos eventos. Você pode criar essas regras e metas por meio do EventBridge console da Amazon ou por meio do AWS CLI.

Exemplo de regra

Essa regra estabelece correspondência com um padrão de evento emitido por: source [“aws.bedrock”]. A regra captura todos os eventos enviados pela Amazon EventBridge que têm a fonte “aws.bedrock” para seu barramento de eventos padrão.

{
    "source": ["aws.bedrock"]
}

Destino

Ao criar uma regra na Amazon EventBridge, você precisa especificar um destino para onde EventBridge envia o evento que corresponde ao seu padrão de regra. Esses destinos podem ser um SageMaker pipeline, uma função Lambda, um tópico do SNS, uma fila do SQS ou qualquer outro destino compatível atualmente. EventBridge Você pode consultar a EventBridge documentação da Amazon para saber como definir metas para eventos. Para conferir um procedimento que mostra como usar o Amazon Simple Notification Service como destino, consulte Criar uma regra para lidar com eventos do Amazon Bedrock.

Criar uma regra para lidar com eventos do Amazon Bedrock

Conclua os procedimentos a seguir para receber notificações por e-mail sobre os eventos do Amazon Bedrock.

Criar um tópico do Amazon Simple Notification Service

1. Abra o console do Amazon SNS em https://console.aws.amazon.com/sns/v3/home.

2. No painel de navegação, escolha Tópicos.

3. Escolha Criar tópico.

4. Em Tipo, escolha Padrão.

5. Em Name (Nome), digite um nome para o tópico.

6. Escolha Criar tópico.

7. Selecione Criar assinatura.

8. Em Protocolo, escolha Email.

9. Em Endpoint, insira o endereço de e-mail que receberá as notificações.

10. Selecione Criar assinatura.

11. Você receberá uma mensagem de e-mail com esta linha de assunto: AWS Notification - Subscription Confirmation. Siga as instruções para confirmar sua assinatura.

Use o procedimento a seguir para criar uma regra a fim de lidar com os eventos do Amazon Bedrock.

Como criar uma regra para lidar com eventos do Amazon Bedrock

1. Abra o EventBridge console da Amazon em https://console.aws.amazon.com/events/.

2. Escolha a opção Criar regra.

3. Em Name (Nome), insira um nome para a regra.

4. Em Rule type (Tipo de regra), selecione Rule with an event pattern (Regra com um padrão de evento).

5. Selecione Next (Próximo).

6. Em Event pattern (Padrão de evento), faça o seguinte:

   1. Em Origem do evento, selecione Serviços da AWS.

   2. Em Serviço da AWS, escolha Amazon Bedrock.

   3. Em Tipo de evento, escolha Mudança no estado de um trabalho de personalização de modelo.

   4. Por padrão, enviamos notificações para cada evento. Se preferir, você pode criar um padrão de evento que filtra eventos de um estado de trabalho específico.

   5. Escolha Próximo.

7. Especifique um destino desta forma:

   1. Em Tipos de destino, selecione Serviço da AWS.

   2. Em Select a target (Selecionar um destino), escolha SNS topic (Tópico do SNS).

   3. Em Tópico, escolha o tópico do SNS que você criou para as notificações.

   4. Escolha Próximo.

8. (Opcional) Adicione etiquetas à regra.

9. Escolha Próximo.

10. Escolha a opção Criar regra.