Visualizzare i risultati di un processo di inferenza in batch

Dopo aver completato un processo di inferenza in batchCompleted, puoi estrarre i risultati del processo di inferenza batch dai file nel bucket Amazon S3 che hai specificato durante la creazione del processo. Per informazioni su come scaricare un oggetto S3, consulta Download di oggetti. Il bucket S3 contiene i seguenti file:

1. Amazon Bedrock genera un JSONL file di output per ogni JSONL file di input. I file di output contengono gli output del modello per ogni input nel seguente formato. Un oggetto error sostituisce il campo modelOutput in qualsiasi riga in cui si è verificato un errore di inferenza. Il formato dell'modelOutputJSONoggetto corrisponde al body campo del modello utilizzato nella InvokeModel risposta. Per ulteriori informazioni, consulta Parametri di richiesta di inferenza e campi di risposta per modelli di base.

   { "recordId" : "11 character alphanumeric string", "modelInput": {JSON body}, "modelOutput": {JSON body} }

   Il seguente esempio di output mostra un possibile file di output.

   { "recordId" : "3223593EFGH", "modelInput" : {"inputText": "Roses are red, violets are"}, "modelOutput" : {'inputTextTokenCount': 8, 'results': [{'tokenCount': 3, 'outputText': 'blue\n', 'completionReason': 'FINISH'}]}}
   { "recordId" : "1223213ABCD", "modelInput" : {"inputText": "Hello world"}, "error" : {"errorCode" : 400, "errorMessage" : "bad request" }}

2. Un file manifest.json.out contenente un riepilogo del processo di inferenza in batch.

   {
       "totalRecordCount" : number, 
       "processedRecordCount" : number,
       "successRecordCount": number,
       "errorRecordCount": number,
       "inputTokenCount": number,
       "outputTokenCount" : number
   }

   I campi sono descritti di seguito.

   • totalRecordCount — Il numero totale di record inviati al processo di inferenza in batch.

   • processedRecordCount — Il numero di record elaborati nel processo di inferenza in batch.

   • successRecordCount — Il numero di record elaborati con successo dal processo di inferenza in batch.

   • errorRecordCount — Il numero di record nel processo di inferenza in batch che hanno causato errori.

   • inputTokenCount — Il numero totale di token di input inviati al processo di inferenza in batch.

   • outputTokenCount — Il numero totale di token di output generati dal processo di inferenza in batch.