Die Ergebnisse eines Batch-Inferenzjobs anzeigen

Nachdem ein Batch-Inferenz-Job ausgeführt wurdeCompleted, können Sie die Ergebnisse des Batch-Inferenz-Jobs aus den Dateien im Amazon S3 S3-Bucket extrahieren, den Sie bei der Erstellung des Jobs angegeben haben. Informationen zum Herunterladen eines S3-Objekts finden Sie unter Objekte herunterladen. Das S3-Bucket enthält die folgenden Dateien:

1. Amazon Bedrock generiert für jede JSONL Eingabedatei eine JSONL Ausgabedatei. Die Ausgabedateien enthalten Ausgaben des Modells für jede Eingabe im folgenden Format. Ein error-Objekt ersetzt das Feld modelOutput in jeder Zeile, in der ein Inferenzfehler aufgetreten ist. Das Format des modelOutput JSON Objekts entspricht dem body Feld für das Modell, das Sie in der InvokeModel Antwort verwenden. Weitere Informationen finden Sie unter Inferenzanforderungsparameter und Antwortfelder für Foundation-Modelle.

   { "recordId" : "11 character alphanumeric string", "modelInput": {JSON body}, "modelOutput": {JSON body} }

   Das folgende Beispiel zeigt eine mögliche Ausgabedatei.

   { "recordId" : "3223593EFGH", "modelInput" : {"inputText": "Roses are red, violets are"}, "modelOutput" : {'inputTextTokenCount': 8, 'results': [{'tokenCount': 3, 'outputText': 'blue\n', 'completionReason': 'FINISH'}]}}
   { "recordId" : "1223213ABCD", "modelInput" : {"inputText": "Hello world"}, "error" : {"errorCode" : 400, "errorMessage" : "bad request" }}

2. Eine manifest.json.out-Datei, die eine Zusammenfassung des Batch-Inferenzauftrags enthält.

   {
       "totalRecordCount" : number, 
       "processedRecordCount" : number,
       "successRecordCount": number,
       "errorRecordCount": number,
       "inputTokenCount": number,
       "outputTokenCount" : number
   }

   Die Felder werden im Folgenden beschrieben.

   • totalRecordCount — Die Gesamtzahl der Datensätze, die an den Batch-Inferenzjob gesendet wurden.

   • processedRecordCount — Die Anzahl der Datensätze, die im Batch-Inferenzjob verarbeitet wurden.

   • successRecordCount — Die Anzahl der Datensätze, die vom Batch-Inferenzjob erfolgreich verarbeitet wurden.

   • errorRecordCount — Die Anzahl der Datensätze im Batch-Inferenzjob, die Fehler verursacht haben.

   • inputTokenCount — Die Gesamtzahl der Eingabe-Token, die an den Batch-Inferenzjob gesendet wurden.

   • outputTokenCount — Die Gesamtzahl der vom Batch-Inferenzjob generierten Ausgabetokens.