格式化並上傳您的推論資料

注意

批次推論為預覽版，可能會有所變更。Batch 推論目前只能透過API. APIs通過以下命令訪問批量SDKs。

• AWS SDK對於 Python。

• AWS SDK對於爪哇。

我們建議您建立虛擬環境以使用SDK. 由於最新版本中APIs無法使用批次推論SDKs，因此建議您先SDK從虛擬環境中解除安裝最新版本的，然後再使用批次推論來安裝版本。APIs如需引導式範例，請參閱程式碼範例。

使用下列格式將包含要輸入到模型的資料JSONL檔案上傳到 S3 儲存貯體。每行應符合以下格式，並且是推論的不同項目。如果您離開 recordId 欄位，Amazon Bedrock 將其加入到輸出中。

注意

modelInputJSONL物件的格式應符合您在InvokeModel要求中使用之模型的body欄位。如需詳細資訊，請參閱基礎模型的推論參數。

{ "recordId" : "11 character alphanumeric string", "modelInput" : {JSON body} }
...

例如，您可以提供包含下列資料的JSONL檔案，並在Titan文字模型上執行批次推論。

{ "recordId" : "3223593EFGH", "modelInput" : {"inputText": "Roses are red, violets are"} }
{ "recordId" : "1223213ABCD", "modelInput" : {"inputText": "Hello world"} }