Amazon Bedrock のプロビジョンドスループット - Amazon Bedrock

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

Amazon Bedrock のプロビジョンドスループット

スループットとは、モデルが処理して返す入力と出力の数とレートを指します。プロビジョンドスループットを購入して、固定コストでモデルのスループットレベルを高めることができます。モデルをカスタマイズした場合は、プロビジョンドスループットを購入してモデルを使用できるようにする必要があります。

購入するプロビジョンドスループットに対して 1 時間ごとに課金されます。料金の詳細については、「Amazon Bedrock の料金」を参照してください。1 時間あたりの料金は、次の要因によって異なります。

  1. 選択したモデル (カスタムモデルの場合、料金はカスタマイズ元のベースモデルと同じです）。

  2. プロビジョンドスループットに指定するモデルユニット (MUs) の数。MU は、指定されたモデルの特定のスループットレベルを提供します。MU のスループットレベルは以下を指定します。

    • MU が 1 分以内にすべてのリクエストで処理できる入力トークンの数。

    • MU が 1 分以内にすべてのリクエストで生成できる出力トークンの数。

    注記

    MU が指定する内容の詳細については、マネージャー AWS アカウント にお問い合わせください。

  3. プロビジョンドスループットの維持にコミットする期間。コミットメント期間が長いほど、時間単位の料金が割引されます。次のコミットメントレベルから選択できます。

    • コミットメントなし — プロビジョンドスループットはいつでも削除できます。

    • 1 か月 – 1 か月のコミットメント期間が終了するまで、プロビジョンドスループットを削除することはできません。

    • 6 か月 – 6 か月のコミットメント期間が終了するまで、プロビジョンドスループットを削除することはできません。

    注記

    プロビジョンドスループットを削除するまで、請求は続行されます。

次の手順では、プロビジョンドスループットを設定して使用するプロセスの概要を説明します。

  1. プロビジョンドスループット用に購入する MUs の数と、プロビジョンドスループットの使用をコミットする時間を決定します。

  2. ベースモデルまたはカスタムモデルのプロビジョンドスループットを購入します。

  3. プロビジョニングされたモデルを作成したら、それを使用してモデル推論 を実行できます。

トピック