View a markdown version of this page

推論リクエストの実行 - Amazon Bedrock

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

推論リクエストの実行

推論は、モデルに提供される入力から出力を生成するプロセスです。Amazon Bedrock に推論リクエストを送信する前に、ロールがモデル呼び出し API アクションを実行できるようにする必要があります。これは、使用しているエンドポイントによって異なります。新しいアプリケーションの場合は、 bedrock-runtimeエンドポイントをお勧めします。

bedrock-runtime エンドポイント (推奨)

ロールに AmazonBedrockFullAccess AWS 管理ポリシーがアタッチされている場合は、このセクションをスキップできます。それ以外の場合は、次のアクセス許可をアタッチして、bedrock-runtimeエンドポイント (Converse、Invoke、Chat Completions、Responsions APIs) を介した推論を許可します。

{
    "Version": "2012-10-17", 
    "Statement": [
        {
            "Sid": "ModelInvocationPermissions",
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel",
                "bedrock:InvokeModelWithResponseStream",
                "bedrock:GetInvoke",
                "bedrock:CancelInvoke",
                "bedrock:DeleteInvoke",
                "bedrock:GetInferenceProfile",
                "bedrock:ListInferenceProfiles",
                "bedrock:RenderPrompt",
                "bedrock:GetCustomModel",
                "bedrock:ListCustomModels",
                "bedrock:GetImportedModel",
                "bedrock:ListImportedModels",
                "bedrock:GetProvisionedModelThroughput",
                "bedrock:ListProvisionedModelThroughputs",
                "bedrock:GetGuardrail",
                "bedrock:ListGuardrails",
                "bedrock:ApplyGuardrail"
            ],
            "Resource": "*"
        }
    ]
}

bedrock-mantle エンドポイント

ロールに AmazonBedrockMantleInferenceAccess AWS 管理ポリシーがアタッチされている場合は、このセクションをスキップできます。それ以外の場合は、次のアクセス許可をアタッチして、bedrock-mantleエンドポイント (Responses API、Chat Completions、Messages API) を介した推論を許可します。

{
    "Version": "2012-10-17", 
    "Statement": [
        {
            "Sid": "MantleInferencePermissions",
            "Effect": "Allow",
            "Action": [
                "bedrock-mantle:CreateInference",
                "bedrock-mantle:GetProject",
                "bedrock-mantle:ListProjects",
                "bedrock-mantle:ListTagsForResources"
            ],
            "Resource": "*"
        }
    ]
}
重要

を使用する代わりにポリシーを特定のリソースにスコープする場合"Resource": "*"、bedrock-runtimeエンドポイントの Responses API には、1 つのリソースではなく 2 つのリソースが必要です。推論ターゲットに加えて、レスポンスを作成するには、アカウントのデフォルトプロジェクトbedrock:InvokeModelで が必要であり、保存されたレスポンスを取得、キャンセル、または削除するには、同じプロジェクトbedrock:DeleteInvokeで bedrock:GetInvoke、bedrock:CancelInvoke、または が必要です。次のポリシーは、最小値を付与します。

{
    "Version": "2012-10-17", 
    "Statement": [
        {
            "Sid": "CreateResponses",
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel",
                "bedrock:InvokeModelWithResponseStream"
            ],
            "Resource": [
                "arn:aws:bedrock:*::foundation-model/openai.*",
                "arn:aws:bedrock:*:111122223333:inference-profile/*.openai.*",
                "arn:aws:bedrock:*:111122223333:project/default"
            ]
        },
        {
            "Sid": "ManageStoredResponses",
            "Effect": "Allow",
            "Action": [
                "bedrock:GetInvoke",
                "bedrock:CancelInvoke",
                "bedrock:DeleteInvoke"
            ],
            "Resource": "arn:aws:bedrock:*:111122223333:project/default"
        }
    ]
}

Converse、Invoke、および Chat Completions APIs にはプロジェクトリソースは必要ありません。デフォルトのプロジェクトの詳細については、「」を参照してくださいプロジェクト (OpenAI 互換)。

各アクセス許可の詳細な内訳については、「」を参照してくださいモデル推論を実行するための前提条件。

トピック