推論プロファイルの前提条件

推論プロファイルを使用する前に、次の前提条件を満たしていることを確認してください。

1. ロールは推論プロファイルAPIアクションにアクセスできます。ロールに AmazonBedrockFullAccess AWS管理ポリシーがアタッチされている場合は、このステップをスキップできます。それ以外の場合は、以下の作業を行います。

   1. IAM 「ポリシーの作成」のステップに従い、次のポリシーを作成します。これにより、ロールはすべての基盤モデルと推論プロファイルを使用して推論プロファイル関連のアクションを実行し、モデル推論を実行できます。

      {
          "Version": "2012-10-17",
          "Statement": [
              {
                  "Effect": "Allow",
                  "Action": [
                      "bedrock:InvokeModel*",
                      "bedrock:CreateInferenceProfile"
                  ],
                  "Resource": [
                      "arn:aws:bedrock:*::foundation-model/*",
                      "arn:aws:bedrock:*:*:inference-profile/*",
                      "arn:aws:bedrock:*:*:application-inference-profile/*"
                  ]
              },
              {
                  "Effect": "Allow",
                  "Action": [
                      "bedrock:GetInferenceProfile",
                      "bedrock:ListInferenceProfiles",
                      "bedrock:DeleteInferenceProfile",
                      "bedrock:TagResource",
                      "bedrock:UntagResource",
                      "bedrock:ListTagsForResource"
                  ],
                  "Resource": [
                      "arn:aws:bedrock:*:*:inference-profile/*",
                      "arn:aws:bedrock:*:*:application-inference-profile/*"
                  ]
              }
          ]
      }

      (オプション) ロールのアクセスは、次の方法で制限できます。

      • ロールが実行できるAPIアクションを制限するには、 Actionフィールドのリストを変更して、アクセスを許可するAPIオペレーションのみを含めます。

      • 特定の推論プロファイルへのロールのアクセスを制限するには、アクセスを許可する推論プロファイルと基盤モデルのみを含むように Resource リストを変更します。システム定義の推論プロファイルは で始まりinference-profile、アプリケーション推論プロファイルは で始まりますapplication-inference-profile。

        重要

        最初のステートメントの Resourceフィールドに推論プロファイルを指定する場合は、それに関連付けられた各リージョンで基盤モデルも指定する必要があります。

      • 推論プロファイルを介してのみ基盤モデルを呼び出すことができるようにユーザーアクセスを制限するには、Condition フィールドを追加し、aws:InferenceProfileArn 条件キー を使用します。アクセスをフィルタリングする推論プロファイルを指定します。

      • たとえば、次のポリシーをロールにアタッチして、 を呼び出すことができます。Anthropic Claude 3 Haiku 米国経由のモデルのみ Anthropic Claude 3 Haiku 123456789012 us-west-2 のアカウントの推論プロファイル：

        {
            "Version": "2012-10-17",
            "Statement": [
                {
                    "Effect": "Allow",
                    "Action": [
                        "bedrock:InvokeModel*"
                    ],
                    "Resource": [
                        "arn:aws:bedrock:us-east-1::foundation-model/anthropic.claude-3-haiku-20240307-v1:0"
                        "arn:aws:bedrock:us-west-2::foundation-model/anthropic.claude-3-haiku-20240307-v1:0"
                        "arn:aws:bedrock:us-west-2:123456789012:inference-profile/us.anthropic.claude-3-haiku-20240307-v1:0"
                    ],
                    "Condition": {
                        "StringLike": {
                            "bedrock:InferenceProfileArn": "arn:aws:bedrock:us-west-2:123456789012:inference-profile/us.anthropic.claude-3-haiku-20240307-v1:0"
                        }
                    }
                }
            ]
        }

   2. IAM 「ID アクセス許可の追加と削除」の手順に従って、ポリシーをロールにアタッチし、すべての推論プロファイルを表示および使用するアクセス許可をロールに付与します。

2. 使用する推論プロファイルで定義されたモデルとリージョンへのアクセスをリクエストしました。例えば、米国を呼び出すためのアクセスを取得するには Anthropic Claude 3 Haiku 米国西部 (オレゴン) リージョンの推論プロファイルで、次の操作を行います。

   1. 米国東部 (バージニア北部) リージョン AWS Management Console の にサインインし、 へのモデルアクセスをリクエストします。Anthropic Claude 3 Haiku 「」のステップに従いますAccess Amazon Bedrock foundation models。

   2. 米国西部 (オレゴン) リージョンに変更し、 へのモデルアクセスをリクエストする Anthropic Claude 3 Haiku.