従来のクラウドワークロードと Amazon Bedrock の統合

このユースケースの範囲は、生成 AI 機能を活用するために Amazon Bedrock と統合されている従来のクラウドワークロードを実証することです。次の図は、生成 AI アカウントとサンプルアプリケーションアカウントの組み合わせを示しています。 

Generative AI アカウントは、Amazon Bedrock を使用して生成 AI 機能を提供することに専念しています。アプリケーションアカウントはサンプルワークロードの例です。このアカウントで使用するAWSサービスは、要件によって異なります。Generative AI アカウントとアプリケーションアカウント間のやり取りでは、Amazon Bedrock を使用しますAPIs。 

アプリケーションアカウントは Generative AI アカウントとは分離されており、ビジネス目的と所有権に基づいてワークロードをグループ化するのに役立ちます。これにより、生成 AI 環境内の機密データへのアクセスを制限し、環境ごとに異なるセキュリティコントロールの適用をサポートします。従来のクラウドワークロードを別のアカウントに保持すると、副作用の影響範囲を制限することもできます。 

Amazon Bedrock でサポートされているさまざまなユースケースに基づいて、エンタープライズ生成 AI アプリケーションを構築およびスケーリングできます。一般的なユースケースには、テキスト生成、仮想支援、テキストと画像の検索、テキストの要約、画像生成などがあります。ユースケースに応じて、アプリケーションコンポーネントはナレッジベースやエージェントなどの 1 つ以上の Amazon Bedrock 機能とやり取りします。 

アプリケーションアカウント

Application アカウントは、エンタープライズアプリケーションを実行および維持するためのプライマリインフラストラクチャとサービスをホストします。この場合、アプリケーションアカウントは従来のクラウドワークロードとして機能し、Generative AI アカウントの Amazon Bedrock マネージドサービスとやり取りします。このアカウントを保護するための一般的なセキュリティのベストプラクティスについては、「ワークロード OU アプリケーションアカウント」セクションを参照してください。 

標準のアプリケーションセキュリティのベストプラクティスは、他のアプリケーションと同様に適用されます。取得拡張生成 (RAG) を使用する予定の場合、アプリケーションはユーザーからのテキストプロンプトを使用してベクトルデータベースなどのナレッジベースから関連情報をクエリします。アプリケーションはユーザーのアイデンティティをナレッジベースに伝達する必要があり、ナレッジベースはロールベースまたは属性ベースのアクセスコントロールを適用します。

生成 AI アプリケーションのもう 1 つの設計パターンは、エージェントを使用して基盤モデル (FM)、データソース、ナレッジベース、ソフトウェアアプリケーション間のインタラクションを調整することです。エージェントは APIsを呼び出して、モデルとやり取りするユーザーに代わってアクションを実行します。正しく動作するための最も重要なメカニズムは、すべてのエージェントがアプリケーションユーザーのアイデンティティを、操作するシステムに伝達することです。また、各システム (データソース、アプリケーションなど) がユーザー ID を理解し、その応答をユーザーが実行を許可されたアクションに制限し、ユーザーがアクセスを許可されたデータで応答するようにする必要があります。

また、推論の生成に使用された事前トレーニング済みモデルの推論エンドポイントへの直接アクセスを制限することも重要です。推論エンドポイントへのアクセスを制限して、コストを制御し、アクティビティをモニタリングしたい。推論エンドポイントが Amazon Bedrock ベースモデルAWSなどの でホストされている場合、 IAMを使用して推論アクションを呼び出すアクセス許可を制御できます。 

AI アプリケーションをウェブアプリケーションとしてユーザーが利用できる場合は、ウェブアプリケーションファイアウォールなどのコントロールを使用してインフラストラクチャを保護する必要があります。アプリケーションに対してSQL、侵入やリクエストのフラッドなどの従来のサイバー脅威が発生する可能性があります。アプリケーションの呼び出しはモデル推論 の呼び出しを引き起こしAPIs、モデル推論API呼び出しは通常課金されるため、フラッドを軽減して FM プロバイダーからの予期しない料金を最小限に抑えることが重要です。ウェブアプリケーションファイアウォールは、プロンプトインジェクションの脅威から保護しません。これらの脅威は自然言語テキストの形式であるためです。ファイアウォールは、予期しない場所 (テキストHTML、ドキュメントなど) のコード (、、SQLまたは正規表現など) に一致します。プロンプトインジェクション攻撃から保護し、モデルの安全性を確保するには、ガードレールを使用します。 

生成 AI モデルの推論のログ記録とモニタリングは、セキュリティを維持し、誤用を防ぐ上で不可欠です。これにより、潜在的な脅威アクター、悪意のあるアクティビティ、または不正アクセスを特定し、これらの強力なモデルのデプロイに関連するリスクのタイムリーな介入と軽減が可能になります。

生成 AI アカウント

ユースケースに応じて、生成 AI アカウントはすべての生成 AI アクティビティをホストします。これには、モデルの呼び出し、、エージェントとツールRAG、モデルのカスタマイズが含まれますが、これらに限定されません。ワークロードに必要な機能と実装については、特定のユースケースについて説明する前のセクションを参照してください。 

このガイドで紹介するアーキテクチャは、 AWSサービスを使用して生成 AI 機能を安全かつ効率的に活用する組織に包括的なフレームワークを提供します。これらのアーキテクチャは、Amazon Bedrock のフルマネージド機能とセキュリティのベストプラクティスを組み合わせて、生成 AI を従来のクラウドワークロードや組織プロセスに統合するための強固な基盤を提供します。生成 AI、、エージェントFMsRAG、モデルカスタマイズの提供など、対象となる特定のユースケースは、潜在的なアプリケーションやシナリオの幅広い範囲に対処します。このガイダンスは、AWSBedrock サービスおよび固有の設定可能なセキュリティコントロールについて必要な理解を組織に提供し、独自のインフラストラクチャ、アプリケーション、セキュリティ要件に合わせた情報に基づいた意思決定を可能にします。