Amazon Quick の AI ガードレール

Amazon Quick は、Amazon Quick ウェブエクスペリエンスでチャットインタラクションの安全性と責任を維持するために、defense-in-depthアプローチを採用しています。複数の安全レイヤーが連携し、それぞれがインタラクションのさまざまなポイントでさまざまなリスクに対処します。単一レイヤーは、単独ですべてのリスクをキャッチするように設計されていません。

Amazon Quick AI 機能の使用には、AWS ウェブサイトの AWS Responsible AI Policy が適用されます。

以下のトピックでは、これらのコントロールの仕組みと設定方法について説明します。

AI 安全コントロールの連携方法

Amazon Quick は、次のコントロールを一緒に使用します。

• 組み込み安全スクリーニング – Amazon Bedrock ガードレールとクイックセーフガードは、有害なコンテンツの画面ユーザーリクエストを保護します。これには、ヘイトスピーチ、侮辱、性的コンテンツ、暴力、不正行為が含まれます。これらのチェックでは、プロンプト攻撃に対するユーザーリクエストも評価されます。

• プロンプトレベルの安全手順 – 責任ある動作を促進し、安全設定を上書きしようとする試みに抵抗し、内部システム情報を公開しないようにモデルにすばやく指示します。

• アクセスとアクセス許可のコントロール – アイデンティティ、データアクセス、アクションアクセスのコントロールは、インタラクション中に使用できるデータとオペレーションを制限します。これらの制限は、サインインしたユーザーのアクセス許可と一致します。ID とアクセス許可の詳細については、Quick での Identity and Access Management「」および「」を参照してくださいカスタムアクセス許可。

• 管理者設定のコントロール – Amazon Quick ウェブエクスペリエンスでチャットインタラクションのブロックされた単語とフレーズを設定できます。

これらのコントロールはリスクを軽減するのに役立ちます。ただし、ユースケースのアクセス、アクセス許可、エージェント、フロー、データソースを設定する責任に代わるものではありません。

ブロックされた単語とフレーズ

Amazon Quick ウェブエクスペリエンスのチャットインタラクションでは、最大 50 の単語やフレーズをブロックできます。これはチャットエージェントとフローに適用されます。各エントリには最大 36 文字を含めることができます。これらのフレーズのユーザーリクエストと生成されたレスポンスの両方をクイックチェックします。Quick は、デフォルトでは単語やフレーズをブロックしません。

ブロックされた単語とフレーズを追加する

次の手順を使用して、Amazon Quick ウェブエクスペリエンスでチャットエージェントとフローのブロックされた単語とフレーズを追加します。

ブロックされた単語やフレーズを追加するには

1. クイックにサインインし、クイックの管理を選択します。

2. ナビゲーションペインで、カスタマイズを選択し、チャットエージェントのカスタマイズを選択します。

3. チャットエージェントのカスタマイズで、ガードレールと安全コントロールで、追加を選択してブロックされた単語とフレーズを追加します。最大 50 個の単語とフレーズを追加できます。各エントリには最大 36 文字を含めることができます。

ブロックされた単語とフレーズを編集する

次の手順を使用して、Amazon Quick ウェブエクスペリエンスのチャットエージェントとフローのブロックされた単語やフレーズを追加または削除します。

ブロックされた単語とフレーズを編集するには

1. クイックにサインインし、クイックの管理を選択します。

2. ナビゲーションペインで、カスタマイズを選択し、チャットエージェントのカスタマイズを選択します。

3. チャットエージェントのカスタマイズで、ガードレールと安全コントロールで、削除を選択して既存のエントリを削除するか、追加を選択してエントリを追加します。最大 50 個の単語とフレーズを追加できます。各エントリには最大 36 文字を含めることができます。