設定 Amazon Bedrock 防護機制的內容篩選條件

您可以使用 Amazon Bedrock 防護機制設定內容篩選條件，針對包含有害內容的文字和影像，以自然語言封鎖模型提示和回應。例如，電子商務網站可以設計其線上助理，以避免使用不當的語言和/或影像。

篩選分類和封鎖層級

根據 6 個類別中使用者輸入和 FM 回應的信賴度分類進行篩選。所有使用者輸入和 FM 回應都分類為四個強度等級：NONE、LOW、MEDIUM 和 HIGH。例如，如果陳述分類為仇恨且信賴度為 HIGH，則該陳述表示仇恨內容的可能性很高。單一陳述可分類為具有不同信賴度層級的多個類別。例如，單一陳述式可以分類為仇恨且信賴度為 HIGH、侮辱且信賴度為 LOW、性且信賴度為 NONE，以及暴力且信賴度為 MEDIUM。

篩選條件強度

您可以為每個內容篩選條件類別設定篩選條件的強度。篩選強度決定篩選有害內容的敏感度。隨著篩選強度的增加，篩選有害內容的可能性也會增加，而在應用程式中查看有害內容的機率會降低。

您有四個層級的篩選強度

• 無 — 未套用內容篩選條件。允許所有使用者輸入和 FM 產生的輸出。

• 低 — 篩選條件的強度很低。分類為有害且信賴度為 HIGH 的內容將被篩選掉。允許使用 NONE、LOW 或 MEDIUM 信賴度分類為有害的內容。

• 中 — 分類為有害且信賴度為 HIGH 和 MEDIUM 的內容將被篩選掉。允許分類為有害且信賴度為 NONE 或 LOW 的內容。

• 高 — 這代表最嚴格的篩選組態。分類為有害且信賴度為 HIGH、MEDIUM 和 LOW 的內容將被篩選掉。將允許視為無害的內容。

篩選條件強度	封鎖的內容信賴度	允許的內容信賴度
無	無篩選	無、低、中、高
低	高	無、低、中
中	高、中	無、低
高	高、中、低	無