本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
Amazon 基岩護欄
適用於 Amazon 基岩的護欄可讓您根據使用案例和負責任的 AI 政策,為您的生成 AI 應用程式實作保護措施。您可以建立多個針對不同使用案例量身打造的護欄,並將其套用至多個基礎模型 (FM),從而提供一致的使用者體驗,並在生成式 AI 應用程式之間標準化安全和隱私控制。您可以在以文字為基礎的使用者輸入和模型回應中使用護欄。
護欄可用於多種方式來保護生成式 AI 應用程式。例如:
聊天機器人應用程序可以使用護欄來過濾有害的用戶輸入和有毒的模型響應。
銀行應用程序可以使用護欄來阻止與尋求或提供投資建議相關的用戶查詢或模型響應。
呼叫中心應用程序總結用戶和代理之間的對話記錄可以使用護欄來編輯用戶的個人身份信息(PII)以保護用戶隱私。
您可以在護欄中配置以下策略,以避免不受歡迎和有害的內容,並刪除敏感信息以保護隱私。
-
內容過濾器 — 調整過濾器強度以阻止輸入提示或模型包含有害內容的響應。
-
拒絕的主題 — 定義一組在應用程式內容中不需要的主題。如果在使用者查詢或模型回應中偵測到這些主題,將會遭到封鎖。
-
文字篩選器 — 設定篩選器以封鎖不想要的字詞、片語和褻瀆。這些詞可以包括冒犯性的術語,競爭對手的名字等。
-
敏感資訊篩選器 — 封鎖或遮罩使用者輸入和模型回應中的敏感資訊,例如個人識別資訊 (PII) 或自訂正則運算式。
-
上下文接地檢查 — 根據源和與用戶查詢的相關性來檢測和過濾模型響應中模型響應中的幻覺。
除了上述原則之外,您也可以設定在使用者輸入或模型回應違反保護欄中定義的原則時,要傳回給使用者的訊息。
您可以為護欄建立多個護欄版本。建立護欄時,工作拔模將自動提供給您反覆修改。嘗試不同的配置,並使用內置的測試窗口來查看它們是否適合您的用例。如果您對一組規劃感到滿意,可以建立護欄版本,並將其與支援的基礎模型搭配使用。
透過指定護欄 ID 和版本,可以在推論 API 叫用期間直接與 FMs 搭配使用護欄。如果使用護欄,它將根據定義的策略評估輸入提示和 FM 完成。
若要擷取增強產生 (RAG) 或交談式應用程式,您可能需要只評估輸入提示中的使用者輸入,同時捨棄系統指示、搜尋結果、交談歷程記錄或幾個簡短範例。若要選擇性地演算輸入提示的部分,請參閱使用標籤選擇性評估用戶輸入。
重要
Amazon 基岩護欄僅支援英文。評估其他語言的文字內容可能會導致不可靠的結果。