本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
使用護欄
建立護欄之後,您可以透過下列方式使用它:
-
模型推論 — 在 Amazon 基岩主控台中,使用遊樂場時選擇護欄。使用 Amazon 基岩 API,您可以將護欄與基本推論操作或匡威 API 一起使用。
-
將護欄新增至您的代理程式 — 您可以在建立或更新代理程式時,將護欄與代理程式建立關聯。在 Amazon 基岩主控台中,您可以在代理程式建置器的護欄詳細資料區段中新增護欄。在 Amazon 基岩 API 中,您可以在發送CreateAgent或UpdateAgent請求GuardrailConfiguration時指定。
-
查詢知識庫時請使用護欄 — 請依照查詢組態一護欄節中的步驟執行。在 Amazon 基岩主控台中,在設定組態時新增護欄。在 Amazon 基岩 API 中,在發送請求GuardrailConfiguration時包括一個RetrieveAndGenerate。
本節介紹了使用帶有模型推論和 Amazon 基岩 API 的護欄。您可以使用基本推論操作(InvokeModel和 InvokeModelWithResponseStream)和匡威 API(匡威和)。ConverseStream透過這兩組作業,您可以使用具有同步和串流模型推論的護欄。您也可以選擇性地評估使用者輸入,並設定串流回應行為。