So funktioniert Amazon Bedrock Guardrails

Amazon Bedrock Guardrails hilft Ihnen dabei, Ihre generativen KI-Anwendungen zu schützen, indem es sowohl Benutzereingaben als auch Modellantworten auswertet.

Sie können Guardrails für Ihre Anwendungen auf der Grundlage der folgenden Überlegungen konfigurieren

• Ein Konto kann mehrere Guardrails haben, die jeweils eine andere Konfiguration haben und an einen bestimmten Anwendungsfall angepasst sind.

• Eine Guardrail ist eine Kombination aus mehreren Richtlinien, die für Eingabeaufforderungen und Antworten konfiguriert sind, darunter Inhaltsfilter, abgelehnte Themen, Filter für vertrauliche Informationen und Wortfilter.

• Eine Guardrail kann mit einer einzelnen Richtlinie oder einer Kombination mehrerer Richtlinien konfiguriert werden.

• Eine Leitplanke kann mit jedem Fundamentmodell (FM), das nur aus Text besteht, verwendet werden, indem bei der Modellinferenz auf die Leitplanke verwiesen wird.

• Sie können Guardrails mit Amazon Bedrock Agents und Amazon Bedrock Knowledge Bases verwenden.

Wenn Sie eine Leitplanke verwenden, funktioniert sie während des Inferenzgesprächs wie folgt:

• Die Eingabe wird anhand der konfigurierten Richtlinien bewertet, die in der Guardrail angegeben sind. Um die Latenz zu verbessern, wird die Eingabe außerdem für jede konfigurierte Richtlinie parallel ausgewertet.

• Führt die Auswertung der Eingaben zu einem Eingreifen der Leitplanke, wird eine konfigurierte Antwort auf blockierte Nachrichten zurückgegeben und die Inferenz des Foundation-Modells wird verworfen.

• Wenn die Auswertung der Eingaben erfolgreich ist, wird die Modellantwort anschließend anhand der konfigurierten Richtlinien in der Leitplanke bewertet.

• Wenn die Antwort zu einem Eingriff oder einer Verletzung der Leitplanke führt, wird dies durch vorkonfigurierte blockierte Nachrichten oder durch Maskierung vertraulicher Informationen außer Kraft gesetzt.

• Wenn die Auswertung der Antwort erfolgreich ist, wird die Antwort ohne Änderungen an die Anwendung zurückgegeben.

Informationen zu den Preisen von Amazon Bedrock Guardrails finden Sie in den Amazon Bedrock-Preisen.

So werden Gebühren für Amazon Bedrock Guardrails berechnet

Gebühren für Amazon Bedrock Guardrails fallen nur für die in der Guardrail konfigurierten Policen an. Der Preis für jeden Policentyp ist unter Amazon Bedrock Pricing verfügbar. Wenn Guardrails die Eingabeaufforderung blockiert, wird Ihnen die Guardrail-Bewertung in Rechnung gestellt. Für Inferenzgespräche nach dem Foundation-Modell fallen keine Gebühren an. Wenn Guardrails die Modellantwort blockiert, wird Ihnen die Auswertung der Eingabeaufforderung und der Modellantwort in Rechnung gestellt. In diesem Fall werden Ihnen die Inferenzabrufe des Foundation-Modells sowie die Modellantwort, die vor der Guardrails-Bewertung generiert wurde, in Rechnung gestellt.