Erweiterte Eingabeaufforderungen konfigurieren

Sie können erweiterte Eingabeaufforderungen entweder in AWS Management Console oder über die konfigurieren. API

Console

In der Konsole können Sie erweiterte Eingabeaufforderungen konfigurieren, nachdem Sie den Agenten erstellt haben. Diese konfigurieren Sie, während Sie den Agenten bearbeiten.

Um erweiterte Eingabeaufforderungen für Ihren Agenten anzuzeigen oder zu bearbeiten

1. Melden Sie sich als Benutzer mit IAM Amazon Bedrock-Berechtigungen an und öffnen Sie die Amazon Bedrock-Konsole AWS Management Console unter. https://console.aws.amazon.com/bedrock/

2. Wählen Sie im linken Navigationsbereich Agents aus. Wählen Sie dann im Abschnitt Agenten einen Agenten aus.

3. Wählen Sie auf der Seite mit den Agentendetails im Abschnitt Arbeitsentwurf die Option Arbeitsentwurf aus.

4. Wählen Sie auf der Seite Arbeitsentwurf im Abschnitt Orchestrierungsstrategie die Option Bearbeiten aus.

5. Stellen Sie auf der Seite Orchestrierungsstrategie im Abschnitt Details zur Orchestrierungsstrategie sicher, dass die Standardorchestrierung ausgewählt ist, und wählen Sie dann die Registerkarte aus, die dem Schritt der Agentensequenz entspricht, den Sie bearbeiten möchten.

6. Um die Bearbeitung der Vorlage zu aktivieren, aktivieren Sie die Option Vorlagenstandardwerte überschreiben. Wählen Sie im Dialogfeld „Vorlagenstandardwerte überschreiben“ die Option „Bestätigen“.

   Warnung

   Wenn Sie „Vorlagenstandardwerte überschreiben“ deaktivieren oder das Modell ändern, wird die Standardvorlage von Amazon Bedrock verwendet und Ihre Vorlage wird sofort gelöscht. Geben Sie zur Bestätigung confirm in das Textfeld ein, um die angezeigte Meldung zu bestätigen.

7. Damit der Mitarbeiter die Vorlage bei der Generierung von Antworten verwenden kann, aktivieren Sie die Option Vorlage aktivieren. Wenn diese Konfiguration deaktiviert ist, verwendet der Agent die Vorlage nicht.

8. Verwenden Sie den Prompt-Vorlagen-Editor, um die Beispielvorlage für eine Aufforderung zu ändern.

9. In Konfigurationen können Sie die Inferenzparameter für die Aufforderung ändern. Definitionen der Parameter und weitere Informationen zu den Parametern für verschiedene Modelle finden Sie unter Inferenzanforderungsparameter und Antwortfelder für Foundation-Modelle.

10. (Optional) Um eine Lambda-Funktion zu verwenden, die Sie für die Analyse der Rohausgabe des Foundation-Modells definiert haben, führen Sie die folgenden Aktionen aus:

    Anmerkung

    Eine Lambda-Funktion wird für alle Vorlagen zur Eingabeaufforderung verwendet.

    1. Wählen Sie im Abschnitt Konfigurationen die Option Lambda-Funktion zum Parsen verwenden aus. Wenn Sie diese Einstellung löschen, verwendet Ihr Agent den Standardparser für die Aufforderung.

    2. Wählen Sie für die Parser-Lambda-Funktion eine Lambda-Funktion aus dem Drop-down-Menü aus.

       Anmerkung

       Sie müssen Berechtigungen für Ihren Agenten anhängen, damit er auf die Lambda-Funktion zugreifen kann. Weitere Informationen finden Sie unter Ressourcenbasierte Richtlinie, die es Amazon Bedrock ermöglicht, eine Lambda-Funktion für Aktionsgruppen aufzurufen.

11. Um Ihre Einstellungen zu speichern, wählen Sie eine der folgenden Optionen:

    1. Wenn Sie im selben Fenster bleiben möchten, sodass Sie die Eingabeaufforderungseinstellungen dynamisch aktualisieren können, während Sie Ihren aktualisierten Agenten testen, wählen Sie Speichern.

    2. Um Ihre Einstellungen zu speichern und zur Seite mit dem Arbeitsentwurf zurückzukehren, wählen Sie Speichern und beenden.

12. Um die aktualisierten Einstellungen zu testen, wählen Sie im Testfenster die Option Vorbereiten.

API

Um erweiterte Ansagen mithilfe der API Operationen zu konfigurieren, senden Sie einen UpdateAgentAnruf und ändern das folgende promptOverrideConfiguration Objekt.

"promptOverrideConfiguration": { 
    "overrideLambda": "string",
    "promptConfigurations": [ 
        { 
            "basePromptTemplate": "string",
            "inferenceConfiguration": { 
                "maximumLength": int,
                "stopSequences": [ "string" ],
                "temperature": float,
                "topK": float,
                "topP": float
            },
            "parserMode": "DEFAULT | OVERRIDDEN",
            "promptCreationMode": "DEFAULT | OVERRIDDEN",
            "promptState": "ENABLED | DISABLED",
            "promptType": "PRE_PROCESSING | ORCHESTRATION | KNOWLEDGE_BASE_RESPONSE_GENERATION | POST_PROCESSING | MEMORY_SUMMARIZATION"
        }
    ],
    promptCachingState: {
        cachingState: "ENABLED | DISABLED"
    }
}

1. Fügen Sie der Liste promptConfigurations für jede Vorlage zur Eingabeaufforderung, die Sie bearbeiten möchten, ein promptConfiguration-Objekt hinzu.

2. Geben Sie die zu ändernde Eingabeaufforderung im Feld promptType an.

3. Ändern Sie die Vorlage für die Aufforderung mithilfe der folgenden Schritte:

   1. Geben Sie die Felder basePromptTemplate mit Ihrer Vorlage zur Eingabeaufforderung an.

   2. Schließen Sie Inferenzparameter in die inferenceConfiguration-Objekte ein. Weitere Informationen zu Inferenzkonfigurationen finden Sie unter Inferenzanforderungsparameter und Antwortfelder für Foundation-Modelle.

4. Um die Vorlage für die Aufforderung zu aktivieren, setzen Sie den promptCreationMode Wert aufOVERRIDDEN.

5. Um zu erlauben oder zu verhindern, dass der Agent den Schritt im promptType Feld ausführt, ändern Sie den promptState Wert. Diese Einstellung kann nützlich sein, um Probleme mit dem Verhalten des Agenten zu beheben.

   • Wenn Sie DISABLED für promptState die POST_PROCESSING Schritte PRE_PROCESSINGKNOWLEDGE_BASE_RESPONSE_GENERATION, oder auf einstellen, überspringt der Agent diesen Schritt.

   • Wenn Sie DISABLED für den ORCHESTRATION Schritt promptState auf einstellen, sendet der Agent bei der Orchestrierung nur die Benutzereingaben an das Foundation-Modell. Darüber hinaus gibt der Agent die Antwort unverändert zurück, ohne dass Aufrufe zwischen API Vorgängen und Wissensdatenbanken orchestriert werden.

   • Standardmäßig ist DISABLED der POST_PROCESSING Schritt. Standardmäßig sind die KNOWLEDGE_BASE_RESPONSE_GENERATION Schritte PRE_PROCESSINGORCHESTRATION, undENABLED.

   • Standardmäßig lautet der MEMORY_SUMMARIZATION Schritt, ENABLED ob Speicher aktiviert ist, und der MEMORY_SUMMARIZATION Schritt ist, DISABLED ob Speicher deaktiviert ist.

6. Gehen Sie wie folgt vor, um eine Lambda-Funktion zu verwenden, die Sie zum Analysieren der Rohausgabe des Foundation-Modells definiert haben:

   1. Setzen Sie für jede Eingabeaufforderungsvorlage, für die Sie die Lambda-Funktion aktivieren möchten, parserMode aufOVERRIDDEN.

   2. Geben Sie den Amazon-Ressourcennamen (ARN) der Lambda-Funktion in das overrideLambda Feld im promptOverrideConfiguration Objekt ein.

7. (Optional) Um das Prompt-Caching zu aktivieren, um die Latenz zu reduzieren, wenn Sie Eingaben mit langem und wiederholtem Kontext haben, setzen Sie das cachingState Feld auf. ENABLED Weitere Informationen zum Zwischenspeichern von Eingabeaufforderungen finden Sie unter. Promptes Caching für schnellere Modellinferenz

   Anmerkung

   Das Amazon Bedrock Prompt Caching ist derzeit nur für eine bestimmte Anzahl von Kunden verfügbar. Weitere Informationen zur Teilnahme an der Vorschauversion finden Sie unter Amazon Bedrock Prompt-Caching.