Fragen Sie eine Wissensdatenbank ab und generieren Sie Antworten auf der Grundlage der abgerufenen Daten

Wichtig

Leitplanken werden nur auf die Eingabe und die generierte Antwort des LLM angewendet. Sie werden nicht auf die Referenzen angewendet, die zur Laufzeit aus den Knowledge Bases abgerufen wurden.

Nachdem Ihre Wissensdatenbank eingerichtet ist, können Sie sie abfragen und Antworten auf der Grundlage der aus Ihren Quelldaten abgerufenen Blöcken generieren, indem Sie den RetrieveAndGenerateAPI-Betrieb. Die Antworten werden mit Zitaten auf die ursprünglichen Quelldaten zurückgegeben. Sie können anstelle des standardmäßigen Amazon Bedrock Knowledge Bases-Rankers auch ein Ranking-Modell verwenden, um Quellenblöcke beim Abrufen nach Relevanz zu ordnen.

Anmerkung

Bilder, die während des RetrieveAndGenerate Ablaufs von der Retrieve Antwort zurückgegeben werden, sind in der Aufforderung zur Generierung der Antwort enthalten. Die RetrieveAndGenerate Antwort darf keine Bilder enthalten, aber sie kann die Quellen angeben, die die Bilder enthalten.

Um zu erfahren, wie Sie Ihre Wissensdatenbank abfragen können, wählen Sie die Registerkarte für Ihre bevorzugte Methode und gehen Sie dann wie folgt vor:

Console

Testen Ihrer Wissensdatenbank

1. Melden Sie sich bei der Rolle AWS Management Console Using an IAM mit Amazon Bedrock-Berechtigungen an und öffnen Sie die Amazon Bedrock-Konsole unter. https://console.aws.amazon.com/bedrock/

2. Wählen Sie im linken Navigationsbereich Wissensdatenbanken aus.

3. Führen Sie im Abschnitt Wissensdatenbanken eine der folgenden Aktionen aus:

   • Aktivieren Sie das Optionsfeld neben der Wissensdatenbank, die Sie testen möchten, und wählen Sie Wissensdatenbank testen. Ein Testfenster wird von rechts erweitert.

   • Wählen Sie die Wissensdatenbank aus, die Sie testen möchten. Ein Testfenster wird von rechts erweitert.

4. Deaktivieren Sie die Option Antworten für Ihre Anfrage generieren, um direkt aus Ihrer Wissensdatenbank abgerufene Informationen zurückzugeben. Amazon Bedrock generiert Antworten auf der Grundlage Ihrer Datenquellen und zitiert die bereitgestellten Informationen mit Fußnoten.

5. Um ein Modell für die Antwortgenerierung auszuwählen, wählen Sie Modell auswählen. Wählen Sie dann Anwenden aus.

6. (Optional) Wählen Sie das Konfigurationssymbol ( ), um Konfigurationen zu öffnen. Informationen zu Konfigurationen finden Sie unterAbfragen und Antwortgenerierung konfigurieren und anpassen.

7. Geben Sie eine Abfrage in das Textfeld im Chatfenster ein und wählen Sie Ausführen aus, um Antworten aus der Wissensdatenbank zurückzugeben.

8. Wählen Sie eine Fußnote aus, um einen Auszug aus der zitierten Quelle für diesen Teil der Antwort zu sehen. Wählen Sie den Link, um zu dem S3-Objekt zu navigieren, das die Datei enthält.

9. Um Details zu den zurückgegebenen Chunks anzuzeigen, wählen Sie Quelldetails anzeigen aus.

   • Um die Konfigurationen zu sehen, die Sie für die Abfrage festgelegt haben, erweitern Sie Abfragekonfigurationen.

   • Um Details zu einem Quell-Chunk anzuzeigen, erweitern Sie ihn, indem Sie auf den Rechtspfeil ( ) neben dem Block klicken. Sie können die folgenden Informationen sehen:

     • Der Rohtext aus dem Quellblock. Um diesen Text zu kopieren, wählen Sie das Kopiersymbol ( ). Wenn Sie Amazon S3 zum Speichern Ihrer Daten verwendet haben, wählen Sie das externe Linksymbol ( ), um zu dem S3-Objekt zu navigieren, das die Datei enthält.

     • Die mit dem Quell-Chunk verknüpften Metadaten, wenn Sie Amazon S3 zum Speichern Ihrer Daten verwendet haben. Die Attribut-/Feldschlüssel und Werte sind in der .metadata.json Datei definiert, die dem Quelldokument zugeordnet ist. Weitere Informationen finden Sie im Abschnitt Metadaten und Filterung unter. Abfragen und Antwortgenerierung konfigurieren und anpassen

Chat-Optionen

• Um ein anderes Modell für die Antwortgenerierung zu verwenden, wählen Sie Modell ändern aus. Wenn Sie das Modell ändern, wird der Text im Chatfenster vollständig gelöscht.

• Wechseln Sie zum direkten Abrufen von Quell-Chunks, indem Sie die Option Antworten generieren deaktivieren. Wenn Sie die Einstellung ändern, wird der Text im Chatfenster vollständig gelöscht.

• Um das Chat-Fenster zu löschen, wählen Sie das Besensymbol ().

• Um die gesamte Ausgabe im Chat-Fenster zu kopieren, wählen Sie das Kopiersymbol ( ).

API

Um eine Wissensdatenbank abzufragen und mithilfe eines Basismodells Antworten auf der Grundlage der Ergebnisse aus den Datenquellen zu generieren, senden Sie eine RetrieveAndGenerateAnfrage mit einem Runtime-Endpunkt von Agents for Amazon Bedrock.

Die RetrieveAndGenerateStreamDie API gibt Daten in einem Streaming-Format zurück und ermöglicht es Ihnen, auf die generierten Antworten in Blöcken zuzugreifen, ohne auf das gesamte Ergebnis warten zu müssen.

Die folgenden Felder sind erforderlich:

Anmerkung

Die API-Antwort enthält Zitationsereignisse. Das citation Mitglied wurde als veraltet eingestuft. Wir empfehlen, stattdessen die retrievedReferences Felder generatedResponse und zu verwenden. Weitere Informationen finden Sie unter CitationEvent.

Feld	Grundlegende Beschreibung
input	Enthält ein text Feld zur Angabe der Abfrage.
retrieveAndGenerateKonfiguration	Enthält eine RetrieveAndGenerateConfiguration, die Konfigurationen für den Abruf und die Generierung spezifiziert. Weitere Details finden Sie unten.

Die folgenden Felder sind optional:

Feld	Anwendungsfall
sessionId	Verwenden Sie denselben Wert wie in einer vorherigen Sitzung, um diese Sitzung fortzusetzen und den daraus resultierenden Kontext für das Modell beizubehalten.
Sitzungskonfiguration	Um einen benutzerdefinierten KMS-Schlüssel für die Verschlüsselung der Sitzung hinzuzufügen.

Fügen Sie das knowledgeBaseConfiguration Feld in das ein RetrieveAndGenerateConfiguration. Dieses Feld ist einem KnowledgeBaseRetrieveAndGenerateConfigurationObjekt zugeordnet, das die folgenden Felder enthält:

• Die folgenden Felder sind erforderlich:

  Feld	Grundlegende Beschreibung
  knowledgeBaseId	Die ID der Wissensdatenbank, die abgefragt werden soll.
  Modell ARN	Der ARN des Foundation-Modells oder Inferenzprofils, das für die Generierung verwendet werden soll.

• Die folgenden Felder sind optional:

  Feld	Anwendungsfall
  Konfiguration abrufen	Um Abfragekonfigurationen für die Anpassung der Vektorsuche einzubeziehen. Weitere Informationen finden Sie unter KnowledgeBaseRetrievalConfiguration.
  Orchestrierung/Konfiguration	Um Konfigurationen dafür anzugeben, wie das Modell die Eingabeaufforderung vor dem Abrufen und Generieren verarbeitet. Weitere Informationen finden Sie unter OrchestrationConfiguration.
  Generierung: Konfiguration	Um Konfigurationen für die Antwortgenerierung anzugeben. Weitere Informationen finden Sie unter GenerationConfiguration.

Sie können ein Ranking-Modell gegenüber dem standardmäßigen Rankingmodell von Amazon Bedrock Knowledge Bases verwenden, indem Sie das rerankingConfiguration Feld innerhalb von einbeziehen. KnowledgeBaseVectorSearchConfigurationKnowledgeBaseRetrievalConfiguration Das rerankingConfiguration Feld ist einem VectorSearchRerankingConfigurationObjekt zugeordnet, in dem Sie das zu verwendende Ranking-Modell, alle zusätzlichen einzuschließenden Anforderungsfelder, Metadatenattribute zum Herausfiltern von Dokumenten bei der Neueinstufung und die Anzahl der Ergebnisse angeben können, die nach der Neurangierung zurückgegeben werden sollen. Weitere Informationen finden Sie unter VectorSearchRerankingConfiguration.

Anmerkung

Wenn der von Ihnen angegebene numberOfRerankedResults Wert größer als der numberOfResults Wert in ist, ist die maximale Anzahl von Ergebnissen KnowledgeBaseVectorSearchConfiguration, die zurückgegeben werden, der Wert für. numberOfResults Eine Ausnahme ist, wenn Sie die Abfragezerlegung verwenden (weitere Informationen finden Sie im Abfragen und Antwortgenerierung konfigurieren und anpassen Abschnitt Abfrageänderungen unter. Wenn Sie die Zerlegung von Abfragen verwenden, numberOfRerankedResults kann der bis zu fünfmal so hoch sein. numberOfResults

Die Antwort gibt die generierte Antwort im output Feld und die angegebenen Quellblöcke als Array im Feld zurück. citations Jedes Citation-Objekt enthält die folgenden Felder.

Feld	Grundlegende Beschreibung
generatedResponsePart	In dem textResponsePart Feld ist text das enthalten, auf das sich das Zitat bezieht. Das span Feld enthält die Indizes für den Anfang und das Ende des Teils der Ausgabe, der ein Zitat enthält.
Abgerufene Verweise	Ein Array von RetrievedReferenceObjekten, von denen jedes einen Quellblock enthält, content der dem Dokument metadata zugeordnet ist, und den URI oder die URL location des Dokuments in der Datenquelle. Wenn es sich bei dem Inhalt um ein Bild handelt, wird die Daten-URI des Base64-codierten Inhalts im folgenden Format zurückgegeben:. data:image/jpeg;base64,${base64-encoded string}

Die Antwort gibt auch einen sessionId Wert zurück, den Sie in einer anderen Anfrage wiederverwenden können, um dieselbe Konversation aufrechtzuerhalten.

Wenn Sie a guardrailConfiguration in die Anfrage aufgenommen haben, informiert Sie das guardrailAction Feld darüber, ob der Inhalt blockiert wurde oder nicht.

Wenn die abgerufenen Daten Bilder enthalten, gibt die Antwort auch die folgenden Antwortheader zurück, die Metadaten für Quellblöcke enthalten, die in der Antwort zurückgegeben wurden:

• x-amz-bedrock-kb-byte-content-source— Enthält den Amazon S3 S3-URI des Images.

• x-amz-bedrock-kb-description— Enthält die Base64-kodierte Zeichenfolge für das Bild.

Anmerkung

Sie können bei der Konfiguration von Metadatenfiltern nicht nach diesen Metadaten-Antwort-Headern filtern.

Anmerkung

Wenn Sie beim Generieren von Antworten die Fehlermeldung erhalten, dass die Aufforderung die Zeichenbeschränkung überschreitet, können Sie die Aufforderung auf folgende Weise verkürzen:

• Reduzieren Sie die maximale Anzahl der abgerufenen Ergebnisse (dadurch wird das, was für den Platzhalter $search_results$ in der ausgefüllt wird, gekürzt). Vorlagen für Eingabeaufforderungen in der Wissensdatenbank: Orchestrierung und Generierung

• Erstellen Sie die Datenquelle mit einer Chunking-Strategie neu, bei der kleinere Blöcke verwendet werden (dadurch wird das, was für den Platzhalter $search_results$ in der ausgefüllt wird, gekürzt). Vorlagen für Eingabeaufforderungen in der Wissensdatenbank: Orchestrierung und Generierung

• Verkürzen Sie die Vorlage für die Aufforderung.

• Kürzen Sie die Benutzerabfrage (dadurch wird gekürzt, was für den Platzhalter $query$ in der ausgefüllt ist). Vorlagen für Eingabeaufforderungen in der Wissensdatenbank: Orchestrierung und Generierung