Schlüsseldefinitionen

Dieses Kapitel enthält Definitionen für Konzepte, die Ihnen helfen, zu verstehen, was Amazon Bedrock bietet und wie es funktioniert. Wenn Sie zum ersten Mal verwenden, sollten Sie sich zunächst die grundlegenden Konzepte durchlesen. Sobald Sie sich mit den Grundlagen von Amazon Bedrock vertraut gemacht haben, empfehlen wir Ihnen, sich mit den erweiterten Konzepten und Funktionen vertraut zu machen, die Amazon Bedrock bieten muss.

Grundkonzepte

In der folgenden Liste werden Sie mit den grundlegenden Konzepten von generativer KI und den grundlegenden Funktionen von Amazon Bedrock vertraut gemacht.

• Foundation Model (FM) – Ein KI-Modell mit einer großen Anzahl von Parametern und trainiert anhand einer großen Menge verschiedener Daten. Ein Grundlagenmodell kann eine Vielzahl von Antworten für eine Vielzahl von Anwendungsfällen generieren. Basismodelle können Text oder Bilder generieren und Eingaben auch in Einbettungen umwandeln. Bevor Sie ein Amazon-Bedrock-Grundlagenmodell verwenden können, müssen Sie den Zugriff anfordern. Weitere Informationen zu Grundlagenmodellen finden Sie unter Unterstützte Basismodelle in Amazon Bedrock.

• Basismodell – Ein Grundlagenmodell, das von einem Anbieter verpackt und einsatzbereit ist. Amazon Bedrock bietet eine Vielzahl von führenden Grundlagenmodellen von führenden Anbietern. Weitere Informationen finden Sie unter Unterstützte Basismodelle in Amazon Bedrock.

• Modellinferenz – Der Prozess eines Grundlagenmodells, das eine Ausgabe (Antwort) aus einer bestimmten Eingabe (Eingabeaufforderung) generiert. Weitere Informationen finden Sie unter Ausführen einer Modellinferenz.

• Prompt – Eine Eingabe, die einem Modell zur Verfügung gestellt wird, damit es eine angemessene Antwort oder Ausgabe für die Eingabe generiert. Beispielsweise kann eine Eingabeaufforderung aus einer einzelnen Zeile bestehen, auf die das Modell reagieren soll, oder sie kann Anweisungen oder eine Aufgabe detailliert beschreiben, die das Modell ausführen soll. Die Eingabeaufforderung kann den Kontext der Aufgabe, Beispiele für Ausgaben oder Text enthalten, den ein Modell in seiner Antwort verwenden soll. Eingabeaufforderungen können verwendet werden, um Aufgaben wie Klassifizierung, Beantwortung von Fragen, Codegenerierung, künstliches Schreiben und mehr auszuführen. Weitere Informationen finden Sie unter Prompt-Engineering-Richtlinien.

• Token – Eine Zeichenfolge, die ein Modell als einzelne Bedeutungseinheit interpretieren oder vorhersagen kann. Bei Textmodellen könnte ein Token beispielsweise nicht nur einem Wort entsprechen, sondern auch einem Teil eines Worts mit grammatischer Bedeutung (z. B. „-ed“), einem Satzzeichen (z. B. „?“) oder einer gemeinsamen Phrase (z. B. „alt“).

• Modellparameter – Werte, die ein Modell und sein Verhalten beim Interpretieren von Eingaben und Generieren von Antworten definieren. Modellparameter werden von Anbietern gesteuert und aktualisiert. Sie können auch Modellparameter aktualisieren, um während der Modellanpassung ein neues Modell zu erstellen.

• Inferenzparameter – Werte, die während der Modellinferenz angepasst werden können, um eine Antwort zu beeinflussen. Inferenzparameter können sich auf unterschiedliche Antworten auswirken und auch die Länge einer Antwort oder das Auftreten bestimmter Sequenzen einschränken. Weitere Informationen und Definitionen bestimmter Inferenzparameter finden Sie unter Inferenzparameter.

• Playground – Eine benutzerfreundliche grafische Oberfläche in der , AWS Management Console in der Sie mit der Ausführung von Modellinferenzen experimentieren können, um sich mit Amazon Bedrock vertraut zu machen. Verwenden Sie den Playground, um die Auswirkungen verschiedener Modelle, Konfigurationen und Inferenzparameter auf die Antworten zu testen, die für verschiedene Eingabeaufforderungen generiert wurden, die Sie eingeben. Weitere Informationen finden Sie unter Playgrounds.

• Einbettung – Der Prozess der Verdichtung von Informationen durch Umwandlung der Eingabe in einen Vektor numerischer Werte, die als Einbettungen bezeichnet werden, um die Ähnlichkeit zwischen verschiedenen Objekten mithilfe einer gemeinsamen numerischen Darstellung zu vergleichen. Beispielsweise können Sätze verglichen werden, um die Ähnlichkeit in der Bedeutung zu bestimmen, Bilder können verglichen werden, um die visuelle Ähnlichkeit zu bestimmen, oder Text und Bild können verglichen werden, um festzustellen, ob sie füreinander relevant sind. Sie können Text- und Bildeingaben auch zu einem Vektor für gemittelte Einbettungen kombinieren, wenn er für Ihren Anwendungsfall relevant ist. Weitere Informationen finden Sie unter Ausführen einer Modellinferenz und Wissensdatenbanken für Amazon Bedrock.

Erweiterte Funktionen

In der folgenden Liste werden Ihnen erweiterte Konzepte vorgestellt, die Sie mithilfe von Amazon Bedrock erkunden können.

• Orchestrierung – Der Prozess der Koordination zwischen Grundlagenmodellen und Unternehmensdaten und Anwendungen, um eine Aufgabe auszuführen. Weitere Informationen finden Sie unter Agents für Amazon Bedrock.

• Agent – Eine Anwendung, die Orchestrierungen durch zyklische Interpretation von Eingaben und Erzeugen von Ausgaben mithilfe eines Grundlagenmodells durchführt. Ein Kundendienstmitarbeiter kann verwendet werden, um Kundenanfragen auszuführen. Weitere Informationen finden Sie unter Agents für Amazon Bedrock.

• Erweiterte Generation von Abrufen (RAG) – Der Prozess des Abfragens und Abrufens von Informationen aus einer Datenquelle, um eine generierte Antwort auf eine Eingabeaufforderung zu erweitern. Weitere Informationen finden Sie unter Wissensdatenbanken für Amazon Bedrock.

• Modellanpassung – Der Prozess der Verwendung von Trainingsdaten zur Anpassung der Modellparameterwerte in einem Basismodell, um ein benutzerdefiniertes Modell zu erstellen. Beispiele für die Modellanpassung sind die Feinabstimmung von , die beschriftete Daten (Eingaben und entsprechende Ausgaben) verwendet, und Fortgesetztes Vortraining, das unbeschriftete Daten (nur Eingaben) verwendet, um Modellparameter anzupassen. Weitere Informationen zu den in Amazon Bedrock verfügbaren Techniken zur Modellanpassung finden Sie unter Benutzerdefinierte Modelle.

• Hyperparameter – Werte, die für die Modellanpassung angepasst werden können, um den Trainingsprozess und damit das benutzerdefinierte Ausgabemodell zu steuern. Weitere Informationen und Definitionen bestimmter Hyperparameter finden Sie unter Hyperparameter für benutzerdefinierte Modelle.

• Modellbewertung – Der Prozess der Bewertung und des Vergleichs von Modellausgaben, um das Modell zu ermitteln, das am besten für einen Anwendungsfall geeignet ist. Weitere Informationen finden Sie unter Modellbewertung.

• Bereitgestellter Durchsatz – Ein Durchsatz, den Sie für ein Basis- oder benutzerdefiniertes Modell erwerben, um die Menge und/oder Rate der Token zu erhöhen, die während der Modellinferenz verarbeitet werden. Wenn Sie bereitgestellten Durchsatz für ein Modell erwerben, wird ein bereitgestelltes Modell erstellt, mit dem Modellinferenzen durchgeführt werden können. Weitere Informationen finden Sie unter Bereitgestellter Durchsatz für Amazon Bedrock.