

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

# So verwenden Sie ein Inferenzprofil beim Modellaufruf
<a name="inference-profiles-use"></a>

Sie können anstelle eines Basismodells ein regionsübergreifendes Inferenzprofil verwenden, um Anforderungen an mehrere Regionen zu übermitteln. Sie können ein Anwendungsinferenzprofil verwenden, um Kosten und Nutzung eines Modells in einer oder mehreren Regionen nachzuverfolgen. Um zu erfahren, wie Sie ein Inferenzprofil bei der Ausführung von Modellinferenzen verwenden, wählen Sie die Registerkarte für Ihre bevorzugte Methode aus und gehen dann wie folgt vor:

------
#### [ Console ]

Um ein Inferenzprofil mit einem Feature zu verwenden, das es unterstützt, gehen Sie wie folgt vor:

1. Melden Sie sich bei der AWS-Managementkonsole mit einer IAM-Identität an, die zur Verwendung der Amazon-Bedrock-Konsole berechtigt ist. Öffnen Sie dann die Amazon-Bedrock-Konsole unter [https://console.aws.amazon.com/bedrock](https://console.aws.amazon.com/bedrock).

1. Navigieren Sie zu der Seite für das Feature, für das Sie ein Inferenzprofil verwenden möchten. Wählen Sie beispielsweise im linken Navigationsbereich **Chat /Text Playground** aus.

1. Klicken Sie auf **Modell auswählen** und wählen Sie dann das Modell aus. Wählen Sie beispielsweise **Amazon** und dann **Nova Premier** aus.

1. Wählen Sie unter **Inferenz** die Option **Inferenzprofile** im Dropdownmenü aus.

1. Wählen Sie das zu verwendende Inferenzprofil aus (z. B. **US Nova Premier**) und klicken Sie dann auf **Anwenden**.

------
#### [ API ]

Sie können ein Inferenzprofil verwenden, wenn Sie Inferenz aus einer beliebigen Region ausführen, die darin enthalten ist, und zwar mit den folgenden API-Operationen:
+ [InvokeModel](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_InvokeModel.html) oder [InvokeModelWithResponseStream](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_InvokeModelWithResponseStream.html) – Um im Modellaufruf ein Inferenzprofil zu verwenden, folgen Sie den Schritten unter [Senden Sie eine einzelne Aufforderung mit InvokeModel](inference-invoke.md) und geben den Amazon-Ressourcennamen (ARN) des Inferenzprofils im Feld `modelId` an. Ein Beispiel finden Sie unter [Verwenden eines Inferenzprofils beim Modellaufruf](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_InvokeModel.html#API_runtime_InvokeModel_Example_5).
+ [Converse](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_Converse.html) oder [ConverseStream](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_ConverseStream.html) – Um im Modellaufruf ein Inferenzprofil mit der Converse-API zu verwenden, folgen Sie den Schritten unter [Führen einer Konversation mit den Converse-API-Operationen](conversation-inference.md) und geben den ARN des Inferenzprofils im Feld `modelId` an. Ein Beispiel finden Sie unter [Verwenden eines Inferenzprofils in einer Konversation](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_Converse.html#API_runtime_Converse_Example_5).
+ [https://docs.aws.amazon.com/bedrock/latest/APIReference/API_agent-runtime_RetrieveAndGenerate.html](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_agent-runtime_RetrieveAndGenerate.html) – Um ein Inferenzprofil beim Generieren von Antworten aus den Ergebnissen der Abfrage einer Wissensdatenbank zu verwenden, folgen Sie den Schritten auf der Registerkarte API unter [Testen Ihrer Wissensdatenbank mit Abfragen und Antworten](knowledge-base-test.md) und geben den ARN des Inferenzprofils im Feld `modelArn` an. Weitere Informationen finden Sie unter [Verwenden eines Inferenzprofils zum Generieren einer Antwort](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_agent-runtime_RetrieveAndGenerate.html#API_agent-runtime_RetrieveAndGenerate_Example_3).
+ [CreateEvaluationJob](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_CreateEvaluationJob.html) – Um ein Inferenzprofil zur Modellbewertung zu senden, folgen Sie den Schritten auf der Registerkarte API unter [Starten eines automatischen Auftrags zur Modellbewertung in Amazon Bedrock](model-evaluation-jobs-management-create.md) und geben den ARN des Inferenzprofils im Feld `modelIdentifier` an.
+ [CreatePrompt](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_agent_CreatePrompt.html) – Um ein Inferenzprofil beim Generieren einer Antwort für einen Prompt zu verwenden, den Sie im Prompt-Management erstellen, folgen Sie den Schritten auf der Registerkarte API unter [Erstellen eines Prompts mithilfe des Prompt-Managements](prompt-management-create.md) und geben den ARN des Inferenzprofils im Feld `modelId` an.
+ [CreateFlow](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_agent_CreateFlow.html) – Um ein Inferenzprofil beim Generieren einer Antwort für einen Inline-Prompt zu verwenden, den Sie im Prompt-Knoten eines Flows definieren, folgen Sie den Schritten auf der Registerkarte API unter [Einen Flow in Amazon Bedrock erstellen und gestalten](flows-create.md). Geben Sie bei der Definition des [Prompt-Knotens](flows-nodes.md#flows-nodes-prompt) den ARN des Inferenzprofils im Feld `modelId` an.
+ [CreateDataSource](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_agent_CreateDataSource.html) – Um ein Inferenzprofil beim Parsen von Nicht-Text-Informationen in einer Datenquelle zu verwenden, folgen Sie den Schritten im API-Abschnitt unter [Parsing-Optionen für Ihre Datenquelle](kb-advanced-parsing.md) und geben den ARN des Inferenzprofils im Feld `modelArn` an.

**Anmerkung**  
Wenn Sie ein regionsübergreifendes (systemdefiniertes) Inferenzprofil verwenden, können Sie entweder den ARN oder die ID des Inferenzprofils verwenden.

------