Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
AnthropicClaudemodelli
Questa sezione fornisce parametri di inferenza ed esempi di codice per l'utilizzo dei Anthropic Claude modelli.
Puoi usare Amazon Bedrock per inviare AnthropicClaudeAPI di completamento del testo o AnthropicClaudeAPI Messaggi inferire richieste.
Utilizzi l'API dei messaggi per creare applicazioni conversazionali, come un assistente virtuale o un'applicazione di coaching. Utilizza l'API di completamento del testo per applicazioni di generazione di testo a turno singolo. Ad esempio, generare testo per un post sul blog o riepilogare il testo fornito da un utente.
Si effettuano richieste di inferenza a un Anthropic Claude modello con InvokeModelo InvokeModelWithResponseStream (streaming). È necessario l'ID modello per il modello che desideri utilizzare. Per ottenere l'ID del modello per Anthropic Claude i modelli, consulta ID del modello base di Amazon Bedrock (throughput su richiesta) eID del modello base di Amazon Bedrock per l'acquisto di Provisioned Throughput.
Nota
Per utilizzare i prompt di sistema nelle chiamate di inferenza, è necessario utilizzare uno dei seguenti modelli:
-
Anthropic Claude 3.5 Sonnet
-
AnthropicClaudeversione 2.1
-
AnthropicClaude 3modello, ad esempio Anthropic Claude 3 Opus
Per informazioni sulla creazione di prompt di sistema, consultate https://docs.anthropic.com/claude/docs/how-to-use-system-prompts
Per evitare i timeout con la Anthropic Claude versione 2.1, consigliamo di limitare il numero di token di input nel campo a 180K. prompt
Prevediamo di risolvere presto questo problema di timeout.
Nella chiamata di inferenza, compila il body
campo con un oggetto JSON conforme al tipo di chiamata che desideri effettuare, oppure. AnthropicClaudeAPI di completamento del testo AnthropicClaudeAPI Messaggi
Per informazioni sulla creazione di prompt per i Anthropic Claude modelli, vedete Introduzione alla progettazione dei prompt