Ottimizza un prompt

Nota

L'ottimizzazione tempestiva è disponibile in anteprima ed è soggetta a modifiche.

Amazon Bedrock offre uno strumento per ottimizzare i prompt. L'ottimizzazione riscrive i prompt per ottenere risultati di inferenza più adatti al tuo caso d'uso. È possibile scegliere il modello per cui si desidera ottimizzare il prompt e quindi generare un prompt modificato.

Dopo aver inviato una richiesta di ottimizzazione, Amazon Bedrock analizza i componenti della richiesta. Se l'analisi ha esito positivo, riscrive il prompt. È quindi possibile copiare e utilizzare il testo del prompt ottimizzato.

Nota

Puoi ottimizzare solo 10 prompt al giorno o fino a 100 prompt in totale nel tuo account, mentre l'ottimizzazione dei prompt è in anteprima.

Per ottenere i migliori risultati, consigliamo di ottimizzare i prompt in inglese.

Regioni e modelli supportati per una rapida ottimizzazione

L'ottimizzazione tempestiva è supportata nelle seguenti regioni (per ulteriori informazioni sulle regioni supportate in Amazon Bedrock, consulta gli endpoint e le quote di Amazon Bedrock):

• Stati Uniti orientali (Virginia settentrionale)

• US West (Oregon)

• Asia Pacifico (Mumbai)

• Asia Pacifico (Sydney)

• Canada (Centrale)

• Europa (Francoforte)

• Europa (Irlanda)

• Europe (London)

• Europa (Parigi)

• Sud America (San Paolo)

L'ottimizzazione tempestiva è supportata per i seguenti modelli di base (per vedere quali regioni supportano ciascun modello, consulta): Modelli di fondazione supportati in Amazon Bedrock

• Amazon Titan Text G1 - Premier

• Amazon Nova Lite

• Amazon Nova Micro

• Amazon Nova Pro

• Anthropic Claude 3 Haiku

• Anthropic Claude 3 Opus

• Anthropic Claude 3 Sonnet

• Anthropic Claude 3.5 Sonnet

• Anthropic Claude 3.5 Sonnet v2

• Anthropic Claude 3.5 Haiku

• Meta Llama 3 70B Instruct

• Meta Llama 3.1 70B Instruct

• Mistral AI Mistral Large (24.02)

Invia una richiesta di ottimizzazione

Per informazioni su come ottimizzare un prompt, scegli la scheda corrispondente al metodo che preferisci, quindi segui i passaggi:

Console

È possibile ottimizzare un prompt utilizzando un playground o la gestione dei prompt in. AWS Management ConsoleÈ necessario selezionare un modello prima di poter ottimizzare un prompt. Il prompt è ottimizzato per il modello scelto.

Per ottimizzare un prompt in un parco giochi

1. Per imparare a scrivere un prompt in un parco giochi Amazon Bedrock, segui i passaggi riportati in. Genera risposte nella console utilizzando i parchi giochi

2. Dopo aver scritto un prompt e selezionato un modello, scegli l'icona della bacchetta (). Viene visualizzata la finestra di dialogo Optimize prompt e Amazon Bedrock inizia a ottimizzare il prompt.

3. Quando Amazon Bedrock ha terminato l'analisi e l'ottimizzazione del prompt, puoi confrontare il prompt originale fianco a fianco con il prompt ottimizzato nella finestra di dialogo.

4. Per sostituire il prompt con quello ottimizzato nell'area giochi, scegli Usa prompt ottimizzato. Per mantenere il prompt originale, scegli Annulla.

5. Per inviare il prompt e generare una risposta, scegli Esegui.

Per ottimizzare un prompt nella gestione dei prompt

1. Per imparare a scrivere un prompt utilizzando la gestione dei prompt, segui i passaggi riportati in. Creare un prompt utilizzando la gestione dei prompt

2. Dopo aver scritto un prompt e selezionato un modello, scegliete ( ) Ottimizza nella parte superiore della casella Richiesta.

3. Quando Amazon Bedrock termina l'analisi e l'ottimizzazione del prompt, il prompt ottimizzato viene visualizzato come variante accanto al prompt originale.

4. Per utilizzare il prompt ottimizzato anziché quello originale, seleziona Sostituisci il prompt originale. Per mantenere il prompt originale, scegli Esci dal confronto e scegli di salvare il prompt originale.

   Nota

   Se hai 3 prompt nella vista di confronto e cerchi di ottimizzare un altro prompt, ti viene chiesto di sovrascrivere e sostituire il prompt originale o una delle varianti.

5. Per inviare il prompt e generare una risposta, scegliete Esegui.

API

Per ottimizzare un prompt, invia una OptimizePromptrichiesta con un endpoint di runtime Agents for Amazon Bedrock. Fornisci il prompt per l'ottimizzazione nell'inputoggetto e specifica il modello da ottimizzare sul campo. targetModelId

Il flusso di risposta restituisce i seguenti eventi:

1. analyzePromptEvent— Viene visualizzato al termine dell'analisi del prompt. Contiene un messaggio che descrive l'analisi del prompt.

2. optimizedPromptEvent— Viene visualizzato quando il prompt ha terminato la riscrittura. Contiene il prompt ottimizzato.

Eseguite il seguente esempio di codice per ottimizzare un prompt:

import boto3

# Set values here
TARGET_MODEL_ID = "anthropic.claude-3-sonnet-20240229-v1:0" # Model to optimize for. For model IDs, see https://docs.aws.amazon.com/bedrock/latest/userguide/model-ids.html
PROMPT = "Please summarize this text: " # Prompt to optimize

def get_input(prompt):
    return {
        "textPrompt": {
            "text": prompt
        }
    }
 
def handle_response_stream(response):
    try:
        event_stream = response['optimizedPrompt']
        for event in event_stream:
            if 'optimizedPromptEvent' in event:
                print("========================== OPTIMIZED PROMPT ======================\n")
                optimized_prompt = event['optimizedPromptEvent']
                print(optimized_prompt)
            else:
                print("========================= ANALYZE PROMPT =======================\n")
                analyze_prompt = event['analyzePromptEvent']
                print(analyze_prompt)
    except Exception as e:
        raise e
 
 
if __name__ == '__main__':
    client = boto3.client('bedrock-agent-runtime')
    try:
        response = client.optimize_prompt(
            input=get_input(PROMPT),
            targetModelId=TARGET_MODEL_ID
        )
        print("Request ID:", response.get("ResponseMetadata").get("RequestId"))
        print("========================== INPUT PROMPT ======================\n")
        print(PROMPT)
        handle_response_stream(response)
    except Exception as e:
        raise e