Utilizzo dei modelli di base

È necessario richiedere l'accesso a un modello prima di poterlo utilizzare. Dopo averlo fatto, è possibile utilizzare le FM nei seguenti modi.

• Esegui l'inferenza inviando istruzioni a un modello e generando risposte. I parchi giochi offrono un'interfaccia intuitiva AWS Management Console per la generazione di testo, immagini o chat. Consulta la colonna Modalità di output per determinare i modelli che puoi utilizzare in ogni parco giochi.

  Nota

  Le aree di gioco della console non supportano l'esecuzione di inferenze sui modelli di incorporamento. Utilizza l'API per eseguire inferenze sui modelli di incorporamento.

• Valuta i modelli per confrontare gli output e determinare il modello migliore per il tuo caso d'uso.

• Configura una knowledge base con l'aiuto di un modello di incorporamento. Quindi usa un modello di testo per generare risposte alle domande.

• Crea un agente e usa un modello per eseguire l'inferenza sui prompt per eseguire l'orchestrazione.

• Personalizza un modello inserendo dati di addestramento e convalida per adattare i parametri del modello al tuo caso d'uso. Per utilizzare un modello personalizzato, è necessario acquistare Provisioned Throughput apposito.

• Acquista Provisioned Throughput per un modello per aumentarne la velocità effettiva.

Per utilizzare un FM nell'API, è necessario determinare l'ID del modello appropriato da utilizzare.

Caso d'uso	Come trovare l'ID del modello
Usa un modello base	Cerca l'ID nel grafico degli ID del modello di base
Acquista Provisioned Throughput per un modello base	Cerca l'ID nel grafico Model IDs for Provisioned Throughput e usalo come indicato nella modelId richiesta. CreateProvisionedModelThroughput
Acquista Provisioned Throughput per un modello personalizzato	Usa il nome del modello personalizzato o il relativo ARN come indicato modelId nella CreateProvisionedModelThroughputrichiesta.
Usa un modello predisposto	Dopo aver creato un Provisioned Throughput, restituisce un. provisionedModelArn Questo ARN è l'ID del modello.
Usa un modello personalizzato	Acquista Provisioned Throughput per il modello personalizzato e utilizza quello restituito provisionedModelArn come ID del modello.