Gestire un throughput assegnato - Amazon Bedrock

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Gestire un throughput assegnato

Dopo aver acquistato un Provisioned Throughput, puoi visualizzarne i dettagli, aggiornarlo o eliminarlo.

Visualizza informazioni su un Provisioned Throughput

Per informazioni su come visualizzare le informazioni su un Provisioned Throughput acquistato, seleziona la scheda corrispondente al metodo scelto e segui i passaggi.

Console
Per visualizzare informazioni su un Provisioned Throughput
  1. Accedi a e apri AWS Management Console la console Amazon Bedrock all'indirizzo https://console.aws.amazon.com/bedrock/.

  2. Seleziona Provisioned Throughput in Valutazione e distribuzione dal riquadro di navigazione a sinistra.

  3. Nella sezione Provisioned Throughput, seleziona un Provisioned Throughput.

  4. Visualizza i dettagli del Provisioned Throughput nella sezione Panoramica del Provisioned Throughput e i tag associati al Provisioned Throughput nella sezione Tag.

API

Per recuperare informazioni su uno specifico Provisioned Throughput, invia una GetProvisionedModelThroughputrichiesta (consulta il link per i formati di richiesta e risposta e i dettagli sui campi) con un endpoint del piano di controllo Amazon Bedrock. Specificare il nome del Provisioned Throughput o il relativo ARN come. provisionedModelId

Per elencare le informazioni su tutti i throughput forniti in un account, invia una ListProvisionedModelThroughputsrichiesta (consulta il link per i formati di richiesta e risposta e i dettagli sui campi) con un endpoint del piano di controllo Amazon Bedrock. Per controllare il numero di risultati restituiti, puoi specificare i seguenti parametri opzionali:

Campo Breve descrizione
maxResults Il numero massimo di risultati da restituire nella risposta.
nextToken Se i risultati sono superiori al numero specificato nel maxResults campo, la risposta restituisce un nextToken valore. Per visualizzare il successivo batch di risultati, invia il nextToken valore in un'altra richiesta.

Per altri parametri opzionali che è possibile specificare per ordinare e filtrare i risultati, vedere GetProvisionedModelThroughput.

Per elencare tutti i tag di un agente, invia una ListTagsForResourcerichiesta (consulta il link per i formati di richiesta e risposta e i dettagli dei campi) con un endpoint del piano di controllo Amazon Bedrock e includi l'Amazon Resource Name (ARN) del Provisioned Throughput.

Vedi esempi di codice

Modifica di una velocità di trasmissione effettiva assegnata

È possibile modificare il nome o i tag di un Provisioned Throughput esistente.

Le seguenti restrizioni si applicano alla modifica del modello a cui è associato il Provisioned Throughput:

  • Non è possibile modificare il modello per un Provisioned Throughput associato a un modello base.

  • Se il Provisioned Throughput è associato a un modello personalizzato, è possibile modificare l'associazione al modello base da cui è personalizzato o a un altro modello personalizzato derivato dallo stesso modello di base.

Durante l'aggiornamento di un Provisioned Throughput, è possibile eseguire l'inferenza utilizzando il Provisioned Throughput senza interrompere il traffico in corso proveniente dai clienti finali. Se hai modificato il modello a cui è associato il Provisioned Throughput, potresti ricevere l'output dal vecchio modello fino alla completa implementazione dell'aggiornamento.

Per informazioni su come modificare un Provisioned Throughput, selezionate la scheda corrispondente al metodo scelto e seguite i passaggi.

Console
  1. Accedi a e apri AWS Management Console la console Amazon Bedrock all'indirizzo https://console.aws.amazon.com/bedrock/.

  2. Seleziona Provisioned Throughput in Valutazione e distribuzione dal riquadro di navigazione a sinistra.

  3. Nella sezione Provisioned Throughput, seleziona un Provisioned Throughput.

  4. Scegli Modifica. È possibile modificare i seguenti campi:

    • Nome del Provisioned Throughput: modifica il nome del Provisioned Throughput.

    • Seleziona modello: se il Provisioned Throughput è associato a un modello personalizzato, è possibile modificare il modello associato.

  5. È possibile modificare i tag associati al Provisioned Throughput nella sezione Tag. Per ulteriori informazioni, consulta Aggiunta di tag alle risorse .

  6. Per salvare le modifiche, scegli Salva modifiche.

  7. La console visualizza la pagina di panoramica del Provisioned Throughput. Lo stato del Provisioned Throughput nella tabella Provisioned Throughput diventa Aggiornamento. Al termine dell'aggiornamento del Provisioned Throughput, lo Status diventa In servizio. Se l'aggiornamento non riesce, lo Status diventa Fallito.

API

Per modificare un Provisioned Throughput, invia una UpdateProvisionedModelThroughputrichiesta (consulta il link per i formati di richiesta e risposta e i dettagli sui campi) con un endpoint del piano di controllo Amazon Bedrock.

La tabella seguente descrive brevemente i parametri e il corpo della richiesta (per informazioni dettagliate e la struttura della richiesta, consulta la sintassi della UpdateProvisionedModelThroughput richiesta):

Variabile Obbligatorio? Caso d'uso
provisionedModelId Per specificare il nome o l'ARN del Provisioned Throughput da aggiornare
desiredModelId No Per specificare un nuovo modello da associare al Provisioned Throughput (non disponibile per Provisioned Throughput associati ai modelli base).
desiredProvisionedModelNome No Per specificare un nuovo nome per il Provisioned Throughput

Se l'azione ha esito positivo, la risposta restituisce una risposta di stato HTTP 200. Per verificare quando il Provisioned Throughput è pronto per l'uso, invia una GetProvisionedModelThroughputrichiesta e verifica che lo stato sia. InService Non è possibile aggiornare o eliminare un Provisioned Throughput mentre il relativo stato è. Updating Se l'aggiornamento fallisce, il relativo stato sarà Failed e la GetProvisionedModelThroughputrisposta conterrà un. failureMessage

Per aggiungere tag a un Provisioned Throughput, invia una TagResourcerichiesta (consulta il link per i formati di richiesta e risposta e i dettagli sui campi) con un endpoint del piano di controllo Amazon Bedrock e includi l'Amazon Resource Name (ARN) del Provisioned Throughput. Il corpo della richiesta contiene un tags campo, che è un oggetto contenente una coppia chiave-valore specificata per ogni tag.

Per rimuovere i tag da un Provisioned Throughput, invia una UntagResourcerichiesta (consulta il link per i formati di richiesta e risposta e i dettagli del campo) con un endpoint del piano di controllo Amazon Bedrock e includi l'Amazon Resource Name (ARN) del Provisioned Throughput. Il parametro di tagKeys richiesta è un elenco contenente le chiavi per i tag che desideri rimuovere.

Vedi esempi di codice

Eliminazione di una velocità di trasmissione effettiva assegnata

Per sapere come eliminare un Provisioned Throughput, seleziona la scheda corrispondente al metodo scelto e segui i passaggi.

Nota

Non puoi eliminare una velocità di trasmissione effettiva assegnata con impegno prima del termine dell'impegno.

Console
  1. Accedi a e apri AWS Management Console la console Amazon Bedrock all'indirizzo https://console.aws.amazon.com/bedrock/.

  2. Seleziona Provisioned Throughput in Valutazione e distribuzione dal riquadro di navigazione a sinistra.

  3. Nella sezione Provisioned Throughput, seleziona un Provisioned Throughput.

  4. Scegli Elimina.

  5. La console visualizza un modulo modale per avvisare l'utente che l'eliminazione è permanente. Scegli Conferma per procedere.

  6. Il Provisioned Throughput viene immediatamente eliminato.

API

Per eliminare un Provisioned Throughput, invia una DeleteProvisionedModelThroughputrichiesta (consulta il link per i formati di richiesta e risposta e i dettagli sui campi) con un endpoint del piano di controllo Amazon Bedrock. Specificare il nome del Provisioned Throughput o il relativo ARN come. provisionedModelId Se l'eliminazione ha esito positivo, la risposta restituisce un codice di stato HTTP 200.

Vedi esempi di codice