

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

# Invocazioni del modello
<a name="model-invocations"></a>

CloudWatch L'osservabilità generativa dell'IA consente di monitorare le prestazioni di Model Invocations. Puoi tenere traccia di metriche come il numero di invocazioni, l'utilizzo dei token e gli errori utilizzando le visualizzazioni predefinite. Per una visibilità dettagliata del contenuto delle chiamate, come input e output, abilita la registrazione di ** Bedrock Invocation e invia i log a. ** CloudWatch Per ulteriori informazioni, consulta [ Configurare una destinazione dei log ](https://docs.aws.amazon.com/bedrock/latest/userguide/model-invocation-logging.html#setup-cloudwatch-logs-destination) e [ Aiutare a proteggere CloudWatch i dati di registro sensibili con il mascheramento. ](https://docs.aws.amazon.com/AmazonCloudWatch/latest/logs/mask-sensitive-log-data.html)

## Abilitazione di Invocazione del modello in Amazon Bedrock
<a name="enabling-bedrock-invocation"></a>

**Nota**  
Per visualizzare le invocazioni, è necessario abilitare la registrazione di Invocazione del modello in Amazon Bedrock.

Per abilitare la registrazione dell'invocazione del modello in Amazon Bedrock, segui questi passaggi.

1. Apri la console Amazon Bedrock all'indirizzo. [ https://console.aws.amazon.com/bedrock/ ](https://console.aws.amazon.com/bedrock/)

1. Seleziona **Impostazioni**.

1. In **Registrazione delle invocazioni del modello**, seleziona **Registrazione delle invocazioni del modello**.

1. Scegli i tipi di dati richiesti da includere nei log. Scegli di inviare i CloudWatch log solo a Logs o sia ad Amazon S3 che a CloudWatch Logs se stai già pubblicando su Amazon S3.

1. Nelle configurazioni CloudWatch Logs, crea il nome del gruppo di log e seleziona i ruoli di servizio appropriati.

1. Scegli i tipi di dati richiesti da includere nei log.

1. Scegli **Salva impostazioni**.

   Quando inizi a utilizzare le invocazioni di Amazon Bedrock, puoi visualizzare automaticamente i pannelli di controllo preconfigurati. Dopo l'attivazione di `Model Invocation logging`, puoi visualizzare i pannelli di controllo predefiniti e accedere alla tabella delle invocazioni sottostante.

![osservabilità generativa dell'IA.](http://docs.aws.amazon.com/it_it/AmazonCloudWatch/latest/monitoring/images/GenAI.png)

+ **Numero di chiamate**: numero di richieste riuscite alle operazioni [ Converse](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_Converse.html),, e API [ ConverseStream ](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_ConverseStream.html) [ InvokeModel ](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_InvokeModel.html) [ InvokeModelWithResponseStream ](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_InvokeModelWithResponseStream.html)
+ **Latenza di invocazione**: latenza delle invocazioni
+ **Conteggio dei token per modello**: conteggi dei token per modello delineati dai conteggi dei token di input e dei token di output
+ **Conteggi giornalieri di token per ModelID**: conteggi totali giornalieri di token per ID modello
+ **InputTokenCount, OutputTokenCount ** — Numero totale di token in ingresso e in uscita in questo account nei modelli selezionati
+ **Richieste, raggruppate per token di input**: numero di richieste raggruppate per token di input in 6 intervalli. Ogni riga rappresenta il numero di richieste che rientrano in un intervallo particolare
+ **Limitazioni di invocazione**: numero di invocazioni limitate dal sistema. Il numero di limitazioni visualizzato dipenderà dalle impostazioni dei nuovi tentativi nell'SDK. Per ulteriori informazioni, consulta il [ comportamento ](https://docs.aws.amazon.com/sdkref/latest/guide/feature-retry-behavior.html) dei tentativi nella Guida di riferimento di AWS SDK and Tools
+ **Numero di errori di invocazione**: conteggio delle invocazioni che generano errori sul lato server e sul lato client

Per utilizzare la dashboard di richiamo del modello, segui questi passaggi.

1. Passa il mouse su qualsiasi grafico di metrica per visualizzare i dettagli dell'invocazione. Puoi scegliere l'icona **Allarme** per configurare `Alarms` per monitorare la qualità e le prestazioni dell'applicazione.

1. Nel menu a discesa **ModelID**, puoi selezionare un ID modello per visualizzare le metriche corrispondenti.

1. Seleziona ** Visualizza nelle CloudWatch metriche ** per visualizzare le metriche della dashboard in. CloudWatch

1. Seleziona **Sostituzione periodo** per modificare l'intervallo di tempo delle metriche (ad esempio, 1 minuto, 1 ora o 6 ore).

1. In **Invocazioni**, scegli **ID richiesta** per visualizzare i dettagli della richiesta. È possibile visualizzare i dettagli di input e output dell'invocazione del modello nel pannello a destra.

![Richiamo del modello - Visualizzazione dell'ID della richiesta.](http://docs.aws.amazon.com/it_it/AmazonCloudWatch/latest/monitoring/images/GenAI_Model_Invocation.png)


Nella ** pagina ** Request ID, nel menu a ** discesa ** Azioni, scegli ** View in Logs Insights ** per visualizzare gli accessi. CloudWatch Per ulteriori informazioni, consulta [ Analisi dei dati di registro con CloudWatch Logs Insights. ](https://docs.aws.amazon.com/AmazonCloudWatch/latest/logs/AnalyzingLogData.html)