本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
使用 Amazon 監控 Amazon 基岩 CloudWatch
您可以使用 Amazon 監控 Amazon 基岩 CloudWatch,Amazon 基岩會收集原始資料並將其處理為可讀且近乎即時的指標。您可以使用 CloudWatch 控制台繪製指標的圖形。您也可以設定留意特定閾值的警示,當超出這些閾值時傳送通知或採取動作。
有關更多信息,請參閱 Amazon 用 CloudWatch 戶指南 CloudWatch中的 Amazon 是什麼。
執行期指標
下表說明 Amazon Bedrock 提供的執行期指標。
指標名稱 | 單位 | 描述 |
---|---|---|
調用 | SampleCount | 對匡威、ConverseStream、和InvokeModelWithResponse串流 API 作業的要求數目。InvokeModel |
InvocationLatency |
MilliSeconds |
調用的延遲。
|
InvocationClient錯誤 |
SampleCount |
導致用戶端錯誤的調用數量。 |
InvocationServer錯誤 |
SampleCount |
導致 AWS 伺服器端錯誤的呼叫數目。 |
InvocationThrottles |
SampleCount |
系統限流的調用數量。 |
InputToken伯爵 |
SampleCount |
文字輸入的記號數量。 |
LegacyModel呼叫 | SampleCount | 使用舊版模型的調用次數 |
OutputToken伯爵 |
SampleCount |
文字輸出的記號數量。 |
OutputImage伯爵 |
SampleCount |
輸出影像的數量。 |
記錄 CloudWatch 指標
對於每次交付成功或失敗嘗試,會在命名空間AWS/Bedrock
和Across all
model IDs
維度下發出以下 Amazon CloudWatch 指標:
-
ModelInvocationLogsCloudWatchDeliverySuccess
-
ModelInvocationLogsCloudWatchDeliveryFailure
-
ModelInvocationLogsS3DeliverySuccess
-
ModelInvocationLogsS3DeliveryFailure
-
ModelInvocationLargeDataS3DeliverySuccess
-
ModelInvocationLargeDataS3DeliveryFailure
使用 CloudWatch Amazon 基岩的指標
若要擷取 Amazon Bedrock 操作的指標,您必須指定下列資訊:
-
指標維度。維度是一組用來識別指標的名稱與數值對。Amazon Bedrock 支援以下維度:
-
ModelId
– 所有指標 -
ModelId + ImageSize + BucketedStepSize
– OutputImageCount
-
-
指標名稱,例如
InvocationClientErrors
。
您可以使用 AWS Management Console、或 API 取得 Amazon 基岩的 AWS CLI指標 CloudWatch 。您可以透過 CloudWatch 其中一個 AWS 軟體開發套件 (SDK) 或 CloudWatch API 工具使用 API。
您必須擁有適當的 CloudWatch 許可才能監控 Amazon 基岩如 CloudWatch 需詳細資訊,請參閱 Amazon CloudWatch 使用者指南 CloudWatch中的 Amazon 身份驗證和存取控制。
檢視 Amazon Bedrock 指標
在主 CloudWatch 控台中檢視 Amazon 基岩指標。
若要檢視量度 (CloudWatch 主控台)
請登入 AWS Management Console 並開啟 CloudWatch 主控台,網址為 https://console.aws.amazon.com/cloudwatch/
。 -
選擇「量度」,選擇「所有量度」,然後搜尋ModelId。