Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.
Configurar el CloudWatch agente para Amazon EMR 7.1.0
A partir de Amazon EMR 7.1.0, puede configurar el CloudWatch agente de Amazon para que utilice métricas de sistema adicionales, añada métricas de aplicación y cambie el destino de las métricas mediante la API de configuración de Amazon EMR. Para obtener más información sobre cómo usar la API de configuración de EMR para configurar las aplicaciones del clúster, consulte Configurar aplicaciones.
nota
7.1.0 solo admite el tipo de reconfiguración. OVERWRITE
Para obtener más información sobre los tipos de reconfiguración, consulta Consideraciones al reconfigurar un grupo de instancias.
Temas
Esquema de configuración
emr-metrics
tiene las siguientes clasificaciones:
-
emr-system-metrics
— configurar las métricas del sistema, como la CPU, el disco y la memoria. -
emr-hadoop-hdfs-datanode-metrics
— configurar las métricas JMX de Hadoop DataNode -
emr-hadoop-hdfs-namenode-metrics
— configurar las métricas de Hadoop JMX NameNode -
emr-hadoop-yarn-nodemanager-metrics
— configurar las métricas de Yarn JMX NodeManager -
emr-hadoop-yarn-resourcemanager-metrics
— configurar las métricas de Yarn ResourceManager JMX -
emr-hbase-master-metrics
— configurar las métricas de HBase Master JMX -
emr-hbase-region-server-metrics
— configurar las métricas JMX de HBase Region Server -
emr-hbase-rest-server-metrics
— configurar las métricas JMX del servidor REST de HBase -
emr-hbase-thrift-server-metrics
— configurar las métricas JMX de HBase Thrift Server
Las siguientes tablas describen las propiedades y configuraciones disponibles para todas las clasificaciones.
propiedades de emr-metrics
Propiedad | Obligatoria | Descripción | Valor predeterminado | Valores posibles | Notas |
---|---|---|---|---|---|
metrics_destination |
Opcional | Determina si las métricas del clúster se publican en Amazon CloudWatch o en Amazon Managed Service for Prometheus. | «CLOUDWATCH» | «CLOUDWATCH», «PROMETEO» | Esta propiedad no distingue entre mayúsculas y minúsculas. Por ejemplo, «Cloudwatch» es lo mismo que «CLOUDWATCH». |
prometheus_endpoint |
Opcional | Si metrics_destination se establece en «PROMETHEUS», esta propiedad configura el CloudWatch agente para enviar métricas al punto final de escritura remota de Amazon Managed Service for Prometheus proporcionado. |
N/A | Cualquier URL de escritura remota válida de Amazon Managed Service para Prometheus. El formato de URL de escritura remota es
|
Este campo es obligatorio si metrics_destination está configurado como «PROMETHEUS». El aprovisionamiento fallará si no proporciona una clave o si el valor es una cadena vacía. |
emr-system-metrics propiedades
Propiedad | Obligatoria | Descripción | Valor predeterminado | Valores posibles | Notas |
---|---|---|---|---|---|
metrics_collection_interval |
Opcional | La frecuencia en cuestión de segundos que el CloudWatch agente recopila y publica las métricas. | «60" | Una cadena que especifica el número de segundos. Solo acepta números enteros. | Puede anular esta propiedad con la metrics_collection_interval propiedad de grupos de métricas individuales. |
emr-system-metrics configuraciones
emr-hadoop-hdfs-datanode-propiedades de métricas
Propiedad | Obligatoria | Descripción | Valor predeterminado | Valores posibles |
---|---|---|---|---|
|
Opcional | N/A | El MBean del que el CloudWatch agente debe recopilar las métricas, por ejemplo. Hadoop:service=DataNode,name=DataNodeActivity Puede encontrar ejemplos de nombres de MBean y sus métricas correspondientes en los archivos JMX YAML de ejemplo para |
Cadena que contiene la lista delimitada por comas de las métricas asociadas al MBean. Por ejemplo, BlocksCached,BlocksRead . |
otel.metric.export.interval |
Opcional | La frecuencia en milisegundos con la que se recopilan las métricas de Hadoop. DataNode | «60000" | Una cadena que especifica el número de milisegundos. Solo acepta números enteros. |
emr-hadoop-hdfs-namenode-propiedades métricas
Propiedad | Obligatoria | Descripción | Valor predeterminado | Valores posibles |
---|---|---|---|---|
|
Opcional | N/A | El MBean del que el CloudWatch agente debe recopilar las métricas, por ejemplo. Hadoop:service=NameNode,name=FSNamesystem Puede encontrar ejemplos de nombres de MBean y sus métricas correspondientes en los archivos JMX YAML de ejemplo para |
Cadena que contiene la lista delimitada por comas de las métricas asociadas al MBean. Por ejemplo, BlockCapacity,CapacityUsedGB . |
otel.metric.export.interval |
Opcional | La frecuencia en milisegundos con la que se recopilan las métricas de Hadoop. NameNode | «60000" | Una cadena que especifica el número de milisegundos. Solo acepta números enteros. |
emr-hadoop-yarn-nodemanager-propiedades métricas
Propiedad | Obligatoria | Descripción | Valor predeterminado | Valores posibles |
---|---|---|---|---|
|
Opcional | N/A | El MBean del que el CloudWatch agente debe recopilar las métricas, por ejemplo. Hadoop:service=NodeManager,name=NodeManagerMetrics Puede encontrar ejemplos de nombres de MBean y sus métricas correspondientes en los archivos JMX YAML de ejemplo para |
Cadena que contiene la lista delimitada por comas de las métricas asociadas al MBean. Por ejemplo, MaxCapacity,AllocatedGB . |
otel.metric.export.interval |
Opcional | Con qué frecuencia, en milisegundos, se recopilan las métricas de Hadoop YARN. NodeManager | «60000" | Una cadena que especifica el número de milisegundos. Solo acepta números enteros. |
emr-hadoop-yarn-resourcemanager-propiedades métricas
Propiedad | Obligatoria | Descripción | Valor predeterminado | Valores posibles |
---|---|---|---|---|
|
Opcional | N/A | El MBean del que el CloudWatch agente debe recopilar las métricas, por ejemplo. Hadoop:service=ResourceManager,name=PartitionQueueMetrics Puede encontrar ejemplos de nombres de MBean y sus métricas correspondientes en los archivos JMX YAML de ejemplo para |
Cadena que contiene la lista delimitada por comas de las métricas asociadas al MBean. Por ejemplo, MaxCapacity,MaxCapacityVCores . |
otel.metric.export.interval |
Opcional | Con qué frecuencia, en milisegundos, se recopilan las métricas de Hadoop YARN. ResourceManager | «60000" | Una cadena que especifica el número de milisegundos. Solo acepta números enteros. |
emr-hbase-master-metrics propiedades
Propiedad | Obligatoria | Descripción | Valor predeterminado | Valores posibles |
---|---|---|---|---|
|
Opcional | N/A | El MBean del que el CloudWatch agente debe recopilar las métricas, comoHadoop:service=HBase,name=Master,sub=AssignmentManager . Puede encontrar ejemplos de nombres de MBean y sus métricas correspondientes en los archivos JMX YAML de ejemplo para |
Cadena que contiene la lista delimitada por comas de las métricas asociadas al MBean. Por ejemplo, AssignFailedCount,AssignSubmittedCount . |
otel.metric.export.interval |
Opcional | Con qué frecuencia, en milisegundos, se recopilan las métricas de HBase Master. | «6000" | Una cadena que especifica el número de milisegundos. Solo acepta números enteros. |
emr-hbase-region-server-propiedades métricas
Propiedad | Obligatoria | Descripción | Valor predeterminado | Valores posibles |
---|---|---|---|---|
|
Opcional | N/A | El MBean del que el CloudWatch agente debe recopilar las métricas, por ejemplo. Hadoop:service=HBase,name=RegionServer,sub=IPC Puede encontrar ejemplos de nombres de MBean y sus métricas correspondientes en los archivos JMX YAML de ejemplo para |
Cadena que contiene la lista delimitada por comas de las métricas asociadas al MBean. Por ejemplo, numActiveHandler,numActivePriorityHandler . |
otel.metric.export.interval |
Opcional | Con qué frecuencia, en milisegundos, se recopilan las métricas de HBase Region Server. | «6000" | Una cadena que especifica el número de milisegundos. Solo acepta números enteros. |
emr-hbase-rest-server-propiedades métricas
Propiedad | Obligatoria | Descripción | Valor predeterminado | Valores posibles |
---|---|---|---|---|
|
Opcional | N/A | El MBean del que el CloudWatch agente debe recopilar las métricas, por ejemplo. Hadoop:service=HBase,name=REST Puede encontrar ejemplos de nombres de MBean y sus métricas correspondientes en los archivos JMX YAML de ejemplo para |
Cadena que contiene la lista delimitada por comas de las métricas asociadas al MBean. Por ejemplo, successfulPut,successfulScanCount . |
otel.metric.export.interval |
Opcional | Con qué frecuencia, en milisegundos, se recopilan las métricas de HBase Rest Server. | «6000" | Una cadena que especifica el número de milisegundos. Solo acepta números enteros. |
emr-hbase-thrift-server-propiedades métricas
Propiedad | Obligatoria | Descripción | Valor predeterminado | Valores posibles |
---|---|---|---|---|
|
Opcional | N/A | El MBean del que el CloudWatch agente debe recopilar las métricas, por ejemplo. Hadoop:service=HBase,name=Thrift,sub=ThriftOne Puede encontrar ejemplos de nombres de MBean y sus métricas correspondientes en los archivos JMX YAML de ejemplo para |
Cadena que contiene la lista delimitada por comas de las métricas asociadas al MBean. Por ejemplo, BatchGet_max,BatchGet_mean . |
otel.metric.export.interval |
Opcional | Con qué frecuencia, en milisegundos, se recopilan las métricas del servidor HBase Thrift. | «6000" | Una cadena que especifica el número de milisegundos. Solo acepta números enteros. |
Ejemplos de configuraciones de métricas del sistema
El siguiente ejemplo muestra cómo configurar el CloudWatch agente para que deje de exportar todas las métricas del sistema.
[ { "Classification": "emr-metrics", "Properties": {}, "Configurations": [ { "Classification": "emr-system-metrics", "Properties": {}, "Configurations": [] } ] } ]
El siguiente ejemplo configura el CloudWatch agente para que exporte las métricas del sistema predeterminadas. Hacerlo es una forma rápida de restablecer el agente para que solo exporte las métricas predeterminadas del sistema si ya ha reconfigurado las métricas del sistema al menos una vez. Este restablecimiento también elimina cualquier métrica de la aplicación que se haya reconfigurado anteriormente.
[ { "Classification": "emr-metrics", "Properties": {}, "Configurations": [] } ]
El siguiente ejemplo configura el clúster para exportar las cpu
métricasmem
, y. disk
[ { "Classification": "emr-metrics", "Properties": {}, "Configurations": [ { "Classification": "emr-system-metrics", "Properties": { "metrics_collection_interval": "20" }, "Configurations": [ { "Classification": "cpu", "Properties": { "metrics": "cpu_usage_guest,cpu_usage_idle", "metrics_collection_interval": "30", "drop_original_metrics": "cpu_usage_guest" } }, { "Classification": "mem", "Properties": { "metrics": "mem_active" } }, { "Classification": "disk", "Properties": { "metrics": "disk_used_percent", "resources": "/,/mnt", "drop_original_metrics": "" } } ] } ] } ]
La configuración del ejemplo anterior tiene las siguientes propiedades:
-
Cada 30 segundos, el agente recopila la
cpu_guest
métrica de todas las CPU. Puede encontrar la métrica agregada en el CloudWatch espacio de nombresCWAgent > cluster.id, instance.id, node.type, service.name
. -
Cada 30 segundos, el agente recopila la
cpu_idle
métrica de todas las CPU. Puede encontrar la métrica agregada en el CloudWatch espacio de nombresCWAgent > cluster.id, instance.id, node.type, service.name
. El agente también recopila las métricas por CPU. Puede encontrarlos en el mismo espacio de nombres. El agente recopila esta métrica porque ladrop_original_metrics
propiedad no la contienecpu_idle
, por lo que no la ignora. -
Cada 20 segundos, el agente recopila la
mem_active
métrica. Puede encontrar la métrica agregada en el espacio de CloudWatch nombresCWAgent > cluster.id, instance.id, node.type, service.name
. -
Cada 20 segundos, el agente recopila las
disk_used_percent
métricas de los montajes/
y del/mnt
disco. Puede encontrar las métricas agregadas en el CloudWatch espacio de nombresCWAgent > cluster.id, instance.id, node.type, service.name
. El agente también recopila las métricas por montaje. Puede encontrarlos en el mismo espacio de nombres. El agente recopila esta métrica porque ladrop_original_metrics
propiedad no la contienedisk_used_percent
, por lo que no la ignora.
Ejemplos de configuraciones de métricas de aplicaciones
El siguiente ejemplo configura el CloudWatch agente para que deje de exportar las métricas del servicio Hadoop Namenode.
[ { "Classification": "emr-metrics", "Properties": {}, "Configurations": [ { "Classification": "emr-hadoop-hdfs-namenode-metrics", "Properties": {}, "Configurations": [] } ] } ]
El siguiente ejemplo configura un clúster para exportar las métricas de las aplicaciones de Hadoop.
[ { "Classification": "emr-metrics", "Properties": {}, "Configurations": [ { "Classification": "emr-hadoop-hdfs-namenode-metrics", "Properties": { "Hadoop:service=NameNode,name=FSNamesystem": "BlockCapacity,CapacityUsedGB", "otel.metric.export.interval": "20000" }, "Configurations": [] }, { "Classification": "emr-hadoop-hdfs-datanode-metrics", "Properties": { "Hadoop:service=DataNode,name=JvmMetrics": "MemNonHeapUsedM", "otel.metric.export.interval": "30000" }, "Configurations": [] }, { "Classification": "emr-hadoop-yarn-resourcemanager-metrics", "Properties": { "Hadoop:service=ResourceManager,name=CapacitySchedulerMetrics": "AllocateNumOps,NodeUpdateNumOps" }, "Configurations": [] } ] } ]
El ejemplo anterior tiene las siguientes propiedades:
-
Cada 20 segundos, el agente recopila las
CapacityUsedGB
métricas deBlockCapacity
las instancias que ejecutan el servicio Hadoop Namenode. -
Cada 30 segundos, el agente recopila
MemNonHeapUsedM
métricas de las instancias que ejecutan el servicio Hadoop Datanode. -
Cada 30 segundos, el agente recopila las
NodeUpdateNumOps
métricasAllocateNumOps
y las métricas de las instancias que ejecutan el Hadoop YARN. ResourceManaager
Ejemplo de Amazon Managed Service para Prometheus
El siguiente ejemplo muestra cómo configurar el CloudWatch agente para exportar métricas a Amazon Managed Service for Prometheus.
Si actualmente exporta métricas a Amazon Managed Service for Prometheus y desea volver a configurar las métricas del clúster y seguir exportándolas a Amazon Managed Service for Prometheus, debe incluir las propiedades y. metrics_destination
prometheus_endpoint
[ { "Classification": "emr-metrics", "Properties": { "metrics_destination": "prometheus", "prometheus_endpoint": "http://amp-workspace/api/v1/remote_write" }, "Configurations": [] } ]
Para utilizar el CloudWatch agente al que exportar las métricas CloudWatch, utilice el siguiente ejemplo.
[ { "Classification": "emr-metrics", "Properties": { "metrics_destination": "cloudwatch" }, "Configurations": [] } ]
nota
El CloudWatch agente tiene un exportador de Prometheus que cambia el nombre de ciertos atributos. Para las etiquetas de métricas predeterminadas, Amazon Managed Service for Prometheus utiliza caracteres de subrayado en lugar de los puntos que utiliza Amazon. CloudWatch Si utilizas Amazon Managed Grafana para visualizar las métricas predeterminadas en Amazon Managed Service for Prometheus, las etiquetas aparecen como, y. cluster_id
instance_id
node_type
service_name