Scraping di ulteriori origini Prometheus e importazione di tali parametri

L' CloudWatch agente con monitoraggio Prometheus necessita di due configurazioni per analizzare le metriche di Prometheus. Una è per le configurazioni standard Prometheus come documentato in <scrape_config> nella documentazione di Prometheus. L'altra è per la configurazione dell'agente. CloudWatch

Per i cluster Amazon ECS, le configurazioni sono integrate con il Parameter Store di AWS Systems Manager dai segreti nella definizione dell'attività Amazon ECS:

• Il segreto PROMETHEUS_CONFIG_CONTENT è per la configurazione di scraping di Prometheus.

• Il segreto CW_CONFIG_CONTENT è la configurazione CloudWatch dell'agente.

Per acquisire ulteriori fonti di metriche Prometheus e importare tali metriche in, è necessario modificare sia la configurazione dello scrape di Prometheus che la configurazione dell'agente, quindi ridistribuire l'agente con la configurazione aggiornata. CloudWatch CloudWatch

Requisiti del gruppo di sicurezza VPC

Le regole di ingresso dei gruppi di sicurezza per i carichi di lavoro Prometheus devono aprire le porte CloudWatch Prometheus all'agente per lo scraping delle metriche di Prometheus tramite l'IP privato.

Le regole di uscita del gruppo di sicurezza per l' CloudWatch agente devono consentire all'agente di connettersi alla CloudWatch porta dei carichi di lavoro Prometheus tramite IP privato.

Configurazione di Prometheus Scrape

<scrape_config>L' CloudWatch agente supporta le configurazioni scrape standard di Prometheus come documentato nella documentazione di Prometheus.https://prometheus.io/docs/prometheus/latest/configuration/configuration/#scrape_config È possibile modificare questa sezione per aggiornare le configurazioni già presenti in questo file e aggiungere ulteriori destinazioni di scraping Prometheus. Per impostazione predefinita, il file di configurazione campione contiene le seguenti righe di configurazione globali:

global:
  scrape_interval: 1m
  scrape_timeout: 10s

• scrape_interval: definisce con quale frequenza recuperare le destinazioni.

• scrape_timeout: definisce quanto tempo attendere prima che una richiesta di scrape scada.

È inoltre possibile definire valori diversi per queste impostazioni a livello di processo, per ignorare le configurazioni globali.

Attività di scraping di Prometheus

Nei file YAML dell' CloudWatch agente sono già configurati alcuni processi di scraping predefiniti. Ad esempio, nei file YAML per Amazon ECS ad esempio cwagent-ecs-prometheus-metric-for-bridge-host.yaml, i processi di scraping predefiniti sono configurati nella sezione ecs_service_discovery.

"ecs_service_discovery": {
                  "sd_frequency": "1m",
                  "sd_result_file": "/tmp/cwagent_ecs_auto_sd.yaml",
                  "docker_label": {
                  },
                  "task_definition_list": [
                    {
                      "sd_job_name": "ecs-appmesh-colors",
                      "sd_metrics_ports": "9901",
                      "sd_task_definition_arn_pattern": ".*:task-definition\/.*-ColorTeller-(white):[0-9]+",
                      "sd_metrics_path": "/stats/prometheus"
                    },
                    {
                      "sd_job_name": "ecs-appmesh-gateway",
                      "sd_metrics_ports": "9901",
                      "sd_task_definition_arn_pattern": ".*:task-definition/.*-ColorGateway:[0-9]+",
                      "sd_metrics_path": "/stats/prometheus"
                    }
                  ]
                }

Ciascuno di questi obiettivi predefiniti viene eliminato e le metriche vengono inviate agli eventi di registro utilizzando il formato CloudWatch metrico incorporato. Per ulteriori informazioni, consulta Incorporamento dei parametri nei log.

Gli eventi di log dei cluster Amazon ECS vengono archiviati nel gruppo di log/aws/ecs/containerinsights/cluster_name/prometheus.

Ogni processo di scraping è contenuto in un flusso di log diverso in questo gruppo di log.

Per aggiungere una nuova destinazione di scraping, aggiungi una nuova voce nella sezione task_definition_list alla sezione ecs_service_discovery del file YAML e riavvia l'agente. Per un esempio di questo processo, vedere Esercitazione per l'aggiunta di nuove destinazioni di scraping di Prometheus: parametri del server API Prometheus.

CloudWatch configurazione dell'agente per Prometheus

Il file di configurazione CloudWatch dell'agente ha una prometheus sezione sotto metrics_collected per la configurazione dello scraping di Prometheus. Include le opzioni di configurazione seguenti:

• cluster_name: specifica il nome del cluster da aggiungere come etichetta nell'evento log. Questo campo è facoltativo. Se lo ometti, l'agente può rilevare il nome del cluster Amazon ECS.

• log_group_name: specifica il nome del gruppo di log per i parametri Prometheus sottoposti a scraping. Questo campo è facoltativo. Se lo CloudWatch ometti, utilizza/aws/ecs/containerinsights/cluster_name/prometheus per i log dei cluster Amazon ECS.

• prometheus_config_path: specifica il percorso del file di configurazione di scraping di Prometheus. Se il valore di questo campo inizia con env:, il contenuto del file di configurazione di scraping di Prometheus verrà recuperato dalla variabile di ambiente del container. Non modificare questo campo.

• ecs_service_discovery: è la sezione per specificare le configurazioni delle funzioni di individuazione automatica delle destinazioni di Amazon ECS Prometheus. Sono supportate due modalità per individuare le destinazioni Prometheus: individuazione basata sull'etichetta Docker del container o individuazione basata sull'espressione regolare dell'ARN della definizione dell'attività di Amazon ECS. Puoi utilizzare le due modalità insieme e l' CloudWatch agente deduplicherà gli obiettivi rilevati in base a: {private_ip}: {port}/{metrics_path}.

  La sezione ecs_service_discovery può contenere i seguenti campi:

  • sd_frequency è la frequenza di individuazione degli elementi di esportazione di Prometheus. Specifica un numero e un suffisso di unità. Ad esempio, 1m per una volta al minuto o 30s per una volta ogni 30 secondi. I suffissi di unità validi sono ns, us, ms, s, m e h.

    Questo campo è facoltativo. Il valore predefinito è 60 secondi (1 minuto).

  • sd_target_cluster è il nome del cluster Amazon ECS di destinazione per l'individuazione automatica. Questo campo è facoltativo. L'impostazione predefinita è il nome del cluster Amazon ECS in cui è installato l' CloudWatch agente.

  • sd_cluster_region è la regione del cluster Amazon ECS di destinazione. Questo campo è facoltativo. L'impostazione predefinita è la regione del cluster Amazon ECS in cui è installato l' CloudWatchagente.

  • sd_result_file è il percorso del file YAML per i risultati di destinazione di Prometheus. La configurazione di scraping di Prometheus farà riferimento a questo file.

  • docker_label è una sezione facoltativa che è possibile utilizzare per specificare la configurazione per l'individuazione dei servizi basati su etichette Docker. Se ometti questa sezione, l'individuazione basata sull'etichetta Docker non viene utilizzata. Questa sezione può contenere i seguenti campi:

    • sd_port_label è il nome dell'etichetta Docker del container che specifica la porta del container per i parametri Prometheus. Il valore predefinito è ECS_PROMETHEUS_EXPORTER_PORT. Se il contenitore non ha questa etichetta docker, l' CloudWatch agente la salterà.

    • sd_metrics_path_label è il nome dell'etichetta Docker del container che specifica il percorso dei parametri di Prometheus. Il valore predefinito è ECS_PROMETHEUS_METRICS_PATH. Se il container non dispone di questa etichetta Docker, l'agente assume il percorso predefinito /metrics.

    • sd_job_name_label è il nome dell'etichetta Docker del container che specifica il nome del processo di scraping di Prometheus. Il valore predefinito è job. Se il contenitore non ha questa etichetta docker, l' CloudWatch agente utilizza il nome del lavoro nella configurazione dello scrape di Prometheus.

  • task_definition_list è una sezione facoltativa che è possibile utilizzare per specificare la configurazione per l'individuazione dei servizi basati sulla definizione dell'attività. Se ometti questa sezione, l'individuazione basata sulla definizione dell'attività non viene utilizzata. Questa sezione può contenere i seguenti campi:

    • sd_task_definition_arn_pattern è il modello da utilizzare per specificare le definizioni delle attività Amazon ECS da individuare. Questa è un'espressione regolare.

    • sd_metrics_ports elenca gli elementi containerPort per i parametri di Prometheus. Separa gli elementi containerPort con il punto e virgola.

    • sd_container_name_pattern specifica i nomi dei container dell'attività di Amazon ECS. Questa è un'espressione regolare.

    • sd_metrics_path specifica il percorso del parametro Prometheus. Se ometti questa opzione, l'agente assume il percorso predefinito /metrics

    • sd_job_name specifica il nome del processo di scraping di Prometheus. Se si omette questo campo, l' CloudWatch agente utilizza il nome del lavoro nella configurazione dello scrape di Prometheus.

  • service_name_list_for_tasks è una sezione facoltativa che puoi utilizzare per specificare la configurazione per l'individuazione basata sul nome del servizio. Se ometti questa sezione, l'individuazione basata sul nome del servizio non viene utilizzata. Questa sezione può contenere i seguenti campi:

    • sd_service_name_pattern è il modello da utilizzare per specificare il servizio Amazon ECS in cui si trovano le attività da individuare. Questa è un'espressione regolare.

    • sd_metrics_ports Elenca gli elementi containerPort per i parametri Prometheus. Separa più elementi containerPorts con punto e virgola.

    • sd_container_name_pattern specifica i nomi dei container dell'attività di Amazon ECS. Questa è un'espressione regolare.

    • sd_metrics_path specifica il percorso dei parametri Prometheus. Se ometti questa opzione, l'agente presume che il percorso predefinito è /metrics.

    • sd_job_name specifica il nome del processo di scraping di Prometheus. Se si omette questo campo, l' CloudWatch agente utilizza il nome del lavoro nella configurazione dello scrape di Prometheus.

• metric_declaration: sono sezioni che specificano la matrice di log con formato metrico incorporato da generare. Esistono sezioni metric_declaration per ogni origine Prometheus da cui l'agente CloudWatch importa per impostazione predefinita. Ciascuna di queste sezioni include i seguenti campi:

  • label_matcher è un'espressione regolare che controlla il valore delle etichette elencate in source_labels. Le metriche corrispondenti sono abilitate per l'inclusione nel formato metrico incorporato inviato a. CloudWatch

    Se sono state specificate più etichette in source_labels, ti consigliamo di non utilizzare ^ o caratteri $ nell'espressione regolare per label_matcher.

  • source_labels specifica il valore delle etichette controllate dalla riga label_matcher.

  • label_separator specifica il separatore da utilizzare nella riga label_matcher se sono specificati source_labels multipli. Il valore predefinito è ;. È possibile visualizzare questo valore predefinito utilizzato nella riga label_matcher nell'esempio seguente.

  • metric_selectors è un'espressione regolare che specifica le metriche da raccogliere e inviare a CloudWatch.

  • dimensionsè l'elenco di etichette da utilizzare come CloudWatch dimensioni per ogni metrica selezionata.

Guarda l'esempio metric_declaration che segue.

"metric_declaration": [
  {
     "source_labels":[ "Service", "Namespace"],
     "label_matcher":"(.*node-exporter.*|.*kube-dns.*);kube-system$",
     "dimensions":[
        ["Service", "Namespace"]
     ],
     "metric_selectors":[
        "^coredns_dns_request_type_count_total$"
     ]
  }
]

In questo esempio viene configurata una sezione di formato metrica incorporata da inviare come evento di log se sono soddisfatte le seguenti condizioni:

• Il valore di Service contiene node-exporter o kube-dns.

• Il valore di Namespace è kube-system.

• La metrica Prometheus coredns_dns_request_type_count_total contiene le etichette sia Service che Namespace.

L'evento di log inviato include la seguente sezione evidenziata:

{
   "CloudWatchMetrics":[
      {
         "Metrics":[
            {
               "Name":"coredns_dns_request_type_count_total"
            }
         ],
         "Dimensions":[
            [
               "Namespace",
               "Service"
            ]
         ],
         "Namespace":"ContainerInsights/Prometheus"
      }
   ],
   "Namespace":"kube-system",
   "Service":"kube-dns",
   "coredns_dns_request_type_count_total":2562,
   "eks_amazonaws_com_component":"kube-dns",
   "instance":"192.168.61.254:9153",
   "job":"kubernetes-service-endpoints",
   ...
}