Amazon OpenSearch 服务的推荐 CloudWatch 警报 - 亚马逊 OpenSearch 服务

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

Amazon OpenSearch 服务的推荐 CloudWatch 警报

CloudWatch 当 CloudWatch 指标在一段时间内超过指定值时,警报会执行操作。例如,你可能想要 AWS 如果您的集群运行状况超过一分钟,red请通过电子邮件向您发送电子邮件。本节包括一些推荐的 Amazon S OpenSearch ervice 警报以及如何响应警报。

您可以使用自动部署这些警报 AWS CloudFormation。 有关示例堆栈,请参阅相关GitHub存储库

注意

如果您部署 CloudFormation 堆栈,则KMSKeyErrorKMSKeyInaccessible警报将处于某种Insufficient Data状态,因为这些指标仅在域名遇到加密密钥问题时才会出现。

有关配置警报的更多信息,请参阅亚马逊 CloudWatch 用户指南中的创建亚马逊 CloudWatch警报

警报 问题
ClusterStatus.red 最大值 >= 1 达到 1 分钟,1 次连续时间 至少有一个主分片其及副本未分配给节点。请参阅 红色集群状态
ClusterStatus.yellow 最大值 >= 1 持续 1 分钟,连续 5 次 至少有一个副本分片未分配给节点。请参阅 黄色集群状态
FreeStorageSpace 最小值 <= 20480 达到 1 分钟,1 次连续时间 您的集群中的节点已降至 20GiB 的可用存储空间。请参阅 缺少可用存储空间。此值以 MiB 为单位,因此我们建议将其设置为每个节点的存储空间的 25%,而不是 20480。
ClusterIndexWritesBlocked 大于等于 1 达到 5 分钟,1 次连续时间 您的群集正在阻止写入请求。请参阅 ClusterBlockException
Nodes 最小值 < x 达到 1 天,1 次连续时间 x 是您的集群中的节点数。此警报表示您的群集中至少有一个节点无法访问的时间已达到一天。请参阅 集群节点失败
AutomatedSnapshotFailure 最大值 >= 1 达到 1 分钟,1 次连续时间 自动快照失败。此故障通常由红色群集运行状况导致。请参阅 红色集群状态

有关所有自动快照的摘要和一些有关故障的信息,您也可以尝试以下操作:

GET domain_endpoint/_snapshot/cs-automated/_all GET domain_endpoint/_snapshot/cs-automated-enc/_all
CPUUtilizationWarmCPUUtilization 最大值 >= 80% 达到 15 分钟,连续 3 次 有时可能会出现 100% 的CPU利用率,但是持续的高使用率是有问题的。考虑使用更大的实例类型或添加实例。
JVMMemoryPressure 最大值 >= 95% 达到 1 分钟,连续 3 次 如果使用量增加,群集可能会遇到内存不足错误。考虑垂直缩放。 OpenSearch 服务将一半的实例用RAM于 Java 堆,堆大小不超过 32 GiB。您可以将实例垂直扩展到 64 GiBRAM,此时您可以通过添加实例进行水平扩展。
OldGenJVMMemoryPressure 最大值 >= 80% 达到 1 分钟,连续 3 次
MasterCPUUtilization 最大值 >= 50% 达到 15 分钟,连续 3 次 考虑将更大的实例类型用于您的专用主节点。由于专用主节点在集群稳定性和蓝/绿部署中的作用,因此其CPU使用率应低于数据节点。
MasterJVMMemoryPressure 最大值 >= 95% 达到 1 分钟,连续 3 次
MasterOldGenJVMMemoryPressure 最大值 >= 80% 达到 1 分钟,连续 3 次
KMSKeyError >= 1 达到 1 分钟,1 次连续时间 这些区域有: AWS KMS 用于加密域中静态数据的加密密钥已禁用。重新启用它可恢复正常操作。有关更多信息,请参阅 为 Amazon OpenSearch 服务加密静态数据
KMSKeyInaccessible >= 1 达到 1 分钟,1 次连续时间 这些区域有: AWS KMS 用于加密您域中静态数据的加密密钥已被删除或已撤销其对 OpenSearch 服务的授权。您无法恢复处于此状态的域。但如果您具有手动快照,则可以使用它迁移到新域。要了解更多信息,请参阅 为 Amazon OpenSearch 服务加密静态数据
shards.active >= 30000 达到 1 分钟,1 次连续时间

活动主分区和副本分区的总数大于 30000。轮换索引的频率可能过于频繁。当索引达到特定年龄时,可以考虑使用ISM将其删除。

5xx 警报 >= OpenSearchRequests 的 10% 一个或多个数据节点可能会重载,或者请求无法在空闲超时期限内完成。请考虑切换为更大的实例类型,或向集群添加更多节点。请确认您遵循以下分区和集群架构最佳实践
MasterReachableFromNode最大值为 < 1,持续 5 分钟,连续 1 次

此警报指示主节点已停止或无法访问。这些故障通常是由于网络连接问题或 AWS 依赖性问题。

ThreadpoolWriteQueue 平均值 >= 100 达到 1 分钟,1 次连续时间 集群正在经历高索引并发。请检查和控制索引请求,或增加集群资源。
ThreadpoolSearchQueue 平均值 >= 500 达到 1 分钟,1 次连续时间 集群正在经历高搜索并发。请考虑扩展集群。您也可以增加搜索队列大小,但过度增加搜索队列大小可能会导致出现内存不足错误。
ThreadpoolSearchQueue 最大值 >= 5000 达到 1 分钟,1 次连续时间
增量ThreadpoolSearchRejectedSUM为 >=1 {数学表达式 DIFF ()},持续 1 分钟,连续 1 次 这些警报会通知您可能会影响性能和稳定性的域问题。
增量ThreadpoolWriteRejectedSUM为 >=1 {数学表达式 DIFF ()},持续 1 分钟,连续 1 次
注意

如果您只是想查看指标,请参阅 使用 Amazon 监控 OpenSearch 集群指标 CloudWatch

您可能会考虑的其他警报

考虑根据您经常使用的 OpenSearch 服务功能配置以下警报。

警报 问题
WarmFreeStorageSpace是 >= 10% 您已达到免费预热存储空间总量的 10%。 WarmFreeStorageSpace以 MiB 为单位测量可用暖存储空间的总和。 UltraWarm 使用 Amazon S3 而不是连接的磁盘。
HotToWarmMigrationQueueSize >= 20 达到 1 分钟,3 次连续时间

大量索引同时从热索引移动到 UltraWarm 存储索引。请考虑扩展集群。

HotToWarmMigrationSuccessLatency >= 1 天,1 次连续时间

配置此警报,以便在尝试轮询每日索引时,在 HotToWarmMigrationSuccessCount 延迟大于 24 小时的时候通知您。

WarmJVMMemoryPressure 最大值 >= 95% 达到 1 分钟,连续 3 次 如果使用量增加,群集可能会遇到内存不足错误。考虑垂直缩放。 OpenSearch 服务将一半的实例用RAM于 Java 堆,堆大小不超过 32 GiB。您可以将实例垂直扩展到 64 GiBRAM,此时您可以通过添加实例进行水平扩展。
WarmOldGenJVMMemoryPressure 最大值 >= 80% 达到 1 分钟,连续 3 次
WarmToColdMigrationQueueSize >= 20 达到 1 分钟,3 次连续时间

大量索引同时从冷存储迁移 UltraWarm 到冷存储。请考虑扩展集群。

HotToWarmMigrationFailureCount >= 1 达到 1 分钟,1 次连续时间

迁移可能会在快照、分区重新定位或强制合并期间失败。快照或分片重新定位期间的故障通常是由于节点故障或 S3 连接问题造成的。磁盘空间不足通常是强制合并失败的根本原因。

WarmToColdMigrationFailureCount >= 1 达到 1 分钟,1 次连续时间 如果在尝试将索引元数据迁移到冷存储时失败,迁移通常也会失败。在删除暖索引群集状态时,也可能会发生故障。
WarmToColdMigrationLatency >= 1 天,1 次连续时间

配置此警报,以便在尝试轮询每日索引时,在 WarmToColdMigrationSuccessCount 延迟大于 24 小时的时候通知您。

AlertingDegraded >= 1 达到 1 分钟,1 次连续时间

警报索引为红色,或者一个或多个节点未按计划运行。

ADPluginUnhealthy >= 1 达到 1 分钟,1 次连续时间

异常检测插件未正常工作,原因是故障率过高,或者其中一个正在使用的索引为红色。

AsynchronousSearchFailureRate >= 1 达到 1 分钟,1 次连续时间

过去一分钟至少有一次异步搜索失败,这可能意味着协调器节点出现故障。异步搜索请求的生命周期仅在协调器节点上管理,因此,如果协调器关闭,则请求将会失败。

AsynchronousSearchStoreHealth >= 1 达到 1 分钟,1 次连续时间

持久索引中的异步搜索响应存储的运行状况为红色。您可能会存储大量异步响应,这可能会破坏集群的稳定性。请尝试将异步搜索响应限制为 10MB 或更少。

SQLUnhealthy >= 1 达到 1 分钟,3 次连续时间

该SQL插件返回了 5 个 xx 响应码或DSL向传递了无效的查询 OpenSearch。排查客户端对插件发出的请求是否存在问题。

LTRStatus.red >= 1 达到 1 分钟,1 次连续时间

运行 Learning to Rank 插件所需的索引中至少有一个缺少主分片,且不起作用。