使用采用 Graceful Decommission 的 Presto 自动扩展配置 - Amazon EMR

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

使用采用 Graceful Decommission 的 Presto 自动扩展配置

Amazon EMR 发布版本 5.30.0 及更高版本包含一项功能,您可以使用该功能为某些扩展操作设置宽限期。宽限期允许 Presto 任务在节点因横向缩减大小调整操作或自动扩展策略请求而终止之前继续运行。有关扩展规则的更多信息,请参阅 Amazon EMR 管理指南中的了解自动扩展规则。采用 Graceful Decommission 的 Presto 弹性伸缩配置可防止在正在停用的节点上计划新任务,同时允许在达到关机超时之前完成已在运行的任务。正在运行的查询将在节点停用之前完成执行。实例集不支持弹性伸缩。

您可以控制在收到自动扩展关闭请求后必须完成 Presto 任务的时间长度。默认情况下,Amazon 的关闭超时EMR为0分钟,这意味着如果缩容请求需要,Amazon 会EMR立即终止该节点及其上运行的任何 Presto 任务。要在 Amazon 上为 Presto 任务设置更长的超时时间,EMR以允许在缩小集群规模之前完成正在运行的查询,请使用presto-config配置分类将graceful-shutdown-timeout参数设置为大于零的秒或分钟以秒或分钟为单位的值。有关更多信息,请参阅 配置应用程序

例如,将 graceful-shutdown-timeout 值增大至 "30m" 以指定 30 分钟的超时时段。在关闭超时期结束后,如果标记为停用的节点正在等待查询任务完成,则系统将强制终止该节点,查询失败。如果查询任务在五分钟内完成,则标记为停用的节点将在五分钟后终止,前提是其他YARN应用程序已完成执行。

例 采用 Graceful Decommission 的 Presto 自动扩展配置示例

graceful-shutdown-timeout 值替换为适合您的设置的分钟数。没有最大值。下面的示例将超时值设置为 1800 秒(30 分钟)。

[ { "classification": "presto-config", "properties": { "graceful-shutdown-timeout": "1800s" } } ]

限制

PrestoDB 优雅停用不适用于禁用连接EMR的集群HTTP,例如设置为的集群。http-server.http.enabled falseTrino完全不支持 Graceful Decommission,不论 http-server.http.enabled 设置如何。