使用控制台管理 Amazon EMR 集群 - Amazon EMR

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

使用控制台管理 Amazon EMR 集群

该控制台提供了更新的界面,可让您以直观的方式管理您的 Amazon EMR 环境,并便于您访问文档、产品信息和其他资源。

控制台功能

Amazon EMR 控制台可在以下网址获得URL:

下表列出了主要的 Amazon EMR 控制台组件状态。

Amazon EMR 控制台组件 控制台

EMR工作室

创建和管理集群

阻止公有访问

监控 Amazon CloudWatch 事件

安全配置

虚拟集群(Amazon EMR on onEKS)

查看和管理您的亚马逊 Virtual Private Cloud 子网 1

笔记本电脑 2

1 在控制台中,您可以在创建集群时在 “网络” 部分中查看和管理您的 Amazon VPC 子网。

2 EMR 笔记本电脑可在控制台中作为 EMR Studio 工作区使用。控制台中的 “创建工作区” 按钮允许您创建新的笔记本。要访问或创建工作区,EMRNotebook 用户需要额外的IAM角色权限。有关更多信息,请参阅 Amazon EMR Notebook 是控制台和亚马逊控制台中的 Ama z EMR on EMR Studio 工作空间。

差异摘要

本节概述了 Amazon EMR 控制台体验的功能。这些功能分为以下几类:

控制台中的集群兼容性

在某些情况下,您创建的集群可能与控制台不兼容。以下列表描述了 Amazon EMR 控制台的兼容性要求。

  • 该控制台支持在 Amazon 5.20.1 及更高EMR版本中创建的集群。

  • 您可以在控制台中克隆使用自动扩展的集群,但只有在需要手动扩展集群或使用托管扩展时,才能创建新集群。

要创建和使用 5.20.1 及更早版本的集群,可以使用 AWS Command Line Interface (AWS CLI) 或者 AWS SDK.

创建集群

能力 控制台

术语:Amazon EMR 集群节点类型

主节点、核心节点、任务节点

亚马逊EMR支持的版本 1

亚马逊EMR发布 5.20.1 及更高版本

快速启动集群

使用 “摘要” 面板下的 “创建集群” 按钮。您的集群名称不能包含字符 <、>、$、| 或 `(反引号)。

配置 Spot 预调配超时

定义为集群中的每个实例集预调配实例的超时期限。

服务角色和 Amazon EC2 实例配置文件角色

控制台不创建默认角色;您必须使用IAM控制台创建角色或选择已IAM创建的角色

集群可见性

在 Amazon EMR 控制台中,您无法将集群设置为对所有用户可见;您的IAM策略决定了集群的访问权限

联网 – 配置私有子网

您必须通过各自的 Amazon S3 和亚马逊VPC控制台配置 Amazon S3 终端节点和NAT网关

EMR文件系统一致性视图 (EMRFSCV)

随着 2020 年 12 月 1 日发布的 Amazon S3 强 read-after-write 一致性,您无需在EMR集群中使用 EMRFS CV

调试

您可以使用集群详细信息页面上的应用程序 UI 界面调试任务

1 您无法在控制台中使用早于 Amazon EMR 5.20.1 的版本创建或编辑集群,但是使用 5.20.1 之前的版本创建的任何现有集群将继续运行。要创建和编辑低于 5.20.1 的 Amazon EMR 版本的集群,请使用或。API CLI您可以使用控制台查看所有集群,但是在 5.20.1 之前创建的控制台可能不兼容较新的功能。

查看和搜索集群

下表重点介绍了如何使用 Amazon EMR 控制台查看、查看和搜索集群。

注意

对集群列表应用数据筛选器会查询整个数据库。但是,当您在搜索框中输入文本字符串时,搜索仅适用于列表已加载客户端的结果。

能力 控制台

查看集群详细信息

您可以选择集群 ID 来查看详尽的集群详细信息,例如配置选项、永久应用程序UIs和日志。

搜索集群

使用单个搜索字段输入文本搜索查询,创建并应用数据筛选条件,如“Status = Any active status”(状态=任何活动状态)。

查找失败的集群

要搜索失败的集群,请应用筛选条件 Status(状态)= Terminated with errors(已终止但有错误)。

查看或编辑集群详细信息

能力 控制台

查看实例组和实例集中的实例,以及扩展、预配置、调整大小和终止选项

实例选项卡中查看实例的选项和详细信息。在属性选项卡中查看终止选项。

查看应用程序UIs、日志和配置

Apache Spark 用户界面、Spark History 服务、Apache Tez 用户界面、时间轴服务器YARN)

配置选项卡中查看集群配置。您可以启动实时、持久性应用程序 UI,从应用程序选项卡查看应用程序的日志。

将集群导出到 CLI

集群详细信息和列表视图“操作”菜单中可用的选项为“查看适用于克隆集群的命令”

使用安全配置时的差异

能力 控制台

克隆安全配置

使用 Trino 和 Apache Ranger 进行联合治理

使用运行时角色将工作提交到集群1

授权访问EMR文件系统 (EMRFS) 数据

Amazon S3 接入点

AWS Lake Formation 访问控制

运行时角色

1 要在步骤提交期间传递角色,您的集群必须使用附加IAM权限策略的安全配置,以便用户只能传递已批准的角色,并且您的任务可以访问 Amazon EMR 资源。有关更多信息,请参阅 Amazon EMR 步骤的运行时角色