Amazon EMR Studio - Amazon EMR

Amazon EMR Studio

Amazon EMR Studio 是一个基于 Web 的集成开发环境 (IDE),适用于依托 Amazon EMR 集群运行的完全托管式 Jupyter notebook。您可以为团队设置 EMR Studio,以开发、可视化和调试用 R、Python、Scala 和 PySpark 编写的应用程序。EMR Studio 已与 AWS Identity and Access Management(IAM)和 IAM Identity Center 集成,以便用户使用其公司凭证登录。

您可以免费创建 EMR Studio。当您使用 EMR Studio 时,需为 Amazon S3 存储和 Amazon EMR 集群支付相应的费用。有关产品详细信息和亮点,请参阅 Amazon EMR Studio 服务页面。

EMR Studio 主要功能

Amazon EMR Studio 提供以下功能:

  • 凭借 AWS Identity and Access Management(IAM)或 AWS IAM Identity Center(IAM Identity Center)与贵企业的身份供应商进行用户的身份验证。

  • 按需访问并启动 Amazon EMR 集群以运行 Jupyter notebook 任务。

  • 连接到 Amazon EMR on EKS 集群以在任务运行时提交工作。

  • 浏览并保存示例笔记本。有关示例笔记本的更多信息,请参阅 EMR Studio 笔记本示例 GitHub 存储库

  • 使用 Python、PySpark、Spark Scala、Spark R 或 SparkSQL 分析数据,并安装自定义内核和库。

  • 与同一 Workspace 中的其他用户实时协作。有关更多信息,请参阅配置 Workspace 协作

  • 在处理笔记本中的数据之前,使用 EMR Studio SQL Explorer 浏览数据目录、运行 SQL 查询和下载结果。

  • 使用编排工具(例如 Apache Airflow 或 Amazon Managed Workflows for Apache Airflow)将参数化笔记本作为计划工作流的一部分运行。有关更多信息,请参阅AWS大数据博客中的 Orchestrating analytics jobs on EMR Notebooks using MWAA

  • 链接代码存储库,例如 GitHub 和 BitBucket。

  • 使用 Spark 历史记录服务器、Tez UI 或 YARN 时间线服务器跟踪和调试任务。

EMR Studio 也符合 HIPAA 资格,并通过 HITRUST CSF 和 SOC 2 认证。有关 AWS 服务 HIPAA 合规性的更多信息,请参阅https://aws.amazon.com/compliance/hipaa-compliance/。要了解有关 AWS 服务 HITRUST CSF 合规性的更多信息,请参阅 https://aws.amazon.com/compliance/hitrust/。有关 AWS 服务其他合规性计划的更多信息,请参阅 AWS 合规性计划范围内的服务

Amazon EMR Studio 功能历史记录

此表列出了对 Amazon EMR 托管扩展功能的更新。

发行日期 能力
2023 年 10 月 26 日

增加了创建具有交互功能的 EMR Serverless 应用程序的功能。

2023 年 2 月 28 日

为 EMR Serverless 应用程序添加了对应用程序日志存储的 AWS KMS 客户托管密钥支持。

2023 年 2 月 23 日

为 EMR 无服务器任务提交添加了一键创建 IAM 角色功能。为 EMR Serverless 应用程序选择自定义映像添加了 ECR 查询功能。

2023 年 1 月 27 日

无头执行笔记本可以用 %execute_notebook magic 跟踪每个单元格的执行进度。

2023 年 1 月 23 日

持久性应用程序已经过优化,可以缩短启动时间。