새 소식 - Amazon EMR

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

새 소식

이 주제에서는 현재 Amazon EMR 6.x 시리즈 및 5.x 시리즈 릴리스의 기능과 해결된 문제를 설명합니다. 이 릴리스의 사용 가능한 구성 분류, 애플리케이션 버전 및 구성 요소 버전과 이 릴리스 정보를 릴리스 6.1.0 탭릴리스 5.31.0 탭에서도 사용할 수 있습니다.

새 Amazon EMR 릴리스 버전을 이용할 수 있을 때 업데이트를 받아보려면 https://docs.aws.amazon.com/emr/latest/ReleaseGuide/amazon-emr-release-notes.rss에서 Amazon EMR 출시 정보에 대한 RSS 피드를 구독하십시오.

릴리스 버전 4.2.0까지의 이전 릴리스 정보는 Amazon EMR 새로운 소식 기록 단원을 참조하십시오.

참고

이제 25개의 이전 Amazon EMR 릴리스 버전이 AWS 서명 버전 4를 사용하여 Amazon S3에 대한 요청을 인증합니다. AWS 서명 버전 2 사용은 단계적으로 종료되며 2020년 6월 24일 이후에 생성된 새 S3 버킷은 서명 버전 2의 서명된 요청을 지원하지 않습니다. 기존 버킷은 서명 버전 2를 계속 지원합니다. 새 S3 버킷에 계속 액세스하고 워크로드의 잠재적인 중단을 방지할 수 있도록 서명 버전 4를 지원하는 Amazon EMR 릴리스로 마이그레이션하는 것이 좋습니다.

현재, 서명 버전 4를 지원하는 EMR 릴리스(emr-4.7.4, emr-4.8.5, emr-4.9.6, emr-4.10.1, emr-5.1.1, emr-5.2.3, emr-5.3.2, emr-5.4.1, emr-5.5.4, emr-5.6.1, emr-5.7.1, emr-5.8.3, emr-5.9.1, emr-5.10.1, emr-5.11.4, emr-5.12.3, emr-5.13.1, emr-5.14.2, emr-5.15.1, emr-5.16.1, emr-5.17.2, emr-5.18.1, emr-5.19.1, emr-5.20.1 및 emr-5.21.2)를 사용할 수 있습니다. EMR 버전 5.22.0 이상은 이미 서명 버전 4를 지원합니다.

Apache Spark, Apache Hive, Presto 등과 같은 Amazon EMR 애플리케이션을 사용하는 경우, 서명 버전 4를 사용하도록 애플리케이션 코드를 변경할 필요가 없습니다. Amazon EMR에 포함되지 않은 사용자 지정 애플리케이션을 사용하는 경우, 서명 버전 4를 사용하도록 코드를 업데이트해야 할 수 있습니다. 필요한 업데이트에 대한 자세한 내용은 서명 버전 2에서 서명 버전 4로 이동을 참조하십시오.

릴리스 6.1.0(Amazon EMR 6.x 시리즈의 최신 버전)

New Amazon EMR release versions are made available in different regions over a period of several days, beginning with the first region on the initial release date. The latest release version may not be available in your region during this period.

다음 릴리스 정보에는 Amazon EMR 릴리스 버전 6.1.0에 대한 정보가 포함됩니다. 변경 사항은 6.0.0에 관련됩니다.

최초 릴리스 날짜: 2020년 9월 4일

최종 업데이트 날짜: 2020년 10월 15일

지원되는 애플리케이션

  • AWS SDK for Java 버전 1.11.828

  • Flink 버전 1.11.0

  • Ganglia 버전 3.7.2

  • 하둡 버전 3.2.1-amzn-1

  • HBase 버전 2.2.5

  • HBase-operator-tools 1.0.0

  • HCatalog 버전 3.1.2-amzn-0

  • Hive 버전 3.1.2-amzn-1

  • Hudi 버전 0.5.2-incubating

  • Hue 버전 4.7.1

  • JupyterHub 버전 1.1.0

  • Livy 버전 0.7.0

  • MXNet 버전 1.6.0

  • Oozie 버전 5.2.0

  • Phoenix 버전 5.0.0

  • Presto 버전 0.232

  • PrestoSQL 버전 338

  • Spark 버전 3.0.0

  • TensorFlow 버전 2.1.0

  • Zeppelin 버전 0.9.0-preview1

  • Zookeeper 버전 3.4.14

  • 커넥터 및 드라이버: DynamoDB Connector 4.14.0

새로운 기능

  • ARM 인스턴스 유형은 Amazon EMR 버전 5.30.0 및 Amazon EMR 버전 6.1.0부터 지원됩니다.

  • M6g 범용 인스턴스 유형은 Amazon EMR 버전 6.1.0부터 지원됩니다. 자세한 내용은 Amazon EMR 관리 안내서지원되는 인스턴스 유형을 참조하세요.

  • EC2 배치 그룹 기능은 여러 마스터 노드 클러스터에 대한 옵션으로 Amazon EMR 버전 5.23.0부터 지원됩니다. 현재 배치 그룹 기능에서는 마스터 노드 유형만 지원되며 SPREAD 전략은 해당 마스터 노드에 적용됩니다. SPREAD 전략은 소규모 인스턴스 그룹을 별도의 기본 하드웨어에 배치하여 하드웨어 장애 발생 시 여러 마스터 노드의 손실을 방지합니다. 자세한 내용은 Amazon EMR 관리 안내서EC2 배치 그룹과 EMR 통합 단원을 참조하십시오.

  • 관리형 조정 – Amazon EMR 버전 6.1.0을 사용하면 EMR 관리형 조정을 활성화하여 워크로드에 따라 클러스터의 인스턴스 또는 유닛 수를 자동으로 늘리거나 줄일 수 있습니다. EMR은 클러스터 지표를 지속적으로 평가하여 비용과 속도 측면에서 클러스터를 최적화하는 조정 결정을 내립니다. 관리형 조정은 Amazon EMR 버전 5.30.0 이상(6.0.0 제외)에서도 사용할 수 있습니다. 자세한 내용은 Amazon EMR 관리 안내서클러스터 리소스 조정을 참조하십시오.

  • PrestoSQL 버전 338은 EMR 6.1.0에서 지원됩니다. 자세한 내용은 도커 통합 구성을 참조하십시오.

    • PrestoSQL은 EMR 6.1.0 이상 버전에서만 지원되며 EMR 6.0.0 또는 EMR 5.x에서는 지원되지 않습니다.

    • 애플리케이션 이름 Presto는 클러스터에 PrestoDB를 설치하는 데 계속 사용됩니다. 클러스터에 PrestoSQL을 설치하려면 애플리케이션 이름 PrestoSQL을 사용합니다.

    • PrestoDB 또는 PrestoSQL을 설치할 수 있지만 둘 다 단일 클러스터에 설치할 수는 없습니다. 클러스터를 생성하려고 할 때 PrestoDB와 PresoSQL을 모두 지정하면 확인 오류가 발생하고 클러스터 생성 요청이 실패합니다.

    • PrestoSQL은 단일 마스터 및 다중 마스터 클러스터 모두에서 지원됩니다. 다중 마스터 클러스터에서는 PrestoSQL 또는 PrestoDB를 실행하려면 외부 Hive 메타스토어가 필요합니다. 여러 마스터 노드를 포함하는 EMR 클러스터에서 지원되는 애플리케이션을 참조하세요.

  • Apache 하둡 및 Docker를 사용한 Apache Spark에 대한 ECR 자동 인증 지원: Spark 사용자는 Docker Hub 및 Amazon Elastic Container Registry(Amazon ECR)의 Docker 이미지를 사용하여 환경 및 라이브러리 종속성을 정의할 수 있습니다.

    Docker 구성Amazon EMR 6.x를 사용하여 Docker로 Spark 애플리케이션 실행.

  • EMR은 Apache Hive ACID 트랜잭션 지원: Amazon EMR 6.1.0은 Hive ACID 트랜잭션에 대한 지원을 추가하여 데이터베이스의 ACID 속성을 준수합니다. 이 기능을 사용하면 Amazon Simple Storage Service(Amazon S3)의 데이터가 있는 Hive 관리형 테이블에서 INSERT, UPDATE, DELETE 및 MERGE 작업을 실행할 수 있습니다. 이 기능은 스트리밍 수집, 데이터 재작성, MERGE를 사용한 대량 업데이트 및 느리게 변경되는 차원과 같은 사용 사례에 대한 핵심 기능입니다. 구성 예제 및 사용 사례를 비롯한 자세한 내용은 Amazon EMR은 Apache Hive ACID 트랜잭션 지원 단원을 참조하세요.

변경 사항, 향상된 기능 및 해결된 문제

  • Apache Flink는 EMR 6.0.0에서 지원되지 않지만 Flink 1.11.0을 사용하는 경우에는 EMR 6.1.0에서 지원됩니다. 이는 공식적으로 하둡 3를 지원하는 Flink의 첫 번째 버전입니다. Apache Flink 1.11.0 Release Announcement를 참조하세요.

  • Ganglia가 기본 EMR 6.1.0 패키지 번들에서 제거되었습니다.

알려진 문제

  • spark.driver.extraJavaOptionsspark.executor.extraJavaOptions를 사용하여 사용자 지정 가비지 수집 구성을 설정하면 충돌하는 가비지 수집 구성으로 인해 EMR 6.1에서 드라이버/실행기 시작 오류가 발생합니다. EMR 릴리스 6.1.0에서는 대신 spark.driver.defaultJavaOptionsspark.executor.defaultJavaOptions 속성을 사용하여 드라이버 및 실행기에 대한 사용자 지정 Spark 가비지 수집 구성을 지정해야 합니다. 자세한 내용은 Apache Spark 런타임 환경Amazon EMR 6.1.0에서 Spark 가비지 수집 구성에서 자세한 내용을 읽어보세요.

  • Pig를 Oozie와 함께 사용하면(그리고 Hue 내에서, Hue는 Oozie 작업을 사용하여 Pig 스크립트를 실행하기 때문) 기본 lzo 라이브러리를 로드할 수 없다는 오류가 발생합니다. 이 오류 메시지는 정보를 제공할 목적일 뿐이며 Pig 실행을 차단하지 않습니다.

  • Hudi 동시성 지원: 현재 Hudi는 단일 Hudi 테이블에 대한 동시 쓰기를 지원하지 않습니다. 또한 Hudi는 새 라이터의 시작을 허용하기 전에 진행 중인 라이터에 의해 수행되는 변경 사항을 모두 롤백합니다. 동시 쓰기는 이 메커니즘을 방해할 수 있으며, 데이터 손상을 초래할 수 있는 경쟁 조건을 도입할 수 있습니다. 데이터 처리 워크플로의 일부로 언제든지 Hudi 테이블에 대해 작동하는 Hudi 라이터 하나만 있는지 확인해야 합니다. Hudi는 동일한 Hudi 테이블에 대해 작동하는 여러 동시 리더를 지원합니다.

  • Known issue in clusters with multiple master nodes and Kerberos authentication

    If you run clusters with multiple master nodes and Kerberos authentication in EMR releases 5.20.0 and later, you may encounter problems with cluster operations such as scale down or step submission, after the cluster has been running for some time. The time period depends on the Kerberos ticket validity period that you defined. The scale-down problem impacts both automatic scale-down and explicit scale down requests that you submitted. Additional cluster operations can also be impacted.

    Workaround:

    • SSH as hadoop user to the lead master node of the EMR cluster with multiple master nodes.

    • Run the following command to renew Kerberos ticket for hadoop user.

      kinit -kt <keytab_file> <principal>

      Typically, the keytab file is located at /etc/hadoop.keytab and the principal is in the form of hadoop/<hostname>@<REALM>.

    참고

    This workaround will be effective for the time period the Kerberos ticket is valid. This duration is 10 hours by default, but can configured by your Kerberos settings. You must re-run the above command once the Kerberos ticket expires.

릴리스 5.31.0(Amazon EMR 5.x 시리즈의 최신 버전)

New Amazon EMR release versions are made available in different regions over a period of several days, beginning with the first region on the initial release date. The latest release version may not be available in your region during this period.

다음 릴리스 정보에는 Amazon EMR 릴리스 버전 5.31.0에 대한 정보가 포함됩니다. 변경 사항은 5.30.1에 관련됩니다.

최초 릴리스 날짜: 2020년 10월 9일

최종 업데이트 날짜: 2020년 10월 15일

업그레이드

  • Amazon Glue 커넥터가 버전 1.13.0으로 업그레이드됨

  • Amazon SageMaker Spark SDK가 버전 1.4.0으로 업그레이드됨

  • Amazon Kinesis 커넥터가 버전 3.5.9로 업그레이드됨

  • AWS Java SDK가 버전 1.11.852로 업그레이드됨

  • Bigtop-tomcat가 버전 8.5.56으로 업그레이드됨

  • EMR FS가 버전 2.43.0으로 업그레이드됨

  • EMR MetricsAndEventsApiGateway 클라이언트가 버전 1.4.0으로 업그레이드됨

  • EMR S3 Dist CP가 버전 2.15.0으로 업그레이드됨

  • EMR S3 Select가 버전 1.6.0으로 업그레이드됨

  • Flink가 버전 1.11.0으로 업그레이드됨

  • 하둡이 버전 2.10.0으로 업그레이드됨

  • Hive가 버전 2.3.7로 업그레이드됨

  • Hudi가 버전 0.6.0으로 업그레이드됨

  • Hue가 버전 4.7.1로 업그레이드됨

  • JupyterHub가 버전 1.1.0으로 업그레이드됨

  • Mxnet이 1.6.0으로 업그레이드됨

  • OpenCV가 버전 4.3.0으로 업그레이드됨

  • Presto가 버전 0.238.3으로 업그레이드됨

  • TensorFlow가 버전 2.1.0으로 업그레이드됨

변경 사항, 향상된 기능 및 해결된 문제

새로운 기능

  • Amazon EMR 5.31.0을 사용하면 Lake Formation과 통합된 클러스터를 시작할 수 있습니다. 이 통합은 AWS Glue 데이터 카탈로그의 데이터베이스 및 테이블에 대한 세분화된 열 수준 데이터 필터링을 제공합니다. 또한 엔터프라이즈 자격 증명 시스템에서 EMR 노트북 또는 Apache Zeppelin에 연동된 Single Sign-On을 사용할 수도 있습니다. 자세한 내용은 Amazon EMR 관리 안내서AWS Lake Formation과 Amazon EMR 통합을 참조하세요.

    Lake Formation과 함께 Amazon EMR은 현재 미국 동부(오하이오 및 버지니아 북부), 미국 서부(캘리포니아 북부 및 오레곤), 아시아 태평양(뭄바이, 서울, 싱가포르, 시드니, 도쿄), 캐나다(중부), 유럽(프랑크푸르트, 아일랜드, 런던, 파리, 스톡홀름), 남아메리카(상파울루) 등 16개의 AWS 리전에서 사용할 수 있습니다.

알려진 문제

  • Known issue in clusters with multiple master nodes and Kerberos authentication

    If you run clusters with multiple master nodes and Kerberos authentication in EMR releases 5.20.0 and later, you may encounter problems with cluster operations such as scale down or step submission, after the cluster has been running for some time. The time period depends on the Kerberos ticket validity period that you defined. The scale-down problem impacts both automatic scale-down and explicit scale down requests that you submitted. Additional cluster operations can also be impacted.

    Workaround:

    • SSH as hadoop user to the lead master node of the EMR cluster with multiple master nodes.

    • Run the following command to renew Kerberos ticket for hadoop user.

      kinit -kt <keytab_file> <principal>

      Typically, the keytab file is located at /etc/hadoop.keytab and the principal is in the form of hadoop/<hostname>@<REALM>.

    참고

    This workaround will be effective for the time period the Kerberos ticket is valid. This duration is 10 hours by default, but can configured by your Kerberos settings. You must re-run the above command once the Kerberos ticket expires.