Usare Presto con il AWS Glue Data Catalog

Utilizzando la EMR versione 5.10.0 e successive di Amazon, puoi specificare AWS Glue Data Catalog come metastore Hive predefinito per Presto. Si consiglia questa configurazione quando si richiede un metastore persistente o un metastore condiviso da diversi cluster, servizi e applicazioni o Account AWS.

AWS Glue è un servizio di estrazione, trasformazione e caricamento (ETL) completamente gestito che rende semplice ed economico classificare i dati, pulirli, arricchirli e spostarli in modo affidabile tra vari archivi di dati. Il AWS Glue Data Catalog fornisce un repository di metadati unificato su una varietà di fonti di dati e formati di dati, che si integra con Amazon, Amazon, EMR Amazon Redshift, Redshift Spectrum, Athena e qualsiasi applicazione compatibile con il metastore Apache Hive. RDS AWS I Glue crawler possono dedurre automaticamente lo schema dai dati di origine in Amazon S3 e archiviare i metadati associati nel Data Catalog. Per ulteriori informazioni sul Data Catalog, consulta Populating the AWS Glue Data Catalog nella AWS Glue Developer Guide.

Per AWS Glue si applicano costi separati. È prevista una tariffa mensile per l'archiviazione e l'accesso ai metadati nel Data Catalog, una tariffa oraria fatturata al minuto per i ETL lavori AWS Glue e il runtime del crawler e una tariffa oraria fatturata al minuto per ogni endpoint di sviluppo assegnato. Il Data Catalog consente di archiviare fino a un milione di oggetti senza costi aggiuntivi. Se memorizzi più di un milione di oggetti, ti viene addebitato USD 1 USD per ogni 100.000 oggetti oltre un milione. Un oggetto nel Data Catalog può essere una tabella, una partizione o un database. Per ulteriori informazioni, consulta Prezzi di Glue.

Importante

Se hai creato tabelle utilizzando Amazon Athena o Amazon Redshift Spectrum prima del 14 agosto 2017, i database e le tabelle vengono archiviati in un catalogo gestito da Athena, separato dal Glue Data Catalog. AWS Per integrare Amazon EMR con queste tabelle, devi eseguire l'aggiornamento al AWS Glue Data Catalog. Per ulteriori informazioni, consulta l'aggiornamento al AWS Glue Data Catalog nella Guida per l'utente di Amazon Athena.

Specificare AWS Glue Data Catalog come metastore

Puoi specificare AWS Glue Data Catalog come metastore utilizzando AWS Management Console AWS CLI, o Amazon. EMR API Quando si utilizza CLI oAPI, si utilizza la classificazione di configurazione di Presto per specificare il Data Catalog. Inoltre, con Amazon EMR 5.16.0 e versioni successive, puoi utilizzare la classificazione di configurazione per specificare un catalogo dati in un altro. Account AWS Quando utilizzi la console, puoi specificare il Data Catalog utilizzando Advanced Options (Opzioni avanzate) o Quick Options (Opzioni rapide).

Console

Per specificare AWS Glue Data Catalog come metastore Hive con la nuova console

1. Accedi a e apri AWS Management Console la EMR console Amazon all'indirizzo https://console.aws.amazon.com/emr.

2. EC2Nel riquadro di navigazione a sinistra, scegli Cluster, quindi scegli Crea cluster. EMR

3. In Application bundle (Bundle di applicazioni), scegli Presto.

4. In Impostazioni del Catalogo dati AWS Glue, seleziona la casella di controllo Utilizza per i metadati delle tabelle Presto.

5. Scegli qualsiasi altra opzione applicabile al cluster.

6. Per avviare il cluster, scegli Create cluster (Crea cluster).

CLI

Per specificare il AWS Glue Data Catalog come metastore Hive predefinito utilizzando il AWS CLI

Per esempi su come specificare le seguenti classificazioni di configurazione al momento della creazione di un cluster, consulta Configurazione delle applicazioni.

Amazon EMR 5.16.0 e versioni successive

• Imposta la hive.metastore proprietà su glue come mostrato nell'esempio seguenteJSON.

  [
    {
      "Classification": "presto-connector-hive",
      "Properties": {
        "hive.metastore": "glue"
      }
    }
  ]

  Per specificare un catalogo di dati in un altro Account AWS, aggiungete la hive.metastore.glue.catalogid proprietà come mostrato nell'JSONesempio seguente. Sostituisci acct-id con l'account AWS di Data Catalog. L'utilizzo di un catalogo dati in un altro non Account AWS è disponibile utilizzando Amazon EMR versione 5.15.0 e precedenti.

  [
    {
      "Classification": "presto-connector-hive",
      "Properties": {
        "hive.metastore": "glue",
        "hive.metastore.glue.catalogid": "acct-id"
      }
    }
  ]

  Amazon da EMR 5.10.0 a 5.15.0

  Imposta la hive.metastore.glue.datacatalog.enabled proprietà sutrue, come mostrato nell'esempio seguente: JSON

  [
    {
      "Classification": "presto-connector-hive",
      "Properties": {
        "hive.metastore.glue.datacatalog.enabled": "true"
      }
    }
  ]

  Amazon EMR 6.1.0 e versioni successive con Presto SQL (Trino)

  A partire dalla EMR versione 6.1.0, Presto supporta SQL anche Glue come metastore Hive predefinito. Utilizzate la classificazione prestosql-connector-hive di configurazione e impostate la hive.metastore proprietà suglue, come illustrato nell'esempio seguente. JSON

  EMRLe versioni di Amazon 6.4.0 e successive utilizzano il nuovo nome Trino anziché Presto. SQL Se usi Trino, sostituisci prestosql-connector-hive nella seguente classificazione di configurazione con trino-connector-hive.

  [
    {
      "Classification": "prestosql-connector-hive",
      "Properties": {
        "hive.metastore": "glue"
      }
    }
  ]

Per cambiare metastore di un cluster di lunga esecuzione, è possibile impostare manualmente questi valori come appropriati per la tua versione di release collegandoti al nodo master, modificando i valori di proprietà direttamente nel file /etc/presto/conf/catalog/hive.properties e riavviando il server Presto (sudo restart presto-server). Se utilizzi questo metodo con Amazon EMR 5.15.0 e versioni precedenti, assicurati che hive.table-statistics-enabled sia impostato su. false Questa impostazione non è necessaria quando si usano le versioni della release 5.16.0 e successive; tuttavia, le statistiche di tabella e di partizione non sono supportate.

IAMautorizzazioni

Il profilo di EC2 istanza per un cluster deve disporre delle IAM autorizzazioni per le azioni AWS Glue. Inoltre, se abiliti la crittografia per gli oggetti di AWS Glue Data Catalog, al ruolo deve essere consentito anche di crittografare, decrittografare e generare ciò che AWS KMS key viene utilizzato per la crittografia.

Autorizzazioni per le azioni AWS Glue

Se utilizzi il profilo di EC2 istanza predefinito per AmazonEMR, non è richiesta alcuna azione. La politica AmazonElasticMapReduceforEC2Role gestita allegata a EMR_EC2_DefaultRole consente tutte le azioni AWS Glue necessarie. Tuttavia, se si specificano un profilo e le autorizzazioni dell'EC2istanza personalizzati, è necessario configurare le azioni AWS Glue appropriate. Utilizza la policy AmazonElasticMapReduceforEC2Role gestita come punto di partenza. Per ulteriori informazioni, consulta il ruolo del servizio per EC2 le istanze del cluster (profilo dell'EC2istanza) nella Amazon EMR Management Guide.

Autorizzazioni per la crittografia e la decrittografia di Glue Data Catalog AWS

Il tuo profilo dell'istanza ha bisogno dell'autorizzazione per crittografare e decrittare i dati utilizzando la tua chiave. Non è necessario configurare queste autorizzazioni se si applicano entrambe le seguenti istruzioni:

• È possibile abilitare la crittografia per gli oggetti di AWS Glue Data Catalog utilizzando chiavi gestite per AWS Glue.

• Utilizzi un cluster che è Account AWS uguale al AWS Glue Data Catalog.

Altrimenti, è necessario aggiungere la seguente dichiarazione alla politica di autorizzazione allegata al profilo dell'EC2istanza.

[
    {
        "Version": "2012-10-17",
        "Statement": [
            {
                "Effect": "Allow",
                "Action": [
                    "kms:Decrypt",
                    "kms:Encrypt",
                    "kms:GenerateDataKey"
                ],
                "Resource": "arn:aws:kms:region:acct-id:key/12345678-1234-1234-1234-123456789012"
            }
        ]
    }
]

Per ulteriori informazioni sulla crittografia del AWS Glue Data Catalog, consulta Encrypting your data catalog nella AWS Glue Developer Guide.

Autorizzazioni basate su risorse

Se utilizzi AWS Glue insieme a Hive, Spark o Presto in Amazon, EMR AWS Glue supporta politiche basate sulle risorse per controllare l'accesso alle risorse del Data Catalog. Queste risorse includono tabelle, database, connessioni e funzioni definite dall'utente. Per ulteriori informazioni, consulta Policy sulle risorse AWS Glue nella Guida per gli sviluppatori di AWS Glue.

Quando si utilizzano politiche basate sulle risorse per limitare l'accesso a AWS Glue dall'interno di AmazonEMR, il principale specificato nella politica delle autorizzazioni deve essere il ruolo ARN associato al profilo dell'EC2istanza specificato al momento della creazione di un cluster. Ad esempio, per una politica basata sulle risorse allegata a un catalogo, puoi specificare il ruolo del ruolo di servizio predefinito ARN per le istanze del cluster, EC2 EMR_EC2_DefaultRole comePrincipal, utilizzando il formato illustrato nell'esempio seguente:

arn:aws:iam::acct-id:role/EMR_EC2_DefaultRole

Il acct-id può essere diverso dall'ID dell'account AWS Glue. Ciò consente l'accesso da EMR cluster in diversi account. Puoi specificare più entità principali, ognuna da un account diverso.

Considerazioni sull'utilizzo di AWS Glue Data Catalog

Considerate i seguenti elementi quando utilizzate AWS Glue Data Catalog come metastore con Presto:

• La ridenominazione delle tabelle dall'interno di AWS Glue non è supportata.

• Quando si crea una tabella Hive senza specificare una LOCATION, i dati nella tabella vengono archiviati nella posizione specificata dalla proprietà hive.metastore.warehouse.dir. Per impostazione predefinita, si tratta di una posizione inHDFS. Se un altro cluster necessita di accedere alla tabella, non ci riuscirà a meno che non disponga di autorizzazioni adeguate per il cluster che ha creato la tabella. Inoltre, poiché la HDFS memorizzazione è transitoria, se il cluster termina, i dati della tabella vengono persi e la tabella deve essere ricreata. Ti consigliamo di specificare LOCATION a in Amazon S3 quando crei una tabella Hive utilizzando Glue. AWS In alternativa, puoi utilizzare la classificazione di configurazione hive-site per specificare una posizione in Amazon S3 per hive.metastore.warehouse.dir, che si applica a tutte le tabelle Hive. Se una tabella viene creata in una HDFS posizione e il cluster che l'ha creata è ancora in esecuzione, puoi aggiornare la posizione della tabella su Amazon S3 da AWS Glue. Per ulteriori informazioni, consulta Working with Tables on the AWS Glue Console nella AWS Glue Developer Guide.

• I valori delle partizioni contenenti virgolette e apostrofi non sono supportati, ad esempio PARTITION (owner="Doe's")..

• Le statistiche di colonna sono supportate per emr-5.31.0 e versioni successive.

• L'utilizzo dell'autorizzazione Hive non è supportato. In alternativa, puoi prendere in considerazione l'utilizzo di Policy basate sulle risorse AWS Glue. Per ulteriori informazioni, consulta Use Resource-Based Policies per Amazon Access EMR to AWS Glue Data Catalog.