Conector Cloudera Impala de Amazon Athena - Amazon Athena
Requisitos previosLimitacionesTérminosParámetrosCompatibilidad con tipos de datosParticiones y divisionesRendimientoInformación sobre licenciasVéase también

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Conector Cloudera Impala de Amazon Athena

El conector Cloudera Impala de Amazon Athena permite a Athena ejecutar consultas SQL en la distribución de Cloudera Impala. El conector transforma las consultas SQL de Athena a la sintaxis Impala equivalente.

Requisitos previos

Limitaciones

  • Las operaciones de escritura de DDL no son compatibles.

  • En una configuración de multiplexor, el bucket de vertido y el prefijo se comparten en todas las instancias de base de datos.

  • Cualquier límite de Lambda relevante. Para obtener más información, consulte Cuotas de Lambda en la Guía para desarrolladores deAWS Lambda .

Términos

Los siguientes términos hacen referencia al conector de Cloudera Impala.

  • Instancia de base de datos: cualquier instancia de base de datos implementada en las instalaciones, en Amazon EC2 o en Amazon RDS.

  • Controlador: un controlador de Lambda que accede a la instancia de base de datos. Un controlador puede ser para los metadatos o para los registros de datos.

  • Controlador de metadatos: un controlador de Lambda que recupera los metadatos de la instancia de base de datos.

  • Controlador de registros: un controlador de Lambda que recupera registros de datos de la instancia de base de datos.

  • Controlador compuesto: un controlador de Lambda que recupera tanto los metadatos como los registros de datos de la instancia de base de datos.

  • Propiedad o parámetro: una propiedad de base de datos que usan los controladores para extraer información de la base de datos. Estas propiedades se configuran como variables de entorno de Lambda.

  • Cadena de conexión: una cadena de texto que se usa para establecer una conexión con una instancia de base de datos.

  • Catálogo: unAWS Glue catálogo que no está registrado en Athena y que es un prefijo obligatorio para la propiedad. connection_string

  • Controlador de multiplexación: un controlador de Lambda que puede aceptar y usar varias conexiones a bases de datos.

Parámetros

Use las variables de entorno de Lambda de esta sección para configurar el conector de Cloudera Impala.

Cadena de conexión

Use una cadena de conexión JDBC con el siguiente formato para conectarse a un clúster de Impala.

impala://${jdbc_connection_string}

Uso de un controlador de multiplexación

Puede usar un multiplexor para conectarse a varias instancias de base de datos con una sola función de Lambda. Las solicitudes se enrutan por nombre de catálogo. Use las siguientes clases en Lambda.

Controlador Clase
Controlador compuesto ImpalaMuxCompositeHandler
Controlador de metadatos ImpalaMuxMetadataHandler
Controlador de registros ImpalaMuxRecordHandler

Parámetros del controlador de multiplexación

Parámetro Descripción
$catalog_connection_string Obligatorio. Cadena de conexión de clúster de Impala para un catálogo de Athena. Agregue el prefijo a la variable de entorno con el nombre del catálogo usado en Athena. Por ejemplo, si el catálogo registrado en Athena es myimpalacatalog, el nombre de la variable de entorno será myimpalacatalog_connection_string.
default Obligatorio. La cadena de conexión predeterminada. Esta cadena se usa cuando el catálogo es lambda:${AWS_LAMBDA_FUNCTION_NAME}.

Las siguientes propiedades de ejemplo son para una función de Lambda de Impala MUX que admite dos instancias de base de datos: impala1 (la predeterminada) y impala2.

Propiedad Valor
default impala://jdbc:impala://some.impala.host.name:21050/?${Test/impala1}
impala_catalog1_connection_string impala://jdbc:impala://someother.impala.host.name:21050/?${Test/impala1}
impala_catalog2_connection_string impala://jdbc:impala://another.impala.host.name:21050/?UID=sample&PWD=sample

Proporcionar credenciales

Para proporcionar un nombre de usuario y una contraseña para la base de datos en la cadena de conexión JDBC, puede usar las propiedades de la cadena de conexión o AWS Secrets Manager.

  • Cadena de conexión: se pueden especificar un nombre de usuario y una contraseña como propiedades en la cadena de conexión JDBC.

    importante

    Como práctica recomendada en materia de seguridad, no utilice credenciales codificadas en las variables de entorno ni en las cadenas de conexión. Para obtener información sobre cómo transferir los secretos codificados a AWS Secrets Manager, consulte Mover los secretos codificados a AWS Secrets Manager en la Guía del usuario.AWS Secrets Manager

  • AWS Secrets Manager— Para utilizar la función Athena Federated Query, AWS Secrets Managerla VPC conectada a la función Lambda debe tener acceso a Internet o un punto final de VPC para conectarse a Secrets Manager.

    Puede introducir el nombre de un secreto en la cadena de conexión JDBC AWS Secrets Manager . El conector reemplaza el nombre del secreto por los valores username y password de Secrets Manager.

    Para las instancias de bases de datos de Amazon RDS, esta compatibilidad está estrechamente integrada. Si utiliza Amazon RDS, le recomendamos encarecidamente que utilice la rotación AWS Secrets Manager de credenciales. Si la base de datos no usa Amazon RDS, guarde las credenciales como archivos JSON con el siguiente formato:

    {"username": "${username}", "password": "${password}"}
Ejemplo de cadena de conexión con nombre secreto

La siguiente cadena tiene el nombre secreto ${Test/impala1host}.

impala://jdbc:impala://Impala1host:21050/?...&${Test/impala1host}&...

El conector usa el nombre secreto para recuperar los secretos y proporcionar el nombre de usuario y la contraseña, como en el siguiente ejemplo.

impala://jdbc:impala://Impala1host:21050/?...&UID=sample2&PWD=sample2&...

Actualmente, Cloudera Impala reconoce las propiedades UID y PWD de JDBC.

Uso de un controlador de conexión única

Puedes usar los siguientes controladores de registros y metadatos de conexión única para conectarte a una sola instancia de Cloudera Impala.

Tipo de controlador Clase
Controlador compuesto ImpalaCompositeHandler
Controlador de metadatos ImpalaMetadataHandler
Controlador de registros ImpalaRecordHandler

Parámetros de controlador de conexión única

Parámetro Descripción
default Obligatorio. La cadena de conexión predeterminada.

Los controladores de conexión única admiten una instancia de base de datos y deben proporcionar un parámetro de cadena de conexión default. Se omiten todas las demás cadenas de conexión.

La siguiente propiedad de ejemplo es para una sola instancia de Cloudera Impala compatible con una función de Lambda.

Propiedad Valor
default impala://jdbc:impala://Impala1host:21050/?secret=${Test/impala1host}

Parámetros de vertido

El SDK de Lambda puede verter datos en Amazon S3. Todas las instancias de bases de datos a las que se accede mediante la misma función de Lambda se vierten en la misma ubicación.

Parámetro Descripción
spill_bucket Obligatorio. Nombre del bucket de vertido.
spill_prefix Obligatorio. Prefijo de la clave del bucket de vertido.
spill_put_request_headers (Opcional) Un mapa codificado en JSON de encabezados y valores de solicitudes para la solicitud putObject de Amazon S3 que se usa para el vertido (por ejemplo, {"x-amz-server-side-encryption" : "AES256"}). Para ver otros posibles encabezados, consulta la referencia PutObjectde la API de Amazon Simple Storage Service.

Compatibilidad con tipos de datos

En la siguiente tabla, se muestran los tipos de datos correspondientes para JDBC, Cloudera Impala y Arrow.

JDBC Cloudera Impala Arrow
Booleano Booleano Bit
Entero TINYINT Pequeño
Short SMALLINT Smallint
Entero INT Int
Largo BIGINT Bigint
float float4 Float4
Doble float8 Float8
Date fecha DateDay
Timestamp Marca de tiempo DateMilli
Cadena VARCHAR Varchar
Bytes bytes Varbinary
BigDecimal Decimal Decimal
ARRAY N/D (ver nota) Enumeración
nota

Actualmente, Cloudera Impala no admite los tipos agregados ARRAY, MAP, STRUCT o UNIONTYPE. Las columnas de tipos agregados se tratan como columnas VARCHAR en SQL.

Particiones y divisiones

Las particiones se usan para determinar cómo generar divisiones para el conector. Athena crea una columna sintética de tipo varchar que representa el esquema de partición de la tabla para ayudar al conector a generar divisiones. El conector no modifica la definición de la tabla real.

Rendimiento

Cloudera Impala admite particiones estáticas. El conector Cloudera Impala de Athena puede recuperar datos de estas particiones en paralelo. Si quiere consultar conjuntos de datos muy grandes con una distribución uniforme de particiones, se recomienda encarecidamente la partición estática. El conector Cloudera Impala resiste las limitaciones debidas a la simultaneidad.

El conector Cloudera Impala de Athena inserta predicados para reducir los datos analizados en la consulta. Los predicados simples, las expresiones complejas y las cláusulas LIMIT se insertan en el conector para reducir la cantidad de datos analizados y disminuir el tiempo de ejecución de las consultas.

Cláusulas LIMIT

Una instrucción LIMIT N reduce los datos analizados en la consulta. Con la inserción LIMIT N, el conector devuelve solo las filas N a Athena.

Predicados

Un predicado es una expresión de la cláusula WHERE de una consulta SQL que da como resultado un valor booleano y filtra las filas en función de varias condiciones. El conector Cloudera Impala de Athena puede combinar estas expresiones e insertarlas directamente en Cloudera Impala para mejorar la funcionalidad y reducir la cantidad de datos analizados.

Los siguientes operadores del conector Cloudera Impala de Athena admiten la inserción de predicados:

  • Booleano: AND, OR, NOT.

  • Igualdad: EQUAL, NOT_EQUAL, LESS_THAN, LESS_THAN_OR_EQUAL, GREATER_THAN, GREATER_THAN_OR_EQUAL, IS_DISTINCT_FROM, NULL_IF, IS_NULL.

  • Aritmética: ADD, SUBTRACT, MULTIPLY, DIVIDE, MODULUS, NEGATE.

  • Otros: LIKE_PATTERN, IN.

Ejemplo de inserción combinada

Para mejorar las capacidades de consulta, combine los tipos de inserciones, como en el siguiente ejemplo:

SELECT * 
FROM my_table 
WHERE col_a > 10 
    AND ((col_a + col_b) > (col_c % col_d))
    AND (col_e IN ('val1', 'val2', 'val3') OR col_f LIKE '%pattern%') 
LIMIT 10;

Información sobre licencias

Al utilizar este conector, usted reconoce la inclusión de componentes de terceros, cuya lista puede consultarse en el archivo pom.xml de este conector, y acepta los términos de las licencias de terceros correspondientes que se proporcionan en el archivo LICENSE.txt de GitHub .com.

Véase también

Para obtener información sobre la versión más reciente del controlador JDBC, consulte el archivo pom.xml del conector Cloudera Impala en .com. GitHub

Para obtener información adicional sobre este conector, visite el sitio correspondiente en .com. GitHub