Connecteur Amazon Athena pour Redshift

Le connecteur Amazon Athena Redshift permet à Amazon Athena d'accéder à vos bases de données Amazon Redshift et Amazon Redshift Serverless, y compris les vues Redshift Serverless. Vous pouvez vous connecter à l'un ou l'autre service à l'aide des paramètres de configuration de la chaîne de JDBC connexion décrits sur cette page.

Prérequis

• Déployez le connecteur sur votre Compte AWS à l’aide de la console Athena ou du AWS Serverless Application Repository. Pour plus d’informations, consultez Déployer un connecteur de source de données ou Utilisez le AWS Serverless Application Repository pour déployer un connecteur de source de données.

Limites

• Les DDL opérations d'écriture ne sont pas prises en charge.

• Dans une configuration de multiplexeur, le compartiment de déversement et le préfixe sont partagés entre toutes les instances de base de données.

• Toutes les limites Lambda pertinentes. Pour plus d'informations, consultez la section Quotas Lambda du Guide du développeur AWS Lambda .

• Comme Redshift ne prend pas en charge les partitions externes, toutes les données spécifiées par une requête sont récupérées à chaque fois.

• À l'instar de Redshift, Athena considère les espaces de fin dans les types CHAR Redshift comme sémantiquement insignifiants à des fins de longueur et de comparaison. Notez que cela ne s'applique qu'aux typesCHAR, mais pas aux VARCHAR types. Athéna ignore les espaces de fin pour le CHAR type, mais les considère comme significatifs pour le type. VARCHAR

Conditions

Les termes suivants se rapportent au connecteur Redshift :

• Instance de base de données : toute instance d'une base de données déployée sur siteEC2, sur Amazon ou sur AmazonRDS.

• Gestionnaire – Un gestionnaire Lambda qui accède à votre instance de base de données. Un gestionnaire peut être destiné aux métadonnées ou aux enregistrements de données.

• Gestionnaire de métadonnées – Un gestionnaire Lambda qui extrait les métadonnées de votre instance de base de données.

• Gestionnaire d’enregistrements – Un gestionnaire Lambda qui extrait les enregistrements de données de votre instance de base de données.

• Gestionnaire de composites – Un gestionnaire Lambda qui extrait les métadonnées et les enregistrements de données de votre instance de base de données.

• Propriété ou paramètre – Propriété de base de données utilisée par les gestionnaires pour extraire des informations de base de données. Vous configurez ces propriétés en tant que variables d’environnement Lambda.

• Chaîne de connexion – Chaîne de texte utilisée pour établir une connexion à une instance de base de données.

• Catalogue — Un AWS Glue non-catalogue enregistré auprès d'Athena qui est un préfixe obligatoire pour la propriété. connection_string

• Gestionnaire de multiplexage – Un gestionnaire Lambda qui peut accepter et utiliser plusieurs connexions de base de données.

Paramètres

Utilisez les variables d’environnement Lambda de cette section pour configurer le connecteur Redshift.

Chaîne de connexion

Utilisez une chaîne de JDBC connexion au format suivant pour vous connecter à une instance de base de données.

redshift://${jdbc_connection_string}

Utilisation d'un gestionnaire de multiplexage

Vous pouvez utiliser un multiplexeur pour vous connecter à plusieurs instances de base de données à l’aide d’une seule fonction Lambda. Les demandes sont acheminées par nom de catalogue. Utilisez les classes suivantes dans Lambda.

Handler (Gestionnaire)	Classe
Gestionnaire de composites	RedshiftMuxCompositeHandler
Gestionnaire de métadonnées	RedshiftMuxMetadataHandler
Gestionnaire d’enregistrements	RedshiftMuxRecordHandler

Paramètres du gestionnaire de multiplexage

Paramètre	Description
$catalog_connection_string	Obligatoire. Chaîne de connexion d’instance de base de données. Préfixez la variable d'environnement avec le nom du catalogue utilisé dans Athena. Par exemple, si le catalogue enregistré auprès d’Athena est myredshiftcatalog, le nom de la variable d’environnement est alors myredshiftcatalog_connection_string.
default	Obligatoire. Chaîne de connexion par défaut. Cette chaîne est utilisée lorsque le catalogue est lambda:${AWS_LAMBDA_FUNCTION_NAME}.

Les exemples de propriétés suivants concernent une fonction Redshift MUX Lambda qui prend en charge deux instances de base de données : redshift1 (par défaut) et. redshift2

Propriété	Valeur
default	redshift://jdbc:redshift://redshift1.host:5439/dev?user=sample2&password=sample2
redshift_catalog1_connection_string	redshift://jdbc:redshift://redshift1.host:3306/default?${Test/RDS/Redshift1}
redshift_catalog2_connection_string	redshift://jdbc:redshift://redshift2.host:3333/default?user=sample2&password=sample2

Fourniture des informations d’identification

Pour fournir un nom d'utilisateur et un mot de passe pour votre base de données dans votre chaîne de JDBC connexion, vous pouvez utiliser les propriétés de la chaîne de connexion ou AWS Secrets Manager.

• Chaîne de connexion — Un nom d'utilisateur et un mot de passe peuvent être spécifiés sous forme de propriétés dans la chaîne de JDBC connexion.

  Important

  Afin de vous aider à optimiser la sécurité, n'utilisez pas d'informations d'identification codées en dur dans vos variables d'environnement ou vos chaînes de connexion. Pour plus d'informations sur le transfert de vos secrets codés en dur vers AWS Secrets Manager, voir Déplacer les secrets codés en dur vers AWS Secrets Manager dans le Guide de l'AWS Secrets Manager utilisateur.

• AWS Secrets Manager— Pour utiliser la fonctionnalité Athena Federated Query AWS Secrets Manager, la personne VPC connectée à votre fonction Lambda doit disposer d'un accès Internet ou d'un VPCpoint de terminaison pour se connecter à Secrets Manager.

  Vous pouvez insérer le nom d'un secret AWS Secrets Manager dans votre chaîne de JDBC connexion. Le connecteur remplace le nom secret par les valeurs username et password de Secrets Manager.

  Pour les instances RDS de base de données Amazon, cette prise en charge est étroitement intégrée. Si vous utilisez AmazonRDS, nous vous recommandons vivement d'utiliser une rotation AWS Secrets Manager des identifiants. Si votre base de données n'utilise pas AmazonRDS, stockez les JSON informations d'identification au format suivant :

  {"username": "${username}", "password": "${password}"}

Exemple de chaîne de connexion avec un nom secret

La chaîne suivante porte le nom secret $ {Test/RDS/Redshift1}.

redshift://jdbc:redshift://redshift1.host:3306/default?...&${Test/RDS/Redshift1}&...

Le connecteur utilise le nom secret pour récupérer les secrets et fournir le nom d’utilisateur et le mot de passe, comme dans l’exemple suivant.

redshift://jdbc:redshift://redshift1.host:3306/default?...&user=sample2&password=sample2&...

Actuellement, le connecteur Redshift reconnaît les propriétés user et passwordJDBC.

Paramètres de déversement

Le Lambda SDK peut transmettre des données à Amazon S3. Toutes les instances de base de données accessibles par la même fonction Lambda déversent au même emplacement.

Paramètre	Description
spill_bucket	Obligatoire. Nom du compartiment de déversement.
spill_prefix	Obligatoire. Préfixe de la clé du compartiment de déversement.
spill_put_request_headers	(Facultatif) Carte JSON codée des en-têtes et des valeurs de la putObject demande Amazon S3 utilisée pour le déversement (par exemple,{"x-amz-server-side-encryption" : "AES256"}). Pour les autres en-têtes possibles, consultez PutObjectle Amazon Simple Storage Service API Reference.

Prise en charge du type de données

Le tableau suivant indique les types de données correspondants pour JDBC et Apache Arrow.

JDBC	Flèche
Booléen	Bit
Entier	Tiny
Court	Smallint
Entier	Int
Long	Bigint
float	Float4
Double	Float8
Date	DateDay
Horodatage	DateMilli
Chaîne	Varchar
Octets	Varbinary
BigDecimal	Décimal
ARRAY	Liste

Partitions et déversements

Redshift ne prend pas en charge les partitions externes. Pour plus d’informations sur les problèmes liés aux performances, veuillez consulter Performance.

Performance

Le connecteur Athena Redshift effectue une poussée vers le bas des prédicats pour réduire les données analysées par la requête. Les clauses LIMIT, les clauses ORDER BY, les prédicats simples et les expressions complexes sont poussés vers le connecteur afin de réduire la quantité de données analysées et le délai d'exécution des requêtes. Cependant, la sélection d'un sous-ensemble de colonnes entraîne parfois un délai d'exécution plus long des requêtes. Amazon Redshift est particulièrement vulnérable au ralentissement de l’exécution des requêtes lorsque vous exécutez plusieurs requêtes en même temps.

LIMITclauses

Une instruction LIMIT N réduit les données analysées par la requête. Grâce à la poussée vers le bas LIMIT N, le connecteur renvoie uniquement des lignes N à Athena.

Requêtes Top N

Une requête Top N spécifie le classement du jeu de résultats et la limite du nombre de lignes renvoyées. Vous pouvez utiliser ce type de requête pour déterminer les valeurs Top N maximales ou Top N minimales pour vos jeux de données. Grâce à la poussée vers le bas Top N, le connecteur renvoie uniquement des lignes N classées à Athena.

Prédicats

Un prédicat est une expression contenue dans la WHERE clause d'une SQL requête qui donne une valeur booléenne et filtre les lignes en fonction de plusieurs conditions. Le connecteur Athena Redshift peut combiner ces expressions et les pousser directement vers Redshift pour améliorer la fonctionnalité et réduire la quantité de données analysées.

Les opérateurs du connecteur Athena Redshift suivants prennent en charge la poussée vers le bas de prédicats :

• Booléen :AND, OU, NOT

• Égalité :EQUAL, NOT _EQUAL, _THAN, LESS _ LESS THAN _OR_, _EQUAL, _ GREATER THAN _OR_THAN, GREATER IS_ _, EQUAL _IF, IS_ DISTINCT FROM NULL NULL

• Arithmétique : ADDSUBTRACT,,MULTIPLY,DIVIDE, MODULUS NEGATE

• Autres : LIKE _PATTERN, IN

Exemple de poussée combinée vers le bas

Pour améliorer les capacités de requête, combinez les types de poussée vers le bas, comme dans l'exemple suivant :

SELECT * 
FROM my_table 
WHERE col_a > 10 
    AND ((col_a + col_b) > (col_c % col_d)) 
    AND (col_e IN ('val1', 'val2', 'val3') OR col_f LIKE '%pattern%') 
ORDER BY col_a DESC 
LIMIT 10;

Pour un article sur l'utilisation de la poussée vers le bas de prédicats pour améliorer les performances des requêtes fédérées, y compris Amazon Redshift, consultez Améliorer les requêtes fédérées avec la poussée vers le bas de prédicats dans Amazon Athena sur le blog AWS Big Data.

Requêtes passthrough

Le connecteur Redshift prend en charge les requêtes passthrough. Les requêtes passthrough utilisent une fonction de table pour transférer votre requête complète vers la source de données pour exécution.

Pour utiliser des requêtes directes avec Redshift, vous pouvez utiliser la syntaxe suivante :

SELECT * FROM TABLE(
        system.query(
            query => 'query string'
        ))

L'exemple de requête suivant envoie une requête vers une source de données dans Redshift. La requête sélectionne toutes les colonnes de la customer table, limitant les résultats à 10.

SELECT * FROM TABLE(
        system.query(
            query => 'SELECT * FROM customer LIMIT 10'
        ))

Ressources supplémentaires

Pour obtenir les informations les plus récentes sur la version du JDBC pilote, consultez le fichier pom.xml du connecteur Redshift sur GitHub .com.

Pour plus d'informations sur ce connecteur, rendez-vous sur le site correspondant sur GitHub .com.