Uso de una clave secreta AWS Secrets Manager para una conexión con Apache Airflow Snowflake

En el siguiente ejemplo se solicita AWS Secrets Manager la obtención de una clave secreta para una conexión de Apache Airflow Snowflake en Amazon Managed Workflows for Apache Airflow. Se asume que ha realizado los pasos que se detallan en Configuración de una conexión Apache Airflow mediante un secreto AWS Secrets Manager.

Versión

• Puede usar el ejemplo de código de esta página con Apache Airflow v2 en Python 3.10.

Requisitos previos

Para usar el código de muestra de esta página, necesitará lo siguiente:

• El backend de Secrets Manager como opción de configuración de Apache Airflow, como se muestra en Configuración de una conexión Apache Airflow mediante un secreto AWS Secrets Manager.

• Una cadena de conexión de Apache Airflow en Secrets Manager, como aparece en Configuración de una conexión Apache Airflow mediante un secreto AWS Secrets Manager.

Permisos

• Permisos de Secrets Manager como se muestra en Configuración de una conexión Apache Airflow mediante un secreto AWS Secrets Manager.

Requisitos

Para usar el código de ejemplo de esta página, agregue las siguientes dependencias a su requirements.txt. Para obtener más información, consulte Instalación de dependencias de Python.

apache-airflow-providers-snowflake==1.3.0

Código de ejemplo

Los siguientes pasos describen cómo crear el DAG código que llama a Secrets Manager para obtener el secreto.

1. En la línea de comandos, navegue hasta el directorio en el que está almacenado el DAG código. Por ejemplo:

   cd dags

2. Copie el contenido del código de ejemplo siguiente y guárdelo localmente como snowflake_connection.py.

   """
   Copyright Amazon.com, Inc. or its affiliates. All Rights Reserved.
    
   Permission is hereby granted, free of charge, to any person obtaining a copy of
   this software and associated documentation files (the "Software"), to deal in
   the Software without restriction, including without limitation the rights to
   use, copy, modify, merge, publish, distribute, sublicense, and/or sell copies of
   the Software, and to permit persons to whom the Software is furnished to do so.
    
   THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
   IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY, FITNESS
   FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT. IN NO EVENT SHALL THE AUTHORS OR
   COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER LIABILITY, WHETHER
   IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM, OUT OF OR IN
   CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE SOFTWARE.
   """
   from airflow import DAG
   from airflow.providers.snowflake.operators.snowflake import SnowflakeOperator
   from airflow.utils.dates import days_ago
   
   snowflake_query = [
       """use warehouse "MY_WAREHOUSE";""",
       """select * from "SNOWFLAKE_SAMPLE_DATA"."WEATHER"."WEATHER_14_TOTAL" limit 100;""",
   ]
   
   with DAG(dag_id='snowflake_test', schedule_interval=None, catchup=False, start_date=days_ago(1)) as dag:
       snowflake_select = SnowflakeOperator(
           task_id="snowflake_select",
           sql=snowflake_query,
           snowflake_conn_id="snowflake_conn",
       )
   

Siguientes pasos

• Aprenda a cargar el DAG código de este ejemplo a la dags carpeta de su bucket de Amazon S3 enAñadir o actualizar DAG.