Ejemplo: recuperación de los valores más frecuentes (TOP_K_ITEMS_TUMBLING)

Este ejemplo de Amazon Kinesis Data Analytics demuestra cómo usar la función TOP_K_ITEMS_TUMBLING para recuperar los valores más frecuentes en una ventana de saltos. Para obtener más información, consulte la función TOP_K_ITEMS_TUMBLING en la Referencia de SQL de Amazon Managed Service para Apache Flink.

La función TOP_K_ITEMS_TUMBLING es útil cuando se agregan decenas o cientos de miles de claves y se desea reducir el uso de recursos. La función produce el mismo resultado que la agregación con cláusulas GROUP BY y ORDER BY.

En este ejemplo, escribirá los siguientes registros en una secuencia de datos de Amazon Kinesis.

{"TICKER": "TBV"}
{"TICKER": "INTC"}
{"TICKER": "MSFT"}
{"TICKER": "AMZN"}
...

A continuación, cree una aplicación de Kinesis Data Analytics en la AWS Management Console con la secuencia de datos de Kinesis como origen de streaming. El proceso de detección lee los registros de muestra en el origen de streaming e infiere un esquema en la aplicación con una columna (TICKER), tal como se muestra a continuación.

Utilice el código de aplicación con la función TOP_K_VALUES_TUMBLING para crear una agregación en ventana de los datos. A continuación, inserte los datos resultantes en otra secuencia en la aplicación, tal y como se muestra en la siguiente captura de pantalla:

En el siguiente procedimiento, se crea una aplicación de Kinesis Data Analytics que recupera los valores más frecuentes en el flujo de entrada.

Paso 1: Crear una secuencia de datos de Kinesis

Cree una secuencia de datos de Amazon Kinesis y rellene los registros como se indica a continuación:

1. Inicie sesión en la AWS Management Console y abra la consola de Kinesis en https://console.aws.amazon.com/kinesis.

2. Elija Data Streams (Secuencias de datos) en el panel de navegación.

3. Elija Create Kinesis Stream (Crear secuencia de Kinesis) y, a continuación, cree una secuencia con un fragmento. Para obtener más información, consulte Crear secuencia en la Guía para desarrolladores de Amazon Kinesis Data Streams.

4. Para escribir registros en un flujo de datos de Kinesis en un entorno de producción, recomendamos utilizar Kinesis Client Library o la API de Kinesis Data Streams. Para simplificar, en este ejemplo se utiliza el siguiente script Python para generar registros. Ejecute el código para rellenar los registros de ticker de muestra. Este código simple escribe continuamente un registro de ticker aleatorio en el flujo. Deje el script ejecutándose para poder generar el esquema de la aplicación en un paso posterior.

    
   import datetime
   import json
   import random
   import boto3
   
   STREAM_NAME = "ExampleInputStream"
   
   
   def get_data():
       return {
           "EVENT_TIME": datetime.datetime.now().isoformat(),
           "TICKER": random.choice(["AAPL", "AMZN", "MSFT", "INTC", "TBV"]),
           "PRICE": round(random.random() * 100, 2),
       }
   
   
   def generate(stream_name, kinesis_client):
       while True:
           data = get_data()
           print(data)
           kinesis_client.put_record(
               StreamName=stream_name, Data=json.dumps(data), PartitionKey="partitionkey"
           )
   
   
   if __name__ == "__main__":
       generate(STREAM_NAME, boto3.client("kinesis"))
   

Paso 2: Creación de una aplicación de Kinesis Data Analytics

Cree una aplicación de análisis de datos de Kinesis Data Analytics de la siguiente manera:

1. Abra la consola de Managed Service para Apache Flink en https://console.aws.amazon.com/kinesisanalytics.

2. Elija Create application (Crear aplicación), escriba el nombre de la aplicación y elija Create application (Crear aplicación).

3. En la página de detalles de la aplicación, elija Connect streaming data (Conectar datos de streaming) para conectarse al origen.

4. En la página Connect to source (Conectarse al origen), haga lo siguiente:

   1. Elija la secuencia que ha creado en la sección anterior.

   2. Elija Discover Schema (Detectar esquema). Espere a que la consola muestre el esquema inferido y los registros de muestra utilizados para inferir en el esquema de la secuencia en la aplicación que ha creado. El esquema inferido tiene una columna.

   3. Elija Save schema and update stream samples. Después de que la consola guarde el esquema, elija Exit (Salir).

   4. Elija Save and continue.

5. En la página de detalles de la aplicación, elija Go to SQL editor (Ir al editor de SQL). Para iniciar la aplicación, elija Yes, start application (Sí, iniciar la aplicación) en el cuadro de diálogo que aparece.

6. En el editor de SQL, escriba el código de la aplicación y verifique los resultados como se indica a continuación:

   1. Copie el siguiente código de la aplicación y péguelo en el editor:

      CREATE OR REPLACE STREAM DESTINATION_SQL_STREAM (
        "TICKER" VARCHAR(4), 
        "MOST_FREQUENT_VALUES" BIGINT
      );
      
      CREATE OR REPLACE PUMP "STREAM_PUMP" AS 
          INSERT INTO "DESTINATION_SQL_STREAM"
          SELECT STREAM * 
              FROM TABLE (TOP_K_ITEMS_TUMBLING(
                  CURSOR(SELECT STREAM * FROM "SOURCE_SQL_STREAM_001"),
                  'TICKER',         -- name of column in single quotes
                  5,                       -- number of the most frequently occurring values
                  60                       -- tumbling window size in seconds
                  )
              );  

   2. Elija Save and run SQL.

      En la pestaña Real-time analytics (Análisis en tiempo real), puede ver todas las secuencias en la aplicación creadas por esta y comprobar los datos.