Ejemplo: Recuperación de los valores más frecuentes (TOP_K_ITEMS_TUMBLING) - Guía para desarrolladores de Amazon Kinesis Data Analytics

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Ejemplo: Recuperación de los valores más frecuentes (TOP_K_ITEMS_TUMBLING)

Este ejemplo de Amazon Kinesis Data Analytics muestra cómo usar elTOP_K_ITEMS_TUMBLINGpara recuperar los valores más frecuentes en una ventana de saltos. Para obtener más información, consulteTOP_K_ITEMS_TUMBLINGfunciónen laReferencia SQL de Amazon Kinesis Data Analytics.

La función TOP_K_ITEMS_TUMBLING es útil cuando se agregan decenas o cientos de miles de claves y se desea reducir el uso de recursos. La función produce el mismo resultado que la agregación con cláusulas GROUP BY y ORDER BY.

En este ejemplo, escribirá los siguientes registros en una secuencia de datos de Amazon Kinesis:

{"TICKER": "TBV"} {"TICKER": "INTC"} {"TICKER": "MSFT"} {"TICKER": "AMZN"} ...

A continuación, se crea una aplicación de Kinesis Data Analytics en elAWS Management Console, con el flujo de datos de Kinesis como el origen de streaming. El proceso de detección lee los registros de muestra en el origen de streaming e infiere un esquema en la aplicación con una columna (TICKER), tal como se muestra a continuación.


                Imagen de pantalla de la consola que muestra el esquema en la aplicación con una columna ticker.

Utilice el código de aplicación con la función TOP_K_VALUES_TUMBLING para crear una agregación en ventana de los datos. A continuación, inserte los datos resultantes en otra secuencia en la aplicación, tal y como se muestra en la siguiente captura de pantalla:


                Imagen de pantalla de la consola que muestra los datos resultantes en una secuencia en la aplicación.

En el siguiente procedimiento, se crea una aplicación de Kinesis Data Analytics que recupera los valores más frecuentes en el flujo de entrada.

Paso 1: Creación de un flujo de datos de Kinesis

Cree una secuencia de datos de Amazon Kinesis y rellene los registros como se indica a continuación:

  1. Inicie sesión en la AWS Management Console y abra la consola de Kinesis en https://console.aws.amazon.com/kinesis.

  2. Elija Data Streams (Secuencias de datos) en el panel de navegación.

  3. Elija Create Kinesis Stream (Crear secuencia de Kinesis) y, a continuación, cree una secuencia con un fragmento. Para obtener más información, consulteCreación de una secuenciaen laGuía para desarrolladores de Amazon Kinesis Data Streams.

  4. Para escribir registros en un flujo de datos de Kinesis en un entorno de producción, recomendamos utilizar Kinesis Client Library o la API de Kinesis Data Streams. Para simplificar, en este ejemplo se utiliza el siguiente script Python para generar registros. Ejecute el código para rellenar los registros de ticker de muestra. Este código simple escribe continuamente un registro de ticker aleatorio en el flujo. Deje el script ejecutándose para poder generar el esquema de la aplicación en un paso posterior.

    import datetime import json import random import boto3 STREAM_NAME = "ExampleInputStream" def get_data(): return { 'EVENT_TIME': datetime.datetime.now().isoformat(), 'TICKER': random.choice(['AAPL', 'AMZN', 'MSFT', 'INTC', 'TBV']), 'PRICE': round(random.random() * 100, 2)} def generate(stream_name, kinesis_client): while True: data = get_data() print(data) kinesis_client.put_record( StreamName=stream_name, Data=json.dumps(data), PartitionKey="partitionkey") if __name__ == '__main__': generate(STREAM_NAME, boto3.client('kinesis'))

Paso 2: Creación de la aplicación de Kinesis Data Analytics

Cree una aplicación de Kinesis Data Analytics como se indica a continuación:

  1. Abra la consola de Kinesis Data Analytics enhttps://console.aws.amazon.com/kinesisanalytics.

  2. Elija Create application (Crear aplicación), escriba el nombre de la aplicación y elija Create application (Crear aplicación).

  3. En la página de detalles de la aplicación, elija Connect streaming data (Conectar datos de streaming) para conectarse al origen.

  4. En la página Connect to source (Conectarse al origen), haga lo siguiente:

    1. Elija la secuencia que ha creado en la sección anterior.

    2. Elija Discover Schema (Detectar esquema). Espere a que la consola muestre el esquema inferido y los registros de muestra utilizados para inferir en el esquema de la secuencia en la aplicación que ha creado. El esquema inferido tiene una columna.

    3. Elija Save schema and update stream samples. Después de que la consola guarde el esquema, elija Exit (Salir).

    4. Elija Save and continue.

  5. En la página de detalles de la aplicación, elija Go to SQL editor (Ir al editor de SQL). Para iniciar la aplicación, elija Yes, start application (Sí, iniciar la aplicación) en el cuadro de diálogo que aparece.

  6. En el editor de SQL, escriba el código de la aplicación y verifique los resultados como se indica a continuación:

    1. Copie el siguiente código de la aplicación y péguelo en el editor:

      CREATE OR REPLACE STREAM DESTINATION_SQL_STREAM ( "TICKER" VARCHAR(4), "MOST_FREQUENT_VALUES" BIGINT ); CREATE OR REPLACE PUMP "STREAM_PUMP" AS INSERT INTO "DESTINATION_SQL_STREAM" SELECT STREAM * FROM TABLE (TOP_K_ITEMS_TUMBLING( CURSOR(SELECT STREAM * FROM "SOURCE_SQL_STREAM_001"), 'TICKER', -- name of column in single quotes 5, -- number of the most frequently occurring values 60 -- tumbling window size in seconds ) );
    2. Elija Save and run SQL.

      En la pestaña Real-time analytics (Análisis en tiempo real), puede ver todas las secuencias en la aplicación creadas por esta y comprobar los datos.