Testando o stream do Firehose com dados de amostra - Amazon Data Firehose

A entrega de streams do Amazon Data Firehose para tabelas Apache Iceberg no Amazon S3 está em versão prévia e está sujeita a alterações.

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Testando o stream do Firehose com dados de amostra

Você pode usar o AWS Management Console para ingerir dados simulados de ações. O console executa um script em seu navegador para colocar registros de amostra em seu stream do Firehose. Isso permite que você teste a configuração do seu stream do Firehose sem precisar gerar seus próprios dados de teste.

Este é um exemplo dos dados simulados:

{"TICKER_SYMBOL":"QXZ","SECTOR":"HEALTHCARE","CHANGE":-0.05,"PRICE":84.51}

Observe que as cobranças padrão do Amazon Data Firehose se aplicam quando seu stream do Firehose transmite os dados, mas não há cobrança quando os dados são gerados. Para interromper essas cobranças, você pode parar o fluxo de exemplo no console a qualquer momento.

Pré-requisitos

Antes de começar, crie um stream do Firehose. Para ter mais informações, consulte Crie um stream do Firehose.

Teste com o Amazon S3

Use o procedimento a seguir para testar seu stream do Firehose com o Amazon Simple Storage Service (Amazon S3) como destino.

Para testar um stream do Firehose usando o Amazon S3
  1. Abra o console Firehose em. https://console.aws.amazon.com/firehose/

  2. Escolha um stream ativo do Firehose. O stream do Firehose precisa estar no status Ativo para que você possa começar a enviar dados.

  3. Em Test with demo data, escolha Start sending demo data para gerar dados de exemplo do índice de ações.

  4. Siga as instruções na tela para verificar se os dados estão sendo entregues ao bucket do S3. Observe que pode demorar alguns minutos para que os novos objetos apareçam no bucket, com base na configuração de armazenamento em buffer do bucket.

  5. Quando o teste for concluído, escolha Stop sending demo data para cessar a cobrança de uso.

Teste com o Amazon Redshift

Use o procedimento a seguir para testar seu stream do Firehose com o Amazon Redshift como destino.

Para testar um stream do Firehose usando o Amazon Redshift
  1. Seu stream do Firehose espera que uma tabela esteja presente em seu cluster do Amazon Redshift. Conecte-se ao Amazon Redshift por meio de uma SQL interface e execute a seguinte instrução para criar uma tabela que aceite os dados de amostra.

    create table firehose_test_table ( TICKER_SYMBOL varchar(4), SECTOR varchar(16), CHANGE float, PRICE float );
  2. Abra o console Firehose em. https://console.aws.amazon.com/firehose/

  3. Escolha um stream ativo do Firehose. O stream do Firehose precisa estar no status Ativo para que você possa começar a enviar dados.

  4. Edite os detalhes do destino do seu stream do Firehose para apontar para a tabela recém-criadafirehose_test_table.

  5. Em Test with demo data, escolha Start sending demo data para gerar dados de exemplo do índice de ações.

  6. Siga as instruções na tela para verificar se os dados estão sendo entregues na tabela. Observe que pode demorar alguns minutos para que novas linhas apareçam na tabela, com base na configuração de armazenamento em buffer.

  7. Quando o teste for concluído, escolha Stop sending demo data para cessar a cobrança de uso.

  8. Edite os detalhes do destino do seu stream do Firehose para apontar para outra tabela.

  9. (Opcional) Exclua a tabela firehose_test_table.

Teste com OpenSearch serviço

Use o procedimento a seguir para testar seu stream do Firehose usando o Amazon OpenSearch Service como destino.

Para testar um stream do Firehose usando o Service OpenSearch
  1. Abra o console Firehose em. https://console.aws.amazon.com/firehose/

  2. Escolha um stream ativo do Firehose. O stream do Firehose precisa estar no status Ativo para que você possa começar a enviar dados.

  3. Em Test with demo data, escolha Start sending demo data para gerar dados de exemplo do índice de ações.

  4. Siga as instruções na tela para verificar se os dados estão sendo entregues ao seu domínio do OpenSearch Serviço. Para obter mais informações, consulte Pesquisar documentos em um domínio OpenSearch de serviço no Amazon OpenSearch Service Developer Guide.

  5. Quando o teste for concluído, escolha Stop sending demo data para cessar a cobrança de uso.

Teste com o Splunk

Use o procedimento a seguir para testar seu stream do Firehose usando o Splunk como destino.

Para testar um stream do Firehose usando o Splunk
  1. Abra o console Firehose em. https://console.aws.amazon.com/firehose/

  2. Escolha um stream ativo do Firehose. O stream do Firehose precisa estar no status Ativo para que você possa começar a enviar dados.

  3. Em Test with demo data, escolha Start sending demo data para gerar dados de exemplo do índice de ações.

  4. Verifique se os dados estão sendo entregues para o seu índice do Splunk. Exemplo de termos de pesquisa no Splunk são sourcetype="aws:firehose:json" e index="name-of-your-splunk-index". Para obter mais informações sobre como pesquisar eventos no Splunk, consulte Pesquisar manual na documentação do Splunk.

    Se os dados de teste não aparecerem no índice do Splunk, verifique se há eventos com falha no bucket do Amazon S3. Consulte também Dados não entregues ao Splunk.

  5. Quando concluir o teste, escolha Stop sending demo data para cessar a cobrança de uso.

Teste com tabelas Apache Iceberg

Use o procedimento a seguir para testar seu stream do Firehose com o Apache Iceberg Tables como destino.

Para testar um stream do Firehose usando o Apache Iceberg Tables
  1. Abra o console Firehose em. https://console.aws.amazon.com/firehose/

  2. Escolha um stream ativo do Firehose. O stream do Firehose precisa estar no status Ativo para que você possa começar a enviar dados.

  3. Em Test with demo data, escolha Start sending demo data para gerar dados de exemplo do índice de ações.

  4. Siga as instruções na tela para verificar se os dados estão sendo entregues às suas tabelas Apache Iceberg. Observe que pode levar alguns minutos para que novos objetos apareçam no seu bucket, com base na configuração de buffer.

  5. Se os dados do teste não aparecerem nas tabelas do Apache Iceberg, verifique se há eventos com falha no bucket do Amazon S3.

  6. Quando concluir o teste, escolha Stop sending demo data para cessar a cobrança de uso.