Kinesis ストリーミングジョブでの拡張ファンアウトの使用 - AWS Glue

Kinesis ストリーミングジョブでの拡張ファンアウトの使用

拡張ファンアウトコンシューマは、通常のコンシューマよりも高い専用スループットで Kinesis ストリームからレコードを受信できます。これは、ジョブなどの Kinesis コンシューマにデータを提供するために使用される転送プロトコルを最適化することによって行われます。Kinesis 拡張ファンアウトの詳細については、Kinesis のドキュメントを参照してください。

拡張ファンアウトモードでは、maxRecordPerRead および idleTimeBetweenReadsInMs 接続オプションは適用されなくなりました。拡張ファンアウトを使用する場合、これらのパラメータは設定できないためです。リトライの設定オプションは説明どおりに機能します。

以下の手順に従って、ストリーミングジョブの拡張ファンアウトを有効または無効にします。ストリームのデータを消費するジョブごとに、ストリームコンシューマを登録する必要があります。

ジョブの拡張ファンアウト消費を有効にするには:
  1. Kinesis API を使用してジョブのストリームコンシューマを登録します。手順に従って、Kinesis ドキュメントの Kinesis Data Streams API を使用して、拡張ファンアウトでコンシューマを登録します。必要なのは、最初のステップである RegisterStreamConsumer を呼び出すことだけです。リクエストは ARN、consumerARN を返す必要があります。

  2. 接続メソッドの引数で接続オプション fanoutConsumerARNconsumerARN に設定します。

  3. ジョブを再開してください。

ジョブの拡張ファンアウト消費を無効にするには:
  1. メソッド呼び出しから接続オプション fanoutConsumerARN を削除します。

  2. ジョブを再開してください。

  3. Kinesis ドキュメントの指示に従ってコンシューマを登録解除します。これらの手順はコンソールに適用されますが、Kinesis API を使用して実行することもできます。Kinesis API によるストリームコンシューマの登録解除の詳細については、Kinesis ドキュメントの「DeregisterStreamConsumer」を参照してください。