Apache Flink コネクタの使用 - Managed Service for Apache Flink

Amazon Managed Service for Apache Flink は、以前は Amazon Kinesis Data Analytics for Apache Flink と呼ばれていました。

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

Apache Flink コネクタの使用

Apache Flink コネクタは、Amazon Managed Service for Apache Flink アプリケーションとの間でデータを移動するソフトウェアコンポーネントです。コネクタは、ファイルやディレクトリから読み取ることができる柔軟な統合です。コネクタは、Amazon のサービスやサードパーティのシステムとやり取りするための完全なモジュールで構成されています。

コネクターの種類には、次のものがあります。

  • ソース: Kinesis データストリーム、 ファイル、Apache Kafka トピック、 ファイル、またはその他のデータソースからアプリケーションにデータを提供します。

  • シンク: アプリケーションから Kinesis データストリーム、Firehose ストリーム、Apache Kafka トピック、またはその他のデータ送信先にデータを送信します。

  • 非同期 I/O: データベースなどのデータソースへの非同期アクセスを提供し、ストリームを強化します。

Apache Flink コネクタは、独自のソースリポジトリに保存されます。Apache Flink コネクタのバージョンとアーティファクトは、使用している Apache Flink のバージョン、および DataStream、テーブル、または SQL API を使用しているかどうかに応じて変わります。

Amazon Managed Service for Apache Flink は、40 を超える構築済みの Apache Flink ソースおよびシンクコネクタをサポートしています。次の表は、最も一般的なコネクタとそれに関連するバージョンの概要を示しています。非同期シンクフレームワークを使用してカスタムシンクを構築することもできます。詳細については、Apache Flink ドキュメントの「汎用非同期ベースシンク」を参照してください。

Apache Flink AWS コネクタのリポジトリにアクセスするには、「」を参照してくださいflink-connector-aws

Flink バージョンのコネクタ
コネクタ Flink バージョン 1.15 Flink バージョン 1.18 Flink バージョン 1.19
Kinesis Data Stream - ソース - DataStream およびテーブル API flink-connector-kinesis、1.15.4 flink-connector-kinesis、4.3.0~1.18 flink-connector-kinesis、4.3.0~1.19
Kinesis Data Stream - シンク - DataStream テーブル API flink-connector-aws-kinesis-streams、1.15.4 flink-connector-aws-kinesis-streams、4.3.0~1.18 flink-connector-aws-kinesis-streams、4.3.0~1.19
Kinesis Data Streams - ソース/シンク - SQL flink-sql-connector-kinesis、1.15.4 flink-sql-connector-kinesis、4.3.0~1.18 flink-sql-connector-kinesis、4.3.0~1.19
Kafka - DataStream およびテーブル API flink-connector-kafka、1.15.4 flink-connector-kafka、3.2.0~1.18 flink-connector-kafka、3.2.0~1.19
Kafka - SQL flink-sql-connector-kafka、1.15.4 flink-sql-connector-kafka、3.2.0~1.18 flink-sql-connector-kafka、3.2.0~1.19
Firehose - DataStream およびテーブル API flink-connector-aws-kinesis-firehose、1.15.4 flink-connector-aws-firehose、4.3.0~1.18 flink-connector-aws-firehose、4.3.0~1.19
Firehose - SQL flink-sql-connector-aws-kinesis-firehose、1.15.4 flink-sql-connector-aws-firehose、4.3.0-1.18 flink-sql-connector-aws-firehose、4.3.0-1.19
DynamoDB - DataStream およびテーブル API flink-connector-dynamodb、3.0.0~1.15 flink-connector-dynamodb、4.3.0~1.18 flink-connector-dynamodb、4.3.0~1.19
DynamoDB - SQL flink-sql-connector-dynamodb、3.0.0~1.15 flink-sql-connector-dynamodb、4.3.0~1.18 flink-sql-connector-dynamodb、4.3.0~1.19
OpenSearch DataStream およびテーブル API - flink-connector-opensearch、1.2.0~1.18 flink-connector-opensearch、1.2.0~1.19
OpenSearch - SQL - flink-sql-connector-opensearch、1.2.0~1.18 flink-sql-connector-opensearch、1.2.0~1.19

Amazon Managed Service for Apache Flink のコネクタの詳細については、以下を参照してください。