AWS DMS ソースとしての PostgreSQL データベースの使用 - AWS Database Migration Service

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

AWS DMS ソースとしての PostgreSQL データベースの使用

AWS DMS を使用して、1 つ以上の PostgreSQL データベースからデータを移行できます。ソースとして PostgreSQL データベースを使用すると、別の PostgreSQL データベースまたはサポートされている他のデータベースのいずれかにデータを移行できます。AWS DMSでは、以下のタイプのデータベースのソースとして、PostgreSQL バージョン 9.4 以降 (バージョン 9.x 用)、10.x。

  • オンプレミスのデータベース

  • Amazon EC2 インスタンスでのデータベース

  • Amazon RDS DB インスタンス上のデータベース

  • Amazon Aurora PostgreSQL 互換エディションに基づく DB インスタンス上のデータベース

PostgreSQL ソースバージョン

使用する AWS DMS バージョン

9.x、10.x、11.x、12.x

使用可能な任意の AWS DMS バージョンを使用します。

13.x

AWS DMS‬ バージョン 3.4.3 以上を使用します。

14.0

使用アイテムAWS DMSバージョン 3.4.7 以上。

Secure Sockets Layer (SSL) を使用して、PostgreSQL エンドポイントとレプリケーション インスタンスとの接続を暗号化できます。PostgreSQL エンドポイントで SSL を使用する方法の詳細については、「AWS Database Migration Service での SSL の使用」をご参照ください。

ソースとして PostgreSQL を使用する場合の追加セキュリティ要件として、指定されるユーザーアカウントは PostgreSQL データベースの登録済みユーザーでなければなりません。

AWS DMS ソースエンドポイントとして PostgreSQL データベースを設定するには、次の操作を行います:

AWS DMS のソースとして自己管理 PostgreSQL データベースを使用する

ソースとしてセルフ管理 PostgreSQL データベースを使用すると、別の PostgreSQL データベースまたは AWS DMS にサポートされている他のターゲット データベースのいずれかにデータを移行できます。データベースソースには、オンプレミスのデータベースまたは Amazon EC2 インスタンスで実行されているセルフ管理エンジンを使用できます。DB インスタンスは、全ロードタスクと継続的レプリケーションの変更データキャプチャ (CDC) タスクの両方に使用できます。

AWS DMS のソースとして PostgreSQL データベースを使用する場合の前提条件

自己管理 PostgreSQL ソースデータベースからデータを移行する前に、次の操作を行います:

  • バージョン 9.4.x 以降の PostgreSQL データベースを使用します。

  • 全ロードと CDC タスクまたは CDC のみのタスクの場合は、PostgreSQL ソースデータベースに指定されたユーザーアカウントにスーパーユーザー許可を付与します。ユーザー アカウントはソース内のレプリケーション固有機能にアクセスするには、スーパーユーザー許可が必要です。全ロードのみのタスクの場合、それらを移行するには、ユーザー アカウントはテーブルで SELECT 許可が必要です。

  • AWS DMS レプリケーションサーバーの IP アドレスを pg_hba.conf 設定ファイルに追加し、レプリケーションおよびソケット接続を有効にします。以下に例を示します。

    # Replication Instance host all all 12.3.4.56/00 md5 # Allow replication connections from localhost, by a user with the # replication privilege. host replication dms 12.3.4.56/00 md5

    PostgreSQL の pg_hba.conf の設定ファイルはクライアント認証を制御します。(HBA はホストベースの認証を表します) ファイルは従来、データベースクラスターのデータディレクトリに保存されています。

  • AWS DMS を使用してデータベースを論理レプリケーションのソースとして構成する場合、「AWS DMS ソースとしてセルフ管理 PostgreSQL データベースを使用して CDC を有効にする」をご参照ください。

注記

一部の AWS DMS トランザクションでは、DMS エンジンで再度そのパラメータが使用されるまでの間、しばらくアイドル状態になります。PostgreSQL バージョン 9.6 以降で idle_in_transaction_session_timeout パラメータを使用すると、アイドル状態のトランザクションでタイムアウトやエラーが生じる場合があります。AWS DMS を使用する際、アイドル状態のトランザクションを終了しないでください。

AWS DMS ソースとしてセルフ管理 PostgreSQL データベースを使用して CDC を有効にする

AWS DMS では、論理レプリケーションを使用した変更データキャプチャ (CDC) がサポートされています。セルフ管理 PostgreSQL ソースデータベースの論理レプリケーションを有効にするには、postgresql.conf の設定ファイルで以下のパラメータと値を設定します:

  • wal_level = logical を設定します。

  • max_replication_slots を 1 より大きい値に設定します。

    max_replication_slots 値は、実行するタスクの数に従って設定してください。たとえば、5 つのタスクを実行するには、少なくとも 5 つのスロットを設定する必要があります。スロットは、タスクが開始するとすぐに自動的に開き、タスクが実行されなくなった場合でも開いたままです。開いているスロットは手動で削除してください。

  • max_wal_senders を 1 より大きい値に設定します。

    max_wal_senders パラメータは、実行可能な同時タスクの数を設定します。

  • wal_sender_timeout パラメータは、指定されたミリ秒数が過ぎても非アクティブなレプリケーション接続を終了します。デフォルトは 60000 ミリ秒 (60 秒) です。値を 0 (ゼロ) に設定するとタイムアウトメカニズムが無効になり、DMS の設定としては有効です。

    設定時wal_sender_timeoutゼロ以外の値に設定すると、DMS は最低 10000 ミリ秒 (10 秒) を必要とし、値が 0 から 10000 の間の場合は失敗します。DMS レプリケーションインスタンスのマルチ AZ フェイルオーバー中に遅延が発生しないように、この値は 5 分未満にしてください。

一部のパラメータは静的であり、サーバースタート時にのみ設定できます。設定ファイル (セルフマネージドデータベースの場合) または DB パラメータグループ (RDS for PostgreSQL データベース) への変更は、サーバーが再起動されるまで無視されます。詳細については、PostgreSQL ドキュメントをご参照ください。

CDC を有効にすることに関する詳細については、「論理レプリケーションを使用した変更データ キャプチャ (CDC) の有効化」をご参照ください。

DMS ソースとして AWS が管理する PostgreSQL データベースを使用する

AWS が管理する PostgreSQL DB インスタンスを AWS DMS のソースとして使用できます。AWSが管理する PostgreSQL ソースを使用して、全ロードタスクと変更データキャプチャ (CDC) タスクの両方を実行できます。

DMS のソースとして AWSが管理する PostgreSQL データベースを使用する場合の前提条件

AWS が管理する PostgreSQL ソースデータベースからデータを移行する前に、以下を実行します:

  • PostgreSQL DB インスタンス用 AWS マスター ユーザーアカウントを AWS DMS の PostgreSQL ソース エンドポイント用ユーザーアカウントとして使用します。マスターユーザーアカウントには、CDC を設定するために必要なロールがあります。マスター ユーザーアカウント以外のアカウントを使用する場合、アカウントには rds_superuser ロールと rds_replication ロールが必要です。rds_replication ロールは、論理スロットを管理し、論理スロットを使用してデータをストリーミングするアクセス権許可付与します。

    DB インスタンスのマスター ユーザーアカウントを使用しない場合は、使用するアカウントのマスター ユーザーアカウントから複数のオブジェクトを作成する必要があります。その作成についての詳細は、「マスター ユーザーアカウントを使用せず Amazon RDS for PostgreSQL データベースの移行」をご参照ください。

  • ソースデータベースが仮想プライベートクラウド (VPC) にある場合は、データベースが常駐する DB インスタンスへのアクセス権を提供する VPC セキュリティグループを選択します。これは、DMS レプリケーション インスタンスがソース DB インスタンスに正常に接続するために必要です。データベースと DMS レプリケーション インスタンスが同じ VPC 内にある場合は、適切なセキュリティグループを独自のインバウンド ルールに追加します。

注記

一部の AWS DMS トランザクションでは、DMS エンジンで再度そのパラメータが使用されるまでの間、しばらくアイドル状態になります。PostgreSQL バージョン 9.6 以降で idle_in_transaction_session_timeout パラメータを使用すると、アイドル状態のトランザクションでタイムアウトやエラーが生じる場合があります。AWS DMS を使用する際、アイドル状態のトランザクションを終了しないでください。

AWS DMS を使用して AWS が管理する PostgreSQL DB インスタンスでの CDC の有効化

DB インスタンスが論理レプリケーションを使用するように設定されている場合、AWS DMS では Amazon RDS PostgreSQL データベースでの CDC がサポートされています。次の表は、それぞれの AWS が管理する PostgreSQL バージョンの論理レプリケーション互換性をまとめたものです。

CDC (継続的レプリケーション) には RDS for PostgreSQL リードレプリカを使用できません。

PostgreSQL バージョン

AWS DMS 全ロードのサポート

AWS DMS CDC のサポート

Aurora PostgreSQL バージョン 2.1 (PostgreSQL 10.5 以前と互換)

はい

いいえ

Aurora PostgreSQL バージョン 2.2 と PostgreSQL 10.6 以上 (PostgreSQL 10.6 以上)

はい

はい

PostgreSQL 10.21 (またはそれ以上) との互換性がある PostgreSQL 用 RDS

はい

はい

RDS PostgreSQL DB インスタンスに対して論理レプリケーションを有効にするには

  1. PostgreSQL DB インスタンス用の AWS マスター ユーザーアカウントを PostgreSQL ソース エンドポイント用ユーザーアカウントとして使用します。マスターユーザーアカウントには、CDC を設定するために必要なロールがあります。

    マスター ユーザーアカウント以外のアカウントを使用する場合は、使用するアカウントのマスター ユーザーアカウントから複数のオブジェクトを作成する必要があります。詳細については、「マスター ユーザーアカウントを使用せず Amazon RDS for PostgreSQL データベースの移行」を参照してください。

  2. DB CLUSTER パラメータグループの rds.logical_replication パラメータを 1 に設定します。この静的パラメータを有効にするには、DB インスタンスを再起動する必要があります。このパラメータを適用する一環として、AWS DMS は wal_levelmax_wal_sendersmax_replication_slotsmax_connections の各パラメータを設定します。これらのパラメータの変更によって先書きログ (WAL) の生成が増える可能性があるため、論理レプリケーションスロットを使用する場合にのみ rds.logical_replication を設定してください。

  3. wal_sender_timeout パラメータは、指定されたミリ秒数が過ぎても非アクティブなレプリケーション接続を終了します。デフォルトは 60000 ミリ秒 (60 秒) です。値を 0 (ゼロ) に設定するとタイムアウトメカニズムが無効になり、DMS の設定としては有効です。

    設定時wal_sender_timeoutゼロ以外の値に設定すると、DMS は最低 10000 ミリ秒 (10 秒) を必要とし、値が 0 から 10000 の間の場合は失敗します。DMS レプリケーションインスタンスのマルチ AZ フェイルオーバー中に遅延が発生しないように、この値は 5 分未満にしてください。

  4. DB クラスター パラメータグループで max_worker_processes パラメータの値が、max_logical_replication_workersautovacuum_max_workersmax_parallel_workersの合計値以上となるようにしてください。多数のバックグラウンド ワーカー プロセスが、スモールインスタンスではアプリケーション ワークロードに影響を与える可能性があります。したがって、max_worker_processes をデフォルト値より大きく設定した場合は、データベースのパフォーマンスをモニタリングしてください。

マスター ユーザーアカウントを使用せず Amazon RDS for PostgreSQL データベースの移行

場合によっては、ソースとして使用している Amazon RDS PostgreSQL DB インスタンス用マスター ユーザーアカウントを使用しない場合があります。このような場合は、データ定義言語 (DDL) イベントをキャプチャするために複数のオブジェクトを作成します。マスターアカウント以外のアカウントでこれらのオブジェクトを作成し、マスターユーザーアカウントでトリガーを作成します。

注記

ソースエンドポイントで captureDDLs 追加の接続属性を N に設定すると、ソースデータベース上で次のテーブルおよびトリガーを作成する必要はありません。

これらのオブジェクトを作成するには、以下の手順を実行します。

オブジェクトを作成するには

  1. オブジェクトが作成されるスキーマを選択します。デフォルトのスキーマは public です。スキーマが存在し、NoPriv アカウントからアクセス可能であることを確認します。

  2. マスターアカウント以外のユーザーアカウントを使用して PostgreSQL DB インスタンス、ここでは NoPriv アカウントにログインします。

  3. 以下のコマンドを実行し、以下のコード内の objects_schema を使用するスキーマの名前に置き換えて awsdms_ddl_audit テーブルを作成します。

    create table objects_schema.awsdms_ddl_audit ( c_key bigserial primary key, c_time timestamp, -- Informational c_user varchar(64), -- Informational: current_user c_txn varchar(16), -- Informational: current transaction c_tag varchar(24), -- Either 'CREATE TABLE' or 'ALTER TABLE' or 'DROP TABLE' c_oid integer, -- For future use - TG_OBJECTID c_name varchar(64), -- For future use - TG_OBJECTNAME c_schema varchar(64), -- For future use - TG_SCHEMANAME. For now - holds current_schema c_ddlqry text -- The DDL query associated with the current DDL event )
  4. 以下のコマンドを実行して awsdms_intercept_ddl 関数を作成します。コード内の objects_schema は、使用するスキーマの名前に置き換えてください。

    CREATE OR REPLACE FUNCTION objects_schema.awsdms_intercept_ddl() RETURNS event_trigger LANGUAGE plpgsql SECURITY DEFINER AS $$ declare _qry text; BEGIN if (tg_tag='CREATE TABLE' or tg_tag='ALTER TABLE' or tg_tag='DROP TABLE') then SELECT current_query() into _qry; insert into objects_schema.awsdms_ddl_audit values ( default,current_timestamp,current_user,cast(TXID_CURRENT()as varchar(16)),tg_tag,0,'',current_schema,_qry ); delete from objects_schema.awsdms_ddl_audit; end if; END; $$;
  5. NoPriv アカウントからログアウトし、rds_superuser ロールが割り当てられたアカウントを使用してログインします。

  6. 以下のコマンドを実行してイベントトリガー awsdms_intercept_ddl を作成します。

    CREATE EVENT TRIGGER awsdms_intercept_ddl ON ddl_command_end EXECUTE PROCEDURE objects_schema.awsdms_intercept_ddl();

前の手順を完了したら、NoPriv アカウントを使用して AWS DMS ソースエンドポイントを作成できます。

注記

これらのイベントは、CREATE TABLEALTER TABLE、および DROP TABLE ステートメントによってトリガーされます。

これらのイベントにアクセスするすべてのユーザーおよびロールに必要な DDL 許可があることを確認します。例:

grant all on public.awsdms_ddl_audit to public; grant all on public.awsdms_ddl_audit_c_key_seq to public;

論理レプリケーションを使用した変更データ キャプチャ (CDC) の有効化

PostgreSQL のネイティブ論理レプリケーション機能を使用して、PostgreSQL DB ソース用データベース移行中に変更データ キャプチャ (CDC) を有効にすることができます。この機能は、セルフ管理 PostgreSQL および Amazon RDS for PostgreSQL SQL DB インスタンスで使用できます。この方法では、ダウンタイムが短縮され、ターゲットデータベースがソース PostgreSQL データベースと同期しやすくなります。

AWS DMS は、プライマリ キーを持つ PostgreSQL テーブルの CDC をサポートしています。テーブルにプライマリ キーがない場合、先書きログ (WAL) にはデータベース行の前イメージが含まれません。この場合、DMS はテーブルを更新できません。ここでは、追加の構成設定を使用し、回避策としてテーブルレプリカ アイデンティティを使用できます。ただし、この方法では追加のログが生成される可能性があります。注意深いテストの後にのみ、回避策としてテーブルレプリカ アイデンティティ を使用することをお勧めします。詳細については、「DMS ソースとして PostgreSQL データベースを使用する場合の追加設定」を参照してください。

全ロードおよび CDC および CDC のみのタスクの場合、AWS DMSは、論理レプリケーション スロットを使用して、ログがデコードされるまで、レプリケーション用 WAL ログを保持します。全ロードおよび CDC タスクまたは CDC タスクの再起動(再開ではない)によって、レプリケーション スロットが再作成されます。

注記

論理デコードの場合、DMS は test_decoding または pglogical プラグインのいずれかを使用します。pglogical プラグインがソース PostgreSQL データベースで使用できる場合、DMS は pglogical を使用してレプリケーション スロットを作成し、それ以外の場合は test_decoding プラグインが使用されます。test_decoding の詳細については、「」を参照してください。PostgreSQL ドキュメンテーション

pgglogical プラグインの設定

PostgreSQL 拡張機能として実装された pglogical プラグインは、選択的データ レプリケーション用論理レプリケーションシステムとモデルです。次の表に、pglogical プラグインをサポートするソース PostgreSQL データベースバージョンを挙げます。

PostgreSQL ソース

plogical のサポート

セルフ管理 PostgreSQL 9.4 以降

はい

Amazon RDS PostgreSQL 9.5 以降

いいえ

Amazon RDS PostgreSQL 9.6 以降

はい

Aurora PostgreSQL 1.x から 2.5.x まで

いいえ

Aurora PostgreSQL 2.6 以上

はい

Aurora PostgreSQL 3.3 以上

はい

AWS DMS で使用する pglogical を設定する前に、PostgreSQL ソースデータベースで変更データ キャプチャ (CDC) の論理レプリケーションを有効にします。

PostgreSQL ソースデータベースで論理レプリケーションを有効にした後、次のステップに従って、DMS で使用する pglogical を設定します。

AWS DMS を使用して PostgreSQL ソースデータベースで論理レプリケーションに pglogical プラグインを使用するには

  1. PostgreSQL ソースデータベースに pglogical 拡張機能を作成します:

    1. 正しいパラメータを設定します:

      • セルフ管理 PostgreSQL データベースの場合は、データベースパラメータ shared_preload_libraries= 'pglogical' を設定します。

      • Amazon RDS と Amazon Aurora PostgreSQL 互換エディションの PostgreSQL で、パラメーター shared_preload_libraries を同じ RDS パラメーターグループ内の pglogical に設定します。

    2. PostgreSQL ソースデータベースを再起動します。

    3. PostgreSQL データベースで、コマンド create extension pglogical; を実行します。

  2. pglogical が正常にインストールされたことを確認するには、次のコマンドを実行します:

    select * FROM pg_catalog.pg_extension

PostgreSQL ソース データベース エンドポイントの変更データキャプチャを実行する AWS DMS タスクを作成できるようになりました。

注記

PostgreSQL ソースデータベースで pglogical を有効にしないとき、AWS DMS はデフォルトで test_decoding プラグインを使用します。pglogical が論理デコードに対して有効になっている場合、AWS DMS はデフォルトで pgglogical を使用します。ただし、代わりに test_decoding のプラグインを使用する追加の接続属性 PluginName を設定することもできます。

ネイティブ CDC スタートポイントを使用して PostgreSQL ソース エンドポイントの CDC ロードを設定するには

エンドポイントを作成するときに、slotName の追加の接続属性を既存の論理レプリケーション スロットの名前に設定することで、ソースとして PostgreSQL によりネイティブ CDC スタートポイントを有効にします。この論理レプリケーションスロットは、エンドポイントの作成時点からの継続的な変更を保持するため、以前の時点からのレプリケーションをサポートします。

PostgreSQL は、AWS DMS が論理レプリケーションスロットから変更を正常に読み取った後にのみ破棄される WAL ファイルにデータベースの変更を書き込みます。論理レプリケーションスロットを使用すると、ログに記録された変更がレプリケーションエンジンによって消費される前に削除されないように保護できます。

ただし、変更率と消費率によっては、論理レプリケーションスロットに保持されている変更により、ディスク使用率が高くなることがあります。論理レプリケーション スロットを使用する場合は、ソース PostgreSQL インスタンスにスペース使用アラームを設定することをお勧めします。追加の slotName 接続属性の設定についての詳細は、「DMS ソースとして PostgreSQL を使用する場合の追加の接続属性」をご参照ください。

次の手順では、このアプローチについて詳しく説明します。

ネイティブ CDC 開始ポイントを使用して PostgreSQL ソースエンドポイントの CDC ロードを設定するには

  1. 開始点として使用する以前のレプリケーションタスク (親タスク) によって使用されていた論理レプリケーションスロットを特定します。次に、ソースデータベースの pg_replication_slots ビューにクエリを実行して、このスロットにアクティブな接続がないことを確認します。その場合は、先に進む前に解決して終了します。

    次のステップでは、論理レプリケーションスロットが abc1d2efghijk_34567890_z0yx98w7_6v54_32ut_1srq_1a2b34c5d67ef であると仮定します。

  2. 次の追加接続属性設定を含む新しいソースエンドポイントを作成します。

    slotName=abc1d2efghijk_34567890_z0yx98w7_6v54_32ut_1srq_1a2b34c5d67ef;
  3. AWS CLI または AWS DMS API を使用して、新しい CDC 専用タスクを作成します。たとえば、CLI を使用して、次の create-replication-task コマンドを実行できます。

    AWS DMS は現在、コンソールを使用したネイティブ開始ポイントによる CDC タスクの作成をサポートしていません。

    aws dms create-replication-task --replication-task-identifier postgresql-slot-name-test --source-endpoint-arn arn:aws:dms:us-west-2:012345678901:endpoint:ABCD1EFGHIJK2LMNOPQRST3UV4 --target-endpoint-arn arn:aws:dms:us-west-2:012345678901:endpoint:ZYX9WVUTSRQONM8LKJIHGF7ED6 --replication-instance-arn arn:aws:dms:us-west-2:012345678901:rep:AAAAAAAAAAA5BB4CCC3DDDD2EE --migration-type cdc --table-mappings "file://mappings.json" --cdc-start-position "4AF/B00000D0" --replication-task-settings "file://task-pg.json"

    前述のコマンドでは、次のオプションが設定されています。

    • source-endpoint-arn は、ステップ 2 で作成した新しい値に設定されます。

    • replication-instance-arn オプションは、ステップ 1 の親タスクと同じ値に設定されます。

    • table-mappings および replication-task-settings オプションは、ステップ 1 の親タスクと同じ値に設定されます。

    • cdc-start-position はオプションはスタート位置の値に設定されます。この開始位置を調べるには、ソースデータベースの pg_replication_slots ビューにクエリを実行するか、ステップ 1 で親タスクのコンソール詳細を表示します。詳細については、「CDC ネイティブの開始ポイントの決定」を参照してください。

    この CDC タスクの実行時に、指定された論理レプリケーション スロットが存在しない場合、AWS DMS はエラーを返します。また、cdc-start-position の有効な設定を使用してタスクが作成されていない場合、エラーを返します。

pglogical プラグインでネイティブ CDC スタートポイントを使用し、新しいレプリケーション スロットを使用する場合は、CDC タスクを作成する前に、次のステップを実行してください。

別の DMS タスクの一部として以前に作成されていない新しいレプリケーション スロットを使用するには

  1. 次に示すように、レプリケーション スロットを作成します:

    SELECT * FROM pg_create_logical_replication_slot('replication_slot_name', 'pglogical');
  2. データベースがレプリケーションスロットを作成したら、次の情報を取得してメモします。restart_lsnそしてconfirmed_flush_lsnスロットの値:

    select * from pg_replication_slots where slot_name like 'replication_slot_name';

    レプリケーションスロットの後に作成される CDC タスクのネイティブ CDC 開始位置は、confirmed_flush_lsn価値。

    についての情報restart_lsnそしてconfirmed_flush_lsn値、を参照してくださいPG_replication_slots

  3. pglogical ノードを作成します。

    SELECT pglogical.create_node(node_name := 'node_name', dsn := 'your_dsn_name');
  4. を使用して、2 つの複製セットを作成します。pglogical.create_replication_set関数。最初の複製セットは、主キーを持つテーブルの更新と削除を追跡します。2 つ目の複製セットは挿入のみを追跡し、1 つ目の複製セットと同じ名前で、プレフィックス「i」が付きます。

    SELECT pglogical.create_replication_set('replication_slot_name', false, true, true, false); SELECT pglogical.create_replication_set('ireplication_slot_name', true, false, false, true);
  5. レプリケーション集合にテーブルを追加します。

    SELECT pglogical.replication_set_add_table('replication_slot_name', 'schemaname.tablename', true); SELECT pglogical.replication_set_add_table('ireplication_slot_name', 'schemaname.tablename', true);
  6. ソース エンドポイントを作成するときに、次の追加接続属性 (ECA) を設定します。

    PluginName=PGLOGICAL;slotName=slot_name;

新しいレプリケーション スロットを使用して PostgreSQL ネイティブのスタートポイントを使用して CDC のみのタスクを作成できるようになりました。pglogic の詳細については、「」を参照してください。pglogic 3.7 ドキュメント

AWS DMS を使用して PostgreSQL から PostgreSQL へ移行します。

PostgreSQL 以外のデータベースエンジンから PostgreSQL データベースに移行する場合、AWS DMS が最適な移行ツールであることが多いです。一方、PostgreSQL データベースから PostgreSQL データベースに移行する場合、PostgreSQL ツールがより効果的な場合があります。

PostgreSQL ネイティブ ツールを使用してデータを移行する

以下の条件では、pg_dump などの PostgreSQL データベース移行ツールを使用することをお勧めします。

  • ソース PostgreSQL データベースからターゲット PostgreSQL データベースに移行する同種移行である。

  • データベース全体を移行する。

  • ネイティブツールで最小のダウンタイムでデータを移行できる。

pg_dump ユーティリティでは、COPY コマンドを使用して、PostgreSQL データベースのスキーマとデータダンプを作成します。pg_dump によって生成されるダンプ スクリプトは、同じ名前のデータベースにデータをロードし、テーブル、インデックス、外部キーを再作成します。pg_restore コマンドと -d パラメータを使用して、データを別の名前でデータベースに復元できます。

EC2 で実行されている PostgreSQL ソースデータベースから Amazon RDS for PostgreSQL ターゲットにデータを移行する場合は、pglogical プラグインを使用できます。

PostgreSQL データベースを Amazon RDS for PostgreSQL や Amazon Aurora (PostgreSQL 互換エディション) にインポートする詳しい方法については、「https://docs.aws.amazon.com/AmazonRDS/latest/UserGuide/PostgreSQL.Procedural.Importing.html」をご参照ください。

DMS を使用した PostgreSQL から PostgreSQL へのデータの移行

AWS DMS では、たとえば、オンプレミスのソース PostgreSQL データベースからターゲットの Amazon RDS for PostgreSQL や Aurora PostgreSQL インスタンスにデータを移行できます。通常、PostgreSQL のコアまたは基本のデータ型は正常に移行されます。

注記

パーティションテーブルを PostgreSQL ソースから PostgreSQL ターゲットにレプリケーションする場合、DMS タスクの選択条件の一部として親テーブルを言及する必要はありません。親テーブルに言及すると、ターゲット上の子テーブルでデータが複製され、PK 違反が発生する可能性があります。テーブルマッピングの選択基準で子テーブルのみを選択すると、親テーブルに自動代入されます。

ソースのデータベースではサポートされていても、ターゲットではサポートされていないデータ型は、正常に移行されないことがあります。データ型が不明な場合、AWS DMS は一部のデータ型を文字列としてストリームします。XML や JSON などの一部のデータ型は、小さなファイルの場合は正常に移行されますが、大きなドキュメントの場合は失敗することがあります。

データ型の移行を実行するときは、以下について注意してください:

  • 場合によっては、PostgreSQL NUMERIC (p, s) データ型で精度とスケールが指定されない場合があります。DMS バージョン 3.4.2 以前では、DMS はデフォルトでは 28 の精度と 6 のスケール (NUMERIC (28,6)) を使用します。たとえば、ソースからの値 0.611111104488373 は、PostgreSQL ターゲットの 0.611111 に変換されます。

  • ARRAY データ型を持つテーブルにはプライマリ キーが必要です。ARRAY データ型にプライマリ キーがないテーブルは、全ロード中に中断されます。

次の表は、ソース PostgreSQL のデータ型と、これらのデータ型が正常に移行されるかどうかを示しています。

データ型 正常に移行 部分的に移行 移行しない コメント
INTEGER X
SMALLINT X
BIGINT X
NUMERIC/DECIMAL(p,s) X この場合、0<p<39 と 0<s
NUMERIC/DECIMAL X この場合、p>38 または p=s=0
REAL X
DOUBLE X
SMALLSERIAL X
SERIAL X
BIGSERIAL X
MONEY X
CHAR X 精度の指定なし
CHAR(n) X
VARCHAR X 精度の指定なし
VARCHAR(n) X
TEXT X
BYTEA X
TIMESTAMP X 正と負の無限大値はそれぞれ '9999-12-31 23:59:59 'と '4713-01-01 00:00:00 BC' に切り捨てられます。
TIMESTAMP(Z) X
DATE X
TIME X
TIME (z) X
INTERVAL X
BOOLEAN X
ENUM X
CIDR X
INET X
MACADDR X
TSVECTOR X
TSQUERY X
XML X
POINT X PostGIS 空間データ型
LINE X
LSEG X
BOX X
PATH X
POLYGON X PostGIS 空間データ型
CIRCLE X
JSON X
配列 X プライマリ キーが必要です
COMPOSITE X
RANGE X
LINESTRING X PostGIS 空間データ型
MULTIPOINT X PostGIS 空間データ型
MULTILINESTRING X PostGIS 空間データ型
MULTIPOLYGON X PostGIS 空間データ型
GEOMETRYCOLLECTION X PostGIS 空間データ型

PostGIS 空間データ型の移行

空間データは、空間内のオブジェクトまたは位置のジオメトリ情報を識別します。PostgreSQL オブジェクトリレーショナルデータベースは、PostGIS 空間データ型をサポートしています。

PostgreSQL 空間データオブジェクトを移行する前に、PostGIS プラグインがグローバルレベルで有効になっていることを確認してください。これにより、AWS DMS は PostgreSQL ターゲット DB インスタンスの正確なソース空間データ列を作成します。

PostgreSQL から PostgreSQL への同種移行の場合、AWS DMS は PostGIS ジオメトリおよび地理的 (測地座標) データオブジェクト型および次のようなサブタイプの移行をサポートします。

  • POINT

  • LINESTRING

  • POLYGON

  • MULTIPOINT

  • MULTILINESTRING

  • MULTIPOLYGON

  • GEOMETRYCOLLECTION

PostgreSQL ソースデータベースからの AWS DMS アーティファクトの削除

DDL イベントをキャプチャするため、移行タスクの開始時に AWS DMS によりさまざまなアーティファクトが PostgreSQL データベースに作成されます。タスクが完了したら、これらのアーティファクトを削除できます。

アーティファクトを削除するには、以下のステートメントを発行します (示されている順序で)。ここに、{AmazonRDSMigration} は、アーティファクトが作成されたスキーマです。スキーマを削除する場合でも、細心の注意を払ってください。運用中のスキーマ (特に公開スキーマ) は絶対に削除しないでください。

drop event trigger awsdms_intercept_ddl;

イベントトリガーは特定のスキーマに属していません。

drop function {AmazonRDSMigration}.awsdms_intercept_ddl() drop table {AmazonRDSMigration}.awsdms_ddl_audit drop schema {AmazonRDSMigration}

DMS ソースとして PostgreSQL データベースを使用する場合の追加設定

PostgreSQL データベースからデータを移行するときは、2 つの方法で詳細設定を追加できます。

  • 追加接続属性に値を追加して、DDL イベントをキャプチャし、運用中の DDL データベースアーティファクトが作成されたスキーマを指定します。詳細については、「DMS ソースとして PostgreSQL を使用する場合の追加の接続属性」を参照してください。

  • 接続文字列パラメータを上書きできます。これを行うには、次のいずれかのオプションを選択します:

    • 内部 AWS DMS パラメータを指定します。このようなパラメータが必要になることはめったにないため、ユーザー インターフェイスには表示されません。

    • 特定のデータベースクライアントのパススルー (passthru) 値を指定します。AWS DMS では、データベースクライアントに渡される接続文字列にパススルーパラメータが含まれています。

  • テーブルレベルのパラメータを使用してREPLICATE IDENTITYPostgreSQL バージョン 9.4 以上では、先行書き込みログ (WAL) に書き込まれる情報を制御できます。特に、更新または削除される行を識別する WAL に対してそうします。REPLICATE IDENTITY FULL は行のすべての列の古い値を記録します。不必要に余分な量の WAL が FULL により生成されるため、REPLICATE IDENTITY FULL はテーブルごとに慎重に使用してください。詳細については、次を参照してください。テーブルレプリカのアイデンティティを変更

DMS ソースとして PostgreSQL を使用する場合の追加の接続属性

追加の接続属性を使用して PostgreSQL ソースを設定できます。これらの設定は、ソースエンドポイントを作成するときに指定します。接続属性の設定が複数ある場合は、空白を追加せずにそれぞれをセミコロンで区切ります (例: oneSetting;thenAnother)。

次の表に、PostgreSQL を AWS DMS のソースとして使うときに使用できる追加の接続属性を示します。

属性名 説明

captureDDLs

DDL イベントをキャプチャするために、AWS DMS によって、タスクの開始時にさまざまなアーティファクトが PostgreSQL データベースに作成されます。PostgreSQL ソースデータベースからの AWS DMS アーティファクトの削除に記載されているように、これらのアーティファクトは後で削除できます。

この値が N に設定されている場合は、ソースデータベースにテーブルまたはトリガーを作成する必要はありません。

ストリーミングされた DDL イベントがキャプチャされます。

デフォルト値: Y

有効な値: 該当なし

例: captureDDLs=Y;

ddlArtifactsSchema

運用中の DDL データベース アーティファクトが作成されるスキーマを設定します。

デフォルト値: public

有効な値: 文字列

例: ddlArtifactsSchema=xyzddlschema;

failTasksOnLobTruncation

true に設定されている場合、LOB 列の実際のサイズが、指定された LobMaxSize を上回ると、この値によりタスクは失敗します。

タスクが制限付き LOB モードに設定され、このオプションが true に設定されている場合、LOB データを切り捨てるのではなくタスクが失敗します。

デフォルト値: false

有効な値: ブール値

例: failTasksOnLobTruncation=true;

executeTimeout

PostgreSQL インスタンスのクライアントステートメントタイムアウト (秒単位) を設定します。デフォルト値は 60 秒です。

例: executeTimeout=100;

pluginName

レプリケーション スロットの作成に使用するプラグインを指定します。

有効な値: pglogicaltest_decoding

例: pluginName=test_decoding;

slotName

PostgreSQL ソースインスタンスの CDC ロード用に以前に作成された論理レプリケーションスロットの名前を設定します。

AWS DMS API CdcStartPosition リクエストパラメータとともに使用すると、この属性によりネイティブ CDC 開始ポイントの使用も有効になります。DMS は、CDC ロードタスクを開始する前に、指定された論理レプリケーションスロットが存在することを確認します。また、タスクが有効な CdcStartPosition 設定を使用して作成されたことも確認します。指定されたスロットが存在しないか、タスクに有効な CdcStartPosition 設定がない場合、DMS によりエラーが発生します。

CdcStartPosition リクエストパラメータの設定の詳細については、「CDC ネイティブの開始ポイントの決定」をご参照ください。CdcStartPosition の使用方法の詳細については、AWS Database Migration ServiceAPI リファレンスCreateReplicationTaskStartReplicationTaskModifyReplicationTask での API オペレーションについてのドキュメントをご参照ください。

有効な値: 文字列

例: slotName=abc1d2efghijk_34567890_z0yx98w7_6v54_32ut_1srq_1a2b34c5d67ef;

heartbeatEnable

WAL ハートビート機能は、アイドル状態の論理レプリケーション スロットが古い WAL ログを保持し続けて、ソース上のストレージを一杯にすることがないように、ダミー トランザクションを模倣しています。このハートビートは restart_lsn を移動し続けるため、ストレージがいっぱいになるシナリオを回避できます。

デフォルト値: false

有効な値: true/false

例: heartbeatEnable=true;

heartbeatFrequency

WAL ハートビートの頻度を設定します (分)。

デフォルト値: 5

有効な値: 数値

例: heartbeatFrequency=1;

heartbeatSchema

ハートビート アーティファクトが作成されるスキーマを設定します。

デフォルト値: public

有効な値: 文字列

例: heartbeatSchema=xyzheartbeatschema

consumeMonotonicEvents

重複するログシーケンス番号 (LSN) を持つモノリシック・トランザクションのレプリケーション方法を制御するために使用します。このパラメータが false の場合、重複した LSN を持つイベントが消費され、ターゲット上でレプリケーションされます。このパラメータが true の場合、最初のイベントのみレプリケーションされ、重複する LSN を持つイベントはターゲット上で消費もレプリケーションもされません。

デフォルト値: false

有効な値: false/true

例: consumeMonotonicEvents=true;

mapUnboundedNumericAsString

このパラメータは、数値の精度を失うことなく正常に移行するために、境界なしの NUMERIC データ型の列を文字列として扱います。このパラメーターは、PostgreSQL ソースから PostgreSQL ターゲットへのレプリケーション、または PostgreSQL 互換のデータベースにのみ使用します。

デフォルト値: false

有効な値: false/true

例: mapUnboundedNumericAsString=true;

このパラメータを使用すると、数値から文字列への変換、および数値への変換により、レプリケーションのパフォーマンスが低下する可能性があります。このパラメータは、DMS バージョン 3.4.4 以降で使用するためにサポートされています

注記

PostgreSQL のソースとターゲット エンドポイントを一緒にのみ mapUnboundedNumericAsString を使用します。

ソース PostgreSQL エンドポイントで mapUnboundedNumericAsString を使用すると、CDC 中に精度が 28 に制限されます。ターゲット エンドポイントで mapUnboundedNumericAsString を使用すると、精度 28 スケール 6 でデータを移行します。

PostgreSQL 以外のターゲットとは mapUnboundedNumericAsString を使用しません。

の使用 MapBooleanAsBoolean PostgreSQL エンドポイントの設定

エンドポイントの設定を使用して、追加の接続属性の使用と同様に、PostgreSQL ソースを設定できます。これらの設定は、を使用してソースエンドポイントを作成するときに指定できます。create-endpointのコマンドAWS CLI、と--postgre-sql-settingsjson-設定オプション。ここで json-settings は設定を指定するパラメータを含む JSON オブジェクトです。同じ json-settings オブジェクトを含む.json ファイルを指定することもできます。例えば、次のようになります。

--postgre-sql-settings file:///your-file-path/my_postgresql_settings.json

ここ:my_postgre-sql_settings.json同じ json-settings オブジェクトを含む.json ファイルの名前です。

PostgreSQL エンドポイント設定を使用して、ブーリアンを PostgreSQL ソースから Amazon Redshift ターゲットにブール値としてマッピングできます。デフォルトでは、ブール型は varchar (5) として移行されます。を指定できますMapBooleanAsBoolean次の例に示すように、PostgreSQLにブール型をブール型として移行させます。

--postgre-sql-settings='{"MapBooleanAsBoolean": "true"}'

DMS のソースとして PostgreSQL データベースを使用する場合の制限

PostgreSQL を AWS DMS のソースとして使用する場合は、以下の制限が適用されます。

  • AWS DMS は、ソースまたはターゲットとしての Amazon RDS for PostgreSQL 10.4 または Amazon Aurora PostgreSQL 10.4 では動作しません。

  • キャプチャされたテーブルにはプライマリキーが必要です。テーブルにプライマリキーがない場合、AWS DMS はそのテーブルの DELETE および UPDATE レコードオペレーションを無視します。

  • AWS DMS は、プライマリキーセグメントの更新の試みを無視します。この場合、ターゲットは、その更新によってどの行も更新されないと識別します。ただし、PostgreSQL でのプライマリキーの更新結果は予測できないため、どのレコードも例外テーブルには書き込まれません。

  • AWS DMS では、[Start Process Changes from Timestamp] 実行オプションがサポートされていません。

  • 大文字と小文字の組み合わせが異なる同じ名前 (table1、TABLE1、Table1) を持つ複数のテーブルをレプリケートすると、予測できない動作が生じることがあります。この問題により、AWS DMS ではこのタイプのレプリケーションがサポートされていません。

  • 多くの場合、AWS DMS ではテーブルに対する CREATE、ALTER、DROP DDL ステートメントの変更処理がサポートされています。テーブルが内部関数またはプロシージャ本文ブロックに保持されているか、ネストしている他の構造に保持されている場合、AWS DMS ではこの変更処理がサポートされていません。

    たとえば、以下の変更はキャプチャされません。

    CREATE OR REPLACE FUNCTION attu.create_distributors1() RETURNS void LANGUAGE plpgsql AS $$ BEGIN create table attu.distributors1(did serial PRIMARY KEY,name varchar(40) NOT NULL); END; $$;
  • 現在のところ、PostgreSQL ソースの boolean データ型は、一貫性のない値を持つ bit データ型として SQLServer ターゲットに移行されます。回避策として、列の VARCHAR(1) データ型を使用してテーブルを事前に作成します (または、AWS DMS で自動的にテーブルを作成します)。次に、ダウンストリーム処理で「F」を False、「T」を True として扱います。

  • AWS DMS では、TRUNCATE オペレーションの変更処理はサポートされていません。

  • OID LOB データ型は、ターゲットに移行されません。

  • 使用するソースがオンプレミスあるいは Amazon EC2 インスタンス上の PostgreSQL データベースの場合、test_decoding 出力プラグインがソースのエンドポイントにインストールされていることを確認してください。このプラグインは、Postgres contrib パッケージにあります。test-decoding プラグインの詳細については、「PostgreSQL のドキュメント」をご参照ください。

  • AWS DMS では、列のデフォルト値を設定および設定解除するための変更処理はサポートされていません (ALTER TABLE ステートメントでの ALTER COLUMN SET DEFAULT 句の使用)。

  • AWS DMS では、列の null 機能を設定するための変更処理はサポートされていません (ALTER TABLE ステートメントでの ALTER COLUMN [SET|DROP] NOT NULL 句の使用)。

  • 論理レプリケーションが有効な場合、トランザクションあたりのメモリに保持される変更の最大数は 4 MB です。その後、変更がディスクにこぼれます。その結果、ReplicationSlotDiskUsageが増加し、トランザクションが完了または停止し、ロールバックが完了するまで restart_lsn は進みません。長いトランザクションであるため、ロールバックに時間がかかることがあります。従って、論理レプリケーションが有効になっている場合は、トランザクションの長期実行を避けてください。代わりに、トランザクションをいくつかの小さなトランザクションに分割します。

  • ARRAY データ型を持つテーブルにはプライマリ キーが必要です。ARRAY データ型にプライマリ キーがないテーブルは、全ロード中に中断されます。

  • AWS DMS では、パーティション分割されたテーブルのレプリケーションはサポートされていません。パーティション分割されたテーブルが検出された場合、以下の状況が発生します。

    • エンドポイントは、親テーブルと子テーブルのリストを報告します。

    • AWS DMS は、ターゲットのテーブルを、選択したテーブルと同じプロパティを持つ通常のテーブルとして作成します。

    • ソースデータベースの親テーブルに子テーブルと同じプライマリキー値がある場合、「重複するキー」エラーが生成されます。

  • パーティション分割されたテーブルを PostgreSQL ソースから PostgreSQL ターゲットにレプリケーションする場合、まずターゲットで親テーブルと子テーブルを手動で作成する必要があります。次に、それらのテーブルにレプリケーションする別個のタスクを定義します。その場合、タスク設定を [Truncate before loading] (読み取り前切り捨て) に設定します。

  • PostgreSQL NUMERIC データ型はサイズが固定されていません。NUMERIC データ型ですが、精度とスケールがないデータを転送する場合、DMS はデフォルトで NUMERIC(28,6) (精度が 28、スケールが 6) を使用します。たとえば、ソースからの値 0.611111104488373 は、PostgreSQL ターゲットの 0.611111 に変換されます。

  • CDC はソースとして Aurora PostgreSQL サーバーレスではサポートされていません。

  • AWS DMS は、coalesce 関数で作成された一意のインデックスを持つテーブルのレプリケーションをサポートしていません。

  • LOB モードを使用する場合、ソーステーブルと対応するターゲットテーブルの両方に同一のプライマリキーが必要です。いずれかのテーブルに主キーがない場合、DELETE および UPDATE レコード操作の結果は予測できません。

  • 並列ロード機能を使用する場合、パーティションまたはサブパーティションによるテーブルセグメンテーションはサポートされません。並列ロードの詳細については、以下を参照してください。選択したテーブルおよびビューさらにコレクションで並列ロードを使用する

  • AWS DMSでは、繰延制約はサポートされません。

  • AWS DMSバージョン 3.4.7 では PostgreSQL 14.0 をソースとしてサポートしていますが、次の制限があります。

    • AWS DMS二相コミットの変更処理はサポートしていません。

    • AWS DMS進行中の長いトランザクションをストリーミングする論理レプリケーションはサポートしていません。

PostgreSQL のソースデータ型

次の表に、AWS DMS を使用する場合にサポートされる PostgreSQL のソースデータ型と、AWS DMS のデータ型とのデフォルトマッピングを示します。

ターゲットにマッピングされるデータ型を表示する方法については、使用しているターゲットエンドポイントのセクションをご参照ください。

AWS DMS のデータ型の詳細については、「AWS Database Migration Service のデータ型」をご参照ください。

PostgreSQL のデータ型

DMS データ型

INTEGER

INT4

SMALLINT

INT2

BIGINT

INT8

NUMERIC (p,s)

精度が 0 ~ 38 の場合、NUMERIC を使用します。

精度が 39 以上の場合、STRING を使用します。

DECIMAL(P,S)

精度が 0 ~ 38 の場合、NUMERIC を使用します。

精度が 39 以上の場合、STRING を使用します。

REAL

REAL4

DOUBLE

REAL8

SMALLSERIAL

INT2

SERIAL

INT4

BIGSERIAL

INT8

MONEY

NUMERIC(38,4)

MONEY データ型は、SQL Server の FLOAT にマッピングされます。

CHAR

WSTRING (1)

CHAR(N)

WSTRING (n)

VARCHAR(N)

WSTRING (n)

TEXT

NCLOB

BYTEA

BLOB

TIMESTAMP

DATETIME

TIMESTAMP (z)

DATETIME

タイムスタンプ時間帯あり

DATETIME

DATE

DATE

TIME

TIME

TIME (z)

TIME

INTERVAL

STRING (128)—1 YEAR、2 MONTHS、3 DAYS、4 HOURS、5 MINUTES、6 SECONDS

BOOLEAN

CHAR (5) false または true

ENUM

STRING (64)

CIDR

STRING (50)

INET

STRING (50)

MACADDR

STRING (18)

BIT (n)

STRING (n)

BIT VARYING (n)

STRING (n)

UUID

STRING

TSVECTOR

CLOB

TSQUERY

CLOB

XML

CLOB

POINT

STRING (255) "(x,y)"

LINE

STRING (255) "(x,y,z)"

LSEG

STRING (255) "((x1,y1),(x2,y2))"

BOX

STRING (255) "((x1,y1),(x2,y2))"

PATH

CLOB "((x1,y1),(xn,yn))"

POLYGON

CLOB "((x1,y1),(xn,yn))"

CIRCLE

STRING (255) "(x,y),r"

JSON

NCLOB

JSONB

NCLOB

配列

NCLOB

COMPOSITE

NCLOB

HSTORE

NCLOB

INT4RANGE

STRING (255)

INT8RANGE

STRING (255)

NUMRANGE

STRING (255)

STRRANGE

STRING (255)

PostgreSQL 用の LOB ソースデータ型での作業

PostgreSQL の列サイズは、PostgreSQL LOB データ型の AWS DMS データ型への変換に影響します。これを使用するには、次の AWS DMS データ型で以下の手順を実行します。

  • BLOB - タスク作成で [Limit LOB size to] (LOB サイズ制限) 値を [Maximum LOB Size (KB)] (最大 LOB サイズ (KB)) に設定します。

  • CLOB - レプリケーションは各文字を UTF8 文字として処理します。次に、列で最長の文字テキストの長さ (ここでは、max_num_chars_text) を見つけます。この長さを使用して、[Limit LOB size to] (LOB サイズを以下に制限する) の値を指定します。データに 4 バイト文字が含まれている場合には、2 倍にして [Limit LOB size to (LOB サイズ制限)] 値をバイト単位で指定します。この場合、[Limit LOB size to] (LOB サイズ制限) は max_num_chars_text の 2 乗と等しくなります。

  • NCLOB - レプリケーションは各文字を 2 バイト文字として処理します。次に、列で最長の文字テキストの長さ (max_num_chars_text) を見つけ、2 倍します。これは、[Limit LOB size to] (LOB サイズを以下に制限する) の値の値を指定するために行います。この場合、[Limit LOB size to] (LOB サイズ制限) は max_num_chars_text の 2 乗と等しくなります。データに 4 バイト文字が含まれている場合は、再度 2 倍にします。この場合、[Limit LOB size to (LOB サイズ制限)] は max_num_chars_text の 4 乗と等しくなります。