Pergeseran Lalu Lintas Sekaligus

Dengan pergeseran lalu lintas sekaligus, Anda dapat dengan cepat meluncurkan pembaruan titik akhir menggunakan pagar pengaman dari penerapan biru/hijau. Anda dapat menggunakan opsi perpindahan lalu lintas ini untuk meminimalkan durasi pembaruan sambil tetap memanfaatkan jaminan ketersediaan penerapan biru/hijau. Fitur baking period membantu Anda memantau kinerja dan fungsionalitas instans baru Anda sebelum menghentikan instans lama Anda, memastikan bahwa armada baru Anda beroperasi penuh.

Diagram berikut menunjukkan bagaimana sekaligus pergeseran lalu lintas mengelola armada lama dan baru.

Saat Anda menggunakan perpindahan lalu lintas sekaligus, SageMaker rute 100% lalu lintas ke armada baru (armada hijau). Setelah armada hijau mulai menerima lalu lintas, periode pemanggangan dimulai. Periode memanggang adalah jumlah waktu yang ditentukan di mana CloudWatch alarm Amazon yang telah ditentukan sebelumnya memantau kinerja armada hijau. Jika tidak ada alarm yang tersandung selama periode pemanggangan, SageMaker hentikan armada lama (armada biru). Jika ada alarm yang tersandung selama periode pemanggangan, maka rollback otomatis dimulai dan 100% lalu lintas bergeser kembali ke armada biru.

Prasyarat

Sebelum menyiapkan penerapan dengan perpindahan lalu lintas sekaligus, Anda harus membuat CloudWatch alarm Amazon untuk menonton metrik dari titik akhir Anda. Jika ada alarm yang tersandung selama periode memanggang, lalu lintas kembali ke armada biru Anda. Untuk mempelajari cara mengatur CloudWatch alarm pada titik akhir, lihat halaman prasyarat. Konfigurasi dan Pemantauan Auto-Rollback Untuk mempelajari lebih lanjut tentang CloudWatch alarm, lihat Menggunakan CloudWatch alarm Amazon di CloudWatch Panduan Pengguna Amazon.

Konfigurasikan Semua Sekaligus Pergeseran Lalu Lintas

Setelah Anda siap untuk penerapan dan telah menyiapkan CloudWatch alarm untuk titik akhir Anda, Anda dapat menggunakan SageMaker UpdateEndpointAPI atau perintah update-endpoint di untuk memulai penerapan. AWS Command Line Interface

Cara memperbarui titik akhir (API)

Contoh berikut menunjukkan bagaimana Anda dapat memperbarui titik akhir Anda dengan pergeseran lalu lintas sekaligus menggunakan UpdateEndpointdi Amazon SageMaker API.

import boto3
client = boto3.client("sagemaker")

response = client.update_endpoint(
    EndpointName="<your-endpoint-name>",
    EndpointConfigName="<your-config-name>",
    DeploymentConfig={
        "BlueGreenUpdatePolicy": {
            "TrafficRoutingConfiguration": {
                "Type": "ALL_AT_ONCE"
            },
            "TerminationWaitInSeconds": 600,
            "MaximumExecutionTimeoutInSeconds": 1800
        },
        "AutoRollbackConfiguration": {
            "Alarms": [
                {
                    "AlarmName": "<your-cw-alarm>"
                },
            ]
        }
    }
)

Untuk mengonfigurasi opsi pemindahan lalu lintas sekaligus, lakukan hal berikut:

• UntukEndpointName, gunakan nama titik akhir yang ada yang ingin Anda perbarui.

• UntukEndpointConfigName, gunakan nama konfigurasi titik akhir yang ingin Anda gunakan.

• Di bawah DeploymentConfig dan BlueGreenUpdatePolicyTrafficRoutingConfiguration, di, atur Type parameter keALL_AT_ONCE. Ini menentukan bahwa penyebaran menggunakan mode perpindahan lalu lintas sekaligus.

• UntukTerminationWaitInSeconds, gunakan600. Parameter ini memberitahu SageMaker untuk menunggu jumlah waktu yang ditentukan (dalam detik) setelah armada hijau Anda sepenuhnya aktif sebelum menghentikan instance di armada biru. Dalam contoh ini, SageMaker tunggu selama 10 menit setelah periode pemanggangan terakhir sebelum mengakhiri armada biru.

• UntukMaximumExecutionTimeoutInSeconds, gunakan1800. Parameter ini menetapkan jumlah waktu maksimum yang dapat dijalankan penerapan sebelum waktu habis. Pada contoh sebelumnya, penerapan Anda memiliki batas 30 menit untuk diselesaikan.

• DiAutoRollbackConfiguration, di dalam Alarms bidang, Anda dapat menambahkan CloudWatch alarm berdasarkan nama. Buat satu AlarmName: <your-cw-alarm> entri untuk setiap alarm yang ingin Anda gunakan.

Cara memperbarui titik akhir dengan kebijakan pembaruan biru/hijau (API) yang ada

Saat Anda menggunakan CreateEndpointAPI untuk membuat titik akhir, Anda dapat secara opsional menentukan konfigurasi penerapan yang akan digunakan kembali untuk pembaruan titik akhir di masa mendatang. Anda dapat menggunakan DeploymentConfig opsi yang sama seperti contoh UpdateEndpoint API sebelumnya. Tidak ada perubahan pada perilaku CreateEndpoint API. Menentukan konfigurasi penerapan tidak secara otomatis melakukan pembaruan biru/hijau di titik akhir Anda.

Opsi untuk menggunakan konfigurasi penerapan sebelumnya terjadi saat menggunakan UpdateEndpointAPI untuk memperbarui titik akhir Anda. Saat memperbarui titik akhir, Anda dapat menggunakan RetainDeploymentConfig opsi untuk menjaga konfigurasi penerapan yang Anda tentukan saat membuat titik akhir.

Saat memanggil UpdateEndpointAPI, atur RetainDeploymentConfig True untuk menjaga DeploymentConfig opsi dari konfigurasi titik akhir asli Anda.

response = client.update_endpoint(
    EndpointName="<your-endpoint-name>",
    EndpointConfigName="<your-config-name>",
    RetainDeploymentConfig=True
)

Cara memperbarui titik akhir (CLI)

Jika Anda menggunakan AWS CLI, contoh berikut menunjukkan cara memulai penerapan biru/hijau sekaligus menggunakan perintah update-endpoint.

update-endpoint
--endpoint-name <your-endpoint-name> 
--endpoint-config-name <your-config-name> 
--deployment-config '"BlueGreenUpdatePolicy": {"TrafficRoutingConfiguration": {"Type": "ALL_AT_ONCE"},
    "TerminationWaitInSeconds": 600, "MaximumExecutionTimeoutInSeconds": 1800},
    "AutoRollbackConfiguration": {"Alarms": [{"AlarmName": "<your-alarm>"}]}'

Untuk mengonfigurasi opsi pemindahan lalu lintas sekaligus, lakukan hal berikut:

• Untukendpoint-name, gunakan nama titik akhir yang ingin Anda perbarui.

• Untukendpoint-config-name, gunakan nama konfigurasi titik akhir yang ingin Anda gunakan.

• Untukdeployment-config, gunakan objek BlueGreenUpdatePolicyJSON.

catatan

Jika Anda lebih suka menyimpan objek JSON Anda dalam sebuah file, lihat Menghasilkan AWS CLI kerangka dan parameter input di AWS CLI Panduan Pengguna.