Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
7. Deployment kontinu
Agar sistem ML-terus digunakan, sistem ini harus dapat mengalihkan lalu lintas dari atau antar model langsung. Sistem yang digunakan secara terus menerus memiliki setidaknya satu cara untuk mempromosikan model ke produksi: kenari, bayangan, biru/hijau, atau A/B.Konfirmasikan bahwa dalam sistem ML, Anda memiliki setidaknya satu cara untuk memutar kembali model.
7.1 Model beralih |
Sistem ini dapat beralih di antara model berversi dalam pementasan dan produksi. Ini dapat mengalihkan lalu lintas sekaligus atau secara bertahap ke varian produksi baru. |
7.2 Proses promosi model |
Proses validasi bertahap dilakukan untuk promosi model. Proses ini menggunakan pengujian offline yang tidak memengaruhi sistem produksi, seperti berjalan terhadap data validasi di lingkungan pementasan. Runbook dan metrik untuk promosi model ditetapkan. Promosi mengikuti salah satu strategi peluncuran. |
7.3 Strategi rollback |
Strategi rollback ada sehingga ketika terjadi kesalahan atau model menyimpang dari perilaku yang diharapkan, rollback, fallback, atau roll through terjadi. Dalam rollback, model kembali ke versi penyebaran sebelumnya. Dalam fallback, model diganti dengan heuristik yang kuat. Roll through akan mempromosikan model berikutnya ke produksi, bergulir melalui model sebelumnya. Runbook berada di tempat untuk semua strategi ini. |
7.4 Penyebaran Canary |
Sistem dapat menyebarkan dengan menggunakan kenari. Sebagian kecil lalu lintas dikirim ke model baru pada awalnya. Seiring waktu, semua lalu lintas bergeser ke model baru. Pergeseran ini dipantau secara ketat karena pengujian terjadi di lingkungan produksi. |
7.5 Penyebaran bayangan model |
Sistem dapat menjalankan penyebaran bayangan di mana model baru bekerja bersama model yang ada. Kedua model menerima lalu lintas, tetapi hanya model sebelumnya output inferensi. Penilaian dijalankan pada model baru dibandingkan dengan model yang ada, dan kemudian model baru dipromosikan secara manual. |
7.6 Penerapan biru/hijau |
Sistem dapat menyebarkan dengan model baru (hijau, yang pementasan) dan model sebelumnya (biru, yang merupakan produksi), dengan keduanya berjalan pada saat yang sama. Setelah pengujian selesai, lalu lintas dialihkan dari lingkungan biru ke lingkungan hijau. Strategi ini mencegah downtime karena lingkungan yang identik berdiri. |
7.7 Dukungan untuk pengujian A/B atau lebih |
Sistem ini mendukung penggunaan versi model di lingkungan yang digunakan untuk menjalankan pengujian A/B pada lalu lintas masuk. Ini dapat mencakup kemampuan untuk mempromosikan secara otomatis berdasarkan model yang lebih baru menang dalam tes. Pengaturan yang lebih maju akan menggunakanbandit multi-bersenjata |