Praktik terbaik

Bagian ini memberikan ikhtisar praktik AWS terbaik untuk MLOps.

Manajemen dan pemisahan akun

AWS Praktik terbaik untuk manajemen akun merekomendasikan agar Anda membagi akun Anda menjadi empat akun untuk setiap kasus penggunaan: eksperimen, pengembangan, pengujian, dan prod. Ini juga merupakan praktik terbaik untuk memiliki akun tata kelola untuk menyediakan MLOps sumber daya bersama di seluruh organisasi dan akun data lake untuk menyediakan akses data terpusat. Alasan untuk ini adalah untuk sepenuhnya memisahkan lingkungan pengembangan, pengujian, dan produksi, menghindari penundaan yang disebabkan oleh batas layanan yang terkena beberapa kasus penggunaan dan tim ilmu data berbagi kumpulan akun yang sama, dan memberikan gambaran lengkap tentang biaya untuk setiap kasus penggunaan. Terakhir, ini adalah praktik terbaik untuk memisahkan data tingkat akun, karena setiap kasus penggunaan memiliki kumpulan akunnya sendiri.

Standar keamanan

Untuk memenuhi persyaratan keamanan, ini adalah praktik terbaik untuk mematikan akses internet publik dan mengenkripsi semua data dengan kunci khusus. Kemudian, Anda dapat menerapkan instance aman Amazon SageMaker AI Studio ke akun pengembangan dalam hitungan menit dengan menggunakan Service Catalog. Anda juga bisa mendapatkan kemampuan audit dan pemantauan model untuk setiap kasus penggunaan dengan menggunakan SageMaker AI melalui templat yang digunakan dengan Proyek SageMaker AI.

Gunakan kemampuan kasus

Setelah penyiapan akun selesai, ilmuwan data organisasi Anda dapat meminta templat kasus penggunaan baru dengan menggunakan Proyek SageMaker AI di SageMaker AI Studio. Proses ini menyebarkan infrastruktur yang diperlukan untuk memiliki MLOps kemampuan dalam akun pengembangan (dengan dukungan minimal yang diperlukan dari tim pusat), seperti CI/CD jaringan pipa, pengujian unit, pengujian model, dan pemantauan model.

Setiap kasus penggunaan kemudian dikembangkan (atau difaktorkan ulang dalam kasus basis kode aplikasi yang ada) untuk dijalankan dalam arsitektur SageMaker AI dengan menggunakan kemampuan SageMaker AI seperti pelacakan eksperimen, penjelasan model, deteksi bias, dan pemantauan kualitas. data/model Anda dapat menambahkan kemampuan ini ke setiap pipeline kasus penggunaan dengan menggunakan langkah-langkah pipeline di SageMaker AI Pipelines.

MLOps perjalanan kedewasaan

Perjalanan MLOps kedewasaan mendefinisikan MLOps kemampuan yang diperlukan yang tersedia dalam pengaturan di seluruh perusahaan untuk memastikan bahwa alur kerja end-to-end model sudah ada. Perjalanan kedewasaan terdiri dari empat tahap:

1. Awal — Pada tahap ini, Anda membuat akun eksperimen. Anda juga mengamankan AWS akun baru dalam organisasi tempat Anda dapat bereksperimen dengan SageMaker Studio dan AWS layanan baru lainnya.

2. Repeatable — Pada tahap ini, Anda menstandarisasi repositori kode dan pengembangan solusi ML. Anda juga mengadopsi pendekatan implementasi multi-akun, dan menstandarisasi repositori kode Anda untuk mendukung tata kelola model dan audit model saat Anda meningkatkan penawaran. Merupakan praktik terbaik untuk mengadopsi pendekatan pengembangan model siap produksi dengan solusi standar yang disediakan oleh akun tata kelola. Data disimpan dalam akun data lake dan kasus penggunaan dikembangkan dalam dua akun. Akun pertama adalah untuk eksperimen selama periode eksplorasi ilmu data. Dalam akun ini, ilmuwan data menemukan model untuk memecahkan masalah bisnis dan bereksperimen dengan berbagai kemungkinan. Akun lainnya adalah untuk pengembangan, yang terjadi setelah model terbaik diidentifikasi dan tim ilmu data siap untuk bekerja di jalur inferensi.

3. Andal — Pada tahap ini, Anda memperkenalkan pengujian, penyebaran, dan penyebaran multi-akun. Anda harus memahami MLOps persyaratan dan memperkenalkan pengujian otomatis. Menerapkan praktik MLOps terbaik untuk memastikan model kuat dan aman. Selama fase ini, perkenalkan dua akun kasus penggunaan baru: akun pengujian untuk model pengujian yang dikembangkan di lingkungan yang mengemulasi lingkungan produksi dan akun produksi untuk menjalankan inferensi model selama operasi bisnis. Terakhir, gunakan pengujian, penerapan, dan pemantauan model otomatis dalam pengaturan multi-akun untuk memastikan bahwa model Anda memenuhi standar kualitas dan kinerja tinggi yang Anda tetapkan.

4. Scalable - Pada tahap ini, Anda membuat template dan memproduksi beberapa solusi ML. Beberapa tim dan kasus penggunaan ML mulai diadopsi MLOps selama proses pembuatan end-to-end model. Untuk mencapai skalabilitas pada tahap ini, Anda juga meningkatkan jumlah templat di pustaka templat Anda melalui kontribusi dari basis ilmuwan data yang lebih luas, mengurangi waktu untuk menilai dari ide ke model produksi untuk lebih banyak tim di seluruh organisasi, dan mengulang saat Anda menskalakan.

Untuk informasi lebih lanjut tentang model MLOps kematangan, lihat peta jalan MLOps dasar untuk perusahaan dengan Amazon SageMaker AI di Blog AWS Machine Learning.