Pembatasan layanan dan kuota untuk produk pembelajaran mesin di AWS Marketplace

Bagian ini menjelaskan batasan dan kuota pada produk pembelajaran mesin (ML) Anda di AWS Marketplace.

Isolasi jaringan

Untuk tujuan keamanan, saat pembeli berlangganan produk kontainer Anda, kontainer Docker dijalankan di lingkungan yang terisolasi tanpa akses jaringan. Saat Anda membuat wadah, jangan mengandalkan panggilan keluar melalui internet karena mereka akan gagal. Panggilan ke juga Layanan AWS akan gagal.

Ukuran gambar

Ukuran gambar Docker Anda diatur oleh kuota layanan Amazon Elastic Container Registry ECR (Amazon). Ukuran gambar Docker memengaruhi waktu startup selama pekerjaan pelatihan, pekerjaan transformasi batch, dan pembuatan titik akhir. Untuk kinerja yang lebih baik, pertahankan ukuran gambar Docker yang optimal.

Ukuran penyimpanan

Saat Anda membuat titik akhir, Amazon akan SageMaker melampirkan volume penyimpanan Amazon Elastic Block Store EBS (Amazon) ke setiap instance komputasi ML yang menghosting titik akhir. (Endpoint juga dikenal sebagai inferensi real-time atau layanan SageMaker hosting Amazon.) Ukuran volume penyimpanan tergantung pada jenis instans. Untuk informasi selengkapnya, lihat Volume Penyimpanan Instans Host di Panduan SageMaker Pengembang Amazon. 

Untuk transformasi batch, lihat Penyimpanan dalam Transformasi Batch di Panduan SageMaker Pengembang Amazon.

Ukuran instans

SageMaker menyediakan pilihan jenis instance yang dioptimalkan agar sesuai dengan kasus penggunaan ML yang berbeda. Jenis instans terdiri dari berbagai kombinasi, memori CPUGPU, dan kapasitas jaringan. Jenis instans memberi Anda fleksibilitas untuk memilih campuran sumber daya yang sesuai untuk membangun, melatih, dan menerapkan model ML Anda. Untuk informasi selengkapnya, lihat Jenis Instance Amazon SageMaker ML.

Ukuran muatan untuk inferensi

Untuk titik akhir, batasi ukuran maksimum data input per pemanggilan hingga 6 MB. Nilai ini tidak dapat disesuaikan.

Untuk transformasi batch, ukuran maksimum data input per pemanggilan adalah 100 MB. Nilai ini tidak dapat disesuaikan.

Waktu pemrosesan untuk inferensi

Untuk titik akhir, waktu pemrosesan maksimum per pemanggilan adalah 60 detik. Nilai ini tidak dapat disesuaikan.

Untuk transformasi batch, waktu pemrosesan maksimum per pemanggilan adalah 60 menit. Nilai ini tidak dapat disesuaikan.

Kuota layanan

Untuk informasi selengkapnya tentang kuota yang terkait dengan pelatihan dan inferensi, lihat Amazon Service SageMaker Quotas.

Inferensi asinkron

Paket model dan algoritme yang diterbitkan di tidak AWS Marketplace dapat diterapkan ke titik akhir yang dikonfigurasi untuk Inferensi Asinkron Amazon SageMaker. Titik akhir yang dikonfigurasi untuk inferensi asinkron membutuhkan model untuk memiliki konektivitas jaringan. Semua AWS Marketplace model beroperasi dalam isolasi jaringan. Untuk informasi selengkapnya, lihat Tidak ada akses jaringan.

Inferensi tanpa server

Paket model dan algoritme yang diterbitkan di tidak AWS Marketplace dapat diterapkan ke titik akhir yang dikonfigurasi untuk Inferensi Tanpa Server Amazon SageMaker. Titik akhir yang dikonfigurasi untuk inferensi tanpa server memerlukan model untuk memiliki konektivitas jaringan. Semua AWS Marketplace model beroperasi dalam isolasi jaringan. Untuk informasi selengkapnya, lihat Tidak ada akses jaringan.

Pelatihan spot yang dikelola

Untuk semua algoritma dari AWS Marketplace, nilai MaxWaitTimeInSeconds diatur ke 3.600 detik (60 menit), bahkan jika pos pemeriksaan untuk pelatihan spot terkelola diimplementasikan. Nilai ini tidak dapat disesuaikan.

Gambar Docker dan Akun AWS

Untuk penerbitan, gambar harus disimpan di ECR repositori Amazon yang dimiliki oleh Akun AWS penjual. Tidak mungkin mempublikasikan gambar yang disimpan dalam repositori yang dimiliki oleh orang lain. Akun AWS

Menerbitkan paket model dari algoritma bawaan atau AWS Marketplace

Paket model yang dibuat dari pekerjaan pelatihan menggunakan algoritme SageMaker bawaan Amazon atau algoritme dari AWS Marketplace langganan tidak dapat dipublikasikan.

Anda masih dapat menggunakan artefak model dari pekerjaan pelatihan, tetapi gambar inferensi Anda sendiri diperlukan untuk menerbitkan paket model.

Didukung Wilayah AWS untuk penerbitan

AWS Marketplace mendukung penerbitan paket model dan sumber daya algoritme dari Wilayah AWS mana yang berikut ini benar:

• Wilayah yang SageMakerdidukung Amazon

• Wilayah yang tersedia yang dipilih secara default (misalnya, deskripsikan wilayah kembali) "OptInStatus": "opt-in-not-required"

Semua aset yang diperlukan untuk menerbitkan paket model atau produk algoritme harus disimpan di Wilayah yang sama yang Anda pilih untuk diterbitkan. Ini termasuk yang berikut:

• Paket model dan sumber daya algoritme yang dibuat di Amazon SageMaker

• Inferensi dan gambar pelatihan yang diunggah ke repositori Amazon ECR

• Artefak model (jika ada) yang disimpan di Amazon Simple Storage Service (Amazon S3) dan dimuat secara dinamis selama penerapan model untuk sumber daya paket model

• Uji data untuk inferensi dan validasi pelatihan yang disimpan di Amazon S3

Anda dapat mengembangkan dan melatih produk Anda di Wilayah mana pun yang didukung oleh SageMaker. Namun, sebelum Anda dapat mempublikasikan, Anda harus menyalin semua aset ke dan membuat ulang sumber daya di Wilayah yang AWS Marketplace mendukung penerbitan dari.

Selama proses listing, terlepas dari Wilayah AWS mana Anda menerbitkan, Anda dapat memilih Wilayah yang ingin Anda publikasikan dan membuat produk Anda tersedia di.