Memantau titik akhir tanpa server

Untuk memantau titik akhir tanpa server, Anda dapat menggunakan alarm Amazon. CloudWatch CloudWatch adalah layanan yang mengumpulkan metrik secara real time dari AWS aplikasi dan sumber daya Anda. Alarm mengawasi metrik saat dikumpulkan dan memberi Anda kemampuan untuk menentukan ambang batas dan tindakan yang harus diambil jika ambang batas tersebut dilanggar. Misalnya, CloudWatch alarm Anda dapat mengirimi Anda pemberitahuan jika titik akhir Anda melanggar ambang kesalahan. Dengan mengatur CloudWatch alarm, Anda mendapatkan visibilitas ke kinerja dan fungsionalitas titik akhir Anda. Untuk informasi selengkapnya tentang CloudWatch alarm, lihat Menggunakan CloudWatch alarm Amazon di CloudWatch Panduan Pengguna Amazon.

Pemantauan CloudWatch dengan

Metrik di bawah ini adalah daftar lengkap metrik untuk titik akhir tanpa server. Metrik apa pun yang tidak tercantum di bawah ini tidak dipublikasikan untuk titik akhir tanpa server. Untuk informasi tentang metrik berikut, lihat Memantau Amazon SageMaker dengan Amazon CloudWatch.

Metrik titik akhir umum

CloudWatch Metrik ini sama dengan metrik yang diterbitkan untuk titik akhir waktu nyata.

OverheadLatencyMetrik melacak semua latensi tambahan yang SageMaker ditambahkan yang mencakup waktu mulai dingin untuk meluncurkan sumber daya komputasi baru untuk titik akhir tanpa server Anda. Dibandingkan dengan titik akhir tanpa server sesuai permintaan, titik akhir tanpa server dengan OverheadLatency konkurensi penyediaan umumnya jauh lebih sedikit.

Endpoint tanpa server juga dapat menggunakanInvocations4XXErrors,,, Invocations5XXErrors InvocationsModelLatency, ModelSetupTime dan metrik. MemoryUtilization Untuk mempelajari lebih lanjut tentang metrik ini, lihatSageMaker Metrik Pemanggilan Titik Akhir.

Metrik titik akhir tanpa server yang umum

CloudWatch Metrik ini diterbitkan untuk titik akhir tanpa server sesuai permintaan dan titik akhir tanpa server dengan Provisioned Concurrency.

Nama Metrik	Deskripsi	Unit/Statistik
ServerlessConcurrentExecutionsUtilization	Jumlah eksekusi bersamaan dibagi dengan konkurensi maksimum.	Satuan: Tidak ada Statistik yang valid: Rata-rata, Maks, Min

Titik akhir tanpa server dengan metrik Konkurensi yang Disediakan

CloudWatch Metrik ini diterbitkan untuk titik akhir tanpa server dengan Provisioned Concurrency.

Nama Metrik	Deskripsi	Unit/Statistik
ServerlessProvisionedConcurrencyExecutions	Jumlah eksekusi bersamaan yang ditangani oleh titik akhir.	Unit: Hitungan Statistik yang valid: Rata-rata, Maks, Min
ServerlessProvisionedConcurrencyUtilization	Jumlah eksekusi bersamaan dibagi dengan Provisioned Concurrency yang dialokasikan.	Satuan: Tidak ada Statistik yang valid: Rata-rata, Maks, Min
ServerlessProvisionedConcurrencyInvocations	Jumlah InvokeEndpoint permintaan yang ditangani oleh Provisioned Concurrency.	Unit: Hitungan Statistik yang valid: Rata-rata, Maks, Min
ServerlessProvisionedConcurrencySpilloverInvocations	Jumlah InvokeEndpoint permintaan yang tidak ditangani oleh Provisioned Concurrency, yang ditangani oleh Inferensi Tanpa Server sesuai permintaan.	Unit: Hitungan Statistik yang valid: Rata-rata, Maks, Min

Log

Jika Anda ingin memantau log dari titik akhir untuk proses debug atau analisis kemajuan, Anda dapat menggunakan Amazon CloudWatch Logs. Grup log SageMaker -provided yang dapat Anda gunakan untuk titik akhir tanpa server adalah. /aws/sagemaker/Endpoints/[EndpointName] Untuk informasi selengkapnya tentang menggunakan CloudWatch Logs in SageMaker, lihatLog SageMaker Acara Amazon dengan Amazon CloudWatch. Untuk mempelajari lebih lanjut tentang CloudWatch Log, lihat Apa itu CloudWatch Log Amazon? di Panduan Pengguna CloudWatch Log Amazon.