Amazon SageMaker Profiler - Amazon SageMaker

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Amazon SageMaker Profiler

Amazon SageMaker Profiler saat ini dalam rilis pratinjau dan tersedia tanpa biaya di didukung Wilayah AWS. Versi Amazon SageMaker Profiler yang tersedia secara umum (jika ada) dapat mencakup fitur dan harga yang berbeda dari yang ditawarkan dalam pratinjau.

Amazon SageMaker Profiler adalah kemampuan Amazon SageMaker yang memberikan tampilan terperinci ke sumber daya AWS komputasi yang disediakan selama pelatihan model pembelajaran mendalam. SageMaker Ini berfokus pada pembuatan profil CPU dan GPU penggunaan, kernel berjalan, peluncuran kernelGPUs, operasi sinkronisasiCPUs, operasi memori di seluruh CPUs danGPUs, latensi antara peluncuran kernel dan proses yang sesuai, dan transfer data antara dan. CPUs GPUs SageMaker Profiler juga menawarkan antarmuka pengguna (UI) yang memvisualisasikan profil, ringkasan statistik peristiwa yang diprofilkan, dan garis waktu pekerjaan pelatihan untuk melacak dan memahami hubungan waktu peristiwa antara dan. GPUs CPUs

catatan

SageMaker Profiler mendukung PyTorch dan TensorFlow dan tersedia dalam AWS Deep Learning Containers untuk SageMaker. Untuk mempelajari selengkapnya, lihat Gambar kerangka kerja yang didukung Wilayah AWS,, dan jenis instance.

Untuk ilmuwan data

Melatih model pembelajaran mendalam pada cluster komputasi besar sering kali memiliki masalah optimasi komputasi, seperti kemacetan, latensi peluncuran kernel, batas memori, dan pemanfaatan sumber daya yang rendah.

Untuk mengidentifikasi masalah kinerja komputasi seperti itu, Anda perlu membuat profil lebih dalam ke sumber daya komputasi untuk memahami kernel mana yang memperkenalkan latensi dan operasi mana yang menyebabkan kemacetan. Ilmuwan data dapat mengambil manfaat dari menggunakan UI SageMaker Profiler untuk memvisualisasikan profil rinci pekerjaan pelatihan. UI menyediakan dasbor yang dilengkapi dengan bagan ringkasan dan antarmuka garis waktu untuk melacak setiap peristiwa pada sumber daya komputasi. Ilmuwan data juga dapat menambahkan anotasi khusus untuk melacak bagian tertentu dari pekerjaan pelatihan menggunakan modul SageMaker Profiler Python.

Untuk administrator

Melalui halaman landing Profiler di SageMaker konsol atau SageMaker domain, Anda dapat mengelola pengguna aplikasi Profiler jika Anda adalah administrator AWS akun atau SageMaker domain. Setiap pengguna domain dapat mengakses aplikasi Profiler mereka sendiri dengan izin yang diberikan. Sebagai administrator SageMaker domain dan pengguna domain, Anda dapat membuat dan menghapus aplikasi Profiler dengan tingkat izin yang Anda miliki.