Prasyarat untuk menggunakan SageMaker HyperPod

Bagian berikut memandu Anda melalui prasyarat sebelum memulai. SageMaker HyperPod

SageMaker HyperPod kuota

Anda dapat membuat SageMaker HyperPod cluster yang diberikan kuota untuk penggunaan cluster di akun Anda AWS .

penting

Untuk mempelajari lebih lanjut tentang SageMaker HyperPod harga, lihat SageMaker HyperPod harga dan SageMaker Harga Amazon.

Lihat SageMaker HyperPod kuota Amazon menggunakan konsol AWS manajemen

Cari nilai default dan terapan kuota, juga disebut sebagai batas, untuk penggunaan klaster, yang digunakan untuk SageMaker HyperPod.

1. Buka konsol Service Quotas.

2. Di panel navigasi kiri, pilih AWS layanan.

3. Dari daftar AWS layanan, cari dan pilih Amazon SageMaker.

4. Dalam daftar Kuota layanan, Anda dapat melihat nama kuota layanan, nilai yang diterapkan (jika tersedia), kuota AWS default, dan apakah nilai kuota dapat disesuaikan.

5. Di bilah pencarian, ketik penggunaan cluster. Ini menunjukkan kuota untuk penggunaan cluster, kuota yang diterapkan, dan kuota default.

Meminta SageMaker HyperPod kuota Amazon menggunakan Konsol AWS Manajemen

Tingkatkan kuota Anda di tingkat akun atau sumber daya.

1. Untuk menambah kuota instans untuk penggunaan klaster, pilih kuota yang ingin Anda tingkatkan.

2. Jika kuota dapat disesuaikan, Anda dapat meminta peningkatan kuota di tingkat akun atau tingkat sumber daya berdasarkan nilai yang tercantum di kolom Adjustability.

3. Untuk Meningkatkan nilai kuota, masukkan nilai baru. Nilai baru lebih besar dari nilai saat ini.

4. Pilih Permintaan.

5. Untuk melihat permintaan yang tertunda atau yang baru saja diselesaikan di konsol, buka tab Riwayat permintaan dari halaman detail layanan, atau pilih Dasbor dari panel navigasi. Untuk permintaan yang tertunda, pilih status permintaan untuk membuka penerimaan permintaan. Status awal dari permintaan adalah Tertunda. Setelah status berubah menjadi Kuota yang diminta, Anda melihat nomor kasus dengan AWS Support. Pilih nomor kasus untuk membuka tiket untuk permintaan Anda.

Untuk mempelajari lebih lanjut tentang meminta peningkatan kuota secara umum, lihat Meminta Peningkatan Kuota dalam Panduan Pengguna Service QuotasAWS .

Menyiapkan SageMaker HyperPod dengan Amazon VPC

Untuk menyiapkan SageMaker HyperPod cluster dengan Amazon AndaVPC, periksa item berikut.

catatan

Hal ini diperlukan untuk mengatur denganEKS, dan Anda harus menggunakan yang sama VPC untuk clutser. HyperPod Untuk mengatur dengan Slurm, menyiapkan sendiri adalah opsional. VPC

• Jika Anda ingin menggunakan milik Anda sendiri VPC untuk terhubung SageMaker HyperPod dengan AWS sumber daya di AndaVPC, Anda harus memberikan VPC nama, ID, Wilayah AWS, ID subnet, dan ID grup keamanan saat Anda membuat SageMaker HyperPod. Jika Anda ingin membuat yang baruVPC, lihat Membuat default VPC atau Membuat VPC di Panduan Pengguna Amazon Virtual Private Cloud.

• Penting bahwa Anda harus membuat semua sumber daya Anda di Zona Ketersediaan yang sama Wilayah AWS , dan mengonfigurasi aturan grup keamanan untuk memungkinkan koneksi antara sumber daya di AndaVPC. Misalnya, asumsikan bahwa Anda membuat VPC inus-west-2. Anda harus membuat subnet VPC di Availability Zone inius-west-2a, dan membuat grup keamanan yang memungkinkan semua lalu lintas masuk (masuk) dari dalam grup keamanan dan semua lalu lintas keluar.

• Anda juga perlu memastikan bahwa Anda VPC memiliki koneksi ke Amazon Simple Storage Service (Amazon S3). Jika Anda mengonfigurasiVPC, grup SageMaker HyperPod instans tidak memiliki akses ke internet, dan karenanya tidak dapat terhubung ke Amazon S3 untuk mengakses atau menyimpan file seperti skrip siklus hidup, data pelatihan, dan artefak model. Untuk membuat koneksi dengan Amazon S3 saat menggunakanVPC, Anda harus membuat titik akhir. VPC Dengan membuat VPC titik akhir, Anda dapat mengizinkan grup SageMaker HyperPod instans mengakses bucket Amazon S3 dalam hal yang sama. VPC Kami menyarankan Anda juga membuat kebijakan khusus yang hanya mengizinkan permintaan dari pribadi Anda VPC untuk mengakses bucket Amazon S3 Anda. Untuk informasi selengkapnya, lihat Titik Akhir untuk Amazon S3 di AWS PrivateLink Panduan.

• Jika Anda ingin membuat HyperPod klaster dengan instans EFA yang diaktifkan, pastikan Anda menyiapkan grup keamanan untuk mengizinkan semua lalu lintas masuk dan keluar ke dan dari grup keamanan itu sendiri. Untuk mempelajari selengkapnya, lihat Langkah 1: EFA Menyiapkan grup keamanan yang diaktifkan di Panduan EC2 Pengguna Amazon.

Menyiapkan AWS Systems Manager dan Menjalankan Sebagai untuk kontrol akses pengguna cluster

SageMaker HyperPod DLAMIdilengkapi dengan AWS Systems Manager(SSM) di luar kotak untuk membantu Anda mengelola akses ke grup instance SageMaker HyperPod cluster Anda. Bagian ini menjelaskan cara membuat pengguna sistem operasi (OS) di SageMaker HyperPod cluster Anda dan mengaitkannya dengan IAM pengguna dan peran. Ini berguna untuk mengautentikasi SSM sesi menggunakan kredensil akun pengguna OS.

Mengaktifkan Run As di akun Anda AWS

Sebagai admin AWS akun atau administrator cloud, Anda dapat mengelola akses ke SageMaker HyperPod kluster di tingkat IAM peran atau pengguna dengan menggunakan fitur Jalankan Sebagai di SSM. Dengan fitur ini, Anda dapat memulai setiap SSM sesi menggunakan pengguna OS yang terkait dengan IAM peran atau pengguna.

Untuk mengaktifkan Run As di AWS akun Anda, ikuti langkah-langkah di Turn on Run As support for Linux dan macOS managed node. Jika Anda sudah membuat pengguna OS di klaster Anda, pastikan Anda mengaitkannya dengan IAM peran atau pengguna dengan menandai mereka sebagai dipandu di Opsi 2 dari langkah 5 di bawah Untuk mengaktifkan dukungan Run As untuk Linux dan node yang dikelola macOS.

(Opsional) Menyiapkan SageMaker HyperPod dengan Amazon FSx untuk Lustre

Untuk mulai menggunakan SageMaker HyperPod dan memetakan jalur data antara cluster dan sistem Lustre fille AndaFSx, pilih salah satu yang didukung oleh. Wilayah AWS SageMaker HyperPod Setelah memilih yang Wilayah AWS Anda inginkan, Anda juga harus menentukan Availability Zone (AZ) mana yang akan digunakan. Jika Anda menggunakan node SageMaker HyperPod komputasi AZs berbeda dari AZs tempat sistem FSx for Lustre fille Anda diatur dalam hal yang sama Wilayah AWS, mungkin ada komunikasi dan overhead jaringan. Kami menyarankan Anda untuk menggunakan AZ fisik yang sama dengan AZ untuk akun SageMaker HyperPod layanan untuk menghindari lalu lintas lintas lintas AZ antara SageMaker HyperPod kluster dan sistem lustre FSx file Anda. Juga, pastikan bahwa Anda telah mengkonfigurasinya dengan AndaVPC. Jika Anda ingin menggunakan Amazon FSx sebagai sistem file utama untuk penyimpanan, Anda harus mengonfigurasi SageMaker HyperPod cluster denganVPC.