Lengkapi prasyarat untuk model pondasi di Canvas SageMaker

Bagian berikut menguraikan prasyarat untuk berinteraksi dengan model dasar dan menggunakan fitur kueri dokumen di Canvas. Sisa konten di halaman ini mengasumsikan bahwa Anda telah memenuhi prasyarat untuk model pondasi. Fitur kueri dokumen memerlukan izin tambahan.

Prasyarat untuk model pondasi

Izin yang Anda perlukan untuk berinteraksi dengan model disertakan dalam izin Ready-to-use model Canvas. Untuk menggunakan model generatif yang didukung AI di Canvas, Anda harus mengaktifkan izin konfigurasi Ready-to-use model Canvas saat menyiapkan domain Amazon SageMaker AI Anda. Untuk informasi selengkapnya, lihat Prasyarat untuk menyiapkan Amazon Canvas SageMaker . Konfigurasi Ready-to-use model Canvas melampirkan kebijakan AmazonSageMakerCanvasAIServicesAccess ke peran eksekusi pengguna Canvas AWS Identity and Access Management (IAM) Anda. Jika Anda mengalami masalah dengan pemberian izin, lihat topiknya. Memecahkan masalah dengan pemberian izin melalui konsol AI SageMaker

Jika sudah menyiapkan domain, Anda dapat mengedit pengaturan domain dan mengaktifkan izin. Untuk petunjuk tentang cara mengedit pengaturan domain, lihatEdit pengaturan domain. Saat mengedit pengaturan untuk domain Anda, buka pengaturan Canvas dan nyalakan opsi Aktifkan Ready-to-use model Canvas.

Model JumpStart foundation tertentu juga mengharuskan Anda meminta peningkatan kuota instans SageMaker AI. Canvas menghosting model yang saat ini berinteraksi dengan Anda pada instans ini, tetapi kuota default untuk akun Anda mungkin tidak mencukupi. Jika Anda mengalami kesalahan saat menjalankan salah satu model berikut, minta peningkatan kuota untuk jenis instance terkait:

• Falcon-40B —, ml.g5.12xlarge ml.g5.24xlarge

• Falcon-13B —,, ml.g5.2xlarge ml.g5.4xlarge ml.g5.8xlarge

• MPT-7B-Instruksikan -,, ml.g5.2xlarge ml.g5.4xlarge ml.g5.8xlarge

Untuk jenis instans sebelumnya, minta peningkatan dari 0 menjadi 1 untuk kuota penggunaan titik akhir. Untuk informasi selengkapnya tentang kuota, lihat dan Meminta peningkatan kuota dalam Panduan Pengguna Service Quotas.

Prasyarat untuk kueri dokumen

catatan

Kueri dokumen didukung sebagai berikut Wilayah AWS: US East (N. Virginia), US East (Ohio), US West (Oregon), Europe (Oregon), Europe (Ireland), Asia Pacific (Singapore), Asia Pacific (Sydney), Asia Pacific (Tokyo), dan Asia Pacific (Mumbai).

Fitur kueri dokumen mengharuskan Anda sudah memiliki indeks Amazon Kendra yang menyimpan dokumen dan metadata dokumen Anda. Untuk informasi selengkapnya tentang topik Amazon SNS, lihat Panduan Developer Amazon SNS. Untuk mempelajari lebih lanjut tentang kuota untuk mengkueri indeks, lihat Kuota di Panduan Pengembang Amazon Kendra.

Anda juga harus memastikan bahwa profil pengguna Canvas Anda memiliki izin yang diperlukan untuk kueri dokumen. AmazonSageMakerCanvasFullAccessKebijakan harus dilampirkan ke peran eksekusi AWS IAM untuk domain SageMaker AI yang menghosting aplikasi Canvas Anda (kebijakan ini dilampirkan secara default ke semua profil pengguna Canvas baru dan yang sudah ada). Anda juga harus secara khusus memberikan izin kueri dokumen dan menentukan akses ke satu atau beberapa indeks Amazon Kendra.

Jika administrator Canvas Anda menyiapkan domain atau profil pengguna baru, minta mereka menyiapkan domain dengan mengikuti petunjuk diPrasyarat untuk menyiapkan Amazon Canvas SageMaker . Saat menyiapkan domain, mereka dapat mengaktifkan izin kueri dokumen melalui konfigurasi Ready-to-usemodel Canvas.

Administrator Canvas dapat mengelola izin kueri dokumen di tingkat profil pengguna juga. Misalnya, jika administrator ingin memberikan izin kueri dokumen ke beberapa profil pengguna tetapi menghapus izin untuk orang lain, mereka dapat mengedit izin untuk pengguna tertentu.

Prosedur berikut menunjukkan cara mengaktifkan izin kueri dokumen untuk profil pengguna tertentu:

1. Buka konsol SageMaker di https://console.aws.amazon.com/sagemaker/.

2. Di panel navigasi, pilih Konfigurasi lisensi.

3. Di bawah konfigurasi Admin, pilih domain.

4. Dari daftar domain, pilih domain profil pengguna.

5. Pada halaman detail domain, pilih profil Pengguna yang izinnya ingin Anda edit.

6. Pada tab Detail, pilih Edit.

7. Pada panel navigasi kiri, pilih Pengaturan.

8. Di bagian konfigurasi Ready-to-use model Canvas, aktifkan tombol Aktifkan kueri dokumen menggunakan Amazon Kendra.

9. Di menu tarik-turun, pilih satu atau lebih indeks Amazon Kendra yang ingin Anda berikan akses.

10. Pilih Kirim untuk menyimpan perubahan pada pengaturan domain Anda.

Anda sekarang harus dapat menggunakan model dasar Canvas untuk menanyakan dokumen dalam indeks Amazon Kendra yang ditentukan.