Mengelola Throughput yang Disediakan - Amazon Bedrock

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Mengelola Throughput yang Disediakan

Setelah membeli Throughput yang Disediakan, Anda dapat melihat detailnya, memperbaruinya, atau menghapusnya.

Melihat informasi tentang Throughput yang Disediakan

Untuk mempelajari cara melihat informasi tentang Throughput yang telah Anda beli, pilih tab yang sesuai dengan metode pilihan Anda dan ikuti langkah-langkahnya.

Console
Untuk melihat informasi tentang Throughput yang Disediakan
  1. Masuk ke AWS Management Console, dan buka konsol Amazon Bedrock di https://console.aws.amazon.com/bedrock/.

  2. Pilih Throughput yang Disediakan di bawah Penilaian dan penerapan dari panel navigasi kiri.

  3. Dari bagian Provisioned Throughput, pilih Provisioned Throughput.

  4. Lihat detail untuk Throughput yang Disediakan di bagian ikhtisar Throughput yang Disediakan dan tag yang terkait dengan Throughput yang Disediakan di bagian Tag.

API

Untuk mengambil informasi tentang Throughput yang Disediakan tertentu, kirim GetProvisionedModelThroughputpermintaan (lihat tautan untuk format permintaan dan respons serta detail bidang) dengan titik akhir bidang kontrol Amazon Bedrock. Tentukan nama Provisioned Throughput atau ARN sebagai. provisionedModelId

Untuk mencantumkan informasi tentang semua Throughput yang Disediakan di akun, kirim ListProvisionedModelThroughputspermintaan (lihat tautan untuk format permintaan dan respons serta detail bidang) dengan titik akhir bidang kontrol Amazon Bedrock. Untuk mengontrol jumlah hasil yang dikembalikan, Anda dapat menentukan parameter opsional berikut:

Bidang Deskripsi singkat
maxResults Jumlah maksimum hasil untuk kembali dalam respons.
nextToken Jika ada lebih banyak hasil daripada angka yang Anda tentukan di maxResults bidang, respons mengembalikan nextToken nilai. Untuk melihat kumpulan hasil berikutnya, kirim nextToken nilai dalam permintaan lain.

Untuk parameter opsional lain yang dapat Anda tentukan untuk mengurutkan dan memfilter hasilnya, lihat GetProvisionedModelThroughput.

Untuk mencantumkan semua tag untuk agen, kirim ListTagsForResourcepermintaan (lihat tautan untuk format permintaan dan respons serta detail bidang) dengan titik akhir bidang kontrol Amazon Bedrock dan sertakan Nama Sumber Daya Amazon (ARN) dari Throughput yang Disediakan.

Lihat contoh kode

Mengedit Throughput yang Disediakan

Anda dapat mengedit nama atau tag dari Provisioned Throughput yang ada.

Pembatasan berikut berlaku untuk mengubah model yang dikaitkan dengan Throughput yang Disediakan:

  • Anda tidak dapat mengubah model untuk Provisioned Throughput yang terkait dengan model dasar.

  • Jika Provisioned Throughput dikaitkan dengan model kustom, Anda dapat mengubah asosiasi ke model dasar yang disesuaikan, atau ke model kustom lain yang diturunkan dari model dasar yang sama.

Saat Provisioned Throughput diperbarui, Anda dapat menjalankan inferensi menggunakan Provisioned Throughput tanpa mengganggu lalu lintas yang sedang berlangsung dari pelanggan akhir Anda. Jika Anda mengubah model yang dikaitkan dengan Throughput Tertentu, Anda mungkin menerima output dari model lama hingga pembaruan sepenuhnya diterapkan.

Untuk mempelajari cara mengedit Throughput yang Disediakan, pilih tab yang sesuai dengan metode pilihan Anda dan ikuti langkah-langkahnya.

Console
  1. Masuk ke AWS Management Console, dan buka konsol Amazon Bedrock di https://console.aws.amazon.com/bedrock/.

  2. Pilih Throughput yang Disediakan di bawah Penilaian dan penerapan dari panel navigasi kiri.

  3. Dari bagian Provisioned Throughput, pilih Provisioned Throughput.

  4. Pilih Edit. Anda dapat mengedit bidang berikut:

    • Nama Provisioned Throughput — Ubah nama Provisioned Throughput.

    • Pilih model — Jika Provisioned Throughput dikaitkan dengan model kustom, Anda dapat mengubah model terkait.

  5. Anda dapat mengedit tag yang terkait dengan Provisioned Throughput Anda di bagian Tag. Untuk informasi selengkapnya, lihat Memberi tanda pada sumber daya.

  6. Untuk menyimpan perubahan Anda, pilih Simpan suntingan.

  7. Konsol menampilkan halaman ikhtisar Provisioned Throughput. Status Throughput yang Disediakan dalam tabel Throughput yang Disediakan menjadi Update. Ketika Provisioned Throughput selesai diperbarui, Status menjadi layanan In. Jika pembaruan gagal, Status menjadi Gagal.

API

Untuk mengedit Throughput yang Disediakan, kirim UpdateProvisionedModelThroughputpermintaan (lihat tautan untuk format permintaan dan respons serta detail bidang) dengan titik akhir bidang kontrol Amazon Bedrock.

Tabel berikut menjelaskan secara singkat parameter dan badan permintaan (untuk informasi rinci dan struktur permintaan, lihat sintaks UpdateProvisionedModelThroughput permintaan):

Variabel Wajib? Kasus penggunaan
provisionedModelId Ya Untuk menentukan nama atau ARN dari Throughput yang Disediakan untuk diperbarui
desiredModelId Tidak Untuk menentukan model baru untuk dikaitkan dengan Provisioned Throughput (tidak tersedia untuk Provisioned Throughput yang terkait dengan model dasar).
desiredProvisionedModelNama Tidak Untuk menentukan nama baru untuk Provisioned Throughput

Jika tindakan berhasil, respons mengembalikan respons status HTTP 200. Untuk memeriksa kapan Provisioned Throughput siap digunakan, kirim GetProvisionedModelThroughputpermintaan dan periksa apakah statusnya. InService Anda tidak dapat memperbarui atau menghapus Throughput yang Disediakan saat statusnya. Updating Jika pembaruan gagal, statusnya akanFailed, dan GetProvisionedModelThroughputresponsnya akan berisi filefailureMessage.

Untuk menambahkan tag ke Throughput yang Disediakan, kirim TagResourcepermintaan (lihat tautan untuk format permintaan dan respons serta detail bidang) dengan titik akhir bidang kontrol Amazon Bedrock dan sertakan Nama Sumber Daya Amazon (ARN) dari Throughput yang Disediakan. Badan permintaan berisi tags bidang, yang merupakan objek yang berisi pasangan kunci-nilai yang Anda tentukan untuk setiap tag.

Untuk menghapus tag dari Throughput yang Disediakan, kirim UntagResourcepermintaan (lihat tautan untuk format permintaan dan respons serta detail bidang) dengan titik akhir bidang kontrol Amazon Bedrock dan sertakan Nama Sumber Daya Amazon (ARN) dari Throughput yang Disediakan. Parameter tagKeys permintaan adalah daftar yang berisi kunci untuk tag yang ingin Anda hapus.

Lihat contoh kode

Menghapus Throughput yang Disediakan

Untuk mempelajari cara menghapus Throughput yang Disediakan, pilih tab yang sesuai dengan metode pilihan Anda dan ikuti langkah-langkahnya.

catatan

Anda tidak dapat menghapus Throughput yang Disediakan dengan komitmen sebelum jangka waktu komitmen selesai.

Console
  1. Masuk ke AWS Management Console, dan buka konsol Amazon Bedrock di https://console.aws.amazon.com/bedrock/.

  2. Pilih Throughput yang Disediakan di bawah Penilaian dan penerapan dari panel navigasi kiri.

  3. Dari bagian Provisioned Throughput, pilih Provisioned Throughput.

  4. Pilih Hapus.

  5. Konsol menampilkan formulir modal untuk memperingatkan Anda bahwa penghapusan bersifat permanen. Pilih Konfirmasi untuk melanjutkan.

  6. Throughput yang Disediakan segera dihapus.

API

Untuk menghapus Throughput yang Disediakan, kirim DeleteProvisionedModelThroughputpermintaan (lihat tautan untuk format permintaan dan respons serta detail bidang) dengan titik akhir bidang kontrol Amazon Bedrock. Tentukan nama Provisioned Throughput atau ARN sebagai. provisionedModelId Jika penghapusan berhasil, respon mengembalikan kode status HTTP 200.

Lihat contoh kode