Gunakan model khusus - Amazon Bedrock

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Gunakan model khusus

Sebelum Anda dapat menggunakan model yang disesuaikan, Anda perlu membeli Provisioned Throughput untuk itu. Untuk informasi selengkapnya tentang Provisioned Throughput, lihat. Throughput yang Disediakan untuk Amazon Bedrock Anda kemudian dapat menggunakan model yang disediakan yang dihasilkan untuk inferensi. Pilih tab yang sesuai dengan metode pilihan Anda dan ikuti langkah-langkahnya.

Console
Untuk membeli Provisioned Throughput untuk model kustom.

  1. Di konsol Amazon Bedrock, pilih Model khusus di bawah model Foundation dari panel navigasi kiri.

  2. Di tab Model, pilih tombol radio di sebelah model yang ingin Anda beli Throughput Tertentu atau pilih nama model untuk menavigasi ke halaman detail.

  3. Pilih Throughput yang Disediakan Pembelian.

  4. Untuk lebih jelasnya, ikuti langkah-langkahnya diBeli Throughput yang Disediakan untuk model Amazon Bedrock.

  5. Setelah membeli Provisioned Throughput untuk model kustom Anda, ikuti langkah-langkah di. Jalankan inferensi menggunakan Provisioned Throughput

Saat Anda melakukan operasi apa pun yang mendukung penggunaan model khusus, Anda akan melihat model kustom Anda sebagai opsi di menu pemilihan model.

API

Untuk membeli Provisioned Throughput untuk model kustom, ikuti langkah-langkah di Beli Throughput yang Disediakan untuk model Amazon Bedrock untuk mengirim permintaan CreateProvisionedModelThroughput(lihat tautan untuk format permintaan dan respons serta detail bidang) dengan titik akhir bidang kontrol Amazon Bedrock. Gunakan nama atau ARN model kustom Anda sebagai. modelId Respons mengembalikan provisionedModelArn yang dapat Anda gunakan sebagai modelId saat membuat InvokeModelatau InvokeModelWithResponseStreampermintaan.

Lihat contoh kode