Throughput yang Disediakan untuk Amazon Bedrock - Amazon Bedrock

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Throughput yang Disediakan untuk Amazon Bedrock

Throughput mengacu pada jumlah dan tingkat input dan output yang diproses dan dikembalikan oleh model. Anda dapat membeli Provisioned Throughput untuk menyediakan tingkat throughput yang lebih tinggi untuk model dengan biaya tetap. Jika Anda menyesuaikan model, Anda harus membeli Provisioned Throughput untuk dapat menggunakannya.

Anda ditagih setiap jam untuk Throughput yang Disediakan yang Anda beli. Untuk informasi rinci tentang harga, lihat Harga Amazon Bedrock. Harga per jam tergantung pada faktor-faktor berikut:

  1. Model yang Anda pilih (untuk model khusus, harga sama dengan model dasar yang disesuaikan).

  2. Jumlah Unit Model (MU) yang Anda tentukan untuk Provisioned Throughput. MU memberikan tingkat throughput tertentu untuk model yang ditentukan. Tingkat throughput MU menentukan hal berikut:

    • Jumlah token input yang dapat diproses MU di semua permintaan dalam rentang satu menit.

    • Jumlah token keluaran yang dapat dihasilkan MU di semua permintaan dalam rentang satu menit.

    catatan

    Untuk informasi lebih lanjut tentang apa yang ditentukan MU, hubungi Akun AWS manajer Anda.

  3. Durasi waktu Anda berkomitmen untuk menjaga Throughput yang Disediakan. Semakin lama durasi komitmen, semakin banyak diskon harga per jamnya. Anda dapat memilih di antara tingkat komitmen berikut:

    • Tidak ada komitmen - Anda dapat menghapus Throughput yang Disediakan kapan saja.

    • 1 bulan - Anda tidak dapat menghapus Throughput yang Disediakan hingga jangka waktu komitmen satu bulan berakhir.

    • 6 bulan - Anda tidak dapat menghapus Throughput yang Disediakan hingga jangka waktu komitmen enam bulan berakhir.

    catatan

    Penagihan berlanjut hingga Anda menghapus Throughput yang Disediakan.

Langkah-langkah berikut menguraikan proses pengaturan dan penggunaan Provisioned Throughput.

  1. Tentukan jumlah MU yang ingin kamu beli untuk Provisioned Throughput dan jumlah waktu yang ingin kamu komit untuk menggunakan Provisioned Throughput.

  2. Beli Throughput yang Disediakan untuk model dasar atau kustom.

  3. Setelah model yang disediakan dibuat, Anda dapat menggunakannya untuk menjalankan inferensi model.

Topik