Menggunakan model pondasi - Amazon Bedrock

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Menggunakan model pondasi

Anda harus meminta akses ke model sebelum Anda dapat menggunakannya. Setelah melakukannya, Anda kemudian dapat menggunakan FM dengan cara berikut.

  • Jalankan inferensi dengan mengirimkan prompt ke model dan menghasilkan respons. Taman bermain menawarkan antarmuka yang ramah pengguna AWS Management Console untuk menghasilkan teks, gambar, atau obrolan. Lihat kolom Modalitas keluaran untuk menentukan model yang dapat Anda gunakan di setiap taman bermain.

    catatan

    Taman bermain konsol tidak mendukung inferensi berjalan pada model embeddings. Gunakan API untuk menjalankan inferensi pada model embeddings.

  • Evaluasi model untuk membandingkan output dan menentukan model terbaik untuk kasus penggunaan Anda.

  • Siapkan basis pengetahuan dengan bantuan model embeddings. Kemudian gunakan model teks untuk menghasilkan respons terhadap kueri.

  • Buat agen dan gunakan model untuk menjalankan inferensi pada prompt untuk melakukan orkestrasi.

  • Sesuaikan model dengan memberi makan data pelatihan dan validasi untuk menyesuaikan parameter model untuk kasus penggunaan Anda. Untuk menggunakan model yang disesuaikan, Anda harus membeli Provisioned Throughput untuk itu.

  • Membeli Provisioned Throughput untuk model untuk meningkatkan throughput untuk itu.

Untuk menggunakan FM di API, Anda perlu menentukan ID model yang sesuai untuk digunakan.

Kasus penggunaan Cara menemukan ID model
Gunakan model dasar Cari ID di bagan ID model dasar
Beli Throughput yang Disediakan untuk model dasar Cari ID di ID model untuk bagan Throughput yang Disediakan dan gunakan sebagai permintaanmodelId. CreateProvisionedModelThroughput
Beli Throughput yang Disediakan untuk model kustom Gunakan nama model kustom atau ARN-nya seperti modelId dalam permintaan. CreateProvisionedModelThroughput
Gunakan model yang disediakan Setelah Anda membuat Provisioned Throughput, ia mengembalikan file. provisionedModelArn ARN ini adalah ID model.
Gunakan model khusus Beli Throughput yang Disediakan untuk model kustom dan gunakan yang dikembalikan provisionedModelArn sebagai ID model.