Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Gunakan alat untuk menyelesaikan respons model Amazon Bedrock
Anda dapat menggunakan Amazon Bedrock API untuk memberikan akses model ke alat yang dapat membantunya menghasilkan respons untuk pesan yang Anda kirim ke model. Misalnya, Anda mungkin memiliki aplikasi obrolan yang memungkinkan pengguna mengetahui lagu paling populer yang diputar di stasiun radio. Untuk menjawab permintaan lagu paling populer, model membutuhkan alat yang dapat menanyakan dan mengembalikan informasi lagu.
catatan
Penggunaan alat dengan model juga dikenal sebagai Panggilan fungsi.
Di Amazon Bedrock, model tidak secara langsung memanggil alat. Sebaliknya, ketika Anda mengirim pesan ke model, Anda juga memberikan definisi untuk satu atau beberapa alat yang berpotensi membantu model menghasilkan respons. Dalam contoh ini, Anda akan memberikan definisi untuk alat yang mengembalikan lagu paling populer untuk stasiun radio tertentu. Jika model menentukan bahwa ia membutuhkan alat untuk menghasilkan respons untuk pesan, model merespons dengan permintaan agar Anda memanggil alat tersebut. Ini juga mencakup parameter input (stasiun radio yang diperlukan) untuk diteruskan ke alat.
Dalam kode Anda, Anda memanggil alat atas nama model. Dalam skenario ini, asumsikan implementasi alat adalahAPI. Alat ini bisa dengan mudah menjadi database, fungsi Lambda, atau perangkat lunak lainnya. Anda memutuskan bagaimana Anda ingin menerapkan alat ini. Anda kemudian melanjutkan percakapan dengan model dengan memberikan pesan dengan hasil dari alat. Akhirnya model menghasilkan respons untuk pesan asli yang menyertakan hasil alat yang Anda kirim ke model.
Untuk menggunakan alat dengan model, Anda dapat menggunakan Converse API (Converse atau ConverseStream). Kode contoh dalam topik ini menggunakan Converse API untuk menunjukkan cara menggunakan alat yang mendapatkan lagu paling populer untuk stasiun radio. Untuk informasi umum tentang memanggil ConverseAPI, lihatLakukan percakapan dengan Converse.
Dimungkinkan untuk menggunakan alat dengan operasi inferensi dasar (InvokeModelatau InvokeModelWithResponseStream). Untuk menemukan parameter inferensi yang Anda berikan di badan permintaan, lihat parameter inferensi untuk model yang ingin Anda gunakan. Sebaiknya gunakan Converse API karena menyediakan yang konsistenAPI, yang berfungsi dengan semua model Amazon Bedrock yang mendukung penggunaan alat.
Untuk informasi tentang model yang mendukung pemanggilan alat, lihatModel dan fitur model yang didukung.
