Bagaimana Agen untuk Amazon Bedrock bekerja

Agen untuk Amazon Bedrock terdiri dari dua set operasi API utama berikut untuk membantu Anda menyiapkan dan menjalankan agen:

• Operasi API waktu pembuatan untuk membuat, mengonfigurasi, dan mengelola agen Anda dan sumber daya terkait

• Operasi API runtime untuk memanggil agen Anda dengan input pengguna dan memulai orkestrasi untuk menjalankan tugas.

Konfigurasi waktu pembuatan

Agen terdiri dari komponen-komponen berikut:

• Model Foundation — Anda memilih model dasar (FM) yang dipanggil agen untuk menafsirkan input pengguna dan petunjuk selanjutnya dalam proses orkestrasinya. Agen juga memanggil FM untuk menghasilkan respons dan langkah-langkah tindak lanjut dalam prosesnya.

• Instruksi — Anda menulis instruksi yang menjelaskan apa yang agen dirancang untuk melakukan. Dengan petunjuk lanjutan, Anda dapat menyesuaikan instruksi lebih lanjut untuk agen di setiap langkah orkestrasi dan menyertakan fungsi Lambda untuk mengurai output setiap langkah.

• Setidaknya salah satu dari berikut ini:

  • Grup tindakan - Anda menentukan tindakan yang harus dilakukan agen untuk pengguna dengan menyediakan sumber daya berikut):

    • Salah satu skema berikut untuk menentukan parameter yang perlu diperoleh agen dari pengguna (setiap grup tindakan dapat menggunakan skema yang berbeda):

      • OpenAPISkema untuk menentukan operasi API yang dapat dipanggil agen untuk melakukan tugasnya. OpenAPISkema mencakup parameter yang perlu ditimbulkan dari pengguna.

      • Skema detail fungsi untuk menentukan parameter yang dapat diperoleh agen dari pengguna. Parameter ini kemudian dapat digunakan untuk orkestrasi lebih lanjut oleh agen, atau Anda dapat mengatur cara menggunakannya dalam aplikasi Anda sendiri.

    • (Opsional) Fungsi Lambda dengan input dan output berikut:

      • Input — Operasi API dan/atau parameter yang diidentifikasi selama orkestrasi.

      • Output — Respons dari pemanggilan API .

  • Basis pengetahuan — Mengaitkan basis pengetahuan dengan agen. Agen menanyakan basis pengetahuan untuk konteks tambahan untuk meningkatkan generasi respons dan masukan ke dalam langkah-langkah proses orkestrasi.

• Template prompt - Template prompt adalah dasar untuk membuat prompt yang akan diberikan ke FM. Agen untuk Amazon Bedrock memperlihatkan empat templat prompt dasar default yang digunakan selama pra-pemrosesan, orkestrasi, pembuatan respons basis pengetahuan, dan pasca-pemrosesan. Anda dapat mengedit templat prompt dasar ini secara opsional untuk menyesuaikan perilaku agen Anda di setiap langkah urutannya. Anda juga dapat mematikan langkah-langkah untuk tujuan pemecahan masalah atau jika Anda memutuskan bahwa langkah tidak diperlukan. Untuk informasi selengkapnya, lihat Permintaan lanjutan di Amazon Bedrock.

Pada waktu pembuatan, semua komponen ini dikumpulkan untuk membangun prompt dasar bagi agen untuk melakukan orkestrasi hingga permintaan pengguna selesai. Dengan prompt lanjutan, Anda dapat memodifikasi permintaan dasar ini dengan logika tambahan dan beberapa contoh tembakan untuk meningkatkan akurasi untuk setiap langkah pemanggilan agen. Templat prompt dasar berisi instruksi, deskripsi tindakan, deskripsi basis pengetahuan, dan riwayat percakapan, yang semuanya dapat Anda sesuaikan untuk memodifikasi agen untuk memenuhi kebutuhan Anda. Anda kemudian menyiapkan agen Anda, yang mengemas semua komponen agen, termasuk konfigurasi keamanan. Mempersiapkan agen membawanya ke keadaan di mana ia dapat diuji dalam runtime. Gambar berikut menunjukkan cara operasi API build-time membangun agen Anda.

Proses runtime

Runtime dikelola oleh operasi InvokeAgentAPI. Operasi ini memulai urutan agen, yang terdiri dari tiga langkah utama berikut.

1. Pra-pemrosesan - Mengelola bagaimana agen mengontekstualisasikan dan mengkategorikan input pengguna dan dapat digunakan untuk memvalidasi input.

2. Orkestrasi — Menafsirkan input pengguna, memanggil kelompok tindakan dan basis pengetahuan kueri, dan mengembalikan output ke pengguna atau sebagai masukan untuk orkestrasi lanjutan. Orkestrasi terdiri dari langkah-langkah berikut:

   1. Agen menafsirkan input dengan model dasar dan menghasilkan alasan yang menjabarkan logika untuk langkah selanjutnya yang harus diambil.

   2. Agen memprediksi tindakan mana dalam grup tindakan yang harus dipanggil atau basis pengetahuan mana yang harus ditanyakan.

   3. Jika agen memprediksi bahwa ia perlu memanggil tindakan, agen akan mengirimkan parameter, ditentukan dari prompt pengguna, ke fungsi Lambda yang dikonfigurasi untuk grup tindakan atau mengembalikan kontrol dengan mengirimkan parameter dalam respons. InvokeAgent Jika agen tidak memiliki informasi yang cukup untuk menjalankan tindakan, ia mungkin melakukan salah satu tindakan berikut:

      • Kueri basis pengetahuan terkait (Pembuatan respons basis pengetahuan) untuk mengambil konteks tambahan dan meringkas data untuk menambah generasinya.

      • Reprompt pengguna untuk mengumpulkan semua parameter yang diperlukan untuk tindakan tersebut.

   4. Agen menghasilkan output, yang dikenal sebagai pengamatan, dari menerapkan tindakan dan/atau meringkas hasil dari basis pengetahuan. Agen menggunakan observasi untuk menambah prompt dasar, yang kemudian ditafsirkan dengan model pondasi. Agen kemudian menentukan apakah perlu mengulangi proses orkestrasi.

   5. Loop ini berlanjut sampai agen mengembalikan respons ke pengguna atau sampai perlu meminta pengguna untuk informasi tambahan.

   Selama orkestrasi, template prompt dasar ditambah dengan instruksi agen, grup tindakan, dan basis pengetahuan yang Anda tambahkan ke agen. Kemudian, prompt basis tambahan digunakan untuk memanggil FM. FM memprediksi langkah dan lintasan terbaik untuk memenuhi input pengguna. Pada setiap iterasi orkestrasi, FM memprediksi operasi API untuk memanggil atau basis pengetahuan untuk kueri.

3. Pasca-pemrosesan — Agen memformat respons akhir untuk kembali ke pengguna. Langkah ini dimatikan secara default.

Saat Anda memanggil agen Anda, Anda dapat mengaktifkan jejak saat runtime. Dengan jejak, Anda dapat melacak alasan, tindakan, kueri, dan pengamatan agen pada setiap langkah urutan agen. Jejak tersebut mencakup prompt lengkap yang dikirim ke model foundation pada setiap langkah dan output dari model foundation, respons API, dan kueri basis pengetahuan. Anda dapat menggunakan jejak untuk memahami alasan agen di setiap langkah. Untuk informasi selengkapnya, lihat Lacak peristiwa di Amazon Bedrock

Saat sesi pengguna dengan agen berlanjut melalui lebih banyak InvokeAgent permintaan, riwayat percakapan dipertahankan. Riwayat percakapan terus menambah template prompt basis orkestrasi dengan konteks, membantu meningkatkan akurasi dan kinerja agen. Diagram berikut menunjukkan proses agen selama runtime: