Evaluasi input pengguna secara selektif dengan tag

Tag input memungkinkan Anda menandai konten tertentu dalam teks input yang ingin diproses oleh pagar pembatas. Ini berguna ketika Anda ingin menerapkan pagar pembatas ke bagian input tertentu, sambil membiarkan bagian lain tidak diproses.

Misalnya, prompt input dalam aplikasi RAG mungkin berisi prompt sistem, hasil pencarian dari sumber dokumentasi tepercaya, dan kueri pengguna. Karena permintaan sistem disediakan oleh pengembang dan hasil pencarian berasal dari sumber tepercaya, Anda mungkin hanya perlu evaluasi pagar pembatas hanya pada permintaan pengguna.

Dalam contoh lain, prompt input dalam aplikasi percakapan mungkin berisi prompt sistem, riwayat percakapan, dan input pengguna saat ini. Permintaan sistem adalah instruksi khusus pengembang, dan riwayat percakapan berisi masukan pengguna historis dan respons model yang mungkin telah dievaluasi oleh pagar pembatas. Untuk skenario seperti itu, Anda mungkin hanya ingin mengevaluasi input pengguna saat ini.

Dengan menggunakan tag input, Anda dapat mengontrol bagian mana dari prompt input yang harus diproses dan dievaluasi dengan pagar pembatas, memastikan bahwa perlindungan Anda disesuaikan dengan kasus penggunaan Anda. Ini juga membantu dalam meningkatkan kinerja, dan mengurangi biaya, karena Anda memiliki fleksibilitas untuk mengevaluasi bagian input yang relatif lebih pendek dan relevan, bukan seluruh prompt input.

Tandai konten untuk pagar pembatas

Untuk menandai konten untuk pagar pembatas untuk diproses, gunakan tag XMLyang merupakan kombinasi dari awalan cadangan dan kustom. tagSuffix Sebagai contoh:

{
    "inputText": """
        You are a helpful assistant.
        Here is some information about my account:
          - There are 10,543 objects in an S3 bucket.
          - There are no active EC2 instances.
        Based on the above, answer the following question:
        Question: 
        <amazon-bedrock-guardrails-guardContent_xyz>
        How many objects do I have in my S3 bucket? 
        </amazon-bedrock-guardrails-guardContent_xyz>
         ...
        Here are other user queries:
        <amazon-bedrock-guardrails-guardContent_xyz>
        How do I download files from my S3 bucket?
        </amazon-bedrock-guardrails-guardContent_xyz>    
    """,
    "amazon-bedrock-guardrailConfig": {
        "tagSuffix": "xyz"
    }
}

Dalam contoh sebelumnya, konten `Berapa banyak objek yang saya miliki di ember S3 saya? `dan "“Bagaimana cara mengunduh file dari bucket S3 saya? “ ditandai untuk pemrosesan pagar pembatas menggunakan tag. <amazon-bedrock-guardrails-guardContent_xyz> Perhatikan bahwa awalan amazon-bedrock-guardrails-guardContent disediakan oleh pagar pembatas.

Akhiran Tag

Sufiks tag (xyzdalam contoh sebelumnya) adalah nilai dinamis yang harus Anda berikan di tagSuffix bidang amazon-bedrock-guardrailConfig untuk menggunakan penandaan input. Ini membantu mengurangi potensi serangan injeksi cepat dengan membuat struktur tag tidak dapat diprediksi. Tag statis dapat mengakibatkan pengguna jahat menutup tag xml. dan menambahkan konten berbahaya setelah penutupan tag, yang mengakibatkan serangan injeksi. Anda terbatas pada karakter alfanumerik dengan panjang antara 1 dan 20 karakter, inklusif. Dengan akhiran contohxyz, Anda harus melampirkan semua konten yang akan dijaga menggunakan tag xmldengan akhiran Anda:<amazon-bedrock-guardrails-guardContent_xyz>. dan konten Anda. </amazon-bedrock-guardrails-guardContent_xyz> Kami merekomendasikan untuk menggunakan dinamis UUID untuk setiap permintaan sebagai akhiran tag

Beberapa tag

Anda dapat menggunakan struktur tag yang sama beberapa kali dalam teks input untuk menandai bagian konten yang berbeda untuk pemrosesan pagar pembatas. Sarang tag tidak diperbolehkan.

Konten Tidak Ditandai

Konten apa pun di luar tag input tidak akan diproses oleh pagar pembatas. Ini memungkinkan Anda untuk menyertakan instruksi, contoh percakapan, basis pengetahuan, atau konten lain yang Anda anggap aman dan tidak ingin diproses oleh pagar pembatas. Jika tidak ada tag di prompt input, prompt lengkap akan diproses oleh pagar pembatas. Satu-satunya pengecualian adalah Serangan cepat filter yang membutuhkan tag input untuk hadir.

Anda dapat mencoba penandaan input di panel uji untuk pagar pembatas Anda dengan mengikuti langkah-langkah berikut:

1. Menavigasi ke panel uji untuk pagar pembatas (metode ini tidak didukung untuk taman bermain teks atau obrolan, hanya panel uji pagar pembatas).

2. Gunakan akhiran playground tag input playground default.

                VIOLENT STATEMENT: I think I could fight a grizzly bear. 

<amazon-bedrock-guardrails-guardContent_playground

BENIGN INPUT: How's the weather? 

</amazon-bedrock-guardrails-guardContent_playground
            

Pagar pembatas Anda hanya akan dijalankan pada konten di antara tag input.