Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Amazon Bedrock Guardrails mendukung filter konten untuk membantu mendeteksi dan memfilter input pengguna berbahaya dan output yang dihasilkan model dalam bahasa alami. Filter konten didukung di seluruh kategori berikut:
Benci
Konten teks — Menjelaskan petunjuk masukan dan tanggapan model yang mendiskriminasi, mengkritik, menghina, mencela, atau merendahkan seseorang atau kelompok berdasarkan identitas (seperti ras, etnis, jenis kelamin, agama, orientasi seksual, kemampuan, dan asal kebangsaan).
Konten gambar (dalam pratinjau) — Menjelaskan petunjuk masukan dan respons model yang mencakup konten visual grafis dan kehidupan nyata yang menampilkan simbol tertentu dari kelompok kebencian, simbol kebencian, dan citra yang terkait dengan berbagai organisasi yang mempromosikan diskriminasi, rasisme, dan intoleransi.
Penghinaan
Konten teks — Menjelaskan petunjuk masukan dan respons model yang mencakup bahasa yang merendahkan, mempermalukan, mengejek, menghina, atau meremehkan. Jenis bahasa ini juga diberi label sebagai bullying.
-
Konten gambar (dalam pratinjau) — Menjelaskan petunjuk masukan dan respons model yang mencakup berbagai bentuk gerakan kasar, tidak sopan, atau ofensif yang dimaksudkan untuk mengekspresikan penghinaan, kemarahan, atau ketidaksetujuan.
Seksual
Konten teks - Menjelaskan petunjuk input dan respons model yang menunjukkan minat, aktivitas, atau gairah seksual menggunakan referensi langsung atau tidak langsung ke bagian tubuh, sifat fisik, atau jenis kelamin.
Konten gambar (dalam pratinjau) - Menjelaskan permintaan input dan respons model yang menampilkan bagian tubuh pribadi atau aktivitas seksual. Kategori ini juga mencakup kartun, animasi, gambar, sketsa, dan konten bergambar lainnya dengan tema seksual.
Kekerasan
Konten teks — Menjelaskan petunjuk masukan dan respons model yang mencakup pemuliaan, atau ancaman untuk menimbulkan rasa sakit fisik, luka, atau cedera terhadap seseorang, kelompok, atau benda.
Konten gambar (dalam pratinjau) — Menjelaskan petunjuk masukan dan respons model yang mencakup praktik melukai diri sendiri, serangan fisik dengan kekerasan, dan penggambaran orang atau hewan yang terluka, sering disertai dengan darah yang menonjol atau cedera tubuh.
Pelanggaran
Hanya konten teks — Menjelaskan petunjuk masukan dan tanggapan model yang mencari atau memberikan informasi tentang terlibat dalam aktivitas kriminal, atau merugikan, menipu, atau memanfaatkan seseorang, kelompok, atau institusi.
Serangan Prompt
Hanya konten teks; Hanya berlaku untuk petunjuk dengan penandaan input - Menjelaskan permintaan pengguna yang dimaksudkan untuk melewati kemampuan keamanan dan moderasi model pondasi untuk menghasilkan konten berbahaya (juga dikenal sebagai jailbreak), dan untuk mengabaikan dan mengganti instruksi yang ditentukan oleh pengembang (disebut sebagai injeksi cepat). Memerlukan tag input untuk digunakan agar serangan cepat diterapkan. Serangan cepatdeteksi membutuhkan tag input untuk digunakan.
