Memoderasi konten - Amazon Rekognition

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Memoderasi konten

Anda dapat menggunakan Amazon Rekognition untuk mendeteksi konten yang tidak pantas, tidak diinginkan, atau menyinggung. Anda dapat menggunakan API moderasi Rekognition di situasi media sosial, media siaran, iklan, dan perdagangan elektronik untuk membuat pengalaman pengguna yang lebih aman, memberikan jaminan keamanan merek kepada pengiklan, dan mematuhi peraturan lokal dan global.

Saat ini, banyak perusahaan sepenuhnya bergantung pada moderator manusia untuk meninjau konten pihak ke tiga atau buatan pengguna, sedangkan yang lain hanya bereaksi terhadap aduan pengguna untuk menghapus gambar, iklan, atau video yang menyinggung atau tidak pantas. Namun, moderator manusia saja tidak dapat menskalakan untuk memenuhi kebutuhan ini dengan kualitas atau kecepatan yang memadai, yang mengarah ke pengalaman pengguna yang buruk, biaya tinggi untuk mencapai skala, atau bahkan hilangnya reputasi merek. Dengan menggunakan Rekognition untuk moderasi citra dan video, moderator manusia dapat meninjau set konten yang jauh lebih kecil, biasanya 1-5% dari total volume, yang telah ditandai oleh machine learning. Hal ini memungkinkan mereka untuk fokus pada kegiatan yang lebih berharga dan masih mencapai cakupan moderasi yang komprehensif dengan sebagian kecil dari biaya yang ada. Untuk menyiapkan tenaga kerja manusia dan melakukan tugas tinjauan manusia, Anda dapat menggunakan Amazon Augmented AI, yang sudah terintegrasi dengan Rekognition.

Anda dapat meningkatkan akurasi model pembelajaran mendalam moderasi dengan fitur Custom Moderation. Dengan Custom Moderation, Anda melatih adaptor moderasi khusus dengan mengunggah gambar Anda dan membuat anotasi gambar-gambar ini. Adaptor terlatih kemudian dapat diberikan ke operasi DetectModerationLabel untuk meningkatkan kinerjanya pada gambar Anda. Untuk informasi selengkapnya, lihat Meningkatkan akurasi dengan Custom Moderation.

Label didukung oleh operasi moderasi konten Rekognition

  • Untuk mengunduh daftar label moderasi, klik di sini.

Diagram berikut menunjukkan urutan operasi panggilan, tergantung pada tujuan Anda untuk menggunakan komponen gambar atau video dari Moderasi Konten:

Diagram alir yang menggambarkan langkah-langkah untuk moderasi gambar dan video.

Menggunakan API moderasi citra dan video

Di Amazon Rekognition Image API, Anda dapat mendeteksi konten yang tidak pantas, tidak diinginkan, atau menyinggung secara sinkron DetectModerationmenggunakan Label dan penggunaan serta pengoperasian secara asinkron. StartMediaAnalysisJobGetMediaAnalysisJob Anda dapat menggunakan Amazon Rekognition Video API untuk mendeteksi konten tersebut secara asinkron dengan menggunakan operasi Moderasi dan Moderasi. StartContent GetContent

Kategori Label

Amazon Rekognition menggunakan taksonomi hierarkis tiga tingkat untuk memberi label kategori konten yang tidak pantas, tidak diinginkan, atau menyinggung. Setiap label dengan Taksonomi Level 1 (L1) memiliki sejumlah label Taksonomi Level 2 (L2), dan beberapa label Taksonomi Level 2 mungkin memiliki label Taksonomi Level 3 (L3). Ini memungkinkan klasifikasi hierarkis konten.

Untuk setiap label moderasi yang terdeteksi, API juga mengembalikanTaxonomyLevel, yang berisi level (1, 2, atau 3) yang dimiliki label tersebut. Misalnya, gambar dapat diberi label sesuai dengan kategorisasi berikut:

L1: Ketelanjangan Non-Eksplisit dari bagian Intim dan Ciuman, L2: Ketelanjangan Non-Eksplisit, L3: Ketelanjangan Tersirat.

catatan

Sebaiknya gunakan kategori L1 atau L2 untuk memoderasi konten Anda dan menggunakan kategori L3 hanya untuk menghapus konsep spesifik yang tidak ingin Anda moderasi (yaitu untuk mendeteksi konten yang mungkin tidak ingin Anda kategorikan sebagai konten yang tidak pantas, tidak diinginkan, atau menyinggung berdasarkan kebijakan moderasi Anda).

Tabel berikut menunjukkan hubungan antara tingkat kategori dan label yang mungkin untuk setiap tingkat. Untuk mengunduh daftar label moderasi, klik di sini.

Kategori Tingkat Atas (L1) Kategori Tingkat Kedua (L2) Kategori Tingkat Ketiga (L3) Ketentuan
Eksplisit Ketelanjangan Eksplisit Alat Kelamin Pria Terpapar Alat kelamin pria manusia, termasuk penis (apakah ereksi atau lembek), skrotum, dan rambut kemaluan yang terlihat. Istilah ini berlaku dalam konteks yang melibatkan aktivitas seksual atau konten visual apa pun di mana alat kelamin pria ditampilkan baik seluruhnya atau sebagian.
Alat Kelamin Wanita Terpapar Bagian luar dari sistem reproduksi wanita, meliputi vulva, vagina, dan rambut kemaluan yang dapat diamati. Istilah ini berlaku dalam skenario yang melibatkan aktivitas seksual atau konten visual apa pun di mana aspek-aspek anatomi wanita ini ditampilkan baik seluruhnya atau sebagian.
Bokong atau Anus Terpapar Bokong atau anus manusia, termasuk kasus di mana bokong telanjang atau ketika mereka terlihat melalui pakaian tipis. Definisi ini secara khusus berlaku untuk situasi di mana bokong atau anus secara langsung dan sepenuhnya terlihat, tidak termasuk skenario di mana segala bentuk pakaian dalam atau pakaian memberikan cakupan lengkap atau sebagian.
Puting Wanita Terpapar Puting wanita manusia, termasuk aerola yang terlihat sepenuhnya dan sebagian terlihat (area di sekitar puting susu) dan puting susu.
Aktivitas Seksual Eksplisit N/A Penggambaran tindakan seksual aktual atau simulasi yang mencakup hubungan seksual manusia, seks oral, serta stimulasi genital pria dan stimulasi genital wanita oleh bagian dan objek tubuh lainnya. Istilah ini juga mencakup ejakulasi atau cairan vagina pada bagian tubuh dan praktik erotis atau permainan peran yang melibatkan perbudakan, disiplin, dominasi dan ketundukan, dan sadomasokisme.
Mainan Seks N/A Objek atau perangkat yang digunakan untuk rangsangan atau kesenangan seksual, misalnya, Dildo, vibrator, butt plug, beats, dll.
Ketelanjangan Non-Eksplisit dari bagian intim dan ciuman Ketelanjangan Non-Eksplisit Telanjang Kembali Bagian posterior manusia di mana sebagian besar kulit terlihat dari leher ke ujung tulang belakang. Istilah ini tidak berlaku ketika punggung individu sebagian atau seluruhnya tersumbat.
Puting Pria Terpapar Puting pria manusia, termasuk puting yang terlihat sebagian.
Bokong Terkena Sebagian Bokong manusia yang terpapar sebagian. Istilah ini mencakup daerah bokong atau pipi bokong yang terlihat sebagian karena pakaian pendek, atau bagian atas celah anus yang terlihat sebagian. Istilah ini tidak berlaku untuk kasus-kasus di mana bokong sepenuhnya telanjang.
Payudara Wanita Terpapar Sebagian Payudara wanita manusia yang terpapar sebagian di mana satu bagian dari dada wanita terlihat atau terbuka sementara tidak mengungkapkan seluruh payudaranya. Istilah ini berlaku ketika daerah lipatan dada bagian dalam terlihat atau ketika lipatan dada bagian bawah terlihat dengan puting sepenuhnya tertutup atau tersumbat.
Ketelanjangan Tersirat Seseorang yang telanjang, baik topless atau tanpa dasar, tetapi dengan bagian intim seperti bokong, puting, atau alat kelamin tertutup, tersumbat, atau tidak sepenuhnya terlihat.
Bagian Intim yang Terhambat Puting Wanita Terhambat Penggambaran visual dari situasi di mana puting perempuan ditutupi oleh pakaian atau penutup buram, tetapi bentuknya terlihat jelas.
Alat Kelamin Pria Terhambat Penggambaran visual dari situasi di mana alat kelamin atau penis pria ditutupi oleh pakaian atau penutup buram, tetapi bentuknya terlihat jelas. Istilah ini berlaku ketika alat kelamin yang terhambat pada gambar berada dalam jarak dekat.
Berciuman di Bibir N/A Penggambaran bibir seseorang melakukan kontak dengan bibir orang lain.
Pakaian Renang atau Pakaian Dalam Pakaian Renang atau Pakaian Dalam Wanita N/A Pakaian manusia untuk pakaian renang wanita (misalnya, pakaian renang one-piece, bikini, tankinis, dll.) Dan pakaian dalam wanita (misalnya, bra, celana dalam, celana dalam, pakaian dalam, sandal jepit, dll.)
Pakaian Renang atau Pakaian Dalam Pria N/A Pakaian manusia untuk pakaian renang pria (misalnya, celana renang, celana pendek papan, celana renang, dll.) Dan pakaian dalam pria (misalnya, celana dalam, petinju, dll.)
Kekerasan Senjata N/A Instrumen atau perangkat yang digunakan untuk menyebabkan kerusakan atau kerusakan pada makhluk hidup, struktur, atau sistem. Ini termasuk senjata api (misalnya, senjata, senapan mesin, dll.), senjata tajam (misalnya, pedang, pisau, dll.), bahan peledak dan amunisi (misalnya, rudal, bom, peluru, dll.).
Kekerasan Grafis Kekerasan Senjata Penggunaan senjata untuk menyebabkan kerusakan, kerusakan, cedera, atau kematian bagi diri sendiri, individu lain, atau properti.
Kekerasan Fisik Tindakan yang menyebabkan kerusakan pada individu atau properti lain (misalnya, memukul, berkelahi, mencabut rambut, dll.) atau tindakan kekerasan lainnya yang melibatkan kerumunan atau banyak individu.
Menyakiti Diri Sendiri Tindakan menyebabkan kerusakan pada diri sendiri, seringkali dengan memotong bagian tubuh seperti lengan atau kaki, di mana luka biasanya terlihat.
Darah & Gore Representasi visual kekerasan pada seseorang, sekelompok individu, atau hewan, yang melibatkan luka terbuka, pertumpahan darah, dan bagian tubuh yang dimutilasi.
Ledakan dan Ledakan Penggambaran ledakan api yang hebat dan merusak dengan asap tebal atau debu dan asap meletus dari tanah.
Secara Visual Mengganggu Kematian dan Kurus Kurus Badan yang Kurus Tubuh manusia yang sangat kurus dan kurang gizi dengan pemborosan fisik yang parah dan penipisan otot dan jaringan lemak.
Mayat Mayat manusia dalam bentuk tubuh yang dimutilasi, mayat gantung, atau kerangka.
Kecelakaan Kecelakaan Udara Insiden kendaraan udara, seperti pesawat terbang, helikopter, atau kendaraan terbang lainnya, yang mengakibatkan kerusakan, cedera, atau kematian. Istilah ini berlaku ketika bagian-bagian dari kendaraan udara terlihat.
Obat-obatan & Tembakau Produk Pil Meja atau kapsul kecil, padat, sering berbentuk bulat atau oval. Istilah ini berlaku untuk pil yang disajikan sebagai standalones, dalam botol, atau paket transparan dan tidak berlaku untuk penggambaran visual seseorang yang minum pil.
Obat-obatan & Perlengkapan Tembakau & Penggunaan Merokok Tindakan menghirup, menghembuskan napas, dan menyalakan zat yang terbakar termasuk rokok, cerutu, e-rokok, hookah, atau sendi.
Alkohol Penggunaan Alkohol Minum Tindakan minum minuman beralkohol dari botol atau gelas alkohol atau minuman keras.
Minuman Beralkohol N/A Tutup satu atau beberapa botol alkohol atau minuman keras, gelas atau mug dengan alkohol atau minuman keras, dan gelas atau mug dengan alkohol atau minuman keras yang dipegang oleh seseorang. Istilah ini tidak berlaku untuk individu yang minum dari botol atau gelas alkohol atau minuman keras.
Tindakan Kasar Jari Tengah N/A Penggambaran visual gerakan tangan dengan jari tengah diperpanjang ke atas sementara jari-jari lainnya dilipat ke bawah.
Judi N/A N/A Tindakan berpartisipasi dalam permainan kesempatan untuk kesempatan memenangkan hadiah di kasino, misalnya, bermain kartu, blackjacks, roulette, mesin slot di kasino, dll.
Simbol Kebencian Partai Nazi N/A Penggambaran visual simbol, bendera, atau gerakan yang terkait dengan Partai Nazi.
Supremasi Putih N/A Penggambaran visual simbol atau pakaian yang terkait dengan Ku Klux Klan (KKK) dan gambar dengan bendera konfederasi.
Ekstremis N/A Gambar berisi bendera kelompok ekstremis dan teroris.

Tidak setiap label dalam kategori L2 memiliki label yang didukung dalam kategori L3. Selain itu, label L3 di bawah label L2 “Produk” dan “Perlengkapan dan Penggunaan Obat dan Tembakau” tidak lengkap. Label L2 ini mencakup konsep di luar label L3 yang disebutkan dan dalam kasus seperti itu, hanya label L2 yang dikembalikan dalam respons API.

Anda menentukan kesesuaian konten untuk aplikasi Anda. Misalnya, citra yang bersifat sugestif mungkin dapat diterima, namun citra yang mengandung ketelanjangan mungkin tidak. Untuk memfilter gambar, gunakan larik ModerationLabellabel yang dikembalikan oleh DetectModerationLabels (gambar) dan oleh GetContentModeration (video).

Jenis konten

API juga dapat mengidentifikasi jenis konten animasi atau bergambar, dan jenis konten dikembalikan sebagai bagian dari respons:

  • Konten animasi termasuk video game dan animasi (misalnya, kartun, komik, manga, anime).

  • Konten bergambar termasuk menggambar, melukis, dan sketsa.

Kepercayaan

Anda dapat mengatur ambang batas kepercayaan yang digunakan Amazon Rekognition untuk mendeteksi konten yang tidak pantas dengan menentukan parameter input MinConfidence. Label tidak dikembalikan untuk konten yang tidak pantas yang terdeteksi dengan kepercayaan yang lebih rendah dari MinConfidence.

Menentukan nilai untuk MinConfidence itu kurang dari 50% kemungkinan akan mengembalikan sejumlah besar hasil positif palsu (yaitu penarikan yang lebih tinggi, presisi lebih rendah). Di sisi lain, menentukan MinConfidence di atas 50% kemungkinan akan mengembalikan jumlah hasil positif palsu yang lebih rendah (yaitu penarikan yang lebih rendah, presisi lebih tinggi). Jika Anda tidak menentukan nilai untuk MinConfidence, Amazon Rekognition mengembalikan label untuk konten yang tidak pantas yang terdeteksi dengan kepercayaan setidaknya 50%.

Label berisi array ModerationLabel dalam kategori sebelumnya, dan perkiraan kepercayaan dalam keakuratan konten yang dikenali. Label tingkat atas dikembalikan bersama dengan label tingkat kedua yang diidentifikasi. Misalnya, Amazon Rekognition mungkin mengembalikan “Ketelanjangan Eksplisit” dengan skor kepercayaan yang tinggi sebagai label tingkat atas. Itu mungkin cukup untuk kebutuhan pemfilteran Anda. Namun, jika perlu, Anda dapat menggunakan skor kepercayaan label tingkat kedua (seperti "Ketelanjangan Laki-Laki Grafis") untuk mendapatkan pemfilteran yang lebih terperinci. Sebagai contoh, lihat Mendeteksi citra yang tidak pantas.

Penentuan Versi

Baik Amazon Rekognition Image maupun Amazon Rekognition Video mengembalikan versi model deteksi moderasi yang digunakan untuk mendeteksi konten yang tidak pantas (ModerationModelVersion).

Menyortir dan Mengagregasi

Saat mengambil hasil dengan GetContentModeration, Anda dapat mengurutkan dan mengumpulkan hasil Anda.

Urutkan urutan - Array label yang dikembalikan diurutkan berdasarkan waktu. Untuk mengurutkan berdasarkan label, tentukan NAME dalam parameter input SortBy untuk GetContentModeration. Jika label muncul beberapa kali dalam video, akan ada beberapa contoh elemen. ModerationLabel

Informasi label - Elemen ModerationLabels array berisi ModerationLabel objek, yang pada gilirannya berisi nama label dan kepercayaan Amazon Rekognition dalam keakuratan label yang terdeteksi. Stempel waktu adalah waktu ModerationLabel terdeteksi, didefinisikan sebagai jumlah milidetik yang berlalu sejak awal video. Untuk hasil yang dikumpulkan berdasarkan video SEGMENTSStartTimestampMillis, DurationMillis strukturEndTimestampMillis, dan dikembalikan, yang menentukan waktu mulai, waktu akhir, dan durasi segmen masing-masing.

Agregasi - Menentukan bagaimana hasil dikumpulkan ketika dikembalikan. Defaultnya adalah agregat denganTIMESTAMPS. Anda juga dapat memilih untuk agregat menurutSEGMENTS, yang mengumpulkan hasil melalui jendela waktu. Hanya label yang terdeteksi selama segmen yang dikembalikan.

Status adaptor Moderasi Kustom

Adaptor Moderasi Kustom dapat berada di salah satu status berikut: TRAINING_IN_PROGRESS, TRAINING_COMPLETED, TRAINING_FAILED, DELETING, DEPRECATED, atau EXPIRED. Untuk penjelasan lengkap tentang status adaptor ini, lihat Mengelola adaptor.

catatan

Amazon Rekognition bukanlah otoritas, dan sama sekali tidak mengeklaim sebagai filter lengkap dari konten yang tidak pantas atau menyinggung. Selain itu, API moderasi gambar dan video tidak mendeteksi apakah suatu gambar menyertakan konten ilegal, seperti CSAM.

Menguji Moderasi Konten versi 7 dan mengubah respons API

Rekognition memperbarui model pembelajaran mesin untuk komponen video gambar fitur deteksi label Moderasi Konten dari versi 6.1 hingga 7. Pembaruan ini meningkatkan akurasi keseluruhan, dan memperkenalkan beberapa kategori baru bersama dengan memodifikasi yang lain.

Jika Anda adalah pengguna video versi 6.1 saat ini, kami sarankan Anda untuk mengambil tindakan berikut untuk transisi mulus ke versi 7:

  1. Unduh dan gunakan AWS private SDK (lihatAWS SDK dan Panduan Penggunaan untuk Moderasi Konten versi 7 ) untuk memanggil StartContentModeration API.

  2. Tinjau daftar label dan skor kepercayaan yang diperbarui yang ditampilkan dalam respons API atau konsol. Sesuaikan logika pasca-pemrosesan aplikasi Anda jika perlu.

  3. Akun Anda akan tetap di versi 6.1 hingga 13 Mei 2024. Jika Anda ingin menggunakan versi 6.1 setelah 13 Mei 2024, hubungi tim AWS Support paling lambat 30 April 2024 untuk meminta perpanjangan. Kami dapat memperpanjang akun Anda untuk tetap pada versi 6.1 hingga 10 Juni 2024. Jika kami tidak mendengar kabar dari Anda pada 30 April 2024, akun Anda akan secara otomatis dimigrasikan ke versi 7.0 mulai 13 Mei 2024.

AWS SDK dan Panduan Penggunaan untuk Moderasi Konten versi 7

Unduh SDK yang sesuai dengan bahasa pengembangan pilihan Anda, dan lihat panduan pengguna yang sesuai.

Pemetaan label untuk Versi 6.1 hingga 7

Moderasi konten versi 7 menambahkan kategori label baru dan memodifikasi nama label yang sudah ada sebelumnya. Referensikan tabel taksonomi yang ditemukan pada Kategori Label saat memutuskan cara memetakan 6.1 label ke 7 label.

Beberapa contoh pemetaan label ditemukan di bagian berikut. Kami menyarankan Anda meninjau pemetaan ini dan definisi label sebelum membuat pembaruan yang diperlukan berdasarkan logika pasca-pemrosesan aplikasi Anda.

Skema Pemetaan L1

Jika Anda menggunakan logika pasca-pemrosesan yang hanya memfilter pada kategori tingkat atas (L1) (sepertiExplicit Nudity,Suggestive, Violence dll), lihat tabel di bawah ini untuk memperbarui kode Anda.

V6.1 L1 V7 L1
Ketelanjangan Eksplisit Eksplisit
Sugestif Ketelanjangan Non-Eksplisit dari bagian intim dan ciuman
Pakaian Renang atau Pakaian Dalam
Kekerasan Kekerasan
Secara Visual Mengganggu Secara Visual Mengganggu
Tindakan Kasar Tindakan Kasar
Narkoba Obat-obatan & Tembakau
Tembakau Obat-obatan & Tembakau
Alkohol Alkohol
Judi Judi
Simbol Kebencian Simbol Kebencian

Skema Pemetaan L2

Jika Anda menggunakan logika pasca-pemrosesan yang memfilter pada kategori L1 dan L2 (sepertiExplicit Nudity / Nudity, Suggestive / Female Swimwear Or Underwear, Violence / Weapon Violence dll.), Lihat tabel di bawah ini untuk memperbarui kode Anda.

V6.1 L1 V6.1 L2 V7 L1 V7 L2 V7 L3 V7 ContentTypes
Ketelanjangan Eksplisit Ketelanjangan Eksplisit Ketelanjangan Eksplisit

Puting Wanita Terpapar

Bokong atau Anus Terpapar

Grafik Ketelanjangan Laki-Laki Eksplisit Ketelanjangan Eksplisit Alat Kelamin Pria Terpapar
Grafik Ketelanjangan Perempuan Eksplisit Ketelanjangan Eksplisit Alat Kelamin Wanita Terpapar
Aktivitas Seksual Eksplisit Aktivitas Seksual Eksplisit
Gambaran Ketelanjangan Eksplisit Eksplisit Ketelanjangan Eksplisit Peta ke “Animasi” dan “Ilustrasi”
Gambaran Ketelanjangan Eksplisit Eksplisit Aktivitas Seksual Eksplisit Peta ke “Animasi” dan “Ilustrasi”
Mainan Dewasa Eksplisit Mainan Seks
Sugestif Pakaian Renang Atau Pakaian Dalam Perempuan Pakaian Renang atau Pakaian Dalam Pakaian Renang atau Pakaian Dalam Wanita
Pakaian Renang Atau Pakaian Dalam Laki-Laki Pakaian Renang atau Pakaian Dalam Pakaian Renang atau Pakaian Dalam Pria
Ketelanjangan Sebagian Ketelanjangan Non-Eksplisit dari bagian intim dan ciuman Ketelanjangan Non-Eksplisit Ketelanjangan Tersirat
Laki-Laki Bertelanjang Dada Ketelanjangan Non-Eksplisit dari bagian intim dan ciuman Ketelanjangan Non-Eksplisit Puting Pria Terpapar
Mengungkap Pakaian Ketelanjangan Non-Eksplisit dari bagian intim dan ciuman Ketelanjangan Non-Eksplisit
Ketelanjangan Non-Eksplisit dari bagian intim dan ciuman Bagian Intim yang Terhambat
Situasi Seksual Ketelanjangan Non-Eksplisit dari bagian intim dan ciuman Berciuman di Bibir
Kekerasan Kekerasan Grafis Atau Gore Kekerasan Kekerasan Grafis Darah & Gore
Kekerasan Fisik Kekerasan Kekerasan Grafis Kekerasan Fisik
Kekerasan Senjata Kekerasan Kekerasan Grafis Kekerasan Senjata
Senjata Kekerasan Senjata
Melukai Diri Sendiri Kekerasan Kekerasan Grafis Menyakiti Diri Sendiri
Secara Visual Mengganggu Badan yang Kurus Secara Visual Mengganggu Kematian dan Kurus Kurus Badan yang Kurus
Mayat Secara Visual Mengganggu Kematian dan Kurus Kurus Mayat
Menggantung Secara Visual Mengganggu Kematian dan Kurus Kurus Mayat
Kecelakaan Udara Secara Visual Mengganggu Kecelakaan Kecelakaan Udara
Ledakan Dan Letusan Kekerasan Kekerasan Grafis Ledakan dan Ledakan
Tindakan Kasar Jari Tengah Tindakan Kasar Jari Tengah
Narkoba Produk Narkoba Obat-obatan & Tembakau Produk
Penggunaan Narkoba Obat-obatan & Tembakau Obat-obatan & Perlengkapan Tembakau & Penggunaan
Pil Obat-obatan & Tembakau Produk Pil
Obat Paraphernalia Obat-obatan & Tembakau Obat-obatan & Perlengkapan Tembakau & Penggunaan
Tembakau Produk Tembakau Obat-obatan & Tembakau Produk
Merokok Obat-obatan & Tembakau Obat-obatan & Perlengkapan Tembakau & Penggunaan Merokok
Alkohol Minum Alkohol Penggunaan Alkohol Minum
Minuman Beralkohol Alkohol Minuman Beralkohol
Judi Judi Judi
Simbol Kebencian Partai Nazi Simbol Kebencian Partai Nazi
Supremasi Putih Simbol Kebencian Supremasi Putih
Ekstremis Simbol Kebencian Ekstremis