翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。
コンテンツの節度
Amazon Rekognition を使用して、不適切、望まない、または不快なコンテンツを検出できます。ソーシャルメディア、放送メディア、広告、電子商取引の状況で Rekognition モデレーション API を使用して、より安全なユーザーエクスペリエンスを作成し、広告主にブランド安全を保証し、ローカルおよびグローバル規制に準拠できます。
今日、多くの企業は、第三者またはユーザーが生成したコンテンツをレビューするために人間のモデレーターに完全に依存しており、他の企業はユーザーの苦情に単に反応して、攻撃的または不適切な画像、広告、動画を削除しています。しかし、人間のモデレーターだけでは十分な品質やスピードでこれらのニーズを満たすようにスケールすることはできず、ユーザーエクスペリエンスの低下、スケール達成のための高コスト、ブランドの評判の喪失につながります。Rekognition をイメージおよびビデオのモデレーションに使用することで、人間のモデレーターは、機械学習によってすでにフラグが付けられている総ボリュームの 1 ～ 5% のかなり小さいコンテンツセットを確認することができます。これにより、より価値ある活動に集中し、既存のコストのほんの一部で包括的なモデレーションカバレッジを実現できます。人間の労働力をセットアップし、ヒューマンレビュータスクを実行するには、すでに Rekognition と統合されている Amazon Augmented AI を使用できます。
イメージおよびビデオのモデレーション API の使用
Amazon Rekognition Image API では、DetectModerationLabelsイメージ内の不適切または不快なコンテンツを検出するためのオペレーション。を使用して Amazon Rekognition Video API を使用して、不適切なコンテンツを非同期的に検出できます。StartContentModerationそしてGetContentModerationオペレーション.
Amazon Rekognition では、2 レベルの階層分類を使用して、不適切なコンテンツのカテゴリにラベルが付けられます。最上位カテゴリごとに第 2 レベルカテゴリが複数あります。
| 最上位カテゴリ | 第 2 レベルカテゴリ |
|---|---|
|
Explicit Nudity (明示的なヌード) |
Nudity (ヌード) |
|
Graphic Male Nudity (男性のヌードイメージ) |
|
|
Graphic Female Nudity (女性のヌードイメージ) |
|
|
Sexual Activity (性的な行為) |
|
|
明示的なヌード |
|
|
Adult Toys (アダルト用玩具) |
|
|
Suggestive (暗示的) |
Female Swimwear Or Underwear (女性の水着または下着) |
|
Male Swimwear Or Underwear (男性の水着または下着) |
|
|
Partial Nudity (部分的なヌード) |
|
| 裸の男 | |
|
Revealing Clothes (露出の多い衣服) |
|
| 性的なシチュエーション | |
|
Violence (暴力) |
Graphic Violence Or Gore (暴力または流血場面のグラフィック) |
|
Physical Violence (身体的な暴力) |
|
|
Weapon Violence (武器による暴力) |
|
|
Weapons (武器) |
|
|
Self Injury (自傷) |
|
|
Visually Disturbing (視覚的に不快なもの) |
Emaciated Bodies (痩せこけた身体) |
|
Corpses (死体) |
|
|
Hanging (首つり) |
|
| Air Crash | |
| 爆発と爆発 | |
|
Rude Gestures |
ミドル・フィンガー |
|
薬物 |
医薬品の製品 |
|
薬物使用 |
|
|
丸薬 |
|
|
薬物道具類 |
|
|
たばこ |
タバコ製品 |
|
喫煙 |
|
|
アルコール |
飲む |
|
アルコール飲料 |
|
|
ギャンブル |
ギャンブル |
|
ヘイトシンボル |
ナチス党 |
|
ホワイト・スープレマシー |
|
|
過激派 |
用途に合ったコンテンツであるかどうかはお客様が判断します。たとえば、暗示的な性質のイメージは受け入れ、ヌードを含むイメージは拒否することができます。イメージをフィルタ処理するには、DetectModerationLabels (イメージ) および GetContentModeration (ビデオ) から返される ModerationLabel ラベル配列を使用します。
以下を指定することにより、Amazon Rekognition で不適切なコンテンツを検出するために使用する信頼度のしきい値を設定できます。MinConfidence入力パラメータ。検出された不適切なコンテンツの信頼度よりも低い場合、ラベルは返されませんMinConfidence。
50% 未満の MinConfidence の値を指定すると、多数の誤検出が返される可能性があります。より低い精度での検出が許容される場合にのみ、50% 未満の値を使用することをお勧めします。の値を指定しない場合MinConfidenceでは、Amazon Rekognition では、少なくとも 50% の信頼度で検出された不適切なコンテンツのラベルを返します。
ModerationLabel 配列には、上のカテゴリのラベルと検出されたコンテンツの精度を示す推定信頼度が含まれます。最上位ラベルは、識別された第 2 レベルラベルと共に返されます。たとえば、Amazon Rekognition では「明示的なヌード」を最上位のラベルとして高い信頼スコアとともに返すことができます。場合によりますが、フィルタ処理のニーズにはこれで十分です。ただし、必要に応じて、第 2 レベルラベル ([Graphic Male Nudity (男性のヌードイメージ)] など) の信頼スコアを使用して、よりきめ細かなフィルタ処理が可能です。例については、不適切なイメージの検出 を参照してください。
Amazon Rekognition Image と Amazon Rekognition Video の両方で、不適切なコンテンツの検出に使用されるモデレーション検出のバージョン (ModerationModelVersion).
Amazon Rekognition は、不適切なコンテンツ、または攻撃的なコンテンツの権限ではなく、いかなる意味でもありません。また、イメージおよびビデオモデレーション API は、イメージに児童ポルノなどの違法なコンテンツが含まれているかどうかを検出しません。
