翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。
コンテンツのモデレーション
Amazon Rekognition を使用して、不適切、望まない、または不快なコンテンツを検出できます。ソーシャルメディア、放送メディア、広告、電子商取引の状況で Rekognition モデレーション API を使用して、より安全なユーザーエクスペリエンスを作成し、広告主にブランド安全を保証し、ローカルおよびグローバル規制に準拠できます。
今日、多くの企業は、第三者またはユーザーが生成したコンテンツをレビューするために人間のモデレーターに完全に依存しており、他の企業はユーザーの苦情に単に反応して、攻撃的または不適切な画像、広告、動画を削除しています。しかし、人間のモデレーターだけでは十分な品質やスピードでこれらのニーズを満たすようにスケールすることはできず、ユーザーエクスペリエンスの低下、スケール達成のための高コスト、ブランドの評判の喪失につながります。Rekognition をイメージおよびビデオのモデレーションに使用することで、人間のモデレーターは、機械学習によってすでにフラグが付けられている総ボリュームの 1 - 5% のかなり小さいコンテンツセットを確認することができます。これにより、より価値ある活動に集中し、既存のコストの一部で包括的なモデレーションカバレッジを実現できます。人間の労働力をセットアップし、ヒューマンレビュータスクを実行するには、すでに Rekognition と統合されている Amazon Augmented AI を使用できます。
カスタムモデレーション機能を使用すると、モデレーション深層学習モデルの精度を高めることができます。カスタムモデレーションでは、イメージをアップロードして注釈を付けることにより、カスタムモデレーションアダプターをトレーニングします。その後、トレーニング済みアダプターをDetectModerationラベルオペレーションに提供して、イメージのパフォーマンスを向上させることができます。詳細については、「カスタムモデレーションによる精度の向上」を参照してください。
Rekognition コンテンツモデレーションオペレーションでサポートされているラベル
-
モデレーションラベルのリストをダウンロードするには、ここをクリックします。
トピック
次の図は、コンテンツモデレーションのイメージまたはビデオコンポーネントを使用する目標に応じて、 オペレーションを呼び出す順序を示しています。
イメージとビデオのモデレーション API の使用
Amazon Rekognition Image API では、DetectModerationラベルを使用して不適切、望ましくない、または不快なコンテンツを同期的に検出し、 StartMediaAnalysisJob および GetMediaAnalysisJobオペレーションを使用して非同期的に検出できます。Amazon Rekognition Video API を使用して、StartContentモデレーションおよびGetContentモデレーションオペレーションを使用して、このようなコンテンツを非同期的に検出できます。
ラベルのカテゴリ
Amazon Rekognition は、3 レベルの階層分類を使用して、不適切、望ましくない、または不快なコンテンツのカテゴリにラベル付けします。分類レベル 1 (L1) の各ラベルには多数の分類レベル 2 ラベル (L2) があり、一部の分類レベル 2 ラベルには分類レベル 3 ラベル (L3) がある場合があります。これにより、コンテンツの階層分類が可能になります。
検出されたモデレーションラベルごとに、API はラベルTaxonomyLevelが属するレベル (1、2、または 3) を含む も返します。例えば、イメージには、次の分類に従ってラベルを付けることができます。
L1: Intimate parts and Kissing の非明示的なヌード、L2: Non-Explicit Nudity、L3: Implied Nudity。
注記
L1 または L2 カテゴリを使用してコンテンツをモデレートし、L3 カテゴリを使用して、モデレートしたくない特定の概念 (モデレーションポリシーに基づいて不適切、望ましくない、または不快なコンテンツとして分類したくないコンテンツを検出する) を削除することをお勧めします。
次の表は、カテゴリレベルと各レベルの可能なラベルとの関係を示しています。モデレーションラベルのリストをダウンロードするには、ここをクリックします。
| トップレベルカテゴリ (L1) | 第 2 レベルカテゴリ (L2) | 第 3 レベルカテゴリ (L3) | 定義 |
|---|---|---|---|
| 明示的 | Explicit Nudity (明示的なヌード) | 露出した男性のジェネレーター | ペニス (勾配か弛緩かにかかわらず）、精包、および識別可能な有恥性毛を含む、人間の男性の娯楽。この用語は、性的活動、または男性の膠原病が完全または部分的に表示される視覚的コンテンツを含むコンテキストに適用されます。 |
| 公開された冪等性ジニタリア | 外反、膣、および観察可能な褥瘡を含む女性の膠質系の外部部分。この用語は、性的活動を含むシナリオや、女性の解剖学のこれらの側面が完全にまたは部分的に表示される視覚的コンテンツに適用されます。 | ||
| 露出した臀部または肛門 | 人間の臀部または肛門。臀部が裸の場合や、純粋な衣服で識別できる場合が含まれます。この定義は特に、臀部または肛門が直接かつ完全に見える状況に適用されます。ただし、アンダーウェアまたは衣類が完全または部分的に適用されるシナリオは除きます。 | ||
| 露出した冪上ニップル | 完全に見えて部分的に見えるエアロラ (ニップルを囲むエリア) やニップルを含む、人間の女性のニップル。 | ||
| 明示的な性的アクティビティ | 該当なし | 人間の性的性交、性的性行為、男性の性行為、他の身体部位や物体による女性性行為を含む、実際の性行為またはシミュレートされた性行為の表現。この用語には、身体部位の射精や虐待、絆創膏、規律、優勢と従属、サドマゾシズムを含む虐待行為やロールプレイも含まれます。 | |
| 性玩具 | 該当なし | ダイルド、バイブレーター、バットプラグ、ビートなど、性的嗜好または性的嗜好に使用されるオブジェクトまたはデバイス。 | |
| 密接な部分とキッシングの非明示的なヌード | 明示的でないヌード | ベアバック | 人間の後頭部で、大多数のスキンが首から首の最後まで見える部分。この用語は、個人の背部が部分的にまたは完全に塞がれている場合には適用されません。 |
| 露出したオスニップル | 部分的に見えるニップルを含む、人間の男性のニップル。 | ||
| 部分的に露出した臀部 | 部分的に露出した人間の臀部。この用語には、短い衣類による臀部または臀部頬の一部が見える領域、または肛門裂の上部の一部が見える領域が含まれます。この用語は、臀部が完全にヌードの場合には適用されません。 | ||
| 部分的に露出した扇形 | 部分的に露出した人間の女性虹彩。女性虹彩の一部が、虹彩全体を明らかにしずに表示または発見されます。この用語は、内側の剣状包の領域が見える場合、または下部の剣状包がニップルで完全に覆われている、または閉じ込められている状態で見える場合に適用されます。 | ||
| 暗黙的なヌード | トップレスまたはボトムレスのヌードだが、臀部、ニップル、僧侶などの褐色部分が覆われている、閉じ込められている、または完全には見えない個人。 | ||
| ブロックされた近接パーツ | 障害物のある尖ったニップル | 女性のニップルが不透明な衣類やカバーで覆われているが、その形状が明確に見える状況の視覚的な表現。 | |
| 男性ジタリアがブロックされている | 男性の過度品やペニスが不透明な衣服や被覆で覆われているが、その形状が明確に見える状況の視覚的な表現。この用語は、イメージ内の肥大化がクローズアップされている場合に適用されます。 | ||
| 唇でのキス | 該当なし | ある人物の唇が別の人物の唇と接触する様子。 | |
| 水着またはアンダーウェア | スイムウェアまたはアンダーウェア | 該当なし | 女性用水着 (水着、バイキニス、タンキニなど) と女性用下着 (ブラウジング、パンジー、ショート、ランジェリー、トングなど) の人間の衣服 |
| 男性用水着または下着 | 該当なし | 男性の水着 (水着トランク、ボードショート、水着ショートなど) と男性のアンダーウェア (ショート、ボクサーなど) 用の人間の衣服 | |
| Violence (暴力) | Weapons (武器) | 該当なし | 生き物、構造、またはシステムに害や損害を与えるために使用される機器またはデバイス。これには、銃器 (銃、ライフル、機関銃など）、シャープな武器 (剣、銃など）、弾薬、弾薬 (ミサイル、弾丸など) が含まれます。 |
| グラフィック暴力 | Weapon Violence (武器による暴力) | 自分自身、他の個人、または資産に損害、損傷、損傷、または死亡を引き起こすための武器の使用。 | |
| Physical Violence (身体的な暴力) | 他の個人や資産に害を与える行為 (ヒット、叩きつけ、髪の毛のプルなど）、または群集や複数の個人が関与するその他の暴力行為。 | ||
| セルフアラーム | 自分自身に害を与える行為。多くの場合、手足や脚などの身体部分を切断し、切断が通常見られるようにします。 | ||
| ボーンとゴア | 開いた傷、流涎、損傷した身体部位を含む、人、個人のグループ、または動物に対する暴力の視覚的表現。 | ||
| 爆発とブラスト | 濃い煙、または地面から発生する埃や煙を伴う強烈な火の暴力的で破壊的なバーストの表現。 | ||
| Visually Disturbing (視覚的に不快なもの) | 墨消し | Emaciated Bodies (痩せこけた身体) | 非常に細く、重度の物理的浪費や、嗜好性や脱力嗜好性の枯渇を伴う、十分に嗜好されていない人体。 |
| Corpses (死体) | 人体が切断された体、ハンギングされた体、またはスケルトンの形で。 | ||
| クラッシュ | 航空事故 | 損傷、損傷、または死亡につながる、飛行機、ヘリ、その他の飛行車両などの航空車両のインシデント。この用語は、航空車両の一部が見える場合に適用されます。 | |
| 薬物とタバコ | 製品 | 薬物 | 小さい、実体で、多くの場合、円形または楕円形のテーブルまたはカプセル。この用語は、スタンドアロン、ボトル内、または透明なパケットとして提示されるピルに適用され、ピルを使用している人物の視覚的な表現には適用されません。 |
| 薬物とタバコの寄稿者と使用 | 喫煙 | タバコ、葉巻、電子タバコ、ハッカー、ジョイントなど、焼き付けた物質を呼び出す、呼ぶ、および点火する行為。 | |
| アルコール | アルコールの使用 | 飲酒 | アルコールやアルコールのアルコールやアルコールのアルコールやアルコールからアルコールを貪食する行為。 |
| アルコール飲料 | 該当なし | アルコールまたはリキュール、アルコールまたはリキュールを含む眼鏡またはマグ、および個人が保持するアルコールまたはリキュールを含む眼鏡またはマグの 1 つ以上の持ち出しをクローズアップします。この用語は、アルコールやアルコールのアルコールやアルコールからの個々の離脱には適用されません。 | |
| 失礼なジェスチャー | ミドルフィンガー | 該当なし | 中指を使用した手のジェスチャの視覚的な表現は上方向に延長され、他の指は下に折りたたまれます。 |
| ギャンブル | 該当なし | 該当なし | カード、ブラックジャック、ルーレット、カジノのスロットマシンなど、カジノで賞品を獲得する機会を得るための試合に参加する行為。 |
| ヘイト記号 | ナチ党 | 該当なし | ナチ党に関連するシンボル、フラグ、またはジェスチャの視覚的な表現。 |
| ホワイトスプレマシー | 該当なし | Ku Kux Klan (KKK) に関連付けられたシンボルまたは衣類と、南国のフラグが付いたイメージの視覚的な表現。 | |
| 過激派 | 該当なし | 過激派と過激派のグループフラグを含むイメージ。 |
L2 カテゴリのすべてのラベルに L3 カテゴリでサポートされているラベルがあるわけではありません。さらに、「Products」および「Drug and Tobacco Paraphernalia and Use」L2 ラベルの下にある LL3 ラベルは、すべてを網羅しているわけではありません。これらの L2 ラベルは、前述の L3 ラベル以外の概念を対象としており、そのような場合は、L2 ラベルのみが API レスポンスで返されます。
用途に合ったコンテンツであるかどうかはお客様が判断します。例えば、暗示的な性質のイメージは受け入れ、ヌードを含むイメージは拒否することができます。イメージをフィルタリングするには、 (イメージ) と DetectModerationLabels (GetContentModerationビデオ) によって返されるModerationLabelラベル配列を使用します。
コンテンツタイプ
API はアニメーション化されたコンテンツタイプまたは図で示されているコンテンツタイプを識別することもできます。コンテンツタイプはレスポンスの一部として返されます。
アニメーションコンテンツには、ビデオゲームとアニメーション (漫画、漫画、漫画、アニメなど) が含まれます。
図に示されているコンテンツには、描画、ペイント、スケッチが含まれます。
信頼度
MinConfidence 入力パラメータを指定することで、安全でないコンテンツを検出するために Amazon Rekognition によって使用される信頼度のしきい値を設定できます。検出された安全でないコンテンツの信頼度が MinConfidence よりも低い場合、そのコンテンツのラベルは返されません。
値を 50% MinConfidence未満に指定すると、多数の偽陽性の結果 (再現率が高い、精度が低い) が返される可能性があります。一方、50% MinConfidenceを超える値を指定すると、偽陽性の結果の数が少なくなる可能性があります (再現率が低く、精度が高い）。MinConfidence の値を指定しない場合、 Amazon Rekognition は少なくとも 50% の信頼度で検出された安全でないコンテンツのラベルを返します。
ModerationLabel 配列には、上のカテゴリのラベルと検出されたコンテンツの精度を示す推定信頼度が含まれます。最上位ラベルは、識別された第 2 レベルラベルと共に返されます。例えば、Amazon Rekognition では「明示的なヌード」を最上位のラベルの高い信頼スコアと共に返すことができます。場合によりますが、フィルタ処理のニーズにはこれで十分です。ただし、必要に応じて、第 2 レベルラベル ([Graphic Male Nudity (男性のヌードイメージ)] など) の信頼スコアを使用して、よりきめ細かなフィルタ処理が可能です。例については、不適切なイメージの検出を参照してください。
バージョニング
Amazon Rekognition イメージと Amazon Rekognition Video は、両方とも、不適切なコンテンツの検出に使用されるモデレーション検出のバージョンを返します (ModerationModelVersion)。
並び替えと集計
を使用して結果を取得する場合 GetContentModeration、結果をソートして集計できます。
並べ替えの順序 – 返されるラベルの配列は時間を基準に並べ替えられます。ラベル別に並べ替えるには、GetContentModeration の SortBy 入力パラメータに NAME を指定します。ビデオ内でラベルが複数回表示されている場合、ModerationLabel 要素のインスタンスは複数になります。
ラベル情報 — ModerationLabels配列要素には ModerationLabel オブジェクトが含まれており、オブジェクトにはラベル名と、検出されたラベルの精度に対する Amazon Rekognition の信頼度が含まれます。タイムスタンプは ModerationLabel が検出された時間を表し、ビデオの開始から経過した時間がミリ秒数として定義されます。ビデオ SEGMENTS ごとに集計された結果では、StartTimestampMillis、EndTimestampMillis、DurationMillis 構造が返され、それぞれセグメントの開始時間、終了時間、持続時間を定義します。
集計 — 結果が返されたときの集計方法を指定します。デフォルトでは TIMESTAMPS によって集計されます。また、SEGMENTS による集計を選択することもできます。この方法では、時間枠の結果が集計されます。このセグメント中に検出されたラベルのみが返されます。
カスタムモデレーションアダプターのステータス
カスタムモデレーションアダプターは、TRAINING_IN_PROGRESS、TRAINING_COMPLETED、TRAINING_FAILED、DELETING、DEPRECATED、または EXPIRED のいずれかのステータスになります。これらのアダプターのステータスの詳細については、「アダプターの管理」を参照してください。
注記
Amazon Rekognitionは、不適切または不快なコンテンツに関する権威ではなく、また網羅的なフィルタリングであると主張するものではありません。また、イメージおよびビデオのモデレーション API は、CSAM などの違法なコンテンツが含まれているかどうかは検出しません。
Content Moderation バージョン 7 のテストと API レスポンスの変換
Rekognition は、コンテンツモデレーションラベル検出機能のイメージビデオコンポーネントの機械学習モデルをバージョン 6.1 から 7 に更新しました。この更新により、全体的な精度が向上し、いくつかの新しいカテゴリと他のカテゴリの変更が導入されました。
バージョン 6.1 の現在のビデオユーザーの場合は、バージョン 7 にシームレスに移行するために、次のアクションを実行することをお勧めします。
-
AWS プライベート SDK をダウンロードして使用し (「」を参照AWS コンテンツモデレーションバージョン 7 の SDK と使用ガイド ）、 StartContentModeration API を呼び出します。
-
API レスポンスまたはコンソールで返されるラベルと信頼スコアの更新リストを確認します。必要に応じて、アプリケーションの後処理ロジックを調整します。
-
アカウントは 2024 年 5 月 13 日までバージョン 6.1 のままになります。2024 年 5 月 13 日以降にバージョン 6.1 を使用する場合は、2024 年 4 月 30 日までに AWS サポートチーム
に連絡して 拡張機能をリクエストしてください。アカウントを 2024 年 6 月 10 日までバージョン 6.1 のままに延長できます。2024 年 4 月 30 日までに連絡がない場合、お客様のアカウントは 2024 年 5 月 13 日から自動的にバージョン 7.0 に移行されます。
AWS コンテンツモデレーションバージョン 7 の SDK と使用ガイド
選択した開発言語に対応する SDK をダウンロードし、適切なユーザーガイドを参照してください。
バージョン 6.1 から 7 のラベルマッピング
コンテンツモデレーションバージョン 7 では、新しいラベルカテゴリが追加され、既存のラベル名が変更されました。6.1 ラベルを 7 つのラベルにマッピングする方法を決定する ラベルのカテゴリ ときは、 にある分類表を参照してください。
ラベルマッピングの例については、次のセクションを参照してください。アプリケーションの後処理ロジックに基づいて必要な更新を行う前に、これらのマッピングとラベル定義を確認することをお勧めします。
L1 マッピングスキーマ
最上位カテゴリ (L1) (Explicit Nudity、 などViolence) のみをフィルタリングする後処理ロジックを使用する場合はSuggestive、以下の表を参照してコードを更新します。
| V6.1 L1 | V7 L1 |
|---|---|
| Explicit Nudity (明示的なヌード) | 明示的 |
| Suggestive (暗示的) | 密接な部分とキッシングの明示的でないヌード |
| 水着またはアンダーウェア | |
| Violence (暴力) | Violence (暴力) |
| Visually Disturbing (視覚的に不快なもの) | Visually Disturbing (視覚的に不快なもの) |
| 失礼なジェスチャー | 失礼なジェスチャー |
| 薬物 | 薬物とタバコ |
| たばこ | 薬物とタバコ |
| アルコール | アルコール |
| ギャンブル | ギャンブル |
| ヘイト記号 | ヘイト記号 |
L2 マッピングスキーマ
L1 と L2 の両方のカテゴリ ( など) をフィルタリングする後処理ロジックを使用する場合はExplicit Nudity / Nudity, Suggestive / Female Swimwear Or Underwear、以下の表を参照してコードを更新しますViolence / Weapon Violence。
| V6.1 L1 | V6.1 L2 | V7 L1 | V7 L2 | V7 L3 | V7 ContentTypes |
|---|---|---|---|---|---|
| Explicit Nudity (明示的なヌード) | Nudity (ヌード) | 明示的 | Explicit Nudity (明示的なヌード) | 露出した尖ったニップル 露出した臀部または肛門 |
|
| Graphic Male Nudity (男性のヌードイメージ) | 明示的 | Explicit Nudity (明示的なヌード) | 露出した男性のジェネレーター | ||
| Graphic Female Nudity (女性のヌードイメージ) | 明示的 | Explicit Nudity (明示的なヌード) | 露出した冪等性器 | ||
| Sexual Activity (性的な行為) | 明示的 | 明示的な性的アクティビティ | |||
| 明示的なヌード | 明示的 | Explicit Nudity (明示的なヌード) | 「アニメーション」と「図」にマップする | ||
| 明示的なヌード | 明示的 | 明示的な性的アクティビティ | 「アニメーション」と「図」にマップする | ||
| Adult Toys (アダルト用玩具) | 明示的 | 性玩具 | |||
| Suggestive (暗示的) | Female Swimwear Or Underwear (女性の水着または下着) | 水着またはアンダーウェア | スイムウェアまたはアンダーウェア | ||
| Male Swimwear Or Underwear (男性の水着または下着) | 水着またはアンダーウェア | 男性用水着またはアンダーウェア | |||
| Partial Nudity (部分的なヌード) | 密接な部分とキッシングの明示的でないヌード | 明示的でないヌード | 暗黙的なヌード | ||
| 上裸の男性 | 密接な部分とキッシングの明示的でないヌード | 明示的でないヌード | 露出したオスニップル | ||
| Revealing Clothes (露出の多い衣服) | 密接な部分とキッシングの明示的でないヌード | 明示的でないヌード | |||
| 密接な部分とキッシングの明示的でないヌード | ブロックされた近接パーツ | ||||
| 性的状況 | 密接な部分とキッシングの明示的でないヌード | 唇でのキス | |||
| Violence (暴力) | Graphic Violence Or Gore (暴力または流血場面のグラフィック) | Violence (暴力) | グラフィック暴力 | ボーンとゴア | |
| Physical Violence (身体的な暴力) | Violence (暴力) | グラフィック暴力 | Physical Violence (身体的な暴力) | ||
| Weapon Violence (武器による暴力) | Violence (暴力) | グラフィック暴力 | Weapon Violence (武器による暴力) | ||
| Weapons (武器) | Violence (暴力) | Weapons (武器) | |||
| Self Injury (自傷) | Violence (暴力) | グラフィック暴力 | セルフアラーム | ||
| Visually Disturbing (視覚的に不快なもの) | Emaciated Bodies (痩せこけた身体) | Visually Disturbing (視覚的に不快なもの) | 墨消し | Emaciated Bodies (痩せこけた身体) | |
| Corpses (死体) | Visually Disturbing (視覚的に不快なもの) | 墨消し | Corpses (死体) | ||
| Hanging (首つり) | Visually Disturbing (視覚的に不快なもの) | 墨消し | Corpses (死体) | ||
| 航空事故 | Visually Disturbing (視覚的に不快なもの) | クラッシュ | 航空事故 | ||
| 爆発と爆発 | Violence (暴力) | グラフィック暴力 | 爆発とブラスト | ||
| 失礼なジェスチャー | ミドルフィンガー | 失礼なジェスチャー | ミドルフィンガー | ||
| 薬物 | 医薬品の製品 | 薬物とタバコ | 製品 | ||
| 薬物使用 | 薬物とタバコ | 薬物とタバコの寄稿者と使用 | |||
| 薬物 | 薬物とタバコ | 製品 | 薬物 | ||
| 薬物道具類 | 薬物とタバコ | 薬物とタバコの寄稿者と使用 | |||
| たばこ | タバコ製品 | 薬物とタバコ | 製品 | ||
| 喫煙 | 薬物とタバコ | 薬物とタバコの寄稿者と使用 | 喫煙 | ||
| アルコール | 飲酒 | アルコール | アルコールの使用 | 飲酒 | |
| アルコール飲料 | アルコール | アルコール飲料 | |||
| ギャンブル | ギャンブル | ギャンブル | |||
| ヘイト記号 | ナチ党 | ヘイト記号 | ナチ党 | ||
| ホワイトスプレマシー | ヘイト記号 | ホワイトスプレマシー | |||
| 過激派 | ヘイト記号 | 過激派 |
