독성 음성 감지

독성 음성 감지는 관련 소셜 미디어 플랫폼을 조정하는 데 도움이 되도록 설계되었습니다.peer-to-peer온라인 게임 및 소셜 채팅 플랫폼과 같은 대화 유해한 언어의 사용은 개인, 또래 집단 및 지역 사회에 심각한 해를 끼칠 수 있습니다. 유해 언어를 신고하면 조직에서 예의 바른 대화를 유지하고 사용자가 자유롭게 만들고 공유하고 참여할 수 있는 안전하고 포용적인 온라인 환경을 유지할 수 있습니다.

Amazon Transcribe독성 탐지는 음성 및 텍스트 기반 신호를 모두 활용하여 성희롱, 증오심 발언, 위협, 학대, 욕설, 모욕, 그래픽 등 7가지 범주에 걸쳐 음성 기반 유해 콘텐츠를 식별하고 분류합니다. 텍스트 외에도Amazon Transcribe독성 감지는 어조 및 음높이와 같은 음성 신호를 사용하여 음성의 독성 의도를 파악합니다. 이는 의도를 고려하지 않고 특정 용어에만 초점을 맞추도록 설계된 표준 콘텐츠 조정 시스템을 개선한 것입니다.

Amazon Transcribe유해한 음성에 플래그를 지정하고 분류하여 수동으로 처리해야 하는 데이터의 양을 최소화합니다. 이를 통해 콘텐츠 중재자는 플랫폼에서 담론을 빠르고 효율적으로 관리할 수 있습니다.

독성 음성 범주에는 다음이 포함됩니다.

• 욕설: 무례하거나 저속하거나 모욕적인 단어, 문구 또는 두문자어가 포함된 말.

• 헤이트 스피치: 정체성 (예: 인종, 민족, 성별, 종교, 성적 취향, 능력, 출신 국가) 을 근거로 개인이나 집단을 비판, 모욕, 비인간적으로 표현하는 발언.

• 성적: 신체 부위, 신체적 특징 또는 성별을 직간접적으로 언급하여 성적 관심, 활동 또는 흥분을 나타내는 말.

• 모욕: 비하, 모욕, 조롱, 모욕 또는 얕보는 언어를 포함하는 말. 이러한 유형의 언어는 괴롭힘으로도 분류됩니다.

• 폭력 또는 위협: 개인이나 집단에 고통, 상해 또는 적대감을 주려는 위협을 포함하는 말.

• 그래픽: 시각적으로 묘사적이고 불쾌할 정도로 생생한 이미지를 사용하는 연설. 이러한 유형의 언어는 종종 수신자의 불편함을 증폭시키기 위해 의도적으로 장황하게 사용됩니다.

• 괴롭힘 또는 학대: 비하 및 객관적인 용어를 포함하여 받는 사람의 심리적 안녕에 영향을 미치기 위한 발언. 이러한 유형의 언어는 괴롭힘으로도 분류됩니다.

독성 감지는 음성 세그먼트 (자연스러운 일시 중지 사이의 음성) 를 분석하고 이러한 세그먼트에 신뢰도 점수를 할당합니다. 신뢰도 점수는 0에서 1 사이의 값입니다. 신뢰도 점수가 클수록 관련 카테고리에서 해당 콘텐츠가 유해한 언어일 가능성이 더 높다는 것을 나타냅니다. 이러한 신뢰도 점수를 사용하여 사용 사례에 적합한 독성 검출 임계값을 설정할 수 있습니다.

참고

독성 검출은 미국 영어로 된 배치 전사에만 사용할 수 있습니다.(en-US).

보기예제 출력JSON 형식으로.