Amazon Quick의 AI 가드레일

Amazon Quick은 Amazon Quick 웹 경험에서 채팅 상호 작용을 안전하고 책임감 있게 유지하는 데 도움이 되는 defense-in-depth 접근 방식을 취합니다. 여러 안전 계층이 함께 작동하여 상호 작용의 여러 지점에서 서로 다른 위험을 해결합니다. 단일 계층은 모든 위험을 자체적으로 포착하도록 설계되지 않았습니다.

Amazon Quick AI 기능의 사용에는 AWS 웹 사이트의 AWS 책임 AI 정책이 적용됩니다.

다음 주제에서는 이러한 제어의 작동 방식과 이를 구성하는 방법을 설명합니다.

AI 안전 제어가 함께 작동하는 방식

Amazon Quick은 다음 컨트롤을 함께 사용합니다.

• 기본 제공 안전 검사 - Amazon Bedrock 가드레일 및 빠른 보호 기능은 유해한 콘텐츠에 대한 사용자 요청을 검사합니다. 여기에는 증오 발언, 모욕, 성적 콘텐츠, 폭력 및 불법 행위가 포함됩니다. 이러한 검사는 프롬프트 공격에 대한 사용자 요청도 평가합니다.

• 프롬프트 수준 안전 지침 - Quick은 모델에 책임감 있는 행동을 장려하고, 안전 설정을 재정의하려는 시도에 저항하고, 내부 시스템 정보가 노출되지 않도록 지시합니다.

• 액세스 및 권한 제어 - 자격 증명, 데이터 액세스 및 작업 권한 제어는 상호 작용 중에 사용할 수 있는 데이터와 작업을 제한합니다. 이러한 제한은 로그인한 사람의 권한과 일치합니다. 자격 증명 및 권한에 대한 자세한 내용은 빠른 자격 증명 및 액세스 관리 및 섹션을 참조하세요사용자 지정 권한.

• 관리자 구성 제어 - Amazon Quick 웹 경험에서 채팅 상호 작용을 위해 차단된 단어와 문구를 설정할 수 있습니다.

이러한 제어는 위험을 줄이는 데 도움이 됩니다. 그러나 사용 사례에 맞게 액세스, 권한, 에이전트, 흐름 및 데이터 소스를 구성할 책임은 대체되지 않습니다.

차단된 단어 및 문구

Amazon Quick 웹 경험에서 채팅 상호 작용에서 최대 50개의 단어 또는 문구를 차단할 수 있습니다. 이는 채팅 에이전트 및 흐름에 적용됩니다. 각 항목은 최대 36자를 포함할 수 있습니다. 빠른 검사는 이러한 문구에 대한 사용자 요청과 생성된 응답을 모두 확인합니다. Quick은 기본적으로 단어나 문구를 차단하지 않습니다.

차단된 단어 및 문구 추가

다음 절차에 따라 Amazon Quick 웹 경험에서 채팅 에이전트 및 흐름에 대해 차단된 단어와 문구를 추가합니다.

차단된 단어 및 문구를 추가하려면

1. Quick에 로그인하고 Manage Quick을 선택합니다.

2. 탐색 창에서 사용자 지정을 선택한 다음 채팅 에이전트 사용자 지정을 선택합니다.

3. 채팅 에이전트 사용자 지정의 가드레일 및 안전 제어에서 추가를 선택하여 차단된 단어와 문구를 추가합니다. 최대 50개의 단어와 문구를 추가할 수 있습니다. 각 항목은 최대 36자를 포함할 수 있습니다.

차단된 단어 및 구문 편집

다음 절차에 따라 Amazon Quick 웹 경험에서 채팅 에이전트 및 흐름에 대해 차단된 단어와 문구를 추가하거나 제거합니다.

차단된 단어 및 문구를 편집하려면

1. Quick에 로그인하고 Manage Quick을 선택합니다.

2. 탐색 창에서 사용자 지정을 선택한 다음 채팅 에이전트 사용자 지정을 선택합니다.

3. 채팅 에이전트 사용자 지정의 가드레일 및 안전 제어에서 제거를 선택하여 기존 항목을 제거하거나 추가를 선택하여 항목을 추가합니다. 최대 50개의 단어와 문구를 추가할 수 있습니다. 각 항목은 최대 36자를 포함할 수 있습니다.