AWS SRA를 위한 제너레이티브 AI

이 섹션에서는 사용자와 조직의 생산성과 효율성을 개선하기 위해 제너레이티브 AI를 안전하게 사용하기 위한 최신 권장 사항을 제공합니다. 이 백서는 다중 계정 환경에서 모든 AWS 보안 서비스를 배포하기 위한 AWS SRA의 전체적인 지침을 기반으로 Amazon Bedrock의 사용에 초점을 맞춥니다. 이 지침은 SRA를 기반으로 하여 엔터프라이즈급 보안 프레임워크 내에서 생성적 AI 기능을 사용할 수 있도록 합니다. Amazon Bedrock 제너레이티브 AI 기능에 특화된 IAM 권한, 데이터 보호, 입력/출력 검증, 네트워크 격리, 로깅 및 모니터링과 같은 주요 보안 제어를 다룹니다.

이 지침의 대상 독자는 제너레이티브 AI 기능을 조직 및 애플리케이션에 안전하게 통합할 책임이 있는 보안 전문가, 아키텍트 및 개발자입니다. 

SRA는 다음과 같은 Amazon Bedrock 제너레이티브 AI 기능에 대한 보안 고려 사항 및 모범 사례를 살펴봅니다. 

• 역량 1. 개발자와 데이터 과학자에게 기본 모델에 대한 보안 액세스 및 사용 제공 (모델 추론)

• 역량 2. 검색 증강 세대 (RAG) 솔루션의 보안 액세스, 사용 및 구현 제공

• 역량 3. 자율 생성 AI 에이전트의 보안 액세스, 사용 및 구현 제공

• 역량 4. 모델 사용자 지정의 보안 액세스, 사용 및 구현 제공

이 지침에서는 사용 사례에 따라 Amazon Bedrock 생성 AI 기능을 기존 AWS 워크로드에 통합하는 방법도 다룹니다. 

이 지침의 다음 섹션에서는 이러한 네 가지 기능 각각에 대해 자세히 설명하고, 기능이 무엇인지에 대한 근거와 용도에 대해 설명하고, 기능과 관련된 보안 고려 사항을 다루고, AWS 서비스 및 기능을 사용하여 보안 고려 사항 (수정) 을 해결할 수 있는 방법을 설명합니다. 기반 모델 (기능 1) 사용의 근거, 보안 고려 사항 및 해결 방법은 모두 모델 추론을 사용하기 때문에 다른 모든 기능에도 적용됩니다. 예를 들어, 비즈니스 애플리케이션이 검색 증강 생성 (RAG) 기능을 갖춘 사용자 지정된 Amazon Bedrock 모델을 사용하는 경우 기능 1, 2, 4의 근거, 보안 고려 사항 및 수정 사항을 고려해야 합니다.

다음 다이어그램에 표시된 아키텍처는 이 가이드에서 이전에 설명한 AWS SRA 워크로드 OU의 확장입니다.

특정 OU는 제너레이티브 AI를 사용하는 애플리케이션 전용입니다. OU는 특정 비즈니스 기능을 제공하는 기존 AWS 애플리케이션을 호스팅하는 애플리케이션 계정으로 구성됩니다. 이 AWS 애플리케이션은 Amazon Bedrock이 제공하는 제너레이티브 AI 기능을 사용합니다. 이러한 기능은 관련 Amazon Bedrock 및 관련 AWS 서비스를 호스팅하는 제너레이티브 AI 계정에서 제공됩니다. 애플리케이션 유형에 따라 AWS 서비스를 그룹화하면 OU 및 AWS 계정별 서비스 제어 정책을 통해 보안 제어를 시행하는 데 도움이 됩니다. 또한 이를 통해 강력한 액세스 제어와 최소 권한을 더 쉽게 구현할 수 있습니다. 참조 아키텍처에는 이러한 특정 OU 및 계정 외에도 모든 애플리케이션 유형에 적용되는 기본 보안 기능을 제공하는 추가 OU 및 계정이 나와 있습니다. 조직 관리, 보안 도구, 로그 아카이브, 네트워크 및 공유 서비스 계정에 대해서는 이 가이드의 이전 섹션에서 설명합니다.

설계 고려 사항

소프트웨어 개발 수명 주기 (SDLC) 환경 (예: 개발, 테스트 또는 프로덕션) 을 기반으로 또는 모델 또는 사용자 커뮤니티별로 제너레이티브 AI 계정을 더 세분화할 수 있습니다.

• SDLC 환경에 따른 계정 분리: SDLC 환경을 별도의 OU로 분리하는 것이 가장 좋습니다. 이렇게 분리하면 각 환경 및 지원에 대한 적절한 격리 및 제어가 보장됩니다. 이 커널은 다음을 제공합니다.

  • 통제된 액세스. 다양한 팀 또는 개인에게 역할과 책임에 따라 특정 환경에 대한 액세스 권한을 부여할 수 있습니다. 

  • 리소스 격리. 각 환경은 다른 환경을 방해하지 않고 자체 전용 리소스 (예: 모델 또는 지식 기반) 를 보유할 수 있습니다. 

  • 비용 추적. 각 환경과 관련된 비용을 개별적으로 추적하고 모니터링할 수 있습니다. 

  • 위험 완화. 한 환경 (예: 개발) 에서의 문제나 실험은 다른 환경 (예: 프로덕션) 의 안정성에 영향을 미치지 않습니다. 

• 모델 또는 사용자 커뮤니티에 따른 계정 분리: 현재 아키텍처에서는 하나의 계정으로 AWS Bedrock을 통한 추론을 위해 여러 FM (기초 모델) 에 액세스할 수 있습니다. IAM 역할을 사용하여 사용자 역할 및 책임에 따라 사전 교육된 FM에 대한 액세스 제어를 제공할 수 있습니다. (예를 들어 Amazon Bedrock 설명서를 참조하십시오.) 반대로 위험 수준, 모델 또는 사용자 커뮤니티에 따라 제너레이티브 AI 계정을 분리할 수도 있습니다. 이는 특정 시나리오에서 유용할 수 있습니다. 

  • 사용자 커뮤니티 위험 수준: 사용자 커뮤니티마다 위험 수준이나 액세스 요구 사항이 서로 다른 경우 별도의 계정을 사용하면 적절한 액세스 제어 및 필터를 적용하는 데 도움이 될 수 있습니다. 

  • 맞춤형 모델: 고객 데이터로 사용자 지정된 모델의 경우 교육 데이터에 대한 포괄적인 정보를 사용할 수 있는 경우 별도의 계정을 통해 더 나은 격리 및 제어를 제공할 수 있습니다. 

이러한 고려 사항을 기반으로 사용 사례와 관련된 특정 요구 사항, 보안 요구 사항 및 운영 복잡성을 평가할 수 있습니다. Amazon Bedrock과 사전 교육된 FM에 중점을 두는 경우 IAM 역할을 가진 단일 계정을 사용하는 것이 실행 가능한 접근 방식이 될 수 있습니다. 하지만 모델 또는 사용자 커뮤니티 분리에 대한 특정 요구 사항이 있거나 고객이 제공하는 모델을 사용할 계획이라면 별도의 계정이 필요할 수 있습니다. 궁극적으로는 보안, 운영 복잡성, 비용 고려 사항 등 애플리케이션별 요구 사항과 요인을 기반으로 결정을 내려야 합니다.

참고: 다음 설명과 예제를 단순화하기 위해 이 가이드에서는 IAM 역할을 사용하는 단일 제너레이티브 AI 계정 전략을 가정합니다.

Amazon Bedrock

Amazon Bedrock은 기초 모델 (FM) 을 사용하여 제너레이티브 AI 애플리케이션을 구축하고 확장할 수 있는 쉬운 방법입니다. 완전 관리형 서비스로서 AI21 Labs, Anthropic, Cohere, Meta, Stability AI 및 Amazon을 포함한 주요 AI 회사의 고성능 FM을 선택할 수 있습니다. 또한 제너레이티브 AI 애플리케이션을 구축하는 데 필요한 광범위한 기능을 제공하며 개인 정보 보호 및 보안을 유지하면서 개발을 간소화합니다. FM은 제너레이티브 AI 애플리케이션 및 솔루션 개발을 위한 빌딩 블록 역할을 합니다. Amazon Bedrock에 대한 액세스 권한을 제공함으로써 사용자는 사용자 친화적인 인터페이스 또는 Amazon Bedrock API를 통해 이러한 FM과 직접 상호 작용할 수 있습니다. Amazon Bedrock의 목표는 다양한 모델로의 빠른 피벗을 지원하는 동시에 신속한 실험, 사용자 지정 및 프로덕션 환경에 배포할 수 있도록 단일 API를 통해 모델 선택을 제공하는 것입니다. 모든 것은 모델 선택에 달려 있습니다.

사전 학습된 모델을 실험하고, 특정 사용 사례에 맞게 모델을 사용자 지정하고, 이를 애플리케이션 및 워크플로에 통합할 수 있습니다. FM과의 직접적인 상호 작용을 통해 조직은 복잡한 모델을 처음부터 학습하는 데 필요한 광범위한 리소스나 전문 지식 없이도 제너레이티브 AI 솔루션의 프로토타이핑과 반복 작업을 신속하게 수행하고, 최신 기계 학습 기술을 활용할 수 있습니다. Amazon Bedrock 콘솔은 이러한 강력한 제너레이티브 AI 기능에 액세스하고 사용하는 프로세스를 간소화합니다.

Amazon Bedrock은 데이터의 개인 정보 보호 및 보안에 도움이 되는 다양한 보안 기능을 제공합니다. 

• Amazon Bedrock에서 처리되는 모든 사용자 콘텐츠는 사용자에 의해 격리되고 저장 시 암호화되며 Amazon Bedrock을 사용하는 AWS 지역에 저장됩니다. 또한 콘텐츠는 최소 TLS 1.2를 사용하여 전송 중에도 암호화됩니다. Amazon Bedrock의 데이터 보호에 대해 자세히 알아보려면 Amazon Bedrock 설명서를 참조하십시오. 

• Amazon Bedrock은 프롬프트와 완료 메시지를 저장하거나 기록하지 않습니다. Amazon Bedrock은 사용자의 프롬프트와 완료 메시지를 사용하여 AWS 모델을 교육하지 않으며 타사에 배포하지 않습니다.

• FM을 튜닝할 때 변경 내용에는 해당 모델의 개인 사본이 사용됩니다. 즉, 데이터는 모델 제공자와 공유되거나 기본 모델을 개선하는 데 사용되지 않습니다. 

• Amazon Bedrock은 자동화된 악용 탐지 메커니즘을 구현하여 AWS 책임 있는 AI 정책의 잠재적 위반을 식별합니다. Amazon Bedrock의 악용 사례 탐지에 대해 자세히 알아보려면 Amazon Bedrock 설명서를 참조하십시오. 

• Amazon Bedrock은 국제 표준화 기구 (ISO), 시스템 및 조직 통제 (SOC), 연방 위험 및 권한 관리 프로그램 (FedRAMP) 보통, 클라우드 보안 연합 (CSA) 보안 신뢰 보증 및 위험 (STAR) 레벨 2를 비롯한 일반적인 규정 준수 표준의 적용 범위에 포함됩니다. Amazon Bedrock은 건강 보험 양도 및 책임법 (HIPAA) 자격을 갖추고 있으며, 일반 데이터 보호 규정 (GDPR) 을 준수하여 이 서비스를 사용할 수 있습니다. AWS 서비스가 특정 규정 준수 프로그램의 범위 내에 있는지 알아보려면 규정 준수 프로그램별 AWS 범위 내 서비스를 참조하고 관심 있는 규정 준수 프로그램을 선택하십시오. 

자세히 알아보려면 제너레이티브 AI에 대한 AWS 보안 접근 방식을 참조하십시오. 

아마존 베드락용 가드레일

Amazon Bedrock용 Guardrails를 사용하면 사용 사례와 책임 있는 AI 정책을 기반으로 제너레이티브 AI 애플리케이션에 대한 보호 조치를 구현할 수 있습니다. Amazon Bedrock의 가드레일은 구성할 수 있는 필터, 차단하도록 정의할 수 있는 주제, 콘텐츠가 차단되거나 필터링될 때 사용자에게 보낼 메시지로 구성됩니다.

콘텐츠 필터링은 6가지 유해 카테고리에 걸친 사용자 입력 (입력 검증) 및 FM 응답 (출력 검증) 의 신뢰도 분류에 따라 달라집니다. 모든 입력 및 출력 설명은 각 유해 범주에 대한 네 가지 신뢰 수준 (없음, 낮음, 중간, 높음) 중 하나로 분류됩니다. 각 범주에 대해 필터의 강도를 구성할 수 있습니다. 다음 표는 각 필터 강도가 차단하고 허용하는 콘텐츠의 정도를 보여줍니다.

필터 강도	차단된 콘텐츠 신뢰도	허용된 콘텐츠 신뢰도
None	필터링 없음	없음, 낮음, 중간, 높음
낮음	높음	없음, 낮음, 중간
중간	하이, 미디엄	없음, 낮음
높음	하이, 미디엄, 로우	None

가드레일을 프로덕션에 배포할 준비가 되면 가드레일 버전을 만들고 애플리케이션에서 가드레일 버전을 호출합니다. Amazon Bedrock 설명서의 가드레일 테스트 섹션에 있는 API 탭의 단계를 따르십시오. 

보안

기본적으로 가드레일은 AWS 키 관리 서비스 (AWS KMS) 의 AWS 관리형 키로 암호화됩니다. 승인되지 않은 사용자가 가드레일에 대한 액세스 권한을 획득하여 원치 않는 변경이 발생하는 것을 방지하려면 고객 관리 키를 사용하여 가드레일을 암호화하고 최소 권한 IAM 권한을 사용하여 가드레일에 대한 액세스를 제한하는 것이 좋습니다.

아마존 베드락 모델 평가

Amazon Bedrock은 모델 평가 작업을 지원합니다. 모델 평가 작업의 결과를 사용하여 모델 출력을 비교한 다음 다운스트림 제너레이티브 AI 애플리케이션에 가장 적합한 모델을 선택할 수 있습니다.

자동 모델 평가 작업을 사용하면 사용자 지정 프롬프트 데이터셋 또는 내장 데이터세트를 사용하여 모델의 성능을 평가할 수 있습니다. 자세한 내용은 Amazon Bedrock 설명서의 자동 모델 평가 생성 및 모델 평가 작업에서의 프롬프트 데이터세트 사용을 참조하십시오.

인간 근로자를 사용하는 모델 평가 작업은 직원 또는 주제 전문가의 의견을 평가 프로세스에 반영합니다. 

보안

모델 평가는 개발 환경에서 이루어져야 합니다. 비프로덕션 환경 구성에 대한 권장 사항은 다중 계정을 사용한 AWS 환경 구성 백서를 참조하십시오.

모든 모델 평가 작업에는 IAM 권한과 IAM 서비스 역할이 필요합니다. 자세한 내용은 Amazon Bedrock 콘솔을 사용하여 모델 평가 작업을 생성하는 데 필요한 권한, 서비스 역할 요구 사항 및 필수 CORS (출처 간 리소스 공유) 권한에 대한 Amazon Bedrock 설명서를 참조하십시오. 인간 작업자를 사용하는 자동 평가 작업과 모델 평가 작업에는 서로 다른 서비스 역할이 필요합니다. 모델 평가 작업을 수행하는 역할에 필요한 정책에 대한 자세한 내용은 Amazon Bedrock 설명서에서 자동 모델 평가 작업에 대한 서비스 역할 요구 사항 및 인간 평가자를 사용하는 모델 평가 작업에 대한 서비스 역할 요구 사항을 참조하십시오.

사용자 지정 프롬프트 데이터 세트의 경우 S3 버킷에 CORS 구성을 지정해야 합니다. 필요한 최소 구성은 Amazon Bedrock 설명서를 참조하십시오. 작업자를 사용하는 모델 평가 작업에서는 작업 팀이 필요합니다. 모델 평가 작업을 설정하고 Amazon SageMaker Ground Truth에서 관리하는 개인 인력에 작업자를 추가하는 동시에 작업 팀을 생성 또는 관리, 생성 또는 관리할 수 있습니다. 작업 설정 외부에서 Amazon Bedrock에 생성된 작업 팀을 관리하려면 Amazon Cognito 또는 Amazon SageMaker Ground Truth 콘솔을 사용해야 합니다. Amazon Bedrock은 작업 팀당 최대 50명의 근로자를 지원합니다.

모델 평가 작업 중에 Amazon Bedrock은 데이터의 임시 사본을 만든 다음 작업이 끝난 후 데이터를 삭제합니다. AWS KMS 키를 사용하여 암호화합니다. 기본적으로 데이터는 AWS 관리형 키로 암호화되지만, 대신 고객 관리형 키를 사용하는 것이 좋습니다. 자세한 내용은 Amazon Bedrock 설명서의 모델 평가 작업에 대한 데이터 암호화를 참조하십시오.