블루/그린 배포 - 아마존 SageMaker

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

블루/그린 배포

엔드포인트를 업데이트하면 Amazon은 SageMaker 자동으로 블루/그린 배포를 사용하여 엔드포인트의 가용성을 극대화합니다. 블루/그린 배포에서는 업데이트를 통해 새 플릿 (그린 플릿) 을 SageMaker 프로비저닝합니다. 그런 다음 기존 플릿 (파란색 플릿) 에서 녹색 플릿으로 트래픽을 SageMaker 이동합니다. 그린 플릿이 정해진 평가 기간 (베이킹 기간이라고 함) 동안 순조롭게 운영되면 블루 SageMaker 플릿은 종료됩니다. 블루/그린 배포의 추가 기능을 통해, 트래픽 시프팅 모드와 자동 롤백 모니터링을 활용하여 중대한 프로덕션 영향으로부터 엔드포인트를 보호할 수 있습니다.

다음 목록은 블루/그린 배포의 주요 기능을 설명합니다. SageMaker

  • 트래픽 시프팅 모드. 배포 가드레일의 트래픽 시프팅 모드를 사용하면 블루 플릿과 그린 플릿 사이의 트래픽 양과 트래픽 시프팅 단계 수를 제어할 수 있습니다. 이 기능을 사용하면 100% 트래픽 시프팅에 완전히 커밋하지 않고도 그린 플릿의 성능을 점진적으로 평가할 수 있습니다.

  • 베이킹 기간. 베이킹 기간은 다음 배치 단계로 진행하기 전에 그린 플릿을 모니터링하는 데 필요한 정해진 시간입니다. 베이킹 기간 중에 사전 지정된 알람 중 하나라도 트립되면 모든 엔드포인트 트래픽이 블루 플릿으로 롤백됩니다. 베이킹 기간은 트래픽 변화를 영구적으로 적용하기 전에 업데이트에 대한 확신을 심어주는 데 도움이 됩니다.

  • 자동 롤백. 그린 플릿을 모니터링하는 데 SageMaker 사용하는 Amazon CloudWatch 경보를 지정할 수 있습니다. 업데이트된 코드 문제로 인해 경보가 하나라도 발견되면 블루 플릿으로 자동 롤백을 SageMaker 시작하여 가용성을 유지함으로써 위험을 최소화합니다.

트래픽 시프팅 모드.

블루/그린 배포의 다양한 트래픽 시프팅 모드를 사용하면 블루 플릿과 그린 플릿 사이의 트래픽 시프팅을 보다 세밀하게 제어할 수 있습니다. 블루/그린 배포에 사용할 수 있는 트래픽 시프팅 모드는 올앳원스, 캐너리, 리니어 모드입니다. 다음 표는 이 옵션을 비교한 내용입니다.

중요

여러 단계의 트래픽 시프팅 또는 베이킹 기간이 포함된 블루/그린 배포의 경우, 플릿으로 가는 트래픽과 관계없이 업데이트 기간 동안 두 플릿 모두에 대해 요금이 청구됩니다. 이것은 모든 트래픽이 한꺼번에 시프팅되고 베이킹 기간이 없으며 업데이트가 진행되는 동안 한 플릿에 대해서만 요금이 청구되는 블루/그린 배포와는 대조적입니다.

명칭 무엇인가? 장점 단점 권장 사항

한 번에 모두

모든 트래픽이 한 단계로 새 플릿으로 시프팅합니다.

전체 업데이트 기간을 최소화합니다.

회귀 업데이트는 트래픽의 100%에 영향을 미칩니다.

이 옵션을 사용하면 업데이트 시간과 비용을 최소화할 수 있습니다.

캐너리

트래픽은 두 단계로 시프팅합니다. 첫 번째 (캐너리) 단계는 소량의 트래픽을 시프팅하고 두 번째 단계는 나머지 트래픽을 시프팅합니다.

회귀 업데이트의 폭발 반경을 캐너리 플릿으로만 제한합니다.

두 플릿 모두 전체 배포에서 병렬로 운영됩니다.

이 옵션을 사용하면 회귀 업데이트의 폭발 반경을 최소화하는 것과 두 플릿이 작동하는 시간을 최소화하는 것 사이에서 균형을 맞출 수 있습니다.

Linear

트래픽 중 정해진 양이 미리 지정된 수의 동일한 간격의 단계로 시프팅합니다.

트래픽을 여러 단계로 시프팅하여 회귀 업데이트의 위험을 최소화합니다.

업데이트 기간과 비용은 단계 수에 비례합니다.

이 옵션을 사용하면 배포를 여러 단계로 분산하여 위험을 최소화할 수 있습니다.

시작하기

원하는 배포 구성을 지정하면 새 인스턴스 프로비저닝, 기존 인스턴스 종료, 트래픽 이동 등을 자동으로 SageMaker 처리합니다. 기존 UpdateEndpointCreateEndpoint SageMaker API와 명령을 통해 배포를 생성하고 관리할 수 있습니다. AWS Command Line Interface 참고로 엔드포인트가 제외 페이지에 나열된 기능 중 하나를 사용하는 경우 배포 가드레일을 사용할 수 없습니다. 배포 설정 방법에 대한 자세한 내용은 개별 배포 페이지를 참고하십시오.

배포 가드레일을 사용하는 방법을 보여주는 안내 예제를 따라가려면 캐너리 및 선형 트래픽 시프팅 모드에 대한 Jupyter 노트북 예제를 참고하십시오.