함수가 더 많은 요청을 수신하면 Lambda는이 계정 동시성 할당량에 도달할 때까지 이러한 요청을 처리할 수 있도록 실행 환경 수를 자동으로 스케일 업합니다. 그러나 갑작스러운 트래픽 폭증에 대응한 오버스케일링을 방지하기 위해 Lambda는 함수의 스케일 속도를 제한합니다. 이 동시성 확장 속도는 요청 증가에 대응하여 계정의 기능이 스케일 인할 수 있는 최대 속도입니다. (즉, Lambda가 새 실행 환경을 얼마나 빨리 생성할 수 있는지를 의미합니다.) 동시성 확장 속도는 함수에 사용할 수 있는 총 동시성의 양인 계정 수준 동시성 한도와는 다릅니다.
동시성 확장 속도
각 AWS 리전에서, 각 함수에 대한 동시성 규모 조정 속도는 10초당 1,000개의 실행 환경 인스턴스(또는 10초마다 초당 10,000개의 요청)입니다. 즉, Lambda는 10초당 최대 1,000개의 추가 실행 환경 인스턴스를 각 함수에 할당하거나, 초당 10,000개의 추가 요청을 각 함수에 수용할 수 있습니다.
일반적으로 이 제한 사항에 대해 걱정할 필요는 없습니다. Lambda의 스케일 속도는 대부분의 사용 사례에 충분합니다.
동시성 확장 속도가 함수 수준 제한이라는 점은 중요합니다. 즉, 계정의 각 함수가 다른 함수와 독립적으로 스케일할 수 있다는 의미입니다.
참고
실제로 Lambda는 10초당 1,000개의 유닛을 한 번 다시 채우는 대신 시간이 지남에 따라 지속적으로 다시 동시성 확장 속도를 다시 채우기 위해 최선을 다합니다.
Lambda는 동시성 스케일 요금의 미사용 부분을 누적시키지 않습니다. 즉, 어느 시점에서든 조정 속도는 항상 최대 1,000개의 동시 실행 단위라는 의미입니다. 예를 들어 10초 간격으로 사용 가능한 1,000개의 동시 실행 단위를 사용하지 않으면 다음 10초 간격으로 1,000개의 추가 단위가 누적되지 않습니다. 다음 10초 간격에도 동시성 스케일 비율은 여전히 1,000입니다.
함수가 계속해서 점점 더 많은 요청을 수신하는 한, Lambda는 계정의 동시 실행 한도까지 가능한 가장 빠른 속도로 스케일합니다. 예약된 동시성을 구성하여 개별 함수가 사용할 수 있는 동시성의 양을 제한할 수 있습니다. 함수가 확장하는 속도보다 더 빠르게 요청이 수신되거나 함수가 최대 동시성에 도달한 경우 그런 다음 추가 요청은 조절 오류(429 상태 코드)로 인해 실패합니다.
