요청 스로틀링(Request throttling) 처리
요청 스로틀링(Request throttling) 처리
Amazon ECS API를 호출할 때 요청이 스로틀링되면 ThrottlingException 오류가 발생할 수 있어요. 스로틀링을 이해하고 처리하는 방법을 알아보세요.
출처: 문서
본문
Amazon ECS API는 계정과 리전별로 요청 속도에 제한이 있어요. 이 한도를 초과하면 요청이 스로틀링되어 ThrottlingException이나 유사한 오류가 반환될 수 있어요.
스로틀링 처리
스로틀링을 처리하려면 다음 모범 사례를 따르세요:
- 지수 백오프(Exponential backoff) – 실패한 요청을 지수적으로 증가하는 대기 시간을 두고 재시도해요.
- 요청률 줄이기 – 불필요한 API 호출을 줄이고, 필요한 경우 배치나 캐싱을 사용해요.
- 재시도 로직 – 일시적인 스로틀링에 대비해 재시도 로직을 구현해요.
- 필터 사용 – 리소스를 효율적으로 조회해 호출 횟수를 줄여요(예:
Describe*호출 최소화).
AWS SDK를 사용하면 대부분의 서비스에서 재시도와 백오프가 자동으로 처리되어요. 특히 ThrottlingException이 발생하면 지수 백오프를 사용해 재시도하는 것이 좋아요.
추가 참고
- 서비스 할당량(service quotas)을 확인해 요청 한도를 파악해요.
- 지속적으로 스로틀링이 발생하면 서비스 할당량 증가를 요청하거나 요청 패턴을 최적화해요.