최소 미처리 요청

최소 미처리 요청 (Least Outstanding Requests) — 풀 구성

이 문서는 현재 미처리(outstanding) 요청 수가 가장 적은 엔드포인트로 트래픽을 보내는 Least Outstanding Requests 스티어링 방식을 풀(pool)에 구성하는 방법과 그 제한 사항을 안내해요.

출처: 문서

본문

Least Outstanding Requests 스티어링 은 현재 미처리 요청 수가 가장 적은 엔드포인트로 트래픽을 보내는 방식을 허용해요.

이 스티어링 정책은 엔드포인트 가중치와 각 엔드포인트의 진행 중(in-flight) 요청 수를 고려해 엔드포인트를 선택해요. 대기 중인 요청이 더 많은 엔드포인트는 다른 엔드포인트에 비해 비례적으로 덜 가중치가 부여돼요.

Least Outstanding Requests 스티어링은 엔드포인트가 동시 요청의 급증으로 쉽게 과부하되기 쉬운 경우 사용하기 가장 좋아요. 이 방식은 적응형 라우팅과 세션 어피니티를 지원해요.

API를 통한 구성

Poolsjson

{
  "origin_steering": {
    "policy": "least_outstanding_requests"
  }
}

풀 구성에 대한 자세한 내용은 API 문서를 참고하세요.

참고

Least Outstanding Requests 스티어링은 로드 밸런서의 글로벌 트래픽 스티어링 정책으로도 구성할 수 있으며, 이 경우 로드 밸런서의 풀에 대해 미처리 요청 수와 random_steering 가중치를 고려해요.

제한 사항

Least Outstanding Requests 스티어링은 DNS-only 로드 밸런서에 포함된 풀에 대해 구성할 수 있지만, no-operation(무작동) 형태로만 지원돼요. DNS-only 로드 밸런서의 풀에 엔드포인트 스티어링 논리가 적용되면 모든 엔드포인트의 미처리 요청 수가 0으로 간주되어, 트래픽은 엔드포인트 가중치에만 기반해 제공돼요.

구성은 가능하지만 부분적 지원 때문에 Least Outstanding Requests 스티어링을 사용하는 풀을 DNS-only 로드 밸런서와 연결하는 것은 권장하지 않아요.

더 알아보기 (Learn more)

엔드포인트 수준 스티어링과 가중치의 개념에 대해 더 알아보려면 오리진 수준 스티어링 문서를 참고하세요.