키·팀 레벨 라우터 설정: 전역 규칙을 세밀하게 나누기
키·팀 레벨 라우터 설정: 전역 규칙을 세밀하게 나누기
라우팅 설정을 키(key) 단위와 팀(team) 단위로 쪼개서 적용할 수 있게 하는 기능이에요. 라우팅 전략, 폴백, 재시도, 타임아웃 같은 설정을 전역 하나로만 관리하던 걸, 특정 키나 팀에만 다르게 깔아두려는 게 핵심 아이디어입니다.
이전에는 라우터 설정을 전역으로만 잡았기 때문에, 프록시 인스턴스 전체의 모든 요청에 똑같은 라우팅 전략·폴백·타임아웃·재시도 정책이 적용됐어요. 키·팀 레벨 라우터 설정이 생기면서 이제 훨씬 세밀한 통제가 가능해졌습니다.
무엇이 달라졌나
이제 키나 팀마다 라우팅 동작을 개별화할 수 있어요.
- 라우팅 전략을 키/팀별로 — 예를 들어 우선순위가 높은 키는
least-busy, 다른 팀은latency-based-routing으로 구분 지을 수 있습니다. - 폴백 체인을 다르게 — 키/팀마다 서로 다른 폴백 모델 체인을 구성할 수 있어요.
- 타임아웃·재시도 정책을 개별 설정 — 키 또는 팀 특화된 값으로 지정할 수 있어요.
- 신뢰성 설정 분리 — 쿨다운(cooldown), 허용 실패 수(allowed failures) 같은 것들도 키/팀 단위로 다르게 줍니다.
- 전역 설정 재정의 — 특정 유스케이스에서 필요할 때 전역 설정을 덮어쓸 수 있어요.
어떤 원리로 겹쳐지나
이 기능이 유용한 이유는 전역 → 팀 → 키 순으로 설정이 겹치면서 더 구체적인 범위가 더 넓은 범위를 덮어쓴다는 점입니다. 기본 골격은 전역 설정이 깔려 있고, 팀 레벨이 그 팀에 속한 요청을, 키 레벨이 해당 키의 요청을 다시 다듬는 식이에요. 덕분에 "대부분은 공통 규칙을 따르되, 특정 팀이나 특정 키만 다르게"라는 실무 패턴을 코드 중복 없이 표현할 수 있습니다.
이 설정은 관리 UI(Admin UI)의 라우터 설정 화면에서 키와 팀에 대해 구성합니다. 설정 위치와 필드가 궁금하면 전용 문서에서 이어서 확인하면 돼요.