정책 태그

정책 태그 (Policy Tags)

LiteLLM에서 가드레일·정책에 태그를 지정해 요청 수준에서 제어하는 방법을 알려드려요.

출처: 문서

본문

개요 (Overview)

정책 태그는 가드레일 실행을 더 세밀하게 제어할 수 있게 해줘요. 태그를 사용해 요청, 키, 팀, 모델에 어떤 검사·정책 조합을 적용할지 구성할 수 있어요.

주요 용도 (Key uses)

• 특정 키/팀에 적용되는 정책 세트를 태그로 그룹화
• 요청 메타데이터의 태그에 따라 가드레일 실행 여부 결정
• 지출·사용량 추적에서 정책 적용 범위 식별

설정 예시 (Configuration example)

가드레일 구성에서 태그를 지정하고 요청에서 태그를 참조해 정책 실행을 제어할 수 있어요:

guardrails:
  - guardrail_name: "tagged-guard"
    litellm_params:
      guardrail: <provider>
      mode: "pre_call"
      tags: ["policy-high", "policy-strict"]

참고 사항 (Notes)

태그 기반 라우팅 문법, 요청에서 태그를 전달하는 방법, 허용 예외·우선 순위 규칙의 자세한 내용은 원문 문서를 참고하세요.