정책 플로우 빌더

정책 플로우 빌더 (Policy Flow Builder)

LiteLLM에서 여러 가드레일·정책을 시각적으로 결합하고 오케스트레이션하는 정책 플로우 빌더를 사용하는 방법을 알려드려요.

출처: 문서

본문

개요 (Overview)

정책 플로우 빌더를 사용하면 복잡한 가드레일 워크플로를 구축할 수 있어요. Pre-call 검사, 중재, 응답 검사 등 여러 단계를 순서대로 연결하고, 특정 조건(키, 팀, 모델, 요청 유형)에 따라 다른 정책 경로를 실행하도록 구성할 수 있어요.

주요 기능 (Key capabilities)

• 여러 가드레일을 단일 정책 플로우로 결합
• 조건부 라우팅 (키/팀/모델/요청 유형별로 다른 정책 적용)
• pre_call → during_call → post_call 단계 오케스트레이션
• 재사용 가능한 정책 구성 요소

설정 예시 (Configuration example)

guardrails:
  - guardrail_name: "policy-flow"
    litellm_params:
      guardrail: policy_flow_builder
      mode: [pre_call, post_call]
      policies:
        - step: pre_call
          guardrail: <가드레일 A>
        - step: post_call
          guardrail: <가드레일 B>
      ...

참고 사항 (Notes)

정책 플로우 문법, 조건부 라우팅 규칙, UI 빌더 사용법의 자세한 내용은 원문 문서를 참고하세요.