정책 템플릿
정책 템플릿 (Policy Templates)
정책 템플릿은 조직에서 바로 활용할 수 있도록 미리 구성된 가드레일 정책을 제공해요. 정책과 가드레일을 직접 만들 필요 없이, 사용 사례에 맞는 템플릿을 고른 뒤 한 번의 클릭으로 배포할 수 있답니다.
출처: 문서
본문
정책 템플릿 사용하기
UI에서 사용하기
작업 흐름 (Workflow)
Select Template → Review Guardrails → Create Selected → Edit Policy → Save
시스템이 다음 작업을 자동으로 처리해요.
사용 가능한 템플릿 (Available Templates)
템플릿은 GitHub에서 가져오며, 실패 시 자동으로 로컬 백업으로 대체돼요.
현재 템플릿
1. Advanced PII Protection (Australia)
2. Baseline PII Protection
나만의 정책 템플릿 만들기
LiteLLM 커뮤니티 전체가 사용할 수 있도록 정책 템플릿을 기여할 수 있어요.
템플릿 구조 (Template Structure)
템플릿은 다음 구조의 JSON 형식으로 정의돼요.
{
"id": "unique-template-id",
"title": "Display Title",
"description": "Detailed description of what this template protects",
"icon": "ShieldCheckIcon",
"iconColor": "text-purple-500",
"iconBg": "bg-purple-50",
"guardrails": [
"guardrail-name-1",
"guardrail-name-2"
],
"complexity": "Low|Medium|High",
"guardrailDefinitions": [
{
"guardrail_name": "example-guardrail",
"litellm_params": {
"guardrail": "litellm_content_filter",
"mode": "pre_call",
"patterns": [
{
"pattern_type": "prebuilt",
"pattern_name": "email",
"action": "MASK"
}
],
"pattern_redaction_format": "[{pattern_name}_REDACTED]"
},
"guardrail_info": {
"description": "What this guardrail does"
}
}
],
"templateData": {
"policy_name": "policy-name",
"description": "Policy description",
"guardrails_add": ["guardrail-name-1", "guardrail-name-2"],
"guardrails_remove": []
}
}
필드 설명 (Field Descriptions)
표시 필드 (Display Fields)
가드레일 정의 (Guardrail Definitions)
정책 구성 (Policy Configuration)
예시 템플릿 (Example Template)
다음은 HIPAA 규정 준수 템플릿의 완전한 예시예요.
{
"id": "hipaa-compliance",
"title": "HIPAA Compliance Policy",
"description": "Healthcare compliance policy that masks PHI and enforces HIPAA regulations for healthcare applications.",
"icon": "ShieldCheckIcon",
"iconColor": "text-red-500",
"iconBg": "bg-red-50",
"guardrails": [
"phi-detector",
"medical-record-blocker",
"patient-id-masker"
],
"complexity": "High",
"guardrailDefinitions": [
{
"guardrail_name": "phi-detector",
"litellm_params": {
"guardrail": "litellm_content_filter",
"mode": "pre_call",
"patterns": [
{
"pattern_type": "prebuilt",
"pattern_name": "us_ssn",
"action": "MASK"
},
{
"pattern_type": "prebuilt",
"pattern_name": "email",
"action": "MASK"
},
{
"pattern_type": "prebuilt",
"pattern_name": "us_phone",
"action": "MASK"
}
],
"pattern_redaction_format": "[PHI_REDACTED]"
},
"guardrail_info": {
"description": "Detects and masks Protected Health Information (PHI)"
}
}
],
"templateData": {
"policy_name": "hipaa-compliance-policy",
"description": "HIPAA compliance policy for healthcare applications",
"guardrails_add": [
"phi-detector",
"medical-record-blocker",
"patient-id-masker"
],
"guardrails_remove": []
}
}
템플릿 기여하기
누구나 사용할 수 있도록 정책 템플릿을 기여하는 방법이에요.
1단계: 템플릿 JSON 만들기
2단계: Pull Request 제출하기
가이드라인 (Guidelines)
해야 할 것 (DO): 하지 말아야 할 것 (DON'T):
오프라인에서 템플릿 사용하기
에어갭(air-gapped) 또는 오프라인 배포 환경에서는 다음 환경 변수를 설정하세요.
export LITELLM_LOCAL_POLICY_TEMPLATES=true
이렇게 하면 시스템이 GitHub에서 가져오는 대신 로컬 백업(litellm/policy_templates_backup.json)을 강제로 사용해요.
템플릿 소스 (Template Sources)
템플릿은 요청마다 자동으로 GitHub에서 가져오며, 실패 시 로컬 백업으로 대체돼요.
사용 가능한 패턴 유형 (Available Pattern Types)
템플릿용 가드레일을 만들 때 다음 사전 구축 패턴을 사용할 수 있어요.
신분증 (Identity Documents)
금융 (Financial)
연락처 정보 (Contact Information)
자격증명 (Credentials)
네트워크 (Network)
보호 대상 클래스 (Protected Class)
전체 패턴 목록은 전체 패턴 목록 문서에서 확인할 수 있어요.