가드레일 프로바이더
가드레일 프로바이더 (Guardrail Providers)
LiteLLM에서 사용할 수 있는 가드레일(guardrail) 프로바이더들을 정리한 인덱스 페이지예요.
출처: 문서
본문
다양한 가드레일 프로바이더와 관련 페이지 목록이에요. 각 링크에서 자세한 설정을 볼 수 있어요.
- 🗃️ Contributing to Guardrails (3 items) — 가드레일 기여하기
- 📄️ Team Bring-Your-Own Guardrails — 팀 기반 가드레일을 API로 등록하고, 관리자가 LiteLLM UI에서 승인·거부. Generic Guardrail API 가드레일만 이 방식으로 등록 가능해요.
- 📄️ Aim Security — Quick Start
- 📄️ Akto — 프록시를 통과하는 모든 LLM 트래픽에 런타임 보안을 제공. 모든 요청·응답을 인라인 검사하고 위험 점수를 매겨, 유해 행위·데이터 노출·불안전한 동작을 차단해요.
- 📄️ Alice — 프롬프트와 모델 응답을 Alice에 설정한 정책으로 검사. 호출을 허용·차단하거나, 플래그된 텍스트를 대체하거나, 감지를 기록하고 통과시켜요.
- 📄️ Aporia — 요청의 PII와 응답의 욕설(profanity)을 감지
- 📄️ Azure Content Safety Guardrail — Azure Content Safety API를 통해 지원
- 📄️ Bedrock Guardrails — Bedrock 프로바이더 설정·인증이 필요
- 📄️ Context Compression (Compresr) — 질문에 맞춰 LLM 컨텍스트 압축. 도구 출력·검색 문서·DB 결과·RAG 페이로드를 모델 도달 전에 압축
- 📄️ Conduct Guard — 모델 호출 전에 각 프롬프트를 Conduct 워크스페이스로 전송해 평가. 차단 결정(
block,approval)은 400과 규칙 id로 거부 - 📄️ CrowdStrike AIDR — 설정 가능한 탐지 정책으로 확인
- 📄️ Custom Code Guardrail — Python 유사 코드로 커스텀 가드레일 작성(샌드박스 실행)
- 📄️ Custom Guardrail — 커스텀 가드레일 실행 코드 작성
- 📄️ DynamoAI Guardrails — LLM 입력·출력 콘텐츠 모더레이션 및 정책 강제
- 📄️ EnkryptAI Guardrails — LLM 입력·출력 콘텐츠 모더레이션 및 안전 검사
- 📄️ Gray Swan Cygnal Guardrail — 정책 위반, 간접 프롬프트 인젝션(IPI), jailbreak 시도 등을 지속 모니터링
- 📄️ Guardrails AI — guardrailsai.com 으로 LLM 출력에 검사 추가
- 📄️ HiddenLayer Guardrails — HiddenLayer 기본 통합.
/detection/v1/interactions엔드포인트로 요청·응답을 보내 안전하지 않은 콘텐츠를 차단·삭제 - 📄️ IBM Guardrails — IBM FMS Guardrails와 작동. jailbreak, PII, 혐오 발언 등 감지
- 📄️ Javelin Guardrails — AI 안전·콘텐츠 모더레이션. 프롬프트 인젝션 감지, trust & safety 위반, 언어 감지 지원
- 📄️ Lakera AI — Lakera v2 통합은 chat completions 엔드포인트(
/v1/chat/completions)만 지원. Responses API,/v1/messages, MCP, A2A 등은 미지원 - 📄️ Lasso Security — 입력·출력 검증으로 프롬프트 인젝션, 유해 콘텐츠 생성 등 보호
- 📄️ LLM-as-a-Judge — Overview
- 📄️ Microsoft Agent 365 Guardrail — 모든 MCP 도구 호출을 Microsoft Agent 365 평가 API로 전송. allow/block 결정, Microsoft 쪽에 기록
- 📄️ Microsoft Purview Guardrail — Microsoft Graph
processContentAPI로 Purview DLP 정책 지원 - 📄️ Google Cloud Model Armor — Model Armor API로 지원
- 📄️ Noma Security — AI 콘텐츠 모더레이션·안전 가드레일로 LLM 애플리케이션 보호
- 📄️ Onyx Security — Quick Start
- 📄️ OpenAI Moderation — Overview
- 📄️ Pangea — AI Guard 서비스의 설정 가능한 탐지 정책(recipe) 사용
- 📄️ PANW Prisma AIRS — Prisma AIRS Scan API로 Security-as-Code 제공
- 📄️ PII, PHI Masking - Presidio — Overview
- 📄️ Pillar Security — Generic Guardrail API로 통합, AI 보안 스캐닝 제공
- 📄️ In-memory Prompt Injection Detection — 프롬프트 인젝션 탐지 방법 지원
- 📄️ PromptGuard — 프롬프트 인젝션 탐지, PII 삭제, 주제 필터링, 엔티티 블록리스트, 환각 탐지. 셀프호스팅 가능
- 📄️ Qostodian Nexus by Qohash — zero-copy 데이터 보안. 결정적 분류 정책과 LLM-as-a-judge 검사로
ALLOW,LOG,REDACT,BLOCK결정 반환 - 📄️ Qualifire — LLM 출력 품질·안전·신뢰성 평가. 프롬프트 인젝션, 환각, PII, 유해 콘텐츠 탐지
- 📄️ RepelloAI Argus — Repello 대시보드의 에셋별 정책으로 프롬프트·응답 스캔
- 📄️ Rubrik Guardrail — 외부 정책 서비스로 프롬프트·응답 검사, LLM 요청·응답 일괄 로깅
- 📄️ Secret Detection/Redaction (Enterprise-only) — LLM에 보내는 API 키·시크릿을 삭제(REDACT)
- 📄️ Sensitive Data Routing (Built-in Guardrail) — 요청의 민감 데이터를 감지해 차단·삭제 대신 온프레미스 모델로 라우팅. 외부 의존성 불필요
- 📄️ Straiker — 프롬프트·응답(도구 정의·도구 호출 포함)을 검사하고 차단·삭제
- 📄️ LiteLLM Tool Permission Guardrail — 모델이 호출할 수 있는 도구 호출을 허용/거부 규칙으로 제어
- 📄️ Relevance-Based Compaction (TypeSafe / Jev) — 완료된 도구 교환이 현재 작업에 관련 있는지 판단. 관련 없는 결과는 요청 전에 제거
- 📄️ Vigil Guard — 채팅 입력과 모델 출력을 평가
- 📄️ XecGuard — 다중 정책 스캐닝(프롬프트 인젝션, 유해 콘텐츠, PII, 시스템 프롬프트 강제, 스킬 보호)과 RAG 컨텍스트 근거 검증
- 📄️ Zscaler AI Guard — Overview