Guardrails — LLM 출력 검증 가드레일 프레임워크
Guardrails AI
Guardrails는 LLM이 내는 출력을 검증하고 규칙에 맞게 고치는 오픈소스 프레임워크예요. 모델이 할루시네이션이나 규정 위반 텍스트를 만들었을 때, 미리 정의해 둔 '가드레일(validator)'로 잡아내서 통과·재시도·차단을 결정할 수 있어요. Guard 객체에 여러 validator를 묶어 쓰는 구조라서, 채팅·RAG·구조화 출력 등 다양한 앱에 얹기 좋아요.
이 카테고리의 문서
- 개요: Guardrails와 Guard 설정·parse
- 핵심 기능: FAQ로 보는 validator·Guardrails Hub·서버 배포
- 실전·API: Guard.use와 on_fail 동작