가드레일 테스트 플레이그라운드

가드레일 테스트 플레이그라운드 (Guardrail Testing Playground)

여러 가드레일을 인터랙티브 플레이그라운드 인터페이스로 실시간 테스트하고 비교할 수 있어요.

guardrail_playground

출처: 문서

본문

가드레일 테스트 플레이그라운드 사용법

가드레일 테스트 플레이그라운드를 이용하면 샘플 입력으로 다양한 가드레일의 동작을 빠르게 테스트하고 비교할 수 있어요.

가드레일 테스트 단계

  1. Guardrails 섹션으로 이동 — LiteLLM Admin UI를 열고 Guardrails 섹션으로 이동해요.
  2. 테스트 플레이그라운드 열기 — 페이지 상단의 Test Playground 탭을 클릭해요.
  3. 테스트할 가드레일 선택 — 비교하고 싶은 가드레일을 체크해요. 여러 가드레일을 선택하면 같은 입력에 각각 어떻게 응답하는지 볼 수 있어요.
  4. 입력 넣기 — 텍스트 영역에 테스트 입력을 입력하거나 붙여 넣어요. 프롬프트, 메시지 등 가드레일로 검증하고 싶은 어떤 텍스트든 가능해요.
  5. 테스트 실행 — Test guardrails 버튼을 클릭하거나 Enter를 눌러요.
  6. 결과 확인 — 각 선택한 가드레일의 출력을 확인하고, 같은 입력을 각각 어떻게 처리하는지 비교해요. 결과에는 각 가드레일이 입력을 통과시켰는지 차단했는지가 표시돼요.

사용 사례 (Use Cases)

가드레일 솔루션을 평가하는 보안 팀(Security Teams) 과 LiteLLM 관리자(LiteLLM Admins) 에게 이상적이에요.

LiteLLM 사용자에게는 다음과 같은 이점이 있어요:

  • 가드레일 응답 비교: 같은 프롬프트를 여러 공급자(Lakera, Noma AI, Bedrock Guardrails 등)에서 동시에 테스트할 수 있어요.
  • 설정 검증: 프로덕션 배포 전에 가드레일이 원하는 위협을 실제로 잡아내는지 확인할 수 있어요.

더 알아보기 (Learn more)