가드레일 공급자: Pillar Security

가드레일 공급자: Pillar Security

LiteLLM은 Pillar Security와의 연동을 위한 가드레일을 지원해요. AI 애플리케이션 보안·거버넌스를 위한 Pillar의 위협 탐지 및 정책 강제 기능을 프록시 트래픽에 적용해요.

출처: 문서

본문

개요 (Overview)

Pillar Security 가드레일은 프롬프트 인젝션, 유해 콘텐츠, 정책 위반 등 AI 트래픽 위험을 감지·완화하기 위해 Pillar 플랫폼과 통합해요. 조직의 보안·거버넌스 정책을 LLM 워크로드에 적용할 수 있어요.

구성 (Configuration)

guardrails 섹션 아래에 Pillar Security 가드레일을 정의하세요:

guardrails:
  - guardrail_name: "pillar-guard"
    litellm_params:
      guardrail: pillar_security
      mode: [pre_call, post_call]
      api_key: os.environ/PILLAR_API_KEY
      api_base: os.environ/PILLAR_API_BASE
      default_on: true
      ...

참고 사항 (Notes)

인증, 파라미터, 정책 구성의 자세한 내용은 원문 문서를 참고하세요.