가드레일 공급자: Palo Alto Networks PRISM AIRS

LiteLLM은 Palo Alto Networks PRISM AIRS와의 연동을 위한 가드레일을 지원해요. AI 위험 및 보안 검사를 위해 Palo Alto의 AI Runtime Security 서비스를 활용해요.

출처: 문서

본문

개요 (Overview)

PRISM AI Runtime Security(AIRS) 가드레일은 Palo Alto Networks의 AI 보안 플랫폼을 사용해, 프록시를 통과하는 LLM 트래픽에서 프롬프트 인젝션, 젤브레이크, 민감 데이터 노출, 기타 AI 보안 위험을 감지해요.

구성 (Configuration)

guardrails 섹션 아래에 가드레일을 정의하세요:

guardrails:
  - guardrail_name: "prisma-airs-guard"
    litellm_params:
      guardrail: panw_prisma_airs
      mode: [pre_call, post_call]
      api_key: os.environ/PRISMA_AIRS_API_KEY
      api_base: os.environ/PRISMA_AIRS_API_BASE
      default_on: true
      ...

참고 사항 (Notes)

인증, 정책·템플릿 설정, 파라미터의 자세한 내용은 원문 문서를 참고하세요.