가드레일 공급자: Microsoft Purview

가드레일 공급자: Microsoft Purview

LiteLLM은 Microsoft Purview와의 연동을 위한 가드레일을 지원해요. 조직의 데이터 거버넌스·컴플라이언스 정책에 따라 LLM 트래픽을 검사·보호해요.

출처: 문서

본문

개요 (Overview)

Microsoft Purview 가드레일은 Microsoft의 데이터 보안·거버넌스 서비스를 활용해, 프록시를 통과하는 LLM 입력/출력에서 민감 정보와 정책 위반을 감지하고 보호해요. 조직의 컴플라이언스 요구사항을 LLM 사용량에 적용할 수 있어요.

구성 (Configuration)

guardrails 섹션 아래에 Microsoft Purview 가드레일을 정의하세요:

guardrails:
  - guardrail_name: "purview-guard"
    litellm_params:
      guardrail: <provider>           # Microsoft Purview 통합 공급자
      mode: [pre_call, post_call]
      default_on: true
      ...

참고 사항 (Notes)

Purview 인증(자격 증명), 정책 설정, 지원되는 제공자와 검사 유형에 대한 자세한 내용은 원문 문서를 참고하세요.