가드레일 공급자: Noma Security

가드레일 공급자: Noma Security

LiteLLM은 Noma Security와의 연동을 위한 가드레일을 지원해요. AI 애플리케이션 보안에 특화된 Noma의 위협 감지·보호 기능을 프록시 트래픽에 적용해요.

출처: 문서

본문

개요 (Overview)

Noma Security 가드레일은 워크로드 보안과 위협 탐지에 특화된 Noma 플랫폼을 활용해, LLM 입력과 출력에서 프롬프트 인젝션, 민감 데이터 노출, 기타 보안 위험을 감지해요.

구성 (Configuration)

guardrails 섹션 아래에 Noma Security 가드레일을 정의하세요:

guardrails:
  - guardrail_name: "noma-guard"
    litellm_params:
      guardrail: noma_security
      mode: [pre_call, post_call]
      api_key: os.environ/NOMA_API_KEY
      api_base: os.environ/NOMA_API_BASE
      default_on: true
      ...

참고 사항 (Notes)

필요한 환경 변수, 인증 방식, 정책 치환 파라미터 등 자세한 내용은 원문 문서를 참고하세요.