Jailbreak Defense — 탈옥 공격을 탐지하고 차단한다

Jailbreak Defense

Jailbreaking(탈옥) 은 공격자가 모델의 안전 장치를 무시하게 만드는 프롬프트 주입의 한 형태예요. Jailbreak Defense(탈옥 방어) 는 이런 공격 프롬프트를 생성 전에 탐지·차단하는 기법이에요. Azure AI Content Safety의 Prompt Shields와 LLM 취약점 스캐너 garak이 대표적이에요.

이 카테고리의 문서

• 개요: Azure Prompt Shields — 공격 입력 탐지·차단
• 핵심 기능: garak — LLM 취약점 스캐너
• 실전·API: OWASP LLM01 — 프롬프트 주입과 완화 전략

출처: https://learn.microsoft.com/en-us/azure/ai-services/content-safety/concepts/jailbreak-detection