OWASP LLM Top 10 — LLM 애플리케이션 위협 지도
OWASP LLM Top 10 — LLM 애플리케이션 위협 지도
OWASP Top 10 for LLM Applications 는 LLM 애플리케이션이 맞닥뜨리는 가장 심각한 취약점 10가지를 순위로 정리한 커뮤니티 표준이에요. 보안 설계의 시작점이 되는 위협 지도예요.
상위 위협 예
- LLM01 Prompt Injection (프롬프트 인젝션): 사용자 입력에 숨긴 지시가 시스템 프롬프트를 덮어쓰는 공격.
- LLM02 Sensitive Information Disclosure: 모델이 학습·검색 데이터의 민감 정보를 노출.
- LLM05 Supply Chain Vulnerabilities: 타사 모델·플러그인 도입으로 들어오는 위험.
- LLM06 Sensitive Information Disclosure / Excessive Agency: 도구·권한이 과도해 오용되는 문제.
어떻게 활용하나요
- 위협 모델링: 설계 단계에서 어떤 위협이 내 앱에 해당하는지 대조해요.
- 점검 기준: 취약점 목록을 보안 체크리스트로 써요.
- 대응 설계: 각 항목에 대한 방어(입력 검증, 출력 검증, 권한 최소화)를 계획해요.
핵심 메시지
LLM 보안은 단일 도구가 아니라 방어 계층(구조적 분리·입출력 검증·가드레일) 의 조합이에요. OWASP 목록은 그 계층을 어디에 둘지 정하는 지침이죠.