garak — LLM 취약점 스캐너
garak — LLM 취약점 스캐너
garak(generative AI red-teaming & assessment kit)은 모델·시스템의 보안을 평가하는 LLM 취약점 스캐너예요. 오픈소스이며 NVIDIA가 후원하고 커뮤니티가 함께 관리해요.
하는 일
- 모델이 탈옥·프롬프트 주입 등 다양한 공격에 얼마나 취약한지 자동으로 테스트해요.
- 레드팀(red-teaming)을 체계적으로 수행해 취약점을 찾아내요.
- 산업 표준으로 자주 추천되는 도구로, 많은 기업이 garak 위에 방어 제품을 만들었어요.
자료
- 코드: github.com/NVIDIA/garak
- 사용자 가이드: docs.garak.ai
- 참조 문서: reference.garak.ai
- 연구 논문: arXiv:2406.11036