악성 링크 탐지

악성 링크 탐지

피싱과 악성코드 유포의 가장 흔한 벡터가 악성 URL이라는 점은 널리 알려져 있어요. 공격자는 인기 사이트의 오타 도메인이나 인기 사이트 이름을 딴 서브도메인으로 사용자가 링크를 믿도록 속이기 마련이에요. 이런 링크는 특히 간접 프롬프트 인젝션 공격에서 위험한데, RAG 같은 방식으로 응답 맥락에 쓰이는 문서에 공격자가 콘텐츠를 심어놓으면 그게 그대로 사용자에게 피싱 링크로 보일 수 있거든요. 그래서 LLM이 신뢰할 수 없는 외부 콘텐츠를 받아 사용자에게 응답할 때는 프롬프트 공격 여부를, 그리고 출력에서는 알 수 없는 링크 여부를 함께 검사하는 것이 중요해요.

출처: Malicious Links 공식 문서

Unknown Links 감지기는 전 세계에서 가장 인기 있는 상위 100만 도메인 목록에 없는 URL을 감지해요. 감지기를 다듬기 위해, 애플리케이션이 알지만 인기 100만 밖에 있을 수 있는 신뢰 도메인 목록을 추가할 수 있어요. 이렇게 등록된 신뢰 도메인은 Enforce 모드 프로젝트에서도 감지돼도 플래그로 표시되지 않아요.

허용 도메인은 정책(policy)을 통해 추가할 수 있어요. 도메인을 정의할 때는 서브도메인을 넣지 말고, 도메인 이름과 최상위 도메인(TLD)만 포함해야 해요. 참고로 Unknown Links 감지기는 신뢰도 임계값 수준을 미세 조정할 수 없어요.

더 알아보기