서드파티 스캐너: JFrog

서드파티 스캐너: JFrog

JFrog의 보안 스캐너는 머신러닝 모델의 악성 동작을 감지해요.

출처: 문서

본문

danger.dat에 대한 리포트 예시

Hub를 더 안전하게 만들기 위해 JFrog와 파트너십을 맺고 스캐닝을 제공해요. 모델 파일을 JFrog 스캐너로 스캔하고, 그 결과를 Hub 인터페이스에서 공개해요.

JFrog 스캐너는 오탐(false positive)을 줄이는 것을 목표로 만들어졌어요. 실제로 우리가 관찰하는 것은 모델 가중치에 포함된 코드가 항상 악성인 것은 아니라는 거예요. 파일에서 코드가 감지되면 JFrog 스캐너가 그것을 파싱해 잠재적인 악성 사용 여부를 분석해요.

이 기능을 실제로 볼 수 있는 예제 저장소: mcpotato/42-eicar-street.

모델 보안 새로고침

모델을 공유하려면 저장·전송을 쉽게 하기 위해 모델과 상호작용하는 데이터 구조를 직렬화해요. 일부 직렬화 형식은 임의 코드 실행 같은 위험한 익스플로잇에 취약해서(pickle을 생각해 보세요), 모델 공유를 잠재적으로 위험하게 만들 수 있어요.

Hugging Face가 인기 있는 모델 공유 플랫폼이 되었으니 커뮤니티를 이것으로부터 보호하고 싶어요. 그래서 picklescan 같은 도구를 개발하고 서드파티 스캐너를 통합하는 거예요.

Pickle만 익스플로잇 가능한 형식은 아니에요. Keras Lambda 레이어를 악용해 임의 코드 실행을 달성하는 방법은 참고를 보세요.

더 알아보기 (Learn more)