서드파티 스캐너: Protect AI

서드파티 스캐너: Protect AI (Third-party scanner: Protect AI)

Hub를 더 안전하게 만들기 위해 Protect AI와 제휴해 스캐닝을 제공해요. 공개 저장소의 파일이 내부 스캔 시스템 외에도 Guardian에 의해 스캔됩니다.

출처: 문서

본문

[!TIP] 우리 보안 파트너십에 참여하거나 Hub에 스캐닝 정보를 제공하는 데 관심이 있나요? [email protected]로 연락 주세요.

Protect AI의 Guardian은 Knowledge Base 페이지에 상세히 나와 있듯이 pickle, Keras 및 기타 악용을 잡아냅니다. Guardian은 또한 커뮤니티 바운티 Huntr들이 보내주는 리포트의 혜택을 받습니다.

danger.dat에 대한 리포트 예시

Hub를 더 안전하게 만들기 위해 Protect AI와 제휴해 스캐닝을 제공했습니다. 내부 스캔 시스템이 파일을 스캔하는 것과 같은 방식으로, 공개 저장소의 파일은 Guardian이 스캔해요.

프론트엔드는 새 스캐너를 수용하기 위해 이 목적에 맞게 재설계되었습니다:

실행 중인 기능을 확인할 수 있는 예시 저장소: mcpotato/42-eicar-street.

모델 보안 복습 (Model security refresher)

모델을 공유하기 위해 우리는 모델과 상호작용하는 데 사용하는 데이터 구조를 직렬화해 저장과 전송을 용이하게 합니다. 일부 직렬화 형식은 임의 코드 실행(네, pickle이 바로 그겁니다) 같은 악성 악용에 취약해서 모델 공유를 잠재적으로 위험하게 만들어요.

Hugging Face가 모델 공유의 인기 플랫폼이 되면서, 우리는 커뮤니티를 이것으로부터 보호하고 싶습니다. 그래서 picklescan 같은 도구를 개발하고 서드파티 스캐너를 통합한 거예요.

Pickle만이 악용 가능한 유일한 형식이 아닙니다. Keras Lambda 레이어를 악용해 임의 코드 실행을 달성하는 방법은 여기 참조에서 확인할 수 있어요.

더 알아보기 (Learn more)

Hub의 공개 저장소 파일은 내부 스캐너와 Protect AI Guardian이 함께 스캔해 pickle·Keras 같은 직렬화 악용을 탐지해요. 임의 코드 실행에 취약한 직렬화 형식의 위협에서 커뮤니티를 보호하기 위한 조치입니다. 취약점 신고는 [email protected]로 하세요.