TensorFlow Privacy — DP로 훈련하는 옵티마이저
TensorFlow Privacy — DP로 훈련하는 옵티마이저
TensorFlow Privacy 는 차분 프라이버시로 머신러닝 모델을 훈련하는 Python 라이브러리예요. SGD, Adam 같은 기존 옵티마이저를 DP 버전으로 감싸고, 프라이버시 보장을 계산하는 분석 도구를 함께 제공해요.
핵심 기능
- DP 옵티마이저: 그래디언트에 클리핑과 노이즈를 더해 개인 데이터의 영향을 제한해요.
- 프라이버시 분석: DP-SGD의
epsilon(프라이버시 손실)을 계산하는 분석 도구를 제공해요. - 튜토리얼: 기존 옵티마이저를 DP로 감싸는 walkthrough를 포함해요.
어떤 원리인가요
DP-SGD는 각 미니배치 그래디언트를 정해진 노름으로 클리핑한 뒤 노이즈를 더해, 어느 한 샘플의 유무가 결과 분포에 거의 영향을 주지 못하게 해요.