SHAP — 게임 이론 기반 Shapley 값 설명
SHAP — 게임 이론 기반 Shapley 값 설명
SHAP(SHapley Additive exPlanations) 는 게임 이론의 Shapley 값으로 머신러닝 모델 출력을 설명하는 방법이에요. 최적의 크레딧 배분을 로컬 설명과 연결해, 어떤 특징이 예측에 얼마나 기여했는지 보여줘요.
특징
- 모델 무관(model-agnostic): 트리, 선형 모델, 신경망 등 어떤 모델에도 적용돼요.
- 텍스트·이미지 지원: 감성 분석, 번역, 요약, 질의응답, 언어 모델, 이미지 분류·캡셔닝 예제를 제공해요.
- Explainability API:
explainer,masker,plot등으로 통일된 설명·시각화 API를 제공해요.
pip install shap 또는 conda install -c conda-forge shap 로 설치해요.
Shapley 값이란
각 특징을 '협력 게임의 플레이어'로 보고, 모든 가능한 부분집합에서의 한계 기여를 평균낸 값이에요. 그래서 기여도를 공정하게 배분해요.