입력 데이터에 대해 샤플리 값을 계산하여 입력 데이터의 각 요소가 학습된 모델 출력 값에 대하여 가지는 공헌도를 분석하여 설명 가능성을 제시하는 접근 방법으로, 많은 계산량으로 속도가 느리다는 단점과 전역적 해석 가능성을 제공한다는 장점을 가짐.1
활용 및 발전방향
- 실무 적용: SHAP 개념을 실제 프로젝트나 업무 상황에 직접 적용해 이해를 심화한다.
- 연관 개념 학습: 관련 노트와 연결하여 맥락을 넓히고 응용 범위를 확장한다.
- 비교 분석: 유사한 방법론·도구와 비교하며 장단점을 파악한다.
- 참고 자료 탐색: 공식 문서나 전문 서적을 통해 더 깊은 이해를 추구한다.
- 사례 수집: 실제 사례를 꾸준히 수집하여 이 노트를 발전시킨다.
관련 노트
- AGI — 공유 키워드:
AI,딥러닝,실제 - Active Learning — 공유 키워드:
AI,딥러닝,실제 - Annotation — 공유 키워드:
AI,딥러닝,실제 - Atros Convolution — 공유 키워드:
AI,딥러닝,실제 - Attention mechanism — 공유 키워드:
AI,딥러닝,실제
Footnotes
-
쉽게 활용하는 인공지능 비즈니스 ↩