블랙박스 모델

모델이 복잡해질수록 예측의 정확도는 올라가지만, 결과의 해석은 어려워져서 많은 머신 러닝 모델들이 블랙박스 모델이라고 부름. 최근 연구에서는 모델 내부의 다양한 정보를 통해 해석/설명 가능한 AI 연구가 대두되고 있음.¹