문돌이 존버/데이터 분석
2021. 7. 23.
(Explainable AI) SHAP에 대해 알아보자!
지난 시간 Shapley Value에 이어 이번엔 SHAP(SHapley Additive exPlanation)에 대해 알아보겠습니다. 그 전에 아래 그림을 보면 Shapley Value가 무엇인지 좀 더 직관적으로 이해할 것입니다. 우리는 보통 왼쪽 그림에 더 익숙해져 있고, 왼쪽에서 나오는 결과값, 즉 예측이든 분류든 얼마나 정확한지에 초점을 맞추고 있습니다. 하지만 모델링을 하면서 반드시 그 원인 인자를 찾고, 얼마나 결과에 영향을 주었는지를 파악해야 할 때가 있죠. 가령 공정 불량률 및 직행률 개선을 위한 프로젝트에선 필수입니다. 도대체 어느 공정에서, 어느 라인에서 문제가 생기는지를 알아야 다시 점검하고 업그레이드할 수 있기 때문입니다. 이렇게 결과를 "설명"하는 것이 중요해지면서 XAI(eXp..
