문돌이 존버/데이터 분석
2021. 8. 2.
(Explainable AI) LIME 개념 이해하기
LIME이란? Local surrogate model(한국어로 굳이 번역하자면 "국소 대체 모델")은 블랙박스 머신러닝 모델의 개별 예측을 설명하는 데 쓰이는 해석 가능한(interpretable) 모델입니다. 여기서 잠깐! surrogate model의 개념에 대해 간단하게 살펴보고 가보죠. Surrogate Model Surrogate 분석이란, 본래 기능을 흉내내는 대체재를 만들어 프로토타입이 동작하는지 판단하는 분석 방법입니다. XAI에서도 원본 AI 모델이 너무 복잡하여, 연산적인 제약으로 분석이 불가할 때 유사한 기능을 흉내내는 AI 모델 여러 개를 만들어 분석하는 것을 말합니다. 본래 분석해야 하는 모델을 $f$라고 할 때, 이를 흉내내는 모델 $g$를 만드는 것이 surrogate 분석의 ..
