문돌이 존버/데이터 분석
2021. 4. 10.
앙상블 학습 - 부스팅(boosting) 알고리즘 개념 잡기
해당 글은 핸즈온 머신러닝 2판을 기준으로 작성되었습니다. 앙상블 학습(ensemble learning)은 일련의 예측기(분류 or 회귀 모델)로부터 예측을 수집하여 하나의 모델을 사용했을 때보다 더 좋은 예측을 얻을 수 있습니다. 쉽게 말해 대중의 지혜라고 표현하는데, 속담으로는 "백지장도 맞들면 낫다"가 적당하려나요? (좀 아닌 것 같지만ㅎㅎ) 부스팅은 앙상블 학습의 한 방법으로 이외에 배깅, 스택킹 등의 방법이 있습니다. 여기서는 부스팅에 대한 이야기를 해보겠습니다. 부스팅은 약한 학습기를 여러 개 연결하여 강한 학습기를 만드는 앙상블 방법을 말합니다. 부스팅 방법의 아이디어는 앞의 모델을 보완해나가면서 일련의 예측기를 학습시키는 것입니다. 부스팅 방법에는 여러 가지가 있지만 가장 인기 있는 것은 ..
