Stacking : 다른 여러 모델로 예측한 예측값들을 누적시켜 최종 모델의 인풋으로 사용해서 예측에 사용하는 방식 Stacking 모델 불러오기 from sklearn.ensemble import StackingClassifier 모델 선언 estimators : stacking에 사용될 베이스 모델들을 지정해준다. 각 모델 이름(문자열)과 모델 인스턴스로 구성된 튜플 형식의 리스트로 지정해준다. final_estimator : 최종적으로 예측에 사용할 모델을 지정해준다. (디폴트 : LogisticRegression) # 모델 선언 estimators = [('lr', LogisticRegression()), ('dt', DecisionTreeClassifier()), ('knn', make_pipe..
앙상블
[ 오늘 배운 내용 ] 1. 일반화 성능 - 성능 향상을 위한 노력 a. 성능의 평균으로 계산 : 무작위 샘플링, K-Fold Cross Validation (계획적 방식) b. 데이터 늘리기 (variance, bias 감소) : Learning Curves, Elbow Method c. 튜닝하기 (bias 감소, 과적합 피하기) 2. 모델 복잡도와 과적합 - Underfitting(과소적합), Overfitting(과대적합) - 단순한 모델, 복잡한 모델 - 적절한 모델 찾기 : 모델의 복잡도 3. 앙상블 (Ensemble) - Bagging (Bootstrap + Aggregating) - Random Forest : Row random, Feature random - Boosting - Gradi..
