ブースティング系のサンプルコード XGBoost
理解しました。ブースティング系のアルゴリズムであるXGBoostを試してみましょう。以下はXGBoostを使用する例です。
python
import xgboost as xgb
# XGBoostモデルの作成とトレーニング
xgb_model = xgb.XGBClassifier(n_estimators=1000, random_state=100)
xgb_model.fit(X_train, y_train)
# テストセットでの予測
y_pred = xgb_model.predict(X_test)
# モデルの評価
accuracy = accuracy_score(y_test, y_pred)
precision = precision_score(y_test, y_pred, average='weighted')
recall = recall_score(y_test, y_pred, average='weighted')
f1 = f1_score(y_test, y_pred, average='weighted')
roc_auc = roc_auc_score(y_test, xgb_model.predict_proba(X_test), multi_class='ovr')
print("Accuracy:", accuracy)
print("Precision:", precision)
print("Recall:", recall)
print("F1 Score:", f1)
print("ROC AUC Score:", roc_auc)
このコードでは、XGBoostモデルを作成し、トレーニングデータでトレーニングし、テストデータで予測を行い、モデルの評価を行います。XGBoostはブースティングアルゴリズムであり、LightGBMと同様に高いパフォーマンスを提供することが知られています。