単調性制約

Tree における単調性制約

decision tree xgboost 単調性制約機械学習決定木 machine-learning

XGBoost における単調性制約 - 2 はじめに前回 XGBoost での単調性制約を与える方法について紹介しましたが、そのメカニズムについて調べました。線形モデルはデータと目的変数間の単調性（増加・減少）を捉えるモデルです。非線形モデルを使うのは、単調…

decision tree machine-learning xgboost 機械学習決定木単調性制約

XGBoost の単調性制約 XGBoost などの Tree 系アルゴリズムは表現力が大きいため、容易に bias を小さくできます。下の例では、増加するトレンドにある特徴量と目的変数がにノイズが乗ったデータに対して XGBoost でフィッティングすると、全体的には上昇ト…