标签： #梯度提升树

从普通 GBDT 只看纠错方向的不足出发，手算二阶泰勒目标、叶权重与分裂增益，解释 XGBoost 的正则化和工程接口。

从随机森林无法继续降低共同偏差出发，手算两轮残差拟合，推导负梯度与逐步加法模型，并实现可诊断的梯度提升回归。