机器学习方法计算特征重要性 xgboost gbdt使用时是怎么算特征重要性的 XGBoost可以做特征选择，它是如何评价特征重要性的？ XGBoost中有三个参数可以用于评估特征重要性：
weight ：该特征在所有树中被用作分割样本的总次数。 gain ：该特征在其出现过的所有树中产生的平均增益。 cover ：该特征在其出现过的所有树中的平均覆盖范围。覆盖范围这里指的是一个特征用作分割点后，其影响的样本数量，即有多少样本经过该特征分割到两个子节点。
单颗决策树，分裂特征会重复出现吗？ 答案：分类特征不会，而数值型特征可能会。可以看到age这个数值型变量出现了好几次，因为分裂一次之后还可以细分，而分类型变量则不会，因为一旦分裂之后，对应子节点的样本中该类别即为同一类别，非常纯！
随机森林如何评估特征重要性 平均不纯度降低和平均准确率降低的优缺
