机器学习面经

【机器学习基础】9 大主题！机器学习算法理论面试题大汇总

https://mp.weixin.qq.com/s/1AOTv_bsQhPg3qEZpF6vxQ

 

 

问题：

GBDT中的梯度是什么对什么的梯度？给一个有m个样本，n维特征的数据集，如果用LR算法，那么梯度是几维?同样的m*n数据集，如果用GBDT，那么梯度是几维？m维？n维？m*n维？或者是与树的深度有关？或者与树的叶子节点的个数有关？

答案：

第一个问题：是对loss(yi,F(xi)) 对F（xi）求导；（1 当前y对之前所有轮次的tree的和的gradient）第二个问题：n+1维，我还有个bias啊第三个问题：每一轮，需要对m个样本求梯度，所以梯度是m维。

 

loss 对当前模型（之前拟合的所有tree）在训练集样本上的预测值的梯度n + 1 （还有bias）m

 

面试官如何判断面试者的机器学习水平？ - 言有三的回答 - 知乎 https://www.zhihu.com/question/62482926/answer/625352436

【AI不惑境】学习率和batchsize如何影响模型的性能？

【AI不惑境】AutoML在深度学习模型设计和优化中有哪些用处？

 

https://tianchi.aliyun.com/course/278?spm=5176.21852664.0.0.2c3851a8ncqrq9

 

20年校招DL/NLP/推荐系统/ML/算法基础面试必看300问及答案 - 深度学习于NLP的文章 - 知乎 https://zhuanlan.zhihu.com/p/194367422