求问大家一道长问题，如何处理categorical变量很多level问题，比如state

祝你有好的offer

target encoding 可以通过smoothing来缓和过拟合，
比如:
(frequency of "1" + C)/(frequency of "1" + frequency of "0")

这里C是一个hyperparameter

您好！
本帖隐藏的内容需要积分高于 100 才可浏览
您当前积分为 0。
使用VIP即刻解锁阅读权限或查看其他获取积分的方式

游客，您好！
本帖隐藏的内容需要积分高于 100 才可浏览
您当前积分为 0。
VIP即刻解锁阅读权限 或 查看其他获取积分的方式
Unlock interview details and practice with AI
Curated Interview Questions from Top Companies

面试官想得太多了…

对于 randomForest 来说，onehot 反而是缩小了每次 split 的搜索空间，把复杂度从 exponential 缩小到了 linear. 如果你控制树的深度不变，反而是自带 regularization 了。R 的 randomForest 的包默认遍历所有可能的子集，这个可比 onehot encoding induce 出来的搜索空间大

还有一点：level 多在有些问题里面很自然。比如 mixed effect model 里面，经常出现 random effect 的 level 比 fixed effect 的要多。只要你用对了模型（别用错成了 fixed effect）并不是大问题。大家反而会关心 fixed effect 的层级不够多，导致算法收敛结果不稳定。

good question !