Credit card churn model 不能用Lasso 或者linear model?

最近面了Capital One的 data scientist职位， 经典的 credit card churn model, dataset是所有account的ch

您好！
本帖隐藏的内容需要积分高于 188 才可浏览
您当前积分为 0。
使用VIP即刻解锁阅读权限或查看其他获取积分的方式

游客，您好！
本帖隐藏的内容需要积分高于 188 才可浏览
您当前积分为 0。
VIP即刻解锁阅读权限 或 查看其他获取积分的方式
Unlock interview details and practice with AI
Curated Interview Questions from Top Companies

决这个问题。

我知道random forest 肯定可以，但为什么linear model 不行？

楼主先看看lasso和rigid的定义。考虑L1和L2进model是为了regularization。less improtant的feature系数是否为0的问题。

回归问题本质。churn model理想的output是一个probability, which can indicate the probably of churning in the next X days. 一般这种propensity model需要有个user defined的time window。

因此这里只能用classification来建模。如果提及linear 那肯定是错的。因为linear model的output range是负无穷到正无穷，无法用来解释churn这个问题。

我想楼主提到lasso可能是被问及feature selection，lasso跟feature selection没啥关系。你可以用forward或者backwards 的方法select，或者高端点的MCMC，忘记具体名字了，我们一般不用这个technique。

一般遇到classification，直接把xgboost扔出去。当然你要懂xgboost为何牛逼。

我觉得楼主这里可能跟面试官沟通出了问题。如果面试官直接问用的model，楼主说lasso regression的话面试官就会觉得你用一个regression的model做clasification的问题，如果楼主答logistic regression with L1 regularization可能就没问题了。如果面试官想问的是model下feature太多，要做feature selection的话，楼主可能要答的是backward，forward，用regularization，dimension reduction啥的。如果面试官问的是要用哪些feature的话，可能这时候你就需要brainstorm一些feature了，比如credit balance，credit limit啥的。建议不确定的时候可以跟面试官confirm一下会好很多。

感觉面试的时候，思路清晰也是挺重要的。回答问题应该是有一个思维框架。先挑重点的说，如果对方没有问到怎么解决feature selection的问题，为什么要把LASSO牵扯进来呢。 这个应该是先是说这类问题应该用classification model去解决，然后再根据对方的follow up进行调整，不能一上来就放上最终的方案。

我猜测：lr是线性关系  对continuous variable比较适用 如果是0/1这种category varaible的话 tree based model确实好些

linear model是解决regression问题的。对于classification问题，可用的相似的是logistic regression, logistic regression也可以说是generalised linear model，但是是因为这一类model思想上有一定的相似性。这应该是刚接触data science就应该知道的吧？

lasso regression的dependent variable不能是binary variable? 即使像logistic 一样做logit transformation也不行？

zhichengguo 发表于 2019-5-28 13:28
lasso regression的dependent variable不能是binary variable? 即使像logistic 一样做logit transformation ...

.google  и你说的是regularized logistic regression？Lasso是regularized linear regression.

是classification不是linear关系。

xujw07 发表于 2019/05/28 13:33:56


你说的是regularized logistic regression？Lasso是regularized linear regression.

LASSO和rigid仅仅是model在fitting过程中，对于less important features的系数的处理方式不同。一个keep all less important features 和 他们的系数，一个直接set less important features的系数为0。

linear regressor和logistic regressor一个是linear model的api而一个是classification model的api。两者都可以利用lasso和rigid处理less important features。

一般不会用L1做特征选择的，一般都是需要稀疏解 压缩模型的时候用L1
关于L1，楼主可以想一个场景 假设特征1号和特征2号几乎一模一样，并且对模型有很高重要性，那么过了一遍L1后，二者的情况会是怎么样的，搞清楚这个就搞请了L1的原理