classification问题。。。

**在做一个小课题。。。

假设Y是binary，现在有10W样本，但是只有500个Y是1，其他都是0.
现在想做classification...

但是现在问题是，最普通的naive estimator，Y == 0 可以达到99.5%的准确率。 就算模型对training set有100%的正确率，也只比naive的常量估计高了差不多1%。

一般这种问题，需要预先对数据稍微处理么？还是依然可以用logistic之类的直接去做。因为目标主要是要classify，不是很在乎interpretation。但是试了一些模型，如果数据不经过任何处理，基本上和naive的精确度差不多（在test set上有些还不如naive的），或者像random forest直接就给出和naive一样的估计。

我觉得这种问题应该比较常见吧？一般的处理方式是什么呢？

恳求各位大神的意见。

遇到同样问题 ，
我在想 是不是可以给500个样本加weight 让算法尽量分对他们
你那个99.5 估计是都分成0了 没什么用吧

楼主可以看下upsampling, downsampling, 或者通过调整ROC得判别点，这是比较general的方法，applied predictive modeling的书里有介绍，不记得那么多了。。

最近上课教授介绍了他们最新研究成果，解决class imbalance的问题，叫alpha-tree，你可以查下，有R包

分类器可以用AUC来比较吧，但这个方法貌似有缺陷

hyper8866 发表于 2014-4-7 17:02
遇到同样问题 ，
我在想 是不是可以给500个样本加weight 让算法尽量分对他们
你那个99.5 估计是都分成0了 ...

嗯，没什么用。。。

annimal 发表于 2014-4-10 21:55
https://d396qusza40orc.cloudfront.net/ml/docs/slides/Lecture15.pdf

machine learning 这章有说道这个 ...

好嘞，我看看哈。谢谢啦。

mlq90103 发表于 2014-4-10 23:16
楼主可以看下upsampling, downsampling, 或者通过调整ROC得判别点，这是比较general的方法，applied predic ...

感谢感谢。

mlq90103 发表于 2014-4-10 23:16
楼主可以看下upsampling, downsampling, 或者通过调整ROC得判别点，这是比较general的方法，applied predic ...

你推荐的这本书给了我不少启发，太赞了！！！

xingzhui222 发表于 2014-4-11 03:11
你推荐的这本书给了我不少启发，太赞了！！！

书中的图都有相应的code，网上应该能找着，比书中给的全一点
多多交流~