请教一下做MachineLearning & Data Mining的前辈们几个问题！

这几个问题是去年在寄托上看到的，印象中是某位前辈申data mining的PhD时电面被问到的问题。一时好奇记了下来。 今年小弟初涉这个领域，重看这些问题，悲剧的发现一道都回答不上来！ 一时为之气结。。。求各位前辈提供一点看法，指点迷津！！
1：你觉得做data-driven research难点在哪里？
2：你觉得一个好的learning model应该具备哪些特点？
3：如果不知道数据间的correlation，怎么做learning model？
4：如果只有James亲戚的资料，如何搜索James本人？如果搜到了，如何判断这人是不是James？(要求建模，并分析评价模型的缺点和参数估计)

哇靠 这样不准备基本得跪

额，外行来回答一下....消灭0回复....我只会生搬硬套ML，抛砖引玉吧...
1，我觉得最难的是对数据的理解，很多时候你会给出很好的模型，很intuitive的假设，但是实际数据上一实验却完全不是这个样子T T
2，可扩展，不会很容易overfitting，不需要太多的training data就可以保证testing和training效果一致；不要有太多预设的参数，不要总是各种cross validation才能拿到个好的结果；不要有太多local optimal的点，或者不同的local的点效果别差太多；可解释，train出来我能知道为什么，啥意思；效率；
3，不知道是说feature之间的相关性还是feature和预测值的相关性？
4，不知道要问什么。。。

也是外行。。。回楼上，
任何model都会overfit，不管好的model还是坏的model,这个问题没有什么好的方法吧，一般都是通过加regularizer来解决，那么解决这种hyper parameter最简单的方法就是cross validation了，当然也有别的model selection的方法(BIC 等等），但cv还是比较有效的而且容易理解^^ 从另一个侧面说，如果你的model没有用很多参数就能有很小的trainning error， 不正好说明了model的解释数据能力吗~

第二点我同意，就是cost function和constrain一定要是convex的，这样优化容易，方法也多。否则local optimal多目前是没法解决的。。

我勒个去...一个都不会...

菜鸟表示看到这几个东西直接不想继续走这个方向了..

你们的名词太fancy了。。

你们的名词太fancy了。。

1. 你觉得做data-driven research难点在哪里？
a. Artificial data synthesis，提高数据量
b. Ceiling analysis， 确定值得投入工作的Component
c. 判断是bias还是variance error，确定是否去获取更多数据，还是改进模型。

2. 你觉得一个好的learning model应该具备哪些特点？
zercal说的不错

3. 如果不知道数据间的correlation，怎么做learning model？
如果是指features和预测值的correlation， 我认为还是要少相信直觉，多用cross validation自动选择feature和parameter.

4. 如果只有James亲戚的资料，如何搜索James本人？如果搜到了，如何判断这人是不是James？(要求建模，并分析评价模型的缺点和参数估计)
用Bayes模型吧，简单有效

同是此领域新人，顶一记

回复 1# newlxnewlx
第三个MS再说group lasso不适用的时候怎么办？怎么样incorporate prior knowledge得到不overfit的合适model