想问问深度学习现在业界什么状况？

guluyupipi 发表于 2020-10-14 20:20:43
至于pytorch tensorflow 感觉都要了解，tensorflow 2.0之后区别少了点。每个公司用的不大一样。最近我实习，公司要用 gluon  只能说学好pytorch tensorfl

是吧，跟编程语言一样，万变不离其宗😂

gjia0214 发表于 2020-10-15 09:01
个人觉得，DL project落地受限于模型的interpretability和efficiency。而且精心设计的rule-based system +  ...

是啊，传统行业需要可解释，要应对客户还有各种监管啊法规啊规则啊。而且，dl最需要的是海量的高质量的数据啊，传统行业就算数据是海量，质量也不行。可能和最新的数据相比，十五年前的数据相当于缺了几个数据库，十年前的数据缺了好几个重要table，五年前的数据缺了好几个重要的column，数据clean到最后，发现只有最近两三年的最有用。数据质量数量都跟不上，也难发挥dl优势。

placeholder 发表于 2020-10-15 08:19
业界ML机会最多的是 search ranking recommender system和广告

我也想走 search ranking recommender system这方向，不过我发现没有几个导师是研究这个的诶，如果我想研究这个方向的话，是不是应该去跟一个研究AIorML的导师，然后自己去摸索呢？还是说其实 search ranking recommender system就是ML的一个分支，万变不离其宗

FelixChan 发表于 2020-10-15 11:48
我也想走 search ranking recommender system这方向，不过我发现没有几个导师是研究这个的诶，如果我想研 ...

还是不少的 搜一搜RecSys, KDD, WSDM, WWW的paper

gjia0214 发表于 2020-10-15 09:01
个人觉得，DL project落地受限于模型的interpretability和efficiency。而且精心设计的rule-based system +  ...

我不是直接反对。我是换个角度。

不同的算法/模型适配不同类型数的。数字型的，你说rule-based + statistical ML 的我觉得没毛病。

在文本、图像数据中，statistical ML基本搞不动，一个简单的news classification  你用2年前的主流技术比如LSTM对比sklearn那一套，可能是91%和97%的差距，这个差距看怎么看了，我觉得还挺大的。

DL在文本、图像上的实践一点点的累计，ML部分已经十几年没什么动作了。但是ML适合于非常多的企业数据，比如你说的电网，高大上的数字咨询。

Clark_Ting 发表于 2020-10-15 11:34
我现在在尝试用图卷积神经网络搭一个autoencoder做电网数据imputation，你的可能更高端些😂

是啊，人家都在DL。你说你ML已经sota，外界看上去就会有点玩物丧志吧。怎么也得整点新花样，否则都对不上Science的头衔。

shm007 发表于 2020-10-15 12:29
我不是直接反对。我是换个角度。

不同的算法/模型适配不同类型数的。数字型的，你说rule-based + stat ...

嗯嗯 图像和文本确实得靠DL，传统ML的一个弱点是很从难学structural的feature，但是NN可以。传统行业的数据feature少，而且往往系统做出预测的同时对预测解释性也有要求，在这方面DL可能优势不明显。attention倒是可以用来做解释，不过感觉还是缺少strong proof，希望以后可以看到更多这方面的research。对tabular data，个人经验是，xgboost的performance还是挺难beat的，这玩意儿真是好用。DL可以拿来做feature，用起来感觉有点像ensemble，feature做的好提升还是挺大的。

Clark_Ting 发表于 2020-10-15 11:34
我现在在尝试用图卷积神经网络搭一个autoencoder做电网数据imputation，你的可能更高端些😂

哈哈哈行吧祝好运

lcltopismine3 发表于 2020-10-14 22:54:37
哈哈哈行吧祝好运

You too

guluyupipi 发表于 2020-10-15 08:24
现在phd 大部分毕业了也都是SDE，等你4年后。。。我觉得AI井喷不会喷十年

啊？phd毕业了做SDE，这时间成本也太大了啊