从职业发展的角度回国VS留美DS offer的一点思考

JoelKuo 发表于 2020-11-6 19:06
村子里DS10w+已经可以了讲道理，你可以去看一下database里面是level几。现在DS除了真正phd搞算法的和大厂的 ...

也没想着跟SDE比工资吧，主要还是看未来发展。

感觉国内竞争其实非常强 在国外反而是比较安逸（如果是村里的话）所以回国还是要有心里准备呀 如果觉得属实实力欠佳的话会不会回国突然面对努力奋斗的小伙伴压力太大吃不消呢

Quixotic 发表于 2020-11-6 20:26
想问问楼主，是为啥说domain knowledge没有用，是建立在feature engineering会被nn取代的假设上？

你可以Google一下，Mark Liberman 提出过一个Common Task Framework. 我觉得这是为什么DS最近这么多年能成功的主要原因。Domain knowledge的主要左右主要体现在如何把industry的问题break down到这个CTF的框架里。
为啥推荐系统这么火，因为他的问题是well defined，logic也很简单。
为啥AI in medical industry 火归火，但是很难落地。因为他的business logic很复杂。
但是说白了，这种define problem 的工作其实只有极少数人能做，坑位少，更多的人说到domain knowledge就是feature engineering呀，feature selection呀，做多了都是套路，没啥意思，而且可预见的未来，这些东西以后都能自动化做。你仔细想想让你去做feature engineering，feature selection，你是不是也就是做哪些东西？我自己建模效果还不如h2o建的基准模型好。
另外只要你数据多，simple model works way better than complicated model的例子太多了。但是这也意味着model好不好跟你关系不大...
总结一下，我感觉，domain knowledge和experience对于DS的作用能有多少有待商榷。
还有一个例子就是，你用domain knowledge 去个stakeholder沟通，帮助他们理解model。不过这个算是soft skill把。

诺诺 发表于 2020-11-6 23:56
感觉国内竞争其实非常强 在国外反而是比较安逸（如果是村里的话）所以回国还是要有心里准备呀 如果觉得属实 ...

我仔细想了一下，按我的规划，我在美国也是要996的。我实习的时候也差不多996了，周末都在搞project，DS还要一直充电学不同的东西，以后进大厂还要刷题。
不过同意你说的这点，毕竟美国同事不996，你996的话大概率你表现会比他们好哈哈哈。可是美国也有其他的risk，例如policy上的东西，不过这个就不展开来讲了。

觉得是DS回国划算，DA不值

感觉你的想法太理想了，以及推测你大概率没在国内上班过。domain当然有用了，只有职业初期的人才会思考各种技能点。

其他的不说， “modeling这些东西我自己调参不如h2o，feature engineering可能也不需要了” 就根据这个话跟楼主谈一下，也希望其他同学不要被误导

神经网络针对不同的问题每一层的处理和改进都可能给模型带来很大的改变，即使可能改某一层的activation function都会带来质的变化，而一般直接用automl那种是不会有好结果的因为太宽泛，真正dl做多了就会有经验和感觉，比如我和我老板一起做一个模型，我鼓捣两周只有一点点提升，我老板随便一个idea就是质的飞跃，这些都需要经验和数学的积累，其次feature engineering在现在的神经网络中依然很重要，很多问题输入了categorical variable/embedding后指标可以上升很多，从来没有人说现在可以取代feature engineering 和 domain knowledge

不过我同意楼主说的非research的ds真的没用，一个ml不扎实的ds在组里贡献值基本是负的，因为除了问一堆问题消耗资源，你也很难指望他有什么真正的贡献，因为基础大家都会的东西（包括一些常用的kaggle套路）做research方向的ds做个一两年肯定最recent的都吃透了，一个小白要真说真正的贡献也就是做点脏活累活，跑跑hyperparameter的fine tune 差不多了

halfpipe 发表于 2020-11-06 21:00:33
你可以Google一下，Mark Liberman 提出过一个Common Task Framework. 我觉得这是为什么DS最近这么多年能成功的主要原因。Domain knowledge的主要左右

如你所说就像medical行业business logic很复杂，很难落地，我个人觉得这才是ds工作的核心所在- 你如何把商业问题用数据去解析。我不知道你的工作经验是怎样的，至少我自己过去两年在金融行业做ds的经验吧，feature engineering不是一个做多了都一样的套路问题，没有domain knowledge加持想选出好feature做出好model基本不太可能，等你的user来问你interpretability的时候如果你就说这是NN选的，项目基本就黄了。当然我不否认有lime这些框架可以解释NN这些的研究，但是业界实际应用起来还是局限性比较大吧。当然楼主说的过几年国内是不是会饱和这些我也有担心，但是ds相关工作有多大程度上能automate我短期内持保留态度，问题就是很多商业逻辑是复杂的，而定义问题解析问题解决问题是每个ds的工作范畴，不是少数ds的工作范畴。

说真的，大厂ds三年能做到tech lead吗？我一直觉得很难，大厂里做ds的一堆phd还有其他奇奇怪怪的猛人，我觉得cs好像还道路平稳一点...

Quixotic 发表于 2020-11-06 22:36:22
如你所说就像medical行业business logic很复杂，很难落地，我个人觉得这才是ds工作的核心所在- 你如何把商业问题用数据去解析。我不知道你的工作经验是怎样的，至少我自己过去两年在金融行

我工作经验确实不多，大多数也都是观察来的，不过让我觉得挺没劲的一点是，在工业界模型最好表现好不好，主要跟你数据质量有关，而你的数据质量其实跟你个人是没啥太大关系的，主要跟你的公司业务有关。
回到一开始的那个论点，business logic复杂，难落地，ds工作的核心。这一点我完全同意，但是在这一点上需要的skill set感觉就是一个工程师的skill set了，edge computing，根据需求解决实际问题之类的
duke还是那个学校的医学院的ER就把ML model 部署的很好，但是大部分work都是这种engineering的问题，真的不太需要ds？
哎其实我也挺迷茫的，感觉辛辛苦苦几周提高个模型精度，做起来实在没啥成就感。可能senior一点会好一点吧。