[抛砖引玉]谈谈MLE职业初期的成长AMA

ML 是一个promising的field还是一个坑？产品不好落地等等

bottlee 发表于 2021-4-7 02:18
想问一下楼主，非Ph.D的MLE要从哪方面入手打磨技能呢？

主要是考虑到做纯算法提升的话，很难做得过学术界 ...

非phd的mle很难上手，很多大公司不提供master fresh grad level的ml position
我觉得ml infra会是一个比较好的切入点，一般fresh grad机会也比较多，先给别的exprienced mle打下手
关于打磨技能：业界机器学习很多提升不来自于模型本身，而在与设计出一个模型解决业务问题。我不觉得这个会被机器取代，因为你的input/output都是人通过对产品的理解决定的，我没有见到过很多ml eng每天花很多时间调参调模型的。

匿名者 发表于 2021-4-7 07:28
非phd的mle很难上手，很多大公司不提供master fresh grad level的ml position
我觉得ml infra会是一个比 ...

楼主觉得ml infra和其他的infra有什么区别和特别的挑战？ 另外，看到楼主说mle没有花很多时间在调参数上，这和很多网上关于调包侠和调参侠的说法有些不同，楼主能不能就这个问题展开说说？

LittleFishBall 发表于 2021-4-7 03:13
"每个track长期来发展机会看都是平衡的，如果一个track很热门，短期内会有很多人涌入，但长期一定会返回 ...

原贴里说的“最近很多人担心ML越来越卷”，这里更涉及到了一个对未来的预测问题，所以我回答我的看法，我觉得未来是会供需平衡的，不再会像2014年左右nn刚火的时候这么大的mle的套利空间。同时将来也会有更火的岗位出现（比如区块链？ar/vr?）

其次对于定量分析，我很抱歉这个超出了我的能力范围，即使同一个track 同一个级别，不同的人的compensation （以及career growth）都可能天差地别。

楼主能否讲讲MLE的技能要求？

TensorFlow、pytorch、Python、SQL在我看来是必须的，其他的呢？比如Java、C++、Go，K8s这种呢？

frequentusera 发表于 2021-4-7 04:45
想问问楼主，目前MLE什么track的job opening多？CV，NLP，RL，forecasting，recommender system，fraud det ...

1. 我个人的感觉rl是最少的，因为实在太难上线了，小一点的公司/team根本用不上RL
2. 我个人的感觉是specialist快速成长的例子更多，generalist的坑比较多。取决于你的背景和兴趣了
3. 最后关于scientist，我个人对scientist定义只有一个，就是fair/deepmind那些以paper为KPI的纯研究员。这个track是很少很少的。别的大部分公司的scientist基本就是mle，没太大区别

匿名者 发表于 2021-4-7 07:51
楼主能否讲讲MLE的技能要求？

TensorFlow、pytorch、Python、SQL在我看来是必须的，其他的呢？比如Java、C ...

对于最初级的MLE position，最基本的要求：
1. 刷点leetcode，起码面试coding round不要挂了
. Χ2. 熟悉sql，大部分公司的data pipeline应该都是sql
3. 熟悉几个NN的库，比如tf/pytorch。
4. 最好有end-to-end develop model的经验，最基本的要求是从清洗数据到train model到model eval，更高阶的话需要了解model serving/online testing一大堆技能

大公司里java, c++基本就是加几行减几行的改动，现学就行，我发现hm基本都不care。当然小公司就不一定了

glaciersilent 发表于 2021-4-7 07:43
楼主觉得ml infra和其他的infra有什么区别和特别的挑战？ 另外，看到楼主说mle没有花很多时间在调参数上 ...

1. 我指的入门的ml infra工作是build data pipeline，build feature这类在experienced mle指导下比较模块化的工作。如果以ml infra为长期career goal的话我不专门做ml infra，所以没法给出很清楚的回答。
2. 我觉得调包是很重要的，你知道有哪些工具可以最方便的解决你想解决的问题。对参数理解也很重要，可以帮助你快速迭代一个还不错的模型。最后调参可能贡献了一些incremental的improvement

匿名者 发表于 2021-4-6 17:57
对于最初级的MLE position，最基本的要求：
1. 刷点leetcode，起码面试coding round不要挂了
2. 熟悉sq ...

感谢楼主分享。

我个人对MLE将来的发展趋势的看法是，会不会将来MLE的职能就是负责将各种最新的模型上线到公司内部的infra，然后提供给其他队伍，比如DS之类的来一键训练、上线等等，毕竟现在AutoML的发展很快。不知道楼主有什么看法？

mle面试真的好难，刷题基本操作，再加ml basics，ml design，system design，甚至有些ood。。。
想请问下跳槽找ml infra的工作，发现岗位mle-infra的坑位太少了，包括sde-ml infra。
好奇楼主了不了解组里的ml infra都是怎么招进来的，sde转的吗？感觉大公司可能sde然后team match到做ml相关的比较多，小公司定点招可能比较多。
市面上mle做model的还是占多数。