跳槽：ads ranking eng vs ML Infra前景求做过其一的大佬建议

我是数学背景。之前工作四年，两年大厂两年小厂，ads ranking eng vs ML Infra两个各做过一点。

现在有两个中大厂offer。一个是ML Infra，一个是new product ads ranking。去哪个未来好找工作。

ML Infra 优点是是不是日后可以去各种云计算啊，中，大公司Infra， backend组都可以啊（本人数学背景 底层计算机系统理解不多）？缺点是大厂这一块分的很细，从serving，training，做data ，feature frame选一个组。估计未来两年也只知道其中一部分。

ads ranking eng：这个因为是新产品，听HM说就是V0已经出了，就是把已有的业界和公司很成熟的那一套套用上。之后就是各个stage看看稍微improve一下。
这个未来就业路子是不是很窄啊。 学到的能够对特殊的ads产品有些认知， 但是 1） 炼丹啊加特征啊这些是不是烂大街了不好找工作？ 2）而ads一些产品特殊要求的比如搞校准啊，隐私损失之类的方向 估计业界除了搞广告的几家大厂，基本没多少有需要做到这个方面的了？


补充内容 (2022-02-21 01:04 +8:00):
想请教一下
我从数学背景的做MLE 先进个中厂转到ML Infra 未来 转别的infra/backend有机会吗.

infra 里面训练数据生成  VS 模型 online training这两块机会如何。

waterstream 发表于 2022-2-19 15:09
ads ranking不是新东西。业绩很成熟。具体技术其实也就是applied ml和ml infra。看具体哪家公司，一部分工 ...

具体说说ML inra的坑把。ML infra大概可以分成feature engineering，orchestration，training infra，online serving，model deploy，还有可能一些offline replay，offline ab exp之类的。还有一块是training lib/framework dev.

training这一块：业界除了狗家压根就没几个厂用RT training。这玩意儿那么多年了基本也就是teenager sex。吹逼说两下，实际一看ROI根本没人用；distributed training基本上现在都用原生框架。做下去最后就会变成k8s devops。还有一块是model parallelism，比如超大型模型怎么跨不同机器进行训练。99%的公司压根没有这个业务需求。

orchestration就不说了。ML的脚后跟都摸不着。纯工具人。

model deploy，纯粹做工具的工具人。做这个还有做orchestration你做上10年甚至都不用知道模型artifact里面究竟是个啥。

feature engineering实际上更偏向于big data或者data warehouse那一块。有一些和model的交集，但是不多。这也是为啥几个做数据仓库的厂都急着往ML上靠的原因。

以上基本最后都会沦落为MLE的工具人，被呼来喝去搞devops，东西不work了立刻escalate甩锅。公司内部infra和platform team的通病。只有feature engineering会稍微好点。

而且ML infra还有一个比较操蛋的问题。管别的infra的组，比如管k8s和hadoop/spark的组，基本上其他产品和应用组没有别的选择。我做的再烂，你也得忍着。人家是有话语权的，可以自己决定prioritization。大部分中小厂的ML infra，你做的烂，人家MLE就不用了。escalate之后自己要HC自己搭去了。毕竟这玩意儿也没有一个统一的业界标准，很多东西也确实是随便堆几个engineer可以凑合用。反过来你要他们adopt一点什么东西，那真是比吃了屎还难。总体来说具体要做什么，怎么做，谁来做，话语权都牢牢被MLE leadership把握着。大部分公司永远是蛋蛋握在别人手里。像FB那样可以infra起一个unified platform然后逼着大家都用，再难用也得用的例子，非常非常少。

比较有技术含量的就是online serving和training lib/framework development了。前者好多公司压根没有，有也不一定碰得到ops optimization这一层，但总体来说还是比前面纯粹做工具人掏粪工强；后者基本上只有大厂有机会能碰到，而且一定僧多粥少。转行的就不用想了。

这里只谈就业需求。

ML infra要做深，只能在几个大厂之间跳了。原因楼上已经说了。99%的小厂/中厂 没有需求/资源来自己从头搭。

ML infra一旦做不深，那就是devops engineer和mle的工具人。

ads ranking那套 推荐/搜索 也用得上。小/中/大厂都需要。

都是烂坑。说ML infra好的怕是连ML infra做啥都不知道。
做ML INFRA不代表你就做ML了。好多人做了好几年ML INFRA连model的边都没摸到，整天就被model team 呼来喝去。没意思。

非要俩烂坑里选一个的话：想公司里快速出impact就ads ranking，想有点跨公司经验就ML INFRA

楼主对哪个兴趣更大？这是关键。

ML Infra的出路要多很多，Ads Ranking大部分时间都花在具体细节上，其实经验不太好迁移。

龙的传人 发表于 2022-2-18 20:35
楼主对哪个兴趣更大？这是关键。

这种转码的case，说实话往往兴趣没有那么大的驱动。只要工作做得下去。兴趣方面都差不多。。。。

Ads Ranking除非有算法背景不然就是做实验的炮灰，基本学不到engineering skill

ads ranking很无聊吧？都做烂了，某些公司代码都不怎么写，直接config跑实验

匿名者 发表于 2022-2-18 20:50
ML Infra的出路要多很多，Ads Ranking大部分时间都花在具体细节上，其实经验不太好迁移。

ML infra之后有哪些发展方向啊？

ML infra需要oncall, ranking不太需要

chasedawn 发表于 2022-2-18 22:41
ML infra需要oncall, ranking不太需要

这个确实是个point 要考虑。