跳槽：ads ranking eng vs ML Infra前景求做过其一的大佬建议

ML infra 偏build platform
Ads ranking偏 business logic: 调参/model+feature engineering
如果从技术上来看 ML infra对系统方面会有更多的理解 但是现在ML infra已经被几个大公司垄断了 小公司内部的ml infra可能更多为了自身平台建的
Ads ranking如果想往上提高 需要对Business有更深的了解  以及很多学术界RL的东西可以加上去试
lz数学背景做ranking可能更Matching 不过ads ranking一般都是卷王之王组

EricZhang 发表于 2022-2-19 11:00
ML infra 偏build platform
Ads ranking偏 business logic: 调参/model+feature engineering
如果从技术 ...

小公司如果要做ML 有多少有ML infra的需求啊

匿名者 发表于 2022-2-19 15:36
小公司如果要做ML 有多少有ML infra的需求啊

小公司如果做ML 其实不需要ML infra
Offline model 找个CPU/GPU cluster训练一下就能拿到model
Online model根据组里系统container或者Image 自己compile/build/upload就行 ML infra大多数情况不需要 除非有很多的Model需要deploy daily和对cold start/latency要求高的情况
ML infra is more for infra not ML

这里只谈就业需求。

ML infra要做深，只能在几个大厂之间跳了。原因楼上已经说了。99%的小厂/中厂 没有需求/资源来自己从头搭。

ML infra一旦做不深，那就是devops engineer和mle的工具人。

ads ranking那套 推荐/搜索 也用得上。小/中/大厂都需要。

. Waral dи,

这个楼就是ml infra和ads同时劝不要跳自己的坑 😂

对ads不了解. ml infra的话千完不要沦为devops. 可以了解一下组里的scope大不大, 有没有碰到model serving框架, 训练框架, 或者其他更大的轮子. 如果没有的话那么可能不太行.

ML infra 就是 Software Engineer吧？干两年不爽了可以随便 跳其他的swe呀，未必非要做MLE的工具人。ads ranking eng就是MLE？这跟SWE就是完全不同的方向了，最终选哪个还是看你个人兴趣。

s703 发表于 2022-2-19 13:45
ML infra 就是 Software Engineer吧？干两年不爽了可以随便 跳其他的swe呀，未必非要做MLE的工具人。ads ra ...

这个和语言有关系吗。 比如写C++ vs python。 有没有哪个跳槽更容易一些。

ads ranking不是新东西。业绩很成熟。具体技术其实也就是applied ml和ml infra。看具体哪家公司，一部分工作可能和ml infra类似，也可能是ml infra的重要客户。
ml infra也看具体哪个infra。real time distributed training infra最复杂最难。workflow management和做tool差不多，和ml algorithm没啥关系。ml inference infra就是传统distributed system，和ml也没啥关系。还有就是底层和中层的专门写ml algorithm的lib的，那就要很好的ml基础了。

补充内容 (2022-02-20 07:10 +08:00):
业界很成熟。写成了业绩

s703 发表于 2022-2-19 13:45
ML infra 就是 Software Engineer吧？干两年不爽了可以随便 跳其他的swe呀，未必非要做MLE的工具人。ads ra ...

等你到senior级别以后你的bg knowledge会极大程度影响你跳槽。

waterstream 发表于 2022-2-19 15:09
ads ranking不是新东西。业绩很成熟。具体技术其实也就是applied ml和ml infra。看具体哪家公司，一部分工 ...

具体说说ML inra的坑把。ML infra大概可以分成feature engineering，orchestration，training infra，online serving，model deploy，还有可能一些offline replay，offline ab exp之类的。还有一块是training lib/framework dev.

training这一块：业界除了狗家压根就没几个厂用RT training。这玩意儿那么多年了基本也就是teenager sex。吹逼说两下，实际一看ROI根本没人用；distributed training基本上现在都用原生框架。做下去最后就会变成k8s devops。还有一块是model parallelism，比如超大型模型怎么跨不同机器进行训练。99%的公司压根没有这个业务需求。

orchestration就不说了。ML的脚后跟都摸不着。纯工具人。

model deploy，纯粹做工具的工具人。做这个还有做orchestration你做上10年甚至都不用知道模型artifact里面究竟是个啥。

feature engineering实际上更偏向于big data或者data warehouse那一块。有一些和model的交集，但是不多。这也是为啥几个做数据仓库的厂都急着往ML上靠的原因。

以上基本最后都会沦落为MLE的工具人，被呼来喝去搞devops，东西不work了立刻escalate甩锅。公司内部infra和platform team的通病。只有feature engineering会稍微好点。

而且ML infra还有一个比较操蛋的问题。管别的infra的组，比如管k8s和hadoop/spark的组，基本上其他产品和应用组没有别的选择。我做的再烂，你也得忍着。人家是有话语权的，可以自己决定prioritization。大部分中小厂的ML infra，你做的烂，人家MLE就不用了。escalate之后自己要HC自己搭去了。毕竟这玩意儿也没有一个统一的业界标准，很多东西也确实是随便堆几个engineer可以凑合用。反过来你要他们adopt一点什么东西，那真是比吃了屎还难。总体来说具体要做什么，怎么做，谁来做，话语权都牢牢被MLE leadership把握着。大部分公司永远是蛋蛋握在别人手里。像FB那样可以infra起一个unified platform然后逼着大家都用，再难用也得用的例子，非常非常少。

比较有技术含量的就是online serving和training lib/framework development了。前者好多公司压根没有，有也不一定碰得到ops optimization这一层，但总体来说还是比前面纯粹做工具人掏粪工强；后者基本上只有大厂有机会能碰到，而且一定僧多粥少。转行的就不用想了。