ML platform 和 ML model 如何选？

之前工作是infra和model dev一起做，都有接触吧。久了之后发现，搞搞小model，有没有infra真的没区别，真正做大model 进production，长期稳定model performance提升需要很强的infra支持。
目前大部分ML职位，都是infra 和 model dev是分开的，你们如何选？看身边很多人也是从model dev转到ml infra去了。

从model到infra的人，大部分考虑的点是，做的东西更纯粹，工作产出更稳定，真正理解ML问题，做solution就好了，有点想科研中做理论抽象模型的研究。
做model dev，更多的是理解long tail，做很多繁琐的数据pattern的发现，调很多黑盒，有点像科研中做实验的那一类研究。

看地里大部分人都是偏好于model dev，特别轻视ml infra的职位，两者的偏好有这么明显吗？

ml infra比较偏backend，类似于devops，搭建和维护公司的平台。很多做ml infra的人，出身SDE，不一定是ml expert，很多时候也是跟公司里的MLE合作做研发，了解MLE的具体需求，做比较generic的平台，满足不同的需求，简化模型上线的流程。大厂的ml infra组经常有很多大牛，对系统设计、大数据、数据库的要求比较高。

ml model在ml infra比较成熟的公司，依赖infra的模板和workflow，可以很快上线新的model，不一定是系统和SDE expert。有些公司或者发展比较快的组，要么是没有成熟的infra，要么是觉得公司的infra功能局限，不能满足需求，很多时候也会自己造轮子。比如我们组，就自己搭了个ab test infra。这时候就要依靠组里比较senior的大牛，一边做model，一边做infra，能很好地学系统设计和backend service这种之前学ML课程时完全没学过的东西。

ml infra的工作内容是服务公司其他的ml model人员，推广infra的普及，可以很好地了解公司内不同ml的适用情形和商业应用，有很大的广度，也能加强对ml的理解，特别是对ml system的认识。

我觉得职业发展初期可以考虑去做ml model，培养自己对ml深度的认识，了解具体的应用，随着对ml领域的了解，以及自己对系统的认识和SDE的熟悉，可以转到ml infra。

嘴上说不清楚  上一张图吧

由此图可见  SE-ML需要的知识最多

做了两年多ml infra 感觉这条路越走越窄 一方面小公司根本不需要专门的infra组 即使是大公司 一百人做model 可能只需要几个人来做infra support 职位数量太少了

留名，不懂ML，但还是想了解一下行情。

Ml platform 是ml system吗？

大概model是侧重model本身，比如改参数什么的？platform感觉就很engineering了，搭建平台。不知道理解的对不对。

model更难一些  说实话ml，big data，software engineering啥都要懂一些。infra只需要懂data和software就可以了。 你看是不是差了一大块

model的人对infra兴趣不大，他们更愿意花百分之八十的时间去提升百分之二十的quality，因为这是impact所在。而infra的人经常要了解最新的模型，但问题是不自己做的话很难真正了解model。所以这个问题其实没有标准解，全看你有没有时间和精力去了解the other side了。

myonlysunshine 发表于 2020-12-25 09:07
嘴上说不清楚  上一张图吧

由此图可见  SE-ML需要的知识最多

这个图来源是哪里，第一次知道SDE ML 和 MLE是两个不同的职位，赞

engineering解决的问题有两类： production和scaling。对后者有需求的叫SE不然可能是Ops。