做存储infra的想转AI Infra容易么

给个hint: 如果你是SDE, 至少不要去亚麻SDO 下面做AI infra。这边SDE 和 scientist合作之后，high level经常把credit全给scientist， sde汤都喝不到。顺便因为和sagemaker有接触，我知道sagemaker也是一坨。

tldr: 如果想做AI infra，直接忽略亚麻

请教下大神们，哪些大厂和startup在ML/AI infra方向上不错呢

serelee 发表于 2023-02-26 13:36:21
Ai infra 再过几年可能就几家大公司+云公司有需求，就业面肯定还不如storage 广。knowledge 也更加specialized

确实目前storage 技术和市场都比较成熟，对new grad来说技术和经验门槛都高，资深工程师可以躺着干活。反观ML很卷，躺着干活不可能

sssouthey 发表于 2023-02-26 10:17:59
不完全同意，了解底层知识对做上层应用永远都是一个巨大加分项。所以了解存储infra再去做基于这个的应用，比别人多少有点优势

不是很同意。了解底层知识对做上层应用确实是加分项，但绝不是必须选项，就算是加分项，有多“巨大”也不好说，很多时候只是Linux指令用得熟方便工作而已，两边的domain knowledge还是不太能直接transferable的。这种情况下，如果最终目的是做AI Infra，并不值得花自己一大部分职业生涯去搞Storage Infra，跳槽时也往往比做Data Pipeline, GPU Instance等更贴切的方向的人更容易处于劣势的地位。

所以如果条件允许的话，还是尽量想清楚想做什么之后直接去做，而不是曲线救国。曲线救国都是没办法的办法。

serelee 发表于 2023-02-26 13:36:21
Ai infra 再过几年可能就几家大公司+云公司有需求，就业面肯定还不如storage 广。knowledge 也更加specialized

AI infra由于数据量巨大，需求复杂，往往涉及到真正意义上的商用高并发系统的开发设计和维护，这里面的知识是非常transferrable的。反观大部分core infra，绝大多数时候都在搞ops救火，写新feature的机会不多，因为core infra求稳

而且和你说的恰恰相反，AI infra相关的云服务都非常昂贵，任何公司做到一定规模了都会选择做in house版本的。只有core infra因为便宜，所以才会长期依赖云服务。因此诸如storage这样的core infra最终只有云厂和少量大公司有需求，AI infra则都有需求

donnice 发表于 2023-02-26 18:00:39
AI infra由于数据量巨大，需求复杂，往往涉及到真正意义上的商用高并发系统的开发设计和维护，这里面的知识是非常transferrable的。反观大部分core infra，绝大多数时候都在搞ops

大部分公司都不会搞ai infra ,这个成本太大了，只有互联网大厂才玩得起。
顶多用下云上的服务，或者用anyscale 这种。

serelee 发表于 2023-2-26 21:04
大部分公司都不会搞ai infra ,这个成本太大了，只有互联网大厂才玩得起。
顶多用下云上的服务，或者用anys ...

是的只要名字里带了infra基本都是大厂限定。
AI的优势是比较新，可以发掘的新方向还很多，很多东西大家都还没试过，做好了容易升职；缺点就是比较卷，项目也会比较混乱（因为很多东西大家还没琢磨出best practice，技术路线和设计也左右摇摆)。个人觉得比较senior一些的人更容易驾驭这里面的复杂度。但现实情况是ng都往这方面跑，senior的人却很少来。

serelee 发表于 2023-02-26 18:04:23
大部分公司都不会搞ai infra ,这个成本太大了，只有互联网大厂才玩得起。
顶多用下云上的服务，或者用anyscale 这种。

AI infra的关键在于其中的transferrable技能很多，而且很难得的要真正面对高并发分布式系统的开发和维护。这个方向出来的人将来跳去做data pipeline，做MLE，做普通的全栈开发都没什么问题。而做core infra的，基本出来就是往SRE的方向走了

donnice 发表于 2023-2-26 20:52
不是很同意。了解底层知识对做上层应用确实是加分项，但绝不是必须选项，就算是加分项，有多“巨大”也不 ...

问题是AI infra是最近10年才兴起的，很多人之前都是做别的。而且AI infra取决于做的是哪块，其实很多都是很底层的，比如LZ做的storage infra，如果对底层网络协议比较熟的话，他对于NCCL的理解肯定比ML方向的PhD NG要快。

匿名用户 发表于 2023-02-26 18:33:56
是的只要名字里带了infra基本都是大厂限定。
AI的优势是比较新，可以发掘的新方向还很多，很多东西大家都还没试过，做好了容易升职；缺点就是比较卷，项目也会比较混乱（因为很多东西大家还没琢磨出bes

对，太卷了，资深做系统的人都拖家带口，哪有精力跟ng 拼，而且目前的市场需求对资深系统swe 还很大