[ai infra] AI infra写算子2026还有前途吗？

icyyy 发表于 2026-07-27 15:23:20
蛤竟然有人觉得ai infra不难。。。

首先分training和inference吧，这两个track已经是不同的世界了。

目前感觉llm还是解决不来ai infra那些难搞的问题，跟物理世界打交道所需要的推理和单纯业务逻辑还是差别不小。让llm分析一个相对基础层级通信deadlock的问题跟我满嘴胡说八道，还得要自己抽丝剥茧不停纠正才搞清楚，不过确实比自己implement repro case要快就是了。

个人看法是如果将来开放模型的水平能够长期追上几个大佬公司，那inference这块的市场可能是最大的，很多公司都会自己开部门做私有的模型部署，云计算也会产生新的inference产品。

匿名用户 发表于 2026-7-27 12:32
我也是，虽然自己做tlm的，但是还想着转。

你还有希望。我是 eng，根本转不了。 就算 转过去expectation 就是我这个级别的，不会降，也很难 survival。 而且 没人给我机会学习

有没有大佬讲讲 AI Infra现在分哪几个track， 传统Infra想转的话哪个track相对容易一点？