求助：AI infra这条路该怎么走？

看到好多人最近在地里问AI infra，楼主也想顺便请教一下各位大佬，ai infra这条路应该怎么走，现在十分十分的困惑，如果能赐教感激不尽🙏

基本情况： 楼主是某faang的L5. 之前也是主要在分布式系统这里领域耕耘许久。去年因为这波aI浪潮，感觉十分fomo，上头了，于是在公司内转组了一个ai infra team。 背景就是普通人，没paper，没开源项目

但是现在混了一年，感觉一般般，想上地里来求教一下，主要感觉自己下面几个方向竞争力都不太够，不知道是不是还要继续坚持ai infra这一行。如果接下来如果想出去跳槽看看，自身该怎么定位？

training 框架： 做的training偏搜广推， 所以模型尺寸不大，跟LLM比就是坐小孩那一桌，万卡training经验啥的完全没有，megatron没玩过。 感觉这个方向外面bar太高，偏research，不太好弄

inference我觉得稍微好点，但是也没去卷过vllm / sglang的开源啥的，地里那几家热门inference公司，现在感觉也挺难进的。。

-baidu 1point3acreskernel算子开发： 写过不少算子了，但没写过真正SOTA的算子，而且AI在这个领域太强了，MLIR这些我也不太懂。面试感觉也好难，手搓CUDA FA4这种看着就头大。。。

platform / k8s ： 这条路有点回老本行的意思了，但是感觉离AI infra核心最远？

求大佬指条明路， 看看是不是应该在这条赛道坚持混下去了😭

hnhhhhhhsnhdhng 发表于 2026-9-26 07:00
肯定是agent啊大哥 ai infra迟早被商品和框架/工具化 类似k8s
agent未来应用落地才是遍地开花机会最多 （i ...

我不认为agent有很多坑。
基本上就是搭好 环境， done。

什么memroy, eval ,这个那个的，都是假的。

核心还是计算。

我觉得吧。干啥都没有意义。
历史上看，大热必死。
金融，油工，马公，AI。
这些两天写开源，用claude.
重写一个json 库。
对着orjson对比。
Claude 抓出了orjson 10多bug.
这是业界有名的大家都用的东西啊。
人类编程是完了。

所以做什么是没有护城河的，只有到了别人连问题方向都提不出来的领域才是真的安全的。

关注一下

蹲个点，插个眼

开源项目为啥不做做看？

关注 求大佬解惑

同迷茫，关注

用Agent做AI Infra

关注

都可以吧，如果你觉得AI infra方向都不行，那绝大多数的SDE方向也没行的了

推广搜的training已经很厉害了啊