LLM职业发展

对LLM挺有兴趣的，我在某中厂也转到了LLM-based search platform的组，做similarity search，其实也就是最近大家都在做的RAG。

根据我的理解，这个新领域大概两个大方向，一个自然是model相关；一个则是下游application应用，我现在的组就是search相关的应用。我想请教的是：
1. 职业长远发展的角度，我是否应该搞modeling(infra), 至少工作之余学学fine tuning model? 毕竟这才是LLM的灵魂。有可能在个人Mac GPU或者弄点AWS/Azure资源自己研究吗？
2. 我看网上很多individual developer都在做，所以业余时间自己做side project搞个什么app有多大价值呢？还是说专注自己的工作即可，毕竟业界scalable的东西才有含金量？

感觉整个LLM产业刚开始，大家都还处于摸索阶段，网上各种资源和讨论也挺多但也挺messy。所以想听听大家的看法。

1. 纯做model的
2.做ml/ai infra/system: training, inference
3. 上下游infra, data for ml/ai: feature store, RAG, model deployment, etc
4. 下游app
感觉技能难度逐渐递减，domain knowledge也逐渐递减

匿名用户 发表于 2023-11-12 11:38:29
谢谢。所以听起来还是做model最靠谱？ 至少training inference infra对吗？ 但怎么入行呢？ 自己业余时间fine tune一些model有用吗

这是不同赛道的，做model基本是researcher的赛道，你如果不是PhD出身基本可以放弃这条路。剩下的都是eng的赛道

匿名用户 发表于 2023-11-10 03:23
1. 纯做model的
2.做ml/ai infra/system: training, inference
3. 上下游infra, data for ml/ai: feature ...

想请问eng的3个赛道里 有没有什么优先级的划分呢？感觉research可以对做fine tune降维打击，剩下两项好入门一些，但是好像目前看开的岗又不多，大厂好像都还铆足了劲先搞自己的模型出来

匿名用户 发表于 2023-11-09 11:23:25
1. 纯做model的
2.做ml/ai infra/system: training, inference
3. 上下游infra, data for ml/ai: feature store,

谢谢。所以听起来还是做model最靠谱？ 至少training inference infra对吗？ 但怎么入行呢？ 自己业余时间fine tune一些model有用吗

匿名用户 发表于 2023-11-12 12:13:23
这是不同赛道的，做model基本是researcher的赛道，你如果不是PhD出身基本可以放弃这条路。剩下的都是eng的赛道

谢谢 那么是否可以尽量沾边？ 比如training/inference infra 这个总归是eng吧