分享我加入Fireworks AI的一些思考

我有两个问题，1，为啥Fireworks在同等 ARR收入下处理token是很多其他家的10X，是不是大部分model相对处理都比较cheap 2. 企业客户应该更愿意选择 vLLM or SGlang这样的开源，它有啥动力选择Fireworks的不开源 Fireattention,我相信那几个Fireworks大牛确实能写出好的kernel，但是有了agent kernel 开发成本大大降低，大家kernel会大差不差，商业用户最怕lock in, 3. Inference 迁移成本太低，因为没有state，stateless，不像databricks,snwoflakes,这些data migration万一出问题就是大问题，非常麻烦，Fireworks怎么解决？

skyblue2xxx 发表于 2026-10-25 23:08
欢迎不同观点，方便展开讲讲吗？
比如你觉得aws拿下open model market 是需要chips supply充足之后吗？还 ...

因为agentic下除了GPU，CPU，data这些管理也很重要，我觉得AWS的全栈比起其他focus在只有inference推理的公司有优势，而且AWS有自研芯片不用lock in GPU

skyblue2xxx 发表于 2026-10-26 07:43
谢谢分享，认同这也是一种可能性。 一些不同的观点：
1. 我觉得还是主要取决于未来市场还有多大，如果还有 ...

我不觉得post training市场会很大，首先这个技术难度很高，主要是数据和model 技术，而不是infra技术，其次这个及时要做的厂家，肯定留给自己做，最多也就是用其他家的平台，SGlang的那套难道不能用？最后post training不是经常性质，也就是隔一段时间一次，没有稳定收入来源

匿名用户 发表于 2026-10-26 09:26
做ML System好几年了，同时也搞frontier模型训练。说句实话，这种第三方的inference startuo能提供的价值只 ...

太准确了，所以能解决各种客户 乱七八糟问题的能力人，在Fireworks最受欢迎

jsgq 发表于 2026-10-26 19:25
这楼的观点基本没啥问题、inference基本上没有多少秘密、不过任何 ai company 都是在不断 pivot 不断修正 ...

这种 special inteligence，除非是国防或者其他敏感专业，否则就是跟scaling law对着干，妄图行业知识靠 人工设计 来打败scaling law，这不是Rick sutton bitter lesson 反面吗？如果是敏感行业，也是行业知识和数据才是壁垒，而且这种事情不会外包

xiaomeng2371 发表于 2026-10-25 23:35
工作时间有多长

丰俭由人，每周50-100小时的身边都见过

匿名用户 发表于 2026-10-27 01:57
因为agentic下除了GPU，CPU，data这些管理也很重要，我觉得AWS的全栈比起其他focus在只有inference推理的 ...

自研芯片远没你想的那么简单。这块老黄的护城河高到令人发指。
芯片设计，晶圆厂产能，全产业链等等硬件生产方面的壁垒本身就足够高，此外还有CUDA这块生态软件护城河。至少3年内我想不出来谁能冲击。

匿名用户 发表于 2026-10-27 02:00
我不觉得post training市场会很大，首先这个技术难度很高，主要是数据和model 技术，而不是infra技术，其 ...

企业自己搭Post training workflow的难度肯定是远比搭ETL / Data Science的data pipeline要高的。
哪怕是Data Science这块，也非常多的企业选择使用类似Databricks / Snowflake这样的SaaS服务。而难度更高的post training，完全有理由认为选择使用第三方服务的企业会更多。

这几家感觉像乐高厂。各种开源软件搭起一个pipeline，然后找些edge case 测一下benchmark，然后发个通稿（我记得baseten一个blog强调自己用了websocket？）自己在xx方面拿了第一名。上一辈的老infra公司，不谈databricks，看一下mongodb，confluent，elastic这几家，哪一家不都有点自己的真本事。system design的很多内容也被这些公司扩写，看一下他们的结局？ （Mongo不破不立搭上了AI的顺风车但是还是融不进核心圈，cflt被ibm收购也凑合但是完全失去了自己作为cool company的光环，elastic被aws吃干抹尽可能很少有人提到他了） 。再把时间线拉长五年、十年，说实话我个人感觉不到baseten做的东西会比kafka更有影响力。

btw，我之前也曾经很荣幸被baseten两个cofounder面过他们那个model performance的组，感觉里面乱糟糟的，面试官牛气的不得了，后面就直接贡献开源社区了。

匿名用户 发表于 2026-10-26 23:34:20
这几家感觉像乐高厂。各种开源软件搭起一个pipeline，然后找些edge case 测一下benchmark，然后发个通稿。上一辈的老infra公司，不谈da

大佬现在在哪？能给个内推吗