分享我加入Fireworks AI的一些思考

做ML System好几年了，同时也搞frontier模型训练。说句实话，这种第三方的inference startuo能提供的价值只有两个，一个是算力一个是运维。剩下的东西AI Labs和大云厂基本都能做。我个人觉得如今加入fireworks也有点晚，那边估值已经很高了。当然I might be wrong

guapisolo 发表于 2026-10-26 09:23:42
似乎大多数人没有意识到很多大厂效率低到令人发指，还在做大鱼吃小鱼的梦。能出活的大头兵就占1/5不到。还要被剩下4/5的人造成的politics恶心

大厂的架构和效率在微服务时代是没问题的，但是在AI时代将会是吊死自己的绞绳。从生存的角度上看，我认为还是需要更果断的断臂求生。

skyblue2xxx 发表于 2026-10-26 07:53:38
Sorry 我是指Tri Dao，没仔细查他的role

他既是co founder也是首席科学家吧，他要离开together ai? 我没找到相关新闻

谈谈这个市场地位：inference 便宜地卖给用户 （ 企业和个人）。

1， 卖给普通个人。Open AI/anrthropic 就 $20。Google 在browser 里面免费。 Fireworks 现在已经没有机会切入这种普通用户。

2， small business/ independent engineer。这个我赞同，fireworks有一些机会。不过， Nvidia 也有免费的GPU和models：） 免费的慢一点，但能用：）Google ， 🥜厂，AWS，对small business都是几十万的免费credit :)

3， enterprise/大公司。这个要有生态的集成，data pipeline, data privacy, models, inference, tuning。fireworks 有技术的短板，也有go to market的短板。这个硬骨头，不要说fireworks这种公司，就算是进取的大公司，都不好啃下来。

匿名用户 发表于 2026-10-25 22:59:55
说个不同的观点，我自己在很多不同的startups待过，包括不限于baseten. 甚至当时是phil和amir来面我的 :) 认出我的请不要说。我个人对sta

三大云并没有弄死Digital Ocean啊。

三大云那个部署的复杂性，中小型公司真的玩不转。一看那个Console就头疼。优质的Developer Experience是可以带动产品的。

这些公司不可能全活下来，但也不至于全没的玩。

匿名用户 发表于 2026-10-26 00:15
这里有一个很明显的前提条件是不一样的。所有的卡来源目前只有老黄。
而老黄很明显在有意分散卡的供给， ...

很明显，这个状态不稳定不长久。
1. 供给端：AWS的Trainium，Google的TPU也能做inference，不可能永远大家都等老黄给饭吃。
2. 需求端：需求也不可能永远涨下去。最终还是得按生意算投入产出比，投了多少钱再ai agent 或者whatever的inference上，然后挣了多少钱。算ROI是否合适。如果只是花了一大笔钱，做了一些没用的app，用户数量没涨，revenue没涨，最后还得减少投入。就像之前很多公司看谁用的token多谁nb，现在也意识到这样很sb了。。

匿名用户 发表于 2026-10-25 22:21
回想年初拿了 offer 最后撕了选择去了大厂，现在就是非常后悔

说不定过几年又幸庆了。。。当红炸子鸡startup然后悄无声息的多得很，比如前两年的midjourney，stability ai， Mistral。。。

匿名用户 发表于 2026-10-26 14:13
说不定过几年又幸庆了。。。当红炸子鸡startup然后悄无声息的多得很，比如前两年的midjourney，stability ...

u1s1 Mistral还是不错的 欧洲公司expectation不能像美国的那么高 不过他们最近刚完成series D融资 前两年加入的钱上还ok

匿名用户 发表于 2026-10-26 09:41:21
他既是co founder也是首席科学家吧，他要离开together ai? 我没找到相关新闻

+1 没看到Tri Dao 离职啊

"一个是算力一个是运维", 这个是大厂的优势啊 亚麻，狗，软 哪家随便一出手就搞好了。

而且大厂可以自己做推理芯片。如果亚麻专注于某个流行的开源模型，然后开发专属推理芯片，那个算力提升和成本下降，立刻把inference platform碾碎。  

我觉得inference cloud可能现在是在一个不长的窗口期内生存。