分享我加入Fireworks AI的一些思考

匿名用户 发表于 2026-10-26 01:59
说个不同的观点，我自己在很多不同的startups待过，包括不限于baseten. 甚至当时是phil和amir来面我的 :)  ...

具体讲讲呢？真理越辩越明。
DeepSeek时刻之前，其实就不存在inference这个business。因为在那之前就没有open model能打，inference只存在于御三家，都上的自己家的模型。
那时候这些现在的inference company做的其实都是model serving那一套，有些甚至是做cryto后来转行的。唯一共性只是手上都有GPU。
DeepSeek横空出世以后，open model势头一阵强过一阵，inference demand也是雨后春笋，真可谓是客户上门送钱。所以有卡的这些厂很多都转型了。有些做的更硬件更偏数据中心，就是neocloud的路子。有些往软件层做，就是fireworks, baseten, together, model这些。
所以我个人觉得baseten在DeepSeek之前快死了并不算负面例子。相反这个商业真的太好了，连快死的公司都能奶活，反而在我这里是正面例子。

skyblue2xxx 发表于 2026-10-25 23:08
欢迎不同观点，方便展开讲讲吗？
比如你觉得aws拿下open model market 是需要chips supply充足之后吗？还 ...

有两个，第一就是，aws有极大的资源去拿GPU, baseten甚至都用aws的gpu。如果以后市场把open model market教育成熟了，aws很容易通过增强bedrock这一类的产品来吃掉份额。特别是inference modeling这一块，对于用户来说，基本上能做到无痛换vendor. API这些都一样。这个和ec2这一类还不太一样，毕竟ec2要更换云服务太难。

我其实觉得neocloud这些太难生存了。毕竟model vendoring的依赖性远远低于别的云服务。

匿名用户 发表于 2026-10-26 01:02
感谢分享！请问大佬Fireworks 的offer range是不是比地里的rumor高呀？
之前看地里的帖子，说股票给的不太 ...

这个肯定是不对的。
我前同事大牛朋友，我知道他是拒了OpenAI加入了Fireworks（认出来的请不要揭马甲）。然后LinkedIn能看到，烟花最近还挖了很多Meta, Databricks的人过去。
这三家公司在给钱方面是什么档次，我想大家都心知肚明的。烟花能跟这些公司抢，数字不可能差的。

匿名用户 发表于 2026-10-25 22:59:55
说个不同的观点，我自己在很多不同的startups待过，包括不限于baseten. 甚至当时是phil和amir来面我的 :) 认出我的请不要说。我个人对sta

之前是docker？大哥你在baseten待得时间够早，也算挣到钱了不亏。

说几个观点：
1. inference做的更efficient利润不一定少，但壁垒并不高，尤其一堆开源方案也在不断进化，包括deepseek开源DeepInfer，导致这些inference提供商通过提升推理效率，获取跨厂商推理效率差带来的利润空间会不断被压缩
2. 所以inference这门生意最后会越来越同质化，变成劳动密集型，本质就是卖卡，谁的卡多谁生意就大，并且最后一定会变成比整个上下游的ecosystem，综合起来很难比过上游有更多卡的渠道和议价权的各大云厂商
3. 包括fireworks在内的很多厂商也开始做model customization，但这并不是一门好生意，费力不说其实也没有护城河，这方面做的公司太多了，方法也很同质化，而且企业客户很难伺候，经常花大力气对接客户按他们要求其他厂商做benchmark对比，最后还不一定能成

匿名用户 发表于 2026-10-25 23:38
具体讲讲呢？真理越辩越明。
DeepSeek时刻之前，其实就不存在inference这个business。因为在那之前就没 ...

1. DeepSeek出来之前的inference business就是deep learning那一套的模型。baseten当年成立的时候，就是主推高性能cnn, dnn模型推理。
2. 你说的这些startups哪个有自己的gpu云？哪个的云又能和大厂比？我不是说这个demand是假的，而我说的是，这个demand最终会被大厂给吃了的。而startups会很难有竞争力的。

匿名用户 发表于 2026-10-25 23:48
之前是docker？大哥你在baseten待得时间够早，也算挣到钱了不亏。

我早跑了。强度太高了，身心俱疲。哈哈哈 去养老公司了

求问大佬，如果本身是system engineering, linux kernel, HPC方向会在做inference engineer有一些transferrable的skills吗。或者有么有见到过有类似背景的engineer走类似的职业路线呢？

together ai首席科学家离职 - 这是哪里看到的？Tri Dao不是cofounder么？

匿名用户 发表于 2026-10-26 02:45
有两个，第一就是，aws有极大的资源去拿GPU, baseten甚至都用aws的gpu。如果以后市场把open model market ...

这里有一个很明显的前提条件是不一样的。所有的卡来源目前只有老黄。
而老黄很明显在有意分散卡的供给，基本是neocloud和hyperscaler对半分卡的这种情况。而每张卡卖出去的价格应该是一样的（AWS要让老黄打折，老黄就卖给别的neocloud了）。所以我觉得AWS就一定能拿到更多的卡这点，并不一定成立的。