聊聊Anyscale

最近地里对Anyscale的讨论很多，作为员工出来分享一下自己的看法。利益相关：希望能吸引地里的大牛和有志青年来共创一番事业，所以屁股已歪，杠精求放过。

本人背景：FLAG E6跳槽到Anyscale。Anyscale期权当废纸算的话，TC降了60%。

1. Ray是干啥的？
简单说来，作为开发者在本地写一段Python代码，通过Ray可以无缝（或者极小改动之后）上云，分布式运行。

2. 这有啥用？
最大用处在于ML。很多ML Engineer/Data Scientist并不是科班出身的码农，写不了分布式代码。本地写了个模型、单机跑通之后，要么交给真码农改写成分布式，要么用AWS/GCP/Azure的API改造一遍，不然处理不了大规模数据。这两个选项都有各自的劣势，比如费时费力，或者价格昂贵。Ray的优势在于非常Pythonic，不需要开发者重新学习一套东西。它抽象了分布式计算的部分，只要你的代码在本地跑通了，稍加修改就能在10000台机器上分布式运行，迭代速度加快。而且这10000台机器可以是AWS/GCP上最便宜的spot instances, 有时打4折还多，清仓甩卖，意味着客户通过Ray获得了跟AWS/GCP managed ML services一样的全托管体验，并且价格低廉得多，可以随时在各大cloud之间灵活迁移，不会被绑死在一家提供商身上。

另外，现在市面上有很多specialized的分布式计算框架，很多公司需要维护多个框架，每个负责ML的一个步骤，比如spark用来做数据批处理，flink处理流数据。框架多了复杂度就高，难维护又容易挂。Ray是个通用型框架，比spark这些都更底层，客户只要用一个框架就搞定全部的分布式计算需求。具体可以搜一下蚂蚁金服的例子（标题是“蚂蚁金服新计算实践：基于Ray的融合计算引擎”，抱歉没权限发链接）。这一点对增强学习尤为关键。

3. Ray有用，Anyscale怎么赚钱？
这个问题坦白来说还没解决。但从我个人来说，来startup不就是要解决问题的么。大体上就是提供managed Ray experience，让那些不想自己折腾Ray部署的公司（主要是中小型企业）可以付钱获得更好的体验。具体涉及保密，就不多说了。

4. 团队如何？
最早期的一批员工，包括CEO/CTO和骨干工程师都是同一个Lab出来的，大多没有大厂经验，所以有点游击队的意思，但也把开源版本搞得风声水起，星标增长速度比肩spark，而且生态建设得很火热，Uber Horovod/Apache Airflow之类的开源ML工具都已经跟Ray整合了。这种任命模式在导师带学生创业的公司里很常见。B轮融完之后开始有财力招募业界老兵了，比如head of engineer是前Google/Uber的高层，最近一两个月又有一大批FLAG的工程师入职。这些人进来之后逐渐把流程规范化，开始有OKR，开始有各种review process，游击队慢慢转变成正规军。Ion Stoica算是定海神针，以他的背景，a16z基本上给了张空白支票，融资比其他startup容易得多，团队得以专注在产品上，不用太担心钱。

5. 所以Anyscale就是财富密码？
可能我屁股太歪，被Anyscale忽悠得太懵逼，觉得一切都太美好（不美好我降薪跳槽干啥？）。但正常人都知道，startup风险很大，比如上面说到的赚钱问题，还有管理团队的经验问题。如果说我在前公司是豪华邮轮上一个体面的服务员，那么现在就是小舢板上的水手，可能舢板明天就翻了，我又得爬回邮轮接着当服务员，但万一这小舢板发现新大陆了呢。其实我就是想体验一把小舢板，那就挑一搜看起来最不容易翻的跳，然后跟其他人努力一起划，剩下就看运气了。那些一眼看破一个公司能不能成的都是神，请上天。

再说一句，去纯做轮子的startup, 要抱着学技术为主的态度，不容易失望。要发财，商业化成功，确实挺难，很多变数。hadoop大数据造轮子startup们曾红遍一时，满地开花，科技🌲点错，啥都没有。Kafka这么成功，ARR 就300多米，年增长50%多，很一般一般。。。 要发财，2C 的空间比2B大太多了。

TB2020 发表于 2021-6-3 11:34
为啥我觉得我搭个spark分分钟搞定的事情。。。。不过人家confluent就基于kafka随便搞几下就独角兽了，当年 ...

我上我也行系列

有一说一，Berkeley的lab很善于搞这种，推个架构，弄个Opensouce，发个paper，然后就出来搞一波。前有Databricks，现在是anyscale，大概都是一波人，至少源头Prof都是那一帮。从技术角度，应该是solid & deep的。商业化的话，只能呵呵了。看看现在热门的类似pre-IPO的公司，confluent，databricks，盈利能力一般，并且cloud那边还有一堆大厂虎视眈眈，能抄就抄。看看曾经大热的Cloudera被私有化，就可见一斑了。
所以年轻人可以尝试，以免以后总惦记，心里痒痒，大不了交学费学技术，而且万一财务自由了呢。最新“飞总了IT”有篇类似的文章讲Confluent IPO，也是这个意思：风口上，啥都能飞。趁着这股劲，也飞一把，省了一辈子爬地上，老了后悔。

且不说商业模式，现在大多数开源深度学习软件都在做这个模式，还背靠自己的云。Ray主要前期在RL上面发力，现在在huggingface上面加油。感觉将来被aws收购会更有前景

感谢楼主分享

请问楼主方便讲讲distributed system track主要会考察candidate的哪些素质呢？需要什么样的过往经历？面试还是以leetcode+系统设计为主？

之前跟recruiter聊了一下，最后还是决定没有面他家。看团队确实很solid，但我个人对它的business model不太了解。不过以后会持续关注，技术有前景。

f员工，投出去的简历已经石沉大海😭

. Χ为啥我觉得我搭个spark分分钟搞定的事情。。。。不过人家confluent就基于kafka随便搞几下就独角兽了，当年我压根都懒得正眼看一下confluent，心说那个傻子用这个，然后。。。。。。哎

用Ray写出来的代码，Ray底层做的就是把任务并行化，然后按照调度云上的计算资源，但是缺少cloud provider in-house计算和网络资源的优化，比如可能有些managed ML service可以在内部监控收集各个层面非常细致的用户的使用模式和数据然后有针对性的做硬件或者网络层面的优化，Ray把计算资源抽象成node/cpu/gpu/mem，不绑定某个cloud provider，没法获取这些细致的信息做优化，会不会在性能上比cloud provider差一些？

面过 但是挂掉了 和CEO 以及founder都聊过 感觉还是比较有前景 无奈我不是做infra的 缺乏很多相关的知识