Google CloudAI 5年工作体验

最近刚离职，回首一看，不知不觉，在谷歌cloud ai都干了5，6年了，cloudai一直被诟病，今天也来分享一下这六年的路程

刚加入cloud ai的时候还是new grad，那个时候啥都不懂，就奔着谷歌的名气和福利，还有AI两个字来的，那个时候（2018）正是cloud ai高速发展的时候，几乎每周都有好几次welcome email，director是李飞飞，她下面是李佳。国人也渐渐的多了，感觉当时整个org有50%的都是国人。可能觉得国人多了就会很卷，那个时候确实有点，毕竟周末都在加班，好处可能就是和其他人合作起来很顺畅，升职也快。整个org里几乎都是飞升，3-》4一年，4-》5 两年的都很常见（和meta比可能还是慢了），high level的也是，随着下面管理的人越来越多，自然就上去了。18年的时候，这个时候整个org几乎就是按照share infra和各个AI  product单独分的，比如vision，speech，translation，大家都在做AutoML相关的产品，几乎每次launch都要赶着cloud next。真的很忙，不过19年暑假的时候， 整个cloud ai参与launch的eng都去夏威夷放假了4天，上海的小伙伴也参加了。这是唯一一次比较好的offsite了，后来还有一次就是湾区Monterey。
之后org也新加了contact ai center，李飞飞离职了，来了CMU CS学院院长andrew。新的大佬来了就顺带reorg一下，具体的都有点不记得了，反正后来speech从一个director下面分出去了，分到了纽约，然后其他成立相关AI Industry Solution，然后又要分成natural language， vision， video相关的（反正后来还要被reorg。。。）。这期间，又上马了很多大项目，比如document ai，招了很多人，后来就是疫情了。。。
慢慢地，之前合作的小伙伴也离职了，又跟着大佬去了startup的，也有去tiktok，数据砖，苹果等等，没啥大变化地就到了去年第一次layoff，我还记得，周四刚开完all hands，VP andrew说要离职去创业了，第二天早上就大规模layoff了，感觉andrew就是因为定了layoff名单，然后自己走了吧。

以上就是还能记住的cloudai变化吧，此处为分割线
--------------------
最近谷歌又在layoff，前天也看到了这个linkedin post：https://www.linkedin.com/feed/up ... 153269568893775872/，

Google does not have one single visionary leader. Not a one. From the C-suite to the SVPs to the VPs, they are all profoundly boring and glassy-eyed.

组里的经历觉得这个帖子说的很对。疫情期间，natural language这边来了新的director，那个时候chatgpt还没爆发，等到chatgpt火了，整个cloudai都慌了，也乱了，新来的director也感觉要新官上任三把火，砍了很多项目（包括刚launch或者准备立马launch的东西，个人感觉很伤reputation），准备all in LLM。但是个人感觉，他们都没有想清楚自己下面的team能怎么好好地结合LLM，能有怎样的strategy或者plan，就指导下面说我们打算做LLM modeling， infra什么的放一边。这有一个问题就是，虽说是有“ai”，但是本质上cloud ai还是做ai product，大部分人还是infra eng，不是machine learning eng，以前的product都是和research team一起合作，cloud这边来productionize，现在新的director想用llm来解决一切问题，infra什么的没那么重要。个人觉得做cloud产品，首先服务的availability得有保证，不然哪个enterprise customer能来用，产品稳定了，model quality才能带给用户好处，但是感觉新的director不在意这些，特别强调model quality。 每周开会都在问LLM evaluation，看看结果好不好，为啥不好，不要present plan，只看evaluation结果，很push。着急launch的新产品，有些没做好的，也就着急上线。组里还有其他很多问题，这个估计都说不完，反正在这样的leadership下，陆陆续续都开始跑路了。

当然cloud ai下面有其他的team，我知道有些vertex manager和director都还是很好的，只是大家选择的时候，可以考虑一下：

1. team match和组里人聊一聊，问一下组里culture咋样，比如人文关怀，怎么合作的，和谁合作，有没有相互抢活的（这个估计是比较关系好的才能告诉）
2. 看看能不能组里的半年的离职率怎么样，短期离职较多的，大概率有雷。如果组里的都待得比较久，那可能没怎么发生比较大的恶心的事
3. 组的产品priority和visibility咋样，leadership怎么看待这个组的，对这个组的plan或者vision咋样
4. 了解一下组里是否主动和经常appreciate 别人的付出与帮助，比如peer bonus或者就是email
5. 组里怎么看待那种被砍掉的项目，对于做这些项目的eng是怎么给reward的
6. 了解一下manager的soft management skill， 比如怎么帮助rampup，能不能顶得住上面的压力，同时能不能分配好下面的活。问一问manager，同时找组员confirm
7. 组里成员用conflict的时候，TA怎么处理
8. 问一下组里的OKR怎么track和plan的，有些组OKR很随便，很容易没有计划或者乱计划，导致组里其他人不确定某个项目owner是谁。同时有些OKR是拍脑袋想的还是真的有用户用
9. 注意区别画饼和真正的project，有时候会说很多听起来很fancy的project，比如LLM相关的fine tuning，实际上没人知道咋样，或者组里知道不太行，没人接的活，大概率是个坑（当然对于大佬，可以直接上）
10. 组里是做infra还是model，同一个项目既有infra，也有model，然后credit怎么分


以上都是个人感觉，萝卜青菜各有所爱，我觉得一般的组可能大家很喜欢，所以这里希望大家能找到matched的组。写的比较乱，希望有帮助

你说我大GCP Cloud AI，一届一届换了多少leader了，改过吗？换汤不换药啊，人家Andrew也有理由说的，我带的是什么队，我带的CMU CS队，你这批人是什么人啊，你叫我带。我大GCP Cloud AI现在什么水平，就这么几个人，你eng什么的都在做LLM quality，他能做吗？做不了！没这个能力知道吗？再下去要裁product，裁完infra裁product，再裁research，接下来没人裁了。

之前在AWS AI做过一段时间 自从有了大模型 science org里的priority就非常混乱了 都是被openai卷得活不下去。

话说楼主通篇都在谈工作体验，团队文化，领导这些，但几乎没有提到产品ARR，用户增长这类主要的商业指标，看来虽然都是云，谷歌和亚麻的工作环境完全不一样啊

麻厂这边如果AI产品ARR上不去或者增长慢，产品的PM最先跑路，做模型的scientist都担心自己项目要没了，根本没时间思考其他问题。

感觉地里那个被Cloud AI PIP的疯子又要出来了

本来看标题以为又是那个梗哈哈。写得很好，谢谢分享。

想加米，结果没有100，加不了，哈哈

匿名用户 发表于 2024-1-22 19:19
本来看标题以为又是那个梗哈哈。写得很好，谢谢分享。

哈哈哈，先反着吹一波cloud ai吗

匿名用户 发表于 2024-1-22 19:19
本来看标题以为又是那个梗哈哈。写得很好，谢谢分享。

我相信大cloud ai哥，虽迟但到! 蹲一个

感谢分享。让我很怀念当时去cloud ai的时候只有三十几个人。

一个小错误，飞飞当年是vp 而Jia 是senior director L9

road 发表于 2024-1-22 19:52
感谢分享。让我很怀念当时去cloud ai的时候只有三十几个人。

一个小错误，飞飞当年是vp 而Jia 是senior di ...

诶，那我记错了？我怎么记得李飞飞和李佳都是director

JimmyZhuang 发表于 2024-1-22 19:50
我相信大cloud ai哥，虽迟但到! 蹲一个

hello啊，zzm :)

前年离开Cloud AI的路过，感觉很多product想法都很好，但是节奏很奇怪，product team弱，沟通成本高，前期付出很多，结果一个项目说砍就砍了，可以想象后来LLM介入后的混乱。不过比起狗其他组，新项目多，机会多。

最近被lay off在team match，请问下楼主vertex ai sdk，vertex ai search这些整体怎么样呢？