狗家和脸家做research的不同感受

Argot 发表于 2021-06-27 17:02:10
RMI 不了解，楼主能不能简单介绍一下啊？

Research Machine Intelligence. 更注重和产品结合，发paper是其次的。

小民 发表于 2021-06-27 20:03:49
楼主说的research,是only for ML, 还是general的，也包括SDE的方向，infra这些？

个人经历仅限于ML。不过research感觉两家都是注重ML方面，即使是别的方向也是和ML的交叉领域，比如做system research主要就是ml infra，还有狗最近brain还用RL驱动了芯片设计发到nature上了。没怎么发现有什么general的和ML无关的research。

rick_cheung 发表于 2021-06-27 20:39:57
本人做的偏system, 请问大家对于FB和Google非AI直接相关的research怎么看？

个人建议可以试试ML infra。很多system背景的在这个方向也搞的风生水起。比如软家DeepSpeed组大部分都是system背景。

在狗和脸的话可以搞搞tensorflow，jax，pytorch底层一些的东西，真不一定需要多少ml的背景。

匿名用户 发表于 2021-06-27 18:56:48
>>> "脸家ml infra和业界sota差距很大"

层主可以展开说说 ML Infra 这部分吗？感谢！

想赞一下狗家的ml infra其实有两套，一套給产品线，一套給research。 毕竟需求还是有很多不一样的地方。

我觉得ml infra太宽泛了，公平的讲pytorch如果算infra应该也算sota吧。

fundrive666 发表于 2021-6-28 12:24
想赞一下狗家的ml infra其实有两套，一套給产品线，一套給research。 毕竟需求还是有很多不一样的地方。

...

我觉得脸家ml infra落后有很多方面，比如说对于distributed training的scale size和stability都不行。纯粹个人意见。

research整体来讲肯定是g领先很多，fb没有特别出众的突破性成果。至于个人要具体到组具体分析。从research的角度来说暴力美学不一定是坏事，先证明一个问题是可解的，然后顺着这个方向做硬件和软件的优化，最终实现落地。很多现在已经落地的成果都是走同样的路出来的。g的infra让很多其他公司想都不能想的事情变得可行，fb相对来说还差很多，不过也在开始砸钱追赶。至于效果如何要接下来一两年看了。fb的产品线少也是阻碍research的一个问题。

关注一下 紫薯紫薯

在脸家research，不算纯ML，确实能感觉到没办法做Pure research。看到狗家那一堆想干啥干啥的真是羡慕。。

rick_cheung 发表于 2021-6-28 11:39
本人做的偏system, 请问大家对于FB和Google非AI直接相关的research怎么看？

好奇同问，zszs

请问research部门一般除了厉害的ng phd还从哪里hire人呢？如果phd毕业sde了几年之后有什么机会可以转research呢？谢谢