跳槽：ads ranking eng vs ML Infra前景求做过其一的大佬建议

lz求问ml infra面试一般都会问些什么呀

选钱多的。十年之后都会被淘汰，技术日新月异，只有拥有资本才能立于不败。

满脸喷宁 发表于 2022-2-20 10:42
具体说说ML inra的坑把。ML infra大概可以分成feature engineering，orchestration，training infra，onl ...

这是一个极具深度的评价，不过就这些东西，国内的二线厂，比如拼多多，都已经有了，而且TM还是其中一个PK的组而已，而且卷到没啥可以继续卷了。另外，可能还缺了一块模型裁剪部分，以及feature ID 对应的embedding的重新shuffle上线的部分。

满脸喷宁 发表于 2022-02-19 18:42:44
具体说说ML inra的坑把。ML infra大概可以分成feature engineering，orchestration，training infra，online serving，model d

别误人子弟了MLE leadership管多得多的人级别却比ML Infra的leadership低哪来的话语权？

满脸喷宁 发表于 2022-2-19 18:42
具体说说ML inra的坑把。ML infra大概可以分成feature engineering，orchestration，training infra，onl ...

我只想说这个评价非常准确. ML infra如果没有大佬级别的人物支持, 基本上是做不起来的. 产品组随时可以招人自己搞一套, 反正凑和用用也不差. 产品组真不想用, 能有一万个理由不用ML infra/platform做的东西. 除非内部的ML infra / platform能在易用性, 性能等方面有较大的优势, 但这还是挺难的.

有一个方向没提到的是notebook service, 别看这东西简单. 但是data scientists没了notebook真没法干活, 一个公司一般也只有一个notebook service, 所以会比较稳. 当然, 做notebook service也不需要太多人, 没法拿到很多headcount.

做ML infra有一点好处是能对不同的系统组件都能摸一下, 可以自己选择要不要深入了解. 实在不行, 也是可以考虑转成纯backend enginer的.

匿名者 发表于 2022-2-19 20:17
别误人子弟了MLE leadership管多得多的人级别却比ML Infra的leadership低哪来的话语权？

你说的是狗还是脸？要不是这两家今晚是不是喝的有点高了？

yikehongxin 发表于 2022-2-20 11:27
这是一个极具深度的评价，不过就这些东西，国内的二线厂，比如拼多多，都已经有了，而且TM还是其中一个PK ...

可能还缺了一块模型裁剪部分，以及feature ID 对应的embedding的重新shuffle上线的部分。

请问层主 PK是啥呀？
模型裁剪主要是优化模型大小，提高training和serving的性能，同时无损效果？(类似蒸馏干的事儿吗）
embedding 重新shuffle上线是干啥的呀？feature embedding大规模系统中不都是走ps serving吗？

满脸喷宁 发表于 2022-2-19 18:42
具体说说ML inra的坑把。ML infra大概可以分成feature engineering，orchestration，training infra，onl ...

想请教一下
我从数学背景的做MLE 先进个中厂转到ML Infra 未来 转别的infra/backend有机会吗.
infra 里面训练数据生成  VS 模型 online training这两块机会如何。

gongchen 发表于 2022-02-19 13:21:37
这里只谈就业需求。

ML infra要做深，只能在几个大厂之间跳了。原因楼上已经说了。99%的小厂/中厂 没有需求/资源来自己从头搭。

层主跟我的想法很接近

匿名用户 发表于 2022-02-20 09:48:37
层主跟我的想法很接近

一定要兼容深度和广度 做那种容易建立护城河且适用面比较广的东西 比如技术上可以有一定深度同时context上又比较general 这样才能走的更长远