寻一起学习ML system design的小伙伴

relakuma 发表于 2021-5-29 16:14
感觉ML design还是比较吃经验吧。有没有hands on做过相关的项目，问一问细节就能知道。要求比看书学习理论 ...

well，如果实力碾压、经验完全cover面试题，那没什么好说；如果实力太次，完全一头雾水，那也没什么好说；但是大部分情况还是in between的。而且理论上，如果基础扎实，哪怕陌生的领域，也可以通过一些基本的规律推断出一些。作为面试官，我其实更喜欢能够给一道“新”题，然后展现思考过程，而不是背标准答案。

wudikuail 发表于 2021-5-30 07:10
well，如果实力碾压、经验完全cover面试题，那没什么好说；如果实力太次，完全一头雾水，那也没什么好说 ...

大厂的问题是每个人负责的内容都很有限，所以hands on的东西肯定很少。但是这只是第一手的经验少，不代表没见过或者说自己做做不出来。作为candidate，自然希望展现自己的强项，而不是暴露自己的弱点对不。

wudikuail 发表于 2021-05-29 16:13:34
大厂的问题是每个人负责的内容都很有限，所以hands on的东西肯定很少。但是这只是第一手的经验少，不代表没见过或者说自己做做不出来。作为candidate，自然希望展现自己的强项，而不是暴露自己的弱

junior自然是考模型逻辑的多，延伸到具体问题的少。senior的话期待肯定不一样，公司大概不会招一个senior的人还从头开始培养。既然是ML design肯定是对modeling和serving都有要求。从serving的角度来说，就算只是加一个简单的feature，senior candidate也得有个大概的认识加这个feature cost怎么样，在serving时如何实现，用怎样的infra去实现，real-time好不好做，而不是简单提出就可以了。

实际面试当中具体的ML问题有时候看似很直接，但是其实optimization goal并不是很清楚。这其中很多逻辑和弯弯绕绕的东西就是经验的体现了。当然我感觉这些都是锦上添花，即使一开始没想对，但是讨论之后能转到正确的讨论上就OK。

面试背景match的candidate的时候肯定是会想进一步了解candidate的相关经验的。我以前面过一位说自己对recommender system很懂的candidate。我问他具体哪个部分他做的最多最了解，他说全部都很了解。那我就问了一下cold start和exploration该怎么做，他马上改口跟我说他只做过KNN这样的。我觉得要是只是知道KNN和matrix factorization然后就觉得自己很懂这个领域的话，去面相关senior职位估计还是会差一点点

补充内容 (2021-05-30 11:24 +08:00):
就拿一亩三分地来说，面试可以问应该怎么设计这个推荐系统来合理的利用downvote这个功能来提高推荐质量。这不仅要求candidate知道一般推荐系统的serving flow是什么样的，还得知道negative signal是如何integrate到各个component里面的，而不仅仅是知道做个model来预测downvote rate就好了。同时如果要求系统的feedback足够real time，那么还要求candidate知道一般的service cache应该怎么设计, 里面的data structure长什么样，怎么保证feedback有足够的generalizability，应该看什么metrics来证明improvement之类的延伸……

最近在学习也在看这块。Stanford cs 329s我正打算跟一跟