一点data方向的跳槽心得

从三月份开始陆陆续续地面试到最近接到了满意的offer，走了不少弯路，感谢地里提供的各种信息。特此记录回馈大众，希望大家都有不错的哦佛！面试结果：
offer:
斯奈普 L4 MLE；巨婴 AS2； 灵感 Sr MLE； 波士顿家具 L3 ds tech lead；stitch 修理 L4 ds；亚麻 L4 DS；还有三个小的startup sr ds/mle
withdraw：
水果 VO约太慢了；数据机器人 同慢；希望 感觉很偏analytics的岗；外卖公司
面挂的：
scale ai, 君让臣死臣, 黑车，美国虎扑， 空气床, 灵应, etc...

楼主的背景是商业分析的master+接近三年工作经验，这次跳槽主要从scope（TC）和domain的角度找公司。从scope来说，我的理解就是，junior的关键就是老板告诉你去改个bug做个feature，你去follow并可以提出问题；l4的关键就是给你比较模糊的需求或者目的比较明确的项目你可以自己figure out，可以在不同的tradeoff中找到最优解；l5/tech lead的问题就是模糊度较高的project以及可以proposal新的project来drive business。从domain的角度，作为MLE有很多分支：CV, NLP, IR, QA, GNN, RL, search/recs， 基于过去的工作经验和兴趣，我在众多分支里找了2-3个并着重准备，包括阅读paper(survey, review.)，做项目等。

【MLE track】
大概面了15个VO之后我也从中不断学习了很多。从前五个VO挂了三个，到后五个VO全拿下，我弥补了自己的知识盲区，以及把自己的经历讲得更有故事性（感谢亚麻LP的磨练！我真的每个LP都准备了2-3个stories，面试的feedback是BQ和principles非常好，感觉可以秒所有BQ面试了，泪目！）。很重要的一点是，不同公司的MLE的职责有不同的定义，有的公司更偏向e2e modeling, 有的偏向MLOps，有的偏向infra等。在找工作伊始，我‘来者不拒’，但是被光速打脸，因为infra和mlops是我的弱项，也并不是我优先准备的方向。所以我的建议是，找准自己的方向，然后找工作的时候看准responsibility和job description，可以问HR或者第一轮phone screen的时候问面试官他对这个role的expectations，如果觉得不符合自己的兴趣可以及时止损。

【关于准备面试】
我选择的MLE的方向是e2e modeling，会涉及到一点MLOps倒不是很多，对面试而言，大概准备四个方向：
1. Coding
coding包括ds&a coding 和 ML coding。也会有公司考SQL但是很少，我也没有特意准备。ds&a coding我大概刷了700题左右，两年前找工作刷过，这次主要是‘以面带刷’：就是要面xx公司的时候，找lc xx tag和地里xx公司的面经，然后在面试前能刷多少刷多少，刷过的至少做两遍。hard不能跳过，很多hard随着卷而变得不再是hard。。附上我两年前的打卡贴：https://www.1point3acres.com/bbs/thread-527322-1-1.html
ML coding准备起来挺有趣的，既可以熟悉python的某些骚操作，又可以加强对ML的理解。我列一些比较常考的，同时我也在做一个side project，用numpy把所有ml自己实现一遍（准备面试不需要）。常考的有knn, kmeans, cross validation, max/avg pooling, calculate AUC, markov chain, epsilon greedy, etc。 欢迎补充。

2. System Design
我的感觉是design is all about tradeoffs。 是一个展示知识深度和广度的机会，好好把握，很多公司都看SD来定level。
其实SD我没什么发言权，是我的弱项，也是我面挂的主要挂因。大家可以参考地里的资料，我主要看了groking那个系列和DDIA的2&3章，把遇到的不熟悉的名词都wiki了一遍。

3. ML knowledge
3.1 最基本的 不同traditional ml的定义优缺点：LR, SVM ,GBDT/RF/XGboost,  boosting&bagging,看花书足矣！
3.2 DL theory：CNN参数计算，LSTM参数计算（四个门）， 各种activation function, 各种learning optimizer优缺点, rnn, attention, popular nlp models and cv models, backprop, convex and nonconvex，看花书足矣！
. ----3.3 Model evaluation: imbalance data怎么处理，precision recall公示，如何衡量ranking/recall, offline evaluation online ab怎么做，可以穿插一些自己的工作经历，比如你做 xxx project是怎么评估模型的，有没有改loss function？有没有jointly training? multi-task learning? 怎么做mutli-objective optimization(MOO)。
3.4 ML ops：怎么发现data drift （streaming linear regression in spark)， 怎么retrain model, online learning？
3.5 special topics: active learning, reinforcement learning, multi-task learning, zero/few shot learning, causal inference, etc. 面试官不一定ask（懂），但你可以show（秀）。

4. ML Case & System Design
其实ML case 和ML system design应该算是两轮面试，但思路上大概相同，只不过case更偏重modeling, features, model evaluation,而system design偏向于整个ML infra，data pipeline, database, model evaluation, api deployment(batch or real time , tradeoffs?)  ML case约等于ML knowledge+critical thinking；ML System Design约等于MLOps+ML knowledge+system design。有点交叉学科的意思，就叫它面试的交叉轮吧。
我的经验是要多积累，多看公司的engineering blog，理解 ML lifecycle，总结一些design上的tradeoff：从business的角度要怎么做，从engineer的角度怎么做，那我为什么要这么做（这也算是半个BQ题了）。
和system design类似，从requirement出发（batch/realtime? browser/mobile? retrain loop? enable ab test? distributed training? track ML experiments? control work(air)flow? deployment mode? model monitorning?），然后问一下面试官要不要计算qps/storage，描述一下data model，
另外有一门斯坦福的网课专门讲ML system design的也不错。
推荐一些不错的微信公众号：dataFunTalk；图与推荐；炼丹笔记；美团技术博客；专知；机器学习实验室；kaggle竞赛宝典；阿里技术
知乎也不错，follow了好多知乎大佬，感觉国内做applied machine learning真的很不错！

其实面试也是个发现自己的过程，除了准备以上方向，更重要的是平时的思考和积累。多读paper多实践写码多思考。祝大家遇见更好的自己。



补充内容 (2021-07-07 23:38 +8:00):
有机会再写如何拿到面试的以及现场表演的技巧篇。 其实大部分面试是猎头/hr/hm找我的，对DS来说build自己的DS portfolio(open source, blog, projects, conference, etc.)比简历更有用

补充内容 (2021-07-09 10:17 +08:00):
今天收到了虾图卡车公司，21年跳槽季以十个哦佛告一段落了；）

补充内容 (2021-07-23 02:28 +08:00):
今天收到某外卖公司 第十一个哦佛 终于没有面试了

对比隔壁大厂8 YOE，没有准备充分就去面track不太对口的岗，楼主完美体现了占了坑的萝卜在DS红海里寻找机会的正确姿势。

补充内容 (2021-07-07 13:37 +08:00):
是不是应该投在数科面经或者职场达人版？

写的很好，请问花书是哪一本？

感谢lz分享。感觉有种path MLE比较注重你说的model 或者model algorithm 的部分。另一个path侧重点在ML ops system design。想问lz是如何选择侧重点的？是主要基于之前的工作经验？看起来lz主要是侧重在第一个path对吗？感谢分享

恭喜楼主！！感谢分享！！

我还记得上次跳槽的时候看到LZ上次发的帖子，转眼LZ又跳槽了 棒

非常认真细致的分享！感谢

感谢楼主分享！非常详细。

长文马克

感恩lz！！

请问楼主 什么是花书？

yuihbhjfyfiuo 发表于 2021-7-7 22:59
请问楼主 什么是花书？

this one: https://www.deeplearningbook.org/