[Meta machine learning system design 面试准备] [求米]

大家好！我又打算找工作了，特别希望能多攒点‘大米’来准备面试，目标是攒够50个。为了回报大家，我会分享一下我是怎么准备Meta ML system design 的面试。
一开始，招聘人员就告诉我，问题很可能会从这三个里面选：
Design a personalized news ranking systems.
Design a product recommendation system.
Design an evaluation framework for ads ranking.


另外两个也有可能，但概率小一点：
Content safety
Search system
 
我发现，前面这三个问题，其实可以用很相似的方法来解决。关于机器学习系统设计面试，我发现虽然系统设计有很多种方法（collaborative filtering, graph neural networks,等等），但面试官不会强迫你用哪种方法。这意味着你可以引导面试的方向，往你熟悉的方向聊。我发现最好聊的就是two tower network( https://substack.com/home/post/p-32375010 )，因为你可以很方便地解释怎么加入不同的特征。比如，你想用非结构化特征，你可以说用BERT提取帖子的文本嵌入，用CNN或者VIT模型提取图像嵌入。结构化特征就用独热向量。
用其他方法的话，解释怎么加入更多特征就有点麻烦。而且，two tower network可以用Transformer架构，如果你对Transformer的细节（比如self attention、tokenization）比较了解，就能显得很专业。
 
学习双塔架构的时候，有个容易犯的错误是contrastive losses。实际上，推荐或者排序系统用的two tower network，会把两embedding dot product 然後用cross entropy loss，这样更容易解释和设置训练目标。在广告排序里，交叉熵损失通常用来预测点击率或者其他互动指标。
 
所以，面试开始的时候，你就先说怎么准备数据、用什么架构、怎么训练。面试的下一个重点是评估。你要熟悉一些离线指标，比如MRR、Recall@K、ndcg，用来评估模型在保留数据集上的表现 (https://github.com/alirezadir/Machine-Learning-Interviews/blob/main/src/MLSD/mlsd-metrics.md )。然后，一定要主动说怎么做在线评估，大部分情况下就是A/B测试。你可以说怎么在一个小部分用户上测试，怎么测量点击率和广告收入的变化。
 
准备好聊50分钟左右的设计，面试官会问你一些澄清问题，或者问你设计选择的原因。我发现看YouTube视频对理解面试的结构和节奏很有帮助。我觉得这个视频最好： https://youtu.be/7_E4wnZGJKo?si=-WsF2eREtvXoRRDc .总的来说，我觉得机器学习系统设计面试比传统的软件工程系统设计面试变化少一些，有些方面更容易准备。希望这篇分享能帮到大家！

为了进一步补充关于two tower networks为何有用的背景信息；它们使得处理大规模数据变得容易。Collaborative filtering方法无法扩展到数十亿项，而单个N则忽略了用户/项目交互。使用two tower network，你可以首先使用项目塔从数十亿项中选择Top-N，然后使用预先计算的用户嵌入在选定的项目上快速执行collaborative filtering。

感谢楼主的分享！请问楼主是几年经验要面什么level呢？

找的是L5

多谢分享！这三题好像都是loop的guide上的，希望楼主之后可以回来分享面筋🙏

感谢分享，请问楼主您的target是E4还是E5呢？

非常感谢楼主的分享