Software Engineer第一次去ML Coding Interview的小小震撼

第一次发，希望对大家有帮助。
我有10年software工作经验，主要也是接触AI和ML的工作，但由于我是software engineer title，之前我做的都是正常的leetcode面试题和system design。上周我第一做某厂ML Coding Interview，有点震撼：

• 题目不是leetcode任何题型。主要是实现一些现有的ML算法。这个其实我之前有面过ML的朋友也提到过，这次被证实了。
• 写的code需要numpy跑通，就和现在面leetcode一样需要跑通。这部分我是完全没想到的。可能是现在太卷了，之前感觉我的感觉是你把每个ops都写清楚，说下input output什么的。要跑通的难度其实有点高。特别涉及到各种矩阵运算。
• 如果是面LLM相关岗位，手搓LLM的某个部分是有可能遇到的。

根据我这次有限的精力，我也想到了一些之后大家要准备需要注意的地方：

• 难度和准备内容可以参考一些Cousera吴老师的课的作业，比如https://www.coursera.org/special...rning-introduction/ 和 https://www.coursera.org/specializations/deep-learning/ 的作业可以好好复习一下。相信你如果做ML interview应该这些课或者类似的是上过的。如果没上过还是先上了再去吧！我也只做一个一次interview，但我的感觉是你大部分ML的模型和算法forward pass会就行了，如果叫你手搓什么gradient这种，我猜也不是我可以面上的。
• Leetcode不能在题目本身帮助你，但可以你增加的语言熟悉度。所以肯定leetcode还是需要刷的
• 我已经万年没写过numpy了。但我对pytorch还比较熟悉，所以我很多次是按照input 和output的shape，还有pytorch的实现倒推的numpy的实现。如果有要自己搜资料的情况，可以提出share screen，然后在监督下搜索API。
• LLM相关内容，强烈推荐CS336在油管上的视频。第一个作业手搓全套LLM，对面试非常有用。后面就是一些model parallelism, scaling law, data, alignment的问题。从深度上是绝对够的。从LLM depth and breath的角度来说，这个课看完，好好做作业（我也还没做完），你应该轻松击败大部分自称自己很懂LLM，但没有实际经验的人。当然，如果你天天做大模型基础工作，可以从拓展知识的角度也看一下。比如你如果只研alignment，可能不会知道怎么shard你的model。

很有帮助的帖子，作为同想学习MLE技术的SDE，推荐AI engineering这本书，作者是Chip Huyen，对LLM的全面认知很有启发

最近面试也遇到类似的题目 （字节一面）
写出sigmoid和反向函数

非常建议去neetcode把ML题都搓一次

您的建议很朴实 感谢

可以分享是哪个厂吗，谢谢

问题是没AI ML经验的咋办

feifei963 发表于 2025-07-21 09:22:58
问题是没AI ML经验的咋办

去上吴老师的课吧！就是问我上面两个link。deep learning的对新技术更实用。machine learning主要是基础的东西。

小小小小马甲 发表于 2025-07-21 08:29:05
可以分享是哪个厂吗，谢谢

还没拿到结果。暂时不敢分享😅

感谢分享 你10 年经验 面哪个level? MLE吗

开心的猪 发表于 2025-7-21 14:46
感谢分享 你10 年经验 面哪个level? MLE吗

主要面Google staff level或者类似的（这个面试不是Google的哈！我只是打个比方）。Title的话只要是staff我都接受。SWE、MLE、Research Engineer我都有在面。

短发及颈的拖把 发表于 2025-7-21 13:04
去上吴老师的课吧！就是问我上面两个link。deep learning的对新技术更实用。machine learning主要是基础的 ...

过去工作是纯SDE后端，没搞过ML/AI，是不是简历都过不了