小众过经，LLM初创 Mozilla.ai，Research Scientist

面了一很新的大模型初创，最近也有朋友在面所以po出来。

Mozilla.ai 有点像内部孵化的感觉，目前金主就是Mozilla。三月份成立，种子轮funding算很高了。内部人员背景也不错，有ex-meta，ex-twitter等的Research，MLE，SDE的人员，大部分5年+yoe。面试的岗位是Research Scientist。猎头搭上线和HM聊了之后就直接VO了，一共三轮。

第一轮：
先考了ML Coding，给了一个Colab的框架要求实现K-means，代码量不大也不小，最后跑出结果之后会有一些图对比。开放性问了follow-up比如优化方法。接着问了一些transformer相关的比较八股的东西，BERT/GPT，多头，mask这种。

第二轮：
ML Design轮。主要是关注在Retrieval Augmented LM。描述一个场景，问如何基于pretrained LLM设计retrieval相关的功能，训练，inference，特别问了一些knowledge grounded相关的问题。这个应该是和他们业务场景很相关，之前HM聊的时候说到其中一个业务是医疗领域的问答检索相关的。接着结合着问了推荐系统相关的问题，相对比较浅，embedding设计，粗排，精排，以及如何和LLM结合（开放问）。

第三轮：
Research Presentation

您好！
本帖隐藏的内容需要积分高于 188 才可浏览
您当前积分为 0。
使用VIP即刻解锁阅读权限或查看其他获取积分的方式

游客，您好！
本帖隐藏的内容需要积分高于 188 才可浏览
您当前积分为 0。
VIP即刻解锁阅读权限 或 查看其他获取积分的方式

ain specific pretraining），将来可能根据业务场景（医疗图像？）做多模态，但是不直接做general的基座训练（大羊驼或者chatgpt那种）。感觉相对于这个成立时间，资金算是很充足的，老板当时说在和英伟达谈投资（算力+钱）。有一个很大优势就是可以全球大部分地方remote，美金结算工资，包裹很喜人。

请问楼主包裹多大