普通PhD找tech 实习

去当MLE 是当调参侠吗？ 什么样的活是有意义的活？我第三年ECEphd，在当SDE 和MLE （data science） 中纠结， 也不知道那个适合？中厂有啥推荐申intern吗? 大厂今年好像好难找intern。

调参侠只是mle的一种自我调侃，调参需要你摸清各种data的分布和规律，善用画图工具对data和model进行望闻问切，用数学和统计知识对其进行调理，还要熟悉前人留下来的各种经典药方

Let me play the devil’s advocate...

有些MLE工作确实是挺调参的。队友在某个AV头部公司当MLE，看他干的活基本上确实是这样的。我这里说的“调参”也是广义上的概念，包括但不仅限于真的去调整参数，还有那些DL里面很alchemy的一堆东西，加这个layer试那个architecture啊啥的。you’re not really doing anything systematic or scientific, just throwing stuff against a wall and see what sticks. 还有一部分MLE工作是一些gpu programming & optimization之类的活，那些不是调参，而且也更偏向engineering，但是和ML/DL也没太大联系。

当然也是有一些系统的方式去获得insight/intuition/heuristics去指导MLE的工作的，但那一般都交给research scientists 去做了。

你这话说出来说明你对MLE根本不了解。小模型早就自动搜参了，大模型你根本没资源搜几个参数。MLE要是只调调参数那也太好搞了。你目前这理解估计是过不了任何靠谱MLE面试的。

如果MLE就是调参的话，你觉得工资会这么高吗？AI PhD不一定搞得定MLE。打工人赚钱最有意义。赚完钱你爱做啥有意义的都行。

代码要好好写呀 发表于 2022-10-27 08:03:00
调参侠只是mle的一种自我调侃，调参需要你摸清各种data的分布和规律，善用画图工具对data和model进行望闻问切，用数学和统计知识对其进行调理，还要熟悉前人留下来的各种经典药方

神棍❌老中医✔️

匿名用户 发表于 2022-10-27 10:26
如果MLE就是调参的话，你觉得工资会这么高吗？AI PhD不一定搞得定MLE。打工人赚钱最有意义。赚完钱你爱做啥 ...

找个wlb好的。自己干得了的，然后tang平。phd 读的太苦了哈哈

今年phd也不好找实习吗

Inv0090 发表于 2022-10-27 13:06
你这话说出来说明你对MLE根本不了解。小模型早就自动搜参了，大模型你根本没资源搜几个参数。MLE要是只调调 ...

我觉得就是试不同模型（model config）也是调参。只要是需要experimentation compare performance都属于调参。

risbb 发表于 2022-10-27 13:28
Let me play the devil’s advocate...

有些MLE工作确实是挺调参的。队友在某个AV头部公司当MLE，看他干的 ...

你说的对。这MLE ambiguity compare to SDE。 感觉MLE ambiguity 大