[干货总结] Linear regression面试常见考点解析

sliuap1994 发表于 2021-1-9 10:22
亚麻面试有碰到问OLS的缺点 比如当y的数值范围很大的时候 应该选什么loss function更适合 除了把square dis ...

谢谢你提供的信息。OLS缺点很多，比如有multicollinearity的时候会受到较大影响等，主要看面试官想向哪个方向讨论。对于你说的"y取值范围很大"的问题， 我没有特别理解具体的意思，如果面试官要求一定是在least square形式的基础上做改进的话，第一步可以考虑weighted least squares增加一些可以调节的灵活性。当然也可以手动添加一些interaction terms提高模型复杂度，这都是比较中规中矩的方法。

eleven666 发表于 2021-1-9 11:44
感谢！如果能再讲些quant面试中涉及到的linear regression的问题，就更好了，只是那些题目可能更多从数学角 ...

谢谢你的建议！根据我的经验，quant面试中的相关问题大多是数理统计层面的问题，比如对每个coefficient的显著性做hypothesis testing，或者对整个模型做testing。这部分我在文章中最后说了，未来会在统计理论相关的文章中在讨论。不知你说的是不是这些问题？能否麻烦你举个例子？谢谢！

LR 具体实现时大多数包并不是直接用gradient descent求解的

谢谢你的分享， 给你点个赞

interviewML20 发表于 2021-1-10 05:32
非常感谢你的支持！除了OLS之外，Least Absolute Deviation (LAD) 在一些具体应用场景里也会出现，它对应 ...

暂时还没遇到（还没怎么面）非常感谢你的回答，我去学习一下LAD。

interviewML20 发表于 2021-1-10 06:02
谢谢你的建议！根据我的经验，quant面试中的相关问题大多是数理统计层面的问题，比如对每个coefficient的 ...

比如x, y对换，对beta, t-stats, r-square会怎么变, which slope is larger; if dataset is duplicated, beta等会怎么变; linear regression几何意义等

给楼主点个赞~

感谢楼主！！！正在为这些特别细节的知识点头疼，太有用了，然后坐等楼主更新~~~

感谢分享！

eleven666 发表于 2021-1-12 01:45
比如x, y对换，对beta, t-stats, r-square会怎么变, which slope is larger; if dataset is duplicated,  ...

谢谢你提的这些信息。请问你提到的"Linear Regressoin的几何意义"指的是什么内容？是不同loss function的意义，还是其他一些内容？谢谢！