机器学习入门经历

自己最早接触机器学习其实是在读CS master的时候，学校有一门介绍机器学习的课程。那是机器学习正在慢慢变火的时候，能容纳200人的教室被挤满了人，甚至过道上全坐的是学生。但遗憾的是我自己却没有通过这门课认认真真的入门机器学习这个领域：课程安排的太紧是一方面，导致我只是囫囵吞枣般的上完了所有的课程，勉强应付了作业和考试，并没有办法深入了解每一个有用的知识点；但个人急功近利的心态也是另一方面，毕竟机器学习是一个很火的方向，自己也蛮想速成以后找这个领域内相关的工作，所以仅仅知道了几个最简单的model和算法，会用几个现成的工具能够识别手写数字了就开始自以为入门了机器学习（后来我发现这是一个在新毕业学生中很常见的现象）。不曾想在后来真枪实弹的面试时被频频打脸。还记得在onsite面试Databrick的时候，面试官大哥让我现场推导SVM的公式时，我一脸不知所措的样子。大哥当时就说了一句：“你不应该来申请ML职位”。​那种尴尬的感觉到现在还记得。以至于工作以后的头几年都不敢妄谈机器学习。
后来直到在Facebook工作以后才慢慢又开始接触到了机器学习。虽然当时的职位仍然是后端程序员，但是因为要跟很多机器学习的大牛们合作，所以自己常常能够耳濡目染一些机器学习领域的技术和一些似曾听过但是不明所以的名词。慢慢的，自己当年对于机器学习的热情又被点燃了。今年年初列新年计划的时候，索性鼓起勇气又开始了对学习机器学习的挑战。因为有之前上学时的前车之鉴，所以这次学习的也格外耐心了些。转眼一年马上就要接近尾声，自己也从年初不明就里的样子变成现在也勉强可以追踪最新paper和修改github代码做自己的project的状态，收获还是蛮多的。所以想要在此记录下来自己入门学习的经过，跟可能同样对入门机器学习感兴趣的读者分享。

我的整个学期过程其实主要就是啃完一本又一本书的过程，所以我也会很自然的在接下来的段落里把我的学习按各个书为线索分成不同的阶段。

第一阶段​：重新学习概率论
之所以没有直接开始捧起一本机器学习的书去读，还是因为之前吸取的教训：上学的时候以为本科已经学过概率论了，应该够用了，但后来发现自己的概率论基础还是十分薄弱。也许一开始的线性回归还可以勉强看懂，但是到后面的maximum likelihood以及EM算法则完全不知所云，更不要说马可夫模型和graphical model了。​因为这些算法的推导涉及到很多概率方面的计算以及对概率论基础概念的熟练掌握。当然我们可以直接记住结论，然后直接用各个软件现成的库，而忽视具体的推导过程。​但是这样的学习方法有点像空中楼阁，对于熟练掌握机器学习还是不利的。所谓“工欲善其事必先利其器”。

您好！
本帖隐藏的内容需要积分高于 20 才可浏览
您当前积分为 0。
使用VIP即刻解锁阅读权限或查看其他获取积分的方式

游客，您好！
本帖隐藏的内容需要积分高于 20 才可浏览
您当前积分为 0。
VIP即刻解锁阅读权限 或 查看其他获取积分的方式
Unlock interview details and practice with AI
Curated Interview Questions from Top Companies

未完待续​。。。

楼主学的是数理统计吧。话说概率论和数理统计还是有区别的，概率论侧重measure角度的LLN and CLT, 数理统计讲KL divergence，bayes 估计量，假设检验。我认为还是应该做一些区别。

SGD和convex optimization不是一类问题。传统优化工具在随机环境下很弱的。无论是理论上，还是实验上。SGD其实是langevin diffusion离散的变种，是随机微分方程的离散形式而已。

Kirstie111 发表于 2019-12-17 11:20
谢谢楼主！我想问下找工作的话ml方向的工作是基本会要求phd吗，master上岸容易吗？还有转专业(ee)的话ml要 ...

一般不会要求必须phd，master也很多。转专业我觉得case by case，比如我知道EE很多方向其实做的跟ML也差不多，包括一些生物统计方面的专业。但是如果之前专业完全不相关的话，我觉得转ML确实需要补的多，毕竟大公司面试ML的人既考算法又考ML。

感谢分享

楼主写的很好 学的很深入啊…
不知道有没有转到偏ML research的职位的打算呢

已经关注，希望得到楼主更多的经验赐教～～～

shzhj 发表于 2019-12-2 15:25
楼主写的很好 学的很深入啊…
不知道有没有转到偏ML research的职位的打算呢

目前还没有，主要还是在做ML infra方面的工作，感觉这种工作蛮适合我的，可以结合ML的知识和infra方面的经验。不过自己业余做一些ML方面的side project哈哈

crlyw 发表于 2019-12-2 18:31
已经关注，希望得到楼主更多的经验赐教～～～

多谢支持！

已收藏，期待后续，不知道学那些课比较好

Steven_xin 发表于 2019-12-2 22:44
已收藏，期待后续，不知道学那些课比较好

我自己其实没怎么上过课，因为感觉我上课容易走神LOL。。不过据说Coursera上andrew ng的课推荐的人挺多

羡慕这种无压力的自学状态。。。
求职期间是真的没时间去学这些其实很有用的东西，哎

谢谢楼主分享。楼主那本凸优化看了多久？我之前看了2个月才看了4个chapter，弃了