查看: 11096| 回复: 24
跳转到指定楼层
上一主题 下一主题
收起左侧

机器学习入门经历(二)

   
全局:

注册一亩三分地论坛,查看更多干货!

您需要 登录 才可以下载或查看附件。没有帐号?注册账号

x
本帖最后由 大队管理员 于 2019-12-4 13:08 编辑

本篇是接着上一篇机器学习入门经历(https://www.1point3acres.com/bbs/thread-574769-1-1.html),继续介绍我的机器学习的入门经历。

第三阶段:学习机器学习基础如果说前两个阶段中对于概率论和凸优化的学习是磨刀阶段的话,这个阶段就是真正开始学习机器学习基础知识的阶段。如果是第一次接触机器学习的话,我觉得周志华的《机器学习》作为入门还是蛮不错的。这本书就是带着你一个一个的把机器学习中涉及到的各种基本概念和基础算法都过了一遍,让你对机器学习的世界有一个基本的了解。这本书的优势在于:首先是中文,方便理解;其次数学上的推导运算并不多,而是通过一些生动的例子(比如各种选西瓜的例子。。。)帮你去理解各个算法的基本概念;还有就是比较全,帮你消除对于机器学习中各种概念和算法的陌生感。
但是如果想要真正对于机器学习的各种经典算法有一个更深刻的理解,我还是强烈建议去精读一下《Pattern Recognition and Machine Learning》by Christopher M. Bishop。这本书太过经典以至于人们在各种机器学习的经验贴中一般只写它的缩写PRML。当然还有另一部齐名的缩写经典MLAPP我并没有时间去读。。。所以也无从比较这两本书哪一本更好。这本书虽然数学公式有点多,而且是一个大部头,但是读完以后给我的震撼还是十分深刻。给我的感觉就是:在读完《机器学习》后所有的算法和概念就像一颗颗珠子放在桌子上,你可以一粒粒的去数去把玩。而PRML则是把所有的这些珠子用一个背后的线串成项链,让我明白它们背后的联系和区别到底是什么。具体来说,PRML给我印象最深的一个观点就是它把很多看似完全不相关的算法(比如SVM,NN,Desicion Tree等等)都回归成了Linear Regression Model。然后在这样相同的框架下去比较各个算法在平衡函数表达力和解决维度灾难这两方面不同的优劣,进而让我们能从更深层的角度知道为什么SVM和NN要比Simple Linear Regression更牛等类似问题的答案。所以多花一些时间读这本书还是物超所值的。

第四阶段:Deep Learning
当我终于看完PRML后,我其实是有些小兴奋的,所以忙不迭的找出机器之心公众号文章看了起来,发现自己一篇也看不懂。。。其实这是因为PRML主要讲的还是经典的机器学习算法,然而最近几年深度学习技术突飞猛进,彻底改变了人工智能领域的方方面面,以至于大部分从业人员基本上都开始使用深度学习了。为了能跟得上目前机器学习的脚步和潮流,我还是不得不开始了深度学习之旅。其实这个阶段的书选择相对比较少了,而且基本大家公认的一本经典就是《Deep Learning》by Ian Goodfellow etc。这本书太过经典以至于它也有一个别名叫“花书”,可能因为封面有好多花的缘故。这本书第一到第四章主要讲了一些数学背景知识,相信经过第一和第二阶段的学习后可以跳过。第五章只用了一章篇幅回顾了所有主要的经典机器学习算法。也因为篇幅有限,所以这章没有细讲各个算法的推导过程,而是着重去讲算法背后的逻辑,其深刻和精彩程度感觉并不亚于PRML。从第六章还是正式介绍深度学习的各种前沿算法,包括CNN,RNN,seq2seq等。顺着书看完一遍,基本上会对各种技术都能有一个比较全面的了解。尤其值得一提的是第十一章,作者十分好心的分享了各种Deep Learning实际运用时可能遇到的各种问题,比如如何判断是否overfitting需要增加training data,如何判断设计baseline model,感觉真的是良心之作,对现实工作​具有很强的指导意义。

第五阶段:Keep (Deep) Learning
到了这个阶段,感觉机器学习的入门之旅进入到了一个比较tricky的地方。这是因为虽然《Deep Learnining》这本书涵盖了很多最新的技术,但是还是有一些十分重要的技术这本书没有涉及,或者这本书并不是一个学习该技术的好材料。这是因为机器学习领域发展实在太快了,而学术界到工业界的转化也十分惊人,这就导致可能目前被广泛应用的一项技术并不会在任何书籍中被详细介绍,而是只能通过原始的学术论文来学习。我想这也是为什么搞机器学习的人都多多少少需要看论文的原因。这一点在其他传统行业是很难想象的,但我想这也是机器学习领域的魅力所在:快速发展,日新月异。在这个阶段,我也只选择性的学习了几个我自己比较感兴趣的技术,还有很多技术我并没有时间去学习。所以在这里我也只能分享一些我自己学习过的技术。
您好!
本帖隐藏的内容需要积分高于 100 才可浏览
您当前积分为 0。
使用VIP即刻解锁阅读权限或查看其他获取积分的方式
游客,您好!
本帖隐藏的内容需要积分高于 100 才可浏览
您当前积分为 0。
VIP即刻解锁阅读权限查看其他获取积分的方式
Unlock interview details and practice with AI
Curated Interview Questions from Top Companies


以上就是我学习机器学习的入门过程,​更多的是我自己的个人感受,而绝非什么正确的路线。起初我也看了很多学习机器学习的经验贴,得出的结论就是每个人的经验都不相同​,适合自己的才是最好的。比如很明显你会发现我并没有看任何网络课程,就是因为我每次上这种课程总走神犯困​。。。
​所有学习的最终目的都是为了实践,而实践也是学习最好的方式。所以如果你有什么相关的项目想法,或者就是想单纯的交流,也欢迎告诉我,给我留言​。希望我的分享对你会有所帮助。​感谢阅读。



评分

参与人数 49大米 +148 收起 理由
sun-pool + 1 给你点个赞!
home_ai + 1 赞一个
lzchu1992 + 1 赞一个
johnson139 + 2 给你点个赞!
codedayday + 2 给你点个赞!

查看全部评分


上一篇:Neurips2019寻找小伙伴!
下一篇:芬兰赫尔辛基大学的AI课程
推荐
greyman 2020-3-11 07:50:07 | 只看该作者
全局:
本帖最后由 greyman 于 2020-3-11 08:03 编辑

感觉这些书用的时候翻一翻就好了,没必要读30%以上。一些经典的paper比这些经典的教材容易,甚至写的还好。

一个问题有很多解决方法,看完这些书恐怕理解也只是表面的。有些时候感觉专精一个方法已经不容易了。而如果记性质的话,完全可以网课速成,就像大部分人对GBDT的理解不需要多深,记住四五个性质完成可以Kaggle刷名次,又有何必要深究里面的math。编程实现的话,github经典代码的trick可能比理论更重要。

关键的是,这些书介绍的都是很经典的方法。而机器学习并非因为经典方法火起来,而是被beats everything的神经网络顺便带起来的。神经网络的非线性表示+SGD的非凸优化的确强大。前者是问题driven,不同问题需要对不同data有相应的理解造出相应的网络;后者需要对概率论理解非常深,不是各一两个经典方法书能搞定的或者KKT对偶就能解决的。多少人会费心学实分析,概率论,随机过程,动力系统,泛函分析,随机分析去理解hitting time, escaping time, log soblolev inequality等各种强大的functional inequality呢?但是只看方法的话,又怎么看得懂这些方法为啥厉害呢?所以呢,练编程刷题就好了。算法直接github copy就是了。经典算法对经典问题完全够用。

结论就是:定位是MLE就练coding刷题了解机器学习算法性质就行了,几乎没必要看书,看完也是忘的。定位是ML researcher就看 paper就好了,小白从经典方法/model paper看起,厉害的直接看理论paper就完了,也没必要看书。

评分

参与人数 1大米 +1 收起 理由
lukelz + 1 赞一个

查看全部评分

回复

使用道具 举报

推荐
gongsidegou 2019-12-4 03:03:13 | 只看该作者
全局:
《机器之心》这种公众号没啥可看的吧...... 我大胆猜测里面的编辑大部分没看过PRML...
回复

使用道具 举报

全局:
想请问一下楼主看PRML这本书大概花了多久啊= =怎么坚持读完的
回复

使用道具 举报

🔗
nsc 2019-12-3 23:33:58 | 只看该作者
全局:
lz一年看了这么多书?效率很高啊!希望分享下高效学习经验!
回复

使用道具 举报

🔗
 楼主| aaran 2019-12-4 00:58:55 | 只看该作者
全局:
nsc 发表于 2019-12-3 23:33
lz一年看了这么多书?效率很高啊!希望分享下高效学习经验!

可能就是因为工作不忙吧LOL
回复

使用道具 举报

🔗
 楼主| aaran 2019-12-4 01:00:40 | 只看该作者
全局:
wjr1111 发表于 2019-12-4 00:05
想请问一下楼主看PRML这本书大概花了多久啊= =怎么坚持读完的

确实花了蛮久时间的。。。感觉2,3个月肯定有了。。。
回复

使用道具 举报

🔗
nsc 2019-12-4 12:00:03 | 只看该作者
全局:
aaran 发表于 2019-12-4 00:58
可能就是因为工作不忙吧LOL

lz以前读博什么专业啊 应该数理基础打得比较好?
回复

使用道具 举报

🔗
yourdoraemon 2019-12-4 13:41:41 | 只看该作者
全局:
楼主看这些书,每一页都看么. 感觉 自己现在太急躁了,看不下去书.😭
回复

使用道具 举报

🔗
不要拧巴 2019-12-4 16:04:21 | 只看该作者
全局:
谢谢楼主。请问有没有讲xgboost和ligthgbm比较详细的资料推荐?
回复

使用道具 举报

🔗
 楼主| aaran 2019-12-4 23:48:15 | 只看该作者
全局:
gongsidegou 发表于 2019-12-4 03:03
《机器之心》这种公众号没啥可看的吧...... 我大胆猜测里面的编辑大部分没看过PRML...

哈哈 有可能
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 注册账号
隐私提醒:
  • ☑ 禁止发布广告,拉群,贴个人联系方式:找人请去🔗同学同事飞友,拉群请去🔗拉群结伴,广告请去🔗跳蚤市场,和 🔗租房广告|找室友
  • ☑ 论坛内容在发帖 30 分钟内可以编辑,过后则不能删帖。为防止被骚扰甚至人肉,不要公开留微信等联系方式,如有需求请以论坛私信方式发送。
  • ☑ 干货版块可免费使用 🔗超级匿名:面经(美国面经、中国面经、数科面经、PM面经),抖包袱(美国、中国)和录取汇报、定位选校版
  • ☑ 查阅全站 🔗各种匿名方法

本版积分规则

>
快速回复 返回顶部 返回列表