复习+刷题

交了些简历，每天总结一下今天做了什么，不然时间嗖的一下就没了
年前刷够500 leetcode 现在480+，从今天起尽量只看hard
计划 温习一下传统ML（cs 229）敲一下机器学习实战里面的代码
统计用penn state在线和绿皮书
看完berkeley今年的cs285（deep RL）
brush up on deep learning https://github.com/afshinea/stanford-cs-230-deep-learning
另外一直有youtube premium 下载视频到本地 循环播放 被动学习……

哈哈东西好多 扑街了



补充内容 (2019-12-22 13:27):
目标是地里ML第一高楼 有帮助的求大米

补充内容 (2019-12-26 04:29):
有要加入的直接私我 共享信息

强势关注

12/25/2019

今天 lecture 14-15 老版cs229的unsupervised learning就讲完了.
新版的cs229加入了一些树的模型。deep learning，削弱了svm推导和RL。

unsupervised learning有两种 一种是probabilistic, 一种不是

前者包括 EM（实际上是一个算法不是具体模型）for Gaussian Mixture, Bayesian, Factor Analysis
后者包括 k means, PCA.

--

今天主要是PCA，(comparing to Factor Analysis（如上)) ICA.

PCA，求解maximum projection unit vector u given training data。这个其实就 k largest eigenvalue of empirical covariance matrix。该矩阵symmetric，所以前k一定有解。注意同样eigenvalue的eigenvector之间subject to permutation，所以不要赋予这些vector太多涵义。求解只需要SVD。

对data要preprocessing，i.e.  subtract mean, normalize variance to 1

应用就是降维啊什么什么的……

--

ICA，independent component analysis，假设有source，但只观测到x 如果x=As，需要找到W使得 s = W^-1x

px(x) = ps(W^-1 x) |W|,

write down log likelihood of data, do gradient descent.

有两个assumption，（1）这个原distribution不是Gaussian，因为Gaussian会有rotation symmetric的问题，原distribution可以用sigmoid（or laplacian），两个都have fatter tail。 (2) source data points are independent，这个在data够多的时候不是什么大问题，但sgd的时候可以permute data。


我个人觉得ICA不是很经常考。



明天撸一撸tree-based models

2019/12/19

CS229 lecture 4-5和配套material

纯靠回忆的总结：
Generative vs Discriminative algorithm
Generative: estimates p(x|y) 再利用bayes theorem计算 p(y|x),
Discriminative: 直接extimate p(y|x) / output lable in {0,1}

Generative Algorithm two examples:
(1)
Gaussian discriminative Analysis: If plot p(y=1|x), the result is also a sigmoid function. but will be different from the one found by doing LR.
Gaussian discriminative Analysis assumes p(x|y=1) p(x|y=0) are Gaussian, in fact every ExpFamily WILL result in a sigmoid function curve. Therefore this needs a stronger assumption than LR => shows the robustness of LR.

(2) Naive Bayes.
-naive assumption: P(x1,...,xn|y) = P(x1|y) *...* P(xn|y), independent of features given y.
-why not LR, too many paramters 2^n-1, whereas NB needs n.
-Laplacian smoothing, add 1 to numerator, k(#classes) to denominator, to prevent 'never seen, never will happen' prediction.

Generalization to Naive Bayes,
multi class(discretization into buckets) , multinomial event model: taking # of appearance of words in dictionary into account, instead of binary vector which was used in NB.

---
Non-linear model: NN is an exmaple of non-linear model. What makes it non-linear? Non linear layers.

--

Setup of SVM, geometric margin, functional margin.

楼主可以组队么？

2019/12/19

过了一遍CS 229 Lecture 2-4，正好讲完了generalized linear model。
这一套理论真是十分优美。 LR，OLS，softmax都是GLM的一种。

OLS is unbiased but with low variance comparing to non-linear model.
Lasso/Ridge biased with lower variance.

补充内容 (2019-12-23 04:01):
李航是用最大熵来讲这个的 很有意思 有时间可以看一下

sevenwonder 发表于 2019-12-20 07:33
楼主可以组队么？

请问您的目标？以及想怎么组队？

阿钟 发表于 2019-12-20 10:01
请问您的目标？以及想怎么组队？

我是想面ML engineer， 想多练习下基础以及ML design 这方面的，当然还有刷题啦，觉得楼主很厉害啦，想抱大腿，鞭策自己好好学啊

sevenwonder 发表于 2019/12/21 05:52:34
我是想面ML engineer， 想多练习下基础以及ML design 这方面的，当然还有刷题啦，觉得楼主很厉害啦，想抱...

好啊 我也想面这方面的但是我可能进度比较自由 厉害倒没有 真厉害就不打卡了😂

12/21/2019

今天先是看了cs229 lecture 6-7
然后我觉得andrew讲得太慢没有耐心听，就看了一下notes，结果notes也觉得不是很畅快，就又看了一下李航蓝皮书。
229 的lecture在08版没有提到SVM和hinge loss学习的关系: linear support vector machine is equivalent to minimizing L2 regularized Hinge loss.

Notes also include Kernel trick:
idea: what if function is non-linear? Map x to feature vector. might be huge. Kernel trick allows updating in O(n) by not storing theta but pre-compute the kernel value.

我感觉不要纠结于手撸svm的detail 二刷ML复习的时候再说。或者要onsite了再说……

12/22/2019  
哈哈哈前面所有lecture 序号都错了 昨天是7-8. 今天是9-10.

今天
主要是learning theory
Andrew很神奇他讲了pac learning却不提这个叫pac learning
然后推了一下bias-variance tradeoff，增加H的复杂度会提升best possible hypothesis，但随之而来的，training example导致variance变高
然后inifinite hypothesis class，为什么SVM不会overfit
SVM和LR都是convex optimization approximation to ERM of classification problem（non convex），一个是logistic loss一个是hinge loss

From a list of model:
Cross Validation, K-fold CV, leave-one-out. -> efficient use of data, but more expensive in training.

Choose feature:
forward/backward selection
or compute MI choose best k features, (KL div between P(X_i, Y) and P(X_i)P(Y), i.e. how independent)?
(参考决策树）

……甚至觉得圣诞节过完我就可以把非RL的部分粗略过完了。

12/23 今天比较累
lecture 11

谜之讲了bayesian LR
一些实战advice