2021fall 美本硕申请全奖CS PhD求推荐选校

aaronhan223 发表于 2020-9-19 05:15
LZ讲真，graphical models，bayesian inference这些方向热度早就过去了（当然8-10年前是hot topic），现在 ...

但是我没有上过什么统计的课（大概只有一节），而且也没有publication，感觉很容易白给。

hotwire 发表于 2020-09-18 14:29:29
但是我没有上过什么统计的课（大概只有一节），而且也没有publication，感觉很容易白给。

统计phd看你的数学课，最关键就是real analysis这门课了，楼主coding强也是个加分

aaronhan223 发表于 2020-09-18 14:15:34
LZ讲真，graphical models，bayesian inference这些方向热度早就过去了（当然8-10年前是hot topic），现在这些领域能申到funding的组挺少的大家都转行了，

bayesian这几年的best paper都经常出现，涉及概率模型的基本都和bayesian有关，说过时是不是不妥？近年的paper都在划水？我想听听你的高见？你觉得什么是火？统计的bayesin和cs关心的东西都不一样

random123321 发表于 2021-3-10 04:16
bayesian这几年的best paper都经常出现，涉及概率模型的基本都和bayesian有关，说过时是不是不妥？近年的p ...

层主您好！小弟不才，不知层主是否利益相关？也在美读博？如此随意的一个回复惹得您这样aggressive，十分抱歉。小弟自知学识浅薄，在此有如下几个问题想请您解答：

1. LZ帖子正文里讲首先想申请的是CS PhD而不是stats/应数对不对？
2. 小弟在回复里有鼓励LZ去统计系找老师对不对？
.google  и3. 小弟没有否认bayesian的价值，只不过从一个功利的角度说它现在没有8-10年前火热了对不对？
4. 小弟说现在做bayesian的人挺少而不是完全没有对不对？
5. 做research首先要拉到funding能养学生，然后才能发paper对不对？
6. 经常在social media出现的，是Judea Pearl、Max Welling，还是Geoffrey Hinton、Yann LeCun？
7. 小弟有说CS领域全部的bayesian paper都在划水吗？
8. 科技公司业界的人更care bayesian，还是更care GPT-3/BERT/YOLO/ResNet？

只索取不分享是不道德的，小弟还想再妄言几句：
NeurIPS这个会议在创始之初，做graphical model及相关领域的人就占据了极其重要的位置，出了很多非常有影响力的paper。有这样的背景，这几年还能“经常出现” best paper，真是十分令人惊讶！小弟记忆力不行，只能把18年及以后的ICML NeurIPS best paper翻了一下，跟bayesian算得上有关系的topic找到了下面这两篇（2个顶会3年best paper总数应该在18篇左右）：
https://arxiv.org/pdf/1903.03571.pdf
https://papers.nips.cc/paper/201 ... 6bd5f199c-Paper.pdf
如果层主另有所指，希望能给小弟点拨一下。

小弟明白，将bayesian作为实现自己学术理想的手段或许大有可为，只不过对旁边热钱流动的deep learning领域保持一颗平常心就好。小弟也是凡人，免不了俗，还望层主赐教哪些领域有暴富之势，定当感激不尽！

aaronhan223 发表于 2021-03-09 16:16:21
层主您好！小弟不才，不知层主是否利益相关？也在美读博？如此随意的一个回复惹得您这样aggressive，十分抱歉。小弟自知学识浅薄，在此有如下几个问题想请您解答：

1. LZ帖子正文里讲首先想申

贝叶斯和NNs有什么冲突的？？vae不就是最显然的结合么，现在做的bayesian deep learning少么？Bayesian是方法论又不是一个应用方向，做贝叶斯不代表不懂dl啊，用bayesian去解释NNs不也是一个很多人做的方向？

aaronhan223 发表于 2021-03-09 16:16:21
层主您好！小弟不才，不知层主是否利益相关？也在美读博？如此随意的一个回复惹得您这样aggressive，十分抱歉。小弟自知学识浅薄，在此有如下几个问题想请您解答：

1. LZ帖子正文里讲首先想申

我不明白你对bayesian的定义是不是过于狭隘。做因果推断的是不是用bayes？做ai safety里面uncertainty大部分也是bayesian方法。做生成模型的基本都在用bayesian。gan背后的核心不还是Bayesian那一套么？还是你觉得只有paper里有gp这种的才算做bayesian？我没去一篇篇查，但就我记得你漏掉了的ethz的那篇best paper。你说的gpt3，bert什么的神经架构是主流的ml研究方向？楼主想做bayesian的ml，你让ta去统计系肯定不对啊，关心的东西都不一样。还是你觉得只有统计系那种风格才叫研究bayesian？

aaronhan223 发表于 2021-03-09 16:16:21
层主您好！小弟不才，不知层主是否利益相关？也在美读博？如此随意的一个回复惹得您这样aggressive，十分抱歉。小弟自知学识浅薄，在此有如下几个问题想请您解答：

1. LZ帖子正文里讲首先想申

还有bayesian 8-10年前也不是很火，那会儿是svm和kernel的天下。bayesian恰恰是近些年随着NNs一起慢慢火起来的，之前因为硬件水平导致bayesian方法无法模拟，和NNs以前不火是一个道理。北美bayesian从来没有什么hot不hot，bayesian和NNs以前也不是北美的主流。

aaronhan223 发表于 2021-03-09 16:16:21
层主您好！小弟不才，不知层主是否利益相关？也在美读博？如此随意的一个回复惹得您这样aggressive，十分抱歉。小弟自知学识浅薄，在此有如下几个问题想请您解答：

1. LZ帖子正文里讲首先想申

如果要论文章质量，各种基于bert，gpt3的变种文章怕不是水百倍？还有那种调参大师搞出来的精细结构。各种把cv问题和nlp嫁接搞的文章，不知道这些算什么？

random123321 发表于 2021-3-10 10:51
还有bayesian 8-10年前也不是很火，那会儿是svm和kernel的天下。bayesian恰恰是近些年随着NNs一起慢慢火起 ...

层主，您说的对，不过我建议咱们不需要浪费彼此时间了。是的，我对bayesian的认知首先是不依附于Deep Learning的，它自己本身有一套很elegant的framework，可以自成一个学科。PGM，causal inference都是和它比较相关的领域，在一开始的回复里我指的8-10年前比较火的是PGM，而且是纵向的和现在的PGM比较，并没有和当年的SVM比。

在NNs出现之前大家都是各做各的，你也说了bayesian是随着NNs火起来的，那如果没有NNs呢？CV以前搞feature的，NLP搞syntax的，recommendation system刷ctr的，RL做TD learning的。。NNs出现之前他们也很难找到共同点联系起来吧，那bayesian deep learning是不是也相似呢？所以在我看来，那不叫bayesian，那就属于deep learning methodology/applications。所以ETH那篇disentangle representation很明显在我范畴里不是。你可以不同意我的观点，但这是我之前的认知。
. From 1point 3acres bbs
Again，没有任何一句话否认过纯bayesian的价值，只不过从一个性价比的角度讲，它确实不如去做deep learning。祝层主生活愉快

random123321 发表于 2021-3-10 11:04
如果要论文章质量，各种基于bert，gpt3的变种文章怕不是水百倍？还有那种调参大师搞出来的精细结构。各种 ...

也没说这些不水呀，但人家水上5年毕业了能轻松找到工作，你bayesian跑一跑R或者matlab水上5年毕业了试试？想不换方向选择就小一些了吧？