楼主: hotwire
跳转到指定楼层
上一主题 下一主题
收起左侧

2021fall 美本硕申请全奖CS PhD求推荐选校

🔗
 楼主| hotwire 2020-9-19 05:29:29 | 只看该作者
全局:
aaronhan223 发表于 2020-9-19 05:15
LZ讲真,graphical models,bayesian inference这些方向热度早就过去了(当然8-10年前是hot topic),现在 ...
..
但是我没有上过什么统计的课(大概只有一节),而且也没有publication,感觉很容易白给。
回复

使用道具 举报

全局:
hotwire 发表于 2020-09-18 14:29:29
但是我没有上过什么统计的课(大概只有一节),而且也没有publication,感觉很容易白给。
统计phd看你的数学课,最关键就是real analysis这门课了,楼主coding强也是个加分
回复

使用道具 举报

全局:
aaronhan223 发表于 2020-09-18 14:15:34
LZ讲真,graphical models,bayesian inference这些方向热度早就过去了(当然8-10年前是hot topic),现在这些领域能申到funding的组挺少的大家都转行了,
bayesian这几年的best paper都经常出现,涉及概率模型的基本都和bayesian有关,说过时是不是不妥?近年的paper都在划水?我想听听你的高见?你觉得什么是火?统计的bayesin和cs关心的东西都不一样
回复

使用道具 举报

🔗
aaronhan223 2021-3-10 08:16:21 | 只看该作者
全局:
random123321 发表于 2021-3-10 04:16
bayesian这几年的best paper都经常出现,涉及概率模型的基本都和bayesian有关,说过时是不是不妥?近年的p ...

层主您好!小弟不才,不知层主是否利益相关?也在美读博?如此随意的一个回复惹得您这样aggressive,十分抱歉。小弟自知学识浅薄,在此有如下几个问题想请您解答:

1. LZ帖子正文里讲首先想申请的是CS PhD而不是stats/应数对不对?
2. 小弟在回复里有鼓励LZ去统计系找老师对不对?
.google  и3. 小弟没有否认bayesian的价值,只不过从一个功利的角度说它现在没有8-10年前火热了对不对?
4. 小弟说现在做bayesian的人挺少而不是完全没有对不对?
5. 做research首先要拉到funding能养学生,然后才能发paper对不对?
6. 经常在social media出现的,是Judea Pearl、Max Welling,还是Geoffrey Hinton、Yann LeCun?
7. 小弟有说CS领域全部的bayesian paper都在划水吗?. 1point3acres.com
8. 科技公司业界的人更care bayesian,还是更care GPT-3/BERT/YOLO/ResNet?

只索取不分享是不道德的,小弟还想再妄言几句:
NeurIPS这个会议在创始之初,做graphical model及相关领域的人就占据了极其重要的位置,出了很多非常有影响力的paper。有这样的背景,这几年还能“经常出现” best paper,真是十分令人惊讶!小弟记忆力不行,只能把18年及以后的ICML NeurIPS best paper翻了一下,跟bayesian算得上有关系的topic找到了下面这两篇(2个顶会3年best paper总数应该在18篇左右):
https://arxiv.org/pdf/1903.03571.pdf
https://papers.nips.cc/paper/201 ... 6bd5f199c-Paper.pdf. ----
如果层主另有所指,希望能给小弟点拨一下。
. check 1point3acres for more.
小弟明白,将bayesian作为实现自己学术理想的手段或许大有可为,只不过对旁边热钱流动的deep learning领域保持一颗平常心就好。小弟也是凡人,免不了俗,还望层主赐教哪些领域有暴富之势,定当感激不尽!
回复

使用道具 举报

全局:
aaronhan223 发表于 2021-03-09 16:16:21
层主您好!小弟不才,不知层主是否利益相关?也在美读博?如此随意的一个回复惹得您这样aggressive,十分抱歉。小弟自知学识浅薄,在此有如下几个问题想请您解答:

1. LZ帖子正文里讲首先想申
贝叶斯和NNs有什么冲突的??vae不就是最显然的结合么,现在做的bayesian deep learning少么?Bayesian是方法论又不是一个应用方向,做贝叶斯不代表不懂dl啊,用bayesian去解释NNs不也是一个很多人做的方向?
回复

使用道具 举报

全局:
aaronhan223 发表于 2021-03-09 16:16:21
层主您好!小弟不才,不知层主是否利益相关?也在美读博?如此随意的一个回复惹得您这样aggressive,十分抱歉。小弟自知学识浅薄,在此有如下几个问题想请您解答:

1. LZ帖子正文里讲首先想申
我不明白你对bayesian的定义是不是过于狭隘。做因果推断的是不是用bayes?做ai safety里面uncertainty大部分也是bayesian方法。做生成模型的基本都在用bayesian。gan背后的核心不还是Bayesian那一套么?还是你觉得只有paper里有gp这种的才算做bayesian?我没去一篇篇查,但就我记得你漏掉了的ethz的那篇best paper。你说的gpt3,bert什么的神经架构是主流的ml研究方向?楼主想做bayesian的ml,你让ta去统计系肯定不对啊,关心的东西都不一样。还是你觉得只有统计系那种风格才叫研究bayesian?
回复

使用道具 举报

全局:
aaronhan223 发表于 2021-03-09 16:16:21
层主您好!小弟不才,不知层主是否利益相关?也在美读博?如此随意的一个回复惹得您这样aggressive,十分抱歉。小弟自知学识浅薄,在此有如下几个问题想请您解答:

1. LZ帖子正文里讲首先想申
还有bayesian 8-10年前也不是很火,那会儿是svm和kernel的天下。bayesian恰恰是近些年随着NNs一起慢慢火起来的,之前因为硬件水平导致bayesian方法无法模拟,和NNs以前不火是一个道理。北美bayesian从来没有什么hot不hot,bayesian和NNs以前也不是北美的主流。
回复

使用道具 举报

全局:
aaronhan223 发表于 2021-03-09 16:16:21
层主您好!小弟不才,不知层主是否利益相关?也在美读博?如此随意的一个回复惹得您这样aggressive,十分抱歉。小弟自知学识浅薄,在此有如下几个问题想请您解答:

1. LZ帖子正文里讲首先想申
如果要论文章质量,各种基于bert,gpt3的变种文章怕不是水百倍?还有那种调参大师搞出来的精细结构。各种把cv问题和nlp嫁接搞的文章,不知道这些算什么?
回复

使用道具 举报

🔗
aaronhan223 2021-3-10 11:32:37 | 只看该作者
全局:
random123321 发表于 2021-3-10 10:51
还有bayesian 8-10年前也不是很火,那会儿是svm和kernel的天下。bayesian恰恰是近些年随着NNs一起慢慢火起 ...

层主,您说的对,不过我建议咱们不需要浪费彼此时间了。是的,我对bayesian的认知首先是不依附于Deep Learning的,它自己本身有一套很elegant的framework,可以自成一个学科。PGM,causal inference都是和它比较相关的领域,在一开始的回复里我指的8-10年前比较火的是PGM,而且是纵向的和现在的PGM比较,并没有和当年的SVM比。

在NNs出现之前大家都是各做各的,你也说了bayesian是随着NNs火起来的,那如果没有NNs呢?CV以前搞feature的,NLP搞syntax的,recommendation system刷ctr的,RL做TD learning的。。NNs出现之前他们也很难找到共同点联系起来吧,那bayesian deep learning是不是也相似呢?所以在我看来,那不叫bayesian,那就属于deep learning methodology/applications。所以ETH那篇disentangle representation很明显在我范畴里不是。你可以不同意我的观点,但这是我之前的认知。
. From 1point 3acres bbs
Again,没有任何一句话否认过纯bayesian的价值,只不过从一个性价比的角度讲,它确实不如去做deep learning。祝层主生活愉快
回复

使用道具 举报

🔗
aaronhan223 2021-3-10 11:44:27 | 只看该作者
全局:
random123321 发表于 2021-3-10 11:04. 1point 3 acres
如果要论文章质量,各种基于bert,gpt3的变种文章怕不是水百倍?还有那种调参大师搞出来的精细结构。各种 ...

也没说这些不水呀,但人家水上5年毕业了能轻松找到工作,你bayesian跑一跑R或者matlab水上5年毕业了试试?想不换方向选择就小一些了吧?
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 注册账号
隐私提醒:
  • ☑ 禁止发布广告,拉群,贴个人联系方式:找人请去🔗同学同事飞友,拉群请去🔗拉群结伴,广告请去🔗跳蚤市场,和 🔗租房广告|找室友
  • ☑ 论坛内容在发帖 30 分钟内可以编辑,过后则不能删帖。为防止被骚扰甚至人肉,不要公开留微信等联系方式,如有需求请以论坛私信方式发送。
  • ☑ 干货版块可免费使用 🔗超级匿名:面经(美国面经、中国面经、数科面经、PM面经),抖包袱(美国、中国)和录取汇报、定位选校版
  • ☑ 查阅全站 🔗各种匿名方法

本版积分规则

>
快速回复 返回顶部 返回列表