想要通过自学和交流提升自己！ML自律小组

去年从美国毕业了，硕士学位，不过不是CS方向的科班出身,目前在杭州做NLP算法，
不想让自己太闲，且非常希望能够进一步提升自己的知识储备，
想组建一个兴趣小组，找些感兴趣的小伙伴组队，这样可以接触的面更广吧~~

没人的情况下，我自己先姑且自己打卡做着吧。

pS: 这个兴趣小组怎么着都感觉每周花费4hr左右的时间（3hr看论文或者项目,1hr讨论）;
集中回答下小伙伴们的问题：

个人观点：
1.关于方向和领域： 希望关注设计的出发思想多一些，暂时觉得不用很在意关于知识所属的领域（NLP 或者 CV）；当然实现细节的话，有些部分是因领域有所差异的
2.关于项目或者比赛： 偏向于用于测试讨论的一些观点或者练习一些细节实现（PS：平时工作就是结果为导向的，所以想补充的是理论方面的）；所以的话，这是可能不是期望中小组的主要目标

个人想做的：
1.目标：整理机器学习相关的一些技巧和解决方案；巩固基础知识点和知识结构；讨论和实验一些比较有趣的观点
2.目前期望的流程：1）看论文+实现 2）讨论
额，大概就这些，有意一起组队的，可以先商量下，定下细节。尽量找一些相同目标的人吧~~谢谢~

3/10 本周组内分享的文章
A User Simulator for Task-Completion Dialogues（2016）
用户模拟器：即尝试模拟用户在对话过程中的程序（与对话机器人刚好相对）
目标：
在当时的强化学习对话系统面临的三个技术难点（其实就是语料难搞，线上直接交互训练也不现实），因此希望用用户模拟器较为廉价地生成大批量语料。
1.        因为强化学习需要从环境得到反馈，所以传统的人机对话语料(数据)用处有限
2.        针对不同的任务，需要针对性的准备不同的语料标注（即同一段对话因为对话领域不同而有不同的解析手段？）
3.        语料标注的要求高，需要专业领域知识
模拟器的主要难点：
没有一个很完善的评价人机对话自动评估体系（这个问题本身的难度其实跟模拟器问题的难度是一样的）,（2016）之前的simulator做法有将有对话抽象成各种对话状态信号, 然后的进行类似条件概率预测，也有直接用Seq2seq直接生成最终语句的。（只局限于一人一机的对话机制）

对话生成方案:
大体架构上类似对之前的两种方法进行了整合（天底下罕有新鲜事）,即用NLU抽取信息和slot(槽位),再进行行动上的预测，然后再作为组合信号进入生成对话语句（模板加NLG）。
评价系统方面:
1.通过对语料中特殊的类别slot 进行统计作为用户的目标库（每次随机生成用户想看的电影和相应的条件）【*感觉这种做法蛮有意思的】
2.判断对话机器人生成的结果与最初的用户模拟器生成的目标是否一致作为准确率（即判断slot和最后生成实体属性的关系）

省略了模拟器状态处理和回复生成的部分细节…

个人收获：比较觉得眼前一亮的是评价系统的设计，第一次接触任务导向的设计，感觉"直接用部分信号作为用户目标，并且从slot和实体属性来进行效果判断"的做法既可解释又非常高效。

另外一位组员的总结是关于Exploring Neural Networks with Activation Atlases
文章在别处，链接：http:https://blog.csdn.net/madao_yw/article/details/88350876


PS:这周自己感冒加发烧，还被朋友拉去KTV，哎，学习的路上各种阻碍啊.

Jing666 发表于 2019-2-24 21:05
有意思。不知道楼主想主要学习ML的什么方面呢？我也做过一些NLP，目前对core ML更感兴趣，想加入

你指的是苹果家的框架？那样的话，你准备做个项目实战？~~我的想法是研究偏理论那种，啃出算法背后的设计思想，挑经典算法实现，新的框架和论文的话看个人喜好追吧~~因为以前看的有点太偏应用了，有点消化不良~~

额，其实也不一定都看一个方向的~~把设计思想提炼出来，针对一类问题，可能差别都不是太大。

木宅李 发表于 2019-2-24 22:13
你指的是苹果家的框架？那样的话，你准备做个项目实战？~~我的想法是研究偏理论那种，啃出算法背后的设计 ...

不明白“苹果家的框架”指的是什么。我只是做过一点玄学NLP炼丹research，所以现在很想学习一点非玄学的东西

有意思。不知道楼主想主要学习ML的什么方面呢？我也做过一些NLP，目前对core ML更感兴趣，想加入

我跟楼主好像！我是前年美国硕士毕业，现在在广州做算法，也想找个团伙一起学习，全靠自律太难了。不过我做的是CV方向，跟楼主差的有点远呐

坐标杭州转塘，现在在 华人中NLP顶会发得最多的某老师这里 读博士233333。不知道杭州有没有专门NLP研讨组织，如果没有的话，确实可以组织。

liyu10000 发表于 2019-2-24 23:10
我跟楼主好像！我是前年美国硕士毕业，现在在广州做算法，也想找个团伙一起学习，全靠自律太难了。不过我做 ...

我也是在向cv方向学习 有兴趣一起组队学习吗？

ximingRoy 发表于 2019-2-25 06:32
我也是在向cv方向学习 有兴趣一起组队学习吗？

我也在自学cv，求组队

感兴趣，下个月就开始看NLP的文献，打算用 Kaggle 上的比赛“Gendered Pronoun Resolution" 练习。

如果谁有实际的项目，那就更好了。

求组队+1