数据科学家需要哪些核心技能：Data Hacking、Problem Solving and Communication

Data Scientist需要深刻理解需求和问题所在，然后对数据进行处理，采取合理的量化分析寻求答案，所推荐的答案，也必须是backed by data evidence。在读了前面《什么是数据科学》和《美国公司招聘什么样背景的Data Scientist》之后，相信你会明白。

Warald认为，以下三类技能是很重要的：

1）Data Hacking

要有独立从各种各样的地方把数据化为己用的能力。可能会用到的：

• SQL：用来存储和查询structured数据
• Programming：比如用Python for parsing/scraping data。如果既会一门scripting language，又会一门compiled/object oriented language，会是优势。主要是用来处理unstructured数据
• Hadoop/parallel processing：你处理的数据可能太大（比如超市过去半年的购物记录、信用卡公司两年内的刷卡记录）无法一次性装入内存，而你需要对数据进行快速的分析，这就需要MapReduce等技术。
  

这其中，SQL和Programming是最基本的，你必须会用sql查询数据、会快速写程序分析数据。当然，你的编程技术也不需要达到软件工程师的水平，因为你写的code大多数只是一次性的、不会被复用，而且也只会被你或者个同事使用，并非放在网上让无数人点击，因此对程序质量要求不高。

要想更深入的分析问题，你可能还会用到：

• Exploratory analysis skills，可以使用python、R、matlab等各种工具，IT公司用SAS和SPSS相对较少，尽管有些job ads/descriptions里提到了，当然也不是完全不可以。但是如果你只会SAS，那么选择无疑要少很多。
• Optimization、Simulation：有些职位需要研究顾客需求变化，调整产品或者服务价格，来帮助公司最大化盈利
• Machine Learning、Data Mining：比如有人用数据挖掘技术，发现很多人在超市里买尿布的同时，也买了啤酒 – 现在还没理解为啥，但是也许尿布和啤酒应该放一起卖；另外比如手机广告的精准投放。
• Modeling：你需要理解不同的统计模型有什么应用范围、有什么限制和特长，我在第一部分里提到的descriptive、predictive、prescriptive三个场景也是浅显的例子
  

2）Problem Solving：

你不光要理解what users say they want，你还需要真正的理解what they actually mean、转化定义出一个可以用数据解决的问题，然后选择正确的分析工具，量化分析和解决问题。

3）Communication

数据科学家会跟公司的很多不同部门的人打交道，会比码农跟更有机会见到高层或者是 business领域的人。如果你希望接触像市场营销这样的部门，希望跟上级领导多多打交道，那你需要有较强的交流能力。你需要知道区分什么是问题本质、什么是技术细节，要有能力给上层领导讲high level的分析和推荐，有能力给同事讲解和defend你的技术细节，也就是"见什么人说什么话"，这不是说要你油滑，而是说要知道什么时候需要隐藏技术细节，而只展现跟听众最相关的信息。

你很可能要经常做presentation，需要很强的visualization的能力，熟悉Edward Tufte和Nathan Yau的东西，会很有帮助。另外，也许你很喜欢高深的方法，觉得你懂你NB，但是一切的解决方案，都要从产生business revenue的角度来考虑是否合理。

你也可能需要跟software development team合作，需要讲清楚需要他们实现什么、需要告诉他们什么地方需要改进。

至于你所从事行业的domain knowledge ，懂最好，不懂也不必强求，某知名公司的VP 曾经跟我说，他这个行业的特有知识，３个月内可以学会，但是数据分析能力，可不是三个月就能学出来的，并且不同行业背后的数据分析能力是普适的。

更多内容后面几天我会接着写。求分享~求鼓励！

– Warald (Email: iamxiaoning@gmail.com)
博客: http://www.1point3acres.com，微博：http://www.weibo.com/warald
欢迎转载，转载必须在标题注明转载，在文章正文开始之前而不是最后，用不小于正文的字体大小，肉眼可以清楚识别的颜色，一字不漏的附带以上三行内容。否则视为侵权！感谢合作。

啤酒和尿布的例子其实是cross-selling的问题。。。我实习的时候有见过类似的。。。不过公司的数据库里面那个程序已经设定好了~每次我就进去改改参数= =

NYU的Data Science的Master不知道怎么样，但是总感觉有点摆噱头的味道，但是Lecun和Longford很牛逼....

支持W大写的这些有营养含量的帖子！ 以后几年为做一名好的 data scientist 奋斗！

做NLP的算不算在里面呀

啤酒尿布那个例子其实一开始就被夸大了

这个职位， 是只需要博士生吗？硕士生有机会吗？

快使用大数据~~哼哼哈兮~~
快使用大数据~~哼哼哈兮~~

坛主的帖子太实用了！
因为打算秋天开始申请明年秋季入学的美硕或美博，现在正在为学什么专业而到处找资料、做研究。以前只专注在CS领域，但是最近发现Data Science、Machine Learning也是非常好的方向，正迫切地需要了解更多的信息，坛主的帖子就是及时雨啊！

很好的文章~~赞大神