关于DS类型的分类

关于很多其他转专业的同学可能很多都会从ML入手DS，但是去到面试发现虽然都叫DS，但是还真是分很多类别的，比较好奇的是有不少大公司，他们的DS重点就是AB Testing，问各种概率检验之类的偏统计的知识，而ML基本上是分开到别的Engineering Team去做的，而现在市面上反而缺乏了很多关于实验设计的教程，大家基本都是一窝蜂涌到ML上了，但其实把ML真正融入到产品上的话很多都不是一个Python Script能解决的事情，所以想问问大家对于这方面的看法。

一是看来这些很偏统计的DS最适合是统计专业出身的同学，在我看来不乏大公司都招这种职位，例如FB的非Core DS， Uber的有些DS也非常偏统计，还有问传统统计上时间序列ARIMA之类的，AIRBNB好像也很注重这方面（当然也考其他）， 也有Tripadvisor这些基本一道ML也不问，问好几轮概率题的， 还有论坛内推常看到的关于“实验平台”这个词，没接触过还真不知道具体是什么概念，所以麻烦大家多介绍一下这类DS的日常工作，以及最重要的非统计专业的同学该如何入门？ Udacity上的AB Testing课已经看了，觉得还不够深入，希望大家多指教。

二是关于传统ML以及越来越多的DL， 很多同学入门DS就直接上手这些，想问一下大家在各自公司，想搞这方面的话组织架构是怎样的？ 都归码农管吗还是另外DS Team做了，跟码农合作开发？ 还是DS担任PM的角色找码农Implementation？ 还是多数都是离线的用Python 出结果再来跟Business的Presentation的多？ 真是现在发现DS花样百出大家都不一样。。对于DS Team的合理架构其实还真是一个有趣的课题。。

这些问题提的很好，题主看起来思考已经挺深的了
ML DL 构架基本不是DS做，每家公司情况很不同
以产品为导向的公司里面，ML/DL infra 好到能让随便一个DS就push model to production的，目前不知道有谁家（我个人看过的几家都远远做不到）。
. 1point 3 acres高大上的建模只是DS日常非常小的部分 --- 而且随便上个公开课就要求非建模工作不做的小同学们也是够了，大把的DL/ML出身PhD在那边呢。。。大部分时间，需要理解应用场景，需要协调人与人的合作，组与组的合作，pull and clean data, 很多试错，调参，推到生产后也很多杂事。构架做的好的公司，这些“杂事”就少些。构架差的一般是相对新的公司，小的公司，或者非技术导向的公司， then be prepared to do the dirty work, in order to get to the interesting work. At the end of the day, companies pay for DS team, for "business impact", not for fancy models.

以下纯属个人ramble，不一定很准：

In the better setups, DS should have good enough coding skills to "some" production code, with guidance; Eng should know enough about data/ML to collaborate with DS; ML eng + ML scientist can make a powerful team that produce great work.

In less than ideal situations, DS do most of ML but can't effectively productionize, and their partner eng teams don't understand enough about ML to push stuff to production. Or DS are excluded from ML effort, and eng own ML 100%, but often failing to capitalize on huge opportunities.

In very small teams, ML effort can be very ad hoc, and the data product is hard to maintain, is not monitored (or even validated) for model performance, let alone checking for perf degradation over time.

In very elite places, things may be different.

下一段证据就更少了，纯个人主观意见：
Just from the outside, it seems Amazon is doing well -- not sure if they used extremely fancy models, but their choice of the application scenario is fantastic. New products powered by ML/DL from amazon almost always amazes me. 他们帮人评估穿衣服的应用，看样子将来会秒stitchfix.
Linkedin and Didi seem to be working on solid applied DL, and seeing good results.
Not familiar with FB on the applied side (there's newsfeed, ads and search ranking teams using ML) FAIR is obviously great, not super familiar with their applied ML stuff. But DS (non core) at FB don't get to do model AT ALL. I'd be shocked if any product analytics DS got asked ML during their interview.
G is obviously far superior in this aspect. But most of the fun stuff is owned by eng.
Uber has good applications. Airbnb has some applications. Excluding the self driving car stuff, I would be suspicious if either claim to lead any real bleeding edge stuff in this area.
Snap obviously has good computer vision dept - so does FB. But not for DS.
Lots of Chinese companies are making solid, rapid advancements.
MSR has good research, not sure how they got applied.


So, where can DS work on ML?
G? NO
FB? NO
Linkedin? Yes
MS? Yes, some teams
U/Lyft? Yes, some teams
Snap? NO
Airbnb? Yes, some
Amazon? Yes
Netflix? Yes
Stitchfix? Yes
startups? For sure

vinus 发表于 2017-8-27 06:43
请问您，现在到twitter做DS比较于其他公司如何？twitter的前景似乎不明朗，因此DS不容易在几年内做成一个 ...

几年内做成一个大项目？这句话槽点满满啊。。大项目在任何公司都不是想做就能做的，就算有那也是大神带几个比较Senior的人做。
你要是没做出过什么成果，凭什么把重要的任务交给你？

twitter前景确实不明朗，但老实说除非你在staff级别或以上，这些情况对你具体工作产生影响的可能性微乎其微。如果你确实是staff以上那当我没说

chztony 发表于 2017-9-5 21:24
A/B Testing有时候是个谜， 我了解不多请大家赐教啊，实际上我就上过Udacity Google那个课，不知道在大公 ...

我也很想听听版上前辈谈谈公司里实际A/B Testing都做哪些主题，有多频繁或广泛地使用，然后对最终产品或策略推动有多强的作用，有什么常见坑呢？在之前的公司我们业务新，团队刚起来，做得都比较探索性，还没挖够深。

请问twitter呢？谢谢！

vinus 发表于 2017-8-26 23:59
请问twitter呢？谢谢！

看组。我知道的几个组里，SWE和DS除了头衔没有任何差别，所有人都要能做从建模、跑实验到productionize的全流程

glennq 发表于 2017-8-27 03:11
看组。我知道的几个组里，SWE和DS除了头衔没有任何差别，所有人都要能做从建模、跑实验到productionize的 ...

请问您，现在到twitter做DS比较于其他公司如何？twitter的前景似乎不明朗，因此DS不容易在几年内做成一个大项目是吗？

glennq 发表于 2017-8-27 07:45
几年内做成一个大项目？这句话槽点满满啊。。大项目在任何公司都不是想做就能做的，就算有那也是大神带几 ...

谢谢您。mid career DS可以挑战参与到大项目里面了，因为这些项目时间长需要很多人做才能完成。跟swe不同，senior staff swe有5年以上10年以上从业经验，而DS相对缺乏这些人才，科班博士目前比较学术又刚毕业不久，毕业很久的人要跟进最新的发展也不容易。一个公司如果准备推新产品比如priceline name your own price, amazon go,就有大项目的机会。我觉得DS就应该参与进去。

一线公司里，能5年就sr staff的也就只有Linkedin了吧。。。。

不好意思，我指的是senior 或者 staff, 不是指的比staff还高一级的senior staff

小K 发表于 2017-8-27 10:15
一线公司里，能5年就sr staff的也就只有Linkedin了吧。。。。

请问您对twitter的DS了解吗？谈了小众的stitch fix没有谈twitter. 谢谢！