class inbalance问题:false positive比false negative严重,把正常用户的帖子删了,后果比漏掉一个spam要严重。解决方法:1. 直接修改cost function 2. 用bayes rule预测cost数学期望最低的class。(别用upsampling, downsampling就行)
店面
第一轮quantitative analysis ..
newsfeed广告原题,两种投放方式:(1) 4%概率把一个post替换成广告; (2) 每25个post里随机选一个替换成广告。问在100个newsfeed post里: . .иa. expected number of ads: 都是4,我愣了一下,感觉这题可能有诈(没看面经不知道是原题),其实没有。
b. variance of number of ads: (1) 就是Beoulli random var, variance np(1-p), p=0.04。 (2) 是个deterministic algo,variance = 0
c. probability of seeing more than 8 ads in 100 posts, (1) 就是个summation取补给;(2) 概率为0
d. expected number of ads collision, 就是连续两个post都是ads。等于是有了个新的Bernoulli process,概率p=0.04^2. (1) 有99个地方可以有collision,期望是99p。(2) 只有三个地方可以collision,期望是3p。
e. 哪种方法对用户体验好,显然(2)好,衡量标准是连续两个ads让人很不爽,要尽量避免。这题的实质是stratified sampling的变式,控制collision variance。
回家以后仔细想了下,发现没考虑collision是否independent,写了个模拟发现自己没算错,相邻两个点是否出现collision是同时决定的,所以independent。模拟代码见我github
第三轮SQL
考的很简单,就一个表,甚至不用join。表是记录advertiser每天付的钱,然后有一列表示advertiser是否是banned了。. Waral dи,
第一问:昨天百分之多少的正常advertiser是活跃的(有付钱)。我用的mysql, 可以直接sum。面试官说没问题。其他sql server必须要求case statement。
SELECT . 1point 3 acres
ROUND(SUM(spend > 0 AND status != "banned") / SUM(status != "banned"), 2) AS active_pct
FROM table
WHERE date = DATE_SUB(CURDATE(), INTERVAL 1 DAY);. Χ
.1point3acres
第二问:昨天有多少被封了。注意是昨天被封的,不包括昨天以前被封的。可用window function或者self join,结果一样,但self join必挂,为啥?因为self join condition里面要带方程比较日期的,浪费时间。
注意有个edge case是昨天新注册的当天就被封,这种情况lag得到的是null。
然后window function在WHERE之后生效,所以WHERE要选择两天的记录,如果只选一天,那lag就全是null了。. Waral dи,
WITH recent AS (
SELECT id, status, LAG(status, 1) OVER (PARTITION BY id ORDER BY date) AS pre
FROM table
WHERE DATE_DIFF(CURDATE(), date) BETWEEN 1 AND 2.1point3acres
).1point3acres
SELECT SUM(status = "banned" AND (pre != "banned" OR pre IS NULL)) AS recent_ban. .и
FROM recent;
另一方面估计impact of problem,就是对用户的影响。最直接的就是看损失多少活跃用户,先定义什么叫活跃什么叫churn,一个月不上线就算churn了,所以我们需要一个月的记录来获取label (1: churn, 0: active),然后把一个月之前的数据提炼features,features种类分demographic, behavioral就不多说了,但这里重要的是要加上他们和fake news互动的feature,比如comment, share, like news that turned out to be fake之类的。怎么分别用户的损失是fake news导致的?先run full model,预测那些人会churn,然后把fake news feature去掉,预测哪些人会churn,两者之差就是fake news导致的用户损失。这个最好用tree ensemble model实现,课用logistic regression做baseline,面试官说logistic regression is fine,又问了我如何interpret coefficient,直接影响log odds,正数正相关,负数反向关。
.
一看就是面试经验不足,题目的constraint自己都理不清,一会儿说没有content reviewer一会又说有。你要是先说有content reviewer再说没有还能理解,因为constraint更难了。但你要先给我restrictive constraint再给我loose constraint我就不理解了。然后logistic regression问我what is the equation,我把logistic function给他说了一遍,感觉他压根问的就不是这个,也不知道自己问的是什么。最可笑的是model训练完后我说给整个用户群体做预测,他问我这一步怎么搞?feature都有了,同样的SQL code给所有用户跑一便,然后sklearn调用predict不就完事了么。
很无语,这面试官给人感觉没任何data science经验,找人就喜欢找smooth talker给他babysit从头到尾乐呵呵的就行。最后几分钟我问他有没有feedback,他给我一句"it's very difficult to tell from interview whether someone can do his job" 我心就凉了,这明明是你的问题好吗?两天以后收到拒信。找HR问冷冻期多久也不回我了,果然一旦没了经济利益,我什么都不是。
楼主加油!! 我已经onsite 十个公司都悲剧了。。。呵呵还在奋斗中!虽然相信自己的实力,为什么面试有时候会不fit 呢?其实最后一个面试官说的很对,it is very difficult to tell if someone could do his job from the interview! so, 不能进fb工作,不代表任何自己的能力和价值!每次都是一种经历!在短时间内,让别人相信自己是可以信任胜任的人,这是一个学问。我想也许不是每一个问题都回答的完美。
> d. expected number of ads collision, 就是连续两个post都是ads。等于是有了个新的Bernoulli process,概率p=0.04^2. (1) 有99个地方可以有collision,期望是99p。(2) 只有三个地方可以collision,期望是3p。