查看: 2758| 回复: 5
跳转到指定楼层
上一主题 下一主题
收起左侧

a/b test的evaluate metric可以用retention rate 或者 churn rate吗?

全局:

注册一亩三分地论坛,查看更多干货!

您需要 登录 才可以下载或查看附件。没有帐号?注册账号

x
求问大神们,对于saas,想改变一个feature然后想看对留存或者churn的影响,
做a/b test的时候metric可以用7-day/14-day retention rate 或者churn rate来衡量吗?
如果不可以的话原因是什么呢?
有什么可以替代的metric吗?time之类的吗?
谢谢大家!!!

上一篇:有没有人想要一起学习的 网络连麦
下一篇:Model整理比较
推荐
waf616yeah 2019-4-18 03:08:33 | 只看该作者
全局:
看那个a collection of data science 里面说的是retention rate 不能用a/b testing测是因为时间太短
所以alternative way 是用一个还行的predictive model 根据客户近期的购物行为去判断他们将来会不会churn
具体就是:
a/b testing applied to customer ---> use predictive models to classify --> get expected "new" churn rate  
然后看看new churn rate是不是提高了
回复

使用道具 举报

全局:
看具体产品是什么 ab test evaluation只能用short term metric如果一个产品的retention短期变化不大就不要用 相反就可以用 比如mobile game
回复

使用道具 举报

🔗
erince 2019-4-22 18:47:04 来自APP | 只看该作者
全局:
为什么不可以?

先定义一个time window。14 day?28 day?

从apply treatment的当天开始计起,14/28 天后 treatmemt,control 那些人churn了,再算出rate。. check 1point3acres for more.

然后再做statistics test。不就完事了么
回复

使用道具 举报

🔗
瓷心娃娃 2019-7-18 11:37:44 | 只看该作者
全局:
首先,时间长的retention肯定不行。但是次日留存是不是可以用呢???
回复

使用道具 举报

🔗
ohhelenguo 2019-8-24 03:43:38 | 只看该作者
全局:
如果是saas的话,要看这个churn的周期有多长,如果是每月billing,7d或14d留存都没什么意义,如果是看月留存,直接做ab test就会等太久,所以需要用楼上一位同学提到的,建模型来找和churn rate有很高相关度的一个early indicator,再对这个early indicator做ab test
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 注册账号
隐私提醒:
  • ☑ 禁止发布广告,拉群,贴个人联系方式:找人请去🔗同学同事飞友,拉群请去🔗拉群结伴,广告请去🔗跳蚤市场,和 🔗租房广告|找室友
  • ☑ 论坛内容在发帖 30 分钟内可以编辑,过后则不能删帖。为防止被骚扰甚至人肉,不要公开留微信等联系方式,如有需求请以论坛私信方式发送。
  • ☑ 干货版块可免费使用 🔗超级匿名:面经(美国面经、中国面经、数科面经、PM面经),抖包袱(美国、中国)和录取汇报、定位选校版
  • ☑ 查阅全站 🔗各种匿名方法

本版积分规则

>
快速回复 返回顶部 返回列表