请问怎么学习put model into production, monitoring之类

plich 发表于 2021-3-17 02:09
如果你职责跟国内的算法工程师差不多的话就找同事解决，否则的话不懂不学不会搜索是你自己的问题。

那这个论坛存在的意义是什么呢？

jerrytim 发表于 2021-3-17 04:23
楼主的这个 idea 可以是非常非常复杂的一个系统, 也可以是简单粗暴的逻辑...历史数据是在数据库里面还是只 ...

历史数据是从数据库里拉的，也就是说是静态的，从某年某月某日到某年某月某日的数据弄出来一个，比如逻辑回归模型，现在希望从某年某月某日之后数据能不断自动放进这个模型，继续tune模型参数。。。

oralur 发表于 2021-3-17 05:10
在pipeline里定期feed新数据retrain不就行了？
没看懂问题何在

就是不知道怎么在azure devops的pipeline里定期feed新数据。。。。。有教程吗？

YYYYTTT 发表于 2021-3-18 00:26
历史数据是从数据库里拉的，也就是说是静态的，从某年某月某日到某年某月某日的数据弄出来一个，比如逻辑 ...

是一个静态的数据库的话, 那楼主你要写相应的代码 fetch新的数据吧, 这个新的数据也是要存到数据库的, 这样你的 lr 模型获取 training data 的时候, 打个比方获取 last 30 days 不就是不断 train 新模型 on 新数据了么. 这整个流程, 楼主在自己电脑上面跑过了, 估计就能理解 cloud 上面的 pipeline 了

jerrytim 发表于 2021-3-18 01:40
是一个静态的数据库的话, 那楼主你要写相应的代码 fetch新的数据吧, 这个新的数据也是要存到数据库的, 这 ...

对，整个过程我在R里面写好了，从联系上dwh拉一个固定期间的数据，到分train test sets，测试不同的模型，tune hyperparameter，看auc ks，啥的，用哪些特征/参数是啥，我都在R里搞好了，现在人家叫我在deploy azure devops pipeline里, put into production，我觉得就是要实时数据进，看模型预测的还好不好，但怎么做我就完全不知道了，天下无恙无恙各种ml课程，但是都没有教我怎么put into production呀。。。所以上来问问。。。

mark一下

YYYYTTT 发表于 2021-3-16 21:44
不是，还没有那么高级，就是隔三差五看看模型随着时间推移会不会变糟糕，

这自己写个监控把测试集结果返回到指定地方就好啊
看你们公司用什么工具吧，字节用lark，有个open lark api， 直接训练完发消息通知我。