【推荐系统】离线AUC涨了,在线CTR/CXR不涨
·
我离线,test-click-AUC从0.78提升到0.86,test-pay-AUC从0.88提升到0.92,
然后到线上AB实验反跌了,
后来发现是训练的数据少的原因,(train-AUC估计很低)
当时因一些原因,只用了少量数据训练,没用足量数据训练,AUC看起来不错,就上线实验了。
后来发现,AUC只是在测试的那几天提升了,在其他一些天 用该模型预测 AUC反跌了。
最后定位是有特征穿越的问题。
更多推荐
我离线,test-click-AUC从0.78提升到0.86,test-pay-AUC从0.88提升到0.92,
然后到线上AB实验反跌了,
后来发现是训练的数据少的原因,(train-AUC估计很低)
当时因一些原因,只用了少量数据训练,没用足量数据训练,AUC看起来不错,就上线实验了。
后来发现,AUC只是在测试的那几天提升了,在其他一些天 用该模型预测 AUC反跌了。
最后定位是有特征穿越的问题。
更多推荐
所有评论(0)