如何把ID当成ML model input feature？

dacainiao 发表于 2021-01-28 06:26:56
你对embedding的理解太狭隘了

你觉得我说的狭隘，那你就说说你理解的广义让我们学习一下嘛，嘲笑有帮助到大家么？
我觉得word embedding以及其训练方法本身就很general了，注意word embedding分两种，第二种是contextual，训练方式除了skipgram这种基本方式以外，后面结合很多nlp问题还会finetune，甚至train from scratch。这和推荐系统的训练方式也很接近。word2vec作为这些概念的重要先驱（还有mikolov的另外几篇paper）都是值得作为一开始就细读的东西。factorized machine也是同样方式去改良collaborate filtering的，大同小异

brtt13 发表于 2021-1-29 01:17
你觉得我说的狭隘，那你就说说你理解的广义让我们学习一下嘛，嘲笑有帮助到大家么？
我觉得word embedding ...

lol，指出你的问题就是嘲笑你吗？这种xx全是xx的话，连领域大牛都不敢随便说。先不说cv里的embedding和word embedding没啥关系，即便nlp里，word embedding都已经是老掉牙的东西了，基本没人用了。再说rs retrieval还会用些word embedding的idea做做random walk， ranking上的embedding很少和word embedding相关的。要不是简单的look up table pooling，要不是复杂点sequential modeling用用self-attention之类的，也很少有人用word embedding的idea

dacainiao 发表于 2021-1-28 22:29
工业界做这个不现实，矩阵太大了

https://medium.com/pinterest-eng ... terest-bfd116b49475

可以借鉴pinterest　的方法做用cluster centroid

dacainiao 发表于 2021-01-28 10:49:34
lol，指出你的问题就是嘲笑你吗？这种xx全是xx的话，连领域大牛都不敢随便说。先不说cv里的embedding和word embedding没啥关系，即便nlp里，word embedding都已经

我不知道你说的“rank里面的embedding很少用word embedding”这句话是啥意思，我也没说过xx全是xx这种话吧？“borrowed“和“is“是两个概念。如果你非要较真，那item2vec的文章直接说他们借用了word embedding。
而且你说了半天xx技术老掉牙，也没说你用过的啥新东西没掉牙呀？你解释一下大家一起学习一下不是很好么？或者refer一下哪篇kdd的文章供大家来读一下？我是很有兴趣深入了解的～