搜推广系统的multi-stage ranking是否已经走到了瓶颈

Inv0090 发表于 2024-12-23 10:39:08
额，你问出这种问题说明你就没有context。论坛上三言两语是讲不清楚的。可以请教你司高级一点的一线MLE，或者慢慢啃文章。

嗯 这方面了解的比较有限 主要想看看ml的变化会如何影响我们infra 不过换句话说如果我们的mle真的很懂的话大概率会第一时间找我们 我也就不用上来问了……

lc19890306 发表于 2024-12-23 10:50
嗯 这方面了解的比较有限 主要想看看ml的变化会如何影响我们infra 不过换句话说如果我们的mle真的很懂的话 ...

各大厂目前对搜推广的基础改进都还是比较开放的，基本上有突破性的技术都会在各大会发布，可以去关注关注。很多新技术对于ML infra的要求也都是很高的。

可以问问帖子里其他的坛友，这种推荐/推广系统的breakthrough/news你们是怎么知道的吗？是去特定的论坛/跟哪些实验室的newsletter吗

Inv0090 发表于 2024-12-23 10:58
各大厂目前对搜推广的基础改进都还是比较开放的，基本上有突破性的技术都会在各大会发布，可以去关注关注 ...

能说几个能落地的吗？ 感觉好多都是灌水论文。比如实际上 performance 没有涨点，就是靠方法创新讲个故事，这种特别多。

多模态的搜推不知道是不是一个方向，内容的理解上，感觉还在文字方面，情感，图像等方面，使用文字太复杂，提取这些需要多个模型协作，是不是有统一的模型可以搞定。大模型做搜推，有一些论文，如果从速度上讲，感觉不是非常考虑，但不考虑速度或者各应用种优化，还是值得尝试的。

Inv0090 发表于 2024-12-23 10:21
你不关注罢了。每年搜推广都有很多技术突破。今年的序列化推荐落地，以及相反思路的超大embedding表都是很 ...

你好，有没有什么相反思路超大embedding 的work 呢？想学习交流一下

lc19890306 发表于 2024-12-23 10:36
看起来序列化推荐针对的还是real time signal？超大embedding不知道跟普通的embedding有哪些区别？大在哪 ...

我的理解是普通embedding 是把Feeds 内容的feature 放进模型learn 一个embedding。也就是说embedding 是基于一个模型生成的。超大embedding 类似word to Vec 就给每个Feed 一个id 去学每个id token 的embedding。

Tyrant89 发表于 2024-12-23 09:28
e2e通用大模型近期内估计还很难，但大模型做user, content understanding还是可以的并且很多公司在做了

你好有没有一些相关的paper 或者是blog 推荐一下呢？怎么用大模型做user, content understanding.