gpt时代各位ds的scope有受影响吗

我们公司主要业务不是做NLP的，但很多应用加上LLM可以扩展许多功能，gpt3.5开放以来就投入了很多人力去做这个方向，竞争对手也有差不多的动作。
我们ds组本来也负责一些nlp的项目，一开始这个scope就自然而然落在了我们组，再加上组里确实有非常牛的人，不光出活快，idea迭代也很快，跟pm合作想出了很多非常棒的点子，全员投入到了gpt3.5的整合上，高层对这个也很重视（push）总之前段时间chatgpt搞得我们非常卷大家都非常累，基本上天天加班很快做出了一些可以launch的feature。也确定了一些很酷的点子作为下一阶段的工作，高层也很认可，整个过程我们都把所有代码和idea都开放分享给整个公司，impact很大。

然后整个组上周突然就被通知，以后GPT/LLM的整合和新feature要由不同product org下面的engineering team来take over了（还用的是我们前段时间brainstorm出来的那些idea和prototype)，以后GPT的相关开发和整合就不关我们ds什么事了，让我们自己重新找活干，我们组现在就属于要重新开始找scope。我本来前段时间还挺burnout想请假休息一下，现在不用了，这周直接没活干了。

我不确定这个signal怎么解读，是chatgpt已经开始替代ds和还是说这算是公司politics. 大概率是两个都有。在前段时间我们刚开始做feature的时候只有ds team几个人和一个pm, 然后我们的东西越来越有搞头在公司impact越来越大，到后面就越来越多莫名其妙的pm带着自己的engineer掺和进来。

有一说一，好像看起来整合GPT也就是个简单的prompt engineering + api deployment的活，很多模型问题也不需要ds再做了，但实际上这个过程很多步骤都要用到data modeling尤其是让api对接我们内部的data的时候。也不知道这些人怎么想的。

希望大家来聊一聊各自公司的ds团队有受到哪些影响吗？ds如何在gpt时代保住工作，毕竟按这个节奏我司如果有下一轮layoff大概率就是我们了吧🙃

如果纯从技术角度来看，你要问问你们ds能做engineering的工作吗，搭pipline,写production level的code. 处理data的活想不出来为什么swe做不了，但搭system的活很多时候ds干不了。如果你们ds也可以都做，那就是纯politics, ds在公司地位一般都比较低。

tomchen29 发表于 2023-04-03 23:58:58
非杠，不过楼主提到“这个过程很多步骤都要用到data modeling尤其是让api对接我们内部的data”, 这听起来可能是Engineers擅长的?

补充一下发这个帖子没有要跟engineer争高下或者说谁比谁更擅长什么的意思。平心而论大家就是各司其职，我们大组有搞模型的也有MLE，一直end to end独立负责公司所谓的”AI features”.  有的产品组赶时间也会去买第三方现成的ML API自己弄，以前那些api效果其实都不怎么样，所以我们不缺项目。3.5出来以后不太一样了：
1. 它效果好迭代很快，解决很多low hanging fruit. Gpt4强大更多，我们暂时没用是因为很贵，但是随着模型迭代早晚价格会降下来。
2. 3/3.5 performance在有的任务上没有proprietary model 好但是deployment非常快速简单，为了跟竞争对手第一时间抢占热点和资源，高层的决策是宁愿先上一个效果差一点点但可以10x速度ship的。

另外我没有说是我们写不了production code或者搞砸只能engineer team来救场, 反而是我们弄的很好太出圈，越来越多的product leader带着自己的engineering团队来参一脚，我们一直主动share knowledge和proof of concept让他们可以自己开始弄，直到有一天突然被通知跟GPT有关的项目不属于我们ownership范畴了。

发这个帖子只是想抛砖引玉看看其他同行有没有类似的经历，以及ds以后何去何从，会不会取代我不知道，但是scope变小是真实发生了，当然这也跟公司strategy有关，不管大家怎么觉得chatgpt回答问题胡说八道，或者写的代码都是bug, 但是它在产品层面确实打开了很多可能性，基于它的垂直应用会爆炸性地增长，ds如何在这个新的dynamics找到自己的竞争优势我觉得需要想一想

我们组就是纯NLP组。GPT3.5出来后，我们的scope反而更大了，项目更多了。 主要因为我们组的产品有了新的应用场景也就是Chat，并且GPT本身让我们以前很多很难做的事变得可以做了，很多新的想法以前很难实现，现在可以实现了。

很好的帖子。ds团队的确得考虑下自己有什么竞争优势了。
特别在大厂，除了engineering团队，还要面对其他ds团队的竞争。总之就是这东西技术门槛并不高，又是香馍馍，大家都想来掺一脚。

感觉你们ds还是比较solid的 还能自己own nlp model 我们的ds就是review下eng实验然后半年给leadership present一次

希望有更多的ds来回答这个问题，真的谢谢各位了🌹🌹

不觉得GPT能完全取代DS, 这东西就是提供个baseline model, 如果这玩意儿的performance不行,还需要ds解决问题,更何况,GPT的工作很大程度上取决你喂给它什么, 怎样喂, training data的preparation也未必是个简单的活

GPT 自己写的 fine tune GPT2 的代码都有大bug，怎么取代

非杠，不过楼主提到“这个过程很多步骤都要用到data modeling尤其是让api对接我们内部的data”, 这听起来可能是Engineers擅长的?

Gpt这种东西的最大问题就是需要别人的知识。只要你不分享你的知识，他就无法攫取你的财富给他赚钱和无偿给别人，也就威胁不到你。