📣 黑五价提前开抢|VIP一年通行证5折,蓝莓、Offer多多同步特惠
查看: 11550| 回复: 23
跳转到指定楼层
上一主题 下一主题
收起左侧

[职场感言] 对ML Infra工作发展前景的困惑

   
🔗
匿名用户-C7VLK  | 添加认证 | 2023-1-31 12:34:50 |倒序浏览

注册一亩三分地论坛,查看更多干货!

您需要 登录 才可以下载或查看附件。没有帐号?注册账号

x
在一个小公司的ML Infra组工作,最近很困惑这个area的发展方向。我们主要任务就是在sagemaker API外面套一个wrapper,方便下游的ds/mle来使用,尽可能让他们不用学Sagemaker。有些会Sagemaker的ds会直接在console里使用。更多的时间我们在做support,感觉就是在教用户使用sagemaker,或者就找sagemaker的人来帮忙。和一个做相关的朋友,聊了一下,感觉ML Infra目前有这几个方向,每个公司根据情况不同不一样:
  • 自己造轮子,用open source的工具,做成自己内部公司的服务。完全不使用vendor的
  • mixed。自己造轮子+vendor,可能vendor满足了一些需求,但是自己希望开发一部分。
  • 完全使用vendor,帮助内部用户来使用
  • 类似3,可能再包一层wrapper,方便内部用户使用
  • 还有一种可能不是ml infra,更像mle和mlops,把ds做好的模型/pipeline(当然有MLE可以直接自己做),用sagemaker类似的工具做production。或者写一些template方便ds使用。


个人的一些浅见:
  • 自己造轮子的情况很多出现在早期,当vendor都不完善的时候。比如Uber的Michelangelo的一些早期成员都出去创业了,感觉对团队的技术要求比较高。出现在大公司的情况比较多。
  • 自己造轮子还有一些情况,比如ds的use case不多,也要求不高,那么直接拿来用open source的再加一点修改就行了,规模不大,production要求不高,vendor的价格还是挺高的。那么内部人员也容易上手,比较适合小公司。或者团队里有大牛,技术扎实,有时间,有能力自己做产品级开发。
  • 现在Vendor的一些工具很成熟,比如Sagemaker,Databricks,Vertex,这个领域还有很多startup做的工具,在不同的方向。专门做这个的公司团队大。如果决定完全用vendor的,那么ml infra组其实就是mlops了,提供对平台的服务,需要和sagemaker的人对接,解决内部的一些问题。
  • 还有类似我们做一层wrapper的,其实最后还是在用vendor的,也会帮助用户来做production,比如schedule training job,有点像提供一个MLOps solution. 1point 3 acres

个人第一次接触这个方向,其实还挺喜欢的,本身对ml research/tuning都没有大的兴趣,但是发现要不就是去一个厉害的组,直接自己开发,那就是相当于硬核的Infra组了,要不就直接去vendor的这些组比如aws sagemaker做开发,其他的方向感觉对职业发展帮助不大,只是在做客服的感觉,visibility不高。-baidu 1point3acres
不知道有没有做ML Infra的朋友来分享下工作内容,也欢迎大家讨论这个方向的前景。谢谢。

评分

参与人数 1大米 +1 收起 理由
BayernK11 + 1 谢谢分享!

查看全部评分


上一篇:黑车裁了些recruiter
下一篇:Managers should not be rewarded for creating larger teams
gongchen 2023-1-31 13:57:25 | 只看该作者
全局:
讨论过了
看置顶回复就行
https://www.1point3acres.com/bbs/thread-853582-1-1.html
回复

使用道具 举报

全局:
困惑啥 给钱啥姿势都配合
回复

使用道具 举报

全局:
这个问题很难回答。ML infra广义上有很多细分,但基本上跟ML都没啥关系,因为这是个杂交领域。
比如有专做library的,cv nlp甚至rs都有;比如有做pipeline的,各种预处理监控;比如有做编译器的;比如就是专门写优化算子而不依赖fusion的;比如有做分布式训练的;比如有做特征存储的
这些其实大部分跟backend关系较大,而跟ML关系较小,而且大公司做这些工具的居多。
不过其实infra就是这样,即便是backend的infra,也不是人人都去写kv和paxos的对吧。所以,不用太过担忧,谁也没比谁门槛高,出来打工给钱就行
回复

使用道具 举报

全局:
关于所谓做wrapper觉得“没意思”这事儿就有点类似于各种鄙视链,所谓的各种算法在搞数学的眼里也就是层wrapper。搞backend的在搞os kernel 的人就是层wrapper,搞前端的在搞后台的人眼里就是层wrapper,你觉得做ML infra 最后觉得是个wrapper最后在做tooling。

这些wrapper存在即是合理。认真分析每一层它存在的价值,再看跟你自己长期的职业价值观,技术信念符合不符合更重要。

补充内容 (2023-06-06 16:44 +08:00):
你感到困惑了,本质上是你“觉得”没啥东西可学,换个上游或者下游继续去学习,也许再回过头来看会有不一样的感悟。
回复

使用道具 举报

全局:
我现在在做的也是这个方向,ctr 场景模型训练完后的优化与 serving,在 tensorflow 的基础上会有一些额外的开发,手写 custom op 和 custom optimizer,另外就是 ai 编译器的使用与集成,也会涉及到自定义 op 的支持、自定义 pass 的开发。感觉开发和 mlops 五五开吧。做的事情本身比较感兴趣,业务也有很好的落地场景,感觉还行,除了日常累了点。
回复

使用道具 举报

全局:
蹲一下大佬怎么看 我们组也是挂着mle的名字做着mlops 作为ng很迷茫visibility
回复

使用道具 举报

🔗
zicfy 2023-1-31 13:25:12 | 只看该作者
全局:
跟你规模有关啰。规模小用啥都可以,Sagemaker感觉一般般,小团队用用比较合适。你用户多一点,需要auth,monitoring,exp tracking,还有cost tacking/optimization,当然还是可以包装一层来做,但是他的价值就逐渐被弱化了,还不如自己写service来启ec2或者k8s
回复

使用道具 举报

地里匿名用户
🔗
匿名用户-PDX9J  | 添加认证 | 2023-1-31 13:36:37
这两年各种“融合”各家云API的wrapper公司如雨后春笋一般涌现,给了用户极大的方便。

跟过去多云用户需要被迫学习三家头部云供应商的API的痛苦经历相比,用户现在只需要在两三百家wrapper公司里选一个,用半年等该公司倒闭后再换一套wrapper即可。

评分

参与人数 2大米 +2 收起 理由
mppt + 1 太搞笑了哈哈
月亮池塘 + 1 楼主/层主请继续!

查看全部评分

回复

使用道具 举报

地里匿名用户
🔗
匿名用户-087DD  | 添加认证 | 2023-1-31 13:38:33
如果做infra还是得去自己造轮子的公司,或者次一点在开源项目上造轮子写abstraction layer的公司。infra都用aws managed service那一套,那一般只是写写cicd terraform,确实没有什么能学的。

补充内容 (2023-01-31 13:43 +8:00):. 1point 3acres
aws managed service规模小初期还行,但是一旦流量上去之后其实是比自己搭贵很多很多的(除非是aws内部自己用)。个人觉得大流量高并发的infra才会遇到各种问题,才更有挑战。
回复

使用道具 举报

地里匿名用户
🔗
匿名用户-NTVK2  | 添加认证 | 2023-1-31 14:20:02
Sagemaker Canvas , 官宣code free,以后下游真的可以不用学了也说不定
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 注册账号
职场达人
  • ↑ 本版用于讨论职场各种干货话题,闲聊请去🔗聊聊或者🔗匿名版
  • ❌ 本版严禁水贴,引战,发布广告,拉群,贴个人联系方式,扣分无警告
  • ☑ 求职、面经等去 🔗北美求职和 🔗回国求职大区,刷题和学习请去 🔗终身学习大区
  • ☑ 请去专版发布 🔗内推, 🔗招聘信息,和讨论 🔗创业内容
  • ☑ PIP / DevList/ Need Support 等话题也已开设 🔗专版

本版积分规则

>
快速回复 返回顶部 返回列表