目前genAI的发展情况

距离openAI大火也快两年了。非常好奇目前genAI的发展情况如何，大家来讨论一下？

1 公司层面，LLM本身，好像趋势就是megacap公司网罗明星startup，比如微软收购Inflection AI，或者Amazon资助Anthropic，然后Meta自己搞开源。所以LLM model本身肯定被几个大厂控制。估计很快LLM的格局就要确定（好比当年安卓 iphone或者三大云）？
我记得一年多前地里讨论微软 vs 谷歌，好像谷歌暂时落后，不知道如今这两家较量如何？另外苹果好像也有自己的LLM？

2 公司层面的第二个问题，就是genAI应用落地的如何了呢？比如谷歌的search升级，微软copilpt，以及什么multimodal support，各种fancy的RAG，不知道如今都进展如何？

3 我们从业人员的技能树和职业发展。根据我看到的，大部分人还就是做RAG，就是升级版的搜索系统而已，好像门槛不高？

有从业的小伙伴聊聊近况，分享一下？

我的感觉是 genai 的项目立项时都是信心满满，觉得可以取代一个年薪百万的白领，创造一个价值万亿的市场，真正落地时只能替代一个月薪 2000 的外包，成本却要每月5000

匿名用户 发表于 2024-09-02 19:34:49
其实我觉得吧，不管是genAI还是传统的CSEE，只要数学好，其实都是万变不离其宗的，世间一切的技术，基础都是数学。 所以只要把数学学通透了，走到世界哪里都是个

我虽然不是学数学的，但我觉得你在鬼扯。

GEN AI目前没有看到任何商业模式，靠贩卖一个高级grammarly的subscription或者office的插件是赚不到什么钱的。

其实我觉得吧，不管是genAI还是传统的CSEE，只要数学好，其实都是万变不离其宗的，世间一切的技术，基础都是数学。 所以只要把数学学通透了，走到世界哪里都是个人才的。

epcilon 发表于 2024-09-02 19:29:14
我的感觉是 genai 的项目立项时都是信心满满，觉得可以取代一个年薪百万的白领，创造一个价值万亿的市场，真正落地时只能替代一个月薪 2000 的外包，成本却要

为什么成本要5000，inference应该不吃算力啊

怎么说呢，现在LLM确实可以替代很多活，但有个社会问题，就是LLM出错谁背锅。在没有解决这个问题之前，LLM很难大规模应用。

匿名用户 发表于 2024-09-02 19:36:09
为什么成本要5000，inference应该不吃算力啊

只是随便举的例子，但是 inference 也不是特别便宜，特别是如果你要多条 prompt 才能生成一个结果，而你的输入又巨长的时候，这个真不如去非洲南美找外包划算

我觉得AI要落地必须超越语言层面。比如能够把饭做了，把娃带好，家务搞一搞。

匿名用户 发表于 2024-9-2 19:36
为什么成本要5000，inference应该不吃算力啊

貌似市场估算的结果，OpenAi的收入最多能勉强打平inference的支出（好像都不够），其他支出都是净亏

匿名用户 发表于 2024-9-2 19:36
为什么成本要5000，inference应该不吃算力啊

但是为了让模型实时可用，并且相应很快，你要一直保持模型占着一些，甚至很多GPU