这次 gpt 的 hype 还不如alpha go

这个chatgpt和gpt4把我身边的CS PhD们搞的瑟瑟发抖。我自己也是CS PhD，我的态度是打不过就加入他，我已经买了chatgpt plus的会员了

gongsidegou 发表于 2023-3-18 14:11
说得好，我还是天天在用grammerly

Nit: grammarly
好像知道你为什么天天用的原因了 :p

两岸猿声啼不住 轻舟已过万重山

匿名用户 发表于 2023-3-18 10:09
Alpha go就是在一个极度有限的空间内，玩了了规则极度简单明确的游戏而已，并
既没有解决任何生产生活的实 ...

第一，围棋问题其实相当复杂了，比很多语言任务还有复杂，最近有人利用围棋ai缺点把ai下赢了，新闻在ft上。
第二，我不靠追这些hype 吃饭，别发表诛心之论。
第三，deepmind的强化学习style在科学上已经整出不少成果。
第四，gpt很有用，但绝对不像closeai宣传的那样是通往agi之路，lecun的部分批评是对的，closeai难看的是吃相，它自己的方法也受了谷歌各种研究以及ai community的启发，如今却搞封闭，这对整个ml/ai 的发展是没有好处的。
第五，大模型之上已经寄生了一堆垃圾论文，希望ilya sutskever 他们能搞出一个合理的方式来方便大家做研究，而不是神秘主义，lecun的fair至少开放了自己的语言模型。

补充内容 (2023-03-19 22:48 +8:00):
原post里没有提的，还有一点就是sam altman把自己的技术吹像核武器一样，这会给tech带来相当高的政策风险：
https://twitter.com/npparikh/sta ... HwWhoC2qeH0g7ctAAAA


这对在tech工作的各位，尤其是华人，到底有啥好处。。。。

chatgpt查询netty问题给了我错误的答案…
而且特别没有backbone… 一质疑就换一个答案…

我觉得您批判的角度有点刁钻古怪, 论文透不透明和产品是不是hype是两个问题, 我从来没见过有人用alpha go做任何事情, 但是chat-gpt真的实实在在给人的工作生活学习带来超乎预期的便利.

我从您的字里行间推断在您的期许中, 只有发明像alpha go那样更先进的决策型的人工智能才算在通往强人工智能的“正确道路”上前进, 而靠数据训练出来的大模型和能够自主决策自主学习的理想型AI是两个截然不同的东西. 当然这个应该属于个人信仰的范畴了我也不好多说什么, 但是你有时不觉得人类的智能也只是一切外来的知识, 外来的思想体系和自身经验的混合和变体吗?

另外, 单拎出来您这句话, 因为我觉得逻辑很有趣:

“至于什么第四次工业革命，别想了，现在一堆制造业企业信息化都很落后，安装个原理不明的chatbot，到底有啥用”

我几乎可以看见你的脑回路: 第四次工业革命 -> 工业革命 -> 工业 -> 工厂 -> 制造业

archiezhao1992 发表于 2023-3-18 19:58
我觉得您批判的角度有点刁钻古怪, 论文透不透明和产品是不是hype是两个问题, 我从来没见过有人用alpha go做 ...

如果你把hype的意思当作deception 那我错了，它是有用，我这里hype的意思是过度promotion，openai ceo认为这次技术可以改变整个世界生产力，我存疑。但这次hype至少对ml community 而言带来的问题挺大的，因为它太不透明了。但对您而言有用那它就有用。


还有，alphago 比这次好的地方，在于，第一个，它开源，第二个，谷歌确实提供了好的思路。这次openai大量借鉴了别人的思路，但不是唯一原创者，现在还搞封闭。还有我不认为 rl 和llm是通往agi的道路。。。

我个人是觉得语言模型有用 到 语言模型提高制造业生产效率，逻辑是隔的很远的。它对白领行业更有用，按照altman说法，未来程序员工资会下降。。。但我认为制造业/农业/能源/最重要，真要工业革命，这三个至少有一个要革命，当然这可能只是我的偏见。

同意楼主. 我的观点是工业革命都是建立在自然科学的突破上例如物理. 不论alphago和chapgpt, 人都需要建立一个空间然后通过大量数据让AI去学习并且优化, 但是前提是这个空间是已知的并且人可以定义出来. 但是自然科学的空间人是无法定义的. 扯个题外话 三体里的智子到地球之后做的不也是要阻碍人类在物理上的发展:P

chooselife 发表于 2023-03-18 10:48:49
我也明白一点了。关键分歧还是在对性能的理解和判断上。

至于说效果其实有两个方面。学术圈子真的很窄，多少也有点井底之蛙。academia 紧盯着论文开源模型metric 确实无可厚非。如果只是al

对我来说，会让我怀疑这个公司的吃相。
如果觉得学术界不行(确实不行，什么垃圾)，就不应该发GPT4这篇毫无学术道德的论文。一边靠发论文给自己的东西贴金，让无知群众以为这很严谨，一边看不起学术界，Elon都不至于这么别扭。
至于吃相有多重要，吃相不好的东西终成下一个百度。

我很喜欢研究这次LLM到底如何做到了对答如流，但这和我从那篇论文开始讨厌openai 是两回事。

这三点问题都不大。版权问题法律会变化的，早起Google也碰到过版权问题，避风港原则是后来才补上的。稳定性问题看和谁比，做到比普通985毕业生稳定就足以引发革命了。不透明也不是问题，谁能说清楚Google和tiktok是怎么排序的？
如果gpt最后没能引发革命的话，原因肯定不是你列的这三点。