这次 gpt 的 hype 还不如alpha go

匿名用户 发表于 2023-3-18 12:30
分享是情分，不分享是本分。这次gpt4太强大了，不是以前的过家家模型了，没理由开源。

利用别人数据和技术，就行是吧，强盗逻辑。ilya都故意回避了关于数据的问题。。。。。。"Sutskever did not reply when asked if OpenAI could state definitively that its training data does not include pirated material."

匿名用户 发表于 2023-3-18 08:32
利用别人数据和技术，就行是吧，强盗逻辑。ilya都故意回避了关于数据的问题。。。。。。"Sutskever did n ...

哪里强盗了，之前LLM不都是用海量的数据吗？那么多公司没开源的模型也没告诉你用啥数据啊，法律禁止了吗？training set是什么非常影响模型的质量和输出，难道要openai告诉你用了什么数据给你抄吗？
你要说没披露数据影响了你不齿的ai safety还行，跟强盗有什么关系？好笑。

匿名用户 发表于 2023-3-18 06:09
Alpha go就是在一个极度有限的空间内，玩了了规则极度简单明确的游戏而已，并
既没有解决任何生产生活的实 ...

开源就可以重造CNN时代的AI四小龙了。

匿名用户 发表于 2023-03-18 09:30:10
分享是情分，不分享是本分。这次gpt4太强大了，不是以前的过家家模型了，没理由开源。

从商业角度考虑确实没任何理由开源或者给竞争对手提供帮助，只是对nlp community不利，本身学界资源就有限，更不可能去复现。并且gpt是基于transformer的，但是狗已经把transformer申请了专利，如果只从商业角度考虑，狗也可以选择每次使用model的时候都交专利费吗？

如果从功能强大来讲，stable diffusion也可以说自己太强大，然后选择不开源，但是他们没有选择那么做。我觉着openai更多是从商业利益出发，safety都是幌子。

现在大部分公司的paper都模糊数据来源了啊， 主要怕版权原因日后惹官司。 去年 neurips best paper 还有data leakage ， submission 后改数据都可以。
alphago 说白了就是秀肌肉， 一个玩具， 所以发出paper来赚流量。
gpt4 不公布 就是怕竞争， 现在已经到iphone4的时代了， 谁都怕对手成为新时代的apple

flyman3046 发表于 2023-3-18 08:52
从商业角度考虑确实没任何理由开源或者给竞争对手提供帮助，只是对nlp community不利，本身学界资源就有限 ...

老实说stable diffusion的效果并没有chatgpt这么炸。
从community的角度看，LLM只能在公司里搞确实是对一个对学界巨大的冲击，但学界搞不起来不仅仅是因为开不开源，本身去构建一个大系统的cost学界就不可能承担，这里可以看看openai的rowan小哥的思考。https://rowanzellers.com/blog/rowan-job-search2/
商业竞争就更没理由，要去复现cnn时代的ai四小龙？

补充内容 (2023-03-19 01:04 +8:00):
transformer的专利问题不用担心，软件专利争夺一直是个难题。。

flyman3046 发表于 2023-3-18 12:52
从商业角度考虑确实没任何理由开源或者给竞争对手提供帮助，只是对nlp community不利，本身学界资源就有限 ...

是的，打破了之前的大家不明说的一些东西。

匿名用户 发表于 2023-3-18 12:42
哪里强盗了，之前LLM不都是用海量的数据吗？那么多公司没开源的模型也没告诉你用啥数据啊，法律禁止了吗 ...

是我说错，sorry，业界是有很多人这么做，但是openai上来就一副好多人工作要丢的样子，可以看sam altman在推特上发表的各种奇怪言论。他用别人的数据然后告诉别人这带来的社会影响是之前不能比的。i mean openai像强盗。谷歌至少构建了一个生态。

匿名用户 发表于 2023-3-18 13:00
老实说stable diffusion的效果并没有chatgpt这么炸。
从community的角度看，LLM只能在公司里搞确实是对 ...

这里涉及到很多问题，学界有的地方是相当落后，但是至少要给学界的人一个检验渠道，又不是非要自己造出来。当然现在已经有很多人做这个事情，再看看吧。

chooselife 发表于 2023-03-18 09:23:26
对不起没太看懂。data leakage是指什么？

我目前的理解这纯粹是商业行为，为社么非揪着让人开源开模型？他自以为是，井底之蛙，你搞一个出来把他灭了不就完了？？

唔，我的意思也是这不过是一个公司的商业吹嘘，普通人还是要有自己的判断。
我个人认为openai 和微软之前的产品差不多，能让微软赚不少钱但是离改善业界生态差远了，因为微软就不是一个太考虑生态的公司，他只考虑怎么让自己的客户花钱。

至于Data leakage 做过ML的人应该都知道吧…………… 这次是大家怀疑他们测试集和训练集不独立，也就是数据被污染了，所以取得了他们宣称的效果。