GPT这波热度让我怀疑…

一年了 谁能告诉我chatgpt有个毛线的新产品？

匿名用户 发表于 2024-2-19 19:38
一年了 谁能告诉我chatgpt有个毛线的新产品？

赚麻了都 要啥新产品

匿名用户 发表于 2023-3-18 14:35
贴一个我在隔壁帖子分享为啥取代不了程序员的解释：https://www.1point3acres.com/bbs/forum.php?mod=viewt ...

哥们儿，虽然很希望你说的是对的，但你还是稍微学习一下再来回答吧。虽然llm是token生成器，但不等于它学不会知识本身，只不过不是以知识图谱形式学会的而已。就这两天就有新的重磅论文论证llm真的能学会知识（A Theory for Emergence of Complex Skills in Language Models
Sanjeev Arora, Anirudh Goyal）去查查吧。

ps 没注意到这是一年前的帖子了。一年过去了，你改变想法了吗？

匿名用户 发表于 2024-2-19 22:27
哥们儿，虽然很希望你说的是对的，但你还是稍微学习一下再来回答吧。虽然llm是token生成器，但不等于它学 ...

我觉得朋友你是最基础的深度学习和机器学习知识没有学透彻，导致别人把模型做得大一点，你就会被这些所谓学者专家带偏觉得大模型真的能“学会”知识， 我这里讲的不是深度学习机制、模型架构和参数之类的，说的是机器学习最本质的东西“概率模型”， 学习知识全靠样本反馈找概率上的最优解。

但是人脑学编程、学规则、学算术，跟概率不是一回事，关键是要学会一套规则，就是要轻松赋予一个样本100%的概率，例如你让chatgpt生成一段代码，先不说代码能不能运行，但是人类的逻辑来说，不应该会有任何编程规则的错误吧，例如python, 如果是人为设计的话，不可能会有一些不属于Python的函数名和空格/tab混用的代码方案给出来， 还有简单的算术，算上几百万次都肯定要是对的，而不是经过别人feedback reward一下，能偶尔出错， 另外这也是为什么无人驾驶一直出不来的原因，还是因为这些所谓的AI模型，深度学习，或者机器学习最本质的学习方式去学rule based 的东西超级费劲， 喂了千万上亿的样本也学不到100% 的hard rule, 人类可以在只见过一次样本量唯一的情况下轻松学到规则然后重复千万次也不会错了（是指逻辑认知上不会再错了不是粗心犯错）。

所以人类和AI的学习方式本质上就完全不一样，导致现在AI是“像”人类，而不是真正的智能，所以尽管现在AI看起来更厉害，但实质上还是靠数据多以假乱真装“智能”， Sora 算是最新的模型了吧，官方放出的视频也是说好的五只狗在玩耍，官方视频上一样出错五只变四只， 还有篮球穿过篮筐网子晃动不对等等，证明官方也知道局限性不想太离谱宣传，你说真能提高人类工作效率，那有可能，但是吧你要是真用来按硬性规则生成视频，例如领导告诉你：我就要五只狗互相玩耍的视频10分钟， Sora可能给你调半天你都调不出一个每一帧无bug视频，要不少了个狗腿要不少了个狗头，还不如真找五只狗来拍快，这样的例子不知道你有没有想法，想想为什么AI连多少只狗， 多少个头多少条腿多少条尾巴都数不清呢？ （自问自答： 因为模型是在逐个像素学习在“狗“这个关键词下 其他什么像素最有可能跟这个像素连在一起 - 而不是真学会了狗这个生物概念，例如狗一定有四条腿这种hard rule多少年多少样本量也没学会）。

在你工作生活中 你会用chatgpt吗 或者相关的软件？
感觉很多人都离不开这个工具啦

匿名用户 发表于 2024-2-19 20:26
我觉得朋友你是最基础的深度学习和机器学习知识没有学透彻，导致别人把模型做得大一点，你就会被这些所谓 ...

》“我觉得朋友你是最基础的深度学习和机器学习知识没有学透彻，导致别人把模型做得大一点，你就会被这些所谓学者专家带偏觉得大模型真的能“学会”知识”

朋友你不要假设别人都是傻子…来这个论坛的没有谁不知道AI的本质是概率模型，不要急着去假设别人是小学生然后教育别人。从来没有任何人argue过AI和人脑机制可以实现“完全一致”，这本来就不是DL的发展方向和目的。这里的topic是复杂系统的复杂技能涌现，如果样本里没有ABCD...这样的一些条件组合，机器学习可以做到把这些条件联系起来并作出正确的推论吗？如果可以，我们就可以认为它学会知识了，因为它能做掌握这个知识的人能做的事，对资本家来说这样就够了。如果只是把模型做大就能达到这个目的，那对资本家来说不要太值。不要忘记传统强AI的判断标准：图灵测试，现在在很多领域已经被突破了。至于AI的实力，你得发展地看问题。Sora还很年轻，而AI已经可以形成相当像那么回事的data analytics report。它不能替代所有人，但可以替代很多人。以前3个人干的事现在1个人就能干，那另外两个人就会失业。更何况互联网行业本来就很水，即使没有AI，Google裁掉50%的人也不会影响正常运转（说不定还运转更好了，因为没有面向promo开发的需求了）。

再说哪来的“所谓专家学者”，人家就是专家学者……

再附上一篇有点年头的复杂系统涌现介绍文章 https://swarma.org/?p=41221 一起学习吧，别到时候被裁了都不知道为啥……

匿名用户 发表于 2024-03-02 12:23:31
》“我觉得朋友你是最基础的深度学习和机器学习知识没有学透彻，导致别人把模型做得大一点，你就会被这些所谓学者专家带偏觉得大模型真的能“学会”知识”

朋友你不

你的论据前面已经讨论过了 不想再重复

生产线代替拧螺丝的可以， 生产线有智能吗？ 收费站etc替代了收费员， etc有智能吗？

我说的关键是能不能替代程序员高智能的工作， 不是说是不是提高一些生产力的问题。